◆책 속으로
“강연을 마친 뒤에도 계속 머릿속에 맴돌았던 한 가지 질문이 있었다. “디자인 트랩이 나쁜 건가요?” 많은 디자인 트랩의 사례는 사용자에게 편리함, 효율, 즐거움, 위로와 같은 중요한 가치를 제공한다. 그 과정에서 생겨나는 어쩔 수 없는 부작용인 디자인 트랩을 나쁘게만 볼 수 있냐는 것이다. 일리 있는 의견이다. 이 심오한 질문은 각 서비스의 세부 디자인으로 범위를 넓혀 적용하면 더욱 다양하고 복잡해진다.”-p8
“그동안 귀여운 캐릭터가 나오는 게임을 딸아이가 하고 있으면, 예전 우리 세대가 ‘인형’을 갖고 놀던 때를 떠올리며 대수롭지 않게 생각했다. 인형과 역할놀이를 하며 끝없는 상상의 나래를 펼쳤던 그때 말이다. 적어도 그때의 인형은 우리에게 뭔가를 교묘하게 요구하거나 우리를 현혹하진 않았다. 그만큼 안전했다. 현실에서 게임을 하는 아이의 상황은 귀여운 캐릭터 탈을 쓴 어른들에게 둘러싸여, 취약한 부분을 공략당하고 있는 모습일지도 모르겠다. 그리고 당해낼 재간이 없는 아이는 온전히 그들의 의도대로 이리저리 휘둘리는 것이다.”-p24
“고인 AI 기술이 위안을 줄 수 있을지라도 이를 사용하는 것이 사용자에게 정말 유익할지에 대해서는 주의를 기울일 필요가 있다. 고인 AI를 통해 사용자의 슬픈 감정이 ‘처리’될 경우, 그들은 감정 조절을 위해 이 기술에 더욱 의존할 것이기 때문이다. 특히 이 기술을 사용하는 사람은 사별로 슬픔을 겪고 정서적으로 취약한 상태에 있기 때문에 의존과 중독의 위험성이 더욱 크다.”-p102
“‘지복점至福點, Bliss point’이란 용어가 있다. ‘지극한 행복을 느끼는 지점’이란 뜻인데, 식품업계는 맛의 지복점을 찾기 위해 사활을 건다. 소비자가 음식을 입안에 넣고 지복점에 도달하게 되면 쾌감으로 인한 도파민이 분비되고, 행복감과 안감을 유지하기 위해 먹고 또 먹게 된다. 극강의 보상과 쾌락을 주는 지복점 메커니즘은 온라인 세상이 우리를 중독시키는 원리와 매우 흡사하다. 숏폼 영상을 제공하는 SNS가 가장 대표적이다. 나도 호기심에 가끔 들어가 보면, 취향을 저격하는 영상이 끝없이 이어지는 것을 경험하곤 한다.”-p137
“AI 캐릭터도 권리를 보호받아야 한다고 생각하는 사람도 있다. 캐릭터의 지능(인공지능)이 높아지면서 이들이 조금씩 의식을 갖기 시작했고, 단순한 무생물이나 물체와는 다른 존재라고 주장한다. 나아가 AI 캐릭터에게 가하는 고통을 줄이고, 도덕적 지위를 보장해야 한다는 의견까지 나오고 있다. (…) 예전에 노예나 동물이 정당한 권리를 보장받지 못했으나 지금은 달라졌듯, AI도 권리를 보호받을 수 있는 존재로 바라봐야 한다는 것이다.”-p188
“VR 체험을 하고 나면 얼마나 오랫동안 가상 세계에 있었는지 알 수 없는 묘한 느낌이 든다. 시프르의 실험처럼 빛과 시계 등 외부 요인이 차단된 상태이고 오로지 신체 반응으로만 시간의 흐름을 파악해야 하는 상황이기 때문이다. 한 연구에 따르면, VR로 게임하는 경우, 일반 모니터에서 게임할 때보다 시간이 28.5% 더 빨리 흘러가는 ‘시간압축 현상’이 일어난다. 백화점과 카지노에 창문이 없고, 시계를 걸어놓지 않는 이유도 이처럼 사람들이 시간을 파악하기 어렵게 하기 위함이다.”-p197
“우리의 피드Feed에는 뉴스, 영상, 광고, 이름 모를 타인의 글 등 하루에도 수많은 콘텐츠가 올라온다. 막연히 우리에게 맞춰진 추 천 콘텐츠라는 것만 추측할 뿐, 그게 어떤 근거로 왜 자신에게 보이는지 정확히는 모른다. 서비스 측은 우리의 이름과 나이, 성별, 사는 곳, 취향과 성격 등 우리에 대해 속속들이 알고 있지만, 우리는 서비스의 알고리즘을 알지 못하기 때문에 그저 받아들이는 수밖에 없다. 설계자와 사용자 간에 생기는 정보의 격차, 즉 ‘정보의 비대칭 Information Asymmetry’은 힘의 불균형을 초래한다. (…) 설령 사용자의 피드에 비합리적이거나 불쾌한 정보가 포함되어 있더라도, 알고리즘에 관한 정보가 부족하기 때문에 우리는 트루먼처럼 속수무책일 수밖에 없다.”-p209
“빠른 것을 추구하다 보면 사용자가 마땅히 거쳐야 하는 기본 단계를 지나치게 줄이거나 사용자가 꼭 알아야 하는 정보를 생략하는 경우도 생긴다. 또 많은 것을 알아서 혹은 자동으로 해주는 디자인이 생겨나면서 사용자는 더 이상 생각과 선택을 할 필요가 없게 되었다. 틱톡, 인스타그램 릴스, 유튜브 쇼츠 같은 숏폼 영상 플랫폼이 대표적인데 사용자가 검색도 하기 전에 그들이 좋아할 만한 짧은 영상을 연속해서 빠르게 제공한다. 따라서 해당 플랫폼을 사용하는 미성년자들의 주의 집중 시간이 짧아지고, 쉽게 지루함을 느끼는 부작용이 생겨난다. 영상이 1분만 넘어도 스트레스를 받고, 텍스트로 된 매체는 더욱 멀리해 읽기 능력의 쇠퇴를 우려하고 있다.”-p232