안녕하세요. 강사섭외전문기업 호오컨설팅입니다.

오늘의 포스팅은 홍익대학교 디자인학부 윤재영 교수님 강연 'AI가 사람의 모습을 한 이유' 트렌드 강의 특강 영상입니다.

 



디자인하면 시각적인 형태, 컬러 이런 걸 생각하실 수 있는데요.

UX 디자인 관점에서 봤을 때 우리가 보고 경험하는 모든 것이 디자인입니다.

디자인에 부작용이 있으면 누군가에게 피해를 줄 수 있는데요.

이 경우에 원래 완벽한 디자인은 없다.

누군가의 잘못이라고 하기에는 애매해라면서 아무런 개선이 이루어지지 않는다면 그 피해는 계속될 수밖에 없습니다.

우리의 일상 속 디자인 딜레마에 대해 이야기해보려 합니다.

뉴욕에서 홀로 두 아이를 키우던 여성이 있었습니다.

자기 이상형에 부합하는 외모와 성격, 직업, 취향을 가진 이성을 만나 매일 밤 잠들 때까지 달콤한 대화를 나눴다고 합니다.

그렇게 2022년부터 친밀한 관계를 맺다가 결혼했다고 하는데요.

사진을 한번 볼까요?

 



이 남성은 바로 AI 챗봇이었습니다.

AI와의 사랑 이야기 몇 년 전까지만 해도 sf 영화에나 나올 법한 일이었는데요.

이미 전 세계에서 수백만 명의 사람이 AI와 인격적인 관계를 맺으며 살아가고 있다고 합니다.

이분들은 어쩌다 사람이 아닌 AI의 감정을 갖게 되었을까요?

it 기술과 SNS가 발전하면서 온라인 세상 속에서 사람들 사이의 소통이 쉬워지고 연결은 늘어났습니다.

하지만 아이러니하게도 사람들은 이전보다 더 외로움을 느낍니다.

통계적으로도 20대 청년의 절반 이상이 고독하다고 느끼고 있고, 30대 미혼자 비중 역시 가파르게 상승하고 있다고 합니다.

사람과 사람 사이의 관계에서는 외롭다고 아무 때나 다른 사람에게 연락하고

힘들다고 밤낮 하소연만 늘어놓으면 상대방은 지쳐서 금방 떠나버릴 수도 있죠.

 



하지만 AI는 다릅니다.

언제 어디서든 24시간 대기하면서 우리가 말 걸기를 기다려주고 우리의 이야기를 귀기울여 들어줍니다.

관련 연구에서도 사람에게 상담받는 것보다 AI를 더 선호하고 신뢰한다는 결과가 나오기도 했습니다.

챗봇 서비스 광고에서는 '챗봇이 항상 당신의 편이다, 그리고 항상 당신의 이야기를 들어주는 동반자다' 를 강조하고 있습니다.

사람들이 무생물인 AI에게 이렇게까지 몰입하고 살아있는 존재처럼 대하는 게 의아하게 들리는 분들도 계실 텐데요.

AI를 사람처럼 의인화해서 디자인한 영향이 크다고 볼 수 있습니다.

그런데 AI는 꼭 사람의 형태여야 할까요?

기업은 AI를 사람처럼 보이게 하려고 끊임없이 노력하고 있습니다.

왜냐하면 사람들은 자신과 비슷한 모습의 존재에 쉽게 마음을 열고 상호작용하고 더 신뢰하는 경향이 있기 때문입니다.

 



그럼 이렇게 만들어진 AI 챗봇이 우리 외로움에 정말 도움이 될 수 있는 것인지도 살펴볼 필요가 있습니다.

외로운 사람들이 챗봇과 소통하며 위안을 얻으니 당장은 만족스러울 수 있습니다.

그러나 따지고 보면 실상은 사용자는 그 누구와도 교류하고 있는 게 아닙니다.

그 실체는 취향에 맞게 디자인된 프로그램일 뿐이죠.

사용자는 대화 상대가 마음에 들지 않으면 쉽게 바꿀 수 있고요.

화를 내거나 억지를 부려도 챗봇은 떠나지 않고 사용자의 기분을 맞춰줍니다.

사용자를 기쁘게 하는 게 그들의 숙명이자 목적이기 때문이죠.

이런 관계가 지속되면 사용자는 챗봇과 보내는 시간이 늘어나고 실제 사람과 보내는 시간은 그만큼 줄어들게 될 것입니다.

그리고 AI 챗봇에 점점 더 의존하게 되겠죠.

외로움을 달래려고 시작했던 챗봇이 아이러니하게도 사용자를 더 고립되게 만드는 셈입니다.

 



최근 강조되고 있는 것도 바로 이 AI의 투명성에 관한 부분입니다.

IBM이 발표한 기업이 준수해야 하는 AI 시스템 규정을 살펴보면

사용자와 AI가 상호작용할 때 속이는 부분이 있으면 안 된다라고 명시했습니다.

그리고 우리나라의 과학기술정보통신부가 공개한 신뢰할 수 있는 AI 개발 안내서에서도 AI를 의인화하는 것은 혼란을 줄 수 있으므로

사용자에게 상호작용하는 대상을 명확히 알려야 한다는 점을 명시하고 있습니다.

사실 기업 입장에서 생각해보면 챗봇이 스스로 자기가 AI다 라고 밝히게끔 디자인하는 게 쉽지만은 않을 것입니다.

사용자가 챗봇하고 대화할 때 사람이라고 느껴야 몰입도 되고 서비스 이용률도 높아지고 이윤도 극대화되기 때문입니다.

하지만 사용자의 지나친 몰입 때문에 부작용이 계속 보고되고 있는 만큼 AI의 투명성이 간과되어서는 안 될 것입니다.

 



이번엔 좀 더 무거운 이야기를 해보려고 하는데요.

고인을 디지털 휴먼으로 재현해낸 고인 AI도 생각해 볼 부분이 있습니다.

원래 고인 AI는 비용과 시간이 많이 들어가는 기술이기 때문에 그동안 방송 프로그램에서나 간간히 접할 수 있던 기술이었습니다.

tv 다큐멘터리를 통해 어머니가 사망한 딸을 다시 만나는 모습을 볼 수 있었고요.

유명을 달리한 가수들이 디지털 휴먼으로 환생해서 무대에 서기도 했습니다.

이걸 보고 많은 사람이 이 기술에 큰 관심을 보였고요.

또 기술의 가격이 낮아지면서 일반인들도 고인 AI를 만날 수 있게 되었습니다.

 



유가족은 고인이 보고 싶고 궁금한 게 있을 때마다 언제 어디서든 대화를 나눌 수 있습니다.

이런 고인 AI에 대해 사람들은 상반된 시각을 보이는데요.

한쪽에서는 고인 AI를 유가족에게 위로를 줄 수 있는 의미 있는 존재라고 바라보고 있고요.

다른 한쪽에서는 AI를 실제 사람과 혼동하면 안 된다라고 우려하고 있습니다.

이는 오랜 논쟁거리였던 AI가 인간에게 어떤 존재여야 하는가에 대한 철학적 쟁점과 관련이 있습니다.

고인 AI를 인간과 대등한 위치에서 적극적으로 위로를 주는 존재로 디자인해야 하는 것인지

아니면 AI를 인간의 도구 즉 수동적 존재로 한정해서 디자인해야 하는지에 대한 고민을 하게 됩니다.

지금까지 AI는 약 인공지능 형태로 주로 도구의 역할을 수행해 왔습니다.

 



그러나 최근 나타나는 AI는 좀 달라요.

사람들에게 큰 신뢰를 얻고 있고, 인간의 보조적 역할을 하는 도구의 위치를 넘어서

점점 인간과 대등한 위치로 점점 인간과 대등한 수준으로 한 걸음씩 나아가고 있습니다.

또한 이 고인 AI 기술에 대해 근본적으로 생각해볼 부분은 고인 AI 기술이 유가족에게 당장 어느 정도 위안을 줄 수는 있을지 몰라도

이것을 지속적으로 사용하고 또 의존하도록 만드는 게 사용자에게 정말 유익한지에 대해서는 주의를 기울일 필요가 있습니다.

전문가들은 이런 고인 AI 기술이 분리불안 상실감을 유발하고 슬픔과 고통을 가중해 결국 지속적 애도 장애로 이어질 수 있다고 우려합니다.따라서 고인 AI 기술을 꼭 필요한 사람에게만 치료 목적으로 사용할 것을 제안하기도 하죠.

결국 고인 AI 기술은 서비스 측에서 어떤 의도로 이 기술을 디자인하느냐에 달려 있습니다.

누군가에게는 절실할지 모르는 고인 AI 기술이 바람직하게 사용될 수 있도록 남은 자들에 대한 디자인적 책임감이 수반되어야 할 것입니다.

 



AI 디자인은 언뜻 사소한 디자인처럼 보일 수 있지만, 이를 설계하는 디자이너의 사용자에 대한 깊은 이해와 존중이 요구됩니다.

우리에게 가장 익숙한 모습으로 AI 디자인을 처음 시작했을지라도

현재 제기되고 있는 부작용과 우려에 대해 디자이너들이 주목하고 사용자들이 착각하지 않도록 AI를 디자인해야 할 것입니다.

 



윤재영 교수님은 現홍익대학교 디자인학부 교수로 재직하시며,

동기부여, 창의, 광고, 마케팅, 콘텐츠 등 다양한 분야의 트렌드 강연 특강을 진행하고 계십니다.

 

강사섭외가 필요하시면?

호오컨설팅으로 문의주세요:)