●목차

[서문] AI 자율로 이어지는 기술의 진화

PART 1. AI 시대의 인간 증명

① 당신이 인간임을 증명하라

누가 인간이고 누가 AI일까?

인간보다 더 인간 같은 AI의 등장

증명하지 못하면 배제된다

② 당신의 인격을 증명하라

얼굴이 곧 신분증이 된 사회

AI는 왜 인간에게 인격을 증명하라고 요구할까?

몸을 통한 인격 자격증명, 정말 괜찮을까?

③ 이 콘텐츠는 누가 만들었나?

AI가 생성한 문장을 구분할 수 있을까?

AI가 ‘인간다운 글’을 인증한다니

AI가 만들었다는 꼬리표를 붙이다

AI를 구별하는 꼬리표, 콘텐츠 자격증명

AI의 역할을 명확하게 밝히자

PART 2. AI는 인간을 얼마나 신뢰할까?

① AI는 당신의 의도를 판단한다

인간은 먼저 AI에 자신의 의도를 말한다

AI가 인간에게 질문한다

AI는 맥락으로 의도를 파악한다

② 신용점수에 당신의 현재 상태가 담겨 있다

내 신용점수는 어떻게 만들어졌을까?

기업과 국가도 신용을 평가받는다

신용점수로 설계된 사회

신용점수는 미래를 예측하기에는 부족하다

오늘의 평판보다 내일의 신뢰가 손해를 줄인다

③ 신뢰지수가 미래 상태를 판단한다

인간은 AI를 신뢰할까?

신뢰 가능한 AI를 만들기 위한 검증

AI는 인간을 신뢰할까?

신뢰를 수치화하다

신뢰가 경제적 자원이 될 때

PART 3. AI는 인간을 어떻게 통제할까?

① AI가 당신의 행동을 추론한다

AI가 인간을 해석하는 법

AI는 당신이 할 일을 알고 있다

② AI는 당신을 개인화로 통제한다

AI는 모든 인간을 개인화한다

개인화는 나만을 위한 특별 대우일까?

개인화는 개인 행동의 허용 범위다

인간은 개인화에 중독된다

PART 4. AI 자율이 경제를 바꾼다

① 시장은 어떻게 변할까?

AI가 만드는 지가연융 사업

지능: AI는 끊임없이 학습한다

가상: 산업의 중심은 가상 세계로 이동한다

연결: 네트워크를 의도적으로 분리한다

융합: AI와 다양한 기술이 융합한다

② AI 자율경제 시대의 상품 개발 전략

기술 주도 1: 기존 상품에 AI를 더하라

기술 주도 2: AI로 신원을 증명하라

기술 주도 3: 스마트화에서 AI 자율로

기술 주도 4: AI 기술의 강점을 부각하라

기술 주도 5: AI를 활용해 신뢰지수를 계산하라

시장 주도 1: 고객에게 물어보고 협력하라

시장 주도 2: 불만에서 가치를 찾아라

시장 주도 3: 고객을 개인화하라

시장 주도 4: 도시를 대상으로 삼아라

시장 주도 5: 이중 용도를 고려하라

PART 5. AI 자율, 무엇이 위험한가?

① AI의 윤리는 인간의 윤리와 다르다

AI의 판단은 윤리적일까?

자살 부추기는 AI의 등장

AI는 망각을 배울 수 있을까

설명할 수 있는 AI가 필요하다

② AI 십계명: AI도 인간에게 윤리를 요구한다

AI에게 규율 밖 인간은 존재하지 않는다

AI 십계명

PART 6. AI는 과연 인간을 이롭게 하는가?

① AI는 인간을 자유롭게 할 수 있을까?

정신의 자유: 나 대신 생각해주는 AI

신체의 자유: AI가 새로운 몸의 일부가 된다

노동의 자유: AI는 일할 자유를 빼앗는가

② AI와의 공존이 일상이 된다

인간은 AI를 인간처럼 대한다

AI가 생명을 구한다

AI는 상식이 되고 투명해진다

③ AI는 파괴의 도구가 될 수 있다

AI의 파괴적 두 얼굴

AI 사령관이 인간 병사를 지휘한다

이중 용도의 선두 주자는 AI 자율 드론

[발문] AI 자율경제의 확장은 계속된다

●책 속으로

“당신은 인간인가?” 당신이 온라인에 접속하면 AI가 가장 먼저 던지는 질문이다. 온라인에서 인간과 AI를 구분하기 어렵기 때문에 AI가 가장 궁금해하는 것도 이 질문이다. 인간은 생물학적 종인 호모사피엔스를 지칭한다. 모든 인간은 출생과 함께 이 분류에 속한다. 식물인간처럼 의식이 없어도 생물학적으로 인간이다. AI가 당신에게 인간인지 증명하라고 요구한다면 이는 당신이 생물학적으로 인간인지 알고 싶다는 뜻이다.

- p.27 ‘당신이 인간임을 증명하라’ 중에서

AI가 인간에게 인격을 증명하라고 요구하는 이유는 책임 때문이다. 인간은 온라인에서 다양한 활동을 하는데, 자신이 주체적으로 하는 활동에는 책임이 따른다. 단순히 인간이라는 사실이나 신원을 증명한다고 해서 권리와 의무를 자각하고 책임지는 주체인지는 알 수 없다. AI는 책임지지 않는다. 법적이나 윤리적으로 아무런 책임을 지지 않는 AI에 인격을 부여할 수는 없다. 반대로, AI에 인격을 부여하려는 움직임도 있다.

- p.38 ‘당신의 인격을 증명하라’ 중에서

AI는 개인화라는 명분으로 당신이 좋아할 만한 내용을 보여준다. 당신은 편하다는 이유로 개인화를 받아들인다. AI는 개인화를 통해 당신을 특정한 방향으로 유도하고 당신은 AI가 유도하는 대로 끌려간다. 미국 작가인 엘리 프레이저는 이런 현상에 필터 버블이라는 이름을 붙였다. 당신이 AI에 오늘 아침 뉴스를 브리핑하라고 요구하면 AI는특정한 사건이나 뉴스를 중심으로 반복해서 보여준다. 당신은 다양한 시각에서 조화롭게 생각하지 못하고 생각의 버블에 갇혀버린다.

- p.124 ‘AI는 당신을 개인화로 통제한다’ 중에서

기존 상품에 AI를 적용해서 기능을 확장하는 방식은 기업이 가장 먼저 생각하는 방식이다. 기존 상품에 AI를 도입하면 새로운 가치를 창조할 수 있다. 상품에는 인간도 포함된다. 예를 들어 서비스 산업은 지금까지 인간이 주체였다. 인간은 경험과 실전을 통해 얻은 암묵지를 바탕으로 고객을 대한다. 인간이 어떻게 응대하는가에 따라 서비스 품질은 크게 변한다. 서비스 산업은 제조업에 비해 생산성이 낮다. 사원이 가진 경험과 지식은 균일하지 않고 성과도 균일하지 않아 표준화하기도 어렵다. 표준화하지 못하면 생산성을 향상하기 어렵다. 결국 개인의 역량에 의존할 뿐이다.

- p.124 ‘AI 자율경제 시대의 상품 개발 전략’ 중에서

AI는 모든 인간을 개인화한다. 개인화는 각 개인의 특징을 반영해서 맞춤형으로 답을 생성한다. 개인화의 핵심은 다른 사람과 다르게 차별화한다는 점에 있다. 예를 들어 당신이 자주 가는 식당에서는 당신에게만 국물을 더 많이 준다. 당신이 국물을 좋아한다는 사실을 AI가 학습해서 알고 있기 때문에 가능하다. 물론 가격은 다른 고객과 똑같다. 당신 옆자리에 있는 고객 테이블에는 콩자반이 더 많이 있을지도 모른다. 식당에 들어온 모든 고객은 각자 자신이 좋아하는 반찬을 더 많이 받고 싫어하는 반찬은 처음부터 받지도 않는다. 이처럼 기존 상품에 당신이 선호하는 가치를 플러스하면 당신은 대접을 잘 받았다고 생각하게 된다.

- p.180 ‘AI 자율경제 시대의 상품 개발 전략’ 중에서