안녕하세요. 강사 섭외 전문 플랫폼 호오컨설팅입니다.

오늘 소개해드릴 영상은 김상윤 교수 AI 특강으로 '빠르게 다가온 AI 법정 시대' 라는 주제의 강의 강연 영상입니다.

이번 영상에서는 AI 대체 가능성이 높은 직업이 판사, 변호사, 검사이며,

AI 법정 시대 준비의 현황과 한계에 대해서 알아볼 수 있는 유익한 인사이트를 얻을 수 있습니다.





올해 초 한국은행과 국제통화기금 IMF가 공동 집필한 AI와 한국 경제 보고서에는 흥미로운 지표들이 발표되었는데,

AI가 가장 빠르게 그것도 완전히 대체할 분야가 어떤 영역이냐는 거죠.

이 중 대표적인 영역이 오늘 말씀드릴 바로 판사 변호사와 같은 법조계 분야입니다.



◆ AI 판사 · 변호사 적용사례



중국의 베이징 대법원은 판사들이 모든 사건에 대해서 AI와 공식적으로 사전에 협의해야하는 스마트 법원 sos를 도입했습니다.

스마트 법원 sos가 재판 전에 판례를 분석하고, 기타 참고 자료를 검토하여 판사에게 판결 권고안을 제공하는 겁니다.

만약에 판사가 'AI 권고를 따르지 않고 나의 주관대로 하겠다' 라고 할 경우에는 서면으로 그 이유를 제출까지 해야 한다라고 하는데,

AI 덕에 2019년부터 2021년 사이 판사 업무량을 약 3분의 1 이상 줄었고, 근무 시간의 경우 무려 17억 시간을 절약했으며,

사회적으로는 450억 달러 우리 돈 약 65조 원의 법적 판단 비용을 절감했다라고 합니다.

이는 중국이 그 전년도에 지출한 모든 법률 비용과 맞먹는 금액이라고 합니다.



◆ 캐나다 법정에서의 AI 활용 사례



캐나다에서 개인 상담에 대한 미납 수수료에 대해서 3개월간 싸우던 두 사람에게 AI 중재자를 붙여줬습니다.

알고리즘을 기반으로 양측이 수용 가능한 합의에 도달하도록 단계적으로 좋은 제안을 해주고,

상호 합의를 이끌어내주는 AI인데, 단 1시간 만에 지난 3개월간의 분쟁을 끝내버렸다라고 합니다.

이러한 온라인 디지털 분쟁 해결 도구를 odr 온라인 분쟁 해결 시스템이라고 하는데,

미국 유타주와 코네티컷 주의 법원을 포함해서 많은 법원이 이러한 형태의 odr을 최근 사용하기 시작했습니다.



◆ 미국 시카고 대학의 AI 판사 관련 실험



인간 판사와 AI 판사가 각각 어떤 가치를 중점을 두고 판결을 내리는지를 실험을 통해서 분석하였는데,

AI 판사의 경우에는 감정에 전혀 휘둘리지 않고 가차 없는 선고를 내려버렸습니다.

우리 사회에서 동정이나 연민과 같은 요소도 분명히 중요한 요소인데 진정한 정의인지 철학적인 부분부터 한번 생각해 봐야 합니다.

지금까지의 사례들로만 보면 AI는 완전 무결하고 공정한 판사 역할을 잘해 낼 것으로 보이는데요.



◆ 미국 AI 판사, 변호사 사건 사고/ 과연 AI가 항상 공정하기만 할까요?



미국에서 널리 쓰이는 재범 위험 예측 즉 컴패스 AI는 백인에 비해 흑인 피고인을 더 위험하다라고 분류하는 오류를 범하기도 했고,

전체 정확도는 61%에 불과했으며, 특히 폭력 범죄의 경우에는 약 20%밖에 실제로 진실과 거짓을 판단하지 못했습니다.

최근 AI 분야의 한계로 지적되고 있는 AI의 편향성 이 법률적 판단에서 나타날 경우는 치명적인 문제를 만들 수 있다라는 거죠.



◆ AI 의 할루시네이션 현상



AI가 실제 존재하지도 않는 판례를 만들어서 인용하거나, 법 조항까지도 새로 만들어서 가짜로 판결하는 경우가 발생했습니다.

영국 고등법원은 지난 6월 AI 가짜 판례 인용 문제에 대해 자국 법조계 전체에 공식적인 주의령을 발표하기도 했습니다.

빅토리아 샤프 고등법원장은 AI가 사법행정과 사법제도에 대한 공적인 신뢰에 심각한 영향을 미칠 수 있고 강력 경고하기도 했는데요.

8900만 파운드의 손해배상 소송 건 카타르 국립은행 사건에서 원고 측이 제시한 45개 판례 인용 중에 18개가 가짜로 판명되었고,

결국 원고 측 변호인이 이것은 AI로 사용해서 작성한 것이다라고 이것을 인정하기도 했죠.

문제는 현재 전 세계적으로 AI를 활용하는 변호사와 판사의 비율이 크게 늘어나고 있다라는 겁니다.

미국의 법률 데이터 분석가 데미안 샬로탱은 AI의 할루시네이션으로 인해 법원이 제재를 최근 사례를 분석해서 결과를 발표했는데,

과거에는 변호사를 도와주는 법률 보조원이 해당 실수를 저지른 경우가 대부분이었다면,

최근 들어서는 변호사가 직접 AI를 써서 변호하다가 할루시네이션 문제를 극복하지 못하는 경우가 급격히 늘고 있다라고 합니다.



◆ AI 판사, 변호사의 한계 (1)



여기까지 보자면 아직까지 AI가 인간 판검사 혹은 변호사를 완벽히 대체하기에는 일부 한계가 있어 보입니다.

기본적으로는 기술적 한계가 가장 크죠.

최근 유행하는 생산형 AI는 법률 데이터베이스에서 정확한 답을 찾아주는 원리가 아닙니다.

학습한 패턴을 바탕으로 텍스트를 생성하죠. 즉 판례나 법령을 암기해서 상황에 맞게 정확한 답을 내어 놓는 것이 아니라

추론을 통해서 패턴의 정합성을 찾고 가장 확률 높은 단어를 조합해서 만들어주기 때문에,

법조문 번호나 판매 번호 등에서 오류가 가장 자주 발생하죠.

판례 명의 경우에도 그럴듯한 단어를 조합하여 가짜를 만들어 내주는 경우도 허다하다라고 합니다.

결국 기술적 극복을 위해서는 현재의 거대 언어 모델 방식과 기존의 검색 엔진 방식을 조합하는 형태가 나와야 하는 것은 물론이고,

이는 결국 법률 AI 분야가 독창적으로 차곡차곡 쌓아가야 할 분야로 볼 수가 있겠죠.



◆ AI 판사, 변호사의 한계 (2)



현재 AI들은 자기가 그런 판단을 하기까지 과정을 논리적으로 설명해 주지 않는다라는 겁니다.

우리가 설명 가능한 AI라고 하는 기술이 빠르게 발전해야 되는 이유이기도 하죠.

AI가 만들어낸 결과물을 다시 한 번 검증하기 위한 별도의 시스템을 설계하는 것도 하나의 현실적인 대안이 될 수 있습니다.

그러나 기술적 진보에 앞서 현 수준과 상황을 고려하였을 때 무엇보다 가장 필요한 것은 법조인들의 AI 활용 비판 역량이죠.

AI를 얼마나 잘 이해하고 잘 활용하고 그것이 만들어내 주는 결과물을 비판적으로 수용할 수 있느냐,

이것이 매우 중요해지는 시대입니다.





잘 보셨나요?

김상윤 교수님께서는 現 중앙대학교 컴퓨터공학과 연구교수로 재직하고 계시며,

4차산업, 트렌드, 디지털기술, 미래, IT, Ai(챗 GPT), 빅데이터, 미래기술, IT트렌드, 로봇, 산업, 미래사회, 비즈니스, 메타버스 등 

다양한 분야의 특강 강의를 진행하고 계십니다.



다양한 AI 특강 강사가 궁금하시면? 호오컨설팅으로 문의주세요!