인공지능 시대, 우리가 놓치고 있는 것은?! (4)

아래 링크에서 계속 이어지는 글입니다.

인공지능 시대, 우리가 놓치고 있는 것은?! (3) 

안녕하세요 모두를 위한 스마트워크 신용우입니다.

인공지능 시대를 살아가는 우리가 놓치고 있는 것은 무엇일까, 함께 고민하는 네 번째 시간입니다.

첫 글에서는 AI라는 '필터'가 걸러내는 날것의 통찰에 대해, 두 번째 글에서는 AI와의 대화가 우리의 '공감 능력'에 미칠 영향에 대해, 그리고 지난 글에서는 AI의 정답에 익숙해져 '스스로 생각하는 힘'을 잃을 수 있다는 우려를 함께 나누었습니다.

오늘은 어느덧 네 번째 질문의 시간이네요. 오늘은 AI가 우리에게 내놓는 '정답'이라는 것 자체에 대해, 조금 더 질문을 던져보려 합니다.

“AI의 완벽한 예측 속에, 우리가 놓치는 '단 하나의 길'은 없을까요?”

함께 생각해보시죠.

알파고를 이긴, 단 하나의 수

2016년, 이세돌 9단과 알파고의 대국을 기억하시나요? 인공지능 이야기나 나오면 빠지지 않는 이 예화가 오늘도 등장합니다. 모두가 인간의 패배를 예견하던 네 번째 대국, 이세돌 9단은 누구도 예상치 못한 곳에 바둑돌 하나를 내려놓습니다. ‘신의 한 수’라 불리는 78수였죠.

알파고의 계산에 따르면 그 수는 등장할 확률이 1만 분의 1에 불과한, 말 그대로 '이상한' 수였습니다. 하지만 그 비합리적으로 보였던 단 하나의 수가, 기계의 완벽한 계산에 균열을 내고 승리를 가져왔습니다.

저는 생성형 AI를 볼 때마다 가끔 대국이 떠오릅니다. AI의 능력은 정말 대단하지만, 그 본질은 이세돌 9단과 근본적으로 다릅니다.

AI, 가장 오래된 도서관의 성실한 제자

저는 생성형 AI를 '오래된 도서관의 모든 책을 독파한 성실한 제자'에 비유하고 싶습니다. 이 제자는 인류가 수천 년간 쌓아온 방대한 지식을 모두 학습했습니다. 정말 대단하죠.

하지만 생각해보세요. 그 오래된 도서관의 책들에는 무엇이 담겨있을까요? 위대한 통찰과 지식도 있지만, 특정 시대의 가치관, 차별적 언어, 고정관념도 고스란히 기록되어 있습니다. AI는 좋은 것과 나쁜 것을 가려 배우는 것이 아니라, 데이터에 가장 많이 나타나는 패턴을 학습할 뿐입니다.

즉, AI는 편견을 창조하지 않습니다. 그저 인류가 역사 속에 남긴 편견을 가장 효율적으로 학습하고, 가장 그럴듯한 형태로 우리에게 재현해 줄 뿐입니다. 감정이 없기에, 부끄러움도 없이 말이죠.

물론 AI모델 개발사들도 이 문제를 해결하기 위해 치열하게 싸우고 있습니다. 편향을 피하도록 정교한 '안전장치'를 덧대거나, 반대로 세상의 불편한 모습까지 그대로 보여주는 AI를 만들기도 하죠.

어느 쪽이든 본질은 같습니다. 우리가 만나는 AI의 답변은 순수하지 않습니다. 과거 데이터의 통계적 패턴이거나, 혹은 개발사가 설정한 '필터'를 거친 결과물일 뿐입니다. AI는 '확률 밖의 수', 즉 데이터에는 없던 창의적인 통찰이나 맥락을 뛰어넘는 혜안을 스스로 만들지는 않습니다.

‘데이터 기반’이라는 말의 함정

이 확률 게임이 우리 사회복지 현장으로 들어오면 어떨까요?

만약 AI가 '데이터 기반'으로 특정 조건의 주민에 대해 "지원이 시급하지만, 자립 성공 가능성은 낮음"이라는 예측을 내놓는다고 상상해보시죠.

아마도 객관적인 분석처럼 보입니다. 하지만 우리는 물어야 합니다. 그 '가능성 낮음'이라는 결과는 정말 그 개인의 특성일까요, 아니면 과거부터 이어진 사회적 차별이 만들어낸 '결과'를 AI가 다시 한번 확인해준 것뿐일까요?

"AI 분석 결과, 이분은 의지가 약할 확률이 높습니다."

이런 '객관적 데이터'라는 말에 기댄 채, 우리는 AI라는 최첨단 기술로 가장 낡은 차별을 반복하게 될지도 모릅니다. 바로 보이지 않는 '디지털 낙인'이죠.

결국, 다시 사람의 자리로

AI가 "통계적으로 이 길이 가장 안전합니다"라고 말할 때, 우리는 당사자가 왜 굳이 좁고 험한 길로 가려 하는지, 그 길 끝에서 무엇을 만나고 싶어 하는지에 귀 기울여야 합니다. 그것이 바로 AI의 계산을 넘어서는 인간의 통찰입니다. 마치 이세돌 9단의 '신의 한 수' 처럼 말이죠.

AI가 제시하는 '가장 가능성 높은 길'에 익숙해진 우리는, 어쩌면 그 사람에게 꼭 필요했던 '1만 분의 1의 길'을 찾아보려는 시도조차 잊게 될지 모릅니다. 결국 AI 시대에 우리의 역할은 AI의 완벽한 분석표를 받아 들고, 이세돌 9단처럼 조용히 묻는 사람이 되는 것이 아닐까요?

"기계가 보지 못하는 수는 없는가?"

AI의 계산을 넘어서는 통찰, 데이터가 담지 못하는 한 사람의 삶을 읽는 혜안. 여러분은 어떻게 생각하시나요? 앞으로 다가올 AI기반의 현장에서, AI의 계산을 뛰어넘는 '신의 한 수'는 무엇이 될 수 있을까요?

그리고 여러분은 어떻게 준비하고 계신가요?