서울시복지재단

비언어적 표현, AI는 어떻게 기록하고 분석하지?

안녕하세요 모두를 위한 스마트워크 신용우입니다.

작년에 주로 상담 데이터를 어떻게 양식화 할 것인지에 대해 나누었는데요, 올해는 데이터의 중요성과 앞으로 다가올 인공지능 혁명 시대를 어떻게 준비할 것인지 이런 저런 생각을 나누려고 합니다.

그리고 오늘은 어떤 내용을 기록해야 양질의 AI 분석 데이터를 얻을 수 있을지 좀 더 살펴보겠습니다.

저도 요즘 직접 녹취록, 대화록을 작성하지 않고 각종 앱을 통해 업무에 도움을 받고 있습니다. 대화를 하면 앱을 켜놓고 자동 생성된 내용을 가지고 몇가지 인공지능 툴로 돌려보고, 그 결과를 종합해서 다시 분석합니다. 회기가 쌓이면 전체 대화 데이터로 총괄 분석도 하고, 내담자의 변화 등도 손쉽게 도출합니다.

그러다보면 항상 결과물이 아쉽다는 느낌을 받습니다. 왜 그렇지…? 하고 생각하다가 제가 놓치고 있는 부분을 알게 되었습니다.

여러분께서도 잘 아시다시피 우리가 상담을 하면 대화 가운데 비언어적 표현이 많습니다. 목소리, 눈동자, 몸짓, 말과 말 사이에 있는 공백이나, 심지어 지각을 했는지 여부 등도 포함이 됩니다. 우리는 이러한 점을 종합하여 대화록을 작성하게 됩니다. 그런데 AI는 그렇지 않더라고요.

[상황 : 홍길동 학생이 학급에서 괴롭힘을 당했는데, 친구가 억지로 권유해서 상담을 받으러 왔음. 일부 내용 발췌]

[사람이 기록] : (5분 정도 망설이다가 울먹이며) 네… 정말 괴로웠어요. (한숨을 쉬고) 학교에 가는 게 싫고… 그만두고 싶어요.. (계속 고개를 숙이고 있음)

그런데 인공지능 메모 앱을 이용하면 비언어적 표현이 모두 생략됩니다.

[AI 앱으로 자동 기록] : 네 정말 괴로웠어요. 학교에 가는 게 싫고 그만두고 싶어요.

대화록을 가지고 인공지능 요약, 분석기능을 통해 상담의 성과를 분석하면 어떤 결과가 나올까요?

[사람기록] 분석 결과 : 초기 변화가 있었지만 부정적 감정 표현이 어렵고 대화가 꾸준히 이어지지 않음

[AI기록] 분석 결과 : 부정적 감정 표현

비언어적 표현, 상황이 잘 담겨있는 대화록은 AI가 이런 맥락을 포함하여 분석합니다. 반면에 그렇지 않은 대화록은 그저 간단한 요약만 합니다. (Claude 3 Sonnet 모델 사용)

아마도 여러분께서 예상한 결과일 것입니다. 당연하죠. 요즘 AI는 원문에 없는 내용을 창작하려 하지 않습니다. 물론 세부 설정을 통해 자유도를 높일 수 있지만, 그렇게 될 경우 소설이 될 수도 있으니 조심해야 하겠죠.

그러면 우리가 AI도구로 상담을 기록하고 분석해서 결과까지 쉽게 도출하기 위해 어떤 수고를 담아야 할까요?

여러분이 제작한 상담기록 앱이 있다고 해봅시다.

이 양식은 종이에 기록하던 상담일지를 앱으로 구현한 것입니다. 여기서 상담 내용은 마이크를 통해 자동 입력됩니다. 담당자는 상담을 마치고 몇가지 추가 코멘트를 적고 마무리합니다.

카메라로 상담 전체를 녹화하고 분석하는 것이 당연한 시대가 오기 전까지는, 비언어적 표현을 의도적으로 기록해야 합니다. 이것도 너무 당연한 말이죠? 그런데 우리는 수기로 기록할때는 이런 것을 자연스럽게 적었는데요, 인공지능이 자동으로 기록해주면 차츰 기록을 하지 않게 될것입니다. 왜냐하면 편리하거든요. 그래서 당연하지만 양식에 [비언어적 표현] 이라고 추가해야 합니다.

이 양식을 수정합니다.

우리는 의도적으로 [비언어적 표현] 이라는 탭을 추가해야 합니다. 그래서 단순히 담당자의견을 적는 것으로 마무리하지 말고, 거기에 충실하게 표현해야 합니다. 만약 여유가 더 있다면 상담이 끝난 후 상담내용 자체에 이러한 맥락을 더 추가해도 좋을 것 같습니다.

어쩌면 그동안 너무나도 당연하게 했던 일이, AI와 협업하는 것이 일상화되는 과정에서 누락되면서, 일시적으로 발생하는 과도기적 문제이기도 합니다. 그리고 해결책도 조금은 수고가 들어가지만 쉬운 방법입니다.

살펴봅시다.

비언어적 표현 외에도 우리가 놓치고 있는 것이 있을거에요!

고맙습니다.