AI를 안전하게 사용하려면 · 5편

AI를 안전하게 사용하려면

안녕하세요, 모두를 위한 스마트워크 신용우입니다.

AI 안전 시리즈 마지막 편으로, 기관 차원에서 AI 사용을 어떻게 관리할지 나눠보겠습니다.

직원에게 당사자의 동의를 확인하고 기관용 AI를 쓰라고 교육하는 것만으로는 부족합니다. 업무가 급하면 확인할 항목을 빠뜨리기 쉽고, 담당자가 바뀌면 앞서 정한 기준도 이어지지 않을 수 있습니다. 어떤 업무에 어떤 정보를 넣을 수 있는지, 누가 결과를 확인하는지, 어떤 경우에 사용을 멈추는지를 기관의 업무 절차에 넣어야 합니다.

업무별 AI 사용 체크리스트를 만듭니다

기관은 AI를 쓰려는 업무마다 아래 항목을 먼저 확인합니다. 확인을 마친 항목에는 표시하고, 공개자료 정리처럼 적용할 내용이 없는 항목에는 해당 없음을 적습니다. 보완이 필요한 항목이 하나라도 남으면 사용하지 않습니다.

법에 정해진 양식은 아닙니다. 앞선 네 편에서 살펴본 조건을 실제 업무에서 빠뜨리지 않기 위한 도구입니다. 목적과 정보 범위, AI 서비스가 같다면 이미 승인한 체크리스트를 적용할 수 있습니다. 이 가운데 하나라도 달라지면 다시 확인합니다. 상담기록 요약용으로 승인받은 자료를 지원 대상의 우선순위를 정하는 데 쓰는 경우가 그렇습니다.

AI 분석 동의 여부는 실제 입력 단계에서 바로 확인할 수 있어야 합니다. 동의서가 인쇄된 서류철에만 있고 상담기록에 표시되지 않으면 담당자가 바뀐 뒤 거부한 분의 기록까지 AI에 넣을 수 있습니다. 기록을 열었을 때 동의 여부가 보이게 하고, 거부한 기록은 AI 분석 대상에서 빠지도록 업무 순서를 정합니다.

AI가 덜어낸 시간은 사람에게 써야 합니다

AI를 안전하게 쓰자는 말은 AI를 적게 쓰자는 뜻이 아닙니다. 필요한 동의와 계약, 기관 계정과 검토 절차를 갖추면 자료 정리와 기록 요약, 문서 초안 같은 일은 AI에 맡길 수 있습니다. 담당자 개인에게 책임을 미루지 않고, 기관의 도구로 쓰기 위해 기준을 세우는 것입니다.

AI가 이런 일을 덜어내면 사회복지사는 그 시간을 당사자를 만나고 지역사회의 관계를 잇는 데 쓸 수 있습니다. 사회복지의 본질은 문서를 빠르게 만드는 데 있지 않습니다. 당사자와 의논하고, 이웃과 지역사회에서 이어질 관계를 찾으며, 주민이 서로 돌볼 수 있는 조건을 만드는 데 있습니다.

지난 시리즈에서는 관계를 데이터에 담는 온톨로지를 살펴봤습니다. 이번 시리즈에서는 그 관계와 기록을 AI에 맡기기 전에 갖춰야 할 조건을 살펴봤습니다. 관계를 기록하는 방법과 그 기록을 안전하게 다루는 방법은 결국 한 방향을 향합니다. 기술이 관계와 실천지혜를 대신하지 않고, 이를 지킬 수 있도록 설계하는 것입니다.

AI는 기록을 정리하고 관계의 후보를 제안할 수 있습니다. 그 의미를 당사자와 함께 확인하고, 이웃과 지역사회의 관계를 잇는 일은 우리의 할 일입니다.

감사합니다.