일부 국가, 법원과 법적 절차 등에 생성AI 본격 적용
국내서도 “책임있는 AI 이용 지침, 판결문 데이터 학습․활용” 목소리
영국․캐나다, ‘법원이 준수해야 할 가지 원칙 7가지 원칙, 사례’ 제시
[애플경제 이윤순 기자] “재판에서 법관을 AI로 대체할 수 없을까”-. 사법부를 둔 이같은 푸념섞인 말이 나돈지는 오래다. 그 말이 현실화되고 있다고 할 수는 없지만, 최근 국내․외적으로 소송이나 재판 등 각종 법적 절차에도 생성AI 기술이 접목될 가능성이 커지고 있다.
미국에선 지난 2021년경 일부 변호사가 소송을 위한 서면 작성에 오픈AI 챗GPT를 활용한 바 있다. 당시엔 그 내용의 허구성과 부적절함으로 인해 벌금이 부과되거나 증거로 채택되지 못했다.
이처럼 사법부나 변호사 등이 생성형 AI를 사용하는 것에 대해 업무 효율성 증가 등 긍정적 기대가 있는가 하면, 내용의 부정확성 차별성 등의 부정적 평가가 엇갈린다. 다만 개별 법원에 따라 생성AI 사용을 허용하되, 그 사용 여부를 명시하고 정확성을 확인하도록 하는 방침을 제시한 경우도 있다.
이미 영국이나 캐나다에선 법원이나 법관이 인공지능을 이용할 경우 준수해야 하는 지침을 각기 7가지 사항을 정하고, 그 적용 사례를 제시해 눈길을 끌기도 했다. 우리 법원도 최근엔 업무지원을 위한 인공지능을 도입할 예정이다.
“국내도 사법부 생성AI 이용 지침, 법규 조속 마련”
현재 우리나라는 법원이나 변호사, 소송 당사자의 생성AI 이용에 관한 법규가 없는 상태다. 그러나 생성AI가 전 분야에 걸쳐 다양한 이용자에 의해 확산되고 있는 현실에서, 책임있는 AI 이용 관행을 위해 필요한 이용 원칙이나 준수 사항 등을 적극 검토할 필요가 있다.
또한 사법 활용 AI의 개발과 활용을 촉진하기 위한 판결문 데이터를 공개 학습하고 활용하는 방안을 마련할 필요가 있다. 또 인공지능 활용을 위한 데이터를 확보하기 위한 기반을 마련해야 한다는 목소리도 높다.
한국지능정보사회진흥원 인공지능정책본부 AI법제도센터의 채은선 수석연구원은 최근 이에 관한 분석 보고서를 통해 “사법 분야 AI활용 가이드라인 지침을 수립할 때 10가지 가량의 사항을 고려할 필요가 있다”고 제시했다.
이에 따르면 우선 소송 당사자의 개인정보와 프라이버시 보호가 중요하다. 또 소송당사자의 전과 기록이나 학력, 이력, 경제상황, 성별, 직업, 사회적 지위 등에 따른 편견이나 차별을 방지해야 한다. 또 개별 사례의 일반화 오류를 방지하고, 학습데이터의 정확성 투명성 명확성 구체성 보안성을 확보해야 한다.
법관, 변호사, 소송대리인 등의 AI 책무성 보장
또 법관, 변호사, 소송대리인 등의 책임과 책무성을 보장한다. 데이터 처리의 안전성 및 보안 등에 대한 내부 관리 절차를 수립하고, 외부 제 3자의 데이터 관리, 검사, 검증 등의 거버넌스를 수립해야 한다.
또한 인공지능 활용 결과에 대한 외부 제3자의 검증과 이용 및 그 결과물의 객관성을 확보한다. 그 인공지능이 적절 또는 부적절한 구체적 사례를 통해 지침의 실효적 이행을 지원한다. 인공지능 기술 및 그 한계에 대한 명확한 이해를 높일 필요도 있다. 사법부의 신뢰할 수 있는 인공지능 활용을 지원하기 위해 교육 훈련 프로그램 및 전문인력 확보 등 AI 리터러시를 강화한다.
이에 비해 앞서 언급한 것처럼 캐나다나 영국의 지침은 연방법원과 사법부 차원에서 생성 AI 사용에 관한 일관된 이용 원칙 관행을 수립, 법원에서의 생성AI 사용 방향성을 제시하고 있다. 또 증거자료를 수집, 파악, 선별하기 위한 기술(Technology Assisted Review, TAR)을 도입했다.
이로 인해 생성AI 등장으로 법원 업무에 인공지능 사용 수준과 범위가 보다 확대될 것으로 예상된다.
영국․캐나다의 7가지 원칙 등 지침
참고로 캐나다는 법원이 준수해야 할 가지 원칙 7가지 원칙과, 적용 사례를 설명하는 지침을 마련하고 있다.
7가지 원칙은 ▲의사결정에 인공지능을 사용할 가능성에 대한 책임 ▲인공지능 사용으로 인해 사법 독립성 사법 접근권과 차별없이 공정한 심리를 받을 권리 등이 침해되지 않도록 보장, ▲인공지능 사용으로 차별이 재생산되고 악화되지 않도록 보장, ▲인공지능의 이용에 사용된 데이터는 확인 검증된 데이터만 사용, ▲인공지능이 사용하는 모든 데이터 처리 방법에 대한 외부 감사, ▲기밀성, 프라이버시 출처 표기 등이 보장되는 안전한 기술 환경에서 데이터 저장 및 관리, ▲판사 및 재판연구원은 인공지능 생성물을 자신들의 업무에 사용하고자 하는 경우 해당 생성물의 결과에 대한 검증 등이다.
역시 영국 사법부도 법관이 AI를 이용할 때 준수해야 하는 7가지 사항과 적용 사례 등을 담은 지침을 마련했다.
이에 따르면 ▲챗봇에 입력된 정보는 전 세계에 공개되므로 공개되지 않았거나, 사적 또는 기밀 정보 등을 챗봇에 입력해서는 안 됨, ▲인공지능이 제공한 정보를 이용하기 전 해당 정보의 정확성 확인, ▲대규모 언어모델에 기반한 인공지능은 학습 데이터에 기반하여 답변을 생성하고, 인공지능이 생성한 정보에는 학습 데이터의 오류 및 편향성이 필연적으로 반영되어 있을 가능성과 정정 필요성을 항상 고려, ▲보안유지를 위해 모범관행(best practices)을 따르고 인공지능 이용 시 업무용 기기와 이메일 주소를 사용하며, 유료 서비스가 있는 경우 무료보다 안전한 유료 서비스 이용, ▲법관은 자신의 이름으로 생산된 자료에 대해 책임을 짐, ▲법원 등 이용자의 인공지능 사용 여부 확인, ▲모든 법률대리인, 소송대리인 및 변호인은 법원 등에 제출한 자료에 책임을 지고 해당 자료가 정확하고 옳은 것임을 보장한다는 등의 내용이다.