AI 솔루션․챗봇에 적용된 ‘인공지능 윤리’ 눈길

[애플경제 박문석 기자] 인공지능 챗봇 ‘이루다’를 개발한 ‘스캐터랩’이나, 인공지능 기반 영상인식 솔루션 등을 개발한 ‘알체라’, 인공지능 기반 글쓰기 솔루션 등을 제공하는 ‘뤼튼테크놀로지스’가 각각 AI 서비스를 개발하는 과정에서 각각 적용한 나름의 인공지능 윤리의 잣대가 공개되어 관심을 끈다.

최근 정보통신 관련 연구기관과 과기정통부가 마련한 인공정책 윤리정책 토론회에서 이들 기업들은 각각의 인공지능 윤리점검 방식을 소개했다. 이에 따르면 스캐터랩의 김종윤 대표는 ‘스캐터랩 인공지능 챗봇 윤리점검표’ 최종안 발표를 통해 ‘스캐터랩 인공지능 챗봇 윤리점검표’를 공개했다. 이날 소개된 ‘이루다 2.0’는 스캐터랩은 친구처럼 일상적인 대화를 나눌 수 있는 관계 지향형 인공지능 챗봇으로 현재 오픈 베타 테스트를 진행하고 있다.

이는 인공지능 챗봇 ‘이루다’를 기획·개발·운영하는 전 과정에서 기업 윤리를 실현할 수 있도록 점검 항목을 제공하는 것으로 알려졌다. 이는 또 과기정통부가 지난 2020년 12월 마련한 ‘인공지능 윤리기준’ 10대 핵심 요건에 따라 구체화한 질문을 제시하고 있다.

앞서 지난 3월에도 스캐터랩은 「인공지능 챗봇 윤리 준칙」을 발표하며, 사람을 위한 인공지능 개발, 다양한 삶의 가치 존중, 사생활 보호 등 인공지능 챗봇 ‘이루다’에 어떤 가치를 담아냈는지 공개한 바 있다.

알체라의 조민국 연구소장은 인공지능 기반 산불 감지 솔루션의 기술적 신뢰성 검증 결과를 발표했다. 알체라는 영상인식 기술 등을 활용해 이상 상황 감지 솔루션, 신원 인식 솔루션 등을 개발·제공하고 있다.

알체라의 기술적 신뢰성 검증은 ‘신뢰할 수 있는 인공지능 개발안내서(이하 개발안내서)’를 알체라의 특성에 맞게 변형하여 현장 적용하는 방식으로 이루어졌다. 개발안내서는 개발자가 인공지능 제품·서비스 개발 과정에서 신뢰성 확보 여부를 확인해 볼 수 있도록 기술적 검증 항목 후보군(pool)을 제공하는 것으로, 기업이 제품·서비스 분야에 맞게 검증 항목을 자율적으로 선택·변형하여 내부지침으로 활용할 수 있다.

알체라는 개발안내서에서 제시하는 요구사항 중 이상 상황 감지 분야에 필요한 신뢰성 요구사항을 선별하고, 신뢰성 확보 여부를 점검하여 점검 결과 및 개선사항을 도출하였다.

뤼튼테크놀로지스 이세영 대표는 ‘뤼튼 인공지능 작문 도구 윤리점검표’ 개발 취지와 초안을 발표했다. 뤼튼테크놀로지스는 자연어 처리 기술 및 초거대 인공지능 기반으로 작문 보조 솔루션 ‘뤼튼(WRTN)’을 제공하고 있다.

‘뤼튼 인공지능 작문 도구 윤리점검표’ 초안은 지난 2월 포럼 출범식에서 공개한 ‘인공지능 윤리 자율점검표(이하 윤리점검표)’를 뤼튼테크놀로지스의 조직 특성에 맞게 변형하는 방식으로 개발되었다. ‘윤리점검표’의 점검항목 후보군(pool)을 참고하여, 작문 보조 분야에 적합한 점검 항목을 만들어 내부지침으로 활용하는 것이 목적이다.

한편 과기정통부는 지난 2월, ‘인공지능 윤리정책 포럼’ 출범식에서 민간이 인공지능 제품·서비스를 기획하고 개발하는 과정에서 윤리 실천 및 신뢰성 검증을 위해 참고할 수 있는 ‘인공지능 윤리 자율점검표’와 ‘신뢰할 수 있는 인공지능 개발안내서’를 공개하였다. 이는 인공지능 활용 목적과 조직의 특수성에 따라 점검항목을 선별·재구성하여 활용할 수 있도록 산업 부문 등을 특정하지 않은 범용성 있는 점검항목 후보군(pool)을 제공한다.

이번 포럼은 스캐터랩, 알체라, 뤼튼테크놀로지스는 ‘인공지능 윤리 자율점검표’를 자사 서비스 특징에 맞게 내부지침으로 변형하거나 ‘신뢰할 수 있는 인공지능 개발안내서’를 자사 서비스의 신뢰성 검증을 위해 활용하는 등 인공지능 윤리 확보를 위한 기업의 자율적 활동 사례를 공유하는 자리였다.

과기정통부는 이번 포럼의 결과물, 기업의 애로사항 등을 종합하여 챗봇, 위기상황 감지, 작문 등 해당 서비스 분야의 다른 기업들이 일반적으로 활용할 수 있는 분야별 점검항목 후보군(pool)을 공개할 예정이다.