전체메뉴

과학기술정보통신부와 정보통신정책연구원은 23일 대통령 직속 4차산업혁명위원회 전체회의에서 인공지능 시대 바람직한 인공지능 개발·활용 방향을 제시하기 위한 사람이 중심이 되는 ‘인공지능(AI) 윤리기준’을 마련했다고 밝혔다. 

AI 윤리기준은 윤리적 AI를 실현하기 위해 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 AI 개발~활용 전 단계에서 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준이다. AI 기술의 발전·확산과 함께 AI 기술의 윤리적 개발·활용 역시 세계 각국과 주요 국제기구의 관심 대상이 되어 왔다. 지난해 우리나라가 주도적으로 참여한 경제협력개발기구(OECD) AI 권고안을 비롯해 OECD, 유럽연합(EU) 등 세계 각국과 국제기구, 기업 등 여러 주체로부터 다양한 AI 윤리 원칙이 발표됐다.

과기정통부는 올해 4월부터 인공지능·윤리 전문가로 구성된 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계하여 ‘인간성을 위한 인공지능(AI for Humanity)’를 목표로 하는 윤리기준 초안을 마련했다. 3개월에 걸쳐 학계·기업·시민단체 등 각계의 다양한 전문가로부터 의견을 수렴했다. 이에 AI 윤리기준이 지향하는 최고가치를 ’인간성(Humanity)’로 설정하고, ‘인간성을 위한 인공지능(AI for Humanity)’을 위한 3대 원칙·10대 요건을 제시했다. 

AI 윤리기준의 3대 원칙은 ‘인간성(Humanity)’을 구현하기 위해 인공지능의 개발 및 활용 과정에서 ▲ 인간의 존엄성 원칙 ▲ 사회의 공공선 원칙 ▲ 기술의 합목적성 원칙을 지켜야 한다.

3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발~활용 전 과정에서 ▲ 인권 보장  ▲ 프라이버시 보호 ▲ 다양성 존중 ▲ 침해금지 ▲ 공공성 ▲ 연대성 ▲ 데이터 관리 ▲ 책임성, ▲ 안전성 ▲ 투명성 등 10대 핵심요건이 충족되어야 한다.

AI의 개발과 활용은 인간의 권리와 자유를 침해해서는 안 되며, AI를 인간에게 직간접적인 해를 입히는 목적으로 활용해서는 안 된다. 또한 AI 설계 및 개발자, 서비스 제공자, 사용자 간의 책임소재를 명확히 해야 한다고 명시했다.

한편, AI 윤리기준에서 지향점으로 제시한 ‘인간성을 위한 인공지능(AI for Humanity)’은 인간 종 중심주의(human species-centrism) 또는 인간 이기주의를 표방하지는 않는다. 또 AI는 지각력이 있고 스스로를 인식하며 실제로 사고하고 행동할 수 있는 수준의 AI(이른바 강인공지능)을 전제하지 않으며, 하나의 독립된 인격으로서의 AI를 의미하지도 않는다.

과기정통부는 그간 전문가·시민 의견수렴 과정에서 제기된 바와 같이 향후 윤리기준의 현장 확산을 돕기 위해 개발자·공급자·이용자 등 주체별 체크리스트 개발, AI 윤리 교육 프로그램 마련 등 구체적인 실천방안을 마련하고 추진해나갈 계획이다. 또 ‘AI 윤리기준’을 기본 플랫폼으로 하여 다양한 이해관계자 참여하에 AI 윤리 이슈를 지속 논의하고 윤리기준이 기술·사회 변화를 반영하여 계속해서 발전될 수 있도록 노력할 방침이다. 

과기정통부 최기영 장관은 “지난 11월 27일 윤리기준 초안을 발표한 후 공청회 등 폭넓은 공개 의견수렴을 거쳐 ‘인공지능 윤리기준’이 마련된 만큼, 동 윤리기준이 인공지능 윤리 이슈에 대한 우리사회의 토론과 숙의의 시작점이자 사람 중심의 인공지능으로 나아가는 플랫폼이 되도록 노력하겠다”고 밝혔다.