전체메뉴

[애플경제 이지향 기자] AI기술이 발달할수록 ‘인공지능 윤리’도 강조되고 있다. 최근 발효된 EU의 ‘AI법’은 책임과 윤리, 설명 가능을 행간에 담거나, 명문으로 제시하고 있다. 특히 제22대 국회에서 ‘인공지능기본법’ 논의가 시작될 즈음이어서 더욱 눈여겨볼 대목이다.

그런 가운데 국내 인공지능 관련 단체인 국제인공지능윤리협회(IAAE)가 최근 내놓은 ‘IAAE 디지털 휴먼 윤리 가이드라인’은 업계 차원의 ‘AI 윤리관’의 일각을 엿보게 한 것으로 의미를 더하고 있다. 특히 기술 개발이 왕성한 ‘디지털 휴먼’에 대한 다양한 규정을 통해 인공지능 윤리 전반의 지향점을 제시하고 있는 셈이다. 특히 ‘인공지능기본법’ 제정 과정에선 이같은 민간의 의견과 시각을 두루 포괄해야 한다는 지적도 따른다.

이에 따르면 제 1조에선 ‘디지털 휴먼(Digital Human)’에 대해 인공지능, VR/AR, 메타버스 기술 등을 이용하여 구현해 낸 디지털 형태로 존재하고 활용되는 인간으로 정의학 있다. 예를 들어, 가상인간(Virtual Human), 메타휴먼(Meta Human), 아바타(Avatar), AI 챗봇(AI Chatbot) 등을 포함한다. 구현 방식으로는 영상, 음성, 이미지, 텍스트 등이 모두 포함된다.

제 2조에선 “디지털 휴먼은 인간과 매우 흡사한 외모를 가지고, 인간의 말과 행동을 하며 사용자, 소비자와의 소통을 통해 인간에게 큰 영향력을 미칠 수 있기 때문에 그 개발과 활용에 유의해야 한다”고 명시했다.

제 3조에선 “디지털 휴먼은 편향적이지 않으며, 신뢰할 수 있고, 합법적이어야 하며, 인간의 존엄성과 인류 보편의 가치를 존중해야 한다”며 “이를 위해 학습하고 사용하는 데이터의 신뢰성을 확보해야 하며, 선한 방향으로 지속적인 자기학습 능력을 발전시켜야 한다”고 규정했다. 그리고 “사용자나 소비자의 요구가 있을 경우, 자신이 학습하고 사용하는 데이터의 출처를 밝혀야 한다”고 강조했다.

제 4조에선 실제 존재하는 인물을 디지털 휴먼으로 구현하여 사용할 경우를 상정하고 있다. 이 경우는 “사전에 반드시 해당 인물의 동의를 받아야 한다”면서 “구현된 디지털 휴먼에 대해서는, 원칙적으로 초상권, 저작권, 사용권 등 일체의 권리는 실제 인물에게 있으므로 해당 콘텐츠를 실제 인물의 동의 없이 온라인상으로 무단으로 퍼 나르거나, 유포하거나 상업적, 정치적, 범죄적 목적으로 이용해서는 안 된다”고 못박았다.

제 5조에선. 특히 고인(故人)을 디지털 휴먼으로 구현할 경우를 사례로 들었다. 이는 생전에 고인의 동의를 미리 받는 것을 원칙으로 하고 있다. 또한 동의를 받고 구현할 경우에도, 생전 고인의 명예를 훼손하지 않도록 주의해야 한다고 규정했다.

제 6조는 “디지털 휴먼을 개발하여 사용할 때에는, 사용자, 소비자를 기망하지 않아야 한다”고 강조했다. 따라서 디지털 휴먼이 표현되는 영상, 음성, 이미지, 텍스트 등의 콘텐츠의 처음부터 끝까지 해당 인간이 ‘디지털 휴먼’이라는 점을 표지나 문자, 음성 등으로 표시하도록 했다. 또 사용자와 소비자에게 디지털 휴먼임을 알 수 있도록 하는 명확한 정보를 제공해야 한다고 명시했다.

제 7조에선 정치인이나 선거의 후보자를 디지털 휴먼으로 구현할 경우를 들었다. 선거 운동, 홍보 등 정치적 목적으로 사용할 경우에는, 사회와 유권자에게 미치는 영향이 더욱 클 수 있으므로, 앞서 <제 6조>보다 더욱 강화된 표지와 정보를 추가로 표시, 유권자에게 제공하도록 했다. 예를 들어, “개발사나, 학습 및 사용 데이터의 출처, 해당 콘텐츠의 편집자, 운영자, 총괄 책임자, 해당 정치인의 관여 정도 등을 콘텐츠의 맨 처음이나 마지막에 추가로 표시해야 한다.”고 규정했다.

제 8조는 기성 미디어를 통해 신뢰도와 인지도를 확보하고 있는 방송인, 연예인, 유명인 등을 모델로 하거나, 소셜미디어와 메타버스 등 디지털 공간에서 많은 팔로워(follower)나 구독자를 보유한 디지털 휴먼에 대해서 규정하고 있다. 이 경우는 실제 사회에서도 사람들에게 큰 영향력을 가지고 이를 행사할 수 있다. “따라서 큰 영향력을 가진 디지털 휴먼은 활동과 언행에 보다 신중하고 책임감을 가져야 한다”고 규정했다.

제 9조에선 “디지털 휴먼 기술의 이용은 어디까지나 인간의 삶과 실생활을 보다 풍요롭고 편리하게 하는 것을 목적으로 해야 하며, 이를 악용하여 타인에게 피해를 끼치거나 범죄의 목적으로 사용해서는 안 된다”고 강조했다.

제 10조에선 “향후 스스로 판단하고, 활동하고, 소통하는 자율성을 가진 디지털 휴먼이 등장할 경우, 통제된 디지털 인간보다 사회와 인간에 미치는 영향이 막대할 수 있으므로, 지금부터 모든 관련 주체들이 자율성을 가진 디지털 휴먼에 대한 논의와 연구를 진행해야 한다.”고 주문했다.