언뜻 보기에 인공지능은 기계와 수학, 물리학의 건조한 결합으로 보인다. 그러나 학습과 모델링 기법이 고도화할수록, 이젠 공학적 ‘이성’의 차원으로까지 비화하고 있다. 심지어는 로봇 기기(robot appliance) 그 이상의 기계 이성을 지닌 로봇 행위자(robot agent)까지 언급되고 있다. 고도의 기계학습은 이제 기계가 인간의 삶을 규정하는 ‘AI 디스토피아’를 걱정하게 한다. 그래서 ‘사람 중심 AI’(human centered AI)니, ‘설명 가능한 AI’(explainable AI)니 하는 말이 부쩍 회자되고 있는게 요즘이다.
디지털 인문학은 이를 곧잘 ‘공평한 AI’로 부르곤 한다. 기계학습 데이터가 어느 한쪽으로의 치우침이 없어야 편견이나 차별도 없다는 뜻이다. 이에 비해 설명 가능한 AI는 ‘투명성’으로 정의된다. 사람이 따라잡을 수 없을 만큼 정밀한 딥러닝이지만, 사람이 이해할 수 있도록 이유를 설명할 수 있어야 한다는 것이다. 기계의 무오류를 결코 인정하지 않겠다는 결기가 엿보이기도 한다. 개념 정의라기보단, 일종의 희망섞인 정언명령에 가깝다고 해야겠다. 그런 점에서 AI정의(正義)론자들은 특히 공격적이거나 악의적인 AI를 경계한다. 악의를 갖고 학습용 데이터를 조작하거나 수정함으로써 차별과 인식론적 오류, 그리고 혐오를 유발하는 행위를 혐오하는 것이다.
혹자는 또 ‘사람의 주체적인 의사결정을 해치지 않는 AI’를 강조한다. 딥페이크나 페이스 스왑과 같이 사람의 눈으로는 분별하기 힘든 사악한 기술이 그런 경우다. SNS 공간의 온갖 일탈행위도 마찬가지다. 소셜미디어 공간에서 딥러닝으로 사람과 세상을 음해하는 동영상을 생성하며, 변태적 쾌감을 느끼는 부류도 그에 포함된다. 또한 ‘사람의 일을 빼앗지 않는 AI’여야 한다는 주장도 있다. 물론 이는 좀 다른 얘기다. 인간이 기계를 착취하여, 기계가 만든 부가가치를 인간이 누리면 될 것이라는 해법들과는 엇갈린다. 유급노동의 종말이니, 과잉 접속의 절제니 하는 담론과도 접속된, 논쟁적 사안이어서 딱히 결론내리기가 힘들다.
어찌됐든 ‘사람 중심 AI’에 대한 인문학적 기대치는 크다. 그렇다면 AI는 이제 수학적 기호나 설계의 결과물, 그 이상의 인문적 피조물로 주목할 만하다. 기계학습 과정의 생성적 대립 신경망(GAN)이나 심층신경망(DNN)의 작동원리부터가 그렇다. 이는 영락없이 인간사회의 작동방식을 따와서 재현한 것이라 해도 과언 아니다. 생성모델이 가짜 예제를 만들어 판별모델을 최대한 속일 수 있도록 훈련하는게 GAN 기계학습의 기본이다. 판별모델은 생성자가 제시한 가짜와 실제를 정확하게 구분하는 능력을 연마한다. 그야말로 속고 속이는 자의 대립이다. 그렇게 쌓은 노하우로 복잡한 환경을 식별하며, 해법을 찾는 GAN의 원리는 우리네 인생사의 갈등 양상과도 빼닮았다.
심층신경망의 일원인 합성곱 신경망을 보노라면 역시 그런 생각이 든다. 그 원리는 일단 합성함수를 원용한데서 시작된다. 두 개의 함수가 정의역과 공역으로 서로 대응하며 함수끼리 반전, 이동하는 것이 합성함수의 외관이며, 그 값을 다시 곱하고 적분하여 새로운 함수를 구하는 연산자가 핵심이다. 실제는 더 복잡하지만, 고교 수학 수준의 개념을 극히 단순화하여 이해하면 그렇다. 이는 수많은 선택지를 앞에 둔 인생과도 같다. 출퇴근 구간이나 여행 수단을 선택할 때도 그렇고, 여러 사람이 어우러져 각기 다른 결정을 할 때도 알게 모르게 합성함수의 원리가 스며있다. 그처럼 비선형의 ‘경우의 수’에 부대끼는 삶의 갈래를 수리와 물리학적 요소로 치환한 것이 심층신경망이라고 하겠다.
AI의 기반이 그처럼 인간사를 닮은 기계학습이라면, ‘사람 중심의 AI’를 위한 조건은 자명해진다. 곧 ‘사람 중심의 인간 세상’에서만 가능한 것이다. 그건 그리 특별한 게 아니다. 인간 사회에서 늘 강조되는 보편적 상식이 통하는 것이다. 지역, 인종에 대한 편견이나, 학벌 ․ 성별에 의한 차별이 없고, 최소한의 도덕률이 보장되는 곳이다. 능력주의가 아닌 정의로운 공정과, 강자와 약자가 함께 ‘자유’를 누릴 수 있는 자유가 허락되는 세상이다. 기계 알고리즘이 흉내낼 수 없는 사람다운 공감능력과, 서로 다른 인간 경험의 복잡성을 존중하는 그런 곳이 사람 중심의 세상이다. 그렇게 사람이 중심인, 사람을 위한 세상이 될 때 비로소 ‘사람 중심의 AI’도 꽃핀다.