미국의 명망가들 수 천 명이 “선출되지 않은 기술 리더에게 인류의 운명을 맡겨도 되나?”고 물었다. GPT-3에서 챗GPT, GPT-4, GPT-5로 내달리는 초대형 생성AI의 폭주를 걱정한 것이다. 그런 숙연한 질문이 자신을 향한 것임을 직감해서일까. 오픈AI CEO 샘 앨트먼이 발끈하고 나서며 ‘답변’이라고 내놓은 것이 가관이다.
앨트먼은 먼저 자신들이 아니라도 “누군가는 초대형AI와 같은 기술을 개발할 것”이라고 응수했다. 그러면서 “대규모AI는 직접 사람과 세상에 적용해봐야만 좋은지 나쁜지를 알 수 있다”고도 했다. 더욱 기가 찬 것은 그 다음이다. 언필칭 “우리들은 선(善)한 사람들”이라고 했다. 여기서 ‘우리’는 초대형AI를 개발한 자신들을 일컫는 것이다.
답변이라기보단, 생각나는대로 쏟아낸 ‘아무 말’ 잔치의 연속이라고 해야 맞다. 그러면서도 한편으론 소름이 끼친다. 앨프먼의 사고 체계에선 장차 트랜스휴머니즘이 판치는, 음습한 디스토피아를 엿보게 한다.
“어차피 누군가는 생성AI를 개발할 것”이란 말은 언뜻 맞는 말같다. 허나 뒤집어보면 그 화용론적 불순함이 금방 드러난다. 즉, 행위의 결과야 어떠하든, 일단 시도할 수 밖에 없다는 불온하고 무책임한 환원론에 다름 아니다. 물론 과학과 기술은 때론 가치중립에 놓일 수 밖에 없다. 그런 사실을 인정하더라도, 공동체가 합의한 ‘선(善)함’과 옳음을 간단히 제압할 만한 ‘몰가치’ 영역까지 허용되진 않는다. 그래서다. “어차피 누군가는 개발”할 것이라는 발화 자체만을 놓고 보면, 공동체적 선(善)을 위해 그어놓은 금단의 ‘선(線)’ 따위는 무시해도 좋다는 뜻으로 읽힌다. 참으로 위험하고 방자한 모습이다.
어떤 기술이든 먼저 “사람과 세상에 적용해봐야”한다는 것도 마찬가지다. 엔지니어이자, 기업 경영인으로서 그의 인성을 의심케하는 대목이다. 단적으로 말하면, 그런 언설은 야만적인 테크노피아에 대한 숭배, 그 이상도 이하도 아니다. 20세기 파시즘에 의한 우생학적 실험이나, ‘마루타’와 같은 몰(沒)인간적 도발을 연상케하는 것이다. 기실 걱정인 것은 그런 사이비 ‘정상과학’에 대한 믿음이 오늘의 기계문명에서 드물지 않다는 사실이다.
하긴 유발 하라리가 내비친 바, 디지털문명의 극단에선 죽음마저 거부하는 ‘영생(永生)’이라는, 탈(脫)자연적 환타지도 예언되고 있을 정도다. 그렇다보니 ‘아직 안 가본 그 세상’에서의 ‘인간’을 재구성해보려는, 위험하고도 불길한 상상이 연구실 문틈의 연기처럼 번지고 있는게 이 즈음이다. 작금의 초대형 생성AI조차 그런 느낌이다. 트랜스포머 모델링으로 창조와 생성, 곧 언젠가는 창조주의 권능까지 넘볼 듯한 기미를 내비치고 있기 때문이다.
앨트만의 언설을 종합해보면 또한 우려스러운 것이 있다. 곧 ‘확증편향’이다. 창백한 순결주의에서나 봄직한 ‘독야청청’(獨也靑靑)의 완고한 도그마라고 할까. 나의 모든 것은 옳다는, 무오류의 선민의식에까지 함몰되어 있다는 느낌이다.
이는 그 일행이 개발한 대규모 파라미터의 GPT에도 그대로 전이되었다. 초대형 생성AI는 “모른다”는 대답을 결코 하지않는다. 제 스스로 문맥을 추스르고 다듬고 변증하는 트랜스포머 모델이 그 역할을 한다. 한 단어를 학습한 후엔, 전혀 접해본 적이 없는 또 다른 의미를 생성하며, 플롯을 스스로 만들어간다. 그야말로 “나는 모르는게 없다”는 위선에 중독된 모습을 연상케 한다. 그 ‘위선적인 기계’는 정 아리송하거나 모르겠으면, 대충 둘러대거나, 거짓말을 서슴없이 한다. 온갖 오류나 거짓, 가짜정보를 쏟아내고도 시치미를 딱 뗀다. 참으로 우리네 불량 인간을 그대로 빼닮았다.
애초 AI를 만든 것이 사람이다. 사람은 자칫 거짓과 무지, 그리고 무지를 인정하지 않는 자기 기만과 인지적 오류로 점철되기 십상이다. 그런 하자 투성이의 인간 개발자들이 미세조정한 야심작이 생성AI 시리즈라면 과연 어떤 일이 벌어질 것인가? “선출되지 않은 기술 리더에게 인류의 운명을 맡겨도 되나?”는 공포서린 물음이 나올 수 밖에 없는 일이다. 더욱이 그 ‘선출되지 않은’ 인격적 모델링이 앨트먼과 같은 자들이라면 세상은 또한 어떻게 될까.