네이버ㆍ카카오의 ‘무인(無人) AI 알고리즘?’

네이버, 카카오에 대한 사회적 시선이 갈수록 곱지 않다. 포털사이트 ‘빅2’로서 가져야 마땅할 책무에 대한 따가운 질문도 연일 쏟아지고 있다. 사내에선 직장갑질이니 살인적 초과노동이니 하는 문제도 불거져 이들을 곤혹스럽게 한다. 그야말로 내우외환 속에 한때 그 거룩했던 IT밴처 신화의 초심(初心)이 이제 빛이 바랠 지경이 되었다. 그러나 정작 더 큰 문제가 있다. 실시간 포털뉴스의 공정성 논란에 대한 이들의 태도다. 이들은 “알고리즘이 자동으로 추천을 할 뿐, 사람은 관여하지 않는다”며 완강하다. 그러나 AI와 알고리즘의 로직을 조금만 되새겨보면, 과연 그럴까 싶다.

뉴스와 그 공정성 여부는 사회적 중력과 함의가 다른 무엇보다 크다. 그렇기에 이들 거대 포털사이트가 노출해온 그 어떤 부조리나 불합리보다 책임의 무게가 크다. 그렇다면 이들이 내세우는 뉴스 추천 알고리즘이란 어떤 것일까. 원론적으로 보면 내용 기반 알고리즘과 협업 필터링, 그 두 가지를 도구로 한 알고리즘이다. 그 중 ‘내용 기반’은 특정 분야를 많이 보는 사람에게 맞춤형으로 그와 유사한 카테고리의 것을 추천해주는 것이다. ‘협업 필터링’은 다시 특정 상품과 친화적인 카테고리를 추천하는 ‘이웃 기반’, 다른 사용자 중심으로 추천하는 ‘사용자 기반’으로 작동된다.

애당초 뉴스 밸류를 고민하는 것은 넷플릭스에서 ‘내용 기반’으로 영화를 권하거나, ‘협업 필터링’으로 쇼핑몰 물건을 추천하는 것과는 차원이 다르다. 더욱이 작금의 포털 뉴스는 그런 기초적인 로직의 객관적 결과로도 믿어지지 않는다. 특정 현상이나 사안이 갖는 시대적, 사회적 가치와 겉도는 판단은 도저히 AI 추천 알고리즘의 결과로 봐주기도 어렵다. ‘공정하게 추천한다’는 것도 그렇다. 진정으로 공정하려면, 그 공정함을 비교 검증할 만한 잣대로서 선험적인 모델이 있어야 하는 것이다. 그렇다면 그 모델은 어떻게 만들어질까? 당연히 ‘사람’이 만든다. 그래서다. AI와 알고리즘을 두고 감히 ‘100% 무인지경’을 이야기한다면, 역설적으로 그는 과학자도, 정통 엔지니어 자격도 없다. 기술이 아닌, 어떤 정무적 의도를 가진 비전문가라면 모를까.

AI나 알고리즘 구성에서 우리보다 앞서가는 구글은 오래 전부터 ‘What-if’ 툴을 오픈소스로 공개하고 있다. 일부 데이터가 바뀔 때 결과 값은 어떻게 변할까를 그래픽으로 보여 주는 것이다. 예를 들어 성별이나 나이가 채용 과정에 얼마나 불공정한 영향을 끼치는지 하는 것이다. 그런 불공정 요소를 사전에 걸러낼 수 있게 그 대안으로서 오픈소스를 대중에게 배포한 것이다. IBM이 오픈소스로 개방한 ‘AI 공정성 360’도 마찬가지다. 이는 편향을 완화할 수 있는 10가지 알고리즘을 포함한 소프트웨어 개발 도구 모음이다. MS 역시 AI 편향성을 해결하기 위해 그 통계적 공정성을 검증할 수 있는 도구 리프트를 오픈소스로 내놓고 있다.

국제적으로도 AI는 그처럼 완전 신뢰가 불가능한, 문제적 존재다. 그에 대한 국제적 규준은 그래서 투명성과 개방성, 책임성이다. 책임성은 누구나 공감할 만한 조건에서 실험을 하고, 그 결과로서 알고리즘이 공정하다는 걸 입증할 책임이 기업에게 있다는 뜻이다. 양대 포털에 대해 그 세 가지 규준의 압박이 가해지자, 이들은 또 다시 ‘QM(Quality Model) 알고리즘’을 공정성의 물증으로 내놓았다. 그러나 이는 美MIT에서 가짜 뉴스를 대상으로 실험해본 결과 신뢰도가 60~70% 밖에 안 된다는 결론이 나온 터다. 더욱이 그것의 공정함을 비교, 검증해야 할 선제적인 이미지가 있어야 하는데, 마찬가지로 사람이 만드는 것이다. QM 모델이란 애초 그 조작에 따라 어떤 뉴스나 기사, 혹은 특정 언론매체의 우선 순위를 조종할 수 있다. QM 모델의 요소별 믹싱(mixing) 비율을 결정하는 건 어디까지나 사람이기 때문이다.

기술이 아닌, ‘인공적인’ 인공지능(AI)에 의해 가공된 저널리즘은 단순한 공학적 패착에 그치지 않는다. 그 어떤 팬데믹보다 무서운 재앙이 될 수 있다. 필터버블이나 에코챔버 현상으로 증오에 가득찬 확증편향을 부르고, 만인에 대한 적개심과 투쟁으로 가득찬 인간사회를 만든다. “미디어는 메시지이자, 마사지”라는 맥루한의 풍자가 현실이 되고 마는 것이다. 혹자는 국내 포털뉴스의 가장 큰 규준은 ‘선정성’이라고 단언한다. 언론사는 그저 포털의 클릭 수를 늘리기 위한 미끼 상품 제작사라는 비아냥도 나온다. 그렇다면 문제는 포털이 사람 아닌, AI로만 뉴스를 노출하느냐가 아니다. 중요한 건 이들이 뉴스를 알고리즘으로 추천하는게 옳은 것인가, 아니면 포털이 뉴스를 계속 공급하도록 놔둬야 하는가다.