세계경제포럼, AI기술 활용과 투명성, 윤리문제 등 논의
다보스, 행사 직전 설문 기반 보고서 통해 ‘AI 위험’ 경고
“합성 콘텐츠 생성 등 AI의 잘못된 정보로 인한 위협” 지적
[애플경제 이윤순 기자] 16일부터 19일까지 스위스 다보스에서 열리는 ‘세계경제포럼 2024’(다보스 포럼)에서도 각종 지구촌 현안과 함께 특히 AI기술의 활용과 투명성, 윤리문제 등이 주요 안건으로 테이블에 올랐다. 지도자들이 엘리트 회의에 모이면서 분쟁, 기후 변화 및 AI가 가장 큰 주목을 받았습니다.
다보스는 이-팔 분쟁, 러-우크라 전쟁, 그리고 세계 경제 전망과 함께 “인공지능은 우리 삶 전체를 뒤흔들 수도 있다.”는 문제의식을 공유하며 AI를 주요 의제로 깊이있는 논의를 이어가고 있다.
AI 관련 포럼 세션만 30개 달해
AI기술은 사실상 이번 다보스에서 가장 핵심적인 의제가 되고 있다. 그 중요성을 보여주는 증거로 이와 관련한 세션만 해도 30개에 달한다. 이들 세션은 “경제와 사회의 원동력으로서의 인공지능”이라는 주제를 내걸고 행사 내내 매일 이어지고 있다.
1년 전에 오픈AI의 챗GPT가 등장한 후 수많은 경쟁업체들이 앞다퉈 생성AI를 개발하기 위해 치열한 경쟁을 벌여왔다. 이에 일반 대중들도 생성AI의 힘과, 비전 및 가능성에 대해 새삼 깊은 관심과 함께 이해도를 높이게 되었다.
오픈AI의 CEO인 샘 앨트먼도 “회사의 성장에 도움을 준 마이크로소프트의 최고 경영진과 함께 다보스에 참석할 예정”이라고 밝혀 눈길을 끈다.
다보스는 “교육 분야의 AI나, 기술에 대한 투명성, AI의 윤리 및 창의성에 미치는 영향은 중요한 의제의 일부이며, 이와 관련된 신기술에 관한 논의와 홍보, 전시가 이어지고 있다”고 했다. 행사에 앞서 다보스는 “합성 콘텐츠 생성 등 AI가 생성한 잘못된 정보로 인한 위협이 세계에서 가장 큰 단기 위협”이라고 경고한 바 있다.
행사 직전 “AI 위험” 경고한 설문 보고서 공개
한편 AP통신 등에 따르면 행사를 앞두고 세계경제포럼(World Economic Forum, WEF)은 “합성 콘텐츠 생성 등 AI가 생성한 잘못된 정보로 인한 위협이 세계에서 가장 큰 단기 위협”이라고 경고한 보고서를 공개한 바 있다.
보고서는 “민주주의를 침식하고 사회를 양극화할 위험이 있는 최첨단 인공 지능으로 가득 찬 허위 및 오해의 소지가 있는 정보가 세계 경제에 가장 큰 즉각적인 위험”이라고 밝혔다. 이 보고서는 스위스 스키 리조트 도시인 다보스에서 열리는 CEO와 세계 지도자들의 연례 모임을 앞두고 발표되었으며 약 1,500명의 전문가, 업계 리더 및 정책 입안자를 대상으로 한 설문 조사를 기반으로 한 것이다.
보고서는 향후 2년 동안 가장 심각한 위험으로 잘못된 정보와 허위 정보를 나열했으며, 기술의 급속한 발전이 얼마나 새로운 문제를 일으키거나 기존 문제를 악화시키는지를 강조했다.
또 “챗GPT와 같은 생성 AI 챗봇의 붐이 사람들의 그룹을 조작하는 데 사용할 수 있는 정교한 합성 콘텐츠를 만드는 것이 더 이상 전문 기술을 가진 사람들에게만 국한되지 않는다는 것을 의미한다”고 우려했다.
그런 보고서를 낸 후 열린 이번 다보스 회의에서 AI는 뜨거운 화두로 떠올랐다. 이에 오픈AI CEO 샘 알트만(Sam Altman), 마이크로소프트 CEO 사티아 나델라(Satya Nadella) 등 기술 기업 수뇌부들과 메타(Meta)의 최고 AI 과학자 얀 르쿤(Yann LeCun) 등 AI 업계 인사들이 참석할 예정이다.
“가짜정보, 정부 적법성, 사회 양극화 초래”
다보스는 또 “AI를 활용하여 딥페이크를 수행하고 대규모 그룹에 실제로 영향을 미칠 수 있으며, 이는 실제로 잘못된 정보를 초래한다”면서 “사람들이 사실을 확인하기가 더 어려워지면서 사회는 더욱 양극화될 수 있다”고 우려했다.
특히 “가짜 정보는 선출된 정부의 적법성에 대한 의문을 불러일으키는 데 사용될 수도 있다”면서 “이는 민주적 절차가 침식될 수 있고 사회 양극화를 더욱 심화시킬 수 있음을 의미한다”고 지적했다.
다보스는 또 “AI의 부상은 수많은 다른 위험을 가져온다”고 우려했다. 피싱 시도를 자동화하거나 지능형 악성 코드를 생성하는 등 사이버 공격을 더 쉽게 수행함으로써 “악의적인 행위자”에게 권한을 부여할 수 있다는 얘기다.
다보스는 “AI를 사용하면 악의적인 행위자가 되기 위해 창고에서 가장 ‘날카로운 도구’가 될 필요조차 없다”면서 “다른 AI 시스템을 훈련하기 위해 인터넷에서 긁어낸 데이터를 오염시킬 수도 있는데, 이는 되돌리기가 엄청나게 어렵고, AI 모델에 편견을 더 심어줄 수 있다”고 경고했다.