트럼프 ‘AI 행동 계획’, 미국을 ‘AI 전체주의’국가로?

[애플경제 김홍기 기자] 트럼프 대통령의 ‘AI 행동계획’이 자칫 미국을 ‘AI 전체주의’ 국가로 만들 수도 있다는 우려가 나오고 있다. 외신 보도대로라면 트럼프가 이젠 AI를 무기로 정치적 반대 진영을 통제하고, 자신들이 극우적 아젠다를 국민들의 일상에 확산시킬 가능성이 적지않아 보인다.

오픈AI, xAI, MS, 구글, 메타 등 민간 기업들의 AI와 LLM도 그런 영향을 받을 가능성이 커졌다. 자칫 이들 실리콘밸리를 통해 전세계에 트럼프 성향의 극우적 콘텐츠가 내재된 LLM이 보급, 확산될 수도 있다는 우려도 커지고 있다.

지난 23일 트럼프 행정부가 AI 행동 계획을 발표할 때만 해도 별 문제가 없어보였다. 모델 학습에 대한 저작권 면제에다, 오픈AI, 앤스로픽, 구글 등 주요 기업들이 공개적으로 요구해온 민원 사항을 모두 수용한 것으로 보였다. 그러나 시간이 흐르면서 시민사회 일각에선 거센 비판이 일고 있다는 소식이다.

규제 항목 애매모호, “자의적 해석 가능”

엑시오스d, 뉴욕타임스 등 주요 외신의 분석을 종합하면, 우선 “주 정부와 기술 기업들을 극도로 심각한 규제 불확실성에 빠뜨릴 것”이란 비판이 높다. 다시 말해 ‘불확실성’, 즉 ‘귀에 걸면 귀걸이, 코에 걸면 코걸이’식의 자의적 통제와 규제가 가능하다. 애초 이는 트럼프 대통령의 ‘불순한’ 의도가 배어있다는게 문제다. 그는 캘리포니아나 콜로라도 등 AI에 대한 선명한 규제책을 마련한 주를 견제하고 싶어했다. 이번 ‘계획’ 역시 주 정부의 AI 시스템 규제를 막으려는 시도에서 시작되었다는 주장이 그 때문에 설득력을 얻고 있다.

실제로 대표적인 진보 성향 시민단체인 ‘민주주의와 기술 센터’(Center for Democracy and Technology)는 성명을 통해 “트럼프의 정책 비전은 주 정부와 기술 기업들을 ‘극도로 심각한 규제 불확실성’에 빠뜨릴 것”이라며 이같은 우려를 뒷받침했다.

앞서 미 의회에서 같은 시기에 통과된 조세 법안의 초안에는 ‘주 정부 차원의 AI 규제에 대해 10년간 유예를 적용’하는 수정안이 포함되어 있었다. 그러나 상원에서 99대 1의 압도적인 표결로 해당 조항이 법안에서 삭제되었다. 즉, 유예없이 주 차원에서 AI를 규제할 수 있게 한다는 의미다.

트럼프 대통령은 그러나 법안의 이런 메시지를 거꾸로 이해한 듯 했다. 그는 자신의 ‘행동 계획’을 통해 연방정부 규제 기관들에게 “부담스러운 AI 규제가 없는 주에만 AI 관련 자금을 지원하도록 지시할 것”이라고 시사했다. AI규제를 하는 주에겐 지원금을 안주겠다는 의미다.

재량껏 연방정부가 줄지 안 줄지를 결정하는 자금줄을 통제하겠다는 취지다. 더욱이 ‘AI 관련’ 자금이란 용어도 애매모호하다. 어떤 영역이 ‘AI 관련’으로 간주될지가 명확하지 않다. 그래서 트럼프게 ‘엿장수 마음대로’ 식의 무제한 권력이 주어졌다는 비판이다.

마음에 안 드는 주와 집단, 자금줄 차단 가능

만약 트럼프가 보기에 특정 주의 법안이나 법률이 자신의 마음에 들지않을 경우, 연방 자금 배분 권한을 악용, 자금줄을 끊을 수도 있다. 특히 각 주의 민주당 의원이나 민주당 출신 주지사 등 주정부 인사와 정치인들은 난처한 상황에 처할 수 밖에 없게 된다. 그래서 “‘AI관련’이란 용어의 정의를 매우 모호하게 규정한 것은 그런 불순한 의도에서 비롯된 것”이란 비판이 높다. 그야말로 트럼프의 AI 기반 ‘독재’가 가능해지는 셈이다.

나아가선 재량껏 지출이 가능한 거의 모든 연방 자금을 ‘AI 관련’ 예산으로 간주할 수도 있다. 그러면 자의적으로 지출 여부를 결정할 수 있게된다.

예를 들어 인종이나 신분 등에 대한 ‘알고리즘 차별’로부터 보호하도록 설계된 콜로라도 ‘인공지능법(CAIA)’이 대표적이다, 이런 법은 분명 트럼프의 구미에 맞지 않을 가능성이 크다. 이 경우 해당 법률에 대해 “학생들에게 AI를 가르치려는 학교의 기술 강화를 위한 예산 지원을 저해하는 것”으로 해석, 자금줄을 끊을 수도 있다.

‘AI 관련’이라는 용어에 대한 자의적인 해석의 가능성은 그 밖에도 광범위하다. 머신러닝 기술이 일상의 많은 부분에 영향을 미치기 시작하면서 광대역 인터넷부터 교통 인프라 예산 등에 이르기까지 모두 ‘AI 관련’으로 간주될 수도 있다. 그 중 ‘부담스러운 AI 규제’ 조항을 들먹이며, 민주당 성향의 주정부나 지역에 대한 자금 지원을 중단할 수도 있다.

더욱 심각한 것은 연방통신위원회(FCC)를 새로운 통제수단으로 활용하려는 시도다. 트럼프는 각 주 정부의 AI 규제에 대해 1934년에 제정된 “통신법에 따른 의무와 권한을 이행하는 능력” 조항을 들이댈 수도 있다. 무려 90년 전에 규정한 ‘통신법적 의무와 권한’에 지금의 AI규제 관련법이 합당한지 여부를 평가하는 것이다.

만약 트럼프 대통령의 뜻대로 된다면, FCC는 현재의 모습과는 매우 다른 ‘빅 브라더’의 모습으로 변모할 것이다.

이미 그 동안 럼프 대통령은 FCC의 독립성을 제한하거나, 간섭해왔다. 그런 만큼 대통령의 ‘행동 계획’에서 이 부분이 특히 우려스럽다는 목소리가 높다. “대통령이 나서서 FCC를 통해 (정치적 반대 진영의) 주정부에 대한 ‘모라토리엄’을 일방적으로 시행하려 한다”는 비판이다. 굳이 AI와 조금이라도 간접적으로 관련될 수 있는 연방 기금을 찾아 (부담스러운 규제 등의 핑계) 새로운 조건을 부과함으로써 법령을 알아볼 수 없을 정도로 왜곡할 것으로 예상된다.

별도의 행정명령 3건도 ‘AI전체주의’ 가속화 우려

트럼프기 이보다 앞서 서명한 3건의 행정명령도 문제다. 그중 하나인 ‘연방 정부 내 깨어 있는 AI 방지’ 명령은 “연방 기관이 진실 추구"를 지향하고, 이념에 얽매이지 않는 AI 시스템만 확보하도록 제한”하도록 했다. 해당 명령은 또 “LLM은 중립적이고 초당파적인 도구여야 하며, (바이든 행정부의) DEI(다양성, 평등, 관용)와 같은 이념적 도그마에 유리하게 반응을 조작해서는 안 된다”고 못박았다. 또한 “LLM은 역사적 정확성, 과학적 탐구, 객관성을 우선시해야 하며, 신뢰할 수 있는 정보가 불완전하거나 모순되는 경우 불확실성을 인정해야 한다.”고도 했다.

그러나 자세히 뜯어보면 이에 동원되는 모든 용어들이 추상적이고, 해석하기 나름인 애매모호하고 자의적인 표현들이다. 어떤 것이 ‘절대적인 진실’이고, ‘이념적 중립성’인지도 명확하지 않다. 그래서 트럼프의 진짜 의도는 ‘중립성’과는 거리가 먼, ‘이념적 편견’을 강제하는 것이란 비판이다. 심지어 연방 정부가 조달하는 민간 기업의 LLM에도 그들만의 ‘이념적 편견’과 ‘성향’이 포함되어야 한다는 해석이 가능하다.

이는 특히 오픈AI와 같은 기업들에게도 이젠 반드시 통과해야 하는 정치적 시험대가 되고 있다. 만약 ‘행동 계획’의 해석에 맞지 않으면 정부 조달 계약을 기대하기 어렵다. 이에 AI 기업들은 이미 적극 대안을 모색하고 있다.

올해 초부터 오픈AI는 별개의 정부 기관용으로 설계된 챗봇 버전인 ‘챗GPT Gov’를 따로 출시했다. xAI도 지난주 ‘Grok for Government’를 별도로 출시했다. 그러나 “정부 조달 요건을 충족하기 위해 개발된 LLM은 결국 광범위한 민간 용도로 확대될 수도 있다”는 우려도 따른다.

오픈AI, xAI 등 민간기업들도 극우 동조할 수 밖에

특히 트럼프 행정부가 FCC에 막강한 ‘AI 규제’ 권한을 부여할 경우 상황은 심각해진다. 소비자 대상 AI 제품들도 이같은 반동적인 기준을 따를 가능성이 더 커진다. 이미 바이든 시절, FCC는 규제 권한을 사용, 기업들이 대통령의 DEI 입장에 동조하도록 압력을 가한 사례가 있다 반면에 지난 5월, ‘버라이즌’사는 “모든 DEI 관련 관행을 종식시키겠다”고 약속한 후 비로소 ‘프론티어’사와의 200억 달러 규모 합병에 대한 FCC 승인을 받아낼 수 있었다.

트럼프 행정부의 직접적인 압력 없이도, 이미 일론 머스크의 그록(Grok) 챗봇은 올해 두 차례나 트럼프의 ‘행정명령’이 규정한 “최대한 진실을 추구하는” 결과가 어떤 모습으로 왜곡될 수 있는지를 보여주었다. 이에 맞춘답시고, 지난 5월 중순에는 남아프리카공화국의 ‘백인 학살’ 주장에 앞장섰고, 최근에는 ‘메카히틀러(MechaHitler)’를 내세운 반유대주의의 깃발을들기도 했다.

물론, 연방 정부가 권한을 자제하며, FCC 관할권, 즉 연방 프로그램이 실제로 주법과 상충되는 경우에 대해 신중하게 접근할 가능성도 있다. 그러나 그럴 가능성은 높지 않다는 전망이다. “그 보단 행정부가 주법에 대한 광범위하고 무모한 통제를 할 수 있는 문을 열어두었고, 결국 성능은 낮고 유해하기 짝이 없는 AI가 판을 칠 수 있는 장을 열어줄 수도 있다”는 걱정어린 목소리가 날로 높아간다.