전체메뉴

[애플경제 전윤미 기자] 챗봇 ‘클로드’AI로 유명한 앤스로픽이 최근 유독 눈길을 끌고 있다. 새로운 AI모델이나 기술 때문이 아니다. 미국 트럼프 행정부의 권위주의적 분위기와 ‘AI 속도론’이 우세한 풍토에서도 ‘AI 안전’과 개인의 권리 보호와 권력에 의한 AI의 감시도구화 등을 거부하는 ‘유일한 기업’으로 자리매김하고 있다.

앤스로픽은 본래 샘 앨트먼의 ‘AI 속도론’에 반발, 퇴사한 다리오 아모데이 등 오픈AI의 AI 주역들이 뭉쳐 창업한 회사다. 그 동안 짧은 기간에 ‘클로드’AI 시리즈를 개발, 챗GPT와 경쟁을 벌이는 등 빠른 성장세를 보이고 있다.

앤스로픽은 실리콘밸리와 주요 기술 기업 중에서 최근 미 캘리포니아 의회가 통과시킨 AI 안전 법안을 지지한 유일한 주요 AI 기업이다. 특히 자사 모델이 (정부기관에 의한) 감시 업무에 사용되는 것을 허용하지 않아 트럼프 행정부의 곱지않은 눈길을 끌고 있는 실정이다.

“검열, 감시, 금지된 법 집행 위한 기술 사용 ‘제한’” 명시

베테랑 언론인들이 만든 디지털 미디어 전문매체인 ‘세마포어’(Semafor)는 이런 사실을 헤드라인으로 장식하며, 관심을 보이기도 했다. 실제로 통제와 감시, 규제를 선호화는 트럼프 행정부의 사법당국은 앤스로픽의 지침에 불만을 끼고 있다. 앤스로픽 내부 지침은 “형사 사법, 검열, 감시 또는 금지된 법 집행 목적”을 위한 기술 사용을 제한하는 조항이 포함되어 있다. 여기에는 “형사 사법 애플리케이션에 대한 결정”이나, “동의 없이 개인의 신체적 위치, 감정 상태 또는 의사소통을 타겟팅 또는 추적하는 행위”, 그리고 “정부 기관을 대신하여 특정 콘텐츠를 분석, 식별, 검열하는데 AI 도구 사용 금지” 등의 내용들이 나열되어 있다.

앞서 ‘세마포’에 따르면, 이는 FBI, 비밀경호국, 이민세관단속국(ICE)을 포함한 연방 기관과 갈등을 빚기에 충분하다. 앞서 앤스로픽은 미 연방 정부에 자사의 ‘클로드’ 챗봇과 AI 도구 모음을 단 1달러에 제공한 바 있다. 제공이라기보단, ‘기부’라는 표현이 적합하다. 그럼에도 불구하고, 이런 지침을 고집하면서 트럼프 행정부와 갈등을 빚고 있는 것이다.

‘기즈모도’는 이에 “앤스로픽의 정책은 다른 (빅테크 등) 경쟁사보다 포괄적이며 (원칙을 배제하는) 예외 조항이 적다.”며 오픈AI와 비교하기도 했다. 예를 들어, 오픈AI의 사용 정책은 ‘개인에 대한 무단 감시’를 제한하긴 한다. 그러나 이는 이 기술을 ‘합법적인’ 감시 목적으로 사용하는 것마저 배제하는 것은 아니다. 물론 앤스로픽의 ‘클로드’ 역시 사이버 보안을 포함한 국가 안보 목적으로 여러 정부 기관에서 사용되고 있다. 그러나 이 회사는 “국내 감시와 관련된 사용은 제한하고 있다”고 공식화하고 있다.

앤스로픽 관계자는 ‘기즈모도’에 “본사는 정보 기관을 위해선 특별히 ‘ClaudeGov’를 개발했다”며 “이는 연방 위험 및 승인 관리 프로그램(FedRAMP)으로부터 ‘높음’ 승인을 받아 민감한 정부 업무에 사용할 수 있다”고 밝혔다. ‘클로드’는 물론 모든 정보 기관에서 사용할 수 있지만, 그 보다 더 정보기관 본연의 임무 수행에 적합한 ‘클로드GoV’를 개발한 것이다.

이에 트럼프 행정부에선 “앤스로픽은 (사적인 지침을 통해) 사법 기관의 업무 수행 방식에 대한 도덕적 판단을 내리고 있다”고 불만을 표하기도 했다. 그러나 ‘세마포어’는 “(앤스로픽의 지침은) 도덕적인 문제에 관한 것일 뿐 아니라, 법적인 문제에 대한 것이기도 하다”며 “우리는 현재 감시 국가에 살고 있으며, 사법기관들은 과거에도 영장 없이 사람들을 감시할 수 있었고, 앞으로도 그럴 것이 거의 확실하다”고 비판했다.

특히 기업이 저항할 수 있는 한, 이러한 (부당한 국내) 감시에 참여하지 않기로 선택하는 것은 윤리적 입장을 표명하는 것일 뿐만 아니라, 오히려 자기 과실을 은폐하는 정부에 대한 저항이기도 하다. 연방 정부로선 기업의 자체 지침 탓에 국내 감시를 할 수 없다는 사실에 화가 날 수도 있다. 그러나 정부는 광범위한 국내 감시를 수행하되, 이를 위해 AI 시스템을 통해 감시를 자동화하려 하고 있다.

‘합리적 AI기업’으로 비치도록 노력

앤스로픽 나름의 원칙에 입각한 이런 태도는 스스로를 ‘합리적인 AI 기업’으로 자리매김하려는 노력의 사례로 꼽힌다.

특히 이달 초, 앤스로픽은 미 캘리포니아주 의회가 제정한 ‘AI 안전’ 법안을 지지하고 나섰다. 창업자 다리오 아모데이 등이 오픈AI에 있을 때부터 지녀온 ‘철학’과도 맞닿는 선택이다. 동 법안은 앤스로픽을 비롯한 주요 AI 기업들에게 “모델이 치명적인 피해를 입힐 위험이 없도록 새롭고 더욱 엄격한 안전 요건을 준수하도록” 요구하고 있다. 그 중 앤스로픽은 이 법안을 지지하는 실리콘밸리의 유일한 AI 주요 기업이었다. 다만 이 법안이 최종적으로 발효되기 위해선 뉴섬 주지사의 서명이 있어야 한다.

앤스로픽은 또한 워싱턴 D.C.에서도 ‘AI 도입을 위한 가드레일’을 마련, 신속한 도입을 촉구하고 있다. 물론 ‘신속한 도입’에 중점을 둠으로써 영리를 추구하는 기업으로서 속셈을 감주지 않고 있긴 하다.

다만 앤스로픽도 최근 자사 평판을 깎아내릴 만한 저작권 침해 행위로 곤욕을 치르긴 했다. 대규모 언어 모델을 훈련하기 위해 수백만 권의 책과 논문을 불법 복제, 저작권자의 권리를 침해하고도 저자들에게 아무런 보상도 해주지 않은 채 방치했다는 사실이 뒤늦게 밝혀졌다. 그 때문에 ‘공정하고 이성적인 AI 기업’이라는 이미지가 상당 부분 훼손되었을 수 있다.

이 회사는 결국 이 달 초 저자들에게 15억 달러 규모의 저작료를 주는 것으로 합의했다. 모델 훈련에 사용된 저작물을 실제로 만든 사람들에게 어느 정도 보상을 한 셈이다.

한편, 이보다 앞서 앤스로픽은 최근 자금 조달 라운드에서 거의 2,000억 달러의 기업 가치를 평가받았다. 앞서 저작권 시비에보 불구, 기업가치와 평판이 날로 상승하고 있는 모양새다. 그러나 앞으로 ‘트럼프의 미국’과는 결이 다른 선택을 계속할 수 있을 것인지는 두고 볼일이란 시각이다.