전체메뉴

[애플경제 엄정원 기자] “챗GPT는 결코 귀하의 치료사가 아니다. 오히려 어떤 기밀도 빼내 사용할 수 있다”는 샘 앨트먼의 충고 같은 주장이 파문을 일으키고 있다. 더욱이 “사용자의 깊숙한 비밀도 법적 보호 없이 법정에서 불리하게 사용될 수 있다”고 해 적잖은 공분마저 불러 일으키고 있다.

대표적인 ‘AI개발 속도론자’인 앨트먼은 이번에도 그의 속내를 여과없이 보여준 셈이다. 특히 챗GPT를 헬스케어 등에 사용하고 있는데 대해 그는 자못 냉소어린 평가를 했다. 또 법적 기밀 유지를 보장할 수 없다고도 해 장차 불법과 합법의 경계도 불사할 각오다.

사실상 ‘불법과 합법의 경계 불사’로 해석될 만

그는 최근 테크크런치, Wccftech 등을 통해 “사용자들은 일상 업무에 AI 도구에 점점 더 의존하면서, 일부는 의료, 개인 정보, 심지어 전문적인 조언을 위해 이 플랫폼을 이용하기도 한다”면서 이같이 밝혔다.

그의 주장에 따르면 챗GPT는 일상적인 문제를 해결하는 데 필요한 개인 비서로 여겨지면서 이에 과도하게 의존하는 경우가 많다. 그래서 “플랫폼을 통해 치료를 받는 것이 무해해 보일 수 있지만, 기밀이 유지되는 전문가의 도움과는 달리 공유된 정보가 비밀로 유지된다는 보장은 없다”고 단언했다.

샘 앨트먼은 이처럼 AI 비서, 특히 매우 개인적인 정보를 두고 이에 과도하게 의존하지 말라고 경고했다. 물론 그의 발언은 일종의 경각심을 불러일으키기 위한 취지라곤 하지만 그 행간에는 다른 의도가 숨어있다는 해석이다.

즉, “각종 개인정보나 기밀을 무차별적으로 사용할 수도 있으니, 알고나 있으라”는 통보 성격의 발언으로 받아들여질 만하다.

특히 앨트먼은 “챗GPT가 치료사와 환자 간의 비밀 유지를 제공하지 않는다”고 했다. 외신은 이를 ‘경고’로 해석했지만, 실상은 ‘허락없이 사용할 수 있음’을 사전 고지할 것이나 다름없다는 해석도 가능하다.

실제로 AI 도구의 기능이 향상되고, 그 중엔 인간의 감정을 이해하는 능력도 발달함에 따라 많은 사람들이 정신적 위로나 치료, 정서적 위무를 위해 챗봇에 의존하는 경우나 날로 늘어나고 있다. 그러나 의사와 환자 간의 비밀 유지를 우선시하는 기존 치료와 달리, AI는 민감한 대화를 보호하는 데 필요한 법적 체계를 갖추고 있지 않다.

‘대화형 AI 도구’에 대한 경고 아닌 경고?

샘 앨트먼은 최근 언론 인터뷰를 통해 겉으론 “매우 개인적인 문제를 (AI도구에) 털어놓는 것에 대한 ‘우려’를 표명한답시고, 이런 발언을 했다.

그는 ‘대화형 AI 도구’가 이제 더 많은 공감대를 형성하고, 진지한 대화에 참여할 수 있게 되면서 극히 개인적인 정보를 확보할 수 있다고 강조했다. 그러면서 문제의 경고 아닌 경고를 덧붙였다. 즉 “사용자는 AI 도구에 수반되는 위험 때문에 치료나 정서적 지원을 위해 의존해서는 안 된다”며 “전문적인 정신 건강 관리와 같은 방식으로 작동하지 않으며, 적절한 규제가 마련될 때까지 AI를 치료를 대체하는 수단으로 사용해서는 안 되기 때문”이라고 했다.

그 중 챗봇 사용에 대한 ‘우려’를 표명한 대목은 특히 눈길을 끈다. 즉 “사용자들은 챗GPT에 매우 개인적인 이야기를 한다. 특히 젊은이들은 이를 치료사나 인생 코치로 사용한다”면서 “그래서 으레 챗봇에게 ‘어떻게 해야 할까요?’라고 묻는다”고 상기시켰다.

그러면ㅅ “현재 치료사, 변호사, 의사 등과 이런 개인적 문제에 대해 상담할 경우 법적 특권이 적용된다. 그러나 의사-환자 간 비밀이나 법적 비밀 등은 챗GPT와 상담할 때는 보호받지 못한다”고 했다.

이런 AI 도구에는 법적 비밀 유지(의무)가 없다는게 앨트먼의 주장이다. 특히 법적 문제가 얽혀있는 상황일수록 그 결과는 심각하다는 경고다.

예를 들어, 누군가가 법적 문제에 연루되어 있으면서 그런 문제를 오픈AI와 공유한 경우 챗GPT는 그에 관한 대화 내용을 공개할 수 밖에 없다. 기밀 유지를 위한 법적 보호 장치가 마련되지 않았기 때문이다.

그러면서 “AI도 사실상 동일한 개인정보 보호권을 가져야 하지만, 기술이 급속도로 발전함에 따라 법적 보호 장치가 이러한 발전 속도를 따라가지 못하고 있다”고 법과 제도의 미비함에 방점을 찍었다. 사실상 그런 제도적 결함 탓에 개인정보와 비밀을 무제한 공유하거나, 공개할 수 있다는 주장인 셈이다.