“AI가 대통령과 공무원, 판사를 대체할 수 있나?”

[애플경제 김홍기 기자] 6.3 대통령 선거를 눈앞에 둔 지금, “AI가 공직자나 판사, 심지어 대통령까지 대체할 수 있을까”라는 농담같은 얘기도 한켠에선 흘러나오고 있다. 심지어 정부출연기관인 한국지능정보사회진흥원(지능정보원)은 최근 “공직자까지 AI가 대체할 수 있을까?”라는 브리프를 공개하기도 했다.

이 기관의 AI법제도센터는 “AI가 점점 더 발전해 가면서 많은 직업을 대체하게 될 것”이라며 “이젠 생산직, 운전기사 등 반복적인 업무의 직업이나, 의사, 변호사, 기자 등 전문직을 넘어, 공무원이나 정치인까지도 인공지능이 인간을 대체할 수 있을 것이라는 논의가 등장하고 있다”며 이같은 상황을 예상했다.

심지어는 “법관이나 심지어 대통령 같은 자리까지 대신하게 하는 것이 어떠냐는 얘기도 있다”고 했다. 그러나 결론적으로 이는 불가능하다. 일단 헌법에 규정된 국민주권에 반하는 것이며, 또한 한 국가의 최고정책 결정을 AI가 행사하는 것은 있을 수 없다는 반박에 대항할 수 없다. 6.3 대통령 선거를 앞두고 있다보니, 생성AI시대에 가상해볼 수 있는 ‘불가능한 희망사항’인 셈이다.

AI, 공직업무상 의무적인 행위 ‘도구’로 가능

다만 일선 공무원 등 공직업무에서 사람을 대체할 수 있는 ‘도구’로선 가능한 일이다. 물론 ‘국민의 권한을 위임받아 공적 권력을 행사’하는 직위를 과연 AI가 대체해도 되느냐 하는 것은 별개의 문제다. 그런 ‘공무담임권’의 대체에 대한 법리적 타당성은 별도의 논의 대상이다.

그러나 ‘공무담임’의 본질적인 특성을 보좌하거나, 효율성을 높이기 위한 ‘도구’로는 얼마든지 가능하다. 이에 대해 지능정보원 AI법제도센터가 인용한 ‘행정기본법’은 AI와 인간(공무원)의 영역 표시를 위한 잣대로 삼을 만하다.

지난 2021년 제정된 ‘행정기본법’은 AI를 통해 업무를 수행할 수 있는 근거 규정을 두고 있다. 즉 동법 제20조(자동적 처분)는 “행정청은 법률로 정하는 바에 따라 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)으로 처분을 할 수 있다. 다만, 처분에 재량이 있는 경우는 그러하지 아니하다.”고 규정하고 있다.

‘행정기본법’, “기속행위는 AI자동화 가능” 규정

즉, 공무원을 대신해서 완전 자동화된 AI시스템을 이용한 행정처분이 가능하다는 얘기다. 다만 모든 영역이 아니라, “처분에 재량이 있는 경우는 그러하지 아니하다”라고 한계를 두고 있다. 다시 말해 공무원(사람)이 자의적으로 결정하지 못하고, 오로지 법규에 정해진 처분만을 의무적으로 해야 하는 업무 영역에 한정하고 있다. 예를 들어, 법규에 정해진 처벌규정이나 의무규정, 강제적 이행 등 재량권이 없는 이른바 ‘기속(羈束)행위’에 대해선 공무원 대신 AI가 이를 시행할 수 있다. 법규에 정해진대로 AI가 해당 규정을 적용하기만 하면 된다.

그러나 인간의 판단이나 복잡한 상황이나 인과관계를 고려한 의사결정과 같은 경우는 다르다. 예르 들어 대형 프로젝트의 인·허가, 국가사업의 효율적 수행과 이를 위한 절차상의 복잡한 현안 등이다. 이를 오로지 기계학습과 알고리즘에 의한 AI에 맡겨둬선 큰 변고가 생길 수도 있다. 이른바 ‘행정기본법’상의 ‘재량행위’가 이에 해당한다.

이런 재량행위에 대해선 여전히 인간인 공무원이 책임을 지고 수행하도록 한다. 즉 “AI를 통해 완전히 자동으로 처분을 하긴 하지만, AI가 판단이나 복잡한 의사결정까지 하도록 허용해선 안 된다”는 취지다. 즉 AI는 단지 운신의 폭이 없는 경직된 규정에 따른 행위에만 투입할 수 있다.

이는 잘만 이용하면, 공직사회의 반복적이고 일상적인 행정사무를 효율적으로 개선할 수 있게 한다. 다만 그런 경우에도 문제는 있다. 지능정보원은 “‘공무원은 국민에 대하여 책임을 진다’는 헌법규정(제7조)에 따라 AI가 공무원(사람)의 개입 없이 사무를 처리할 수는 있다”면서도 “그러나 그런 강행규정의 기속행위에 따른 경우라도, 만약 잘못된 결과가 생길 경우 어디에 책임을 물을 것인가 하는 문제가 발생한다”고 예상했다.

대통령, 국회의원 ‘AI가 대체?’, “발상 자체가 반민주적”

지능정보원은 더욱이 “정치인도 AI가 대신할 수 있을까?”라는 물음을 던지고 있다. 역시 6.3 대통령 선거철이다보니 있을 수 있는 질문이다. 그러나 여느 공무원과는 달리, 결론적으로 ‘AI정치인’은 불가능하다.

지능정보원도 이 대목에 동의한다. 다른 무엇보다 이런 가정적 상황은 “근본적으로 국민주권주의 원칙에 위배된다”고 했다. 주지하다시피 우리 헌법 제1조는 “대한민국의 주권은 국민에게 있고, 모든 권력은 국민으로부터 나온다”고 선언하고 있다. 국민이 선출하거나 위임한 ‘국민’(사람)만이 입법, 행정, 사법의 권력을 행사할 수 있다. 특히, 주권의 기반이 되는 천부적 권리의 주체는 기계가 아닌 인간이다.

그런 점에서 수학과 논리학, 컴퓨터공학, 계량물리학 등의 결과인 AI가 인간을 대신해서 주권을 행사하거나 책임질 수 없다. 이는 “기술적 영역의 문제가 아니라, 헌법질서 내지 인간존재의 문제로까지 승화되는 것”이다.

이런 논쟁은 애초 일각의 기계론적 주장에서부터 비롯되었다. 즉 “AI가 폭넓은 인문·사회·과학적 데이터를 학습하고, 문제를 해결함으로써 국회의원이나 대통령 등 선출직 공무원을 대신할 수도 있지 않느냐”는 것이다.

이를 통해 특히 ‘정치적 편향성’을 제거하면서, 수많은 자료를 단숨에 분석하는 인공지능이 더 합리적인 결정을 내릴 수 있다는 주장이다. 그런 AI가 내리는 정책적 결정과 판단이 더 정확하고 합리적일 수 있다는 것이다. 심지어는 “국가적 인력·시간·비용을 소모하는 선거도 필요없다”는 설명도 뒤따른다.

그러나 이는 위험천만의 주장이다. 기능적인 효율성은 곧 ‘능률의 극대화’를 지향하는 파시즘이나 ‘빅브라더’의 전체주의를 야기할 수 있다는 우려가 더 크다. 더욱이 선거를 “국가적 인력·시간·비용을 소모하는 행위”로 간주하는 것은 주권재민의 원칙은 물론, 민주주의를 원천적으로 부인하는 ‘야만적’ 발상으로 지탄받을 수도 있다.

상식 어긋난 판결 잇따라…‘AI판사’로 보완, 급부상

다만 최근 정치·사회적 상황에 비춰 ‘AI판사’는 사회 일각에서 상당한 설득력을 획득하고 있다. 정치나 다른 공직분야와는 또 다른 차원에서, ‘사법개혁’이 거론될 만큼, 사법 행위의 정당성에 대한 지적이 끊임없이 이어지고 있다. 이에 풍부한 법률 지식과 판례 정보를 학습한 AI판사와 (인간) 법관, 배심원 등을 조화시킨 판결이 바람직하다는 목소리가 갈수록 높아질 전망이다.

실제로 그 동안 각종 민·형사 법정에선 ‘법은 도덕(과 상식)의 최소한’이란 보편적 금언을 무색케하는 비도덕적, 비상식적 판결이 적지않은게 현실이다. 이에 “다양한 사회적 문제에 대해 다량의 데이터를 학습해서 얻어지는 식견을 통해 사안을 결정하는 AI판사가 유용할 것”이란 제언도 좀더 구체화되고 있다.