생성AI의 걸작 ‘에이전트AI’, “그러나 불신도 커”

[애플경제 이윤순 기자] 장차 인간 수준을 겨냥한다는 일반인공지능(AGI)를 향한 노정은 최근 에이전트 AI 개발로 한층 탄력을 얻고 있다. 이에 많은 기업들이 이를 도입할 계획이지만, 현장 실무자들이나 직장인들은 정작 그 품질에 대해선 의구심이 큰 것으로 나타났다.

다시 말해 많은 사용자들은 에이전트 AI로 인해 효율성은 크게 향상되었지만 결과의 품질에 대해선 우려하고 있는 셈이다. 이는 에이전트AI 개발의 한계이자, 새로운 진전을 위한 자극이 될 전망이다.

“전체 30% 이상이 불신” 연구조사도

실제로 새로운 연구에 따르면 미국과 유럽에선 대부분 직장인들이 회사에서 AI 에이전트를 사용하고 있지만 3분의 1은 “신뢰성이나 품질을 신뢰하지 않는다”고 답한 것으로 나타났다.

10명 중 거의 6명이 매일 AI 에이전트를 사용하고 있으며 Pegasystems의 의뢰를 받은 YouGov 연구원에게 유용한 결과를 보고 있다고 말했습니다.

미국의 소프트웨어 업계 일각과 유럽의 클라우드 매니지먼트 업체 등 다수의 연구조사를 요약해보면, 대체로 에이전트 AI를 사용함으로써 지루한 반복 작업을 자동화할 수 있다는 점을 가장 큰 장점으로 꼽았다. 또 업무에 필요한 정보를 신속하게 검색하는데도 매우 유용하다. 그로 인해 빠르게 업무를 완수하거나 회의를 끝낼 수 있는 경우가 많았다.

그러나 이런 장점에도 불구하고, 많은 직장인들은 에이전트 AI를 완전히 신뢰하지 못하고 있음도 밝혀졌다. 대체로 현지 직장인의 3분의 1 이상은 “에이전트를 사용해서 도출한 출력이나 작업 결과의 품질에 대해선 우려스럽다”는 응답이 많았다. 또 그런 불신의 이유로는 “인간만이 가능한 육감과 직관적 판단, 공감의식, 감성과 지능 부족” 등을 꼽기도 했다. 한 마디로 “인간의 판단 영역에까진 아직 어림도 없다”는 평가다.

역시 10명 중 3~4명꼴로 AI에이전트가 생성한 응답의 정확성도 신뢰하지 않는다는 경우가가 많다. 그렇다고 모든 기업이나 경영인, 관리자들이 에이전트 AI의 장점이나 유용성을 부적하는 것은 아니다.

이와 유사한 결론의 조사 결과를 자사 블로그에 올린 SW 및 AI자동화 전문업체인 페가시스템즈(Pegasystems)사는 “그러나 또 다른 연구에 의하면 많은 사람들이 여전히 우려를 가지고 있으며, 그럴수록 경영진들도 AI기술을 전략적으로 신중하게 통합, 도입해야 한다”고 강조했다.

“그래도 향후 내 일자리에 긍정적” 평가 많아

이에 따르면 그런 우려로 인해 적잖은 사용자들이 AI가 생성한 작업을 활용하는 데 불안함과 불편함을 느끼고 있다. 또 다른 사용자들은 AI가 생성한 작업이 자신이 직접 만들어낸 결과물보다 오히려 못하다고 여기고 있다.

그럼에도 불구하고 많은 사용자들은 “AI가 향후 5년 동안 나의 일자리에 긍정적인 영향을 미칠 것이라고 여전히 믿고 있다”고 했다. 그러면서도 대부분의 사용자들은 그런 유용성에 앞서 ‘에이전트 AI’ 도구를 더욱 개선, 정확도와 신뢰성을 높이기 위해 더욱 연구 개발에 힘써야 한다는 반응이 주를 이뤘다.

또한 이러한 도구를 사용자에게 최적화하기 위해 좀더 수준높은 교육이 이뤄져야 하고, AI를 활용한 의사 결정 프로세스의 신뢰성과 정확성을 높이는게 선결 과제임을 꼽았다.

이에서 페가시스템즈사는 “에이전트 AI를 작동시키고 좀더 광범위한 대중화를 기하기 위해선 이를 도입하는 기업들도 상당한 노력을 기울여야 한다”고 했다. 즉, AI가 워크플로와 작업 공정을 설계하고, 자동화, 최적화하는 과정에서 필히 사내 구성원을 비롯한 ‘인간’ 작업자들과의 교감과 이해가 바탕이 되어야 한다는 지적이다.

즉, 어떤 회사든 AI 에이전트를 도입하는 과정에선 반드시 실제 워크플로와 통합하고, 직원들의 공감과 동의가 있어야 한다는 얘기다. “그런 조직 차원의 공감대와 협업이 이뤄질 때 비로소 AI에이전트 본연의 기능이 발휘될 수 있다”는 것이다.

이런 평가는 또 다른 연구결과에서도 나오고 있다. 지난 주에 발표된 또 다른 보고서에서 클라우드 및 디지털 운영 관리 회사인 페이저듀티(PagerDuty)는 “CIO와 CTO의 절반 이상이 에이전트 AI를 미래 IT 운영의 핵심이 되기 위해선 (도입 과정에서) 조직 차원의 그런 전략적 의사 결정과 혁신이 필요하다”고 조언했다.