누구나 ‘에이전트 AI’ 개발…‘DIY’ 도구 경쟁 치열

[애플경제 전윤미 기자] 오픈AI가 13일 ‘에이전트 AI’를 개발할 수 있는 도구와 API 세트를 출시하면서, 개발자 누구든 간편하게 에이젠트를 구축할 수 있는 ‘에이전트 도구’ 경쟁이 본격화되고 있다.

에이전트 AI를 구축하기 위해선 반복적인 웹 검색과 파일 검색, 고도의 컴퓨팅, 에이전트 워크플로 오케스트레이션 등 숙련되고 복잡한 과정을 거쳐야 한다. 당연히 시간도 많이 걸릴 수 밖에 없다.

이미 워크데이, 데이터브릭스 등 기술력이 뛰어난 스타트업들이 간편하고 손쉽게 AI를 개발할 수 있는 ‘에이전트 AI’ 구축 도구를 개발, 선보인 바 있다. 이에 빅테크도 ‘에이전트 AI’ 도구 시장에 뛰어들고 있다. 아마존은 데이터브릭스와 협업을 통해 ‘아마존 베드록’을 출시한데 이어, 오픈AI도 이른바 ‘Responses API’란 도구를 출시해 관심을 모으고 있다.

오픈AI, ‘DIY’ 개발 도구, ‘Responses API’

오픈AI는 12일 반복작업을 더욱 신속하게 하고, 사용자 지정 오케스트레이션 로직으로 인해 겪는 번거로움과 어려움 등을 해소하는 등 새로운 ‘에이전트 도구’를 발표했다.

이번에 내놓은 ‘Responses API’는 검색 기능과 함께 데이터를 추출함으로써 작업을 효과적으로 할 수 있다는 설명이다. ‘Agents Software Development Kit(Agents SDK)’ 기능을 비롯, 새로운 검색, 새로운 통합 관찰 등을 통해 간편하고 손쉽게 에이전트를 개발할 수 있도록 한다. 또한 오픈AI의 기존 ‘Chat Completions API’와 ‘Assistants API’와 통합, 에이전트를 구성하도록 하는 것도 특징이다. 또한 ‘Agents SDK’는 사용자가 단일한, 혹은 다중의 에이전트 워크플로를 모두 오케스트레이션할 수 있도록 한다.

내장된 검색 도구에는 또한 웹 검색 및 파일 검색 기능과 컴퓨터 사용 기능이 포함되어 있으며, 관찰 기능도 활용할 수 있다. 이는 “특히 타사(제품과의) 통합에 중점을 두고 있으며 여러 API나 외부 공급업체를 사용하지 않고도, 오픈AI의 기술과 에이전트 기능을 애플리케이션에 도입하려는 개발자들에게 유용하다”는 것이다. 또 API는 웹 검색 도구를 통해 인터넷에서 최신 공개 컨텍스트를 활용하거나, 파일 검색 도구를 통해 사내의 비즈니스 컨텍스트를 활용할 수 있다.

컴퓨터에서 ‘Responses API’를 통해 마우스 클릭이나 키보드 입력과 같은 상호 작용으로 에이전트를 만들 수 있다. 이는 또 오픈AI의 ‘Operator’ 에이전트를 활성화하는 모델과 함께 사용할 수 있다.

데이터브릭스, 에이전트 도구 출시

이보다 앞선 3월초 데이터브릭스(Databricks)도 기업이 에이전트 도구를 배포, 모니터링하고, 통합하는 데 도움이 되는 새로운 도구를 출시했다. 이는 AI 모델 관리를 위한 중앙 집중식 거버넌스, 타사 도구에서 챗봇과 사용자 지정 애플리케이션을 간소화하는 도구, 에이전트 평가 도구 등이 포함된 것이다.

데이터브릭스는 또 아마존과도 협업, “고객이 생성AI 애플리케이션을 더 빠르게 출시할 수 있도록 하는 ‘탁월한 규모와 가성비’를 자랑하는 성능”을 기약했다. 특히 ‘Mosaic AI’로 구축된 맞춤형 모델의 개발을 가속화할 것이라고 밝혔다. 이에 데이터브릭스는 AWS 트래니엄(Trainium) 칩을 활용, AWS에서 Mosaic AI 모델 교육 및 제공 기능을 구동한다. 그 과정에서 “사용자들은 개인 데이터에서 대규모 언어 모델(LLM)을 안전하게 사전 교육, 미세 조정, 증강 및 제공할 수 있을 것”이라고 밝혔다.

AWS, ‘아마존 베드록’, ‘아마존 Q’

AWS 역시 AWS ‘re:Invent 2024’에서 출시한 ‘아마존 베드록’ 플랫폼에 에이전트 구축 기능을 도입했다. ‘베드록 에이전트’(Bedrock Agents)는 고객들이 스스로 자체 에이전트를 개발할 수 있는 뿐만 아니라, 전체 에이전트 팀을 조율해 복잡한 워크플로를 수행할 수 있도록 한다. 또한 에이전트 사용자 정의 기능을 ‘베드록’과 ‘아마존 Q’(Amazon Q) 개발자 어시스턴트에 적용했다.

AWS는 이들의 다양한 새로운 에이전트 AI 기능을 통해 고객이 다양한 워크플로에 대한 에이전트를 빌드하고 배포할 수 있도록 했다. 또한 고객에게 자체 에이전트뿐만 아니라 더 복잡한 작업을 완료하도록 조정할 수 있는 전체 에이전트 팀을 빌드할 수 있도록 했다.

AWS는 “이런 다중 에이전트 협업을 지원하기 위해 기존 에이전트 제공 제품인 ‘베드록 에이전트’를 확장할 것”이라고 발표했다. 개발자 등은 또 다른 에이전트를 관리하는 ‘감독자(매니지먼트)’ 에이전트를 만들 수도 있다. ‘감독자’는 프로젝트를 조정, 다른 에이전트에게 작업을 라우팅하거나 특정 에이전트에게 정보에 대한 액세스 권한을 부여하기도 한다.

워크데이, ‘System of Record’

또 다른 스타트업인 워크데이(Workday)의 에이전트 도구도 눈에 띈다. 이 회사는 올해 초 에이전트 AI 시스템 관리의 부담을 덜어주는 ‘에이전트 기록 시스템’(System of Record)을 출시했다. 일종의 ‘에이전트 AI’ 개발 보조기구인 셈이다.

이를 통해 에이전트 개발자들이 액세스 규정을 준수하도록 한다. 신규 에이전트의 역할과 기술을 정의하고, 안전한 방식으로 관련 데이터에 대한 액세스 권한을 부여할 수 있다. 에이전트 활동을 모니터링하고 비용을 추적하며, 신원 확인, 에이전트 오케스트레이션 및 재무 비용에 대한 감독을 할 수 있다. 에이전트에 대한 예산과 예측도 할 수 있다.

회사측은 “기업이 AI 에이전트 배포를 가속화함에 따라 중앙 집중식 관리 시스템을 만드는 것이 중요해지고 있다”고 밝혔다. 또한 다양한 용도로 에이전트를 배치함에 따라 에이전트 AI 관리와 관련된 복잡한 문제를 해소할 수 있다는 설명이다. 특히 “워크데이와 타사의 에이전트를 모두 관리할 수 있으므로 기업은 새로운 디지털 인력을 관리하고 활용할 수 있다”는 것이다.