AI 에이전트, AI 기반 사이버보안과 공격, AI ROI 논쟁 등
테크리퍼블릭 분석, ‘과학연구에 큰 영향, AI 기반 에너지효율 논란’도
[애플경제 이윤순 기자] AI 에이전트가 생성AI 시대의 새로운 패턴을 선보이고 있다. 내년에는 AI 에이전트가 더욱 유행하는 가운데, AI를 활용한 사이버보안, 그리고 AI의 투자수익에 대한 치밀한 평가와, 에너지 비용을 낮추기 위한 AI 도구 활용 등이 새로운 생성AI 트렌드로 자리잡을 전망이다.
기술매체 ‘테크리퍼블릭’은 5일 “그러나 AI 도구는 에너지 비용을 상쇄하지 못할 것이다. 다만 AI는 과학 연구에 큰 영향을 미칠 것”이라며 이런 내용을 담은 ‘2025년에 주목해야 할 생성 AI 트렌드’ 5가지를 제시했다.
우선 AI 에이전트가 2025년에 급증할 것으로 전망된다. 이는 非구조화된 환경에서 명령을 수행하기 위해 애플리케이션을 연결하거나 애플리케이션과 상호 작용할 수 있는 반자율적 생성 AI라고 정의할 수 있다. 예를 들어, AI 에이전트를 사용해 전화를 걸거나, 복잡한 문제를 추론하고, 인간의 개입없이 자율적으로 의사 결정을 하고, 여러 단계의 작업을 독립적으로 처리할 수도 있다.
이같은 AI 에이전트는 특히 2025년에 생성 AI 마케팅의 최전선에 설 가능성이 크다. ‘테크리퍼블릭’은 특히 AI에이전트에 대해 “올해의 AI, ‘코파일럿’의 다음 단계 진화가 될 수 있다.”는 의견이다.
사이버 보안 부문에서 2025년에도 AI를 계속 활용할 것으로 보인다. 특히 사이버공격자들도 이를 적극 악용할 것으로 예상된다. 2024년에 이미 생성 AI 보안 제품이 급증했다. 이들 제품은 코드를 작성하고, 위협을 탐지하고, 까다로운 질문에 답하며 검증하는 등의 역할을 할 수 있다. 하지만 생성 AI는 부정확한 정보를 제공할 수도 있다. 보안 전문가는 출력을 재차 확인하느라 많은 시간을 들여야 한다. 자칫 정보를 정확히 검토하지 못하면 코드가 손상되고 보안 문제가 더 심화될 수 있다.
생성 AI 모델은 다른 소프트웨어와 마찬가지로 악의적인 행위자, 특히 ‘탈옥’ 공격에 악용될 수도 있다. 이처럼 사이버 범죄에서 AI의 역할이 커지고 있다. 그래서 “2025년에는 AI가 공격의 규모뿐만 아니라 정교함도 향상시킬 것”이라며 “특히 AI를 이용한 피싱 공격은 감지하기 더 어려워질 것이며, 공격자들은 AI가 지속적으로 학습하고 적응하도록 훈련할 것”이라는 경고다.
또한 AI가 생성한 비디오, 오디오 및 텍스트가 확산됨에 따라 허위 정보 보안이 더욱 중요해질 수 밖에 없다. 그럴수록 “보안 팀은 클라우드로의 대규모 마이그레이션과 같은 변화에 적응한 것처럼, 생성 AI를 사용하고 방어하기 위해 변화된 환경에 대응해야 한다”는 조언이 따른다.
현재 ‘AI붐’ 속에서도 많은 기업들은 과연 생성 AI가 기업 가치를 높여주는지, 특정 용도에 차별화를 기할 수 있는지를 확신하지 못하고 있다. 실제로 AI를 도입하는 기업들은 많은 비용과 불분명한 목표가치에 혼란스러워하기도 한다.
테크리퍼블릭은 “이는 생성 AI와 다른 많은 애플리케이션의 통합을 가로막는 걸림돌로 작용한다”면서 “그렇다보니 애플리케이션의 가치를 실제로 높일 수 있을까 의심하기도 한다”고 지적했다. 실제로 AI 도입은 비용이 많이 들 수 밖에 없다. 만약 투자한 만큼의 수익을 창출하지 못할 경우, 기업으로선 그 기능을 다시 엄격하게 테스트하고, 때로는 폐기할 수도 있다. 2025년엔 특히 그런 현상이 많이 일어날 것으로 전망된다.
그럼에도 AI는 상당한 과학적 성과를 견인해왔다. 실제로 2024년 노벨상 수상자 중 4명이 AI와 관련이 있다. 또 미 백악관은 10월 31일과 11월 1일에 생명 과학 분야에서 AI를 사용하는 것에 대한 정상회담을 열기도 했다. AI가 어떻게 세계에 영향을 미치는 방식으로 복잡한 과제를 해결할 수 있는지도 강조했다. “이러한 추세는 생성 AI 모델이 성장하고 성숙함에 따라 내년에도 계속될 가능성이 높다”는 전망이다.
그러나 “AI로 만든 환경 도구는 에너지 비용을 상쇄하지 못할 것”이란 결론이 우세할 것으로 예상된다. 에너지 효율성은 AI의 또 다른 유행어가 되다시피했다. AI는 기상 패턴을 예측하거나 에너지 사용을 최적화하는 데 도움이 된다. 그러나 이런 목적의 생성 AI를 실행하는 데 필요한 데이터 센터 구축비 등 환경적 비용은 또 다른 문제다. 이는 엄청난 양의 전기와 물이 필요하며, 지구 온도를 상승시킬 뿐이다.
그럼에도 불구하고 많은 기업들은 AI를 중심으로 에너지 절감과 친환경 기술을 시도할 가능성이 크다는게 문제로 지적된다.