미래형 AI반도체 기술…‘아날로그 인 메모리 컴퓨팅’

[애플경제 전윤미 기자] AI반도체의 중요성이 강조되는 가운데, 기존 PIM(Processing-In-Memory)구조는 MAC연산 등에서 한계가 있다는 지적이다. 이에 최근엔 인 메모리 컴퓨팅과 아날로그 컴퓨팅의 장점을 취한 ‘인 메모리 컴퓨팅’ 기술이 AI 반도체의 유력한 요소로 새삼 주목을 받고 있다.

그 동안 메모리 중심의 컴퓨팅 기술인 PIM 기술은 AI반도체가 중요해질수록 각광을 받았닥다. 그러나 많은 전문가들은 “PIM 구조에서 MAC 연산을 위한 가중치(weight)의 값을 외부 메모리에서 읽고 쓰다보니, 대역폭의 제한이나, 에너지 효율 측면에서 문제가 있다”며 대안을 모색해왔다. 즉, 처리 용량과 속도 등에서 한계가 노출되고 있다는 지적이다.

PIM, MAC연산 가중치 외부 메모리 읽고 쓰는 단점

특히 이 분야에서 가장 활발한 연구활동을 이어온 한국전자통신연구원의 연구팀은 박성모 책임연구원 등 연구진은 “이를 해결하는 방안의 하나로 ‘아날로그 인 메모리 컴퓨팅 기술’이 주목을 받고 있다.”고 이에 초점을 둔 연구결과를 소개, 눈길을 끌고 있다.

이에 따르면 ‘아날로그 인 메모리 컴퓨팅’은 AI반도체 기술의 발전과 함께 새로운 패러다임으로 각광받고 있다.

본래 PIM 구조를 가지는 인공지능 반도체인 뉴로모픽은 에너지 효율성이 매우 높다. 그래서 뉴로모픽 기반의 인공지능 응용 분야에서 최근 널리 사용되고 있다. 앞서 소개된 것처럼 MAC 연산 과정에서 한계가 있다는 지적이다.

이에 비해 ‘아날로그 인 메모리 컴퓨팅’ 연산은 메모리 내부에서 연산이 가능하다보니, 별도로 데이터를 이동시킬 필요가 없다. 또한 “메모리 디바이스의 물리적 특성을 활용하여 대규모의 병렬 및 아날로그 방식으로 연산을 수행하므로 에너지 효율 및 성능 측면에서 장점이 있다“는 설명이다.

‘인 메모리 컴퓨팅’, 적은 전력으로 병렬처리 통한 성능 개선

즉 “‘인 메모리 컴퓨팅’의 핵심은 데이터 이동에 사용되는 에너지 소모를 완전히 제거, 전력 효율을 극대화하는 것”이라며 “데이터를 이동시키지 않고 메모리에 저장된 가중치(weights)를 사용하여 연산을 진행하는 것”으로 요약된다.

그러나 응용 분야에서 필요한 연산량이 증가하면서 메모리 대역폭 문제가 나타나고 있다. 이를 해결하기 위해 기왕의 PIM 구조 기반의 뉴로모픽 연구가 활발히 진행되고 있다는 얘기다. 또 “아날로그 기반의 구조를 활용하여 메모리 대역폭을 높이고, 저전력 솔루션을 개발하기 위한 연구가 진행하고 있다”는 것이다.

애초 메모리 액세스를 위한 에너지가 임의로 작게 설정되더라도 논리(연산) 장치에서 소비되는 계산 에너지는 전체적인 성능에 영향을 줄 수 밖에 없다. 그래서 “전반적인 효율성을 몇 배나 향상하려면 두 가지 한계를 모두 해결해야 한다”는 것이다.

‘인 메모리’ 컴퓨팅은 높은 산술 강도의 알고리즘의 맥락에서 작업 당 메모리 액세스 에너지를 줄일 수 있다. 또 ‘아날로그 컴퓨팅’은 아날로그 프로세서의 규모에 비례하여 계산 에너지 자체를 줄일 수 있다

즉, ‘인 메모리 컴퓨팅’ 기술과, ‘아날로그 컴퓨팅’ 기술 모두가 전체 프로세서 에너지 비용에 미치는 이런저런 한계를 해결하는 효과적인 기술이란 의미다.

이처럼 ‘아날로그 인 메모리’(아날로그 인메모리 컴퓨팅)는 메모리 내에서 직접 계산을 수행함으로써 심층 신경망 추론 작업에 드는 시간과 에너지 소비를 줄일 수 있다. 다시 말해 “지연 시간과 에너지 소비량을 줄이기 위해선 ‘아날로그 인 메모리’를 온칩 디지털 작업이나, 온칩 통신과 결합해야 한다.”는 전문가들의 견해다.

이는 PIM 기술과 함께 의료, 교육, 제조업, 국방 분야 등 다양한 영역에서 확장될 것으로 예상된다. 반도체 의존도가 높아질수록, 에너지 효율도 더욱 강조될 것으로 보인다. 이에 전력소모가 적고 병렬처리를 통한 성능 개선의 요구가 계속될 것으로 보인다. 그 과정에서 ‘아날로그 인 메모리’ 컴퓨팅 기술은 더욱 각광 받을 전망이다.