메모리 셀에서 직접 연산, 저장, ‘전력 필요한 전송 불필요’
美 대학 연구진 개발 ‘정보 처리 로직, 저장 메모리 구분없어’
나노 장치 ‘자기터널접합’(MTJ) 활용…“지구촌 에너지난 해결” 기대
[애플경제 이보영 기자] 생성AI 시스템은 엄청난 전력을 소모한다. 이에 엔비디아는 최근 ‘슈퍼칩’을 개발, 전력 소모를 20~30분의 1로 줄일 수있다고 밝혀 눈길을 끌기도 했다. 그런 가운데 미국에 있는 한 연구팀이 개발한 ‘계산 램’(CRAM) 기술이 그 획기적인 대안으로 등장했다. 연구팀은 메모리 배열 내에서 데이터를 완전히 처리, 전력 등 에너비 소비를 최소 1천분의 1 이상으로 줄일 수 있다고 발표, 주위를 놀라게 했다.
미국의 미네소타 트윈 시티 대학교의 연구원들은 최근 AI 에너지 소비를 최소 1천분의 1로 줄일 수 있는 기기를 개발했다고 ‘인사이더 비즈니스’에 밝혔다. 이에 따르면 연구진들은 데이터 연산과 전송 과정을 하나로 묶는데 초점을 둔 것으로 알려졌다.
보통 머신 러닝이나 AI 프로세스는 시스템 내에서 정보를 처리하는 로직과, 데이터가 저장되는 메모리를 구분, 그 사이에 데이터를 전송하는 방식이다. 그처럼 전송하는 과정에 막대한 전력이 소모됨으로써 상당한 에너지가 필요하게 되는 것이다.
그러나 미네소타 시티 연구진은 이른바 연산과 전송을 따로 하는 대신, ‘계산 램’(CRAM)에서 연산하고 그 자리에 데이터를 영구 보관한다. ‘CRAM’은 메모리 셀 내에서 직접 계산을 수행, 배열 구조를 보다 효율적으로 사용하는 원리다. 그렇게 되면 데이터 전송에 따른 지연문제나 에너지 소모를 없앨 수 있다.
또 다른 실험은 기존 컴퓨팅의 1/2500, 1/1700 전력
해당 연구진을 대표하는 울리야 카르푸츄 교수는 “‘CRAM’은 에너지 효율을 극대화한 디지털 기반 ‘인메모리 컴퓨팅’ 기판이며, 메모리 배열 내 어느 위치에서나 계산을 수행할 수 있다는 게 장점”이라며 “다양한 AI 알고리즘의 성능 요구 사항에 가장 잘 부합하도록 CRAM을 재구성할 수 있다.”고 밝혔다. 그러면서 “오늘날의 AI 시스템을 위한 어떤 구성 요소보다 에너지 효율적”이라고 덧붙였다.
이에 따르면 CRAM 기반 머신 러닝 추론 가속기 테스트에서 무려 1천분의 1의 에너지 절감 효과가 나타났다. 심지어 또 다른 실험 사례에선 기존 컴퓨팅에 비해 2,500분의 1과 1,700분의 1에 달하는 에너지 절감이 이루어졌다고 전했다.
이 연구는 그보다 앞서 있은 선행 연구에 바탕을 둔 것으로 알려졌다. 해당 연구진은 이미 하드 드라이브, 센서, 기타 마이크로 전자 시스템(MRAM 포함)을 개선하는 데 사용되는 나노 구조 장치인 ‘자기 터널 접합’(MTJ)을 개발한 바 있다. 이번 연구 개발도 이를 응용한 것으로 전해졌다.
현재 가장 효율적인 단기 ‘랜덤 액세스 메모리’(RAM) 장치는 4~5개의 트랜지스터를 사용하여 1 또는 0을 코딩한다. 그러나 연구진이 앞서 개발한 ‘스핀트로닉스’ 장치의 일종인 ‘MTJ’는 단 한 개의 훨씬 적은 에너지로 동일한 기능을 수행할 수 있다. “속도 역시 더 빠르고, 혹독한 환경에도 회복력이 있다”는 얘기다.
연구진의 한 관계자는 “20년 전만 해도 ‘메모리 셀’을 컴퓨팅에 직접 사용한다는 개념은 ‘미친 짓’으로 여겨질 만큼 낯설었다.”며 이번 연구 개발의 의미를 되새겼다. 앞으로 이들은 기왕에 획득한 여러 관련 특허를 바탕으로 주요 반도체 기업들과 협업, 대규모 기술적 ‘데모’를 제공할 계획이다.
‘메모리 셀을 컴퓨팅 활용 극대화한 개념’
이같은 연구는 생성AI와 데이터센터 등으로 인한 에너지 소비량이 폭증하고 있는 국제적 현실을 반영한 것으로 풀이된다. 올해 초 국제 에너지 기구(IEA)는 AI를 위한 에너지 소비가 2022년 460테라와트시에서 2026년 1,000TWh로 두 배 증가할 것으로 예상하기도 했다. 이는 인구 1억2천만의 일본이 한해동안 쓰는 전체 전기 소비량과 거의 같다.
지난주에도 세계 경제 포럼(WEF)은 “생성AI 시스템이 이미 작업별 소프트웨어보다 약 33배나 더 많은 에너지를 사용, 작업을 이행하고 있다”고 경고한 바 있다. 이에 AI개발업계를 비롯한 산업 전 분야에 걸쳐 AI 에너지 소비를 줄이는 것이 최대 과제가 되고 있다.
그런 가운데 출현한 이번 미네소타 시티 연구진의 ‘CRAM’기술은 생성AI 시대의 지구촌 에너지난을 해결할 열쇠가 될 것인지가 관심을 끌고 있다.