인간과 유사한 AI, 즉 범용인공지능(AGI)을 개발하는데 큰 장벽이 하나 있다. 인간으로 말하면 ‘치매’라고 할까.
새로운 정보를 습득할 때마다 지금까지 저장해둔 정보를 깡그리 잊어버리는 ‘파괴적 망각(CF: Catastrophic Forgetting)’ 이 그것이다. 마치 인간의 건망증, 기억 상실, 혹은 치매를 연상케 한다. 잊어버리는 것 역시 삶의 변증법적 과정이라는 철학적 사변에도 불구하고, 이는 분명 상실이자 고통이다. 더욱이 AGI의 파괴적 망각은 단계적으로 악화되어가는 인간의 치매와는 달리, 한 순간 지능과 기억이 먹통이 됨으로써 인간 개발자들을 절망에 빠뜨리곤 한다.
AGI의 파괴적 망각은 안면인식 소프트웨어나, 도로 장애물을 연구하는 자율주행 자동차 등에 접목하려면 특히 그렇다. 이런 장치들은 미지의 정보를 해석할 능력을 키우기 위해 새로운 데이터를 분석하고 학습해야 한다.
그때마다 새로운 과업과 기존 정보처리능력 간의 공통변수라고 할 파라미터를 조정해야 한다. 그 순간 이전에 학습한 파라미터를 덮어버리고, 기존의 모든 지식을 잊어버린다. 그 때문에 하나를 배워 둘을 알고, 넷을 알아가는 지속적인 순차학습기능이 사라져버리는 것이다. 인간의 치매처럼 망각의 강 레테(Lethe)를 건너버린 격이다.
물론 인간세상에서 망각은 때로 죄를 잊게해주는 은총이나 자비와도 같다. 망각에 의한 파괴는 곧 긍정적 의미의 재생산, 혁명적 사고를 촉발시키는 계기도 된다. 과거의 기억을 부정하고 새 출발을 하기 위한 삶의 보조자이며, 초역사적인 시각의 담론을 생성하기도 한다. 오죽하면 프로이트 같은 이는 망각을 기억의 한 형태로 이해했을까. 그는 아예 잘못되었거나 불완전한 기억의 대상들과 시․공간적으로 맞바꾼 기억이 곧 망각이라고 했다.
그럼에도 서구적 개념으로 망각은 부정적이다. 진리를 부정하는 것이며, 모든 체험의 소멸이자, 생명체의 증거를 없애는 것으로 취급된다. 생명체의 근본인 화학적 사유계열 자체를 망가뜨리는 ‘탈기억’으로 환원될 수 있다. 생명체가 동일성을 유지하고, 새로운 정체성으로 확장하기 위해선 그 화학적 회로가 일정한 반복성을 유지해야 한다. 진화의 가장 기초적인 열역학적 생명 반응이라고 할 클루코스(포도당) 산화작용, 즉 일상적 개념의 호흡이 멈춰선 안 된다는 것이다.
파괴적 망각은 AGI의 그런 기계적 호흡을 끊어버린 셈이다. 그래서 숱한 전문가 집단들은 이 문제 해결에 골몰해왔다. 우선 신경망에 필요한 정보가 정확하게 유지되면서 최소한의 적은 뉴런으로 압축하고, 새로운 것을 학습하는 동시에 뉴런에 새 지식을 우겨넣음으로써 이전의 것을 잊지 않도록 했다. 특히 구글 팀은 가상 환경(VR)에서의 ‘앎’과, 채 실현되지 않는 또 다른 가상 환경에서 나타날 불가지한 형상을 연계시키는 AI 에이전트를 개발했다. 일종의 온고이지신(溫故而知新)에 바탕한 예지능력의 함양이라고나 할까. 그러나 결과는 실패였다.
우겨넣는 방식의 역전달로 신경망을 훈련하는 방식도 결국 효과가 없었고, 분석 대상에 대해 네트워크를 최적화하며 새로운 정보를 입력하는 방식도 허사였다. 새롭고 더욱 복잡한 환경에 알고리즘을 적용하면 기계가 혼란을 일으키며, 그만 과거의 정보를 재생시키지 못한 것이다. 기계일지언정, 생물학적으로 탁월하고, 과거의 정보를 지우지 않는 훈련 알고리즘을 찾아야 하는데 그게 쉽지 않은 것이다.
그러나 비관할 것만은 아니다. 애당초 인간의 문명이란 무엇인가. 경험과 지식이 망각되지 않도록 저장해놓고 재활용한 결과가 곧 문명이다. 그렇다면 기억을 부정하는 망각은 어떨까. 역으로 생각하면 오히려 기억을 촉발시키고, 강화시키는 더욱 강한 문명의 기술이자 추동력이 되어왔다.
‘삶이 곧 상실이고, 상실이 곧 삶’이라는 엘리자베스 로스의 인생수업을 떠올리지 않아도, 이는 모든 새로운 것의 회복이 될 수도 있다. 인과(因果)의 단절이나 카르페 디엠의 철학적 깨달음 역시, 그런 새로운 기억에 대한 찬미와도 맥이 닿는다. 그렇다면 AGI의 파괴적 망각은 걱정할 게 못된다. 오히려 디지털 문명 생성을 위한, 전혀 다른 유목적 사유를 촉발하는 것이다.