인공일반지능(AGI)으로 가는 방향에 대한 고찰

세상이 너무 빨리 변한다.

딥러닝을 필두로 하는 인공지능이 사람만큼 (아니 어쩌면 사람보다 더 뛰어나게) 특정 인물의 얼굴을 인식한다. 개와 고양이를 겨우 분류할 수 있게 된 것이 그리 오래 전 뉴스가 아닌데, 이제는 실시간 영상에서 미리 알고 있는 물체(자동차, 동식물, 인공 구조물 따위)를 인식할 수 있다. 물론 아직은 실시간 영상에서 인식하는 정확도가 아주 높지는 않지만, 고화질 비디오에서 화면에 보이는 모든 것을 평균 95%의 정확도로 인식해 내는 것은 시간 문제이다.

강화학습은 우리의 일상에 꽤 많이 침투해 있다. 스마트폰만 살펴 봐도 내가 눈치채지 못하는 사이에 결정과 행동을 학습하고, 다음 번에 스마트폰 화면을 켰을 때에는 적절한 화면 밝기와 진동 모드, 잠금화면 해제 여부 등을 나에게 먼저 추천해 주는 건방진(?) 수준에 이르렀다.

생산적 적대 신경망(Generative Adversarial Network; GAN)은 특정 화가의 화풍을 따라하면서 새로운 그림을 창조하고, 세상에 없는 음악을 만들어 내기도 하며, 특정 사람의 학습된 얼굴을 바탕으로 가짜 비디오까지 만들어 내는(deepfake) 수준이 되었다. 그로 인해 유명인의 가짜 영상을 만드는 등 벌써부터 폐해가 생겨나고 있다.
글 생성 쪽으로 집중한 GPT-2 [1]는 아무 주제나 영어 문장으로 던져 주면, A4 용지 두어장 분량의 글을 의외로 그럴 듯하게 작성해 낸다. OpenAI에서 800만여 개의 웹사이트를 학습한 결과물인 Lite version (...)만 공개하고, 그보다 더 큰 버전은 딥페이크와 마찬가지로 사회적인 폐해가 심할 것이라고 판단해서 비공개로 결정했다고 한다. "오픈"이라는 단어가 이름에 들어가 있는 단체에서 위험성 때문에 일부러 공개를 안 하는 것이 어이가 없지만, lite version이 생성해 내는 샘플만 읽어 봐도 생각보다 전문적인 느낌이 드는 문장과 그럴 듯한 흐름에 묘한 기분을 느끼게 된다. 물론 문장 간의 연결이 아직까지는 이상하고, 같은 맥락의 말을 여러 번 반복하는 등 궤변으로 보이지만, 이것이 lite version의 성능이고 정식 버전은 훨씬 더 강력할 것이다. 즉, AI가 그럴 듯한 가짜 글을 써서 사람을 설득시켜서 말도 안되는 결정을 내리게 하는 상황도 언젠가는 일어날 수 있는 일이 된 것이다.

현재는 인공지능 기술이 특정한 분야와 특정한 목적에 맞추어 개발되고 있고, 인공일반지능(Artificial General Intelligence; AGI)은 아직 없다. 그러나 각 분야에서 인공지능 기술이 보여 주는 놀라운 성능을 볼 때, 시간이 걸리겠지만 언젠가 만들어질 수도 있는 AGI가 인류에게 주는 사회적 영향력에 대해서는 최대한 보수적으로 바라봐야 하지 않을까?

오늘날과 같은 자유로운 사회에서 AGI를 개발하고자 하는 방향 자체를 막는 것은 불가능하고, 이미 시간적으로도 늦은 것 같다. 일각에서는(빌 게이츠, 일론 머스크 등) AGI가 지구상에 엄청난 재앙을 안겨다 줄 것이라고 경고하고, 다른 쪽에서는(레이 커즈와일 등) 아예 우리가 신인류로 업그레이드 되는 유토피아를 상상하는 엄청난 낙관론을 주장한다.

AGI가 어느 쪽으로 가던지 결국 그 방향을 최대한 올바른 방향으로 두고서 인류를 보호/보존하기 위한 노력은 세계적인 차원에서 계속될 것이다 (UN 같은 단체를 통한 개입이 필요할 것이다). 그보다 나는 AGI와 같은 존재가 보편적인 인간의 지성과 물리적 능력을 모두 뛰어넘게 되었을 때, 그리고 그 존재가 기계적으로 대량 생산이 가능할 때, 인류의 진정한 존재 목적과 의미는 무엇인지 묻고 싶다.

 

딥러닝, 강화학습, GAN 등의 근간이 되는 인공 신경망은 인간의 뇌 구조의 일부를 모방한 것이다. 거꾸로 생각해서 인간이 일상 생활 속에서 외부 자극을 받아들이고 신경 세포에 기억을 해 두고, 잠을 자면서 뇌의 활동을 통해서 신경 세포 간에 새로운 연결을 만들거나, 기존 연결을 강화시키거나 거꾸로 약화시키는 등의 작업을 거치고, 또다른 일상 생활 속에서 자신의 뇌를 사용하여 직관, 창의성 등을 발휘하며 살아 간다.

아직까지는 한 사람의 뇌를 인공 신경망으로 만들기에는 용량이 지나치게 커서 불가능한 것이 (딥러닝 기준에서 노드 수와 hidden layer 수가 현존하는 슈퍼컴퓨터 용량을 아득하게 뛰어넘는) 다행이지만, 인간의 뇌 속에서 뉴런을 통한 신경 물질의 전달 속도에 비해 압도적으로 빠른 컴퓨터의 신호 전달 속도는 어쨌든 저용량의 AGI라고 하더라도 산업적으로 상당히 뛰어난 생산성을 보일 것이다. 생산 활동을 하지 않는 인간 개인의 입장에서, 자신의 존재 목적과 의미를 찾지 못한다면, 좀더 멀리 보자면 더 나은 미래를 향한 희망을 상실한다면, 그리고 그런 인간이 매우 많다면?

내 생각에는 마지막으로 남는 것은 진부하게 들리겠지만 사랑일 지도 모르겠다. 서로 상호작용하고, 사랑하면서 기쁨을 느끼는 것. 인풋에 대해 특정 아웃풋을 극대화하기 위해서 내리는 판단이 아닌, 말 그대로 사랑하기 때문에 utility function의 결과값에 전혀 상관 없이 내리는 모든 결정만큼은 인공지능이 학습할 수 없기를 바란다.

[1] https://openai.com/blog/better-language-models/