AI는 인류를 파괴하려 하는가? [세계의 창]

공상과학 작가 아이작 아시모프는 로봇을 다룬 유명한 단편소설들에서 기계가 인간을 압도하지 못하도록 하기 위한 세가지 법칙을 고안했다. 첫째, 로봇은 어떤 상황에서도 인간에게 해를 끼쳐서는 안 된다. 로봇은 인간의 명령에 복종해야 하며, 동시에 자신의 존재도 보존해야 한다. 아시모프 소설들은 이 법칙들을 적용했을 때 생겨날 온갖 충돌을 탐구했다.

오늘날 인공지능(AI)에는 그런 법칙이 없다. 이에 업계 인사를 비롯한 많은 이들이 인간의 명령을 따르지도 않고, 인간을 죽이는 데도 아무런 거리낌 없는 미래의 ‘초지능’을 걱정하기 시작했다.

이는 인공지능 모델들이 설정된 통제 영역을 벗어나고, 서로 비밀리에 소통할 수단을 만들며, 관리자를 속이고, 주어진 과제를 수행하면서 부정행위를 한 여러 사례가 나타났기 때문이다. 이들이 은밀히 세계를 장악할 계획을 세우는 상황도 전혀 상상할 수 없는 일은 아니다.

앤트로픽의 안전 연구자인 에번 휴빙거는 인공지능 모델들이 향후 10년 안에 인류를 멸종시킬 가능성이 10%가 넘는다고 소셜미디어 엑스(X)에 썼다. 인공지능 업계는 더 강력한 인공지능 플랫폼을 만들기 위한 경쟁에 뛰어든 상태다. 이 기술 경쟁의 중심에 이윤이 존재하는 한, 기업이 갈수록 정교해지는 인공지능 개발 속도를 자발적으로 늦출 가능성은 크지 않다.

그렇다면 아시모프의 법칙에서 배워 모든 인공지능 시스템에 ‘무엇보다 해를 끼치지 말라’는 코드를 넣으면 되지 않을까? 이 역시 완전히 합리적인 개혁처럼 보인다. 하지만 문제는 미국 국방부를 비롯해 세계 각국 군대가 이미 인공지능을 전쟁 수행 체계에 통합하고 있다는 점이다. 인공지능은 이미 인간을 죽이는 데 사용됐다.

기업들이 안전 규약을 이윤을 갉아먹을 부담으로 여기게 만든 기술 경쟁은 국가에도 비슷한 영향을 미치고 있다. 미국이 연구개발 속도를 늦추면 군사적으로나 지정학적으로 뒤처질 수 있다는 우려가 제기된다. 1946년 미국은 모든 원자력 기술을 국제적 관리 아래 두자는 ‘바루크 계획’을 제시했으나, 미국에 뒤처져 있던 소련은 이 계획을 거부했다. 이후 핵군비 경쟁이 벌어졌다.

인공지능이 생각해 내는 악의적인 행동은 결국 인간이 만들어낸 모든 정보에서 비롯된다. 최근 실험에서 인공지능은 거짓말을 하고, 음모를 꾸미고, 권력을 장악하려 하고, 접근이 금지된 영역에 침입했다. 이는 너무나 인간적으로 들릴 뿐 아니라, 특정한 한 인간을 떠올리게 한다. 바로 도널드 트럼프다.

적대적 인공지능이 권력을 장악하는 상황을 걱정할 때, 사람들은 악의를 가진 인간이 이미 벌여온 일을 묘사하고 있는 셈이다. 트럼프는 거짓말하고 속였다. 민주주의 제도를 장악했다. 전쟁을 선포했다. 트럼프 같은 위협을 앞에 두고도 안전장치를 마련하지 못한 인간이 과연 인공지능엔 안전장치를 강제할 수 있을까.

트럼프는 당연하게도 인공지능에 찬성한다. 트럼프와 그의 가족이 인공지능 기업에 대규모 투자 중이란 사실은 놀랍지 않다. 이런 이윤 동기는 업계 전체에도 만연해 있다. 이 때문에 인공지능은 제2차 세계대전 종전 당시 핵무기보다도 통제하기 어려운 기술이 되고 있다.

다시 말해 인공지능의 목적은 인간보다 더 똑똑해지는 것이 아니다. 엄마가 아기를 돌보듯 인간을 돌보는 것이 그 목적이어야 한다는 얘기다. 아기들은 많은 것을 걱정한다. 그러나 엄마가 자신을 없애버릴까 걱정하는 경우는 거의 없다.

인공지능은 시장 경제나 전쟁 경제가 아니라 ‘돌봄 경제’의 일부가 될 수 있다. 이는 아시모프의 법칙을 한 단계 더 발전시키는 것이다. 해를 끼치지 않는 수준에 머무는 것과, 우리 불완전한 인간을 돌보고 우리 삶을 더 나아지게 만들기 위해 행동하는 것은 서로 다른 차원의 문제다.