[시론] 하고 싶어도 쉽지 않은 'AI 속도조절'

인공지능(AI)이 두려울 만큼 빠르게 발전하면서 AI 개발 속도를 늦춰야 한다는 속도 조절론이 대두됐다. AI 개발까지 AI에 맡기는 비율이 늘자 언젠가는 재귀적 자기개선(RSI)을 통한 '지능 폭발'이 일어나 인류가 멸망하거나 소외될 것이란 극단적 전망까지 나오면서다. AI는 이렇듯 인류에게 실체적 위협으로 부상했다. 하지만 속도 조절론이 실제로 현실에서 먹힐지는 또 다른 문제다. 변하기 힘든 인간 본성 탓에 속도 조절은 결국 어려울 거란 전망이 많다. 이처럼 인간 본능의 한계로 브레이크를 밟을 수 없는 구조적 상황은 게임이론을 비롯한 사회과학에서 여러 용어로 개념화됐다. '죄수의 딜레마'와 '치킨 게임'이 대표적이다. 죄수의 딜레마는 두 주체가 서로 협력하면 최선에 도달할 수 있지만, 결국 상대를 불신해 각자 이익을 추구하다 모두 최악의 결과를 맞는다는 개념이다. 치킨 게임에선 서로를 향해 정면 돌진하는 두 운전자 중 먼저 핸들을 꺾는 쪽이 지게 된다. 세계적인 AI 기업 간 경쟁이 딱 이런 형국이다. 겉으로는 속도를 조절하자고 하지만, 사실 서로를 믿을 순 없다. AI 양대 강국인 미국과 중국 간 AI 개발 경쟁 역시 마찬가지다. 승자독식 개념은 첨단 신기술 업계에서 진리로 인식되는데, 국가 간 관계에선 이 현상이 더 두드러진다. 미·중 양국 가운데 AI 경쟁에서 지는 쪽은 2등 국가로 추락에서 끝나지 않고 소멸 위기에 처할 수 있다. 실제로 미·중 양국의 수뇌부는 학계와 업계 등에서 제기된 AI 속도조절론을 일축하고 있다. 두 나라 간 헤게모니 쟁탈전을 좌우할 결정타가 AI 분야여서다. 국제법이나 국제 조약이 열강들의 이해관계에 따라 언제든 휴지 조각이 될 수 있다는 걸 우리는 경험으로 잘 안다. 그렇듯 AI 속도조절론 역시 취지엔 모두 공감할지라도 강자들과 업계 핵심들이 동의하지 않으면 아무 의미가 없다. 영화 '터미네이터'에서 AI가 핵전쟁을 일으켜 인류를 파멸시켰던 허구가 현실이 될 가능성이 커지더라도 AI 발전을 제어하긴 쉽지 않은 상황이다. 미·중 패권 다툼과 AI 기업 간 개발 경쟁을 실제로 막을 주체가 있다면 모르겠지만, 안타깝게도 아직 현실에서 그런 힘을 가진 존재는 보이지 않는다. 연합