1969년 7월 20일. 인간은 처음으로 달에 발을 디뎠다. 이 모습을 전 세계 5억 명이 넘는 사람들이 지켜봤다. 과학과 기술이 인간을 어디까지 데려갈 수 있는지를 보여준 20세기 문명의 가장 획기적인 순간이었다. 그런데 그 무렵 희한한 일이 하나 일어났다. 미국의 듀오 Zager and Evans가 기상천외한 노래 하나를 발표했다. ‘In the Year 2525’라는 노래였다. “기술이 인간의 생각과 행동, 신체 기능까지 대신하면서 인간은 점점 스스로의 능력과 존재 이유를 잃어간다”며 “끝내 문명은 인간을 구원하지 못하고, 지구를 소진한 인간의 시대 자체가 종말을 맞는다”는 내용이었다. 이 노래는 1969년 7월 12일 빌보드 싱글 차트 1위에 올라 6주 동안 정상을 지켰다. 닐 암스트롱이 인류가 지켜보는 가운데 달 표면에 발을 디디던 순간에도 미국 최고의 히트곡은 이 노래였다. 한쪽에서는 인간이 달을 정복했다고 환호하고 있었고, 다른 한쪽에서는 인간의 종말을 노래하고 있었다. 참 묘한 시대였다.“Your arms hangin’ limp at your sides/Your legs got nothin’ to do/Some machine’s doin’ that for you/You won’t need no husband, won’t need no wife/You’ll pick your son, pick your daughter too/From the bottom of a long glass tube. 두 팔은 힘없이 몸 옆에 늘어져 있고/두 다리도 더 이상 할 일이 없어/기계가 그 모든 일을 대신해 줄 테니까/남편도 필요 없고, 아내도 필요 없어질 거야/원하는 아들을 고르고, 원하는 딸도 고르게 되겠지/길고 투명한 시험관 속에서 말이야.” 참으로 비관적이고 암울한 예언이다. 노래의 처음과 끝에는 더 섬뜩한 구절이 나온다. “In the year 2525, if man is still alive/If woman can survive, they may find. 2525년, 그때까지 인간이 살아 있다면/여자도 살아남아 있다면, 아마 이런 세상을 보게 되겠지”라고.당시 이 노래를 듣던 사람들은 그저 신기하게 생각했을 것이다. 먼 미래를 그린 상상의 노래, 잘 만든 공상과학소설 한 대목쯤으로 받아들였을 법하다. 2525년은 무려 556년 뒤였다. 그때 세상이 정말 저렇게 되리라고 생각한 사람은 거의 없었을 것이다. 보름달의 얼룩을 보고 옥토끼가 방아에 불로장생의 약을 찧고 있다고 상상하던 인류의 순진무구함을 닐 암스트롱이 단숨에 깨뜨리고 있었지만, 그래도 이 노래는 너무 멀리 나갔다고 여겼을 것이다.그런데 노래가 만들어진 지 60여 년이 지난 지금은 어떤가. 글을 쓰고, 그림을 그리고, 음악을 만들고, 번역하고, 진단하고, 계산하고, 기억하고, 판단하는 일까지 기계가 대신하기 시작했다. 인간만이 할 수 있다고 믿었던 일들의 목록이 빠른 속도로 줄고 있다. 얼마 전까지만 해도 “설마 이것까지” 하던 일들을 이제 AI가 아무렇지도 않게 해치운다.문제는 여기서 끝나지 않는다. 이제 AI가 AI 개발까지 맡기 시작했다. 최근 제프리 힌턴과 요슈아 벤지오를 비롯한 주요 AI 연구자 22명은 공동 논문에서 AI 연구개발의 자동화가 ‘지능 폭발’로 이어질 가능성을 경고했다. AI가 코드를 짜고 오류를 고치고 더 나은 AI를 개발하는 일이 반복되면 수년 걸리던 기술 진보가 몇 달로 줄어들 수 있다는 것이다.벌써 조짐도 보인다. 앤트로픽에서는 개발진이 승인한 코드 가운데 AI가 작성한 비율이 80%를 넘어섰고, 인간은 감독만 하고 AI가 주도한 연구개발 업무 비율도 몇 달 사이 1%에서 26%로 뛰었다. 이른바 ‘재귀적 자기개선’이다. 더 똑똑해진 AI가 더 나은 AI를 만들고, 그 AI가 또 더 나은 AI를 만드는 식이다. 여기까지 오면 인간은 개발자가 아니라 구경꾼이 될 수도 있다. 우리가 만든 기계가 제 후계자를 스스로 만들기 시작하는 것이다.연구자들은 가장 극단적인 경우 AI에 대한 통제를 잃어 인류의 소외나 멸망으로 이어질 수 있다고 경고한다. 그렇다고 AI가 반드시 인류를 파멸시킨다고 말하는 것은 아니다. 신약을 만들고 과학의 난제를 푸는 데 엄청난 도움을 줄 수도 있다. 문제는 속도다. 인간 사회가 법과 제도를 하나 고치는 동안 AI는 몇 세대를 뛰어넘어버릴 수도 있다. 뒤늦게 규제하겠다고 나섰을 때는 이미 손쓸 수 없는 단계에 가 있을지도 모른다.그래서 연구자들은 AI 기업의 연구개발 자동화 수준을 정부에 보고하게 하고, 위험 기준을 넘으면 개발 속도를 늦추거나 중단할 수 있는 장치를 마련해야 한다고 주장한다. 여기서 눈여겨볼 대목이 있다. AI를 잘 모르는 사람들이 겁을 먹고 떠드는 것이 아니다. AI를 누구보다 잘 알고, 지금 이 순간에도 AI를 만들고 있는 사람들이 위험하다고 말하고 있다. 만든 사람이 겁을 내기 시작했다면 듣는 사람도 조금은 겁을 먹어야 하지 않을까.1969년 사람들은 ‘In the Year 2525’를 들으며 556년 뒤의 괴상한 상상이라고 웃어넘겼을지 모른다. 그러나 지금 우리 앞에 놓인 문제는 더 이상 2525년의 이야기가 아니다. 어쩌면 Zager and Evans가 틀린 것은 미래의 모습이 아니라 그 미래가 오는 시기였는지도 모른다. 기계가 인간의 일을 대신하는 시대를 지나, 기계가 스스로 더 뛰어난 기계를 만드는 시대가 오고 있다. 그런데 우리는 준비가 돼 있는가. 아니, 준비라는 것을 하기는 하고 있는가.