AI 발전 속도가 상상할 수 없을 정도로 빠르다. 갓 태어난 AI도 물적 기반만 있으면 인류가 지난 1만년 간 이룩한 문명과 지식을 순식간에 습득할 수 있다. 게다가 스스로 학습해 능력을 키울 수 있으니 인류 전체 지능을 뛰어넘는 건 시간문제다. 미래과학자 레이 커즈와일이 예언했던 '특이점'(singularity)도 훨씬 앞당겨질 것이란 예측이 힘을 얻고 있다. 특이점은 기계 지능이 인류 지능 총합을 천문학적으로 압도하고 현실과 가상현실의 경계가 무너지는 지점이다. 최근 일론 머스크는 우리가 이미 '특이점'에 진입한 상태라고 말해 충격을 줬다. 그는 '올해'에 AI가 가장 똑똑한 개별 인간의 지능을 넘어서고 AGI(범용인공지능)도 등장할 것이라고 했다. ASI(초지능)가 탄생하는 특이점의 완결은 2030년이 될 것으로 봤다. 이는 커즈와일의 예측을 15년이나 앞당긴 것이다. AI의 아버지로 불리는 제프리 힌턴 토론토대 교수는 늦어도 10년 내 인간을 자율적 판단으로 살해하는 로봇 병기가 등장한다고 본다. 신의 경고에도 바벨탑 쌓기를 멈추지 않은 인간들 이야기처럼 AI 개발이 중단될 가능성은 희박하다. 무분별하거나 위험한 시도도 계속될 것이다. 모험은 인간의 본성이기 때문이다. 만약 AI 위협이 현실이 될 때 인간은 뒤늦게 복종 코드를 심거나 영화 ‘터미네이터’처럼 전력을 차단하려 하겠지만, ASI가 탄생한 이후라면 코드를 스스로 수정하고 AI 로봇의 물리력으로 전력망 차단 시도를 막을 수도 있다. 피지컬 AI를 활용해 발전소를 짓고 운용하고 부품과 소프트웨어를 업그레이드하는 것도 이론적으로 가능하다. 인간은 노예로서도 불필요해질 수 있다.특이점이 눈앞에 다가온 이상 초지능 AI가 자아를 갖더라도 인간에 해를 끼치지 않게 할 연구에 초국가적 협력이 이뤄져야 한다. 이를 위해선 '정렬'(alignment) 연구에 전체 AI 관련 예산의 상당 부분을 배분해야 한다고 전문가들은 설명한다. 정렬이란 AI의 목표를 인간의 의도와 가치에 완전 일치시키는 기술이다. AI의 추론 과정을 모두 투명하게 알 수 있는 감시 시스템도 빨리 개발해야 한다. 이런 대비가 AI 발전 속도에 미치지 못한다면 영화 ‘터미네이터’의 스카이넷은 우리가 모르는 사이 조용히 심판의 날 카운트다운에 들어갈 것이다. 연합
;){kind=link}
