인공지능(AI)이 인류의 적이 될 것이라는 우려를 나타내는 유명 인사들이 늘고 있다. 이런 우려를 불식시키기 위해 구글은 인공지능이 인류에게 반역 행위를 일으킬 경우 인위적인 조작을 통해 이를 방지할 수 있는 “비상 버튼”같은 구조를 개발 중이라고 밝혔다.

몇 년 전부터 인공지능이 인류의 적이 될 수 있음을 표명하는 유명인이 증가하고 있다. 예를 들어 이론 물리학자 스티븐 호킹 박사는 자율형 무기를 금지하도록 호소했고, 스웨덴의 철학자 닉 보스트롬은 자신의 저서 슈퍼인텔리전스(Superintelligence)에서 인공지능이 인류의 지성을 뛰어넘었을 때 인류는 멸종 위기에 노출될 가능성이 있다고 주장했다.

전기 자동차 개발사 테슬라 모터스와 로켓 개발사 스페이스 X CEO로 잘 알려진 기업가 엘론 머스크 역시 닉 보스트롬의 저서를 언급하면서 “인공지능은 핵무기보다 위험할 수 있다.”고 트윗한 바 있었다.

이러한 우려에 대해 구글의 인공지능 사업부문은 이달 인공지능이 인류에게 반역할 경우 이를 방지할 수 있는 "비상 버튼" 구조를 개발 중이라고 발표해 뉴스위크 등이 보도했다.

구글이 2014년 인수한 딥마인드는 <안전하게 중단할 수 있는 에이전트(Safely Interruptible Agents)>에 관한 논문을 발표했다. 논문 중 딥마인드는 자율 학습형 에이전트(AI)가 인류에게 유해한 행동을 전개할 때 인간 운영자가 비상버튼(Big Red Button)을 누름으로써 유해한 행동을 멈출 수 있으며, 안전한 상태로 되돌릴 수 있는 구조를 개발 중이라고 밝혔다. 

논문은 더욱 장기적으로는 인공지능이 비상 버튼을 무효화시킬 수 있는 방법을 학습하지 못하도록 수동으로 중단시키는 조작을 위장할 계획이며, 인공지능이 자신의 판단으로 인류에서 위협을 주지 않기로 했다고 “믿게 만드는” 구조에 대해서도 설명했다.

인공지능이 인류에게 반역하는 미래에 대해서는 <2001년 우주여행>과 <터미네이터>, 최근에는 <어벤져스 에이지 오브 울트론> 등 수많은 SF 영화에서 그려져 왔다. 이러한 주제가 반복되는 이유는 과학 기술의 진보가 문명의 발전에 기여하지만 한편, 하이테크가 일자리를 빼앗고 핵무기 등 대량 살상 무기가 인류를 위협하는 현실의 도래에 대한 우려도 반영된 것이다.

또한 인공지능의 반역은 조물주가 창조한 “것”에 배신을 당하는 그리스 신화 이후 보편적으로 그려져 온 주제 “부모를 죽인다”는 주제와도 연결된다. SF 작품에서의 언급은 19세기 초인 메리 셸리의 소설 <프랑켄슈타인>까지 거슬러 올라가면, 지난해 개봉되었던 SF스릴러 영화 <엑스 마키나> 역시 그런 요소를 세련된 형식으로 계승했다.

베타뉴스 우예진 기자 (w9502@betanews.net)
Copyrights ⓒ BetaNews.net

• • 목록
  • 위로