소식

하지원의 환경톡톡

[하지원의 환경톡톡 5] 알파고와 비키의 반란

페이지 정보

  • 작성자 : 에코맘코리아
  • 작성일 : 20-02-20 10:19
  • 조회수 : 2,139

본문

65a78c5b2ec1d98b25d518b95a5af704_1582167527_4822.png


생활 속 우리가 꼭 알아야 할 재미있는 환경이야기
Stories we should not miss Interesting environmental facts we should know
 


'로봇'은 체코어로 '강요된 노동'이라는 단어에서 파생되었다. 기록에 의하면 인간에 가까운  최초 로봇은 1495년 경 레오나르도 다빈치에 의해 제작되었다고 한다. 그리고 이젠 인공지능형 로봇 '알파고'가 나타났다.


1년 365일, 하루 24시간 내내 나를 대신하여 내가 원하는 대로 내 맘에 쏙드는 일을 해주는 개인용 로봇이 생긴다면 어떨까? 상상만 해도 즐겁다. 이 시점에서 윌 스미스 주연의 '아이, 로봇(I, Robot)'이 생각난다. 인간의 안전을 최우선으로 하는 '로봇 3원칙'이 프로그램 된 로봇은 인간을 위해 일하고, 아이들을 돌보며 인간에게 없어서는 안 될 신뢰 받는 동반자로 여겨진다. '로봇은 인간에게 해를 끼쳐서는 안 되고, 인간을 가장 먼저 보호해야한다'는 것이 설계시 프로그램된 모든 행동강령의 절대법칙이다.


그런데 어느 날 그 로봇들이 반란을 일으킨다. 인간을 보호해야할 로봇이 계엄령을 선포하고 인간을 통제하기 시작한다. 인간보호가 제1원칙인 로봇이 스스로 그 프로그램을 무시할 수 있는 것일까? 인공지능 프로그램을 설계한 박사가 미스터리한 죽음을 맞으며, 경찰은 로봇과 관련된 숨은 음모를 파헤치기 위해 조사에 착수한다. 그런데 놀라운 사실은 계엄령을 선포하고 모든 로봇에게 인간을 통제하라고 명령을 내린 것은  인공지능 슈퍼컴퓨터인 '비키'였다는 것이다. 지금의 '알파고'가 모든 경우의 수를 계산하여 바둑돌을 놓도록 지시하듯이 말이다. 인간을 보호해야하는 '비키'가 왜 그런 지시를 내렸을까? 이에 대한 '비키'의 답은 놀랍다. 본인이 인간의 역사와 현재까지의 상황을 분석하여 모든 경우의 수를 계산해 본 결과 "인간을 지금처럼 그대로 놔두면 스스로 파멸하고 만다"는 것이었다. 인간이 스스로 욕망을 억제하지 못하고, 환경을 파괴하고 있기에 인간의 파멸을 막고 지속가능하게 하기 위해서는 인간의 자유를 뺏고 통제하는 것이 비키에게는 인간을 위한 최선의 솔루션이었다.


논리적으로 완벽하게 무장한 컴퓨터의 눈으로 봤을 때 인간은 그 사실을 알면서도 막다른 곳으로 향해가고 있는 것이다. 마치 집단자살로 유명한 나그네쥐 레밍이 절벽 앞에서도 관성에 의해 멈추지 못하고 떨어져죽는 것처럼 말이다. 인공지능이 알고 있는 일, 우리는 모르는 것일까? 더 늦기 전에 우리 스스로를 통제하고 균형을 잡는 것이 인간의 존엄을 지키는 길이 아닐까?



 

댓글목록

등록된 댓글이 없습니다.