아이로봇(2004)이 로봇의 반란물이라고? 본 것들





이전부터 몇번이나 포스팅하고 싶었지만 뜬끔포가 될 것 같아 적지 않았습죠. 
하지만 이번에 『에이디』의 감상글을 적다보니 이 작품이 생각나더군요.
아직도 '로봇의 반란'이야기라는 감상글들이 나와서 짜증났고요.

이건 완수할 수 없는 명령에 미쳐버린 로봇의 이야기라니까요!

영화 초반 '비키'가 자신의 성과를 자랑하는 장면이 있었죠.
도시의 교통통제를 맡아 사고율을 낮췄다고요.
그런데 아무리 해도 사고율을 0로 만들 수는 없죠.
인간의 움직임이 불확실한 요소가 되어 사고를 야기해버리니까.

'아 아무리해도 인간때문에 사고율이 0가 되지 않아
→ 그럼 인간을 제한하면 되잖아?'라는 논리 전개.
사람의 생명을 지키기 위해 사람을 제한하라는 모순적인 논리지만
로봇3원칙 상에는 틀리지 않는 논리기도 하고요.

영화 후반에서 비키가 자신의 논리를 밝히는 장면이
저에겐 아무래도 '자부심 강한 사람'의 변명같더군요.
비키가 하려던 일은 결국 교통사고를 없애려는 것이었고 그것은 교통통제와 관련된 명령이었으니까요.


결국 비키는 다른 로봇과 마찬가지로, 그저 명령에 충실했을 뿐입니다.
모순된 논리조차 긍정할만큼 자기기만에 빠졌다는게 차이겠지요.





덧글

  • 알터드 2015/05/31 12:31 #

    이러니깐 하드 AI에게 달랑 로봇 3원칙만 적용시키면 안되는 겁니다. =_=;;;;;
    인류 입장에서의 '로봇의 반란'을 막으려면 그것보다 정말하고 '도덕적인' 시스템이 필요하다니깐요.


    아무래도 AI가 실용화 될 시점엔 인공지능 도덕이라는게 생겨날 지도 모르겠습니다.
  • 격화 2015/05/31 14:09 #

    달성 불가능한 명령 + 논리 모순에 대처할 수 없는 규칙의 조합.
    그야말로 자업자득이란 느낌이죠.

    AI의 실용화는 그 전의 사회와 많은 차이를 만들어낼 것 같습니다.
    솔직히 어떤 사회가 될지 예상이 안됩니다.
  • EuKigael 2015/05/31 13:37 #

    애초에 인공지능이라는 관점에서 보면 어디서부터 자율적인 사고가 가능하냐에 문제가 있다고 봅니다..

    예를 들어서 사람은 상기한 사고방식에서, 그래도 교통 통제를 하는 것은 사람을 위해서인데
    사람을 위한다는 이유로 사람을 통제하는 것은 잘못이라는 사고가 가능하지요.

    인공지능이라면 거기까지가 가능해야 인공지능이 아닌가 싶기도 하더라군요,

    하여튼 인공지능이 반란을 일으키는 것 보단 인공지능이 우리보다 더 나은 인격(?)을 가지고 있을때
    인간은 더 괴로울 것 같아요. 전 반란보다는 더 나은 인격이라는 쪽에 걸겠습니다.
  • 격화 2015/05/31 14:03 #

    '사람을 위한다는 이유로 사람을 통제하는 것은 잘못이라는 사고'가 가능하려면
    명령에 의문을 가져야하는데 도구로서 만들어진 AI가 가능할리가 없죠.

    지금 사회에서도 '상명하종'이 많은 문제를 일으킴에도 꾸준히 유지되고 있는데,
    AI가 실용화되었다고 해서 그 문화(?)가 바뀔리는 없다고 생각합니다.
    어차피 우선적으로 실용화될 것은 도구로서의 AI일테고요.
    아니, 그전에 병기일까요. orz
  • EuKigael 2015/06/01 04:05 #

    사실 인간의 지능이란 것도 그렇게까지 자유로운 것은 아닙니다. 언제나 본능적이고 선천적인 사고 방식에 사로잡혀 있지요.

    도구로서 만들어진건 우리의 지능도 마찬가지입니다. 단지 복잡한 지능을 다루게 되면서 간접적인 면이 강조되게 보일 뿐이지, 생명유지와 번식욕에 시달리는건 인간이지요

    왜 유기질의 뇌는 자유로운 영혼을 가졌고 무기질은 그렇지 못한지 장담할 수 있는 근거는 없습니다. 오히려 그저 생각하는 기계로서 인공지능이 존재한다면 인간보다 더 자유로울지도 몰라요.. 뭐, 전투 로봇은 좀 말이 안된다고 봅니다..
※ 로그인 사용자만 덧글을 남길 수 있습니다.

알라딘 와이드