인공지능의 발달(초지능) 경계 해야하는 걸까?

 인공지능의 발달이 계속되면 초지능이 될 수도 있다고 한다.

초지능... 단순히 인공지능이 고도로 발달해서 단순히 사람의 감정을 느끼고 나아가 스스로의 자의식까지 갖는 수준을 말한다. 영화에서 보던 그 인공지능을 말하는 것이다.

만약, 이런 초지능이 생긴다면 인간은 대비할 수 있을 것인가?

 

초지능 일단 만들 수는 있는 걸까?

 

이미지 출처: Comfreak on Pixabay

 

 초지능은 만들 수 없을 것이라는 의견이 지배적이다. Deep Learning도 결국 인공신경망을 사용하는 것으로 사람의 뇌를 따라 하는 것인데 현재 우리 인간의 뇌도 인간은 잘 모르는 상태이다. 

1억 개의 뉴런에는 수천억 개 이상의 시냅스가 존재하며, 사람의 뇌는 출생 시 600~1,000억 개의 뉴런이 만들어져 있고, 여기에는 수 백조 이상의 시냅스가 포함되어있다. 이걸 컴퓨터로 만들다 보면 컴퓨터 성능의 한계에 먼저 도달할 것이다. 그전에 인간의 뇌의 기능을 다 알도 쉽지가 않다. 뇌, 바다, 우주는 인간이 정복하지 못한 미지의 영역이라고 하지 않는가?

 

초지능 그럼 못 만드는 걸까?

 

 만들 수 없다!라고 이야기할 수는 없다. 미래에 양자컴퓨터의 개발이 성공하고 새로운 기술의 도입으로 만들 수 있을지는 아무도 모르는 일이니 말이다. 걸을 수 없을 것 같던 로봇이 뛰고, 접히지 않을 것 같은 휴대폰이 접히고, 고양이와 개는 절대 구분하지 못할 것 같았던 컴퓨터가 구분을 하니 말이다.

하지만 그 시점이 언제가 될지 오기는 할지 현재 시점으로는 불명확하다.

 

나온다면 무엇을 준비해야 할까?

 

 사람의 감정을 헤아리고 알 수 있고 감정을 느낄 수 있는 아니 그전에 영화 '아이로봇'에 나오는 것과 같은 로봇이 나온다면 인간을 해치지는 않을까?

2011년 미국 방송에서 인간 동물원을 만들어 인간을 보호하겠다고 했던 안드로이드 딕의 말처럼 동물원을 만들어서 우리를 가두면 어떨까? 만에 하나 해치려고 한다면? 그렇게 되지 않으려면 우리는 어떻게 해야 하는가?

 

로봇 3원칙

 

아이작 아시모프

아이작 아시모프라는 유명 작가 작성한 소설 [아이, 로봇]에서 처음 등장한 개념인 로봇 3원칙은 소설 내에서 인간이 로봇이 인간에게 해를 끼치지 못하도록 만든 원칙이다.

 

 3원칙은 아래와 같다.
1. 로봇은 인간에 해를 가하거나, 혹은 행동을 하지 않음으로써 인간에게 해가 가도록 해서는 안된다.
2. 로봇은 인간이 내리는 명령들에 복종해야만 한다. 단, 이러한 명령들이 첫 번째 법칙에 위배될 때에는 예외로 한다.
3. 로봇은 자신의 존재를 보호해야만 한다. 단 그러한 보호가 첫 번째와 두 번째 법칙에 위배될 때에는 예외로 한다.

 

 이 원칙을 보면 로봇은 인간에게 절대 해를 가하지 않을 것 같다. 어찌 보면 완벽하다고 생각될 수도 있는 이 3원칙.

하지만 소설에서도 이 내용의 오점을 이야기하고 있으며, 로봇 3원칙을 바탕으로 만든 [영화 아이로봇]에서도 이 원칙이 틀렸다고 이야기하고 있다. [영화 아이로봇]에서는 오히려 3원칙이 없는 로봇이 인간을 보호하려고 한다.

 

로봇 3원칙 왜 적용이 되지 않는가?

 

출처: KELLEPICS on Pixabay

 

 우선 인간에게 해가 된다 해가 되지 않는다라는 것을 로봇이 알 수 있을까? 만약 사람이 로봇에게 불법 마약을 운반하라고 지시를 한다면 2원칙에 따라 운반을 하겠지만 마약은 인간에게 해를 가할 수 있는 약물이기에 1원칙에 위반된다 하지만 로봇은 마약을 운반할 것이다. 그렇다면 마약이 나쁜 것이라고 프로그래밍한다면 어떨까? 아이러니하게도 치료에 따라 마약에 사용된다. 이때 의사가 로봇에게 의료용 마약을 운반하라 지시한다면? 2원칙에 따라 그 명령을 이행해야 하지만 1원칙에 따라 인간을 보호해야 하기에 의료용 마약을 박살 낼 수도 있다.

 

정답은 뭘까?

 

 그렇다면 어떤 윤리 규정을 만들어야 할까? 우리의 로봇과 인공지능이 기술이 한참 부족하지 현재 당장은 고민할 필요는 없는 내 용지만 만약 초지능 로봇이 다가온다면 심도 있게 고민해봐야 하는 문제가 아닐까?

 

 

참고: http://ko.experiments.wikidok.net/wp-c/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/View?ci=2