엘런 머스크, "인공지능 개발은 위험해"

테슬라 사장인데, MIT에서 그렇게 연설했다고 합니다.

개발하지 못한다고 하는 게 아니라

개발했다가 인류에 위험이 될 거라고 말했다는 이야기입니다.

거기서 인용된 문헌을 링크합니다.

http://www.nickbostrom.com/views/superintelligence.pdf

http://en.wikipedia.org/wiki/Superintelligence

http://www.goodreads.com/book/show/20527133-superintelligence

SF를 자주 읽었다면 식상한 이야기인데,

수퍼인텔리전스( superintelligence ): 대부분의 영역에서 인류 두뇌 능력을 상회하는 범용 인공지능.

기계 지능은 인간의 생물학적 두뇌에 비해 아직은 못하지만, 인간보다 유리한 면이 많이 있다. 생화학반응에 기대지 않으므로 더 빠르고, 그 외에도 많은 이점.. 잊지 않고 더 많이 기억하고 등등 

재래식 방법을 쓰든, 인간두뇌의 물리적 구조 혹은 다른 형태의 정보를 컴퓨터에 올려 에뮬레이트하든, 일단 수퍼인텔리전스가 만들어지면 그것으로 더 나은 버전을 디자인할 수 있게 될 것이고, 어느 사이에 인간의 손을 떠난 존재가 될 수 있다.

그래서 인간보다 더 나은 존재가 되면 이들과 우리의 관계는 어떻게 될 것인가.

비스마르크를 고용한 프리드리히 3세같을까,

아니면 히틀러를 부른 힌덴부르크같을까.