인공지능(로봇)의 행위에 대한, 그 소유자의 법적 책임에 대해

스마트폰으로 본 것들을 생각해 적은 글입니다. 나중에 관련 기사를 찾아 링크하겠습니다.

미국과 유럽에서 재미있는 법적 결정이 내려졌다고 하고
우리 나라에서도 관련 논의가 시작됐는데,

우리 나라에서는 아직 착각하는 사람이 많은 것 같습니다.

무슨 SF소설을 읽듯, 문학적으로 착각한 교수의 인터뷰 기사도 보았습니다.

로봇의 행동에 로봇이 책임을 져야 한다?

제 개의 행동은 제 개 뿐 아니라 저도 책임을 져야 마땅하죠?

말을 바꿔 보죠.

개모양 애완로봇이 다른 사람을 물었을 때, 그 로봇의 행위에 대한 책임은 

로봇이 져야 하나요^[각주:1], 로봇 주인이 져야 하나요^[각주:2], 로봇 제조회사가 져야 하나요?^[각주:3]

로봇이 보험을 들어야 한다는 말은, 로봇에게 보험들 인격이 있다는 말이 아니라,

로봇의 운용 주체가 로봇을 보험들어주어야 한다는 뜻이겠죠? 자동차 차주가 자동차 보험에 가입해야 하는 것처럼 말입니다. 그건 그 자동차 ECU가 인공지능을 쓰든 말든 상관없이 한국 사회에서는 의무고, 그 사실이 자동차라는 사물의 인격이나 법적 권리를 증명하진 않습니다.

자세한 내용은 읽어봐야겠지만, 국가가 일정한 인증 기준을 제시하고 그것을 통과한 자율이동로봇은, 관련 보험에 의무 가입해 운용 리스크를 전가한다는 조건으로^[각주:4], 로봇을 운용자의 직접 제어없이 운용 책임자의 시선 밖, 공공 장소에서 독립적으로 자율이동, 자율작업하며 다른 사람과 상호작용하도록 허락한다는 얘기가 유럽과 미국 이야기같던데, 아닌가요? 더 공부해보고 적겠습니다.

그리고 이것은, 구글 딥마인드, IBM 왓슨, 애플 시리와 같은 소프트웨어 인공지능을 쓸 때도 해당되는 이야기입니다. 우버의 가격담합사건에 있어 우버는 회사가 만든 인공지능^[각주:5]이 한 행위의 예상못한 결과지(그러니까 마치 미국 증시의 블랙 먼데이처럼) 회사는 책임없다는 논리로 법정에서 책임을 회피한다고 하더군요. 

그리고 다른 기사에서 언급한, AI의 가격담합은 가능한 일이기도 하고 이미 실제로 발생했어요. 만약 만약 삼양, 농심, 오뚜기, 팔도가 모두 IBM왓슨을 리스해 시장조사와 출고가 결정을 자동화했는데 마침 그 인공지능을 운영하며 사용한 옵션과 설정한 동작 방식이 왓슨의 대여자인 IBM 권장 옵션 그대로라고 하면, 각 회사 내부 사정이 결정하는 변수는 다르지만 각 라면회사의 왓슨이 서로 통신하지 않아도 내놓은 결과물 즉 출고가는 자기 회사의 이익을 최대화할 수 있는 값이면서 우연히 모든 회사의 이익을 최대화할 수 있는 값일 가능성이 있을 겁니다. 만약 그렇게 되면 그걸 담합이라 불러야 할까요. 마케팅 담당자들이 모여 작당한 게 아닌데요.

그리고 이런 경우 법적 책임을 지도록 법이 만들어지면, 리스크를 회피하기 위해 회사들은 인공지능이 자동화해 하는 모든 일에 인간 감독자를 배치해야 할까요, 아니면 자율주행자동차 논의처럼 보험을 들어야 할까요.

정부는 경영AI 인증체계를 개발해야 할까요, 아니면 ISO같은 데서 뭐 만들어내 외국 회사들이 쓰면 그런 인증체계를 도입하라 의무화할까요.

최근국내기사 하나 링크합니다.

'지능형 로봇' 잘못 누구 책임?…법무부, 법적장치 마련에 착수 - 한경 2017.8.6

• 법무부는 ‘지능형 로봇기술의 상용화와 형사사법적 대응’ 연구용역 수행자를 모집 중
• 지능형 로봇기술의 발전과 법적 논의 필요성, 지능형 로봇기술의 발전 현황 및 상용화 가능성, 주요 국가의 대응 현황, 법적·제도적 쟁점 등
• 이번 용역은 작년부터 진행된 지능형 로봇 관련 연구의 후속.
  
• 법무부는 작년, ‘지능형 로봇 시대를 대비한 형사법적 기초’ 연구용역을 한국형사정책연구원에 발주.
  
  
• “무인자동차·항공기, 의료 로봇, 국경·재난 로봇 등 특정 분야에서 활용되고 있거나 상용화가 임박한 지능형 로봇기술의 이해를 토대로 구체적인 법적 쟁점을 도출하고 법제 정비 및 형사사법적 대응 방안을 마련하는 것이 목적”

1. 그러니까, 된장발라야(폐기해야) 하냐는 말입니다. [본문으로]
2. 물론, 손해배상이죠. [본문으로]
3. 제조물책임법? [본문으로]
4. 그런 보험이 필요한 이유가 있습니다. 완전무결하게 무해하다고 보증할 수 있는 인공지능이 어디에 있겠습니까. 인공지능 또는 로봇의 행동 자체를 대단히 보수적으로 설계해도, 쓰면서 설계자가 미처 고려하지 못한 상황은 얼마든지 생길 수 있습니다. [본문으로]
5. 굳이 머신러닝이 아니라 단순 프로그램이라도 마찬가지입니다. [본문으로]