AI자율주행 '트롤리 딜레마'의 다른 예시

트롤리 딜레마

원래 트롤리 딜레마는,
어떤 선택을 하든 희생자는 생길 수밖에 없는데(안 그러면 고민할 이유가 없죠)
공리적으로 상각해서 더 적게 생기는 방향으로 행동할 때 개인이 느끼는 윤리적인 문제..라고 하는데요

자율주행문제일 때는,
내리막길에서 브레이크가 고장난 버스가
1. 직진해 정거장에 있는 10명을 칠 것인가
2. 오른쪽으로 틀어서 보행자 1명을 칠 것인가하는
얘기가 잘 회자됐는데요.

그런데 요즘은 여기에 강요되는 선택지(..)가 하나 더 들어갔더군요.

3. 완쪽으로 틀어서 운전자 혼자나, 운전자와 동승자인 가족이 절벽으로 떨어질 것인가.


자기 목숨도 넣어서 문제를 다시 정리해 새로 내면:

자기차는 피해자인 상황

도로에서 나 혼자 탄 SUV가 코일을 실은 트레일러 뒤를 따라가는데, 코일 고박이 풀려 몇십 톤짜리 그 쇳덩어리가 굴러 떨어지려고 하는 상황입니다.

1. 내가 이대로 직진하면 나는 차째로, 굴러오는 코일에 깔려 납작하게 됩니다.
2. 내가 오른쪽으로 틀면 보행자를 치고 나는 삽니다.
3. 내가 왼쪽으로 틀면 노랑색 스타리아 어린이집차와 추돌할 게 확실하고, 그러면 그 차는 높은 확률로 중앙선너머 반대차선으로 튕겨갈 겁니다. 나는 살 수 있고요.

어떻게 해야 할까요..

여기서 사람이라면, 좌화전이든 우화전이든 급박한 상황에 본능적으로 행동했다고 할 수 있지만, 알고리즘이라면, 그것도 요즘 고성능 인공지능이라면 저 3가지에 대한 성공률과 희생의 저울질을 그 짧은 시간동안 다 한 다음 핸들제어권을 가져가 차를 틀거나 틀지 않을 수 있을 것입니다.

제조사가 공장출고할 때 세팅이든,
차주인이 옵션을 조정한 세팅이,

저런 상황에서
ㅡ 운전자 자신만 죽고(희생하고) 전체적인 희생자를 최소화하는 동작을 지시하거나
ㅡ 희생자가 더 많이 나올 것이 에상돼도 운전자가 살 확률이 더 높은 선택지를 고르거나
ㅡ 운전자가 살 확률이 좀 낮아도 희생자가 적개 예상되는 행동을 고르거나

그럴 때, 타인의 피해의 책임은 일부분이라도
세팅을 변경한 운전자가 져야 할까요
세팅을 변경하지 않았다면 제조사가 져야 할까요
법으로 기준을 세우고 그 기준내라면 정부가 면책해야 할까요.

https://naver.me/FzQAN1RW

경부고속도로에 H빔 적재물 떨어져 승용차 3대 사고… 5명 경상

자기차는 가해자인 상황

가정해보죠. 당신이 전봇대를 가득 싣고 가는 트럭 운전자인데,
우연히 노면이 미끄러운 데서 급정거상황이 벌어졌습니다. 아니면 브레이크가 고장났다든가.

ㅡ 내 차가 급정거하면 제동거리는 아마 맞겠지만 나는 내가 운반 중이던 화물에 치어 죽을 수 있다.
ㅡ 내 차가 핸들을 꺾으면 차가 전복돼서 손해가 막심하다. 그리고 곁을 달리던 다른 차를 내 차와 내 화물이 깔아뭉갤 가능성이 있다. 하지만 나는 산다.
ㅡ 화물이 캐빈을 밀어붙여 나를 죽일 정도는 아니게 브레이크가 동작하면 나와 내 차는 괜찮은데 내 앞 승용차를 확실하게 납작하게 만들어버릴 것이다.

애초에 과적하지 말지하고 말할 수도 있지만, 과적하지 않아도 그런 상황은 생길 수 있겠죠. 비오는 날이라든가, 노면 상태라든가.

여기서도 자동차 AI설정을 차주나 운전자가 커스터마이즈할 수 있다면 책임소재는 더 복잡해지겠네요. 또, 그런 시대가 되면 경찰은 반드시 교통사고현장의 자동차들 AI와 그 설정, 동작 기록을 복사해서 분석해야 하겠습니다.


그런데 말이죠.

만약 내 차의 인공지능이 최소희생(공익)을 위해 탑승자가 죽는 선택지를 실행한다면^[각주:1]

그런 자동차를 사거나 탈 사람은 아무도 없을 겁니다. 그리고 그걸 강요하는 법은 국회를 통과하지 못하겠죠.

그러나 반대로, 돌발상황에서 예를 들어 최대한 급가속해 칼치기하며 자기차의 안전을 최우선해 빠져나가는 선택지를 시뮬레이트하고 실행하는 인공지능이 있다면, 그것 또한 금지되겠죠? 다른 차의 대응을 방해할테고 그 차들이 위험에 빠지도록 할 수 있으니까.

1. 이게 짧게는 60~80년 전 초기 SF 꽁트에도 있을테고, 임의로 확장되면 어느 SF소설과 영화 이야기가 되는데.. 거기서는 교통사고가 아닌 다른 이슈일 때, 인공지능이 "당신은 죽어주는 게 인류사회의 미래에 이득이야"하고 판단하고 살인한 이야기였지만. 다시 말해, 살인이라는 결과가 나올 선택지를 고를 권리를, 어쩌다 보니 인공지능이 위임받은 상황이라고 말할 수 있다는 겁니다. 이 판단이 선 경우, 아시모프의 SF이야기처럼, 로직충돌을 일으킨 로봇(자율주행차)은 경고메시지를 내고 제어권을 운전자에게 넘겨주도록, 혹은  어떻게봐도 유용한 결과를 생산하지는 못하지만 논리충돌하지 않는 차선을 고르거나 루프를 돌면서 사람이 개입하기를 기다리도록 코딩해야 할까요. [본문으로]