네덜란드 세무당국이 몇 전부터 행정처분에 AI를 적용했다 2만 6천 명을 부정수급자로 몰아 사고친 사건, 아직 진행 중

저도 참 까막눈이네요. 얼마 전에 뉴스를 보기 전까지 몰랐습니다.
다만, 네덜란드 내각 총사퇴는 그 나라에서는 일상적인 일인 듯. 그 총리는 다시 임명된 듯 2년 뒤에 다시 총사퇴기사가 ㅎㅎ^[각주:1]

이혼당하고 목숨 끊고, 내각은 총사퇴…네덜란드서 AI가 벌인 짓 - 2023.12.30 중앙일보

https://www.joongang.co.kr/article/25218663#home

이혼당하고 목숨 끊고, 내각은 총사퇴…네덜란드서 AI가 벌인 짓 | 중앙일보

네덜란드 세무당국이 과거 세무 데이터·국적 등 개인정보를 기반으로 인공지능(AI)에 분석을 맡겼고, 이를 토대로 2012~2019년 받은 아동 수당을 환급하라고 수천 가구에 명령했다. 그런데 국정 감사결과 AI 분석에 오류가 있어 정당한 수급자를 부정수급자로 잘못 낙인찍은 사실이 드러났다. 피해자가 약 2만6000명에 이르렀다. (......) 이 사건으로 많은 네덜란드인이 수만 유로의 빚을 졌다. 경제적 부담을 견디다 못해 이혼한 부부도 있었다. 자녀 양육권을 박탈당한 뒤 절망해 스스로 목숨을 끊은 사례도 나왔다. (......) 세무당국이 아동수당 부정수급자로 낙인찍은 이들 중 94%는 AI가 판단을 잘못 (......) 워낙 피해 규모가 크고 피해자 수도 많아 보상 절차는 2년이 지난 지금도 계속 (......) - 중앙일보

 
다만, 이 사건은 꽤 전에 발생한 일이라고 합니다. 그러니까, 챗GPT같은 생성형 AI가 본격적으로 활용되기 전 이야기같은데.. 구글 알파고같은 거 나올 때인가?
 

국회조사위에 따르면 세무당국은 부정수급을 확인하기 위해 과거 데이터를 바탕으로 부정수급자의 패턴을 학습하는 AI를 도입했다. 그런데 신청과정에서 사소한 기재 실수를 했거나 보육 시설 측이 기재를 잘못한 경우에도 부모가 아동수당 전액을 반납해야 했다. 돈을 반환하지 않으면 다음 해에 수당을 받지 못하는 제도까지 겹치며 피해가 확대했다. (......) 양육권을 빼앗긴 사람이 많고 이혼하거나 자살한 사람도 (......) 부정수급자로 찍히니 주택수당과 건강보험, 장애인 휠체어 지원 등 다른 공적서비스까지 잘리기도

 
그리고 이것이 점점 큰 사회문제가 될 때까지 방치했다가 전에 본격적으로 이슈화되며 내각이 총사퇴하는 일까지 벌어졌지만, 아직 잘못된 행정처분을 전부 바로잡지는 못하고 있다는 갑갑한 이야기.
 
여기에, 아직까지 네덜란드사회에 잔존한 인종차별적 기준까지 인위적으로 AI에 반영되면서 문제가 더 커졌다고.
 
 
 
2021년 당시 기사를 찾아봤습니다.
 

네덜란드 사상 최악의 아동 수당 스캔들…내각 총사퇴 - 머니투데이 2021.1.16

https://news.mt.co.kr/mtview.php?no=2021011602118283297

네덜란드 사상 최악의 아동 수당 스캔들…내각 총사퇴 - 머니투데이

국정감사에 따르면 뤼테 정부는 아동 수당을 부정하게 청구했다는 혐의로 수천 가구를 대상으로 2013년~2019년 사이에 지급받은 아동 수당을 상환하라고 명령했는데 이후 이 명령이 오류에 기인했음이 드러났다.

 
이 이슈를 다룬 국내기사가 2건 검색되는데, 당시 보도에는 ai관련 이야기는 따로 나오지 않았습니다. 

그래서, 저때 사용된 것이 지금 기준으로도 인공지능으로 분류되는 것인지, 그 당시에 인공지능이라 불렸는지, 아니면 그때도 단순 알고리즘인데 지금 기자들이 AI라며 기사를 쓴 것인지, 머신러닝이 들어간 것인지 이런 건 기사만 봐서는 저는 잘 모르겠습니다.
 

1. 그 기사를 보면, 만 2년을 못 채웠는데 역대급으로 오래 버텼다는 말이..;; 뭐 큰 거 하나 터지면 신임투표하듯 하는 건가봐요? [본문으로]