예술품과 그냥 성인물을 구별하는 인공지능/ 그런 인공지능을 속이기

이야기 하나.

구글, 페이스북만이 아니라 네이버에서도 만들어서 사용하고 있다고 하네요. 검색 결과를 분류하고 출력할 때 잘 쓰겠군요. 돈이 되는 서비스일 지는 모르겠지만, 관련한 차단 서비스에도 활용할 것 같고..

sbs 뉴스입니다.

하긴, 이미지를 인식하고 분류하는 머신러닝을 네이버도 연구한 지 몇 년 됐고 보도도 됐으니까, 쓸 만 해 지면 여기 쓰는 건 자연스런 일입니다.

저 기사를 보면, 업무량이 1/10로 줄었다고 합니다. 그리고 이미지 인식능력은 검색엔진만이 아니라 공장의 제품 검사와 생산 관리, 농장의 농산물 외관 검사와 등급 분류, 편의점 계산대까지 점점 많이 쓰이고 있습니다.

이야기 둘.

그러는 가운데, 이미지를 인식하는 컴퓨터 로직을 속이는 트릭이 공개돼 논란이 일기도 했습니다. 도로교통 표지판에 작은 스티커를 붙이면, 사람이 그림을 인지하는 방식과 컴퓨터가 해석하는 방식이 다르기 때문에, 원래 정지신호였던 표지판에 장난쳐놓으면 사람은 여전히 정지신호로 읽는데 컴퓨터는 서행신호로 읽는 식으로 속일 수 있다네요. 이것은 몇 가지 생각꺼리를 주는데,

1) 누가 고의로 악용하면, 사람과 로봇이 다르게 행동하므로 사고를 유발할 수 있습니다.

2) 자율주행 자동차용 인공지능은 아직 개선할 데가 많습니다.

3) 앞으로 교통표지판은 사람 뿐 아니라 로봇도 오해하지 않도록 만들어야 하게 됐습니다. 이것은 사례가 있습니다. 과속단속카메라를 피하기 위해 자동차 번호판에 장난질하는 놈들이 있었죠? 경찰관이 현장에서 맨눈으로 보면 차이를 못 느끼는데, 카메라는 제대로 이미지를 찍지 못하던 그 범법행위말입니다.

4) 지금도 해서는 안 되지만, 도로교통표지판에 장난질하면 처벌이 무거워지겠군요.

그리고 첫 번째 이야기로 돌아와서, 장군멍군격으로 어떻게 속이는 아이디어가 나올 지도 궁금합니다. ^^