인공지능 추천 서비스의 허점을 말한 기사

제대로 정리한 게 아니므로 관심이 있다면 원문을 보세요.

[인공지능 어디까지 믿을 수 있나] 팩트 사실 호도하고 편향성 키울 가능성 

사용자 기호 변화 반영 못하고 상업적 악용 우려… 기술 실체 없는 경우 많아 해외에선 ‘거품’ 논란

이코노미스트 1503호 2019.10.7

분야별 인공지능 수요: ERP등 관리통제시스템, 챗봇 등 고객응대, 제품과 서비스추천, 마케팅 자동화, 감정분석도구, 소프트웨어 보안향상, 가격정책결정 순 - 이코노미스트/ 2018년 세계 개발자 2860명 중복 응답, 자료: DZone

1.

뉴스포털과 "소셜"을 표방한 SNS서비스의 "추천 서비스"가 사용자의 편향성과 고정관념을 강화한다는 지적이 잇따라. 추천 서비스는 광고타게팅과 쇼핑몰 상품추천에서는 비교적 무해하게 동작해 구매자가 자신의 욕구를 알게 해주지만, "뉴스 제공"과 "소셜 서비스"에서는 부정적인 면이 두드러지기 시작했음. 주위에 아부하는 사람만 있으면 빗나가는 권력자?

추천 시스템은 사용자의 정치적 편향성과 고정관념을 강화해 가짜뉴스 등 거짓을 수용하거나 사실을 부정하는 심리적 기제를 유발한다.

*그런 '심리적 기제를 주입받은' 군중이 현실을 바꿔버린 적도 있었다. IT세상이 온 다음 뿐 아니라 오기 전에도. 그 전에는 유인물, 방송, 신문, 소문 등이 있었을 것이다. 그래서 정보기술(IT)은 단지 과거에는 천재의 재능이 필요해 드물게 발동한 현상의 조건을 끌어내려 대중화했다고 변명할 수 있을 지도 모른다. 하지만 특히 2010년대들어 전세계적으로 전례없는 문제거리가 되었다. 생각꺼리가 된 것은 맞다.

2.

"대중은 AI를 믿기 시작하면 그대로 우리 삶에 뿌리내릴 가능성이 크다"

다른 추천과 마찬가지로 AI 상품추천서비스도 "서비스사업자의 매출을 극대화하기 위한 틀 안에서" 이용자의 취향을 정확히 반영한다. 기사에서는 이야기를 더 하고 있는데 기술적인 미스는 개량될 것이므로 패스. 다만 이런 게 SNS와 뉴스포털의 추천 알고리즘에 사용되면 사람들은 AI를 믿고 자기가 추천에 있는 그런 사람과 동류고 그런 정보와 유관하다고 생각할 지 모르겠다.

* 잡담을 덧붙이면, 신문 편집자가 선별한 기사와 AI가 선별한 기사 중 독자 개인의 취향에 더 가까운 건 (웹페이지 뷰를 최대한 연장하려는 목적으로) 개인별 과거 데이터를 참조해 선별한 AI쪽일 것이다. 인간 편집자는 개인화를 못한다. 하지만 반대로, 인간 편집자는 "타인의 의견"을 제시하게 되고, AI추천 기사만 있을 때의 편향성을 중화해줄 수 있을 것이다.

3.

‘디지털 넛지 효과’: "넛지 효과란 남성 소변기 속 파리 그림처럼 제공자가 원하는 방향으로 사람들을 유도하는 방법을 뜻한다"

바이럴 마케팅. 밴드왜건 효과의 디지털판? 요즘 시끄러운 실시간 검색어가 생각나는 문단.

4.

소프트웨어 이용계약서의 EULA, 자율주행자동차와 마찬가지로 AI서비스를 이용하다 피해가 발생하면 책임은 이용자가 진다. 사업자들은 매출확대, 비용절감 등을 목적으로 그들의 서비스에 앞다투어 인공지능을 투입하고 있지만, 이용자로선 조심할 점이 있음.

어쨌든 유행이라 미국에선 AI스타트업 거품도 있고, AI를 표방하지만 수준이 떨어져 불평을 사거나 AI를 쓰는 것 같지 않은 곳도 많다고 함. (우리나라 많은 회사들이 자기들 웹사이트에 AI챗봇이라고 선보인 것들 중 수준이하가 많듯이)