광고를 노린 가짜 정보글 주의 /:/ AI로 생성한 SNS콘텐츠 주의

범람하는 가짜

안 그래도 광고템플릿을 써서 찍어내는 SNS 계정이 많은데.. 요즘은,

AI로 글작성하고
AI로 웹크롤링해 건진 이미지를 첨부하고
AI가 짠 대본을
AI가 합성한 목소리를 넣어 만든

블로그글이나
유튜브와 틱톡 영상이나 쇼츠가 범람하고 있습니다.

(그 중 목소리를 넣은 경우에는
콘텐츠의 타겟 연령대에 마춰

미시아줌마목소리, 1020 여성목소리,
2030 청년목소리, 아저씨목소리,
장년 아줌마목소리,
할머니목소리,
할아버지 목소리를

골라서 사용해 시청자를 끌어들인다고 합니다.)

문제는, 광고뷰가 목적인 계정들은 콘텐츠를 검증하지 않거나 그럴 능력이 없이 올린다는 겁니다. 게다가 소재수집 자체도 그때그때 사람들이 많이 검색하는 말뭉치를 집계한 DB를 구입하거나^[각주:1] 다른 경로로 입수해서 사용하는 자동화가 돼있을테니..

뷰만 따먹으면, 광고만 노출하면 그만이니. 그러니 만지기만 해도 죽을 수 있는 독버섯의 효능 따위를 설명하는 글이나, 그때그때의 정치이슈를 던져 지지자나 반대자가 추천하거나 비추하는 클릭을 누르려고 보게 하거나, 댓글전쟁을 붙여 뷰를 늘리는 글이 올라오는 거죠.^[각주:2]

커뮤니티 사이트에 게시판을 얻어 올리는 소규모 미디어 뿐 아니라 네이버 뉴스스탠드에 올라오는 매체들까지, 이거 챗봇에게 리서치시킨 게 아닌가 하는 의심이 드는 기사들을 올리고 있습니다. 건강이나 의학쪽으로 흥미로운 내용을 봤다면, 누가 말했는지 반드시 출처를 확인하세요.

아래 예시.

절대 건드리면 안 되는 붉은사슴뿔버섯.

말은 끝까지 들어봐야 한다고.. 그렇죠?



ps.
구글부터, 검색어를 애매하게 넣으면, 구글 AI부터 오해하기 쉬운 대답을 해서 착각하게 만드는 경우가 종종 있습니다. 한국어 인터페이스의 문제인지^[각주:3] 아니면 아직 이 정도인지.. 그래서 논란이 되면 바로 패치해 고쳐주기도 하고.

챗지피티든 구글 제미나이든, AI챗봇은 사용자의 의도에 마추어 생각하도록 디자인돼 있다고 합니다(인간의 하인이니까). 그 말은, 사용자가 질문(프롬프트)를 넣으며 제공한 정보를 사실로 전제하고 "생각"한 결과를 대답으로 주는 경향이 있었다는 것입니다. 이것이 문제가 돼서 요즘은 질문이 잘못됐으면 그것을 지적하지만, 그래도 다 고쳤다고 하기는 뭐하고, 사용자가 멍청하거나 무지하면 질문을 조리있게 못하고 잘못된 대답을 받을 확률이 오르는 건 앞으로도 그럴 것.

1. 몇 년 전에, 블로그순위를 보여주는 모 업체가 광고한 유료서비스 중에 비슷한 걸 본 것 같습니다. [본문으로]
2. 이 밖에도, 특히 대만이나 중국관련 이슈에는 중국정부가 만든 가짜뉴스와 소위 우마오 댓글부대를 동원한 초한전이, 우크라이나 전쟁관련해서는 러시아정부가 후원하는 하이브리드전을 하는 계정과 가짜콘텐츠가 범람한 것이 십 년도 넘었습니다. [본문으로]
3. 국어로 물으면 바보가 되는 경우, 영어로 물으면 제대로 답하기도 해서 [본문으로]