인공지능의 또 다른 어두운 그늘입니다
인터넷을 이용하다보면 평소에 관심을 갖고 있던 제품이나 이슈가 저절로 나에게 노출되는 것에 놀랄 때가 많습니다. 이는 수학적 원리를 토대로 능동적인 콘텐츠 노출을 현실화하는 인공지능 추천 알고리즘 덕분입니다.
추천알고리즘은 사용자의 성향과 기호를 파악해서 그가 소비할 것 같은 상품이나 서비스를 제안하는 마케팅 방식입니다. 예를 들면 넷플릭스는 자사의 월등한 추천 알고리즘 덕분에 글로벌 온라인 동영상 플랫폼이라는 만인의 경쟁무대에서 독주하고 있습니다. 유튜브의 경우 사용자들이 시청하는 전체시간의 70%가 추천 알고리즘에 의한 결과이며 추천 알고리즘의 도입으로 전세계 총 시청시간이 20배 이상 증가했다고 합니다.
사용자가 검색을 통해 유튜브 동영상에 접속하면 추천 알고리즘이 작동해 그 영상의 후속편이나 유사한 카테고리에서 가장 인기높은 영상까지 자동으로 추천해주기 때문에 시청자는 연달아 여러 개의 영상을 보게 되는 것이 다반사입니다. 내가 특정한 동영상을 선택하는 순간 인공지능 알고리즘이 작동해서 나와 유사한 취향이거나 가까운 사회적 특성을 공유하는 사람들이 보는 동영상들이 곧바로 내 눈앞에 나타납니다. 빅데이터와 인공지능의 위력이자 기업 입장에서는 경쟁력의 핵심이지만 이것이 사회적 이슈에 대한 콘텐츠일 경우에는 관점의 극단화와 왜곡된 메시지에 과노출이라는 심각한 역효과를 불러올 수 있습니다. 사용자가 유튜브 등을 통해 자신의 취향에는 맞지만 조금이라도 왜곡된 정보를 선택하면 추천 알고리즘은 그와 유사하거나 더 심하게 왜곡된 내용이 담긴 영상을 계속해서 제공하기 때문에 근거가 빈약한 정보를 사용자가 점점 더 사실처럼 받아들이게 되는 악순환이 이어지기 때문입니다.
헌법에 의해 보장된 표현의 자유라는 미명아래, 전혀 사실이 아니거나 사실과 거짓을 교묘하게 섞은 사이비뉴스를 적극적으로 유포해 특정 성향 이용자들의 기대심리를 충족하고, 그것을 기반으로 경제적 이득을 취하는 사람들이 갈수록 늘어나고 있습니다. 보이스 피싱은 이론의 여지가 없는 사회악이지만 대부분 피해자들은 딱 한번 당하는 정도입니다. 하지만 자신의 취향에 어느정도 부합하는 왜곡된 정보에 빠져드는 사람은 진실을 판별하는 능력이 오랜 기간에 거쳐 무너져서 결국 정의를 불신하는 반사회적 성향을 띄게 될 가능성이 높습니다. 이러한 현상의 중요한 기술적 배경이 인공지능 추천 알고리즘입니다.
근래에 네이버 등 포털에서 국제정치 관련 뉴스를 볼 때마다 최소한의 인지적 균형을 상실한 댓글들에 안타까움이 느껴집니다.
https://mania.kr/g2/bbs/board.php?bo_table=freetalk&wr_id=4662284
글쓰기 |
그래서 전 유투브에 나오는 사이버렉카들이나 정치관련은 하나도 안봅니다.