Xp
Free-Talk
인공지능의 또 다른 어두운 그늘입니다
 
68
  7177
2020-11-22 02:17:52

인터넷을 이용하다보면 평소에 관심을 갖고 있던 제품이나 이슈가 저절로 나에게 노출되는 것에 놀랄 때가 많습니다. 이는 수학적 원리를 토대로 능동적인 콘텐츠 노출을 현실화하는 인공지능 추천 알고리즘 덕분입니다. 

 

추천알고리즘은 사용자의 성향과 기호를 파악해서 그가 소비할 것 같은 상품이나 서비스를 제안하는 마케팅 방식입니다. 예를 들면 넷플릭스는 자사의 월등한 추천 알고리즘 덕분에 글로벌 온라인 동영상 플랫폼이라는 만인의 경쟁무대에서 독주하고 있습니다. 유튜브의 경우 사용자들이 시청하는 전체시간의 70%가 추천 알고리즘에 의한 결과이며 추천 알고리즘의 도입으로 전세계 총 시청시간이 20배 이상 증가했다고 합니다. 

 

사용자가 검색을 통해 유튜브 동영상에 접속하면 추천 알고리즘이 작동해 그 영상의 후속편이나 유사한 카테고리에서 가장 인기높은 영상까지 자동으로 추천해주기 때문에 시청자는 연달아 여러 개의 영상을 보게 되는 것이 다반사입니다. 내가 특정한 동영상을 선택하는 순간 인공지능 알고리즘이 작동해서 나와 유사한 취향이거나 가까운 사회적 특성을 공유하는 사람들이 보는 동영상들이 곧바로 내 눈앞에 나타납니다. 빅데이터와 인공지능의 위력이자 기업 입장에서는 경쟁력의 핵심이지만 이것이 사회적 이슈에 대한 콘텐츠일 경우에는 관점의 극단화와 왜곡된 메시지에 과노출이라는 심각한 역효과를 불러올 수 있습니다. 사용자가 유튜브 등을 통해 자신의 취향에는 맞지만 조금이라도 왜곡된 정보를 선택하면 추천 알고리즘은 그와 유사하거나 더 심하게 왜곡된 내용이 담긴 영상을 계속해서 제공하기 때문에 근거가 빈약한 정보를 사용자가 점점 더 사실처럼 받아들이게 되는 악순환이 이어지기 때문입니다. 

 

헌법에 의해 보장된 표현의 자유라는 미명아래, 전혀 사실이 아니거나 사실과 거짓을 교묘하게 섞은 사이비뉴스를 적극적으로 유포해 특정 성향 이용자들의 기대심리를 충족하고, 그것을 기반으로 경제적 이득을 취하는 사람들이 갈수록 늘어나고 있습니다. 보이스 피싱은 이론의 여지가 없는 사회악이지만 대부분 피해자들은 딱 한번 당하는 정도입니다. 하지만 자신의 취향에 어느정도 부합하는 왜곡된 정보에 빠져드는 사람은 진실을 판별하는 능력이 오랜 기간에 거쳐 무너져서 결국 정의를 불신하는 반사회적 성향을 띄게 될 가능성이 높습니다. 이러한 현상의 중요한 기술적 배경이 인공지능 추천 알고리즘입니다.


근래에 네이버 등 포털에서 국제정치 관련 뉴스를 볼 때마다 최소한의 인지적 균형을 상실한 댓글들에 안타까움이 느껴집니다. 

 | 더 이상 우리들을 기만하지 마세요.  |  Free-Talk

18
Comments
2020-11-22 02:21:23

그래서 전 유투브에 나오는 사이버렉카들이나 정치관련은 하나도 안봅니다.

2020-11-22 02:26:49

최근의 네이버 세계 뉴스 댓글 보면 참 의아한게 많습니다. 대체 무슨 확신으로 저렇게 댓글들이 무수히 달리고 추천하는건지..

2020-11-22 02:27:35

저는 홍대병말기라서 그런지 AI추천은 너무 뻔해서 아직까지는 사람이 추천해주는게 좋습니다...

2020-11-22 02:57:37

부모님께 정치나 시사 유튜브를 절대추천드리지 않았던 가장 큰 이유입니다 편향된 정보만의 반복된 접촉은 정보의 왜곡이나 참거짓마저도 초월한 채로 상대방 진영에 대한 적개심을 키우기 때문입니다

2020-11-22 03:22:08

처음엔 SNS가 폭넓은 정보교류를 불러오리라 생각했지만, 자신과 생각이 비슷한 사람들만 리트윗하는 경향이 짙어지면서 오히려 편향되고 고정된 사고만을 야기하게 되었죠. 인공지능을 통한 추천 알고리즘은 한술 더 뜨고요.

2020-11-22 03:41:36

미국에서는 힐러리가 어린 애들 피를 마신다는 얘기를 유포하는 사람이 많고 이를 진지하게 믿는 사람들이 꽤 많다는걸 듣고 충격 먹었습니다. 한번 저런걸 봐서 계속 저런 콘텐츠만 추천되어 보게 되면 정말 믿게 되는데 아닌가 싶습니다.

2020-11-22 05:08:06

가끔 이런게 왜 추천됐나 할 정도로 저급한 영상들이 뜨고는 해서 추천 알고리즘을 불신하게 됐어요
제 유튜브는 철저하게 취미생활과 관련된 영상만 나오게 관리하고 있는데 모두들 그랬으면 좋겠습니다.. 너무 인터넷을 통해 왜곡된 정보를 얻고 의미없이 분노하도록 조작되는 사람이 많아요..

2020-11-22 08:25:38

분노를 만들고 재생산 하는 것으로 돈벌이가 되는 사회가 문제라고 봅니다.
쉽게 돈벌이가 되다보니 너무 많은 사람들이 이런 방식으로 돈을 벌고 있어요.

단지 민주당 새누리당의 문제가 아니라 인간의 문제라고 봐야 합니다.

2
2020-11-22 08:38:22

최소한의 인지적 균형.. 항상 표현을 고민하던 문제였는데 좋은 단어를 보게 되었네요.

2020-11-22 08:45:11

이게 다른걸 보는 선택의 폭을 줄인거 같아요ㅜ 너문싫음

2020-11-22 09:22:46

근래에 네이버 등 포털에서 국제정치 관련 뉴스를 볼 때마다 최소한의 인지적 균형을 상실한 댓글들에 안타까움이 느껴집니다.
이 문장이 너무 공감되네요

2020-11-22 10:09:17

정치유튜브 믿고 거릅니다. 양측 어디든 이야기하는거 들어보면 황당한 소리만 이어서 하는데 달리는 댓글들을 보면 더 황당합니다.

2020-11-22 13:35:48

유튜브에서 주로 보는것은 영화 리뷰,여행프로인 세계테마기행,인문학.자연과학프로.예전예능짤위주네요.
시사나 정치는 역겨워서 볼이유가 없음.그냥 선동 그 자체임.

2020-11-22 17:31:56

저는 미신이랑 비슷하다고 봅니다. 은근히 혈액형 믿는 사람도 많고 뭔가 논리 이상의 것을 믿고 싶은게 사람 본성 같은거죠. 가볍게 재미로 생각하면 특별히 사회에 악영향도 없고요. 근데 그게 본인 이익에 이용해 먹는 사람들에 의해 증폭돼서 현실 세계에 영향을 주기 시작하고 진실은 알수 없기에 대안적 진실을 믿기 시작하고 갈수록 극단화 돼버리면 재미로 맛들인 미신에 끌려서 사이비 종교에 전재산을 바치는 느낌입니다; 기술 발전으로 이게 쉬워지긴 했지만 과거에도 맥카시이즘, 중세 마녀사냥, 나치당 집권 같은 사례들이 있었듯이 집단적 군중 심리는 정말 무서운것 같아요. 

2020-11-22 18:01:25

뭘 이야기하고 싶으신 건지는 알겠는데 약간 오류가 있습니다. 넷플릭스가 추천 알고리즘을 크게 선전하던건 한참 전 이야기이고(이 당시는 요즘처럼 AI가 널리 알려지기 이전이라 전통적인 머신러닝의 방식을 사용하던 시기) 최근에는 자사의 추천 알고리즘을 예전처럼 내세우지 않습니다. 개인적으로는 넷플릭스 추천 알고리즘이 다른 비슷한 명성을 가진 회사들에 비해 (e.g. 쓰셨듯이 유튜브) 크게 뛰어나다고 생각하지 않고, 전세계에 낮은 속도에서도 안정적으로 컨텐츠를 보여주는 기술 및 이를 보완하는 아키텍처를 진정한 강점으로 봅니다.

1
2020-11-22 20:47:27

안녕하세요, 베일리님.

'최소한의 인지적 균형'이라 말씀하신 것이 '선거부정' 관련 내용을 언급하시는 것인가요?

어떤 표현을 보시고 '최소한의 인지적 균형'이 결여된 사람이 많다고 느끼신지 정확하게 알 수는 없으나, 제가 뉘앙스에서 느끼기엔 미국의 선거부정 사건에 대해서 그렇게 느끼시는 것 같습니다.

미국의 선거부정 문제를 제기한건 다름아닌 도널드 트럼프 현역 대통령입니다.
'트럼프=미치광이' 프레임에 갇혀 트럼프와 그의 변호인단, 그리고 그 지지자들의 이야기 모두를 들어볼 가치도 없은 주장, 최소한의 인지적 균형도 갖추지 못한 주장이라 생각하는게 과연 민주적인 것일까요.

다름아닌 무려 미국 대통령의 주장인데요.

현지시각 19일 워싱턴 소재 공화당 전국위원회 청사에서 줄리아니 변호사를 비롯한 트럼프 대통령 변호인단의 기자회견 풀영상을 봤습니다.

그들의 주장은 이러했습니다.
"기자회견에서 제시하는 증거들은 내가 제시한 것이 아니다. 위증에 대한 처벌에 동의 하 미국 국민들이 직접 증언한 증언록을 읽어드리는 것이다."

"이 소송은 선거 결과를 뒤집기 위함이 아니다. 선거의 '무결성'을 보존하기 위함이다."

"이번 기자회견은 법정의 심리가 아니다. 전 과정의 오프닝일 뿐이다. 몇 주 간 일어난 사건에 대해 미국 국민들이 아셔야할 내용을 브리핑한 것이다. 법정에서의 다툼의 과정은 당연하게도 더 긴 시간이 필요하다."


제 개인적으로 미국 대선에 대규모 선거부정이 있었느냐고 묻는다면, 잘 모르겠다고 답하겠습니다.
그러나 적어도 합법적인 절차 하에 선거의 무결성을 위한 소송을 진행하는 것을 지켜보는 것은 당연하다고 생각합니다.
불법을 자행하는 것도 아닌데, 미치광이 대통령과 그 추종자들의 마지막 발악이라고 생각하고 그들의 말조차 듣지 않는것은 결코 헌정주의, 법치주의, 민주주의에 맞지 않는 처사라고 생각합니다.

만약 검찰조사 및 재판 결과, 선거부정이 없었다고 드러난다면 그것대로 좋은 결과 아니겠습니까?

다시한번 말씀드리지만, 무려 미국 대통령과 그 변호인단의 공식 기자회견에서 나온 주장들입니다. 어떤 내용을 문제삼으시는지는 모르겠지만, 여기서 조금 더 의심하여 이런저런 이야기하는 것에 대해 '최소한의 인지적 균형'이라는 표현까지 써야할까 싶습니다.

Updated at 2020-11-23 00:48:52

과거 TV 시절에는 콘텐츠 공급자나 방송사가 일방적으로 내보내는 프로그램으로 시청자들이 정보를 접하곤했는데, 이제는 유튜브같은 1인 미디어 시대가 도래하면서 유저들 중심의 시대로 탈바꿈되었죠. 그러면서 각각의 유저들이 원하는 정보와 영상물을 선별해서 콘텐츠를 접하고 소비하는 시대로 미디어의 페러다임이 전환되었는데요. 이렇게 유저 중심의 미디어 시대가 되면서 과거 선택적으로 접할수없었던 TV 시대에서같은 다양한 프로그램과 최대한 객관적인 정보 중심의 미디어에서 서로의 집단을 대변하는 일방적인 시각과 정보가 홍수처럼 확대되고 재생산되는것 같습니다. 거기에다 인공지능 추천알고리즘에 의해 유저가 좋아할만한 비슷한 콘텐츠를 마구 뿌려주고 있구요. 이 때문에 다양한 시각과 정보를 접하기 보다는 자기가 보고 싶은것과 듣고 싶은것만 접할수있는 콘텐츠에만 빠져들기 쉽상이 되어가는것 같습니다. 이런 미디어 환경속에서 의도적으로라도 다양한 시각과 정보를 접하고 정보의 왜곡과 가짜뉴스같은 정보를 가려내는 분별력이 필수인 시대인것 같습니다.

2020-11-25 16:06:16

저는 어느순간 유투브에서 소위 국뽕(?) 채널들을 보고있더라구요.

특히 일본 얘기가 많은 채널들을요.

계속 비슷한 채널을 추천해주니까 사람이 그쪽으로 쏠리는 것도 당연한 것 같습니다.

 

지금은 국뽕 채널은 전혀 안보고있습니다. ^^ 

글쓰기
검색 대상
띄어쓰기 시 조건