(출처=페이스북 TikTok) 

[위즈경제] 이정원 기자 =동영상 공유 플랫폼 ‘틱톡’의 알고리즘이 청소년에게 유해한 영상을 제공한다는 우려의 목소리가 점점 커지고 있습니다.

25일 블룸버그는 미국 질병통제예방센터(CDC)의 2021년 조사 결과를 인용하며, 10대 청소년 4명 중 1명이 자살을 진지하게 생각한 적이 있고, 이는 10년 전 대비 두 배 이상 증가한 수치라고 설명했습니다. 이에 미국심리학회 등 전문가 단체는 10대 청소년의 우울증이나 자해 행위가 증가한 것은 소셜 미디어와 연관돼 있다고 했습니다. 

틱톡은 서비스를 시작한 2016년 이후 유례를 찾기 어려울 정도로 빠르게 가입자가 증가해 전 세계에 10억명 이상의 사용자를 보유하고 있습니다. 틱톡의 전례 없는 성공에는 개인화된 맞춤 추으로 이용자들이 계속 틱톡을 사용하게 만드는 알고리즘에 있다는 분석이 지배적입니다.

하지만 최근 틱톡의 알고리즘이 유저들에게 유해한 콘텐츠를 반복적으로 제공해 악영향을 미치고 있다는 우려가 나오고 있습니다. 특히 정신적으로 미성숙한 청소년들이 온라인 환경에 취약하게 노출돼 있다는 지적이 잇따르고 있습니다.

지난해 2월 미국의 16세 소년 체이스 나스카는 친구에게 “미안해. 더 이상 참을 수 없다”는 메시지를 남기고 스스로 목숨을 끊었습니다. 가족들은 유서조차 남기지 않고 아들의 죽음에 의문을 가졌고, 나스카의 계정에 틱톡 알고리즘이 ‘우울증’, ‘절망’, ‘죽음’ 등 부정적인 영상을 제공하고 있다는 것을 알게 됐습니다. 심지어 나스카 사망 1년 후 그의 틱톡 계정엔 ‘아픔을 없애주세요. 죽음은 구원이다’는 제목의 영상이 추천된 것으로 알려졌습니다.

나스카의 가족들은 지난 23일 틱톡의 안보 위협을 논의하기 위해 열린 미국 하원의 청문회에서 “아들 체이스가 틱톡에서 원치않는 자살 관련 영상을 받은 뒤 실제로 극단적인 선택을 했다”고 주장했고, 틱톡과 틱톡의 모기업 바이트댄스, 철도회사를 상대로 소송을 제기했습니다.

이에 틱톡 측은 “향후 진행될 소송에 대해 언급할 수 없다”라면서 “(틱톡은) 사용자, 특히 10대 젊은이들의 안전과 행복에 전념하고 있다”고 설명했습니다.

이어 “비극을 당한 가족을 생각하면 마음이 아프다”며 “(유저들에게) 긍정적이고 풍부한 체험을 주기 위해 노력하고 있다. 당사 플랫폼을 안전하게 할 대규모 투자를 진행하겠다”고 덧붙였습니다.

하지만 전문가들의 반응은 회의적입니다.

구글에서 유튜브 추천 알고리즘을 설계한 기욤 샤슬로는 “다른 소셜 미디어 플랫폼들도 (틱톡과) 비슷한 시스템을 채택하고 있지만, 틱톡은 그 범위가 압도적으로 넓다”고 설명했습니다.

그는 “자신의 경험에 따르면 틱톡 알고리즘은 다른 많은 소셜 미디어 플랫폼에 비해 사용자에게 전달되는 콘텐츠의 많은 부분을 통제하고 있다”고 했습니다.

아울러 “우울증을 악화시키는 콘텐츠가 유저의 마음을 사로잡는 데 도움이 된다면, 알고리즘은 적극적으로 관련 콘텐츠를 홍보한다”고 덧붙였습니다.

틱톡 추천 시스템에 대한 우려는 내부에서도 제기됐습니다. 독일 지점의 세일즈 매니저였던 찰스 바는 자신의 상사에게 틱톡 알고리즘이 젊은이들에게 자살을 찬양하는 듯한 동영상을 끊임없이 보내고 있음을 알리고 개선을 촉구했습니다.

하지만 그의 노력에도 불구하고 틱톡 측에서는 알고리즘을 개선하지 않았습니다. 지난 2021년 7월 미국 일간 월스트리트저널(WSJ)가 직접 진행한 실험에 따르면 우울과 관련된 동영상에 관심을 보인 계정에서는 36분 내 대부분의 콘텐츠가 슬픔이랑 연관된 것으로 나타났습니다.

앞서 비벡 머시 미국 의무총감은 2021년 12월 ‘청년 정신건강 위기 보고서’에서 10대 젊은이들이 절망감과 자살 경향 고조는 코로나19로 인한 고립 및 소셜 미디어와 관련돼 있을 수 있다고 설명했습니다.

그는 “젊은이들은 틱톡 등으로부터 외모나 인기, 똑똑함, 부유함에 대해 부정적인 메시지를 받고 있다”며 “젊은이들의 마음을 약하게 할 것이 아니라 강하게 만들 수 있는 알고리즘을 설계해야 한다”고 촉구했습니다.

기사가 마음에 드셨나요?

기사가 마음에 드셨다면 좋은 기사에 후원해 주세요.

위즈경제 기사 후원하기