악마에게 영혼을 파는 거래 ‘알고리즘’
143963_148219_2820.jpg
넷플릭스가 공개한‘ 소셜 딜레마(Social Dilemma)’. 인간을 상품으로 소비하는 소셜미디어의 부조리를 담고 있다. / 넷플릭스
“유튜브에서는 유튜브 추천에서 일했어요. 제가 작업한 알고리즘이 사회의 분극화를 더 심하게 만들어서 걱정이 됩니다. 하지만 사용 시간의 관점에서 보면 이런 분극화는 사람들을 잡아두는 데 매우 효과적이에요.”
유튜브 엔지니어 출신의 기욤 샬로(Guillaume Chaslot)가 넷플릭스가 지난 9월 9일 공개한 ‘소셜 딜레마(Social Dilemma)’에 출연해 한 말이다.
“중독과 가짜뉴스에 시달리는 현대사회. 실리콘 밸리 전문가들이 용기 내어 경고한다. 자신들의 창조물, 소셜 미디어를 주의하라고. 다큐멘터리와 드라마를 결합한 영화”로 소개된 소셜 딜레마는 실제 구글, 트위터, 페이스북, 인스타그램, 유튜브, 스냅챗, 틱톡 등 소셜 미디어에서 종사한 전·현직 간부와 엔지니어 등이 출연해 소셜 미디어의 해악을 증언한다.
이러한 거대 소셜 미디어 기업들이 우리의 사고와 행동, 생활방식을 바꾸도록 지속적으로 조작하면서 인간 자체를 상품으로 소비, 착취하고 있다는 주장이다. 소셜미디어 내 가짜뉴스와 중독, 이익을 극대화하는 상업적 알고리즘, 여론조작 등을 다룬 93분 분량의 일종의 다큐멘터리다.
일간 가디언은 소셜 딜레마의 감독 제프 올롭스키의 기고를 9월 27일(현지시간) 실었다. “누가 누구를 이용하고 있는지 알아야 한다”는 감독은 “사람들은 기술이 사회를 추월하는 것을 상상할 때 터미네이터와 방탄 로봇, 또는 조지 오웰의 1984에 등장하는 빅 브라더를 생각한다”며 “그러나 디스토피아 기술은 십중팔구 우리를 강하게 무장시키지 않을 것이다. 반대로 우리는 자신도 모르게 악마의 거래를 받아들일 것”이라고 주장했다.
그는 “우리는 이미 올더스 헉슬리의 ‘멋진 신세계’에 살고 있다”며 “그러나 멋진 신세계의 시민들과 달리 우리는 비참하다. 온라인 속에서 보내는 시간이 증가함에 따라 특히 젊은이들 사이에서 불안, 우울증, 자살률이 높아졌다”고 지적했다.
감독에 따르면 소셜 미디어 플랫폼은 어떤 대가를 치르더라도 인간의 경험을 채굴해 조작 및 추출하도록 설계된 감시 기반 비즈니스 모델로 구동된다. 그는 “이 사업 모델은 우리를 위해 만들어진 게 아닌 우리를 이용하기 위해 만들어졌다”고 비판했다.
기술의 딜레마, 잠식당하는 인간성의 딜레마
실제 소셜 딜레마에 출연한 IT 전문가들은 다음과 같은 이야기들을 증언처럼 털어놓았다. “공짜처럼 보이는 서비스가 인터넷에 많이 있는데 공짜가 아니에요. 광고주가 돈을 대는 거죠. 왜 광고주가 그런 회사들에 돈을 줄까요? 우리에게 광고를 보여주기 위해서예요. 우리가 상품인 거예요. 우리의 관심이 광고주에게 상품으로 팔리는 거죠.”
“그건 너무 단순해요. 개인의 점진적이고 눈에 띄지 않는 행동과 인식의 변화가 상품인 것입니다. 바로 그게 유일한 상품이에요. 다른 건 상품이라고 할 만한 게 없죠. 그들이 돈을 벌 수 있는 유일한 수단이니까요. 당신의 행동을 바꾸고 사고방식과 정체성을 바꾸는 거예요. 아주 점진적인 변화예요. 누군가에게 천만 달러를 받고 세상을 원하는 방향으로 1% 바꿔 주겠다고 하는 거예요. 세상을 말이에요, 정말 놀랍고 엄청나게 많은 돈이죠.”
“페이스북 등 SNS를 통해 감시되고 추적되고 방대한 데이터가 쌓입니다. 그것으로 그들은 우리의 행동을 예측하는 모델을 만들고 최고의 모델을 가진 이가 승리하는 겁니다” “그들은 우리를 광고를 보는 좀비로 만들고 있어요. 그걸로 그들은 돈을 벌죠.”
페이스북 전 부사장 카마스 팔리하피티야(Chamath Palihapitiya)는 “우리는 최대한 빨리 심리적으로 당신을 조작할 방법을 알아내고 말초적인 보상을 주려고 합니다. 페이스북은 그걸 너무 잘했고 인스타그램과 왓츠앱도 했어요. 스냅챗도, 트위터도 그랬고요”라고 말했다.
감독은 또한 소셜 미디어가 생산적인 대중 담론에서 멀어지게 하고 있다고 지적했다. 2018년 페이스북 고위 간부들에게 보낸 내부 메모에는 “우리의 알고리즘은 인간의 두뇌를 분열로 끌어당기는 매력을 이용한다”는 내용이 담겨 있었다. 소셜 미디어의 알고리즘은 사용자의 관심을 얻고 플랫폼 내의 시간을 늘리기 위한 노력의 일환으로 더욱 더 분열을 조장하는 콘텐츠를 제공하고 있다는 것이다.
2014년 퓨 리서치센터는 미국의 당파적 반감과 분열이 지난 20년 동안의 어느 시점보다 악화됐고 광범위하다는 사실을 발표했다. 감독은 “지난 6년 동안 소셜 미디어는 이러한 정서를 악화시킬 뿐이었다”고 지적했다.
이러한 예로 이 다큐 속에는 다음과 같은 대목이 등장한다.
- 공화당은 어떤 사람들입니까? “무식한 사람들이요.”
- 민주당은 어떤 사람들입니까? “민주당은 정당이 아니라 범죄 조직입니다.”
“퓨 리서치센터에서 1만 명의 미국인을 연구했는데 지난 20년을 통틀어 개인적, 정치적으로 가장 분극화되었다고 합니다. 공화당원의 3분의 1 이상이 민주당이 국가에 위협적인 존재라고 하며, 민주당원의 25% 이상이 공화당에 대해 같은 말을 합니다.”
최근 있었던 미국 대선에서 트럼프 진영과 바이든을 중심으로 한 반트럼프 진영 사이의 극렬한 대립과 갈등이 바로 소셜 미디어의 알고리즘이 만들어낸 극단적인 분극화 현상의 단면을 보여주는 듯하다.
구글의 디자인 윤리학자 출신으로 휴먼 테크놀로지 센터의 공동 설립자인 트리스탄 해리스는 소셜 딜레마에서 “기술이 인간의 강점을 압도하기 훨씬 전에 인간의 약점을 압도할 것”이라고 예상했다.
구체적으로 옮기면 그는 “우리는 기술이 인간의 힘과 지성을 압도할 때를 기다리고 있었습니다. 기술적 특이점을 넘어 우리의 일을 대신하고 인간보다 똑똑해질 때를 말이죠. 하지만 그 전에 앞서 기술은 인간의 약점을 압도하기 시작했습니다. 바로 중독, 분극화, 급진화, 분노와 허영의 만연함을 기초로 하고서 말이죠. 이건 인간의 본능을 압도하며 인간성에 대한 체크메이트”라고 했다. 정교한 알고리즘이 우리의 정서적 취약성을 파고들어 음흉한 방법으로 거대 소셜 기업들의 이익을 위해 이를 이용한다는 설명이다.
감독은 소셜 미디어가 우리의 모든 온라인 활동을 감시함으로써 우리의 감정과 행동을 예측할 수 있다고 했다. 또한 이를 바탕으로 얻은 통찰력을 활용해 우리를 가장 높은 광고 단가 입찰자에게 경매하고 결과적으로 그들은 세계 역사상 가장 부유한 기업들 중 일부가 됐다고 비판했다.
소셜 미디어에서 음모론이 횡행하는 현상은 이러한 면에서 볼 때 자연스러운 현상이다.
“평평한 지구 음모론은 알고리즘에 의해 수억 번이나 추천되었습니다. 속는 사람들이 멍청하다고 생각하기 쉽지만 알고리즘은 하루가 다르게 똑똑해집니다. 오늘은 지구가 평평하다고 사람들을 속이고 내일은 당신을 또 다른 거짓으로 속이려 할지도 모른다는 거죠.”
미국의 유명 농구선수 카이리 어빙은 지구가 평평하다고 믿었다가 나중에 사과한 뒤 유튜브를 비난했다. 평평한 지구 음모론은 알고리즘에 의해 수억 번이나 추천됐다. 어빙이 사과했을 때 한 학생이 댓글을 통해 “지구가 둥글다고 믿는 사람들의 농간일 뿐”이라고 말했다. 소셜 딜레마에 등장하는 한 대목이다.
넷플릭스에 다큐‘ 소셜 딜레마(Social Dilemma)’에 출연한 기욤 샬로(Guillaume Chaslot). 그는 구글 소프트웨어 엔지니어 출신이다. / 구글
소셜 딜레마에서 빠져나오는 법
미국과학진흥협회 연구에 따르면 지난 5년 동안 구글에서 ‘평평한 지구’ 검색이 폭증했으며 평평한 지구 학회 참석자들은 모두 지구 평면설을 주장하는 유튜브 영상을 접한 것으로 나타났다고 한다. 이들은 신봉자들의 평균 연령이 젊어지고 있다는 점에도 주목했다.
한 시장조사업체에 따르면 미국인의 2%가 지구 평면설을 믿는 것으로 나타났는데 이중 70%는 인터넷과 소셜미디어에 익숙한 25세 이하였다.
소셜 딜레마에 출연한 내부고발자 소피 장은 페이스북의 플랫폼에 문제가 얼마나 만연해 있는지, 그리고 이 문제에 대해 회사가 얼마나 행동하지 않고 있는지 폭로했다. 소피 장은 “페이스북은 최근 선거 1주일 전 정치 광고에 대한 금지를 포함한 다가오는 미국 대선에서 정치적 오보를 완화하기 위한 일련의 업데이트를 내놓았지만, 이러한 조치들은 너무 적고, 너무 늦으며, 그들의 착취적인 사업 모델의 근본적인 문제를 해결하지 못하고 있다”고 지적했다.
다른 전문가들도 다음과 같이 고발하고 있다. “우린 거짓 정보에 편향된 시스템을 만들었어요. 우리가 원해서가 아니라 거짓 정보가 회사에 더 이익이라서입니다. 진실보다도요. 진실은 지루하죠.”, “허위 정보로 이윤을 남기는 사업 모델입니다”, “우리 IT업계가 만든 도구가 사회의 구조를 불안정하게 하고 침식시키고 있습니다. 모든 나라에서 동시다발적으로요.”
감독은 “이 작품(소셜 딜레마)을 작업한 지 거의 3년이 지난 지금 나는 사회적 딜레마를 우리 시대의 근본적인 문제로 보고 있는데, 이 문제는 타협과 공동의 이해를 필요로 하는 다른 많은 사회적 갈등의 밑바탕에 깔려 있다”고 했다.
감독은 “그러나 희망은 있다”며 “제도적 억압과 불평등을 증폭시키는 착취적 기술의 폐해를 경험한 헌신적인 활동가, 단체, 학자, 이들의 활동과 목소리를 통합할 필요가 있다”고 제안했다.
“알림을 끄세요”, “유튜브의 영상 추천을 절대 받지 마세요. 항상 선택해서 보세요. 싸울 방법은 있습니다”, “다양한 종류의 정보를 얻도록 하세요. 여러분의 삶에서요. 전 저랑 의견이 다른 사람들도 트위터에서 팔로우를 합니다. 다른 관점에 저를 노출시키고 싶거든요.” “대부분의 IT업계 사람들은 자식들에게 이런 전자 기기를 주지 않습니다.”, “우리 애들은 소셜 미디어를 전혀 쓰지 않습니다”와 같은 말들을 남겼다.
소셜 딜레마는 이처럼 딱히 뚜렷한 해법을 내놓고 있지는 않다. 다만 소셜 미디어를 일정 시간 동안만이라도 끊고 해당 소셜 미디어 기업에 대해서는 적절히 규제할 것을 대안으로 말한다.
소셜 딜레마가 소셜 미디어 기업에 대한 왜곡된 시각으로 점철돼 있다고 비판하는 목소리도 있다. 그들은 소셜 딜레마를 내놓은 넷플릭스의 경쟁사 기업이다.
세계 최대 소셜 미디어 기업인 페이스북은 SNS 가짜뉴스와 중독 현상을 다룬 넷플릭스 다큐멘터리 소셜 딜레마에 대해 “선정주의”라고 반박했다고 미 경제 매체 비즈니스인사이더가 10월 5일 보도했다.
보도에 따르면, 페이스북은 10월 2일 입장문을 내고 “(다큐멘터리 ‘소셜 딜레마’가) 정치적 양극화와 같은 복잡한 사회 문제에 대해 소셜 미디어 플랫폼을 희생양으로 삼는다”며 이같이 밝혔다.
페이스북 측은 “소셜 미디어가 우리 삶에 미치는 영향을 논의해야 하지만 ‘소셜 딜레마’는 선정주의에 실체를 묻어버렸다”며 “기술의 미묘한 함의는 놓친 채 소셜 미디어 플랫폼에 대한 왜곡된 시각만을 보여준다”고 했다. 또한 페이스북은 “다큐멘터리 제작자들이 현재 소셜 미디어 업계에서 일하고 있는 이들의 견해나 다른 견해를 지닌 전문가들의 말은 반영하지 않고 있다”며 “소셜 미디어 업체들이 이미 진행하고 있는 자발적인 노력 등도 다루지 않고 있다”고 지적했다.
페이스북은 “자사 알고리즘은 우버, 아마존 등과 같이 사용자들의 경험 향상을 위해 이뤄진다”며 “넷플릭스도 이 다큐멘터리를 누구에게 추천할지를 결정하는 데 알고리즘을 쓰고 있다”라고 지적했다.
일부 전문가들도 페이스북의 입장을 옹호했다. 그들은 이 다큐멘터리를 ‘쓰레기 과학(junk science)’에 기반한 것이라고 주장했다.
옥스퍼드 인터넷 연구소의 경험심리학자 앤드류 프지빌스키 교수는 비즈니스인사이더와의 인터뷰에서 “다큐멘터리가 소셜 미디어 플랫폼 뒤에 숨겨진 경제학적 측면을 잘 설명했지만 과학적 측면에서의 언급은 피해갔다”며 “소셜 미디어의 긍정적인 측면을 연구하는 과학자들을 인터뷰하지는 않았다”고 비판했다.