💌2025사람과디지털포럼
야엘 아이젠스타트는 미국의 민주주의 운동가이자 기술 정책 전문가입니다. 20년 이상 온라인·오프라인에서 극단주의, 분열, 반민주적 행위에 맞서 활동해왔습니다.
야엘 아이젠스타트는 현장 경험이 풍부한 전문가라는 점에서 독보적입니다. 외교관에서 기술 정책전문가까지 여러 분야를 넘나들면서 현장의 다양한 문제들에 대응해왔습니다. 플랫폼의 속성도 잘 압니다. 정부, 시민사회단체, 플랫폼 기업 등 다양한 영역을 넘나들면서 빅테크의 사회적 책임, 알고리즘의 공공성 문제 등을 위해 노력해왔기에 그의 분석과 해법은 구체적이고 생생합니다.
특히 그가 플랫폼 기업들이 자체 알고리즘을 조정해 선한 콘텐츠로 유인할 수 있다며 사례로 든 트위터의 ‘마찰정책’은 큰 관심을 끕니다.
|
|
|
지난 6월 25일 서울 대한상공회의소에서 열린 제4회 사람과디지털포럼에서 야엘 아이젠스타트가 기조강연을 하고 있다. 한겨레경제사회연구원. |
|
|
야엘 아이젠스타트는 미국 중앙정보국(CIA)에서 정보장교로 활동한 특이한 이력의 소유자입니다. 중동, 아프리카를 중심으로 테러, 극단주의에 대응하는 역할을 했습니다. 또한 미국 국무부 외교관 및 국가안보 자문관으로도 활동했습니다.
‘민주주의를 위한 사이버보안’은 어떤 일을 하는 곳일까요? 비영리, 비당파, 독립적 성격의 연구조직으로, 온라인 공간이 민주주의와 사회에 미치는 위협을 밝혀내고 해결책을 제시하는 데 주력합니다. 소셜미디어, 온라인 광고, 플랫폼 알고리즘, 가짜뉴스, 선동·극단주의 확산 등 민주주의와 사회적 공공성에 위협이 되는 온라인 현상을 파악하고 대응책을 제언하는 것이 주된 활동입니다. 또한 데이터, 연구성과를 투명하게 공개해 언론, 연구자, 시민이 활용할 수 있도록 지원합니다.
야엘 아이젠스타트는 2024년 대선을 앞두고 위기의식을 가지고 활발한 활동을 펼쳤습니다. 방송 등 여러 매체를 통해 트럼프 진영의 ‘도둑맞은 선거’ 프레임과 온라인 극단주의 확산 생태계를 강도 높게 비판한 바 있습니다.
|
|
|
아이젠스타트는 소셜미디어 플랫폼들이 주장하는 ‘중립적 송유관’ 개념을 강력히 반박합니다. 이들 플랫폼은 단순히 표현이 흘러가는 중립적 도구가 아니라, 어떤 표현에 우선순위를 부여하고, 확대하며, 강화하거나 제한하는지를 결정하는 핵심적 역할을 수행한다고 강조합니다.
그럼 플랫폼은 어떤 표현을 더 강력하게 노출시킬까요?
야엘 아이젠스타트가 인용한 <걸리버 여행기>의 저자 조너선 스위프트의 18세기 명언에 힌트가 있습니다.
“거짓은 날아가고, 진실은 절뚝이며 뒤따른다.”
실제로 플랫폼에서는 진실보다 허위정보, 진보적 게시물보다 보수적 게시물이 알고리즘을 통해 더 많이 퍼진다는 점이 엑스(구 트위터)를 포함한 여러 연구 결과에서 드러납니다. 그 이유는 알고리즘이 참여도가 높은 콘텐츠, 즉 관심을 많이 끌 수 있는 콘텐츠를 노출시키는 구조적 특성 때문입니다. 분노와 혐오 같이 즉각적 관심을 자극하는 메시지가 더 많이 노출되는 이유이기도 합니다.
|
|
|
2021년 10월, 페이스북 뉴스피드 알고리즘 작동 원리를 보도한 워싱턴 포스트. 워싱턴포스트 누리집 갈무리.
|
|
|
모든 알고리즘은 특정한 목적을 염두에 두고 설계됩니다. 유튜브와 틱톡은 시청 기반 광고 판매를 위해 사용자가 영상을 더 오래 시청하도록 유도하며, 페이스북과 엑스는 성과 기반 광고 판매를 위해 링크 클릭이나 참여 등의 방식으로 적극적인 상호작용을 유도합니다.
이를 참여 기반 비즈니스 모델이라고 부릅니다. 즉, 플랫폼 기업들이 광고 수익을 극대화하기 위해서는 사용자들이 최대한 플랫폼에 오래 머물도록 해야 합니다. 이를 위해 인공지능 알고리즘을 활용해 자극적이고 극단적인 콘텐츠를 의도적으로 추천한다는 것입니다. 로런스 레시그 하버드대 로스쿨 교수를 포함해 많은 전문가가 지적하는 대목입니다.
야엘 아이젠스타트는 알고리즘이 인간의 취약한 본성을 이용하기 때문에 공중 보건, 공공 안전, 시민 담론 등과 같은 가치는 도외시될 가능성이 높다고 비판합니다.
|
|
|
야엘 아이젠스타트는 엑스의 내부 연구 결과를 근거로 알고리즘이 정치적 편향성을 띤다고 강조합니다. 캐나다, 프랑스, 독일, 일본, 스페인, 영국, 미국 7개국을 대상으로 한 분석에서 우파 성향의 정당과 대중매체가 좌파 성향보다 더 많이 증폭되고 있음이 확인됩니다.
야엘 아이젠스타트는 알고리즘이 정치적 편향을 드러내는 방식을 다음의 세 가지로 정리합니다. 첫째, 정치적 콘텐츠를 체계적으로 증폭하고, 둘째, 보수 성향 계정을 진보 성향 계정보다 더 활발하게 증폭하며, 셋째, 보수 성향 언론을 진보 성향 언론보다 더 활발하게 증폭한다는 것입니다.
뮌헨대학교 연구에서도 페이스북과 인스타그램이 정치 광고를 전달하는 방식에서 특정 정당의 콘텐츠를 우선시하는 경향이 확인되었습니다.
야엘 아이젠스타트는 또한 “극단주의 단체 가입자의 64%가 페이스북의 추천 알고리즘에 의해 유입되었다”고 말합니다. 이는 내부고발자를 통해 밝혀진 사실인데, 알고리즘이 극단주의 확산에 직접적으로 기여하고 있음을 보여주는 대목입니다.
유튜브는 어떨까요? 야엘 아이젠스타트는 유튜브가 ‘책임 있는’ 영상 추천을 표방하지만, 알고리즘은 게임 계정으로 들어온 청소년을 총기, 학교 총격, 연쇄살인범 관련 콘텐츠로 유도하고 있다고 말합니다.
|
|
|
영국 비비시(BBC)는 지난 2021년 10월, 알고리즘의 정치적 편향성을 들추어낸 엑스(구 트위터) 내부 연구결과를 발표했다. 비비시 누리집 갈무리. |
|
|
지난 6월 25일 서울 대한상공회의소에서 열린 제4회 사람과디지털포럼에서 기조연사들이 참여해 토론이 이뤄졌다. 한겨레경제사회연구원.
|
|
|
야엘 아이젠스타트는 알고리즘은 바꿀 수 있다고 단언하면서, 일론 머스크의 사례를 예로 듭니다. 일론 머스크는 엑스를 인수한 후 슈퍼볼 경기 당일 자신이 올린 트윗에 대한 반응이 바이든 대통령의 트윗보다 저조하자, 알고리즘을 수정해 자신의 트윗을 최우선으로 노출시켰습니다.
야엘 아이젠스타트가 특별히 강조한 것은 ‘마찰정책’의 도입입니다. 이는 사용자가 정보를 공유하거나 게시하기 전에 일부러 지연, 추가 클릭, 경고창 등 작은 장벽을 만들어 정보 확산의 속도를 늦추고 충동적 행동을 감소시키는 전략입니다.
실제 트위터는 2020년 미국 대선을 앞두고, 사용자가 기사 링크를 트윗·리트윗하고자 할 때 “기사를 먼저 읽어 보시겠습니까?”라는 팝업 경고창을 띄웠습니다. 이를 본 사용자는 기사를 실제로 클릭해 읽었는데, 그 비율이 40%나 증가했다고 합니다. 단순히 공유만 했던 이들 중 일부가 행동을 멈춤으로써, 허위정보 및 선정적 콘텐츠의 확산이 줄어드는 효과가 확인된 셈입니다.
하지만 선거가 끝나자 트위터는 원래대로 돌아갔습니다. 경제적 동기가 매우 컸는데, 사용자들이 플랫폼에 체류하는 시간이 감소해 기업의 이익이 줄어들었다는 점이 중요하게 작용했다는 분석입니다.
이처럼 마찰정책은 허위정보, 혐오 콘텐츠의 확산을 억제하는 데 효과적이지만, 플랫폼의 수익성과 배치되기 때문에 이를 해결하는 것이 관건입니다.
야엘 아이젠스타트는 알고리즘 규제를 위해서는 마찰정책과 같이 기업이 자율 규제를 통해 설계 변경과 우선순위 조정, 투명성 제고가 필요하다고 강조합니다. 아울러 정부 차원의 법제화·규제도 강조합니다. 미국은 그동안 소셜미디어 기업이 자사 플랫폼에 게시된 대부분의 콘텐츠에 대해 선제적 면책 특권을 부여받고, 법원은 알고리즘 설계와 기업 행위 전반에 대해 광범위한 재량을 인정해왔습니다.
하지만 앞으로는 유럽과 같이 기업의 투명성과 책임성에 대한 보다 강력한 대응이 필요하다고 말합니다. 교육, 압박 캠페인, 유해 플랫폼 이탈 운동과 같은 시민사회의 대응을 포함해 다각도의 노력이 필요하다고 야엘 아이젠스타트는 강조합니다.
|
|
|
📝이번 <스피커스> 어떠셨나요?
“AI 알고리즘은 민주주의를 어떻게 해킹하는가”를 주제로 열린 사람과디지털포럼의 내용을 4회에 걸쳐 살펴봤습니다.
“거짓은 날아가고, 진실은 절뚝이며 뒤따른다” 조너선 스위프트의 이 말이 2025년 소셜미디어 시대에 더욱 절실하게 다가옵니다. 매일 수십억 명이 사용하는 소셜미디어 알고리즘이 거짓을 더 빨리, 더 널리 퍼뜨리고 있다면 어떨까요?
우리가 할 수 있는 노력이 많지는 않지만, 그래도 유해 플랫폼 이탈 운동, 압박 캠페인, 그리고 일상에서 콘텐츠를 공유하기 전 한 번 더 생각해보는 시도를 해볼 수 있지 않을까요?
우리가 할 수 있는 시도가 있다면 스리슬쩍 알려주기를 통해 생각을 나눠주세요! 소중하게 읽고, 구독자분들과 함께 더 나은 이야기를 만들어가겠습니다. 참, 스피커스는 다시 격주로 찾아뵐 예정입니다. 8월의 첫번째 수요일에 만나요!😊
|
|
|
|
