💌2025사람과디지털포럼 우리의 일상을 지배하는 알고리즘, 과연 누가 감시하고 있을까요? 지난달 25일 열린 ‘ 2025 사람과디지털포럼’에서 기조연설을 한 마티아스 슈필캄프는 독일에 기반을 둔 ‘ 알고리즘워치’의 공동창립자이자 책임이사입니다. 알고리즘에 대한 두려움이 날로 커지는 상황에서, 알고리즘을 감시하고 실질적 변화를 이끌어내는 활동을 하고 있습니다.
알고리즘이 개인의 신념을 강화하는 필터버블, 에코체임버 등의 효과를 야기하면서 사회를 분열시키고 민주주의를 위협하고 있다는 비판이 거셉니다. 알고리즘이 책임성, 투명성, 설명 가능성을 갖출 수 있도록 통제해야 한다는 목소리도 높습니다. 결국, 정부가 해야 할 역할입니다. 문제는 정부가 법과 제도를 통해 알고리즘 규제를 할 수 있도록 압박해내는 것입니다. 알고리즘을 감시하고, 정부를 압박하는 시민단체의 역할이 중요한 이유입니다.
그럼 알고리즘 감시의 최전선에서 활동하고 있는 마티아스 슈필캄프를 만나러 가보실까요?😊 |
|
|
마티아스 슈필캄프 알고리즘워치 이사가 25일 오전 서울 중구 대한상공회의소에서 열린 제4회 사람과디지털포럼에서 ‘생성형 AI 시대, 알고리즘의 책임성 어떻게 확보할 수 있을까’를 주제로 기조발제를 하고 있다. 김영원 기자 |
|
|
|
마티아스 슈필캄프라는 인물을 이해하려면 알고리즘워치가 어떤 곳인지 설명이 필요합니다. 알고리즘워치는 베를린과 취리히에 본부를 둔 비영리·비정부 단체로 30명의 팀원이 있습니다. 알고리즘과 인공지능이 정의, 인권, 민주주의, 지속가능성과 함께하는 세상을 만들기 위해 활동하고 있습니다.
알고리즘워치의 핵심은 ‘증거 기반 옹호’입니다. 슈필캄프는 이를 다음과 같이 설명합니다. “우리는 유럽과 호주에 있는 20개 이상의 대학 및 연구기관과 여러 해 동안 연구프로젝트를 해왔습니다. 기술연구팀을 통해 실제 시스템을 조사하는 방식으로, 선거 관련 챗봇 답변이 얼마나 정확한지도 테스트했습니다.”
이런 실증적 접근을 통해 구체적 성과를 거두고 있습니다. 이탈리아 학교 당국이 교사를 배치할 때 결함이 있는 알고리즘을 사용해서 나타난 피해 사례와 문제점, 시스템의 불투명성과 오류를 밝혀내고 공론화했습니다. 이처럼 다양한 사례를 발굴하고 의제화해, 기업과 정부가 책임 있는 인공지능을 개발하고 더 나은 거버넌스 체계를 마련하도록 촉구하고 있습니다.
그의 전문성은 국제적으로도 인정받고 있습니다. 브란덴부르크 자유상(2023), 테오도어 호이스 메달(2018), 그리메 온라인 어워드(2006) 등 다수의 상을 받았고, 유럽의회, 독일 연방의회, 유럽 평의회 등에서 알고리즘, 인공지능, 디지털 거버넌스 관련한 청문회에 전문가로 참여했습니다.
슈필캄프는 현재 알고리즘과 AI를 둘러싼 위험을 어떻게 진단하고 있을까요? |
|
|
슈필캄프는 인공지능을 ‘마법 같은 기술’로 포장하는 빅테크를 강하게 비판합니다. “기업이 간섭받지 않고 마음껏 일하도록 놔두면 인공지능이 모든 문제를 해결해줄 것”이라는 식의 서사가 만연해지면서, 실제로는 억만장자 카르텔이 민주주의와 법치주의를 약화시키고 자신들의 이익을 위해 권위주의 방향으로 나아가고 있다는 현실이 가려지고 있다는 것입니다.
그의 핵심 메시지는 명확합니다. 기술은 복잡하지만, 우리의 선택에 따라 인간을 위한 기술로 향하도록 통제력을 행사할 수도, 그 반대일 수도 있다는 것입니다. 인공지능으로 인한 불안정성이 극대화되고 있는 상황에서, 현실적이고 구체적인 접근이 매우 중요하다고 거듭 강조합니다.
특히 그는 위험의 근본 원인을 정확히 짚어냅니다. “지금 인공지능의 위험은 전방위적이고 체계적인데, 그 위험이 인공지능 자체에서 비롯된 것이 아니라 인공지능을 이용해 자신의 이익을 극대화하는 조직, 개인에 의해 발생한다”며 기업의 책임론을 강조합니다.
또한, 그는 장기적 위험보다 현재의 구조적 위험에 주목해야 한다고 말합니다. 인간을 넘어서는 범용인공지능(AGI)이 초래할 재앙보다 현재 당면한 구조적 위험이 훨씬 더 중요하다는 것입니다. 그는 현재의 인공지능 위험을 ‘특정 인공지능 시스템의 직접적인 영향을 넘어서는, 대규모적이고 체계적인’ 위험으로 정의합니다.
구체적으로는 다음과 같은 문제들을 지적합니다. 편견과 차별의 구조적 고착화, 특정 직종에서의 대규모 실직, 노동 조건 악화, 불평등 심화, 권력의 집중 등이 있습니다. 여기에 사회적 신뢰의 약화, 정보 생태계의 오염, 언론의 자유 약화, 민주주의의 후퇴, 대규모 감시, 권위주의의 강화까지 포함됩니다.
|
|
|
2023년 5월, 우루과이 수도 몬테비데오에서 식수 부족 문제에 항의하는 시민들의 모습. 게티이미지. |
|
|
특히 주목할 점은 이런 피해가 사회적 약자에게 집중된다는 것입니다. 마티아스 슈필캄프는 잘못된 안면 인식으로 인한 부당 기소, 생성 인공지능을 이용한 딥페이크 성착취물 제작, 네덜란드 아동 수당 스캔들 등 인공지능 부작용의 구체적 사례들을 제시합니다.
네덜란드의 보육 혜택 스캔들은 세무당국이 자동화된 시스템을 활용해 2013년부터 2019년까지 약 2만명의 부모를 아동수당 부정수급자로 잘못 낙인찍어 사회문제화된 사례입니다. 그로 인해 피해자들은 일자리를 잃거나, 가족이 해체되고, 심지어 극단적 선택을 하기도 했습니다. 이처럼, 감독과 책임이 없을 때 인공지능 시스템 자체의 결함이 얼마나 심각한 피해를 일으킬 수 있을지 보여주는 사례들은 많습니다.
마티아스 슈필캄프는 많은 경우 인공지능 시스템은 사회적 약자들을 표적으로 삼아 악용되고 있다고 말합니다. 그는 알고리즘워치의 연구를 소개하면서 이주자, 난민, 여행자에 대한 자동화 도구의 오남용을 고발합니다. 인공지능을 이용해 정부가 권력을 남용할 수 있으며, 이를 막기 위해서는 공공기관은 형식적인 준수를 넘어 실질적인 기본권 영향평가를 제출해야 한다고 말합니다. 또한, 공공 영역에서 사용하는 알고리즘 시스템을 공개하는 투명성 등록제가 필요하며, 이를 통해 책임성을 강화하고 행정의 효율성 향상을 동시에 달성할 수 있다고 강조합니다.
|
|
|
“인공지능이 기계가 인간을 고된 노동에서 해방시켜줄 것이라고 보는 유토피아, 인간의 일자리를 뺏고 세상을 지배할 것이라는 디스토피아의 양극단적 접근으로는 과거의 인공지능 발전을 제대로 이해하지 못하고, 미래 역시 대처할 수 없다.”
그렇다면 이런 문제들에 어떻게 맞설 수 있을까요? 마티아스 슈필캄프는 기술에 대한 유토피아와 디스토피아 모두를 경계합니다. 중요한 것은 변화를 줄 수 있는 구체적 실천인데, ‘알고리즘워치’는 인공지능의 위협에 맞서 민주주의를 지키기 위해 조사 활동, 로비활동 등 다양한 실천을 해왔습니다.
대표적인 성과는 선거 관련 AI 챗봇의 문제를 밝혀낸 것입니다. 2023~2024년 유럽연합(EU), 스위스, 독일 주의회 선거 당시 마이크로소프트의 인공지능 챗봇인 빙(Bing)과 코파일럿(Copilot)에 선거 정보에 대한 질문을 입력해 답변 데이터 세트를 구축하고 분석해, 약 30%가 부정확하다는 것을 밝혀냈습니다. 그 결과 마이크로소프트는 챗봇 답변 방식을 바꾸었고 유럽연합선거위원회는 플랫폼을 위한 선거 가이드라인에 이 사례를 포함시켰습니다.
또 다른 주목할만한 성과는 법제화를 이끌어낸 것입니다. 전 세계 시민사회단체 및 학계와 협력해 메타, 구글, 틱톡과 같은 거대 플랫폼의 추천 알고리즘이 선거에 개입하는 것과 같이 사회적 위험을 유발할 소지가 있는 경우, 연구자들의 데이터 접근 요청을 의무화하라는 요구를 공동으로 제기했습니다. 이는 기업의 책임성을 강화하는 유럽연합 디지털 서비스법(DSA)에 반영되었습니다.
플랫폼 조사 도구 개발도 주요 성과 중 하나입니다. 알고리즘워치는 플랫폼을 기업의 동의 없이 외부에서 조사할 수 있는 다양한 도구를 개발해왔습니다. 플랫폼의 데이터 통제에서 벗어나기 위해 이용자들에게 데이터를 기부해달라고 요청했습니다. 플랫폼(메타)의 방해 등 여러 어려움 끝에, 극우 콘텐츠가 사용자의 타임라인에 더 두드러지게 노출된다는 것을 밝혀내기도 했습니다.
|
|
|
유럽연합은 2020년 12월 온라인 플랫폼 서비스 제공자의 정보서비스에 관한 투명성을 강화하고 서비스 이용자들의 개인정보를 적극적으로 보호하기 위해 디지털서비스법을 발의하였고, 2023년 8월부터 유럽연합 전역에서 시행 중이다. |
|
|
1월 9일 진행된 일론 머스크와 독일 극우정당 ‘독일을 위한 대안’(AfD) 당수 알리스 바이델 간의 엑스(옛 트위터) 라이브스트림 대화. 유튜브 채널 ‘알리스 바이델’(Alice Weidel)에서 갈무리.
|
|
|
최근 전 세계적으로 극우 정당의 부상이 화두가 되고 있습니다. 지난 2월 독일 총선에서 극우 정당인 ‘독일을 위한 대안(AfD)’이 원내 제2당이 되면서 전 세계에 큰 충격을 주었습니다. 전 세계적으로 포퓰리스트 정치인, 극단주의 정당의 득세와 소셜미디어는 긴밀한 연관을 지니는데, 마티아스 슈필캄프의 생각은 어떤지 궁금했습니다.
마티아스 슈필캄프는 플랫폼의 책임이 있지만, 모든 것을 플랫폼만으로 돌려서는 안 된다고 냉정하게 말합니다. 그의 답변을 그대로 옮겨보겠습니다.
“소셜미디어와 인간 행동 간 관계는 복잡합니다. 대부분의 정당은 소셜미디어 플랫폼을 활용해 영향력을 확대하려 합니다. 시민들은 다양한 요인을 고려해 정치적 판단을 내립니다. 물론 거대 플랫폼 중 많은 곳이 자신의 이익을 위해 민주주의 보호라는 도덕적 책무를 소홀히 해 공론장을 분열시키고 있습니다. 하지만 정치인들이 극우 정당의 성공 요인을 플랫폼에서 찾는 것은 희생양 만들기나 마찬가지입니다.”
그는 독일에서 일론 머스크가 극우 정치인을 지지하는 게시물을 올렸을 때, 어느 정도 영향을 미쳤는지 알고리즘워치가 직접 측정한 결과를 소개합니다. 독일 유권자에게 미친 영향은 제한적이었지만 오히려 미디어가 이를 과도하게 보도해 실제 영향보다 더 크게 두드러진 측면이 있다는 것입니다. 극우 정당의 부상에는 플랫폼의 책임 못지않게, 정치인의 책임, 언론의 책임도 함께 물어야 한다는 것이지요.
이런 관점은 시민단체의 역할에 대한 그의 솔직한 성찰로 이어집니다. 알고리즘 감시에 있어 시민단체의 역할에 대해서도 그는 단호하게 선을 긋습니다.
“알파벳(구글), 아마존, 애플, 메타, 마이크로소프트, 엔비디아, 테슬라 등 7대 기술기업의 연매출은 2조 달러를 넘습니다. 국가조차 이들을 통제하기가 쉽지 않습니다. 알고리즘워치와 같은 단체만으로는 한계가 뚜렷합니다. 우리가 영향력을 행사하는 방식은 이들을 조사하고 그 결과를 바탕으로 정부가 이들을 견제하도록 설득하거나 압박하는 것입니다. 정부의 지원이 절실합니다. 이와 동시에 정부가 책임을 회피하기 위해 시민사회단체가 자신들보다 더 강력하다고 억지를 부리면서 ‘면죄부’로 이용하려는 시도에도 저항해야 합니다."
|
|
|
📝이번 <스피커스> 어떠셨나요?
알고리즘이 지배하는 시대, 우리는 어떤 선택을 해야 할까요? 마티아스 슈필캄프의 메시지는 분명합니다. 기술의 발전을 막을 수는 없지만, 그 기술이 인간을 위해 사용되도록 만드는 것은 우리의 몫이라는 것입니다. 정부의 AI 정책에 목소리를 내며, 알고리즘의 투명성을 요구하는 시민사회 활동에 참여하는 것부터 시작할 수 있겠죠. 스피커스 구독자분들의 아이디어도 궁금합니다!😊
스리슬쩍 알려주기를 통해 생각 나눠주세요. 소중하게 읽고, 구독자분들과 함께 더 나은 이야기를 만들어가겠습니다. |
|
|
|
