필립 알스톤이 한국에 온다는 소식에 인권운동단체 활동가들은 기대감으로 들썩들썩했어요. 알스톤은 사회권 분야의 ‘시조새’로 불리는 인물입니다. 

2019년 발표한 ‘디지털 복지국가와 인권’ 보고서는 디지털화된 복지 시스템과 AI 자동화가 사회적 약자, 빈곤층을 대상으로 감시·통제 및 차별을 강화한다는 점을 간파해 인권 분야에 큰 울림을 주었어요.

알스톤 교수는 지난달 16일 국가인권위원회 주최로 열린 <신기술과 인권 - 인공지능의 기회와 도전> 국제 컨퍼런스 기조연설자로 참여하기 위해 한국을 방문했어요. 한국에 머무는 짧은 기간 동안 인권단체 활동가들과도 만나고 여러 언론사와 인터뷰도 했고요!

인공지능(AI)과 사회복지라는 두 낯선 조합에 대해 알스톤 교수는 어떤 이야기를 했을까요?

필립 알스톤(Philip Alston)은 호주 출신의 인권법 학자로, 멜버른대와 UC버클리 로스쿨에서 법학을 공부했고, 2014~2020년 유엔 빈곤·인권 특별보고관을 지냈어요. 그 이전에는 유엔 비사법적 처형 특별보고관(2004~2010), 유엔 경제적·사회적·문화적 권리위원회 위원장(1991~1998) 등을 지냈구요. 지금은 뉴욕대학교 로스쿨 석좌교수로 있는데, 그의 저서 ‘국제인권’은 인권법 분야의 대표 교과서로 꼽힙니다. 

지난 8월, 한 간담회에서 이재명 대통령이 ‘(복지)신청주의는 잔인한 제도’라고 말한 뒤 디지털 기술을 활용한 복지급여 자동지급을 둘러싼 논란이 이어지고 있습니다. 송파세모녀 사건이 잘 보여주듯이 사회복지의 혜택이 절실한 사람들이 정작 지원을 받지 못하는 이른바 ‘사각지대’ 문제 해결은 매우 중요합니다. 그래서 AI 기술을 잘 활용하면 진짜 혜택을 받아야 할 사람들이 지원을 받을 수 있다는 기대가 큽니다.

하지만 실제로 AI는 ‘자격 없는’ 사람들의 부정수급을 적발하는 데 더 집중적으로 활용되고 있습니다. 디지털 사회복지의 목표는 신청자의 권리 증진이 아니라 부정수급 방지, 빈곤층 서비스 비용 감축 등 효율성에 있다는 것입니다. 알스톤 교수는 “빅테크는 하위 20%의 가난한 사람들은 고려하지 않고, 단순히 문제가 있는 대상으로 보아 인공지능을 통해 추적 감시하는 데 초점을 맞추고 있다”고 비판합니다. 

한국에서도 약자의 권리 증진이 아닌 부정수급 문제 해결 등을 위해 AI가 활용되고 있습니다. 지난 2월 개최된 ‘AI 시민사회포럼’에서 진보네트워크센터 희우 활동가에 따르면, 기획재정부는 세금계산서 발행 후 취소, 가족 간 거래 등 의심스러운 패턴을 알고리즘으로 탐색해 부정수급을 찾아내는 시스템을 도입했고, 한국전력도 취약계층의 전기요금 할인 혜택 부당 이용 사례를 적발하기 위해 AI 기술을 활용했습니다. 희우 활동가는 “인공지능이 도입되면서 취약계층에 대한 옥죄기가 강화되고 보호 대상에서 밀려나거나 불안감이 더욱 커지고 있다”고 지적합니다.

노동현장도 마찬가지입니다. 알스톤 교수는 “노동현장에서 AI 활용은 심각하다. 고용주는 직원이 키보드 앞에 몇 분 앉아 있었는지, 출퇴근에 얼마나 걸렸는지까지 모두 파악할 수 있다”며 촘촘한 감시로 노동자의 인권이 악화되고 있다고 말합니다. 우버 등의 플랫폼 기업은 신기술을 활용해 노동권을 없애고, 협상 능력을 없애고, 이전에는 결코 받아들여지지 않았을 수준으로 임금을 낮추고, 건강보험 등의 혜택을 없앴습니다. “AI로 인한 가장 큰 위협은 일자리 소멸보다 근무 조건의 전반적인 악화”라는 것이 알스톤 교수의 진단입니다.

이처럼 복지나 노동에서 AI 도입이 당사자들의 삶을 악화시킬 가능성이 매우 큰 이유는, AI 도입의 가장 큰 목적이 ‘비용 삭감’이기 때문입니다. 이를테면, 배달앱에 AI가 도입될 경우 배달원의 안전과 질 좋은 서비스를 위해서라기보다는 임금 및 비용 절감의 목적이 큽니다. 이로 인한 피해는 특히 빈곤계층, 사회적 약자에게 집중됩니다.

알스톤 교수는 “인공지능 기술은 결코 중립적이지 않고, 디지털 사회복지는 과학적 진보의 필연적 결과물이 아니라 인간의 정치적 선택의 결과”라고 강조합니다. 따라서 “인권 중심의 접근이 필요하며, 기술 확산이 자연스러운 과정처럼 정당화해서는 안 된다”는 것입니다.

“빅테크는 자율로 인권을 보장할 수 있다고 하지만 이는 환상에 불과하다”고 알스톤 교수는 말합니다. 빅테크는 ‘트라이 퍼스트(Try First)’, 즉 자신들이 개발한 기술이 어떤 영향을 미칠지는 생각하지 말고 우선 시도해보자고 외치는데, 이것이야말로 반인권적 접근이라는 것입니다. 사회복지에 AI를 도입하면 더 진보할 것이라는 기대는 환상이며 “사회권 보장의 본질은 AI가 아닌 인간의 정치적 결단”이라고 강조합니다.

흥미롭게도 알스톤 교수는 AI 관련 윤리적 접근의 한계를 지적하면서 인권 측면에서 접근해야 한다고 강조합니다. 윤리적 접근은 자율에 맡겨지기 때문에 견고하지 않다는 것입니다. 그는 “중요한 것은 인권 존중에 대한 정부의 강한 의지와 책임이며, 인공지능의 영향을 받아 권리를 침해당한 개인을 구제하는 것”이라고 말해요.

또한, 사회권을 지키기 위한 대안으로 불평등 해소와 조세정책도 강조합니다. 빈곤의 뿌리인 불평등 문제, 그리고 이를 해결하는 방안으로써 조세정책이 없이는 빈곤은 더 심화할 수밖에 없기 때문입니다. 오늘날 빅테크는 AI기술을 통해 막대한 부를 독점하면서 많은 영역을 지배하고 있습니다. 공공복지 시스템의 설계·운영에도 개입하면서, 정책 과정이 빅테크 등 소수의 이익과 시장 논리에 크게 편향될 수 있는데요. 결국, 이를 규제할 수 있는 주체는 정부이며, 기술은 물론 부의 독점을 막기 위해서도 정부의 역할이 절대적으로 중요하다고 알스톤 교수는 강조합니다.

9월15일 서울 향린교회에서 필립 알스톤 교수는 한국의 반빈곤 활동가들과 대담을 나누었다. 빈곤사회연대 제공.

국가인권위원회 초청으로 한국을 방문한 알스톤 교수는 공식 행사 외에도 서울 향린교회에서 한국 반빈곤운동 활동가들과 특별한 만남을 가졌습니다. 사회권적 기본권으로서 주거권, 디지털 복지 시스템 등 다양한 주제를 놓고 2시간 가까이 진솔한 대화를 나누었습니다.

이날 대담에 참여한 김윤영 빈곤사회연대 활동가는 너무 감동적이고 벅찬 시간이었다고 말합니다. 알스톤 교수가 한국의 상황을 상세하게 알지는 못해도, 그의 발언 하나하나는 가난한 이들의 인권이 왜 보장받아야 하는지, 어떤 접근이 필요한지 생각하게 했다고 합니다. 무엇보다 현장을 지키느라 지치고 힘든 인권활동가들에게 큰 힘이 되었다고 합니다.😊