[민주노동당 권영국 후보 ‘AI 규제 공약’ 발표]

"기업 민원실이 된 AI 정책, 갈아엎겠습니다!"

-AI에 대한 민주적 통제, ‘공론화 위원회’ 설치 및 AI 기본법 개정

-AI 실업 막고 노동자·창작자·시민 권리 보호

-데이터센터에 공공성·기후정의 적용, 재생에너지 사용 의무화

-차별·편향·디지털 성착취 대응… AI 시대 인권과 민주주의 보호

발명의 날을 맞아 AI 분야 공약을 발표합니다. 산업혁명이 만들어낸 기후위기에 대책이 필요한 것처럼, AI가 만들어낼 위기에도 대책이 필요합니다. 급변하는 시기에 노동자, 시민의 일상을 지키고 기후위기에 맞서기 위한 진보적 대안이 필수적입니다.

AI 발전이 위기감을 자아내고 있습니다. AI 기술이 우리에게 가져다 줄 영향이 불명확한데도, 세계적으로 자체 AI 개발이 경쟁처럼 번지고 있습니다. AI로 인해 생산성이 획기적으로 높아지지 않았는데도, ‘AI 실업’은 이미 우리 눈앞의 문제입니다. 데이터센터의 전력과 담수 소비를 경계하는 목소리가 계속 나오고 있고, 딥페이크, 생성형 AI로 인한 성착취와 민주주의 위협도 현실입니다.

그러나 이러한 현실적 우려를 대변하는 목소리는 너무나 부족합니다. 이미 AI 기본법이 제정될 때 규제는 뼈대만 남기고 사라졌던 것에서 알 수 있습니다. ‘보수’ 일색의 정치는 대규모 투자만을 얘기하고, 규제 해제만을 얘기합니다.

기술의 목적은 우리 삶을 편리하고 행복하게 만드는 것이어야 합니다. 진보 대통령 후보로서 저 권영국은 급변하는 시대에 맞추어 AI 규제 공약을 선보입니다. AI 기술을 민주적으로 통제하고, 노동자, 시민, 환경을 지키는 것을 최우선으로 하겠습니다. 규제가 빠진 무분별한 투자에 방향타를 달고, 사람들의 일상을 지키겠습니다. 이번 AI 공약이 사회적 논의의 기회가 되길 바랍니다.

첫째, AI에 대한 민주적 통제를 우선하겠습니다.

AI에 대해 시민들이 가장 우려하는 것이 통제할 수 없는 기술 발전으로부터 소외되는 일입니다.

일반 시민이 함께 하는 ‘범시민 AI 공론화 위원회’를 설치하여 민주적인 컨트롤타워를 만들겠습니다. 교육과 숙고 과정을 통해 AI 정책 방향을 주도하게 하고 AI 유관기관들의 역할을 재확립하겠습니다. AI 교과서 졸속 도입과 같은 일이 다시는 일어나지 않도록 원점 재검토하겠습니다.

AI 기본법을 개정해 시민 권리를 지키겠습니다. 고위험 AI 개발을 원천 금지하고, ‘국방 또는 국가안보 목적’ 예외 조항을 삭제하겠습니다. 악영향 위험이 큰 AI와 공공부문 AI에 대한 인권영향평가를 실시하겠습니다. '영향받는 자’ 누구나 권리를 구제받을 수 있도록 하고, 대규모 사업자에 대한 환경 의무를 두겠습니다. 시행령 제정 논의에 배제된 시민사회 참여를 보장하겠습니다.

사법, 행정 등 공공 부문과 취업, 안전관리의 영역에서 인간 관리자의 관리감독을 의무화하겠습니다.

둘째, AI 시대에 더욱 취약해진 노동자, 창작자, 시민의 권리를 보호하겠습니다.

AI 실업에 선제적으로 대응하겠습니다. 실업급여를 확장하고 향후 고용을 보장하는 “정의로운 AI 전환”을 추진하겠습니다. 재원은 기후정의세, 디지털플랫폼세 등에서 마련할 것입니다. 기업의 AI 도입 논의에 노동자의 참여와 설계·운영 결정권을 보장하겠습니다. 남은 노동자들이 AI의 ‘자투리 노동’을 전가당해서도 안 됩니다. 실직과 과로를 포함한 고용·노동 AI 영향을 평가하겠습니다.

노동자가 생산한 데이터를 기업이 동의 없이 AI 학습을 위해 이용하거나 거래할 수 없도록 하겠습니다. 데이터 제작·라벨링·가공 등 보이지 않는 ‘유령노동자’들의 노동권을 보장하고, 특히 콘텐츠 분류 노동자들에게 심리상담 지원을 의무화하겠습니다. 플랫폼 기업의 알고리즘 설명 의무를 규정해 플랫폼노동자·소상공인의 알 권리를 보장하겠습니다.

AI로 인해 큰 위협을 받고 있는 사람들이 창작 노동자들입니다. 창작자 동의 없이 인공지능 학습에 창작물을 사용하지 못하도록 하고, 적절한 보상을 담보하는 AI의 창작물 사용 가이드라인과 공공 플랫폼을 마련하겠습니다.

특정 작품을 모방한 AI 산출물들이 시민들에게 혼란을 주고 있습니다. AI 생성 산출물의 표기 의무화를 추진하고, 창작자의 저작권·저작인격권을 침해하는 인공지능 산출물에 대해서는 법적·기술적 대응책을 마련하겠습니다.

시민들의 정보 주권을 보호하겠습니다. 이미 민주노동당은 18일 ‘SK방지법(개인정보 보호법 등 관련 법률 강화)’를 공약한 바 있습니다. 거기에 더해 ‘이루다 사태’와 같은 AI에 의한 개인정보 유출을 막겠습니다. 사용자의 개인정보가 담길 수 있는 콘텐츠는 명시적 동의 없이 영리 목적으로 AI에 학습시킬 수 없도록 하겠습니다.

셋째, AI 생태계와 데이터센터를 정의롭게 대전환하겠습니다.

AI 산업 지원은 시민들의 편의와 공공성을 목표로 해야 합니다. AI 데이터센터 설립 계획을 “공공 AI 데이터센터”로 전환하고, 정부가 투자한 인프라 활용에는 합당한 공공성 요건(노동권 보장, 환경기준·윤리성 준수, 산업·연구 생태계 기여 등)을 요구하겠습니다. 결과물을 개방하거나 공공서비스 제공을 위한 이용 신청을 우대하여, 오픈소스 기반 AI 산업 생태계를 촉진하겠습니다. 공공 데이터 등을 대규모로 제공할 경우에 고용 약정·시민감사 수용 약정 등을 의무화하겠습니다.

AI 산업에 필수적이지만 논란을 일으키고 있는 데이터센터 산업을 대전환하겠습니다. 전국과 지역 차원의 전력 사용 총량제로 무분별한 성장을 억제하겠습니다. 신규 데이터센터의 재생에너지 100% 사용을 의무화하고, 기존 데이터센터는 재생에너지 전환 계획을 제출하도록 하겠습니다. 데이터센터가 전력·물·생태·지역사회 등에 끼치는 영향을 투명하게 공개하도록 만들겠습니다. AI 데이터센터의 일정 부분은 비영리 연구나, 사회적기업·시민참여 공공사업에 우선 배정하여 새로운 공익적 가치를 창출하겠습니다.

연구노동자들이 기술 개발의 주역입니다. 연구원 중심의 과제 선정·집행 시스템 구축으로 연구자들의 자율성을 보장하겠습니다. 연구과제중심제도(PBS) 전면 재검토를 통해 정부출연연구기관의 연구자가 창의적이고 도전적으로 연구할 수 있는 환경을 조성하겠습니다. 주 40시간제 적용 예외 시도를 저지하겠습니다.

넷째, AI 시대 인권과 민주주의를 보호하고, 디지털 기본권을 보장하겠습니다.

차별금지법은 AI 시대에 더욱 중요한 법입니다. 포괄적 차별금지법 제정으로 규제 기준을 확립하고, 차별·편향을 강화하는 AI에 대한 실태 조사와 시정을 가능하게 만들겠습니다. 디지털 공론장을 망가뜨리는 폭력과 차별에 대한 플랫폼의 의무를 규정하겠습니다. 국가인권위원회의 AI 전문성을 강화하고, 독립적 기능을 정상화하겠습니다. ‘국제 AI와 인권, 민주주의 및 법치에 관한 기본 협약’에 가입하겠습니다.

AI를 활용한 디지털 성착취를 퇴출하겠습니다. 성폭력처벌법을 생성형 AI 시대에 맞추어 강화하겠습니다. 디지털 성착취 대응을 위한 플랫폼의 의무를 규정하겠습니다. 여성가족부를 강화한 ‘성평등부’ 산하에 설치할 디지털성범죄 전담부서에 AI 분석 기능을 넣겠습니다.

기술이 소외된 지역과 계층을 더욱 소외시키는 결과를 빚어서는 안 됩니다. 비판적 이해와 권리 중심의 AI 문해력 교육을 초중고·대학·평생교육에 포함시키겠습니다. 지역 거점 공공 AI 교육센터(도서관, 주민센터 등) 설치를 지원하겠습니다.

2025년 5월 19일

민주노동당 대통령 후보 권영국