각 당과 상임위는 인공지능법안에 대한 입장을 명확히 밝혀라

지난 3월 15일, 국민의힘 김기현 대표와 회동한 자리에서 더불어민주당 이재명 대표는 “불합리한 규제는 해소해야 하지만 국민의 안전이나 생명과 관계된 규제는 강화할 필요가 있다”고 말했다고 한다. 그러나 더불어민주당 의원도 주축이 되어 추진하고 있는 인공지능 법안에 대한 전면적인 재검토 없이는 이재명 대표의 이러한 발언은 진정성을 지니기 어렵다. 현재 국회 과방위 심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(‘인공지능법안’)」은 “국민의 안전과 생명”에 부정적 영향을 미칠 수 있는 고위험 인공지능의 위험을 통제할 수 있는 실질적인 방안도 없을 뿐만 아니라, 오히려 “우선허용·사후규제 원칙”(제11조 제1항)을 내세워 안전과 생명에 대한 위협을 완화할 수 있는 사전예방 조치에 대해서는 전혀 규율하지 않고 있기 때문이다. 집권여당인 국민의힘 또한 안전과 생명을 위협할 수 있는 고위험 인공지능에 대해서 실제 피해가 발생하기 전에는 규제하지 말자는 것이 당의 공식 입장인지 명확히 밝혀야 한다.

이 법안의 주무부처가 과학기술정보통신부인 것도 문제다. 유럽연합 및 미국 등 주요 해외 국가에서 현재 추진되고 있는 인공지능 법안은 고위험 인공지능 제품과 서비스는 소비자의 안전과 생명에 미치는 영향이 크다고 보고 규제를 강화하고 있는 동시에, 소비자 보호 및 인권 보장을 위한 기존의 규제 및 감독 체제를 인정하고 있다. 또한 미국의 알고리즘책무성 법안에서는 연방거래위원회(FTC)가, 유럽연합의 인공지능 법안은 각 국의 ‘시장 감시 기관’이 주무를 담당하도록 하고 있다. 그러나 한국의 과기정통부는 인공지능 산업육성에만 치중할 뿐, 고위험 인공지능으로부터 안전과 생명을 보호할 수 있는 공적 규제를 담당할만한 전문성도 의지도 없다. 더구나 과방위의 인공지능 법안은 다른 정부부처나 지방자치단체들이 고위험 인공지능을 규제하기 위한 법령이나 제도를 수립할 때 “우선허용·사후규제 원칙”에 부합하도록 요구하고 있으며, 해당 인공지능이 고위험영역 인공지능에 해당하는지에 대한 확인을 과학기술정보통신부장관이 담당하도록 함으로써, “국민의 안전과 생명”을 보호하기 위한 타 부처의 규제 조차 시행하지 못하거나 사실상 과기정통부의 승인을 받도록 하고 있다.

상황이 이러함에도, 소비자보호와 개인정보보호 관련법과 기구를 소관해온 정무위, 제품안전을 소관해온 산자위, 사회안전을 소관해온 행안위,산업안전을 소관해온 환노위 등 다른 상임위는 인공지능이 미칠 위험성에 대해 관심을 갖고는 있는 것인지, 소관 분야에서 고위험 인공지능이 미칠 위험성을 통제하기 위한 각 상임위의 역할에 대해서 자각은 하고 있는 것인지 우려하지 않을 수 없다. 지금 인공지능 법 제정을 무작정 서두를 일이 아니다. ‘세계 최초’가 아니라 ‘제대로 된’ 법을 만드는 것이 중요하다. 지금 과방위가 추진하고 있는 인공지능 법안으로는 세계적으로 수용될 수 있는 신뢰성있는 인공지능을 보장하기 힘들다. 인공지능에 대한 사회적 신뢰를 훼손하여 오히려 인공지능 산업발전도 저해할 것이다.

각 당에 묻는다. 안전과 생명, 그리고 인권을 위협할 수 있는 고위험 인공지능에 대한 우려가 전 세계적으로 높아지고 있는 이 시점에, “우선허용·사후규제 원칙”이 각 당의 공식적인 입장인가.

기존의 규제법을 소관해온 각 상임위에 묻는다. 각 상임위 의원들은 고위험 인공지능 규제를 위한, 각 상임위의 공공정책 수립에 과기정통부가 상급 부처로서 관여하는 것에 동의하는가. 고위험 인공지능으로부터 안전과 생명, 인권을 보호하기 위한 각 상임위의 역할과 임무를 고민하고 있는가.

2023년 3월 17일 

민변디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대

원문보기/다운로드

The post 과방위 인공지능 법안, 국민의 안전과 생명을 보장할 수 있나 appeared first on 참여연대.

유승익 한동대 BK21 글로벌입법팀 연구교수

챗GPT가 출현하면서 국회도 인공지능(AI)에 관한 기본법 입법에 속도를 내고 있다.

다음은 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’을 주도하고 있는 과학기술정보방송통신위 법안심사소위의 회의록에 나오는 발언의 일부이다. “설사 조금 미비한 점이 있더라도 일단 제정을 해서 시행을 해 보고 필요시에 보완 입법하는 것이 좋다.” “법안 자체의 제정이 지금 시급하다.” 법안에 문제가 있을 수 있지만 일단 시행하자는 취지다. 이 법안은 AI 기본계획을 관장하는 인공지능위원회 설치, 인공지능산업 기반 조성을 위한 원칙으로서 ‘우선 허용ㆍ사후 규제’ 명문화, 고위험 영역 인공지능을 개발ㆍ활용하는 자의 인공지능 신뢰성 확보 조치 의무 신설을 골자로 한다.

하지만 이 법안은 이대로 시행될 수 없는 치명적 문제점이 있다. 특히 ‘우선 허용ㆍ사후 규제’ 원칙은 당장 폐기해야 할 독소조항이다.

우선 세계적 입법의 흐름을 전혀 반영하지 않고 있다. 인공지능산업은 한번 신뢰성을 잃으면 회복하기 어려운 분야이다. 인간의 생명, 안전, 권리에 즉각적이고 직접적으로 영향을 미칠 수 있기 때문이다. 신뢰성을 잃은 인공지능 기술은 세계 시장에서 외면받고 도태될 것이다. 세계 각국은 신뢰할 수 있는 인공지능을 위한 법안 만들기에 분주하다. 유럽연합이 대표적이다.

유럽연합 인공지능법 초안에 따르면 인공지능에 의한 위험을 4단계로 구분하고 사전ㆍ사후에 엄격히 규제한다. 특히 용인할 수 없는 위험을 가진 인공지능 기술은 금지된다. 잠재의식을 활용해 인간 의식을 조작하는 기술은 금지되며, 아동의 위험한 행동을 유발하는 음성비서 AI 장난감 등도 위험이 확인되면 금지된다. 고위험으로 분류되는 교통, 승강기, 의료기기 등은 시장에 나오기 전 엄격한 의무를 따라야 한다. 데이터세트의 품질을 갖춰 위험과 차별적 효과도 최소화해야 한다.

반면 우리의 법안은 오히려 사전 규제를 무력화하고 있다. 고위험 인공지능의 위험관리 시스템 구축이나 설명 의무 등을 부여하는 것은 초기 단계 인공지능산업 발전을 저해할 우려가 있다는 게 논거이다.

일단 허용하고 보자는 산업편향적 정책기조는 인공지능 기술에 대한 몰이해를 그대로 노출하고 있다. 신뢰성은 인공지능 기술이 포함할 수 있는 선택적 요소가 아니라 반드시 갖추어야 하는 필수적 요소이다.

인공지능산업을 진흥하기 위해서라도 사전 규제를 포함한 거버넌스 구축은 필수적이다. 지난해 5월 국가인권위원회는 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 발표하며 “인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립”을 권고했다.

문제는 국민의 생명과 안전에 직결된 인공지능 정책을 과방위 위원들과 과기정통부 관료들이 주도하고 있다는 점이다. 인공지능 기술이 갖추어야 할 공정성, 설명 가능성, 투명성, 안전성, 인간 존엄 등 수많은 가치들은 무시하고, 탈규제와 산업 진흥이라는 위험한 인공지능 정책이 ‘경로의존성’을 가지고 출항하기 직전이다. 과방위의 인공지능 법안은 지금이라도 재검토되어야 한다.

※ 이 글은 3/28(화) 경향신문에 실린 칼럼입니다.

The post [칼럼] 인공지능 정책, 왜 그들이 주도하는가 appeared first on 참여연대.

2차 종합특검의 소극적 사건 종결처리 유감

‘스마트해지는 국가감시’ 권한 통제, 계엄 이후 중요 민주주의 과제

지난 12.3 계엄 당시 계엄군이 스마트도시시스템을 통하여 전국 지자체의 CCTV에 접속하여 시민들을 감시한 사실이 알려졌다. 이에 우리 단체들은 지난 4월 1일 “윤석열·김건희에 의한 내란·외환 및 국정농단 행위의 진상규명을 위한 특별검사(이하,’ 2차 종합특검’)”에 진정을 제기하며 내란 후 1년이 지나도록 계속 유지중인 군의 위헌 위법적인 시민감시 권한의 회수를 주장한 바 있다. 2차 종합특검은 6월 10일 우리 단체들에게 이 같은 군의 행태가 개인정보보호법상 범죄 구성 요건에 해당하지 않는다며 종결처리한다고 통지하였다.

우리 단체들이 2차 특검에 진정한 요지는, 서울시를 비롯한 각 지방자치단체의 스마트도시시스템을 통한 CCTV 조회 과정에서 생성되는 로그기록을 보존하고, 이를 철저히 수사하여 ①국방부 및 군이 비상계엄을 사전 준비하거나 동조, 후속조치를 지시·수행한 범죄 혐의 및 특히 비상계엄 해제 이후에도 2차 계엄을 통한 내란시도를 한 것은 아닌지 ②서울시를 비롯한 각 지방자치단체가 국방부 및 군의 CCTV 접속을 허용함으로써, 비상계엄 선포에 따른 후속조치 및 2차 계엄을 통한 내란시도를 방조하거나 공모한 것은 아닌지 철저히 수사할 필요가 있다는 것이었다.

그러나 2차 특검은 이 사건이 개인정보보호법 등의 범죄 구성요건에 해당하지 않으며, 특별검사의 수사대상에 해당하지 않는다는 매우 형식적인 이유로 종결처리하였다. 지난 진정서에서도 언급하였듯이 전국 군부대가 지방자치단체 “스마트도시시스템”을 통해 CCTV에 대한 무제한 조회권한을 가지고 국회, 선거관리위원회, 방송사 주변 도로를 감시한 사실이 확인된 것은 매우 중대한 문제이다. 특히 국방부 특전사·수도방위사령부· 제52보병사단·제56보병사단 등은 계엄이 해제된 후에도 서울시 스마트도시시스템을 통해 탄핵을 요구하는 시민들의 집회를 감시하는 데 동원되었던 정황이 드러났다. 하지만 2차 특검은 수방사 등 군이 계엄 당시 뿐만 아니라 평시에도 CCTV에 접근하여 시민들의 일상적인 집회를 수도방위라는 군사적 목적으로 살펴 보았고, 계엄 전후에 CCTV 접근이 확인되었다고 하더라도 이를 내란행위와는 연관지을 수 없다는 결론을 내렸다.

스마트도시시스템을 통해 지방자치단체 CCTV에 대한 군의 무제한 접속권 허용 등 불법적인 운영실태가 방치된 결과 계엄시기 국민에 대한 무차별적인 감시로 이어졌다. 내란 후 1년이 지나도록 스마트도시플랫폼의 무제한 조회권한은 여전히 군에서 회수되지 않아 일상적으로 무고한 시민이 군은 물론 경찰 등 여러 국가기관에 의해 실시간으로 감시될 수 있는 상태가 지금까지 방치되어 있다. 스마트도시시스템의 CCTV 감시에 대해서는 법률에 의한 통제가 전혀 이루어지고 있지 않은 것이다.

AI 시대 더욱 스마트해질 공공 CCTV가 무고한 시민에 대한 군경의 일상적인 감시 수단이 되어서는 안 된다. 이는 계엄과 탄핵을 거치며 우리 사회가 성찰하고 해결해야 할 중대한 인권과 민주주의의 과제 중 하나이다. 우리 단체들은 이후로도 지방자치단체 CCTV 시스템을 남용하여 군 등 국가기관이 위헌 위법하게 무고한 시민을 감시하는 행태가 중단되는 그날까지 문제제기를 계속할 것이다.

2026년 6월 19일
광주인권지기 활짝, 디지털정의네트워크, 민주사회를위한변호사모임 디지털정보위원회, 전남노동권익센터, 전북평화와인권연대, 정보인권연구소, 제주평화인권연구소왓, 참여연대

논평 [원문보기/다운로드]

The post [논평] 군의 지자체 CCTV 무제한 접근을 통한 시민감시 여전히 위헌·위법하다 appeared first on 참여연대.