유승익 한동대 BK21 글로벌입법팀 연구교수

챗GPT가 출현하면서 국회도 인공지능(AI)에 관한 기본법 입법에 속도를 내고 있다.

다음은 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’을 주도하고 있는 과학기술정보방송통신위 법안심사소위의 회의록에 나오는 발언의 일부이다. “설사 조금 미비한 점이 있더라도 일단 제정을 해서 시행을 해 보고 필요시에 보완 입법하는 것이 좋다.” “법안 자체의 제정이 지금 시급하다.” 법안에 문제가 있을 수 있지만 일단 시행하자는 취지다. 이 법안은 AI 기본계획을 관장하는 인공지능위원회 설치, 인공지능산업 기반 조성을 위한 원칙으로서 ‘우선 허용ㆍ사후 규제’ 명문화, 고위험 영역 인공지능을 개발ㆍ활용하는 자의 인공지능 신뢰성 확보 조치 의무 신설을 골자로 한다.

하지만 이 법안은 이대로 시행될 수 없는 치명적 문제점이 있다. 특히 ‘우선 허용ㆍ사후 규제’ 원칙은 당장 폐기해야 할 독소조항이다.

우선 세계적 입법의 흐름을 전혀 반영하지 않고 있다. 인공지능산업은 한번 신뢰성을 잃으면 회복하기 어려운 분야이다. 인간의 생명, 안전, 권리에 즉각적이고 직접적으로 영향을 미칠 수 있기 때문이다. 신뢰성을 잃은 인공지능 기술은 세계 시장에서 외면받고 도태될 것이다. 세계 각국은 신뢰할 수 있는 인공지능을 위한 법안 만들기에 분주하다. 유럽연합이 대표적이다.

유럽연합 인공지능법 초안에 따르면 인공지능에 의한 위험을 4단계로 구분하고 사전ㆍ사후에 엄격히 규제한다. 특히 용인할 수 없는 위험을 가진 인공지능 기술은 금지된다. 잠재의식을 활용해 인간 의식을 조작하는 기술은 금지되며, 아동의 위험한 행동을 유발하는 음성비서 AI 장난감 등도 위험이 확인되면 금지된다. 고위험으로 분류되는 교통, 승강기, 의료기기 등은 시장에 나오기 전 엄격한 의무를 따라야 한다. 데이터세트의 품질을 갖춰 위험과 차별적 효과도 최소화해야 한다.

반면 우리의 법안은 오히려 사전 규제를 무력화하고 있다. 고위험 인공지능의 위험관리 시스템 구축이나 설명 의무 등을 부여하는 것은 초기 단계 인공지능산업 발전을 저해할 우려가 있다는 게 논거이다.

일단 허용하고 보자는 산업편향적 정책기조는 인공지능 기술에 대한 몰이해를 그대로 노출하고 있다. 신뢰성은 인공지능 기술이 포함할 수 있는 선택적 요소가 아니라 반드시 갖추어야 하는 필수적 요소이다.

인공지능산업을 진흥하기 위해서라도 사전 규제를 포함한 거버넌스 구축은 필수적이다. 지난해 5월 국가인권위원회는 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 발표하며 “인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립”을 권고했다.

문제는 국민의 생명과 안전에 직결된 인공지능 정책을 과방위 위원들과 과기정통부 관료들이 주도하고 있다는 점이다. 인공지능 기술이 갖추어야 할 공정성, 설명 가능성, 투명성, 안전성, 인간 존엄 등 수많은 가치들은 무시하고, 탈규제와 산업 진흥이라는 위험한 인공지능 정책이 ‘경로의존성’을 가지고 출항하기 직전이다. 과방위의 인공지능 법안은 지금이라도 재검토되어야 한다.

※ 이 글은 3/28(화) 경향신문에 실린 칼럼입니다.

The post [칼럼] 인공지능 정책, 왜 그들이 주도하는가 appeared first on 참여연대.

2차 종합특검의 소극적 사건 종결처리 유감

‘스마트해지는 국가감시’ 권한 통제, 계엄 이후 중요 민주주의 과제

지난 12.3 계엄 당시 계엄군이 스마트도시시스템을 통하여 전국 지자체의 CCTV에 접속하여 시민들을 감시한 사실이 알려졌다. 이에 우리 단체들은 지난 4월 1일 “윤석열·김건희에 의한 내란·외환 및 국정농단 행위의 진상규명을 위한 특별검사(이하,’ 2차 종합특검’)”에 진정을 제기하며 내란 후 1년이 지나도록 계속 유지중인 군의 위헌 위법적인 시민감시 권한의 회수를 주장한 바 있다. 2차 종합특검은 6월 10일 우리 단체들에게 이 같은 군의 행태가 개인정보보호법상 범죄 구성 요건에 해당하지 않는다며 종결처리한다고 통지하였다.

우리 단체들이 2차 특검에 진정한 요지는, 서울시를 비롯한 각 지방자치단체의 스마트도시시스템을 통한 CCTV 조회 과정에서 생성되는 로그기록을 보존하고, 이를 철저히 수사하여 ①국방부 및 군이 비상계엄을 사전 준비하거나 동조, 후속조치를 지시·수행한 범죄 혐의 및 특히 비상계엄 해제 이후에도 2차 계엄을 통한 내란시도를 한 것은 아닌지 ②서울시를 비롯한 각 지방자치단체가 국방부 및 군의 CCTV 접속을 허용함으로써, 비상계엄 선포에 따른 후속조치 및 2차 계엄을 통한 내란시도를 방조하거나 공모한 것은 아닌지 철저히 수사할 필요가 있다는 것이었다.

그러나 2차 특검은 이 사건이 개인정보보호법 등의 범죄 구성요건에 해당하지 않으며, 특별검사의 수사대상에 해당하지 않는다는 매우 형식적인 이유로 종결처리하였다. 지난 진정서에서도 언급하였듯이 전국 군부대가 지방자치단체 “스마트도시시스템”을 통해 CCTV에 대한 무제한 조회권한을 가지고 국회, 선거관리위원회, 방송사 주변 도로를 감시한 사실이 확인된 것은 매우 중대한 문제이다. 특히 국방부 특전사·수도방위사령부· 제52보병사단·제56보병사단 등은 계엄이 해제된 후에도 서울시 스마트도시시스템을 통해 탄핵을 요구하는 시민들의 집회를 감시하는 데 동원되었던 정황이 드러났다. 하지만 2차 특검은 수방사 등 군이 계엄 당시 뿐만 아니라 평시에도 CCTV에 접근하여 시민들의 일상적인 집회를 수도방위라는 군사적 목적으로 살펴 보았고, 계엄 전후에 CCTV 접근이 확인되었다고 하더라도 이를 내란행위와는 연관지을 수 없다는 결론을 내렸다.

스마트도시시스템을 통해 지방자치단체 CCTV에 대한 군의 무제한 접속권 허용 등 불법적인 운영실태가 방치된 결과 계엄시기 국민에 대한 무차별적인 감시로 이어졌다. 내란 후 1년이 지나도록 스마트도시플랫폼의 무제한 조회권한은 여전히 군에서 회수되지 않아 일상적으로 무고한 시민이 군은 물론 경찰 등 여러 국가기관에 의해 실시간으로 감시될 수 있는 상태가 지금까지 방치되어 있다. 스마트도시시스템의 CCTV 감시에 대해서는 법률에 의한 통제가 전혀 이루어지고 있지 않은 것이다.

AI 시대 더욱 스마트해질 공공 CCTV가 무고한 시민에 대한 군경의 일상적인 감시 수단이 되어서는 안 된다. 이는 계엄과 탄핵을 거치며 우리 사회가 성찰하고 해결해야 할 중대한 인권과 민주주의의 과제 중 하나이다. 우리 단체들은 이후로도 지방자치단체 CCTV 시스템을 남용하여 군 등 국가기관이 위헌 위법하게 무고한 시민을 감시하는 행태가 중단되는 그날까지 문제제기를 계속할 것이다.

2026년 6월 19일
광주인권지기 활짝, 디지털정의네트워크, 민주사회를위한변호사모임 디지털정보위원회, 전남노동권익센터, 전북평화와인권연대, 정보인권연구소, 제주평화인권연구소왓, 참여연대

논평 [원문보기/다운로드]

The post [논평] 군의 지자체 CCTV 무제한 접근을 통한 시민감시 여전히 위헌·위법하다 appeared first on 참여연대.