일시 장소 : 2023. 3. 9(목) 오전10시, 국회 정문 앞

1. 취지와 목적

• 지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다. 
• 이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최합니다.

2. 개요

• 제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
• 일시 장소 : 2023. 3. 9 (목). 10:00 / 국회 정문 앞 
• 주최 : 건강권 실현을 위한 보건의료단체연합, 경제정의실천연합, 광주인권지기 활짝, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, (사)정보인권연구소, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동
• 참가자
  • 사회 (김태일 참여연대 권력감시1팀장)
  • 과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)
  • 과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 
  • 유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)
  • 국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
  • 우리의 요구 낭독
• 문의 : 참여연대 공익법센터 02-723-0666

원문보기/다운로드

The post [긴급기자회견3/9] “인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라” appeared first on 참여연대.

일시 장소 : 2023. 3. 9(목) 오전10시, 국회 정문 앞

1. 취지와 목적

• 지난 2/14 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하, ‘인공지능법안’)」 위원장 대안이 국회 과방위 정보통신방송법안심사소위를 통과했습니다. 그러나 이 법안은 “국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상”이라는 법목적 조항마저 무색하게 인공지능산업의 육성에 초점이 맞춰져 있을 뿐, 인공지능이 전 사회에 끼치는 다양한 영향을 숙고하여 국민의 안전과 인권 보호를 위한 적절한 규제방안은 거의 전무한 실정입니다. 
• 이에 16개 인권시민사회단체는 해당 법안에 대한 전면 재검토를 요구하고 국민의 안전과 인권을 보호하는 인공지능법안 마련을 촉구하는 공동기자회견을 아래와 같이 개최하였습니다.

2. 개요

• 제목 : 긴급기자회견 <인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라>
• 일시 장소 : 2023. 3. 9 (목). 10:00 / 국회 정문 앞 
• 주최 : 건강권 실현을 위한 보건의료단체연합, 경제정의실천연합, 광주인권지기 활짝, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, (사)정보인권연구소, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동
• 참가자
  • 사회 (김태일 참여연대 권력감시1팀장)
  • 과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)
  • 과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 
  • 유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)
  • 국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)
• 문의 : 참여연대 공익법센터 02-723-0666

참석자 주요 발언

과방위 법안심사소위 통과법안의 독소조항(김선휴 참여연대 공익법센터 운영위원)

점점 국가는 국가의 기본적 책무를 저버리는 방향으로 가고 있습니다. 국가의 기본권 보호의무를 저버리는 법안입니다.
법안 11조 1항은 생명안전권익에 위해가 발생한 이후에야 규제할 수 있습니다. 이미 피해가 발생한 후에 조치하는 것으로 국가의 기본권보호의무를 다한다고 볼 수 없습니다. 
사전규제는 안전보장 질서유지 공공복리 현저히 저해할 우려가 있을 때만 가능합니다. 그런데 현저히 저해할 우려를 국가가 어떻게 입증할 것인가요?  국가가 그 현저히 저해할 우려를 사전에 입증하는 것은, 거의 불가능하다고 봅니다.
헌법 37조2항에 따라 국가는 안전보장 질서유지 공공복리를 위해 필요한 경우 기본권을 제한할 수 있습니다. 그런데 이 법안처럼 다른 기본권이나 헌법가치를 현저히 해할 우려를 요건으로 하는 경우는 일반적이지 않습니다. 인공지능을 개발, 출시할 권리가 안전보장이나 공공복리를 침해할 현저한 우려가 있을 때만 제한해야 할만큼 다른 기본권이나 헌법적 가치보다 우위에 있는가 의문입니다. 일부 기업의 이익을 대다수 국민의 안전을 볼모로 해서 보장하려는 것이 과연  올바른 법익형량인가요?
그렇다면 사후규제는 과연 실효적일 수 있을까요? 이미 생명안전권익 위해가 발생했다면, 특히 생명안전 위해는 사후약방문입니다. 온전한 회복이 될 수 없습니다.
더군다나 책임은 제대로 물을 수 있을까요? 자동차 급발진에 대해서도 책임을 묻지 못하는데, 인공지능의 오류나 오작동, 편향에 대해 책임을 묻는 것이 쉽겠습니까. 인공지능이 어디까지 책임을 져야하는지 그 개발자나 기업에 어디까지 책임을 물을 수 있는지 아직 법체계 정비나 해석이 미비합니다. 실제 위해가 발생했을때 사후적으로라도 책임을 묻고 사후적 권리구제 피해회복이라도 가능하겠는가 묻지 않을 수 없습니다. 그리고 필요한 규제를 하지 않은 국가는 인공지능의 위험으로부터 국민을 보호할 규제장치를 마련하지 않은 것에 책임을 지겠습니까? 이 조항을 내세워, 현저한 우려까지는 입증하기 어려웠다며 책임을 피해가지 않을까요.
결국 기업에게도 국가에게도 책임을 피해갈 수 있게 해주는 법안을 통과시키려는 것입니다.
11조 2항에서는 다른 법령도 1항의 원칙에 맞게 정비하라는데 이것이 다른 규제목적을 지닌 법령까지 개폐해야 할만큼 우위의 원칙이라고 볼 수 없습니다.
26조에서는 고위험 인공지능의 확인을 과기정통부 장관의 확인을 요청할 수 있도록 하고 있습니다. 고위험 인공지능에 해당하여야 사업자 책무와 같이 아주 미약한 일부 규제가 적용되는데 이것도 고위험인공지능에 해당하는지에 대한 판단이 과기정통부장관의 확인에 종속, 의존될 가능성이 너무 높습니다.

과방위 법안심사소위 통과법안의 거버넌스 문제점(김하나 민변 디정위 위원장) 

저희는 인공지능산업 육성을 지지합니다.  그러나 이번 법안심사소위를 통과한 인공지능법안에 기초한 인공지능산업 육성에 반대합니다.
전세계적으로 아니, 대한민국의 인공지능산업이 지금 육성만 하면 되는 시기인지 묻고 싶습니다.
이루다사태로 차별과 혐오발언이 양산되고, 카카오t가 가맹택시인 카카오 블루에 콜을 몰아주는 것도 규제하지 못하였습니다. 지금까지 우선허용 사후규제 원칙이 지켜지지 않아 이러한 문제가 발생한 것이 아닙니다.
인공지능기술은 이제 일상생활뿐만아니라 사람의 권리와 의무에도 영향을 미치고 있습니다. 이에 국가인권위원회는 작년 5월 <인공지능 개발과 활용에 관한 인권 가이드라인>에서 △개인의 인권과 안전에 미치는 위험성 별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공하라고 권고 하였습니다.
이제 인공지능기술산업은 정보주체와 소비자의 권리와 인권에 관한 논의, 교육, 보건, 노동 등 분야에서 인공지능기술을 탑재한 각종 공산품의 안전성에 대한 논의와 함께 이루어져야합니다.
인공지는법안은 인공지능 책임성을 완전하게 보장하는 적절한 법률체계와 절차방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비하는 내용을 담아야하고, 과학기술정보통신부가 이를 해내기는 어렵습니다.
지난 정부는 “사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현 전략”을 관계부처 합동으로 진행한바 있습니다. 사람의 권리에 인공지능기술이 영향을 미치는 지금 그 산업육성을 위해 여러 부처가 함께논의를 이어 가야한다는 것을 분명히 익식한 행보입니다.
이에 시민사회는 사람이 생명과 안전을 보장하는 건강한 인공지능기술산업이 육성되도록 되거버넌스를 구성하고 논의를 이어갈것을 강력히 촉구합니다.

유엔 및 다른 나라 입법례로 본 문제점(장여경 정보인권연구소 상임이사)

과방위 인공지능 법안은 미래 산업 육성을 명분으로 모든 규제를 완화하고 있습니다. 그러나 인공지능 제품과 서비스의 위험 문제는 먼 미래가 아니고 우리 눈앞에 닥친 문제입니다.
카카오택시는 영업비밀 뒤에 숨어서 차별적인 알고리즘을 운영했습니다. 뒤늦게 공정거래위원회가 조사하고 조치하였습니다. 인공지능 스피커 등에 내장되는 인공지능 챗봇인 이루다는 혐오 발언과 개인정보보호법 위반으로 논란을 빚었습니다. 버전 2.0을 출시할 때는 개인정보보호위원회와 사전에 협의하여 위법성을 줄였습니다. 그런데 이 법이 통과되면 공정거래위원회와 개인정보보호위원회, 국가인권위원회가 인공지능의 위험성을 제대로 조사하고 특히 사전에 조치하는 일은 큰 방해를 받게 될 것입니다.
해외에서도 인공지능 제품과 서비스의 위험 문제가 크게 불거지고 있습니다. 쇼핑몰 무인로봇은 유아를 공격하였고, 자율주행차는 작동 오류로 사망사고를 여러건 일으켰습니다. 인공지능 스피커는 음성을 잘못 인식하여 엉뚱한 주문을 하기도 했습니다. 이런 상황에서 해외 여러 규범은 인공지능 위험으로부터 안전과 인권을 법적으로 보장하기 위한 제도 마련에 분주합니다.
유엔은 사무총장과 유엔인권최고대표 등이 각국에 인공지능 규제 입법을 권고하여 왔습니다. 특히 인공지능의 인권침해와 차별 등을 국가적으로 감독하기 위한 체계를 마련하고 피해자의 권리를 구제할 것을 요구하였습니다. 우리나라 국가인권위원회도 같은 기준을 갖춘 법률을 입법할 것을 정부에 권고하였습니다.
인공지능 위험성을 인지한 해외에서 가장 빠르게 입법이 된 분야는 공공부문입니다. 영국 정부 인공지능 조달지침이나 캐나다 정부 자동화된 의사결정 훈령은 공공부문이 조달하는 인공지능의 경우 데이터 품질 보장, 영향평가, 설명가능성, 투명성 등을 의무로 부과하였습니다.
가장 앞선 곳은 유럽연합입니다. 유럽연합 집행위원회는 2021년 4월 인공지능법안을 제안하였고, 올해 의회 통과가 예상되고 있습니다. 이 법안은 시민에게 너무 위험하여 용인할 수 없는 인공지능을 금지하였고 여기에는 장애인등의 취약점을 악용하는 인공지능이나 공공장소에서 원격으로 감시하는 생체인식 인공지능이 포함됩니다. 차량, 승강기, 의료기기, 장난감 등에 사용되는 인공지능은 고위험으로 특별하게 관리됩니다. 이는 단지 고위험으로 분류하는데 그치지 않고 규제기관이 사후에 집중적으로 개입할 수 있도록 자세한 데이터 품질이나 문서화 의무 등을 사전에 갖추도록 규정하였고, 여러 영향평가와 인증을 출시전에 마쳐야 합니다. 형식적인 고위험 관리가 아닙니다. 규제기관 협조 등 고위험 인공지능에 부과된 의무를 거부하는 경우 전세계 연매출액의 4%~6%의 과징금으로 처벌됩니다.
한편 인공지능규제에서 미국이 많이 완화되어 있다고들 이야기합니다. 그러나 최근 바이든 행정부 등장 이후 알고리즘과 빅테크 위험성을 여러차례 경고하면서 연방차원의 알고리즘 책무성 법안이나 빅테크 6개 규제법 패키지 입법을 적극적으로 추진하고 있습니다.
이런 상황에서 인공지능 위험에 대응하는 모든 규제를 금지하고 우선허용 사후규제를 명시하는 인공지능법안은 국제적 흐름에 어긋납니다. 인공지능의 위험성을 통제하는 제도를 마련하기 위해 노력해온 세계 시민의 놀라움과 비웃음을 사게 될 것입니다. 국민의 안전과 인권, 때로는 생계에 위험한 영향을 미치는 인공지능의 규제를 사전적으로는 금지하고 사후적으로도 회피하는 인공지능 입법은 세계 유례가 없을 것입니다.

국민 안전과 인권은 뒷전인 인공지능법안 반대 (전진한 건강권 실현을 위한 보건의료단체연합 정책국장)

인공지능산업육성법은 의료기기를 포함한 보건의료에 적용하는 인공지능도 우선허용 사후규제 대상으로 삼고 있습니다.
의료 인공지능으로 잘 알려진 것으로 IBM이 개발한 ‘왓슨’이 있었습니다. 왓슨은 환자 데이터를 입력하면 치료방법을 제시하는 프로그램이었습니다. IBM은 이 프로그램을 ‘암 치료의 혁명’이라고 홍보했습니다.
문제는 이 기술이 연구단계임에도 판매돼서 상용화됐었다는 것입니다. 왓슨은 안전하지 않고 부정확한 치료법을 추천했습니다. 폐암의 경우 정확도가 18%, 위암과 유방암의 정확도도 40%대에 불과했습니다. 그래서 어떤 의사들은 이 프로그램을 “쓰레기”라고 불렀습니다.
그럼에도 불구하고 많은 병원들이 ‘왓슨’을 도입했습니다. 그 이유는 과장된 홍보로 암환자를 유인할 수 있고 인공지능을 쓴다는 이유로 엄청난 비용을 청구할 수 있기 때문이었습니다. 한국의 지방 대학병원들도 너도나도 이 프로그램을 도입해서 환자를 끌어들였습니다.
이것이 보여주는 바는, 규제되지 않은 인공지능은 최악의 경우에 환자의 건강과 생명을 위협할 수 있고, 가장 운이 좋은 경우에도 국민들이 불필요한 비용을 지출하게 만든다는 것입니다. 기업들의 이익을 위해서 말입니다.
최근에는 인공지능으로 병원시스템 전체를 개조하려는 움직임도 있습니다. 인공지능으로 환자와 의료진에게 음성명령을 내려서 병실을 관리한다는 것입니다. 이걸 기업들은 ‘스마트병원’이라고 부릅니다. 하지만 그것이 과연 스마트할지 아닐지는 철저한 검증이 있어야 알 수 있는 것입니다. 중요한 순간에 잘못된 명령이 내려진다면 시스템이 붕괴하고 많은 사람들이 목숨을 잃을 수 있습니다.
특히 병원 같은 데에서는 소비자가 기술을 선택하는 게 아니라 의료인의 판단에 모든 걸 맡기기 때문에, 인공지능 검증을 생략하는 것은, 훌륭한 어떤 학자의 말을 인용하면 ‘쓰레기를 강매’하는 것입니다.
이 법이 의료 인공지능은 고위험 기술이라고 분류하면서고 거의 아무런 제한을 두지 않는 것은, 위험하다는 걸 알면서도 국민의 안전을 포기하겠다는 것입니다.
정도는 다를지 모르지만 다른 영역에서도 인공지능이 사회의 주요 기능과 뗄수없이 결합되면 많은 국민들이 안전 문제를 겪을 것입니다. 예컨대 자율주행차 같은 것들 말입니다.
‘디지털 예외주의’가 판치고 있습니다. 새로운 디지털 기술은 기존 규제의 적용을 받는게 부적절하다면서 규제완화를 정당화합니다.
하지만 이건 넌센스입니다. 거꾸로 인공지능 같은 새로운 디지털 기술은 우리가 잘 알지 못하기 때문에 오히려 기존 기술보다 더 엄격히 통제되어야 합니다. 인공지능의 알고리즘이 불투명하고 의사결정을 내리는 과정과 기준을 알 수 없다는 점 때문에도 더욱 철저하게 검증돼야 하고 제한적으로 적용되어야 합니다.
차별을 확대하지 않기 위해 윤리적 기준이 엄격해야 하고, 개인정보 보호에 대한 보호와 규제가 필수입니다.
그러나 인공지능 산업을 육성하겠다는 윤석열 정부와 국회는 오로지 기업 이윤을 위해 이런 안전장치를 다 허물려 하고 있습니다.
보건의료 부문은 물론이고 인공지능 규제완화는 국민의 생명 안전 인권을 심각하게 침해할 것입니다. 이 말도 안되는 악법이 통과되는 일은 없어야 할것입니다

원문보기/다운로드

The post [기자회견] “인공지능산업 육성에만 초점 맞춘 법안 반대한다, 과방위는 인공지능법안 전면 재검토하라” appeared first on 참여연대.

각 당과 상임위는 인공지능법안에 대한 입장을 명확히 밝혀라

지난 3월 15일, 국민의힘 김기현 대표와 회동한 자리에서 더불어민주당 이재명 대표는 “불합리한 규제는 해소해야 하지만 국민의 안전이나 생명과 관계된 규제는 강화할 필요가 있다”고 말했다고 한다. 그러나 더불어민주당 의원도 주축이 되어 추진하고 있는 인공지능 법안에 대한 전면적인 재검토 없이는 이재명 대표의 이러한 발언은 진정성을 지니기 어렵다. 현재 국회 과방위 심사소위를 통과한 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(‘인공지능법안’)」은 “국민의 안전과 생명”에 부정적 영향을 미칠 수 있는 고위험 인공지능의 위험을 통제할 수 있는 실질적인 방안도 없을 뿐만 아니라, 오히려 “우선허용·사후규제 원칙”(제11조 제1항)을 내세워 안전과 생명에 대한 위협을 완화할 수 있는 사전예방 조치에 대해서는 전혀 규율하지 않고 있기 때문이다. 집권여당인 국민의힘 또한 안전과 생명을 위협할 수 있는 고위험 인공지능에 대해서 실제 피해가 발생하기 전에는 규제하지 말자는 것이 당의 공식 입장인지 명확히 밝혀야 한다.

이 법안의 주무부처가 과학기술정보통신부인 것도 문제다. 유럽연합 및 미국 등 주요 해외 국가에서 현재 추진되고 있는 인공지능 법안은 고위험 인공지능 제품과 서비스는 소비자의 안전과 생명에 미치는 영향이 크다고 보고 규제를 강화하고 있는 동시에, 소비자 보호 및 인권 보장을 위한 기존의 규제 및 감독 체제를 인정하고 있다. 또한 미국의 알고리즘책무성 법안에서는 연방거래위원회(FTC)가, 유럽연합의 인공지능 법안은 각 국의 ‘시장 감시 기관’이 주무를 담당하도록 하고 있다. 그러나 한국의 과기정통부는 인공지능 산업육성에만 치중할 뿐, 고위험 인공지능으로부터 안전과 생명을 보호할 수 있는 공적 규제를 담당할만한 전문성도 의지도 없다. 더구나 과방위의 인공지능 법안은 다른 정부부처나 지방자치단체들이 고위험 인공지능을 규제하기 위한 법령이나 제도를 수립할 때 “우선허용·사후규제 원칙”에 부합하도록 요구하고 있으며, 해당 인공지능이 고위험영역 인공지능에 해당하는지에 대한 확인을 과학기술정보통신부장관이 담당하도록 함으로써, “국민의 안전과 생명”을 보호하기 위한 타 부처의 규제 조차 시행하지 못하거나 사실상 과기정통부의 승인을 받도록 하고 있다.

상황이 이러함에도, 소비자보호와 개인정보보호 관련법과 기구를 소관해온 정무위, 제품안전을 소관해온 산자위, 사회안전을 소관해온 행안위,산업안전을 소관해온 환노위 등 다른 상임위는 인공지능이 미칠 위험성에 대해 관심을 갖고는 있는 것인지, 소관 분야에서 고위험 인공지능이 미칠 위험성을 통제하기 위한 각 상임위의 역할에 대해서 자각은 하고 있는 것인지 우려하지 않을 수 없다. 지금 인공지능 법 제정을 무작정 서두를 일이 아니다. ‘세계 최초’가 아니라 ‘제대로 된’ 법을 만드는 것이 중요하다. 지금 과방위가 추진하고 있는 인공지능 법안으로는 세계적으로 수용될 수 있는 신뢰성있는 인공지능을 보장하기 힘들다. 인공지능에 대한 사회적 신뢰를 훼손하여 오히려 인공지능 산업발전도 저해할 것이다.

각 당에 묻는다. 안전과 생명, 그리고 인권을 위협할 수 있는 고위험 인공지능에 대한 우려가 전 세계적으로 높아지고 있는 이 시점에, “우선허용·사후규제 원칙”이 각 당의 공식적인 입장인가.

기존의 규제법을 소관해온 각 상임위에 묻는다. 각 상임위 의원들은 고위험 인공지능 규제를 위한, 각 상임위의 공공정책 수립에 과기정통부가 상급 부처로서 관여하는 것에 동의하는가. 고위험 인공지능으로부터 안전과 생명, 인권을 보호하기 위한 각 상임위의 역할과 임무를 고민하고 있는가.

2023년 3월 17일 

민변디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대

원문보기/다운로드

The post 과방위 인공지능 법안, 국민의 안전과 생명을 보장할 수 있나 appeared first on 참여연대.

유승익 한동대 BK21 글로벌입법팀 연구교수

챗GPT가 출현하면서 국회도 인공지능(AI)에 관한 기본법 입법에 속도를 내고 있다.

다음은 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’을 주도하고 있는 과학기술정보방송통신위 법안심사소위의 회의록에 나오는 발언의 일부이다. “설사 조금 미비한 점이 있더라도 일단 제정을 해서 시행을 해 보고 필요시에 보완 입법하는 것이 좋다.” “법안 자체의 제정이 지금 시급하다.” 법안에 문제가 있을 수 있지만 일단 시행하자는 취지다. 이 법안은 AI 기본계획을 관장하는 인공지능위원회 설치, 인공지능산업 기반 조성을 위한 원칙으로서 ‘우선 허용ㆍ사후 규제’ 명문화, 고위험 영역 인공지능을 개발ㆍ활용하는 자의 인공지능 신뢰성 확보 조치 의무 신설을 골자로 한다.

하지만 이 법안은 이대로 시행될 수 없는 치명적 문제점이 있다. 특히 ‘우선 허용ㆍ사후 규제’ 원칙은 당장 폐기해야 할 독소조항이다.

우선 세계적 입법의 흐름을 전혀 반영하지 않고 있다. 인공지능산업은 한번 신뢰성을 잃으면 회복하기 어려운 분야이다. 인간의 생명, 안전, 권리에 즉각적이고 직접적으로 영향을 미칠 수 있기 때문이다. 신뢰성을 잃은 인공지능 기술은 세계 시장에서 외면받고 도태될 것이다. 세계 각국은 신뢰할 수 있는 인공지능을 위한 법안 만들기에 분주하다. 유럽연합이 대표적이다.

유럽연합 인공지능법 초안에 따르면 인공지능에 의한 위험을 4단계로 구분하고 사전ㆍ사후에 엄격히 규제한다. 특히 용인할 수 없는 위험을 가진 인공지능 기술은 금지된다. 잠재의식을 활용해 인간 의식을 조작하는 기술은 금지되며, 아동의 위험한 행동을 유발하는 음성비서 AI 장난감 등도 위험이 확인되면 금지된다. 고위험으로 분류되는 교통, 승강기, 의료기기 등은 시장에 나오기 전 엄격한 의무를 따라야 한다. 데이터세트의 품질을 갖춰 위험과 차별적 효과도 최소화해야 한다.

반면 우리의 법안은 오히려 사전 규제를 무력화하고 있다. 고위험 인공지능의 위험관리 시스템 구축이나 설명 의무 등을 부여하는 것은 초기 단계 인공지능산업 발전을 저해할 우려가 있다는 게 논거이다.

일단 허용하고 보자는 산업편향적 정책기조는 인공지능 기술에 대한 몰이해를 그대로 노출하고 있다. 신뢰성은 인공지능 기술이 포함할 수 있는 선택적 요소가 아니라 반드시 갖추어야 하는 필수적 요소이다.

인공지능산업을 진흥하기 위해서라도 사전 규제를 포함한 거버넌스 구축은 필수적이다. 지난해 5월 국가인권위원회는 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 발표하며 “인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립”을 권고했다.

문제는 국민의 생명과 안전에 직결된 인공지능 정책을 과방위 위원들과 과기정통부 관료들이 주도하고 있다는 점이다. 인공지능 기술이 갖추어야 할 공정성, 설명 가능성, 투명성, 안전성, 인간 존엄 등 수많은 가치들은 무시하고, 탈규제와 산업 진흥이라는 위험한 인공지능 정책이 ‘경로의존성’을 가지고 출항하기 직전이다. 과방위의 인공지능 법안은 지금이라도 재검토되어야 한다.

※ 이 글은 3/28(화) 경향신문에 실린 칼럼입니다.

The post [칼럼] 인공지능 정책, 왜 그들이 주도하는가 appeared first on 참여연대.

2차 종합특검의 소극적 사건 종결처리 유감

‘스마트해지는 국가감시’ 권한 통제, 계엄 이후 중요 민주주의 과제

지난 12.3 계엄 당시 계엄군이 스마트도시시스템을 통하여 전국 지자체의 CCTV에 접속하여 시민들을 감시한 사실이 알려졌다. 이에 우리 단체들은 지난 4월 1일 “윤석열·김건희에 의한 내란·외환 및 국정농단 행위의 진상규명을 위한 특별검사(이하,’ 2차 종합특검’)”에 진정을 제기하며 내란 후 1년이 지나도록 계속 유지중인 군의 위헌 위법적인 시민감시 권한의 회수를 주장한 바 있다. 2차 종합특검은 6월 10일 우리 단체들에게 이 같은 군의 행태가 개인정보보호법상 범죄 구성 요건에 해당하지 않는다며 종결처리한다고 통지하였다.

우리 단체들이 2차 특검에 진정한 요지는, 서울시를 비롯한 각 지방자치단체의 스마트도시시스템을 통한 CCTV 조회 과정에서 생성되는 로그기록을 보존하고, 이를 철저히 수사하여 ①국방부 및 군이 비상계엄을 사전 준비하거나 동조, 후속조치를 지시·수행한 범죄 혐의 및 특히 비상계엄 해제 이후에도 2차 계엄을 통한 내란시도를 한 것은 아닌지 ②서울시를 비롯한 각 지방자치단체가 국방부 및 군의 CCTV 접속을 허용함으로써, 비상계엄 선포에 따른 후속조치 및 2차 계엄을 통한 내란시도를 방조하거나 공모한 것은 아닌지 철저히 수사할 필요가 있다는 것이었다.

그러나 2차 특검은 이 사건이 개인정보보호법 등의 범죄 구성요건에 해당하지 않으며, 특별검사의 수사대상에 해당하지 않는다는 매우 형식적인 이유로 종결처리하였다. 지난 진정서에서도 언급하였듯이 전국 군부대가 지방자치단체 “스마트도시시스템”을 통해 CCTV에 대한 무제한 조회권한을 가지고 국회, 선거관리위원회, 방송사 주변 도로를 감시한 사실이 확인된 것은 매우 중대한 문제이다. 특히 국방부 특전사·수도방위사령부· 제52보병사단·제56보병사단 등은 계엄이 해제된 후에도 서울시 스마트도시시스템을 통해 탄핵을 요구하는 시민들의 집회를 감시하는 데 동원되었던 정황이 드러났다. 하지만 2차 특검은 수방사 등 군이 계엄 당시 뿐만 아니라 평시에도 CCTV에 접근하여 시민들의 일상적인 집회를 수도방위라는 군사적 목적으로 살펴 보았고, 계엄 전후에 CCTV 접근이 확인되었다고 하더라도 이를 내란행위와는 연관지을 수 없다는 결론을 내렸다.

스마트도시시스템을 통해 지방자치단체 CCTV에 대한 군의 무제한 접속권 허용 등 불법적인 운영실태가 방치된 결과 계엄시기 국민에 대한 무차별적인 감시로 이어졌다. 내란 후 1년이 지나도록 스마트도시플랫폼의 무제한 조회권한은 여전히 군에서 회수되지 않아 일상적으로 무고한 시민이 군은 물론 경찰 등 여러 국가기관에 의해 실시간으로 감시될 수 있는 상태가 지금까지 방치되어 있다. 스마트도시시스템의 CCTV 감시에 대해서는 법률에 의한 통제가 전혀 이루어지고 있지 않은 것이다.

AI 시대 더욱 스마트해질 공공 CCTV가 무고한 시민에 대한 군경의 일상적인 감시 수단이 되어서는 안 된다. 이는 계엄과 탄핵을 거치며 우리 사회가 성찰하고 해결해야 할 중대한 인권과 민주주의의 과제 중 하나이다. 우리 단체들은 이후로도 지방자치단체 CCTV 시스템을 남용하여 군 등 국가기관이 위헌 위법하게 무고한 시민을 감시하는 행태가 중단되는 그날까지 문제제기를 계속할 것이다.

2026년 6월 19일
광주인권지기 활짝, 디지털정의네트워크, 민주사회를위한변호사모임 디지털정보위원회, 전남노동권익센터, 전북평화와인권연대, 정보인권연구소, 제주평화인권연구소왓, 참여연대

논평 [원문보기/다운로드]

The post [논평] 군의 지자체 CCTV 무제한 접근을 통한 시민감시 여전히 위헌·위법하다 appeared first on 참여연대.