주요 콘텐츠로 건너뛰기

[칼럼] 인공지능 정책, 왜 그들이 주도하는가

지역

[칼럼] 인공지능 정책, 왜 그들이 주도하는가

admin | 수, 2023/03/29- 13:58

유승익 한동대 BK21 글로벌입법팀 연구교수

챗GPT가 출현하면서 국회도 인공지능(AI)에 관한 기본법 입법에 속도를 내고 있다.

다음은 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’을 주도하고 있는 과학기술정보방송통신위 법안심사소위의 회의록에 나오는 발언의 일부이다. “설사 조금 미비한 점이 있더라도 일단 제정을 해서 시행을 해 보고 필요시에 보완 입법하는 것이 좋다.” “법안 자체의 제정이 지금 시급하다.” 법안에 문제가 있을 수 있지만 일단 시행하자는 취지다. 이 법안은 AI 기본계획을 관장하는 인공지능위원회 설치, 인공지능산업 기반 조성을 위한 원칙으로서 ‘우선 허용ㆍ사후 규제’ 명문화, 고위험 영역 인공지능을 개발ㆍ활용하는 자의 인공지능 신뢰성 확보 조치 의무 신설을 골자로 한다.

하지만 이 법안은 이대로 시행될 수 없는 치명적 문제점이 있다. 특히 ‘우선 허용ㆍ사후 규제’ 원칙은 당장 폐기해야 할 독소조항이다.

우선 세계적 입법의 흐름을 전혀 반영하지 않고 있다. 인공지능산업은 한번 신뢰성을 잃으면 회복하기 어려운 분야이다. 인간의 생명, 안전, 권리에 즉각적이고 직접적으로 영향을 미칠 수 있기 때문이다. 신뢰성을 잃은 인공지능 기술은 세계 시장에서 외면받고 도태될 것이다. 세계 각국은 신뢰할 수 있는 인공지능을 위한 법안 만들기에 분주하다. 유럽연합이 대표적이다.

유럽연합 인공지능법 초안에 따르면 인공지능에 의한 위험을 4단계로 구분하고 사전ㆍ사후에 엄격히 규제한다. 특히 용인할 수 없는 위험을 가진 인공지능 기술은 금지된다. 잠재의식을 활용해 인간 의식을 조작하는 기술은 금지되며, 아동의 위험한 행동을 유발하는 음성비서 AI 장난감 등도 위험이 확인되면 금지된다. 고위험으로 분류되는 교통, 승강기, 의료기기 등은 시장에 나오기 전 엄격한 의무를 따라야 한다. 데이터세트의 품질을 갖춰 위험과 차별적 효과도 최소화해야 한다.

반면 우리의 법안은 오히려 사전 규제를 무력화하고 있다. 고위험 인공지능의 위험관리 시스템 구축이나 설명 의무 등을 부여하는 것은 초기 단계 인공지능산업 발전을 저해할 우려가 있다는 게 논거이다.

일단 허용하고 보자는 산업편향적 정책기조는 인공지능 기술에 대한 몰이해를 그대로 노출하고 있다. 신뢰성은 인공지능 기술이 포함할 수 있는 선택적 요소가 아니라 반드시 갖추어야 하는 필수적 요소이다.

인공지능산업을 진흥하기 위해서라도 사전 규제를 포함한 거버넌스 구축은 필수적이다. 지난해 5월 국가인권위원회는 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 발표하며 “인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립”을 권고했다.

문제는 국민의 생명과 안전에 직결된 인공지능 정책을 과방위 위원들과 과기정통부 관료들이 주도하고 있다는 점이다. 인공지능 기술이 갖추어야 할 공정성, 설명 가능성, 투명성, 안전성, 인간 존엄 등 수많은 가치들은 무시하고, 탈규제와 산업 진흥이라는 위험한 인공지능 정책이 ‘경로의존성’을 가지고 출항하기 직전이다. 과방위의 인공지능 법안은 지금이라도 재검토되어야 한다.

※ 이 글은 3/28(화) 경향신문에 실린 칼럼입니다.

The post [칼럼] 인공지능 정책, 왜 그들이 주도하는가 appeared first on 참여연대.

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

지난 7월 20일 대법원은 통신사가 이용자의 신원정보를 영장 없이 수사기관에 제공한 내역의 공개를 거부한 것에 대해 이용자의 '개인정보자기결정권'을 침해하였기에 손해배상해야 한다는 판결을 내렸습니다.

개인정보 보호의 중요성은 이미 두말할 필요도 없는 상식이 되어있습니다. 하지만 타인에게 맡긴 자신의 개인정보가 어떻게 활용되거나 유포되는지에 대한 개인의 권리 또한 못지않게 중요합니다. 법원의 이번 판결은 이 권리가 법으로 보장받아야함을 명시한 중요한 선례 중 하나라고 볼 수 있을 것입니다.  '개인정보자기결정권'의 가치를 법원이 어떻게 바라봤는지, 강태리 변호사가 짚었습니다.

  

이 글은 오마이뉴스와 슬로우뉴스에서도 볼 수 있습니다. 

 

나몰래 넘겨진 개인정보, '사이다' 판결이 막았다

[광장에 나온 판결] 이용자 개인정보 제공내역 공개거부한 통신사에 대한 손해배상소송 판결(서울고등법원 제1민사부 2015. 1. 1. 2014나2020811, 대법원 제2부 2018. 7. 20 2015다208856)

 

강태리 변호사, 참여연대 공익법센터 운영위원

 

미래창조과학부에서 2017년 6월 5일 발표한 내용에 따르면, 2016년 한 해 동안 전기통신사업자가 검찰과 경찰, 국정원 등 수사기관에 제공한 이용자정보(성명·주민등록번호·주소·전화번호·아이디 등)는 전화번호 수 기준으로 약 830만 건이라고 한다. 이는 대한민국 국민 6명당 1명의 통신자료가 수사기관에 제공되었다는 의미이다.

 

다른 나라들의 경우는 어떨까? 유엔 특별보고관 데이비드 케이(David Kaye)의 2017년 5월 9일 자 의견서에 따르면, 영국 국민 170명당 1명(2015년 기준), 프랑스 국민 1375명당 1명(2015년 10월 ~ 2016년 10월 기준), 미국 국민 600명당 1명(2012년 기준)의 개인정보가 수사기관에 제공되었다고 한다. 비교 자체가 무의미할 정도의 엄청난 차이이다.

 

'통신자료 제공' 6명당 1명-600명당 1명

 

그렇다면 대한민국에서 이처럼 엄청난 양의 통신자료가 수사기관에 제공되는 근본적인 원인은 무엇일까? 수사기관의 요청에 대한 제재가 없기 때문이다. 

 

일반적으로 법치국가에서는 수사기관의 권한 남용을 막기 위한 헌법적 원칙으로서 '영장주의'를 보장한다. 법관이 발부한 영장 없이는 수사기관이 강제수사를 할 수 없다는 원칙으로, 수사기관의 권한 남용을 막는 사법적 감시체계이다. 그런데 통신자료 제공요청의 근거법률인 전기통신사업법 제83조 제3항과 4항에는 영장주의에 대한 내용이 없다. 수사기관이 통신자료 제공요청을 남용할 경우 이를 막는 방법을 법에서 정하고 있지 않다는 의미이다.

 

국가기관들도, 기업들도 통신자료 제공에 대한 아무런 감시체계를 마련하지 않은 상황에서, 2013년 핸드폰 이용자 3명이 소송을 제기했다. 이들은 이동통신 3사를 상대로 "나의 통신자료가 수사기관에 제공된 현황을 공개하라. 또한 공개청구가 거부당함으로써 입은 정신적 피해를 배상하라"라고 했다. 

 

그로부터 5년 뒤인 2018년 드디어 대법원은 "이동통신사들은 통신자료 제공현황을 공개할 의무가 있다. 그리고 공개청구를 거부한 행위는 원고들의 개인정보자기결정권을 침해하는 불법행위이므로, 그로 인한 정신적 피해를 배상하라"고 최종 판단을 내렸다(대법원 2018. 7. 20 선고 2015다208856 판결).

 

그런데 '개인정보자기결정권'이란 무엇인가. 말 그대로 풀어보면 '개인정보'를 '자기'가 '결정'하는 '권리'이다. 좀 더 정확히 말하자면 자신에 대한 정보가 언제 누구에게 어느 범위까지 알려지고 또 이용되도록 할 것인지를 그 정보주체가 스스로 결정할 수 있는 권리이다. 이 권리는 개인의 헌법상 기본권이며 이를 토대로 자신의 개인정보 처리 여부를 확인할 권리가 보장된다. 

 

이러한 권리가 인정됨에도 불구하고 왜 위 사안에서 이동통신 3사는 통신자료 제공현황의 공개를 거부했던 것일까? 이러한 물음에 대한 복잡다단한 법리 다툼은 제쳐 두고, 필자는 개인정보자기결정권의 행사와 관련해 벌어지는 사회적 통념에서 그 답을 찾고 싶다. 

 

필자의 생각으로는, 우리 사회에 만연한 기본권 경시 풍조가 이 모든 상황의 토대가 되는 것으로 보인다.

 

"내 개인정보가 뭐 그렇게 대단한 거라고, 기본적인 건 이미 여러 군데 뿌려져 있겠지", "큰 기업에서 공개 안 해주려는 것에는 다 그만한 이유가 있겠지", "수사기관이 비밀리에 수사하려면, 개인정보를 몰래 수집하는 건 당연한 거 아냐?", "개인정보도 좀 수집되고 이용되어야, 나중에 더 발전된 사회로 진입할 수 있지 않겠어?", "내 인적사항 몇 개 알려지는 것 보다, 수사기관이 범죄에 신속히 대처하는 것이 더 중요지 않냐?" 등등.

 

법원 "수사 편의보다 개인정보자기결정권 실현"

 

이러한 막연한 생각들에 대하여, 법원은 다음과 같이 판시했다.

 

"수사기관의 수사업무에 지장이 발생할 수 있다는 막연한 사정만으로 헌법 및 정보통신망법에 의하여 법적으로 보장되어 있는 정보주체의 개인정보자기결정권을 제한할 수는 없다."

 

"수사의 밀행성 보장은 수사의 편의를 위한 것인 반면, 통신자료제공 현황의 공개는 헌법상 기본권인 개인정보자기결정권을 실현하는 것이므로 보호가치가 더 크다고 볼 수 있다." 

 

필자는 개인적으로 이 부분에서 사이다(!)를 느꼈다. "막연한 사정" 또는 "수사의 편의"를 이유로 개인의 기본권을 당연히 제한할 수는 없다는 명쾌한 선언. 

 

사실 우리는 이 복잡한 사회를 살아가면서 수도 없는 가치 충돌 상황을 목도한다. 그럴 때마다 사회구성원 모두가 어떤 가치를 더 우선해야 하는지 함께 치열하게 심사숙고해야 한다. 

 

그럼에도 불구하고 우리는 역사적으로 많은 경우, 국가, 사회, 회사, 가족과 같은 공동체가 처할 막연한 위협 또는 막연한 이익을 이유로, 개인의 행복추구 내지 권리행사를 보류하라는 요구를 받아오지 않았나? 이번 사건은 그것이 더 이상 통하지 않는다는 단순한 논리를 일깨워줘서 고맙다.

 

이번 사안을 한 문장으로 축약해보면, "수사기관에 의한 기본권 침해 가능성에 대해 국가가 아무런 감시체계를 마련해주지 않았고, 보다 못한 개인이 나서서 자신의 기본권을 지키려고 한 것"이다. 그리고 결국 대법원은 그 개인의 손을 들어줬다.

 

이제는 국가가 나서서 사법적 감시체계를 구축해줘야 할 때이다. 국회 및 법원의 아무런 감시 없이 수사기관의 자료제공요청이 이루어질 수 있는 현 법률 및 관행에 대한 근본적인 변화가, 부디 머지 않은 미래에 이루어지길 기대한다.

 

 

참여연대 사법감시센터는 최근 판결 중 사회 변화의 흐름을 반영하지 못하거나 국민의 법 감정과 괴리된 판결, 기본권과 인권보호에 기여하지 못한 판결, 또는 그와 반대로 인권수호기관으로서 위상을 정립하는데 기여한 판결을 소재로 [판결비평-광장에 나온 판결]사업을 진행하고 있습니다.
주로 법률가 층에만 국한되는 판결비평을 시민사회 공론의 장으로 끌어내어 다양한 의견을 나눔으로써 법원의 판결이 더욱더 발전될 수 있다는 생각 때문입니다.

목, 2018/08/09- 15:42
153
0

이제 우리 국회 앞에서 만나

국회 100미터 집회금지 헌법불합치 결정 환영

국회 앞 자유로운 의사 표현 가능하도록 집시법 개정에 나서야

 

오늘(5/31) 헌법재판소는 국회 100미터 이내 집회·시위를 절대적으로 금지하는 집회 및 시위에 관한 법률(이하 ‘집시법’) 제11조 제1호에 대해 헌법에 합치되지 않는다는 결정을 선고했다. 국회앞 행진에 참여하였다가 집시법 위반을 이유로 기소된 이태호 참여연대 전 사무처장이 헌법소원을 제기한 지 거의 5년 만이다. 소송을 기획하고 진행한 참여연대 공익법센터(소장 양홍석 변호사)는 비록 많이 지체되었지만 이제라도 그 위헌성을 적극 인정한 헌법재판소의 결정을 환영하며, 한국사회의 집회의 자유가 보다 확장되는 계기가 되기를 기대한다. 무엇보다 헌법재판소의 이번 결정에 따라 국회는 보다 가까이에서 주권자인 국민의 목소리를 듣고 의정활동에 임해야 할 것이다.

 
오늘 헌법재판소 결정은 9명 재판관 전원 일치 의견으로 그동안 집시법이 국회가 수행하는 헌법적 기능을 침해할 가능성이 없는 정당한 집회·시위까지 필요이상으로 금지하여 집회의 자유를 침해했음을 명백히 선언하였다는 점에서 큰 의미가 있다. 그 동안 누구보다 국민의 목소리, 특히 소외되기 쉬운 소수자와 약자의 목소리를 가까이서 들어야 할 국회는 집시법 규정을 통해 이들의 목소리를 국회 100미터 밖으로 밀어내기 일쑤였다. 국회가 빈번하게 국민의 의견과 괴리된 결정을 내리거나 무책임한 행태를 보여도 국민이 국회의원들에게 제대로 의견을 표현하거나 영향을 미칠 수 있는 방법은 매우 제한적이었다. 그러나 집회·시위의 자유는 기본적으로 소수자와 약자를 위한 소통과 연대의 권리이다. 정치적, 경제적 영향력을 갖추지 못한 평범한 시민이나 사회적 약자들이 집단적으로 의사를 표현하는 집회·시위의 자유는 때로는 생존을 위한 절실한 수단이기도 하다. 평범한 이들의 목소리가 국회 앞에서 충분히 표현될 수 있어야 대의민주주의가 제대로 작동할 수 있고 그 정당성도 확보될 수 있다.
 
헌법재판소가 헌법불합치 결정을 내리고 2019. 12. 31.까지 국회가 집시법 제11조를 개정할 것을 명령함에 따라 국회는 그 취지에 맞게 집시법을 개정할 책임을 부여받았다. 헌법재판소는 오늘 결정에서 국회의 기능을 침해할 가능성이 없는 집회의 경우를 몇 가지 예시하였으나, 이는 기본권 침해가 명백한 사례를 예를 든 것이지 오로지 그 경우에만 집회·시위가 가능한 것으로 헌재 결정의 의미를 협소하게 해석하여서는 안된다. 헌법이 보장하는 집회의 자유는 국회 앞이라 하여 단순히 소규모, 휴회기나 휴일 등 예외적인 경우에만 허용될 수 있는 것이 아니라, 평화적 집회라면 원칙적으로 그 규모나 시간에 불문하고 매우 넓게 보장되어야 하는 것이기 때문이다. 이 점은 국회의 보호라는 것이 국회의원에 대한 물리적 압력이나 위해를 가할 가능성 및 국회의사당 등 국회 시설에의 출입이나 안전에 위협을 가할 위험성으로부터의 보호에 한정되어야 한다는 헌법재판소 결정에서도 드러난다. 
 
헌법재판소의 이번 결정에 따라 국회는 본연의 헌법적 기능과 국회의사당 인근 집회는 양립이 가능하며, 오히려 ‘민의의 수렴’이라는 국회의 기능을 고려할 때 국회 인근 집회 보장을 통해 보다 충실하게 헌법적 기능을 수행할 수 있다는 점을 반드시 명심해야 할 것이다. 관련하여 참여연대가 절대적 집회금지장소 조항에 대해 2016년 11월 개정안을 청원한지 1년 반이 넘도록 국회는 심사조차 하지 않고 있다. 그러나 이제 헌법재판소의 헌법불합치 결정이 난 만큼 국회는 헌법재판소의 결정 취지에 부합하게 국회 앞에서의 자유로운 의사표현을 최대한 보장하는 방향으로 법을 개정해야 한다. 정치적 유불리를 따질 것이 아니라 국민의 기본권 보장과 관련된 사안인 만큼 이제라도 자신의 책무를 다해야 한다.
 
 
 

목, 2018/05/31- 16:33
111
0


 

2018 열린정부 파트너십 아시아-태평양지역 회의 11월 5일 개막

– 오픈넷, 명예훼손·판결문공개·가짜뉴스 규제 등 논의

 

오늘 11 5(서울에서 “2018 열린정부 파트너십 아시아태평양지역 회의(2018 OGP Asia-Pacific Regional Meeting)”가 개막합니다이번 OGP 아태지역 회의는 11 5() ~ 6(오전 9시부터 오후 7시까지서울 웨스틴조선호텔에서 진행됩니다.

OGP(Open Government Partnership)는 세계 각국의 정부가 투명성을 증진하고시민들의 의사결정과정 참여를 촉진하며부패를 방지하고새로운 기술로 거버넌스를 증진하도록 하는 장려하기 위해 만들어진 회원제 국제기구입니다한국은 지난 2011 OGP에 가입했으며행정안전부 소관으로 2년에 한 번씩 ‘국가행동계획(National Action Plan, NAP)’을 수립제출하고 있습니다사단법인 오픈넷은 ‘대한민국OGP포럼’ 민간위원으로 참여하고 있으며행정안전부와 함께 지난 2년간 열린정부에 시민참여를 독려하고 판결문공개 제도에 대한 공약을 제출하는 등 효율적이고 혁신적인 국가실행계획을 도출하기 위한 활동을 해오고 있습니다.

사단법인 오픈넷은 이번 OGP 회의 때 다음과 같은 국제 워크숍에서 정부투명성 강화와 시민단체들의 정치참여를 북돋는 방법을 국내외 인사들과 논의하오니 많은 참석 바랍니다.

 

[워크숍 일정 안내]

11 5(오후 1:30 ~ (https://sched.co/IBCM)

“시민사회 참여를 제약하는 규제들에 대한 창의적인 대응(Creative Responses to Shrinking Civic Spaces)

–  시민단체들의 활동공간을 제약하는 다양한 법들 즉 가짜뉴스 규제, 명예훼손법, 정보매개자책임법, 집회시위의 자유에 대한 규제에 대해 논의합니다.

 

11 6(오후 3:00 ~ (https://sched.co/HYhj)

“투명성이 시민사회 참여에 해를 주지 않도록 하기(Do No Harm : Promoting Civic Space While Pursuing Transparency)

–   투명성의 요구가 곡해되어 시민단체들의 활동을 과도하게 제약하는 상황들에 대해 논의합니다. 우리나라의 경우 기부금품관리법이 1천만원 금액 이상의 모금행위 자체를 등록하도록 의무화하는 문제, 정치자금법이 과도하게 입법활동의 지지를 막는 문제 등을 논의합니다. 한국에서는 고려대학교 박경신 교수와 행정안전부 김용찬 사회혁신추진단 단장이 패널로 참여합니다.

 

11 6(오후 4:30 ~ (https://sched.co/HYhs)

“혁신에 집중하기(Spotlight on Innovations: New Frontiers of Open Government)

–  사법농단의 시대에 판결문공개가 법치주의 유지에 어떤 의미를 가지는지 되돌아보고 고려대학교 박경신 교수가 남서울대학교 강장묵 교수(2017 인공지능 R&D 챌린지 과학기술정보통신부 장관상 수상)를 모시고 좌담을 통해 인공지능과 판결문공개가 사법감시에 어떻게 기여할 수 있는지 살펴봅니다.

 

** 위 워크숍 참가에 관심이 있으신 분은 박경신 교수에게 연락해주시기 바랍니다. (이메일[email protected])

 

문의오픈넷 사무국 02-581-1643, master@opennet.or.kr

월, 2018/11/05- 11:35
63
0

페이스북에 있는 이미지를 퍼 왔습니다. 

월, 2026/05/18- 16:59
24
0