주요 콘텐츠로 건너뛰기

[국회토론회] “EU와 미국은 왜 인공지능을 규제하려는가?”

지역

[국회토론회] “EU와 미국은 왜 인공지능을 규제하려는가?”

admin | 월, 2023/07/24- 11:31

인공지능 국제 입법 추세와 국내 법안 비교 검토하는 국회 토론회 개최

‘사후 규제’ 원칙으로는 인공지능 위험성과 오남용 대비할 수 없어

과기부, 인공지능 총괄 관장하면서 인권과 윤리까지 포괄할 수 있나

건강권 실현을 위한 보건의료단체연합 · 광주인권지기 활짝 · 무상의료운동본부 · 민주사회를위한변호사모임 디지털정보위원회 · 사단법인 정보인권연구소 · 서울YMCA 시민중계실 · 소비자시민모임 · 언론개혁시민연대 · 연구공동체 건강과대안 · 전국민주노동조합총연맹 · 전국사무금융서비스노동조합 · 전북평화와인권연대 · 진보네트워크센터 · 참여연대 · 천주교인권위원회 · 홈리스행동

 

  1. 지난 7/20(목) 16개 인권·시민사회단체와 더불어민주당 장경태 국회의원, 황운하 국회의원, 정의당 장혜영 국회의원은 국회 토론회 <EU와 미국은 왜 인공지능을 규제하려는가? 소비자 안전과 인권 보호를 위한 인공지능에 대한 각국의 노력이 주는 함의>를 공동개최하였습니다. 그동안 시민사회는 특정 부처가 아닌 인권, 소비자보호, 개인정보보호 등을 소관하는 기관들이 함께 인공지능의 위험성과 기본권 침해를 예방할 수 있는 공적 체계를 마련해야 한다고 주장해 왔습니다. 이와 같은 취지에서 토론회에는 산업 진흥 부서인 과기부 뿐 아니라 인권위, 공정거래위와 개인정보보호위 및 국회입법조사처 담당자 등이 두루 참여해 인공지능의 공공성 확보에 대해 논의했습니다.

  2. 발제자로 참여한 유승익 한동대 연구교수는 인공지능 시스템이 제기하는 문제가 프라이버시나 데이터권에 국한되지 않는다고 설명했습니다. 유승익 교수는 인공지능은 시민의 권리와 자유에 관한 역량을 높인다는 장점도 있지만, 인권 침해나 여론조작, 가짜뉴스에 따른 의사결정 과정 왜곡, 기업의 정보 과다 보유 등을 유발해 결과적으로 정치적 공동체의 운명까지 기업이 좌우할 수도 있음을 지적했습니다. 이에 따라 세계 각국은 인공지능 사회의 다양한 위험성을 예방하기 위해 규제마련에 나서고 있다며 대표적으로 유럽연합과 미국의 입법례를 제시했습니다. 이어 국회 과방위 소위에서 합의하였다고 알려진 우리나라 인공지능법안의 문제점을 지적하며 적어도 국가는 인공지능 시스템이 갖는 한계와 오용 가능성을 파악하고 대비하는 최소한의 공적 체계를 갖춰야 한다고 주장했습니다. 특히 위험을 예측하기 어려운 인공지능에 ‘우선허용 사후규제 원칙’을 적용하는 것은 아무런 방패막 없이 국민을 위험에 내모는 것일 뿐 아니라 규제의 예측가능성을 떨어뜨려 산업진흥에 반드시 유리하지도 않다고 지적했습니다. 무엇보다 기술관료 중심의 과기정통부가 인권, 윤리, 공정성, 신뢰가능성 등의 가치를 두루 고려하면서 인공지능의 설계, 기술개발 단계에서 출시, 서비스 및 사후 관리 등 인공지능 생애 주기 전과정을 총괄, 관장할 수 있는지 검토해야 한다고 주장했습니다.

  3. 허진민 참여연대 공익법센터 소장은 인공지능의 문제는 동시대 세계 각국이 함께 직면하는 문제인 만큼 다른 나라의 입법 논의를 비판적으로 검토하고 고려해야 한다고 강조했습니다. 세계적으로 인공지능 규제정책은 일반 산업이나 디지털 및 인터넷 경제에 대응하는 정책적 경향과 다르다고도 설명했습니다. 인공지능의 잠재적 위험성을 최소화하고 신뢰성 확보라는 목적을 조화롭게 달성하기 위한 최소한의 공적 체계를 마련하기 위해선 유럽연합의 리스크 기반 규제체계 도입도 입법과정에서 반드시 고려해야 한다고 주장했습니다.

  4. 시민사회 측 토론자로 참석한 정보인권연구소 장여경 상임이사는 미국의 인공지능 규제동향을 살펴보고, 미국 의회에 2022년 발의된 알고리즘 책무성 법안과 유럽연합의 인공지능 법안을 비교 평가하였습니다. 소비자시민모임의 허유경 이사는 소비자와 관련한 영역에서 알고리즘 및 인공지능의 적용으로 발생한 차별 및 편향성 연구사례, 최근 생성형 인공지능의 등장으로 대두된 내용 조작, 오류, 안정성 등의 문제, 인공지능을 활용한 담합, 반경쟁 등으로 인한 소비자 권익 침해와 시장질서 왜곡 문제 등을 지적했습니다. 보건의료단체연합 전진한 정책국장은, 검증되지 않은 인공지능은 임상시험을 거치지 않은 신약보다 더 위험하다고 지적했습니다. 인공지능은 단지 개인에게 생의학적 문제를 일으키는 데 그치지 않고 불특정 다수에게 생명권, 건강권을 포함한 광범한 안전침해를 일으킬 수 있기 때문입니다. 또한 부정확한 진단과 치료로 개인의 건강 위협, 대규모 의사결정 시스템이 낳는 집단적 건강문제, 의료불평등과 차별 강화·영속화 그리고 의료비 증가와 상업화 추세를 우려했습니다. 인공지능의 불투명성, 확장성, 복잡성 등은 책임소재 문제 등 의료현장의 혼란을 낳을 것이란 점도 덧붙였습니다.

  5. 참석한 정부기관 관계자들 또한 인공지능법안에 대한 각 기관의 견해를 밝혔습니다. 인공지능법안을 추진하고 있는 과기정통부의 최동원 인공지능기반정책국 과장은 위험성에 대한 우려와 규제 필요성에 대해서는 공감하나, 국가별로 법적규제와 자율규제의 방법적 차이가 있다고 주장했습니다. 미국과 영국은 자율규제방식이고 유럽연합내 AI산업을 보호하기 위해 유럽연합은 법적 규제방식을 채택했다는 것입니다. 한편 인권위의 김재석 인권정책과 과장은 과방위 소위 통과 법안이 이용자와 정보주체 권리를 보장하지 못하고, 고위험인공지능에 대해서만 규율하고 있으며 그 실효성 담보도 어렵다고 지적했습니다. 그러면서 이용자와 정보주체의 권리 명시 및 피해구제 절차 마련, 분야별 영역별 위험성 고려한 인공지능 등급 분류, 고위험인공지능 확대 재정의, 인공지능 영향평가 도입 등을 요구했습니다. 아울러 인공지능 산업 진흥과 규제의 분리를 제안하며, 인권위가 조만간 국회에 법안에 대한 의견을 표명할 것이라고 밝혔습니다. 개인정보보호위원회 이병남 정책과장은, 인공지능사이클 전단계에 개인정보 이슈가 있다고 인정하면서 다양한 영향평가 방법 중 적절한 모델을 개발 중이라고 설명했습니다. 또한 사회적 합의를 종합하여 규제를 마련할 것이며 8월말에 개인정보보호위원회 차원에서 공개된 정보의 수집과 활용의 방향성을 제시할 예정이라고 했습니다. 공정거래위원회 강승빈 시장감시정책과 서기관은 공정위가 오래전부터 알고리즘의 편향성 등의 문제를 다루어 왔다고 설명하면서 인공지능의 경쟁촉진 효과와 반경쟁적 악용 가능성도 있다는 점을 인정했습니다. 따라서 알고리즘의 자사우대, 네트워크 효과, 승자독식 방식 등은 반경쟁적 행위로 규제가 필요하고, 공정위도 내부 논의를 진행하겠다고 설명했습니다. 국회입법조사처의 박소현 입법조사관은 토론문을 통해 인공지능법 제정 과정에서 산업 육성과 지원, 그리고 국민 인권과 기본권 보호라는 두 가치의 적절한 조화점을 반드시 찾아야 한다고 강조했습니다. 이에 사후규제라는 방식이 인공지능의 잠재적 위험성과 파급력 관리라는 관점에서 매우 부적절하며, 허용할 수 없는 인공지능을 규정하고 고위험인공지능 개발 및 활용시 의무를 강제할 수단을 마련해야 한다는 주장에 동의한다고 밝혔습니다.

  6. 토론회 마지막에 행사를 공동주최한 장경태 의원은 과방위 소위를 통과한 인공지능법 제정안이 앞으로 추가 병합 심사를 한 후 과방위 전체회의에서 논의하는 절차가 남았다고 설명하면서, 앞으로 좀더 바람직한 법이 제정될 수 있도록 하겠다는 입장을 밝혔습니다. 끝.

▣ 붙임1 : 자료집

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

■ 소개

지역혁신을 통해 희망을 만들어가는 목민관클럽은 지방자치의 길잡이 <목민광장>을 발간하고 있다. <제9호 목민광장>에서는 사람중심 도시재생을 고민하는 기획 기사를 포함하여 다양한 주제로 우수한 정책을 학습했던 목민관클럽 정기포럼, 목민관 대담, 국내외 혁신의 현장 소식을 만나 볼 수 있다.

지역재생의 바람직한 방향을 모색한 특집좌담회에서는 도시재생을 대하는 지방정부가 가져야 할 태도와 역할을 들어보고, 영국과 스페인의 지역재생 사례가 우리에게 주는 시사점도 돌아보았다. 또한 지자체의 중요 의제 중 하나인 공교육 활성화를 지원하는 목민관들의 실행을 담았다.

희망제작소 Think&Do에서는 청년이 상상한 살고 싶은 지역의 모습과 고령화 시대를 준비하는 새로운 생애주기 설계에 대한 희망제작소의 연구결과를 확인할 수 있다. 뿐만 아니라 주민들이 스스로 참여하여 만들어가는 행복조례 제정 사례 등 행복을 키워드로 하는 자치행정에 대해서도 실려 있다.

■ 목차

– 발간사
지역주민의 다양성과 가치를 존중하는 목민관

– 기획특집
국내 도시재생의 현재와 나아갈 방향
도시재생과 지방정부의 역할
런던과 빌바오에서 안산을 생각하다
영국의 주민참여 도시재생 정책과 사례
주민중심 거버넌스로 추진되는 빌바오 도시재생
도시재생의 디스토피아, 젠트리피케이션
희망제작소가 그리는 도시재생은

– 목민관 대담
지방행정과 교육행정이 협력해 지역의 미래를 키워야

– 혁신의 현장
서울시 자치구 행정, 누가 누가 잘했나
마을만들기의 핵심은 주민자치

– 이슈&포럼
7차포럼 지속가능한 지역재생 활성화 방안 모색
9차포럼 주민참여 지역공동체 활성화를 위한 지역축제 2.0

– 희망제작소 Think&Do
행복, 주민의 언어로 말하고 정책으로 풀어가기
온고지신, 주민참여예산제
청년이 살고 싶은 지역은
새로운 생애주기로 고령화 시대를 준비하다

월, 2015/11/09- 14:05
411
0

 

 

 

[논평] SK텔레콤 등 기업의 질병정보 악용 사례, 철저히 조사하여 처벌하고 재발 방지 대책이 마련되어야 한다

 

 

개인정보범죄 정부합동수사단은 지난 7월 23일 환자 개인정보 및 질병정보를 병원과 약국으로부터 불법 수집해 판매한 ‘SK텔레콤’, ‘지누스’, ‘약학정보원’, ‘IMS헬스코리아’ 네 곳의 관계자 24명을 기소했다고 밝혔다.  검찰 발표에 따르면, 이들 네 곳은 약 4,400만 명, 약 47억 건에 달하는 환자 개인정보 및 질병정보를 병원과 약국으로부터 불법으로 수집해 판매함으로써 122억 3천만원의 이익을 챙겼다고 한다.

 

우리는 이미 지난 3월, 이와 관련하여 검찰의 기소 조치와 엄정한 조사 및 처벌을 요구한 바 있다. 국민의 질병 정보 등 건강 정보는 개인 정보 중 가장 민감한 정보에 해당하는 것으로, 그것의 유출과 불법적 상업적 사용이 개인과 사회에 미칠 영향은 매우 크다. 검찰은 기소된 네 업체의 불법 행위에 대해 명명백백히 밝혀 적절한 처벌이 이루어지도록 해야 한다.

 

또한 정부는 국민들의 피해내용에 대해서도 밝혀야 한다. 지금과 같은 상태라면 누가 어떤 피해를 보았는지 알 수 있는 방법이 없다. 내 개인 의료 정보가 유출되었는지를 알 수 있도록 그 내용을 공개해야 한다. 피해내용을 개인이 알 수 있도록 한 다른 정보 유출사건과 비교해보면 이번 사건은 피해자에 대한 피해내용 통보가 없다. 가해자는 기소하면서 피해자는 무슨 피해를 보았는지 당사자도 알 수 없는 이상한 상황이다. 이처럼 기소는 했지만 검찰이 봐주기식 수사 혹은 솜방망이 처벌에 그친다면 검찰은 또다시 국민의 인권 보호에는 한없이 무능한 검찰이라는 비판에 직면하게 될 것이다.

 

의료 정보, 질병 정보 등 건강 정보는 그 중요성에 비해 현재 한국의 정보 보호 및 규제 수준이 낮다. 기술은 빠르게 변하고 있고 관련 시스템과 환경은 급격히 변화하고 있는데, 건강 정보 보호 수준과 관련 규제는 이러한 기술 발전 속도와 환경 변화를 따라가지 못하고 있기 때문이다. 이와 같은 상황에서 정부와 IT기업 등 일부 세력들은 ‘건강 정보 보호’를 앞에 내세우지만 오히려 ‘건강 정보 활용’이 목적인 제도 변화를 꾀하고 있어 상황을 더욱 악화시키고 있다.

 

이번 사건도 정부의 정책 방향이 국민 개개인의 건강 정보의 ‘보호’보다 ‘활용’에 맞추어져 있었기 때문에 발생한 문제다. 원격진료, 유헬스, 건강 정보 빅데이터 사업, 웰니스 사업 등 건강 정보의 상업적 이용에 적극적인 정부 정책 방향 속에서 어떤 기업이 개인의 건강 정보 보호에 신경을 쓰겠는가?

전자처방전 사업을 주도했던 SK텔레콤은 이 사업이 정부가 주도했던 사업인데 자신들에게 불똥이 떨어졌다며 볼멘 소리를 내고 있다. 기업뿐 아니라 정부가 문제였다는 사실을 단적으로 드러내주는 상황이다. 그러므로 정부는 이번 사태의 근본적 원인이 건강 정보의 상업적 이용에 중점을 둔 정부의 정책 방향이었음을 인정하고, 관련된 정책 추진을 전면 중단하여야 한다. 건강 정보 인권 강화 측면에서 제로 베이스에서 발본적 정책 방향 재검토가 필요하다.

 

한국은 정보통신기술 발전 속도가 매우 빠른데 비해 정보 인권, 개인의 프라이버시 관련 인식은 취약한 편이어서, 건강 정보의 상업적 이용과 정보 인권 보호 문제가 더욱 중요하다. 차제에 현재의 건강 정보 인권 수준에 대한 포괄적, 통합적 평가와 더불어 개선대책이 마련되어야 한다.

 

2015년 7월 27일

건강권실현을위한보건의료단체연합 (건강사회를위한약사회 건강사회를위한치과의사회 노동건강연대 인도주의실천의사협의회 참의료실현청년한의사회)

월, 2015/07/27- 13:46
410
0

■ 소개

희망제작소는 막다른 일자리의 대안을 찾기 위해 사다리포럼을 개최하고 있다. 지난해 대학 청소노동자 고용문제의 해법 모색에 이어서 올해 2월부터는 아파트 경비노동자의 고용문제 해법을 찾기 위해 총 3차례의 포럼을 개최했다. 그 결과 희망제작소와 SH공사는 <행복한 아파트 공동체를 위한 경비원 상생고용 가이드>를 제작했다. 이 가이드는 아파트 공동체의 발전 및 경비노동자의 권익보호와 인권향상을 위하여 시민들과 함께 실천하면 좋을 방안을 제시하고 있다. 아파트 경비노동자 고용과 가장 밀접한 관련이 있는 아파트 관리 사무소를 주된 배포 대상으로 작성되었지만, 입주민과 함께 만드는 경비노동자 상생고용을 위한 모범 계약서 샘플과 경비노동자 고용 및 근로환경조사 설문지도 담고 있다.

* 이 홍보물은 ‘행복한 아파트공동체를 위한 경비원 상생고용 가이드’의 1장짜리 홍보물 버전입니다.

월, 2017/01/02- 14:05
406
0

무더위가 맹위를 떨치는 여름의 중턱에 프레스 센터에서는 [2015 서울 대기질 개선 포럼 – 교통 분야 대기분야 저감 정책과 시민 참여]가 열렸다. 시민들의 건강과 직결된 문제인 만큼 다수의 전문가 패널 뿐만 아니라 많은 시민 참석자들이 함께한 자리였었다.

20150715_093002

여러 전문가들은 참석자들의 눈높이에 맞추어 우리가 그 동안 미세먼지 및 대기질을 논하며 간과해오던 부분들을 조목조목 잘 짚어주었다.

기조연설을 한 동종인 맑은하늘만들기 시민운동본부 위원장은 서울시 대기 오염 현황과 전망에 대해 다루며 우리 나라가 대기질 관리를 시작했던 시기, 대기 오염 관리 패러다임의 변화에 대해서 언급하였다. 처음 대기질 관리가 시작되었던 80년대에는 가시적으로 보이는 시야 확보가 주로 다뤄졌으며, 공기 중에 있으면 결국 부유하다 사라진다는 생각이 주였으나 현재에 와서는 인체에 끼치는 위해성으로 논하는 것으로 바뀌었다고 한다. 다만, 인식개선이 되고 있음에도 불구하고 대기 오염도가 최근 5년간 제자리 걸음인 것은 개선해 나가야 할 점이라고 밝혔다.

이어진 발표에서 배귀남 한국과학기술연구원 단장은 과학적인 접근으로 대기 오염 물질을 논하였다. 우리가 흔히 대기 오염 물질을 언급하면서 1,2차 오염물질을 구분을 애매 모호하게 하기 때문에 대책을 세우는 데에 한계가 있어왔으며, 수치를 인용할 때 기준을 세우는 것에 따라서 배출량의 비율이 현격히 다르기 때문에 꼼꼼히 보고 인용해야 한다고 하였다. 교차로 주변 대기 환경을 조사한 결과 교차로 반경 400m 이내의 대기 오염 농도는 그 외의 곳에 비해 현저히 심각한 것으로 밝혀진 바, 눈으로 보기에 맑다고 자동차의 환기 장치 등을 사용하는 것은 1급 발암 물질에 스스로를 노출 시키는 것과 다름이 없다고 하며, 미세먼지 관리 추세가 양적인 부분보다 질적인 부분의 강조로 돌아서는 추세인 바, 정책 입안자들이 다양한 각도에서 고민을 해야 할 것이라고 하였다.

20150715_121833

이어진 토론에서 전문가 패널로 나선 김정수 국립환경과학원 교통환경연구소 소장은 미세먼지 농도를 수치적으로 보면 서울이나 시골이 비슷하게 나올 수도 있지만, 먼지의 성분 조성 및 입경 분포를 엄밀히 따져보아야 한다고 지적하였다. 미세 먼지의 성분을 분석해보면 산업화 지역에서는 자동차 매연 등의 인체 위해성이 높은 물질이 다량 포함되는 반면 시골 지역은 흙먼지나 소각 등으로 인하여 발암 위험도는 도시 지역 미세먼지보다 낮으며, 입경 분포 역시 시골 지역의 먼지 입자가 더 크므로 같은 농도일 때 도시 지역이 훨씬 더 다량의 입자가 들어가 있다는 점을 지적하였다.
조강래 자동차환경센터 회장은 NOx 입자들의 경우 현재의 경유차 인증 기준이 EURO-6로 강화되었음에도 기존에 인증된 차량들이 여전히 미세 먼지 배출에 한 몫을 하고 있으며, 미세먼지배출저감장치를 장착하였다고 할지라도 꾸준한 정기 점검을 소홀히 할 경우 성능이 제대로 발휘되지 못하므로 장착했다는 것 만으로 안심하지 말고 꾸준한 모니터링을 하며 관리하여야 한다고 하였다.
그에 덧붙여 김영성 한국외국어대 환경학과 교수는 아무리 개별 대수의 배출량이 감소 한다고 할지라도 운행 차량 대수가 늘어나면 총 배출량은 결국 상승하게 되어있다며, 지금의 ‘차량 위주 교통 정책’을 ‘보행자 위주 교통 정책’으로 바꾸는 것을 고려해야 할 시점이라고 생각한다고 밝혔다.

목, 2015/07/16- 14:45
401
0

Final

* 모시는 글 *

전기차 보급은 대도시 대기오염의 주범인 배기가스와 기후변화의 주범인 온실가스 배출량을 줄일 수 있는 친환경 정책입니다. 또한 세계 자동차 산업의 흐름에 뒤지지 않는 원천 기술 확보라는 측면에서도 중요합니다. 이번 폭스바겐 사건으로 친환경자동차인 전기차에 대한 관심이 높아졌으나 전기차는 전력수요을 증가시키는 요소로 작용하면서 이 전력이 어느 발전부문에서 오는가가 중요한 문제로 대두되었습니다. 또한 전기차의 기술적인 한계(짧은 주행거리, 긴 충전시간)와 고가의 가격으로 실용성이 크게 떨어지는 것이 현실입니다.

서울환경운동연합에서는 여러 전문가들과 함께 현 전기차 보급현황과 문제점을 짚어보고 바람직한 정책방향이 무엇인지 토론을 통해 모색하고자 합니다.

문의 : 서울환경운동연합 기후에너지팀 02)735-7000 (224)

수, 2015/11/18- 09:56
401
0