주요 콘텐츠로 건너뛰기

[국회토론회] “EU와 미국은 왜 인공지능을 규제하려는가?”

지역

[국회토론회] “EU와 미국은 왜 인공지능을 규제하려는가?”

admin | 월, 2023/07/24- 11:31

인공지능 국제 입법 추세와 국내 법안 비교 검토하는 국회 토론회 개최

‘사후 규제’ 원칙으로는 인공지능 위험성과 오남용 대비할 수 없어

과기부, 인공지능 총괄 관장하면서 인권과 윤리까지 포괄할 수 있나

건강권 실현을 위한 보건의료단체연합 · 광주인권지기 활짝 · 무상의료운동본부 · 민주사회를위한변호사모임 디지털정보위원회 · 사단법인 정보인권연구소 · 서울YMCA 시민중계실 · 소비자시민모임 · 언론개혁시민연대 · 연구공동체 건강과대안 · 전국민주노동조합총연맹 · 전국사무금융서비스노동조합 · 전북평화와인권연대 · 진보네트워크센터 · 참여연대 · 천주교인권위원회 · 홈리스행동

 

  1. 지난 7/20(목) 16개 인권·시민사회단체와 더불어민주당 장경태 국회의원, 황운하 국회의원, 정의당 장혜영 국회의원은 국회 토론회 <EU와 미국은 왜 인공지능을 규제하려는가? 소비자 안전과 인권 보호를 위한 인공지능에 대한 각국의 노력이 주는 함의>를 공동개최하였습니다. 그동안 시민사회는 특정 부처가 아닌 인권, 소비자보호, 개인정보보호 등을 소관하는 기관들이 함께 인공지능의 위험성과 기본권 침해를 예방할 수 있는 공적 체계를 마련해야 한다고 주장해 왔습니다. 이와 같은 취지에서 토론회에는 산업 진흥 부서인 과기부 뿐 아니라 인권위, 공정거래위와 개인정보보호위 및 국회입법조사처 담당자 등이 두루 참여해 인공지능의 공공성 확보에 대해 논의했습니다.

  2. 발제자로 참여한 유승익 한동대 연구교수는 인공지능 시스템이 제기하는 문제가 프라이버시나 데이터권에 국한되지 않는다고 설명했습니다. 유승익 교수는 인공지능은 시민의 권리와 자유에 관한 역량을 높인다는 장점도 있지만, 인권 침해나 여론조작, 가짜뉴스에 따른 의사결정 과정 왜곡, 기업의 정보 과다 보유 등을 유발해 결과적으로 정치적 공동체의 운명까지 기업이 좌우할 수도 있음을 지적했습니다. 이에 따라 세계 각국은 인공지능 사회의 다양한 위험성을 예방하기 위해 규제마련에 나서고 있다며 대표적으로 유럽연합과 미국의 입법례를 제시했습니다. 이어 국회 과방위 소위에서 합의하였다고 알려진 우리나라 인공지능법안의 문제점을 지적하며 적어도 국가는 인공지능 시스템이 갖는 한계와 오용 가능성을 파악하고 대비하는 최소한의 공적 체계를 갖춰야 한다고 주장했습니다. 특히 위험을 예측하기 어려운 인공지능에 ‘우선허용 사후규제 원칙’을 적용하는 것은 아무런 방패막 없이 국민을 위험에 내모는 것일 뿐 아니라 규제의 예측가능성을 떨어뜨려 산업진흥에 반드시 유리하지도 않다고 지적했습니다. 무엇보다 기술관료 중심의 과기정통부가 인권, 윤리, 공정성, 신뢰가능성 등의 가치를 두루 고려하면서 인공지능의 설계, 기술개발 단계에서 출시, 서비스 및 사후 관리 등 인공지능 생애 주기 전과정을 총괄, 관장할 수 있는지 검토해야 한다고 주장했습니다.

  3. 허진민 참여연대 공익법센터 소장은 인공지능의 문제는 동시대 세계 각국이 함께 직면하는 문제인 만큼 다른 나라의 입법 논의를 비판적으로 검토하고 고려해야 한다고 강조했습니다. 세계적으로 인공지능 규제정책은 일반 산업이나 디지털 및 인터넷 경제에 대응하는 정책적 경향과 다르다고도 설명했습니다. 인공지능의 잠재적 위험성을 최소화하고 신뢰성 확보라는 목적을 조화롭게 달성하기 위한 최소한의 공적 체계를 마련하기 위해선 유럽연합의 리스크 기반 규제체계 도입도 입법과정에서 반드시 고려해야 한다고 주장했습니다.

  4. 시민사회 측 토론자로 참석한 정보인권연구소 장여경 상임이사는 미국의 인공지능 규제동향을 살펴보고, 미국 의회에 2022년 발의된 알고리즘 책무성 법안과 유럽연합의 인공지능 법안을 비교 평가하였습니다. 소비자시민모임의 허유경 이사는 소비자와 관련한 영역에서 알고리즘 및 인공지능의 적용으로 발생한 차별 및 편향성 연구사례, 최근 생성형 인공지능의 등장으로 대두된 내용 조작, 오류, 안정성 등의 문제, 인공지능을 활용한 담합, 반경쟁 등으로 인한 소비자 권익 침해와 시장질서 왜곡 문제 등을 지적했습니다. 보건의료단체연합 전진한 정책국장은, 검증되지 않은 인공지능은 임상시험을 거치지 않은 신약보다 더 위험하다고 지적했습니다. 인공지능은 단지 개인에게 생의학적 문제를 일으키는 데 그치지 않고 불특정 다수에게 생명권, 건강권을 포함한 광범한 안전침해를 일으킬 수 있기 때문입니다. 또한 부정확한 진단과 치료로 개인의 건강 위협, 대규모 의사결정 시스템이 낳는 집단적 건강문제, 의료불평등과 차별 강화·영속화 그리고 의료비 증가와 상업화 추세를 우려했습니다. 인공지능의 불투명성, 확장성, 복잡성 등은 책임소재 문제 등 의료현장의 혼란을 낳을 것이란 점도 덧붙였습니다.

  5. 참석한 정부기관 관계자들 또한 인공지능법안에 대한 각 기관의 견해를 밝혔습니다. 인공지능법안을 추진하고 있는 과기정통부의 최동원 인공지능기반정책국 과장은 위험성에 대한 우려와 규제 필요성에 대해서는 공감하나, 국가별로 법적규제와 자율규제의 방법적 차이가 있다고 주장했습니다. 미국과 영국은 자율규제방식이고 유럽연합내 AI산업을 보호하기 위해 유럽연합은 법적 규제방식을 채택했다는 것입니다. 한편 인권위의 김재석 인권정책과 과장은 과방위 소위 통과 법안이 이용자와 정보주체 권리를 보장하지 못하고, 고위험인공지능에 대해서만 규율하고 있으며 그 실효성 담보도 어렵다고 지적했습니다. 그러면서 이용자와 정보주체의 권리 명시 및 피해구제 절차 마련, 분야별 영역별 위험성 고려한 인공지능 등급 분류, 고위험인공지능 확대 재정의, 인공지능 영향평가 도입 등을 요구했습니다. 아울러 인공지능 산업 진흥과 규제의 분리를 제안하며, 인권위가 조만간 국회에 법안에 대한 의견을 표명할 것이라고 밝혔습니다. 개인정보보호위원회 이병남 정책과장은, 인공지능사이클 전단계에 개인정보 이슈가 있다고 인정하면서 다양한 영향평가 방법 중 적절한 모델을 개발 중이라고 설명했습니다. 또한 사회적 합의를 종합하여 규제를 마련할 것이며 8월말에 개인정보보호위원회 차원에서 공개된 정보의 수집과 활용의 방향성을 제시할 예정이라고 했습니다. 공정거래위원회 강승빈 시장감시정책과 서기관은 공정위가 오래전부터 알고리즘의 편향성 등의 문제를 다루어 왔다고 설명하면서 인공지능의 경쟁촉진 효과와 반경쟁적 악용 가능성도 있다는 점을 인정했습니다. 따라서 알고리즘의 자사우대, 네트워크 효과, 승자독식 방식 등은 반경쟁적 행위로 규제가 필요하고, 공정위도 내부 논의를 진행하겠다고 설명했습니다. 국회입법조사처의 박소현 입법조사관은 토론문을 통해 인공지능법 제정 과정에서 산업 육성과 지원, 그리고 국민 인권과 기본권 보호라는 두 가치의 적절한 조화점을 반드시 찾아야 한다고 강조했습니다. 이에 사후규제라는 방식이 인공지능의 잠재적 위험성과 파급력 관리라는 관점에서 매우 부적절하며, 허용할 수 없는 인공지능을 규정하고 고위험인공지능 개발 및 활용시 의무를 강제할 수단을 마련해야 한다는 주장에 동의한다고 밝혔습니다.

  6. 토론회 마지막에 행사를 공동주최한 장경태 의원은 과방위 소위를 통과한 인공지능법 제정안이 앞으로 추가 병합 심사를 한 후 과방위 전체회의에서 논의하는 절차가 남았다고 설명하면서, 앞으로 좀더 바람직한 법이 제정될 수 있도록 하겠다는 입장을 밝혔습니다. 끝.

▣ 붙임1 : 자료집

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

■ 소개

세상에는 많은 문제가 있습니다.
우리는 문제를 해결하기 위해 다양한 이슈를 마주합니다.
우리는 어떻게 문제를 정의하고, 해결하는 과정을 밟아가야 할까요.
문제를 해결하는 방법은 무엇일까요.

희망제작소의 ‘방법’을 모았습니다.
전국 각 지역에서, 남녀노소 가리지 않고 다양한 참여자를 대상으로 직접 진행해온 문제 해결방법을 모아보기로 했습니다. 참여자에게 걸맞게 워크숍을 새롭게 조합·변형하면서 문제를 해결하는 방법이 다양하다는 것을 알게 됐습니다.

희망제작소가 ‘한 권의 책’으로 묶었습니다.
시중에서도 워크숍 매뉴얼을 접할 수 있지만 어떤 상황, 어떤 목적, 그 다음 단계의 방법이 무엇인지 알기 어려웠습니다. 문제를 정의하고, 발견하고, 해결하는 방법을 희망제작소가 현장에서 주로 활용하고 있는 사례를 접목해 소개해드립니다.

희망제작소의 매뉴얼은 ‘정답’이 아닙니다.
희망제작소의 워크숍은 다양한 경험과 실험을 거치며 만들어낸 조합이기에 완벽할 수 없습니다. 여러분이 서 있는 현장에서 다른 요소를 결합해 새로운 나만의 방법을 찾을 수 있습니다. 해당 매뉴얼을 순차적으로 혹은 필요한 부분만 골라내 활용하면 됩니다.

이런 분들에게 도움이 됩니다.
1) 내 주위의 문제를 해결하고자 싶지만 마땅히 방법을 찾기 어려운 분
2) 워크숍 틀은 알지만 좀 더 다른 방법을 실험해보고 싶은 분
3) 비영리, 시민단체 등 이제 막 사회에 발을 내딛어 현장에서 활동해야 하는 분

아무리 좋고 효과적인 방법이라도 그 중심에는 사람이 있고, 사람과 사람 사이에는 대화가 있습니다. 열린 마음으로 경청하고, 공감하고, 이해하는 것이 모든 문제를 해결하는 지름길일 수 있습니다. 우리 주위의 문제를 정의하고, 발견하고, 해결하는 과정에서 조금이나마 도움이 되기를 바랍니다.

열린 마음으로 희망제작소와 함께 할 수 있기를, 미약하나마 희망제작소가 힘이 될 수 있기를 바라봅니다.

■ 목차

1) 프롤로그
2) 워크숍 구성
3) 워크숍 안내
4) 에필로그

—–

* 워크숍 구성으로 살펴보기
– 이슈발견 워크숍
– 이슈발견(응용) 워크숍
– 실행계획 워크숍
– 실행계획(응용) 워크숍
– 자원지도 워크숍
– 자원지도(응용) 워크숍
– 사회상상 워크숍
– 사회상상(응용) 워크숍
– 이슈지도 워크숍
– 이슈지도(응용) 워크숍
– 세대공감 워크숍
– 세대공감(응용) 워크숍

* 워크숍 방법으로 살펴보기
– 아이스브레이킹
– 아이디어 확장
– 이슈/자원 찾기
– 점검 도구
– 실행계획 수립
– 전체논의

수, 2017/11/22- 18:03
281
0

■ 소개

‘내-일상상프로젝트’는 2016년부터 2018년까지 총 3년에 걸쳐 진행되는 청소년 진로탐색 지원사업으로, 청소년이 주도적으로 일, 노동, 직업, 진로를 고민하고 지역의 필요와 자신의 재능을 연결하여 새로운 일을 발굴하는 창직활동입니다.

청소년들이 꿈과 끼를 찾는 진로교육을 위해서는 학교, 교사, 지역단체, 청소년지도자, 행정 등 다양한 관계자 그리고 청소년이 긴밀한 협업 관계를 맺고 단계적이면서도 장기적인 시스템 속에서 움직여야 합니다. 이때 청소년은 지역 내외에서 다양한 경험과 기회를 만나고, 역동적으로 소질과 적성을 개발하여 성숙한 진로탐색을 할 수 있습니다.

이에 <내-일상상프로젝트>는 아름다운재단 버버리기금 지원을 통해 비수도권 지역 청소년들과 함께 진행하고 있습니다.

청소년들은 <내-일상상프로젝트>의 총 4단계 단위활동에 참여하며 지역사회 내외에서 자신의 진로를 탐색하고 다양한 경험을 할 수 있습니다.

001

‘내-일상상프로젝트’는 2016년 전라북도 전주시, 완주군, 순창군에서 실행되었으며, 2017년에는 전라북도 전주시를 중심으로 농‧산촌 지역인 장수군과 진안군에서 희망제작소, 전주YMCA, 장수YMCA, 진안 마을학교가 협력을 맺고 위의 네 단계 사업을 수행하였습니다.

2017년, ‘내-일상상프로젝트’는 활동의 가치와 성과를 더 많은 지역과 사람들에게 알리기 위해 ‘내-일상상프로젝트’ 2차년도 실행과정과 실무 내용 및 프로젝트 사례를 담은 가이드북을 발간하였습니다.

가이드북은 단계별 활동 내용을 상세히 소개하고 있으며. 교육단체 및 학교, 청소년수련관 등 청소년 관련 기관이 독자적으로 ‘내-일상상프로젝트’를 실행할 수 있도록 주요 실행Tip과 참고자료를 함께 수록하고 있습니다.

2018년에도 ‘내-일상상프로젝트’는 다양한 지역사회와 함께 청소년이 주체적으로 진로를 탐색하고 자신의 삶을 설계할 수 있도록 지원하고, 더 다양한 지역으로 이러한 활동이 확산할 수 있도록 함께할 것입니다.

■ 목차

1. 개요
2. 배경과 취지
3. 핵심가치
4. 세부사업과 내용
5. 첨부자료

화, 2018/02/20- 10:09
188
0

제목
목민광장 제19호
– 지방자치 30년 회고와 전망

주최
목민관클럽, 희망제작소

소개
지역의 다양한 정책을 개발하고 상호교류・협력을 위한 기초자치단체장의 모임 “목민관클럽”은 최신 정책, 정기포럼 주요 내용,
자치단체 소식 등을 담은 정기간행물 을 연2회(5월, 11월) 정기 발행합니다.
에서는 지방자치 30년, 목민관클럽 10년을 회고하는 특집좌담을 통해 지방자치의 성과와 아쉬운 점 다루었으며,
회원 단체장 인터뷰를 통해 지방자치 현장 사례를 들여다 보았습니다.

■ 목차
□ 발간사
– 걸어온 길, 나아갈 길, 함께갈 길

□ 특집좌담
– 지방자치 30년 회고와 전망

□ 기획
– 지방자치 걸어온 길 : 문석진 서울 서대문구청장
– 지방자치 나아갈 길: 이동진 서울 도봉구청장
– 지방자치 함께갈 길: 김영종 서울 종로구청장

□ 이슈&포럼
– 목민관클럽 창립 10주년 국제포럼
– 목민관클럽 제10차 정기포럼
– 목민관클럽 제12차 정기포럼

□ 기고
– 우리나라 지방자치제도 형성과 진화: 제도 변화를 중심으로
– 지방자치 미래비전, 트랜드 전망

□ 희망제작소 Think and Do
– 감정노동자 권리 보호를 위해 할 수 있는 일
– 코로나19 이후 미디어 방향과 역할

□ 목민관클럽 회원 지방정부 단신

펴낸 날
2020.12.2.

구입문의
정가 10,000원, 자치분권센터 손혜진 연구원 ㅣ 02-6395-1435

목, 2020/12/03- 01:51
2
0

■ 제목
목민광장 제20호
– 2050 탄소중립 실현을 위한 지방정부 역할 모색

■ 주최
목민관클럽, 희망제작소

■ 소개
지역의 다양한 정책을 개발하고 상호교류・협력을 위한 기초자치단체장의 모임 “목민관클럽”은 최신 정책, 정기포럼 주요 내용, 자치단체 소식 등을 담은 정기간행물 <목민광장>을 연2회(5월, 11월) 정기 발행합니다. <목민광장 제20호>에서는 코로나19 경제위기 극복 방법으로 제시되었던 한국판 뉴딜 중 그린뉴딜이 2050년 탄소중립 실현에 얼마나 효과적인지를 살피는 정책 검증과 함께 지방정부 차원에서 2050년 탄소 중립 실현을 위한 지역별 프로그램 및 세부 실천계획들을 학습·공유하고자 합니다.

■ 목차
□ 발간사
– 기후위기에 처한 지구를 구해야 하는 소명

□ 지상중계
– 2050 탄소중립 사회로의 전환을 위한 지방정부 역할

□ 기획
– 2050년 탄소중립 실현 어떻게 가능한가?
– 재생에너지 갈등 어떻게 풀어야 할까?
– 2050년 탄소중립을 위한 재생에너지 확대방안
– 에너지 수요관리 시장과 지방정부 활용방안
– 해외동향, 탄소국경세 도입 동향과 지방정부 대응전략
– 시민과 함께하는 에너지전환 사례

□ 이슈&포럼
– 목민관클럽 제13차 정기포럼
– 목민관클럽 제14차 정기포럼

□ 희망제작소 Think and Do
– 시민주도 지역문제 해결은 가능하다: 2020년 온갖문제연구소 사례를 중심으로
– 스물넷 고민하는 사회적경제
– 지방정부, 청년에게 별 다섯 개 받는 방법

□ 목민관클럽 회원 지방정부 단신

■ 펴낸 날
2021.05.31.

■ 구입문의
정가 10,000원, 연구사업본부 허웅 연구원 ㅣ 02-6395-1432
구입하기 링크

월, 2021/06/14- 20:00
2
0

- 정당한 정부 비판에 재갈 물리기 위한 시민사회에 대한 탄압일 뿐

 

 

오늘(9월 1일) 서울경찰청이 녹색연합 정규석 사무처장에 대한 압수수색을 벌였다. 압수수색의 명분은 4대강 관련 문재인정부 환경부장관 수사에서 정 사무처장이 참고인이란 이유다. 피의자가 아니라 참고인에 지나지 않는 시민단체 활동가를 압수수색까지 한 것은 정부 비판에 앞장서고 있는 시민단체에 대한 무리한 탄압 시도라고 볼 수밖에 없다.

녹색연합은 4대강 사업을 되돌리려는 윤석열 정부에 대한 강력한 문제 제기를 해왔을 뿐 아니라, 후쿠시마 핵폐수 방류 중단 운동, 오염된 용산미군기지 공원개방에 대한 반대, 기후위기의 정의로운 해결을 위한 운동 등 시민들의 건강과 생명, 그리고 인류와 생태의 지속가능성을 높이기 위한 정당한 활동을 해왔다. 정부의 잘못된 정책에 대한 견제와 감시는 시민단체의 본연의 역할이다.

정치권력에 대한 감시와 견제 활동을 두려움 없이 할 권리는 민주사회에서 기본적으로 보장돼야 할 권리다. 이를 옥죄기 위해 압수수색이란 물리력으로 대응하는 건 시민사회에 대한 재갈 물리기이며 민주주의를 퇴행시키는 행태다. 녹색연합에 대한 이번 압수수색은 윤석열 정부가 시민단체에 대해 벌인 첫 압수수색이다. 이는 출범 이후 계속돼온 사회운동에 대한 물리적 탄압을 한층 강화하겠다는 신호탄일 것이다.

윤석열 정부가 환경과 생태, 인권과 생명을 짓밟는 정책을 펴며 공권력으로 정당한 목소리를 억누르려 한다면 그 끝은 몰락 뿐이다. 정부는 이를 즉각 중단하고 더 이상의 퇴행을 멈춰야 한다.

 

 

 

2023년 9월 1일

건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회, 건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회)

금, 2023/09/01- 17:03
1
0