주요 콘텐츠로 건너뛰기

국제 컨퍼런스 “인공지능의 윤리와 데이터 거버넌스-국제적 흐름에서 데이터3법까지” (1/20, 고려대 CJ법학관)

지역

국제 컨퍼런스 “인공지능의 윤리와 데이터 거버넌스-국제적 흐름에서 데이터3법까지” (1/20, 고려대 CJ법학관)

admin | 월, 2020/01/13- 22:38

해외 전문가 초청 국제 컨퍼런스

“인공지능의 윤리와 데이터 거버넌스

– 국제적 흐름에서 데이터3법까지”

** 참가신청하기: https://forms.gle/cZT5xBC9Fviy7QLg9

강력한 인공지능과 알고리즘 기술이 상용화됨에 따라, 윤리와 프라이버시와 관련된 핵심 이슈의 기준을 어떻게 마련하고 합의할 것인지에 대해 세계적으로 의견이 분분하다. 

  • 구글은 현재 자연어처리 알고리즘을 이용하여 이용자들의 이메일을 ‘읽고’ 짧은 답장을 추천하거나 아동포르노 유통자들을 포착해서 고발한다. 하지만 이메일에 관련된 광고주 추천 기능 – 예를 들어 멕시칸 식당에서 저녁을 먹자는 내용의 메일에는 멕시칸 식당 광고를 띄우는 것 – 에 이용하는 것은 중단하였다. 만약 인간이 아닌 기계가 이런 결정을 내린다면 우리는 권리를 침해당했다고 여길 것인가, 아닌가? 이 차이는 업로드필터나 정보매개자 책임제한에 관한 가치평가에까지 영향을 미칠까?
  • 마이크로소프트는 미국 수사기관들에 보행자들의 얼굴을 인식하는 모니터링 장비를 제공하는 것을 거부했지만 동일한 장비를 훨씬 적은 숫자의 얼굴 피사체를 인식하는 중국의 교정 시설에는 제공했다. 이 차이는 비교에 대한 동의와 수집에 대한 동의 사이의 차이 때문인가? 아니면 둘 사이에 차이가 있기는 한가? 동의에 기반한 체계는 국경검문에 얼굴인식기술을 사용하려는 미국 정부의 계획에 대해 적절한 해법을 제시하는가?
  • 아마존은 자체 알고리즘이 여성 채용 지원자를 공정하게 평가하지 못한다는 것을 알게 되었을 때 사용을 중단했다. 하지만 훈련용 데이터 베이스에 더 많은 여성들을 추가하는 것이 해결책일까? 그렇다면 나중에 익명으로 처리되더라도 적어도 수집 단계에서는 여성들의 프라이버시가 더 제약됨에도 불구하고? 얼굴인식기술은 소수인종을 식별하지 못하는 것에 대해 비판받아 왔지만 어떤 이들은 그것이 “오류가 아니라 기능”이라며 반겼다. 형평성을 위해 소수자 혹은 사회적 약자에 관한 데이터를 더 많이 추가하는, 즉 포용적인 AI가 필연적으로 선함을 의미하는가? 우리들은 어떻게 “선하면서도” 포용적인 AI를 만들 수 있을 것인가? 

인터넷사회연구센터 국제네트워크(NoC)는 ‘AI와 포용’이라는 주제로 연속 컨퍼런스와 세미나를 주최해왔다. 디지털아시아허브(DAH)는 아시아의 관점에서 북반구(Global North)와 남반구(Global South)를 연결하고자 노력해왔다. 2020년 1월 고려대학교 미국법센터와 정보인권에 관한 활동을 해 온 시민단체 오픈넷은 하버드대학교의 버크맨클레인 센터와 협력해 한국 서울에 NoC와 디지털아시아허브를 초청하여 컨퍼런스를 개최한다.

이번 컨퍼런스의 핵심은 컨퍼런스에서 처음으로 발표되는 하버드대학교 로스쿨 사이버법 클리닉의 제시카 필드 교수가 중요한 AI 윤리 원칙을 매핑하는 백서와 데이터 시각화의 결과물인 “원칙에 입각한 AI 프로젝트(Principled AI Project)”일 것이다. 

또한 데이터 거버넌스와 AI는 물론이고 개인정보보호법과 오픈데이터 이니셔티브가 어떻게 AI의 포용성에 영향을 미치는지에도 초점을 맞출 것이다. 현재진행형으로 발전 중인 AI가 머신러닝의 노선을 따르고 있는 한, 머신러닝을 위해 제공되어야 하는 트레이닝 데이터에 관한 규범은 지속가능하고 공정한 발전에 이바지해야 하는 AI에 지대한 영향을 미칠 것이다. 

특히 1월 9일 통과된 데이터3법(개인정보보호법, 정보통신망법, 신용정보법)이 한국에서의 AI와 데이터 거버넌스에 있어 어떤 영향을 미칠지에 대해서도 논의할 예정이다. 데이터3법은 가명처리를 거친 가명정보를 통계작성, 과학적 연구 등의 목적일 경우 정보주체의 동의 없이 활용할 수 있도록 하는 것이 골자다. 

본 세미나에서는 동시통역 및 중식이 제공되며, 참가신청은 아래 링크를 통해 할 수 있다. 

** 참가신청하기: https://forms.gle/cZT5xBC9Fviy7QLg9

문의: 오픈넷 사무국 02-581-1643, [email protected]

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

사단법인 오픈넷은 2020. 11. 24. ‘통신자료’의 명칭을 ‘통신이용자정보’로 명확하게 규정하고 당사자에게 정보제공사실을 통지하는 절차를 신설하는 전기통신사업법 일부개정법률안(허은아의원 대표발의, 의안번호: 2104821)에 대하여 다음과 같이 찬성의견을 제출했다.

문의: 오픈넷 사무국 02-581-1643, [email protected]

『전기통신사업법 일부개정법률안』에 대한 의견서

1. 통신자료제공 제도의 문제점

  • 현 전기통신사업법 제83조 제3항이 규정하고 있는 통신자료제공 제도는 수사기관 등이 법원의 허가 등을 받지 않고 이용자의 개인정보를 무단으로 취득할 수 있게 하고 있어 영장주의 원칙을 위반하여 이용자의 개인정보자기결정권을 침해함
    • 수사기관은 헌법 제12조 제3항이 규정하고 있는 영장주의 원칙의 우회수단으로 통신자료제공 제도를 남용해 왔으며, 이는 통신자료제공 요청이 전화번호(ID) 수 기준으로 2012년 788만여 건에서 2015년 1,058만여 건으로 크게 증가하는 등 통계로도 확인된 바 있음
    • 국가인권위원회는 2014년 2월 10일 영장주의 원칙의 위반을 이유로 통신자료제공 제도를 폐지하는 법 개정을 추진할 것을 권고한 바 있으며, 2016년 5월 18일 시민 500명은 관련 전기통신사업법 조항들에 대해 헌법소원을 청구해 현재 헌법재판소에서 심리중임
  • 통신자료제공 제도는 영장주의 원칙 위반 외에도 달리 정보주체에게 사전 또는 사후 통지하는 제도를 두고 있지 않아 적법절차 원칙에 위반됨. 통신자료제공에 대한 통지 제도가 없기 때문에 정보주체는 자신의 개인정보가 수사기관에 제공되었는지 알 수 없고, 부당하게 제공되었더라도 이에 대해 시정을 요구할 수 있는 방법이 없음

2. 찬성의견

가. 주요내용

  • 본 개정안은 ‘통신자료’의 명칭을 ‘통신이용자정보’로 명확하게 규정하고 당사자에게 정보제공사실을 통지하는 절차를 두도록 함으로써 개인정보 보호를 강화하고 통신자료 남발 가능성을 제한하고자 함(안 제83조의2 신설 등)

나. 통신자료의 명칭 변경에 대한 의견

  • 통신자료는 이용자의 성명, 주민등록번호, 주소, 전화번호 등으로 명백히 개인정보보호법상 개인정보에 해당함에도 불구하고 ‘통신자료’라고 지칭함으로써 그 의미를 전혀 알 수 없는 문제가 있었음. 따라서 ‘통신자료’를 그 의미가 좀 더 명확하게 드러나는 ‘통신이용자정보’로 변경하는 것에 찬성함

다. 통신이용자정보제공 통지 제도 신설에 대한 의견

  • 헌법 제12조에 규정된 적법절차원칙은 비단 형사절차뿐만 아니라 모든 국가작용 전반에 적용되며, 적법절차원칙에서 도출되는 중요한 절차적 요청으로, 당사자에게 적절한 고지를 행할 것, 당사자에게 의견 및 자료 제출의 기회를 부여할 것 등을 들 수 있음(헌재 2003. 7. 24. 2001헌가25; 헌재 2015. 9. 24. 2012헌바302 등 참조). 통신자료제공에 관한 수사기관의 권한남용을 방지하고 정보주체의 기본권을 보호하기 위해서는, 적법절차원칙에 따라 정보주체에게 적절한 고지와 실질적인 의견진술의 기회가 부여되어야 함
  • 본 개정안은 ‘통신이용자정보제공을 받은 날부터 30일 이내’에 제공을 받은 사실, 이유, 제공요청기관 등을 알려주도록 하고 있고, 특별한 사유가 있는 경우 60일 이내의 기간을 정하여 통지를 유예할 수 있도록 하고 있음. 이는 통신자료제공 제도를 적법절차원칙에 합치하도록 개선하는 안이므로 찬성함
수, 2020/11/25- 19:41
1
0


사단법인 오픈넷은 지난 3월25일 EU개인정보보호관과 EU집행부에, 대한민국에 대한 GDPR적정성(adequacy) 평가를 함에 있어 우리나라 법이 가명정보에 대해 열람권 등의 정보주체권리를 박탈한 것에 대해 그리고 개인정보의 상업적 이용을 정보주체의 동의 없이 허용하는 ‘과학적 연구’특례의 정의에 있어서 연구내용의 공개를 요구하지 않는 점들을 고려해 줄 것을 요청하는 서한을 발송하였습니다.

GDPR적정성 평가는 EU회원국 시민들의 개인정보가 대한민국으로 이전될 수 있도록 하기 위한 즉 한국의 정보처리자들이 유럽시장에 진출하기 위해서는 필수절차이며(사안별로 비용을 들여야 하는 표준계약을 피하기 위해서는) 현재 아시아에서는 일본만 받은 상황입니다. EU집행부와 EU개인정보위원회는 대한민국과 적정성 결정을 내리기 위한 교섭을 진행 중입니다. 

개인정보보호법 제28조의7은 과학적 연구 등의 특별한 목적이 아닌 경우에도 가명화만 되더라도 열람권 등 정보주체의 여러 권리가 박탈됩니다. 28조의5는 일단 가명화가 된 정보는 정보주체가 열람권 등 권리를 행사하기 위해 필요한 경우에도 재식별화를 할 수 없도록 하여 실제로 열람권 등의 정보주체의 권리를 소멸시키고 있습니다. 이렇게 될 경우 많은 정보처리자들이 과학적 연구 등의 특수한 정보처리를 수행하고 있지 않은 상황에서도 정보를 가명화된 상태로 보관한다는 이유만으로 열람권 등 정보주체의 권리 행사를 거부하는 일들이 발생하게 됩니다.

게다가 가명화만으로 이렇게 심각한 권리의 박탈이 발생하므로 가명화의 절차가 더욱 복잡하고 엄격해지면서 GDPR이 장려하고 요구하는 ‘안전조치(safety measure)’로서의 가명화를 하려는 정보처리자도 더욱 어려움을 겪게 되어 결과적으로는 정보주체들의 프라이버시가 더욱 침해됩니다.

또 우리나라 법에서는 가명화된 정보는 정보주체의 동의 없어 과학적 연구목적으로 처리할 수 있게 허용하고 있는데 이때 ‘과학적 연구’가 순수히 사적인 목적이 아니라 과학적 지식의 지평을 넓힐 수 있도록 연구가 공유될 것을 요구한 GDPR 전문 159조의 내용에 대응하는 내용이 우리나라 개인정보보호법에는 없다는 점도 지적하였습니다. 

유럽시민들의 개인정보가 국내 정보처리자들에 의해 처리될 때 위와 같은 정보주체권리의 박탈이 이루어진다는 사실 또 ‘안전조치’로서의 가명화가 어려워진다는 사실은 적정성평가절차에 있어서도 중요한 의미를 가지게 될 것입니다. 우리나라 국회와 개인정보보호위원회가 하루 빨리 개인정보보호법의 가명특례조항들을 개정하길 기대합니다.

수, 2021/03/31- 00:44
1
0

4월 1일 더불어민주당 민병덕 의원은 개인정보 보호법 일부개정법률안(의안번호 2109273)을 대표발의했다. 개정안의 주요 내용은 공익제보 목적의 개인정보 이용·제공을 가능하게 하고 개인정보보호법 제28조의5와 제28조의7을 개정해 가명정보에 대한 정보주체의 열람권 등을 보장하는 내용이다. 사단법인 오픈넷은 데이터3법의 통과 직후부터 제28조의7의 문제를 지적하고 민병덕 의원실과 함께 토론회를 주최하는 등 개정을 위해 노력해왔다. 이번 개정안은 그러한 노력의 결실로 다음 개인정보보호법 개정에 꼭 반영되어야 할 것이다.

개정안의 제안이유와 주요내용에 의하면 “현재 가명정보는 어떠한 경우에도 재식별화가 되지 않도록 하고 있어 정보주체가 열람권과 정정권 등을 행사하려고 할 때도 재식별화를 할 수가 없어 권리보장이 이루어지지 않는 점”이 있고, “가명정보의 재식별화가 완전히 불가능하다는 이유로 가명정보에 대해서는 정보주체의 열람권과 정정권을 제약한 것은 GDPR이 과학적 연구 등 사회적 가치가 있는 연구를 급부로 하여 정보주체의 열람권 정정권 등을 제약하려 한 것과 큰 차이”가 있다. 따라서 “통계작성, 과학적 연구, 공익적 기록보존 등을 위하여 이용된 가명정보”에 대해서만 정보주체의 열람권 등을 제한하고, 다른 목적의 가명정보에 대해서는 정보주체의 권리를 행사할 수 있도록 제28조의7을 개정하면서, 정보주체의 권리 행사나 개인정보처리자의 의무를 이행하기 위한 경우에는 예외적으로 재식별화가 가능하도록 제28조의5를 개정하려는 것이다.

그리고 현행법 제18조 제2항은 개인정보를 목적 외의 용도로 이용하거나 제3자 제공을 할 수 있는 경우를 규정하고 있는데, GDPR과 달리 공익제보의 목적 외 이용 또는 제공을 허용하고 있지 않아 공익제보를 가로막고 있다. 이에 개정안은 “공익을 위하거나 개인정보처리자의 공무수행에 필요한 경우”와 “개인정보처리자 또는 제3자의 정당한 이익을 달성하기 위하여 필요한 경우로서 명백하게 정보주체의 권리보다 우선하는 경우”를 추가하여 공익제보를 활성화하는 내용도 담고 있다. 이 또한 오픈넷에서 문제의식을 갖고 있었던 부분이다.

현행법에서 가명정보도 개인정보임에도 불구하고 가명정보에 대해서는 개인정보 열람권(제35조), 정정·삭제권(제36조), 처리거부권(제37조) 등 정보주체의 권리를 인정하지 않고 있는 것은 개인정보자기결정권에 대한 큰 침해이다. GDPR에서는 ‘과학적 연구, 통계, 공익적 기록(archiving) 등의 목적’을 위해서 이용된 경우에만 열람권, 정정권, 처리거부권 등이 제한되고 있고, 이를 위해 해석상 정보주체의 권리 보장 즉 열람, 정정, 처리거부 등을 위한 가명정보의 재식별화는 자유롭게 허용되고 있다. 가명처리가 되었다고 해서 과학적 연구 목적 등 이용에 대한 동의요건이 없어짐은 물론 모든 목적의 이용에 대한 열람, 정정, 삭제, 처리거부 등의 권리도 없어진다면 ‘가명정보도 개인정보’라는 GDPR의 대전제에 정면으로 반하는 것이다.  또한  개인정보처리자 입장에서는 가명정보의 재식별화가 예외없이 금지되어 있기 때문에 정보주체의 권리를 보장해주려고 해도 할 수 없는 상황이다. 실제로 이통사들은 동 조항들에 근거해 가명정보 처리에 관한 정보주체의 권리 행사를 거부하고 있고, 참여연대는 개인정보보호법 제28조의7에 대해 헌법소원을 제기했다.

문재인 정부의 4차 산업혁명 정책의 핵심에는 데이터 활용에 기반한 데이터 산업 육성이 있고, 데이터 관련 규제 완화 기조 하에 2020년 데이터3법의 개정이 급하게 이루어졌다. 하지만 그 과정에서 제28조의7과 같이 정보주체의 정보인권을 침해하는 내용이 들어오는 등 졸속입법의 한계가 드러났으며, 개인정보보호위원회는 데이터3법 개정이 이루어진지 1년도 안 되어 개인정보보호법 개정을 준비하고 있다. 민병덕 의원안의 내용이 반영된 개정이 이루어지도록 정부와 국회가 함께 노력할 것을 촉구한다.

2021년 4월 23일

사단법인 오픈넷

문의: 오픈넷 사무국 02-581-1643, [email protected]

[관련글]
[보도자료] 오픈넷·민병덕 의원실, “가명정보 열람권 등 정보주체 권리 보장을 위한 토론회” 개최 (12/7, 유튜브 라이브) (2020.12.01.)
[논평] 오픈넷, EU에 대한민국 GDPR 적정성 평가시 가명정보특례조항에 대한 검토 요구 (2021.03.31.)
[입법정책의견] 개인정보보호위원회의 개인정보 보호법 개정안에 대한 의견 제출 (2021.02.17.)
[논평] 개인정보보호법 가명화 도입, 입법불비부터 선결되어야 GDPR 수준의 정보보호 할 수 있다. (2020.04.06.)
금, 2021/04/23- 20:08
1
0

지난 5월 28일 사단법인 오픈넷은 아티클19 및 SAFENET 포함 24개 국제 인권단체들과 함께 인도네시아 정부가 공포한 정보통신부령 “MR5”에 대한 반대 서한을 전달했다. MR5는 전자프런티어재단(EFF)에 따르면 지금까지 나온 인터넷규제법 중에서 최악이라고 한다. (위 서한전달을 위한 교섭을 하는 도중 인도네시아 정부는 시행일자를 5월 24일에서 6개월 연기하였다.)

MR5는 첫째, 인도네시아 내에서 접근 가능한 모든 국내외 플랫폼에 ‘금지 콘텐츠’가 유통되지 않도록 할 의무를 부과하고 이를 지키지 않을 경우 플랫폼이 차단되도록 하였다. 플랫폼 운영자에게 불법정보를 미리 차단하도록 요구하는 것은 플랫폼 운영자가 사전검열(prior censorship)이나 상시감시(general monitoring)를 하도록 강요하여 국제인권원칙의 하나인 정보매개자책임제한 원리에 반한다.

둘째, 위 ‘금지 콘텐츠’는 “공공의 동요와 무질서(public unrest or public disorder)를 촉발하는(causing) 모든 콘텐츠”로 정의되어 매우 광범위하게 설정되어 있다. ‘금지 콘텐츠’의 정의는 우리나라 기준에서 과잉금지의 원칙과 명확성의 원칙에 모두 반하는 것으로서 표현의 자유를 위축시키고 합법적인 정보까지 차단한다.

셋째, 특히 인도네시아 정보통신부가 특정 콘텐츠에 대해 “긴급”차단을 요청할 경우 24시간 내에 차단이 이루어지지 않으면 플랫폼 자체가 차단된다. 이 역시 짧은 시간 안에 판단을 내릴 수 없는 플랫폼 운영자가 콘텐츠의 합법성에 무관하게 과잉차단을 하도록 한다.

넷째, 위 플랫폼들이 모두 사전등록을 하지 않으면 역시 플랫폼이 차단되도록 하였다. 전 세계에서 콘텐츠 제공자 등록제를 운영하는 나라는 우리나라를 제외하면 거의 없다. 사전등록제는 플랫폼들의 운영권한을 정부가 좌지우지할 수 있는 통제수단이 된다.

다섯째, 위 플랫폼들이 사전등록과 동시에 사용자 정보에 “직접 접근(direct access)” 권한을 정보통신부에 부여해야 하며 이 권한을 부여하지 않으면 역시 플랫폼이 차단된다. 이와 같은 직접 접근은 아무런 근거 없이 수많은 사람들에 대한 감시를 허용하고 특히 영장과 같은 절차적 보호기제를 생략한다. 이는 오픈넷이 주도하여 500여 시민단체들이 연명한 통신감시에 대한 필수성 및 비례성 원칙에 정면으로 반한다.

문의: 오픈넷 사무국 02-581-1643, [email protected]


목, 2021/06/10- 15:29
1
0

수입(2020.01.01~12.31)

항     목 내      용 금 액(원) 비    율
기업지정기부금 기업, 기관 등 국내외 지정기탁사업 지원 1,199,234,647 53.6
성평등사회조성
기부금
100인 기부릴레이
여성가장지원 지정기부
SOS캠페인(폭력없는 세상, 안전한 사회만들기)
일터(가게)나눔
고사리손캠페인
해피빈
카드포인트 기부
359,833,875 16.1
여성건강지원
기부금
건강지원 지정기부금 135,169,780 6.0
특정명의기금 봄빛장학기금 및  연대여성치과의사회 기금 72,570,000 3.2
운영후원금 한국여성재단 운영지원을 위한 개인 및 기관 후원 121,214,500 5.4
기타수입 이자수입, 임대료수입,캐쉬SOS상환기금 등 347,659,964 15.7
총수입 2,235,682,766 100.0

지출(2020.01.01~ 12.31)

 항     목  금  액(원)  비  율
 모금사업비  100인 기부릴레이 모금을 위한 행사비, 기부자 관리 등 24,875,000 1.1
 배분사업비 1.성차별제도와 문화의 변화사업
성평등사회조성사업,수시지원사업 (개인모금)
여성안심불빛사업 (우리은행)
2.소외여성empowerment 사업
여성가장 및 활동가를 위한 건강지원사업 <엄마에게희망을> (CJ모금)
봄빛장학기금(봄빛기금)
양육미혼모 행복만들기(이케아코리아)
다문화한부모가족 역량강화 지원사업(동서식품)
경력보유여성 마을버스기사 취업지원사업(공동모금회-현대자동차)
이주여성리더발굴 지원사업(공동모금회-하나금융)
3.여성공익단체 및 활동가 역량강화사업
여성NGO장학사업(유한킴벌리)
변화를 만드는 여성리더지원사업(캐쉬SOS상환기금)
여성공익활동가 쉼프로젝트-짧은여행 긴호흡 (교보생명)
1,725,329,567 77.2
   홍보사업비  소식지, 지속가능성보고서 발행 및 홈페이지 유지보수 등 38,293,502 1.7
연구사업비 20주년 기념사업비, 한국여성회의 14,982,910 0.7
 경상비  인건비, 수수료, 사무행정비 등 496,862,902 22.2
 시설비  건물유지관리비 등 20,268,770 0.9
이월 -84,929,885 -3.8
총지출 2,235,682,766  100.0
목, 2021/01/07- 00:33
0
0