해외 전문가 초청 국제 컨퍼런스

“인공지능의 윤리와 데이터 거버넌스

– 국제적 흐름에서 데이터3법까지”

• 일시: 2020년 1월 20일 월요일 10:30-16:30 
• 장소: 고려대학교 CJ법학관 지하 1층 리베르타스홀(서울시 성북구 안암로 145)
• 주최: 사단법인 오픈넷, 고려대학교 미국법센터, 인터넷사회연구센터 국제네트워크, 하버드대학교 버크맨클레인 센터, 디지털아시아허브

** 참가신청하기: https://forms.gle/cZT5xBC9Fviy7QLg9

강력한 인공지능과 알고리즘 기술이 상용화됨에 따라, 윤리와 프라이버시와 관련된 핵심 이슈의 기준을 어떻게 마련하고 합의할 것인지에 대해 세계적으로 의견이 분분하다. 

• 구글은 현재 자연어처리 알고리즘을 이용하여 이용자들의 이메일을 ‘읽고’ 짧은 답장을 추천하거나 아동포르노 유통자들을 포착해서 고발한다. 하지만 이메일에 관련된 광고주 추천 기능 – 예를 들어 멕시칸 식당에서 저녁을 먹자는 내용의 메일에는 멕시칸 식당 광고를 띄우는 것 – 에 이용하는 것은 중단하였다. 만약 인간이 아닌 기계가 이런 결정을 내린다면 우리는 권리를 침해당했다고 여길 것인가, 아닌가? 이 차이는 업로드필터나 정보매개자 책임제한에 관한 가치평가에까지 영향을 미칠까?

• 마이크로소프트는 미국 수사기관들에 보행자들의 얼굴을 인식하는 모니터링 장비를 제공하는 것을 거부했지만 동일한 장비를 훨씬 적은 숫자의 얼굴 피사체를 인식하는 중국의 교정 시설에는 제공했다. 이 차이는 비교에 대한 동의와 수집에 대한 동의 사이의 차이 때문인가? 아니면 둘 사이에 차이가 있기는 한가? 동의에 기반한 체계는 국경검문에 얼굴인식기술을 사용하려는 미국 정부의 계획에 대해 적절한 해법을 제시하는가?

• 아마존은 자체 알고리즘이 여성 채용 지원자를 공정하게 평가하지 못한다는 것을 알게 되었을 때 사용을 중단했다. 하지만 훈련용 데이터 베이스에 더 많은 여성들을 추가하는 것이 해결책일까? 그렇다면 나중에 익명으로 처리되더라도 적어도 수집 단계에서는 여성들의 프라이버시가 더 제약됨에도 불구하고? 얼굴인식기술은 소수인종을 식별하지 못하는 것에 대해 비판받아 왔지만 어떤 이들은 그것이 “오류가 아니라 기능”이라며 반겼다. 형평성을 위해 소수자 혹은 사회적 약자에 관한 데이터를 더 많이 추가하는, 즉 포용적인 AI가 필연적으로 선함을 의미하는가? 우리들은 어떻게 “선하면서도” 포용적인 AI를 만들 수 있을 것인가? 

인터넷사회연구센터 국제네트워크(NoC)는 ‘AI와 포용’이라는 주제로 연속 컨퍼런스와 세미나를 주최해왔다. 디지털아시아허브(DAH)는 아시아의 관점에서 북반구(Global North)와 남반구(Global South)를 연결하고자 노력해왔다. 2020년 1월 고려대학교 미국법센터와 정보인권에 관한 활동을 해 온 시민단체 오픈넷은 하버드대학교의 버크맨클레인 센터와 협력해 한국 서울에 NoC와 디지털아시아허브를 초청하여 컨퍼런스를 개최한다.

이번 컨퍼런스의 핵심은 컨퍼런스에서 처음으로 발표되는 하버드대학교 로스쿨 사이버법 클리닉의 제시카 필드 교수가 중요한 AI 윤리 원칙을 매핑하는 백서와 데이터 시각화의 결과물인 “원칙에 입각한 AI 프로젝트(Principled AI Project)”일 것이다. 

또한 데이터 거버넌스와 AI는 물론이고 개인정보보호법과 오픈데이터 이니셔티브가 어떻게 AI의 포용성에 영향을 미치는지에도 초점을 맞출 것이다. 현재진행형으로 발전 중인 AI가 머신러닝의 노선을 따르고 있는 한, 머신러닝을 위해 제공되어야 하는 트레이닝 데이터에 관한 규범은 지속가능하고 공정한 발전에 이바지해야 하는 AI에 지대한 영향을 미칠 것이다. 

특히 1월 9일 통과된 데이터3법(개인정보보호법, 정보통신망법, 신용정보법)이 한국에서의 AI와 데이터 거버넌스에 있어 어떤 영향을 미칠지에 대해서도 논의할 예정이다. 데이터3법은 가명처리를 거친 가명정보를 통계작성, 과학적 연구 등의 목적일 경우 정보주체의 동의 없이 활용할 수 있도록 하는 것이 골자다. 

본 세미나에서는 동시통역 및 중식이 제공되며, 참가신청은 아래 링크를 통해 할 수 있다. 

** 참가신청하기: https://forms.gle/cZT5xBC9Fviy7QLg9

문의: 오픈넷 사무국 02-581-1643, [email protected]

2020년 11월 26일 헌법재판소는 청소년의 스마트폰에 유해정보 차단수단을 강제로 설치하게 하는 전기통신사업법과 시행령 조항들, 일명 “청소년 스마트폰 감시법”에 대해 합헌 결정을 내렸다(헌재 2020. 11. 26. 2016헌마738). 청소년과 청소년의 부모인 청구인들을 대리하여 4년 넘게 헌법소원을 진행한 사단법인 오픈넷은 청소년의 프라이버시와 개인정보자기결정권, 그리고 부모의 교육권을 침해하는 스마트폰 감시법에 대한 헌재의 합헌 결정에 유감을 표한다.

2015년 4월 16일부터 시행된 전기통신사업법 제32조의7은 이통사가 청소년과 전기통신서비스 제공에 관한 계약을 체결하는 경우 청소년유해매체물 및 음란정보에 대한 차단수단을 제공하여야 한다고 하고 있으며, 동 법 시행령 제37조의8은 이통사가 계약 체결 시 차단수단의 종류와 내용 등을 고지하고 차단수단을 설치하도록 강제하고 있고, 계약 체결 후에는 차단수단이 삭제되거나 차단수단이 15일 이상 작동하지 아니할 경우 법정대리인에게 통지하도록 하고 있다. 차단수단이라 함은 스마트폰 애플리케이션을 말하며, 현재 이통사가 제공하는 앱들이 주로 설치되고 있다.

청소년 스마트폰 감시법의 가장 큰 문제는 이통사가 청소년이나 부모의 의사와 상관없이 차단수단을 의무적으로 설치해야 하며, 차단수단의 삭제 또는 비활성화 여부를 확인해서 부모에게 통지해야 한다는 것이다. 이 과정에서 이통사는 차단수단을 통해 청소년이 스마트폰으로 어떤 정보를 검색하고 접근하는지에 대한 정보를 수집하고, 차단수단의 작동 여부를 확인하기 위해 청소년의 스마트폰을 상시 감시해야만 한다. 이로 인해 스마트폰을 사용하는 청소년의 사생활의 비밀과 자유를 침해하고, 청소년과 법정대리인의 개인정보를 수집, 보관, 이용하기 때문에 개인정보자기결정권도 침해한다. 또한 차단수단에 의해 유해정보뿐만 아니라 합법적이고 교육적인 정보도 차단되어 청소년의 알 권리를 침해하며, 차단수단 설치 여부에 대해 청소년 및 법정대리인의 선택권을 인정하지 않아 부모의 자녀교육권을 침해한다.

그런데 헌재는 이동통신사업자의 차단수단 제공의무에 대해 “차단수단을 제공받는 자의 의사에 반하여 이를 설치하여 줄 의무까지 포함되어 있다고 해석하기는 어렵다”고 하면서, 시행령에서 차단수단의 설치 ‘여부’를 확인하도록 규정하고 있는데 이통사에게 차단수단 설치의무가 있다는 것을 전제로 하였다면 이렇게 규정할 이유가 없었을 것이고, 차단수단이 삭제되거나 15일 이상 작동되지 않을 경우 법정대리인에게 통지하도록 규정하고 있는 것도 차단수단 설치에 동의한 경우에만 적용되는 것으로 이러한 절차가 차단수단 설치의무가 포함된 것임을 전제로 하고 있다고 볼 수 없다고 하였다. 따라서 이통사에게 차단수단 “설치” 의무가 없다고 하면서 차단수단 제공의무 관련 조항들에 대한 청구는 각하해버리고 통지 조항에 대해서만 판단했다.

헌재의 입장에 의하면 이통사의 차단수단 제공의무는 “제공”에 그칠 뿐 청소년이나 법정대리인의 동의가 없는 설치는 의무가 아니다. 하지만 이는 이통사들이 스마트폰 감시법 입법 이전에도 차단수단을 “제공”해왔으며, 입법 이후에는 부모나 청소년의 동의 여부를 확인하지 않고 차단수단을 설치하고 설치가 안 된 경우 계속 문자 등을 보내왔다는 점을 간과한 판단이다. 그리고 방송통신위원회는 2016년 법정대리인이 차단수단 이용 거부 신청을 할 수 있게 하는 단서를 신설하는 전기통신사업법 개정안을 국회에 제출하여, 차단수단 설치의무의 문제점을 자인한 바도 있다. 이처럼 헌재가 가장 중요한 쟁점을 심판대상에서 제외해 판단을 회피했다는 점은 매우 실망스럽다.

그리고 헌재는 시행령의 통지 조항에 대해 설치에 동의하여 차단수단을 설치한 경우에만 적용된다고 전제하면서, “청소년이 청소년유해매체물등 차단수단을 삭제하였는지 여부나 차단수단이 작동하지 않도록 하였는지 여부 등은 해당 청소년의 사생활의 비밀과 자유에 속할 뿐 아니라, 청소년유해매체물등을 대하는 해당 청소년의 성향이나 태도 등을 유추할 수 있는 자료로서 청소년의 실명 등의 자료와 결합하여 개인의 동일성을 식별할 수 있게 하는 개인정보에 해당”하기 때문에 통지 조항이 청소년의 사생활의 비밀과 자유 및 개인정보자기결정권을 제한한다고 인정했다. 하지만 통지 조항만으로는 과잉금지원칙에 반하지 않기 때문에 사생활의 비밀과 자유 및 개인정보자기결정권을 침해하지 않는다고 결론을 내렸다.

청소년의 프라이버시와 개인정보자기결정권 침해뿐만 아니라 현재 시중에 나와 있는 차단 앱 다수는 유해정보 차단을 넘어 스마트폰 사용 모니터링, 위치 조회 등 청소년을 감시하는 기능들을 갖추고 있다. 그런데 이렇게 감시 기능을 갖춘 앱은 보안이 취약한 경우가 많아 해커들의 표적이 되며, 청소년을 개인정보 유출, 해킹 등의 보안 위험에 노출시키고 있다. 감시 소프트웨어를 통신기기에 강제로 설치하도록 하는 법은 전 세계적으로도 유례를 찾아보기 어려운데, 이는 감시 앱의 안전성을 담보할 수 없기 때문이다. 그리고 우리나라에서 온라인상 유통되는 청소년유해정보의 경우, 이미 전자적 표시의무 등 필터링을 가능하게 하는 기술이 적용되어 있고 이러한 정보에 접근하기 위해서는 본인확인을 요구하고 있으며, 이때 사용되는 필터링 기술은 차단 앱들이 사용하는 것과 대동소이하기 때문에 결과적으로 동일한 차단수단이어서 굳이 추가 소프트웨어의 설치를 강제할 필요가 없다. 그런데 오픈넷이 제기한 이런 문제에 대해서 헌재는 아무런 판단도 하지 않았다는 점도 실망스러운 부분이다.

청소년의 인권을 침해할 수 있는 차단수단 설치는 청소년과 청소년에 대해 1차적 교육권을 갖는 부모(법정대리인)의 동의, 그것도 차단수단의 기능, 효과, 보안 취약성 등에 대한 충분한 정보에 기반한 동의가 반드시 있어야 할 것이다. 이를 간과한 청소년 스마트폰 감시법은 “청소년 보호라는 명분에 치우쳐” 국가가 청소년의 스마트폰 사용까지 챙기고 간섭하는 것을 허용하는 “전근대적이고 국가주의적일 뿐만 아니라 행정편의주의적인 발상”이다. 그럼에도 불구하고 설치의무가 없다고 보아 대부분의 쟁점에 대한 판단을 회피한 이번 헌법재판소의 합헌 결정에 깊은 유감을 표한다.

2021년 1월 4일

사단법인 오픈넷

문의: 오픈넷 사무국 02-581-1643, [email protected]

[관련 글]
없는 편이 더 안전한 ‘청소년 스마트폰 감시 앱’ (허프포스트코리아 17.09.20.)
[웹툰 및 권고] 없는 편이 더 안전해!: 한국의 청소년 스마트폰 감시 앱
[보도자료] 오픈넷, 방송통신위원회의 전기통신사업법 개정안에 대한 반대의견 제출 (2016.12.26.)
[논평] 오픈넷, 시티즌랩과 함께 KT와 LGU+ 스마트폰 감시 앱의 취약점 밝혀 (2017.11.29.)
[논평] 오픈넷, 시티즌랩과 함께 청소년 스마트폰 감시 앱에 대한 보안감사 보고서 발표 (2017.09.12.)
[논평] 부모와 청소년 모두에게 외면받는 ‘청소년 스마트폰 감시법’ (2017.02.02.)
[논평] 오픈넷, 청소년 스마트폰 감시법에 대해 헌법소원 청구 – 전기통신사업법상 차단수단 설치의무 조항은 청소년과 부모의 기본권 침해 (2016.08.30.)
[논평] 스마트보안관이여 잘 가시오! 이제는 청소년 스마트폰 감시법의 폐지를 논의할 때! (2015.11.03.)
[논평] 한국의 청소년들을 위험에 빠뜨리는 스마트보안관 서비스는 즉시 중단되어야 (2015.09.21.)
[논평] ‘딸통법’ 및 ‘청소년 스마트폰 감시법’ 시행 주의보 (2015.04.15.)
스마트보안관은 사라졌지만 감시는 계속된다 (슬로우뉴스 2015.11.16.) 

글 | 김혜정 인턴(이화여자대학교 법학전문대학원]

• 수습 기간: 2020.08.10(월) ~ 2020.08.21(금)
• 수행 과제: 정보인권보고서 개정 발간 연구 학습, 온라인상 표현의 자유를 제한하는 발의안에 대한 반대의견서 작성, 모욕으로 인한 손해배상 소송 피고 답변서 작성, 휴대폰 기지국 접속정보의 개인정보 해당 여부 보고서 작성, 한국인터넷거버넌스포럼(KrIGF) ‘인터넷 공간의 안전’ 온라인 워크숍 참석

제 첫 사회생활이자 실무수습은 아주 따뜻한 기억으로 남았습니다. 친언니처럼 격 없이 친절하게 대해주신 오픈넷의 김가연, 손지원 두 변호사님 덕분입니다. 벌써 실무수습이 끝나서 후기를 작성해야 한다는 사실이 아쉽게만 느껴집니다.

저는 학부에서 통계학을 전공하던 중 데이터 활용과 보호에 관심이 생겨 법학전문대학원에 진학했는데, 한 학기 만에 학교에서 공부하는 것으로는 제 관심 분야에 대한 갈증을 해소할 수 없음을 깨달았습니다. 변호사 시험에 출제되는 법들을 소화해내기도 버거웠지만 1학년이 아니면 앞으로는 더욱 관심분야를 탐구해 볼 기회가 없을 것 같았습니다. 마침 서울지방변호사협회에서 공익인권프로그램을 한다는 소식을 들었고, 특히 정보인권 분야에서 활발한 활동을 하고 있는 오픈넷이 협력기관으로 참여한다는 사실을 알게 되었습니다. 지원 기간이 기말고사 기간이었음에도 불구하고 주저 없이 자기소개서를 제출했습니다. 선발 소식과 오픈넷 배정 결과를 전하는 이메일을 받았을 때는 법학전문대학원 합격 이후 가장 기뻤습니다.

서울지방변호사회에 가야했던 4일을 제외하고 6일의 짧은 실무수습 기간이었지만, 두 변호사님께서 저를 위해 내주신 과제들을 수행하면서 정보인권 분야의 현안들을 알차게 맛볼 수 있었습니다. 제 첫 과제는 ｢2019 정보인권보고서 개정 발간 연구｣를 읽으며 공부하는 것이었습니다. 생소한 개념과 용어도 포함되어 있어 쉽게 읽히는 연구보고서는 아니었지만, 이 자료를 공부하면서 그 이후 과제를 수행하는 데 필요한 기본적인 지식을 습득할 수 있었습니다. 이 보고서가 아니었다면 법학을 한 학기 겨우 배운 제가 이후 주어지는 과제들을 수행하는 데 어려움이 많았을 것이기 때문에, 지금 돌이켜보면 이 과제를 먼저 내주신 것이 변호사님의 큰 배려였다는 생각이 듭니다. 특히 이 보고서는 아직 외부에 발간되지 않아 희귀한, 현재 한국의 정보인권과 관련된 쟁점들을 유형별로 일목요연하게 정리한 자료였습니다. 저는 이 보고서를 통해 정보인권과 관련된 현안의 세계적인 동향과 법안, 권고사항과 한국이 도입하고 있는 제도들, 시정해야할 문제들과 개선방안을 알 수 있었습니다. 이 분야에 관심 있는 분이라면 보고서를 읽는 것만으로도 학문적 갈증을 많이 해소할 수 있을 것이기 때문에 나중에 출간되면 읽어볼 것을 권하고 싶습니다.

두 번째 과제는 최근 발의된 정보통신망법 개정안 중 하나인 전용기 의원안에 대한 반대의견서를 작성하는 것이었습니다. 이 개정안은 온라인상 혐오·차별표현에 대한 모욕죄를 신설하고 그로 인해 발생한 자살방조를 처벌하며, 정보통신망법상 명예훼손죄의 반의사불벌조항을 삭제하고, 온라인상 혐오·차별표현에 대한 삭제요구권을 보장하는 내용의 법안이었습니다. 온라인상 악성 댓글로 인해 최근 자주 발생한 연예인 및 공인의 자살을 방지한다는 좋은 취지의 법안이었지만, 개인의 표현의 자유를 지나치게 위축시켜 여러 문제를 발생시킬 위험성이 다분했습니다. 실제 법안을 분석하여 헌법상 표현의 자유, 명확성의 원칙, 과잉금지 원칙과 형법상 책임주의 원칙 등을 적용하는 과정은 생각보다 녹록치 않았지만, 과제를 수행하는 동안 학교에서 배운 죽은 지식이 살아나는 것 같은 생동감을 느낄 수 있었습니다. 그리고 반대의견서는 국회의 법안 발의에 대한 시민사회의 민주적인 감시와 견제 수단이었기에, 활동가이자 법률전문가인 공익변호사님들이 어떤 방식으로 일하고 계신지 체험할 수 있는 뜻깊은 과제였습니다.

세 번째 과제는 “돈에 환장한 악마, 사이코패스 같은 년”이라는 댓글을 썼다가 박소연 케어 대표에게 민사소송을 당한 피고를 대변하는 소송대리인이라고 가정하고 답변서를 작성하는 것이었습니다. 아직 학교에서 민사소송법을 배우지 않은 상태였는데 실제 민사소송절차의 일부인 답변서를 작성하면서 소송절차에 대해 예습할 수 있었고, 답변서가 어떤 형식을 취하고 있는지, 어떤 내용을 포함하고 있는지도 직접 경험할 수 있었습니다. 변호사님께서 주신 답변서 샘플을 통해 모욕죄에 관한 민사소송에서 실제 변호사들이 어떤 근거로 무죄를 주장하는지, 판례가 모욕죄 성립에서 고려하는 기준들도 배울 수 있었습니다.

네 번째 과제는 최근 코로나19 감염병 확산을 막기 위해 통신사 기지국이 휴대폰 이용자의 접속기록을 방역 당국에 제출하는 일이 발생하고 있는데, 이와 관련하여 “‘휴대폰 기지국 접속기록’이 개인정보에 해당하는지 여부”에 대해 문제점과 관련 법령, 판례를 정리하는 것이었습니다. 개인정보보호법 제2조(정의) 제1항 나호에 의하면 해당 정보만으로는 특정 개인을 알아볼 수 없더라도 다른 정보와 쉽게 결합하여 알아볼 수 있는 정보도 개인정보입니다. 이 경우 쉽게 결합할 수 있는지 여부는 다른 정보의 입수 가능성 등 개인을 알아보는 데 소요되는 시간, 비용, 기술 등을 합리적으로 고려하여야 합니다. 위치정보 추적자료는 청구인들의 인적정보와 결합하여 특정인의 위치를 파악할 수 있는 개인정보이고, 수사기관은 정보주체의 동의 없이 제공받은 위치정보 추적자료를 통해 그의 활동반경·이동경로·현재위치 등을 확인할 수 있으므로, 개인정보에 해당한다는 보고서를 작성하고 있었는데 시간관계상 완성하지 못해 아쉽습니다. 향후 오픈넷에서 이 주제와 관련된 의견을 표명하거나 헌법소원을 청구한다면 관심을 가지고 그 결과를 지켜볼 것입니다.

저처럼 정보인권 분야에 관심이 있는 분이라면 오픈넷에서 실무수습을 경험할 기회를 꼭 잡으셨으면 좋겠습니다. 글쓰기 능력이 부족하여 수습 기간 동안 배우고 느낀 점들을 후기에 잘 담아내지 못한 것 같지만, 오픈넷은 우리나라에서 정보인권 관련 목소리를 내는 몇 안 되는 기관 중 하나이고, 변호사님께서 현실의 사안과 연계된 과제들을 통해 흥미롭게 이 분야를 알아갈 수 있도록 도와주신다는 점에서 적극적으로 추천하고 싶은 활동입니다. 후기를 쓰는 시점은 전날 밤이어서 아직 수행하지 못한 마지막 과제는 내일 개최될 한국인터넷거버넌스포럼(KrlGF)의 ‘인터넷 공간의 안전’ 온라인 워크숍에 참석하는 것입니다. 인터넷 공간이 모두에게 안전하고 정의로운 공간인지에 대한 토론을 지켜볼 수 있는 드문 기회라는 생각에 설레고 있습니다.

마지막으로 실무수습 기간 동안 한참 부족한 제게 관심을 가져주시고, 교대역 인근 맛집에서 맛있는 점심도 사주시고, 제가 배우고 발전할 수 있도록 다양한 과제를 만들어주신 두 변호사님께 진심으로 감사하다는 말을 전하고 싶습니다. 변호사님께서 너그럽게 가르쳐주시고 크게 부담스럽지 않도록 배려해주신 덕분에 즐겁고 편안한 마음으로 과제에 임할 수 있었습니다. 제가 두 변호사님처럼 우리 사회가 더 나아질 수 있도록 노력하는, 따뜻한 법률가로 성장할 수 있기를 희망합니다.

2020_예비법률가_공익프로그램_자료집