글 | 손지원 (오픈넷 변호사)

얼마 전 김정은 북한 국무위원장의 건강 이상설이 떠돌았을 때, 많은 사람이 ‘우리는 북한에 대해 아무것도 알 수 없다’라는 말을 새삼 실감했다. 북한 특유의 폐쇄성으로 인해 그 실상을 제대로 파악하기 어려운 건 다른 나라도 마찬가지겠지만, 우리는 특히 북한에 대해 무지한 부분이 많다. 북한을 반국가단체나 적으로 취급하든, 혹은 같은 언어와 민족성을 나누는 통일과 화합의 대상으로 보든, 상식적으로 우리가 분단국으로서 북한을 제일 잘 알아야 하는 나라임을 고려하면 더욱 아이러니하다.

왜 그럴까. 한국은 북한에 대해 알려고 하는 것 자체를 금기시하는 뿌리 깊은 문화가 있기 때문이다. 이러한 문화가 생긴 배경에는 북한을 찬양·미화하는 표현물을 ‘이적표현물’로 보고, 이의 유포와 소지를 범죄화하고 있는 국가보안법 제7조가 가장 큰 몫을 하고 있을 것이다. 많은 남용의 역사를 거쳐, 법원이 ‘국가의 존립·안전이나 자유민주적 기본질서에 실질적 해악을 줄 명백한 위험성이 있는 경우’ 등으로 처벌 규정을 엄격히 해석하는 기준을 마련하긴 했다. 그러나 이는 개인을 형사처벌하는 경우에만 고려될 뿐, ‘이적표현물’ 조항의 존재는 여전히 우리가 북한에 대해 알 권리를 부당하게 제한하고 위축시키고 있다.

북한의 폐쇄성, 통제성으로 인해 북한에 대한 정보는 대부분 조선중앙통신, 우리민족끼리 등 북한의 국영·선전매체가 직접 생산한 정보에 의존할 수밖에 없다. 그런데 여기에는 누구나 알다시피 낯간지러운 북한 체제에 대한 찬양·미화의 내용이 포함되어 있고, 이 때문에 우리 정부는 이들 콘텐츠와 북한 사이트 등 거의 모든 북한발 정보를 이적표현물(국가보안법 위반 정보)로 분류하고 온라인상에서 차단하고 있다.

이러한 관행으로 수난을 겪은 두 명의 외국인 ‘마틴’ 씨들이 있다. 북한 기술과 관련한 뉴스를 전달하는 온라인 매체인 ‘노스코리아테크’를 운영하는 영국인 ‘마틴 윌리엄스’는 뉴스의 출처로써 조선중앙통신을 링크하고 있다는 이유 등으로 사이트가 차단당하는 수난을 겪었다. 노스코리아테크는 북한발 보도에 의혹을 제기하거나 독자적·학술적 분석을 해온 매체였기 때문에 법원에서 차단 처분이 위법하다는 판결을 받아 차단은 해제되었지만, 그는 한국 정부가 북한 정보를 통제하는 방식에 놀라움을 금치 못했다고 전했다. 한국에서 북한학을 공부하는 독일인 ‘마틴 와이저’씨는 연구를 위해 북한의 장애인 관련 단체 사이트를 비롯한 각종 북한 사이트에 접속하려고 했지만 대부분이 차단되어 있어 한국에서 정상적인 인터넷 활동으로 북한의 정책이나 관행을 연구하는 것이 거의 불가능했다고 한다. 그는 인권위에 정보 접근권 침해를 이유로 민원도 넣었지만, 어쩔 수 없다는 답변만이 돌아왔다. 그는 아마 한국이 전 세계에서 북한 연구가 가장 힘든 곳일 거라는 말을 덧붙였다. 최근에는 외국인이 운영하는 KCNA watch라는 사이트가 방송통신심의위원회의 결정으로 한국에서 차단된 것 같다는 제보를 받았다. 이 사이트는 조선중앙통신 등의 북한 매체 및 각종 온라인상 북한 정보를 실시간으로 아카이빙하여 검색 편의를 제공하는 사이트로, 북한 연구자, 외교부, 통일부 등 공공기관 관계자, 언론 등에서 많이 활용했던 사이트다.

우리나라는 북한에 대한 정보가 최대한 많이 파악되고 공유되어야 하는 나라다. 북한발 정보의 왜곡·과장·미화는 건전한 상식을 가진 대부분의 국민이라면 이미 다 아는 사실이다. 또한 모든 ‘정보’가 그러하듯, 정보를 어떻게 수용하고 활용할지는 정보에 대한 접근 이후 비로소 독자들이 선택하는 영역이다. 북한발 정보가 북한 체제에 대한 찬양·미화적인 요소가 있다는 이유만으로 국가의 존립·안전에 위협이 될리는 만무하다. 또한 세계적 시각에서 북한의 동향은 늘 ‘핫한’ 이슈로, 한국의 국가 가치 역시 북한과의 관계에서 중요성이 더 크다. 실리적 관점으로도 북한 정보에 대한 접근을 수월하게 하여 이해관계나 언어적 이해력이 가장 높은 우리나라가 북한 연구와 보도 시장을 선점하는 것이 현명하다. 그럼에도 북한발 정보를 국가보안법 위반 정보로 보는 뿌리 깊은 관행으로 인해 우리 국민의 북한 정보에 대한 접근권이 사실상 원천적으로 통제·차단되는 위헌적 결과가 발생하고 있다. 나아가 우리 국민의 보도·연구 활동이 오히려 다른 나라에 비해 크나큰 제약을 받게 됨으로써, 북한의 소식을 외신을 통해 접하게 되는 안타까운 상황이 비일비재하게 일어나고 있는 것이다.

국정원장과 통일부 장관이 새로 임명되었다. 정부는 더 이상 국가보안법을 확대해석하여 우리 국민의 표현의 자유와 알 권리를 불필요하게 옥죄는 구태를 반복해서는 안 된다. 새 수장을 맞이한 기관들이 당장 이적표현물 조항의 폐지 추진은 어렵더라도, 최소한 북한 정보에 대한 우리 국민의 자유로운 접근과 활용을 보장하는 열린 태도를 견지하길 기대한다. 그것이 바로 정부가 우리 체제와 북한 체제와의 근본적인 차이를 선언하는 길이자, 우리 국민과 체제에 대한 신뢰와 자신감을 보여주는 길일 것이다.

*이 글은 미디어스에 기고한 글입니다. (2020.08.05.)

2019. 12. 10. 유네스코한국위원회와 HY 과학기술 윤리·법·정책 센터가 주최한 “AI 윤리 성찰 포럼”에 오픈넷 김가연 변호사가 토론자로 참가해 인공지능과 젠더 문제에 대해 이야기했습니다.

[토론문] 인공지능과 젠더 문제

김가연 오픈넷 변호사

사단법인 오픈넷은 자유, 개방, 공유의 인터넷이라는 가치를 옹호하자는 취지 하에 2013년에 설립된 비영리 시민사회단체입니다. 표현의 자유, 프라이버시, 오픈데이터, 망중립성 등 정보인권 분야에서 활발하게 활동하고 있습니다. 발제를 맡은 이상욱 교수님께서 오픈넷의 이사로 계시기도 합니다.

오픈넷에서는 한 3년 전부터 인공지능과 윤리에 관한 논의를 관심을 갖고 지켜보면서 여러 국내외 관련 세미나에 참석을 하고 토론회를 주최하는 등 동향을 파악하고 있습니다. 내년 1월에는 하버드 대학교 버크맨 클레인 센터 등과 함께 인공지능과 윤리에 관한 국제 세미나를 개최할 예정입니다. 다만 아직 국내에서 인공지능이 정보인권에 직접 영향을 미치는 유의미한 사례가 발생하지는 않아서, 미래를 대비한 연구나 예측을 하는 연구소나 학계와 달리 활동 중심의 시민사회단체로서는 관련 논의를 관망하는 수준인 것 같습니다. 그렇지만 인공지능 개발에 필수적인 빅데이터의 활용에 수반되는 개인정보 보호의 문제에 대해서는 활발하게 목소리를 내고 있으며, 얼굴인식기술 등이 국가감시 고도화에 악용될 가능성을 항상 경계하고 있습니다.

지금까지 발표된 여러 원칙들을 비교해보면 큰 틀에서 몇 가지 공통되는 핵심 가치를 찾을 수 있고 이는 발제문에서 잘 정리하셨다고 생각합니다. 이러한 원칙들이 앞으로 유네스코에서 성안할 윤리 규범에 잘 반영되길 바랍니다. 또한 유네스코에서 기존의 시도와 달리 윤리 전문가 및 여러 분야의 전문가들을 모아 워킹 그룹을 꾸려 논의를 시작하고, 젠더나 아프리카 대륙 같이 논쟁적인 주제(mandate)를 다루기로 한 것은 매우 바람직하다고 생각합니다. 일례로 지난 11월 방송통신위원회에서는 「이용자 중심의 지능정보사회를 위한 원칙」을 발표했는데, 이를 논의하는 자문단에 기업과 학계만 참여를 한 것으로 알고 있습니다. 정부 차원의 논의에는 당연히 이용자의 입장을 대변하는 시민단체가 참여했어야 하는데 오픈넷은 전혀 초대를 받지 못해 유감스럽습니다. 다양성과 전문성을 함께 추구하는 유네스코의 방식이 훨씬 바람직하다고 생각됩니다.

지금의 AI는 우리 현실을 반영하는 거울로서 우리가 가진 편견 등을 그대로 답습하고 있습니다. 결국 AI와 윤리는 AI를 개발하고 관리·감독하는 인간을 감독하는 원칙에 대한 문제라고 생각합니다. 발제자께서 개발자나 이용자 교육의 필요성을 언급하셨는데 매우 중요한 지적인 것 같습니다. 그리고 현재까지의 논의에서 AI와 젠더 문제는 간과되고 있는 면이 있어서 더 비중있게 다뤄져야 한다고 생각합니다. 그런 점에서 유네스코의 방향성은 매우 바람직한 것 같습니다. 그리고 유네스코에서 올해 발표한 디지털 기술 성 격차 관련 <I’d Blush If I Could> 보고서도 매우 좋은 자료인데요, 보고서에서 다룬 인공지능 음성비서의 성정체성 관련 논의를 통해 AI와 젠더에 대해 간단히 말씀드리겠습니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 인공지능 음성비서 또는 스피커는 현재 우리에게 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 기업들이 ‘여성 비서’를 내세우고 있기 때문입니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 크게 세 가지 가설이 있습니다.

첫 번째는 여성의 목소리를 선호하는 게 더 자연스럽다는 것입니다. 여러 연구에서 사람들은 여성의 목소리를 더 따뜻하게 느꼈다고 하고, 스탠포드 대학의 Clifford Nass 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바도 있습니다. 아마존과 마이크로소프트는 시장조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

두 번째는 여성형 인공지능이 덜 위협적으로 느껴진다는 것입니다. 여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설입니다. ‘2001: 스페이스 오디세이’ 등 SF 영화에서 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과의 Michelle Habell-Pallan 교수는 다수의 엔지니어가 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하는 경향이 있다고 합니다.

하지만 가장 설득력 있는 가설은 성역할에 대한 고정관념의 영향을 받았다는 것입니다. 여성형 음성비서가 많은 이유에 대해 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다. 앞서 언급한 유네스코가 발표한 보고서는 ‘시리’를 비롯한 음성비서들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이런 문제점이 단순히 AI 개발이나 활용에 적용되는 윤리를 강화한다고 해서 해결될 것 같진 않습니다. 결국 다른 모든 분야에서 여성의 인권을 보장하고 성평등을 이루어 나가기 위해 끊임없이 노력해야 하는 것처럼 AI 분야에서도 근본적으로 성격차를 줄이고 성평등을 이루어 나가는 노력이 필요합니다. 그런 면에서 젠더 문제에 관한 별도의 윤리 규범을 논의하기로 한 유네스코의 시도는 매우 바람직하다고 생각하며, 논의가 좋은 결실을 맺을 수 있도록 시민사회도 더욱 활발하게 의견을 내고 지지하도록 하겠습니다.

10월 3일 유엔 아동권리위원회(UN Committee on the Rights of the Child, CRC)는 대한민국의 제5·6차 정부보고서의 심의 결과로서 대한민국 아동인권 현주소에 대한 우려와 권고를 정리해 최종견해를 발표했다. 이번 최종견해는 지난 9월 18-19일 양일간 펼쳐진 심의에서 논의된 내용을 바탕으로 대한민국 아동인권 정책의 방향을 제시하고 있다. 

유엔 아동권리협약은 1989. 11. 유엔 총회에서 채택되어 1990. 9. 발효되었으며, 올해 10월 기준 196개국이 가입하여, 전 세계에서 가장 많은 국가들이 가입한 국제인권조약이다. 대한민국은 1990. 9. 협약에 가입, 1991. 11. 비준하였고 지금까지 총 4차례의 심의를 거쳤다. 이번 제5·6차 최종견해는 유엔 아동권리위원회가 2011년 채택한 제3·4차 정부보고서에 대한 최종견해 이후 8년 만에 이루어진 우리 정부의 아동권리협약 이행상황에 대한 평가이다.

아동권리협약 제16조는 “1. 어떠한 아동도 사생활, 가족, 가정 또는 통신에 대하여 자의적이거나 위법적인 간섭을 받지 아니하며 또한 명예나 신망에 대한 위법적인 공격을 받지 아니한다. 2. 아동은 이러한 간섭 또는 비난으로부터 법의 보호를 받을 권리를 가진다.”고 하여 당사국들이 아동의 프라이버시권을 법적으로 보호할 것을 촉구하고 있다. 유엔 총회는 2016년 12월 채택한 ‘디지털 시대의 프라이버시권 결의안’에서 디지털 시대의 프라이버시권의 침해가 여성, 아동 및 소외 계층에게 특히 영향을 미친다는 점을 강조한 바 있다.

사단법인 오픈넷은 올해 8월부터 대한민국 제5·6차 심의 대응을 위한 NGO연대에 참여해 아동의 프라이버시에 관한 추가 보고서를 작성했으며 제네바 현지에서 다른 시민사회단체와 함께 아동권리위원회 한국 TF 위원 미팅, 심의 방청, 추가 대정부 질의 자료 작성 등 활발한 활동을 벌였다. ‘청소년 스마트폰 감시법’ 문제나 소지품 검사 등 학교에서 이루어지는 학생의 사생활 침해 문제, 개인정보보호법상 동의 제도에 대해 위원들의 주의를 환기시켰고 그 결과 이번 최종견해에서 아동권리위원회가 최초로 아동의 프라이버시권에 대해 권고하도록 이끌었다.

이번 최종견해에서 위원회는 아동의 프라이버시권에 대해 다음과 같이 권고했다.

25. 위원회는 학교가 성적, 징계조치와 같은 학생의 개인정보를 공개하고, 학생의 사전동의 없이 소지품을 검사하며, 복장 제한을 시행하고 있다는 보고에 주목한다. 이에 위원회는 학교에서 아동의 스마트폰을 포함한 사생활 및 개인정보 보호를 협약 제16조에 따라 법과 관행에서 보장하고, 사전동의를 수집함에 있어 아동 친화적인 절차를 개발하고 적용할 것을 당사국에 권고한다.

25. The Committee notes that schools reportedly disclose students’ private information, including on grades and disciplinary measures, inspect their belongings without obtaining their prior consent and impose a dress code. It recommends that the State party ensure the protection of children’s privacy, including with regard to their smartphones, and personal information in school, in law and in practice, in accordance with article 16 of the Convention, and develop and apply child-friendly procedures for obtaining children’s informed consent.

오픈넷은 미성년자의 스마트폰에 차단수단을 설치하도록 감시하는 청소년 스마트폰 감시법에 대해 지속적으로 문제를 제기해왔으며 현재 헌법소원도 진행중이어서 이번 권고 중 스마트폰에 대한 사생활 및 개인정보 보호를 보장하라는 권고는 매우 뜻깊다. 2024년에 예정된 제7차 심의에서도 똑같은 문제로 지적을 받지 않기 위해, 정부는 아동권리위원회의 권고를 받아들여 스마트폰 감시법을 폐지하고, 교내에서 행해지는 각종 스마트폰 중독 예방 및 치료를 빙자한 스마트폰 감시 관행을 철폐하고, 아동이 스마트폰을 안전하게 사용할 수 있도록 감시 앱 또는 관리 앱에 대한 보안기준을 만드는 노력을 즉각 실천하기 바란다. 또한 교내에서 이루어지는 사생활 침해를 근절하고, 개인정보보호법 제22조 제6항의 만14세 미만 아동의 법정대리인 동의 조항을 개정해야 할 것이다. 오픈넷은 디지털 시대에 더욱 중요해진 아동의 프라이버시권 보호에 대해 최초의 권고를 내린 아동권리위원회의 이번 최종견해를 환영한다.

2019년 10월 28일

사단법인 오픈넷

문의: 오픈넷 사무국 02-581-1643, [email protected]

[관련 글]
[보도자료] 유엔 아동권리위원회, 대한민국 제5·6차 심의 진행 (2019.9.23.)
[논평] 오픈넷, 시티즌랩과 함께 KT와 LGU+ 스마트폰 감시 앱의 취약점 밝혀 (2017.11.29.)
없는 편이 더 안전한 ‘청소년 스마트폰 감시 앱’ (허프포스트코리아 17.9.20.)
[웹툰 및 권고] 없는 편이 더 안전해!: 한국의 청소년 스마트폰 감시 앱
[보도자료] 오픈넷, 방송통신위원회의 전기통신사업법 개정안에 대한 반대의견 제출 (2016.12.26.)
[논평] 오픈넷, 시티즌랩과 함께 청소년 스마트폰 감시 앱에 대한 보안감사 보고서 발표 (2017.9.12.)
[논평] 부모와 청소년 모두에게 외면받는 ‘청소년 스마트폰 감시법’ (2017.2.2.) 

2019. 12. 4. 오픈넷 김가연 변호사는 독일 가르미슈 파르텐키르헨(Garmisch-Partenkirchen)에 위치한 마셜센터(George C. Marshall European Center for Security Studies)에서 운영하는 PCSS(Program on Cyber Security Studies)에 강사로 초대받아 ‘인터넷 자유’에 대한 강의를 진행했습니다. PCSS는 사이버 보안과 관련된 거버넌스 교육 프로그램으로 세계 각국의 고위 정부 관료들에게 사이버 영역의 복잡성에 대한 이해 및 사이버 전략과 정책 문제를 해결할 수 있는 기술을 제공하는 과정입니다.