페이스북과의 소통속도가 느리면 누가 책임을 져야 할까? 페이스북 홈페이지에 ‘방문’한다는 건 사실 홈페이지 파일의 복사본이 방문자의 단말에 까지 도달하는 것을 말한다. 그럼 정보전달을 해주고 돈을 받는 업체가 있으면 거기서 책임을 지면 될 것이다. 하지만 전세계 단말들이 아무런 대가없이 다같이 ‘옆으로 한칸씩’만 전달하기로 한 약속에 따라 정보의 전달이 이루어지는 인터넷에서는 정보전달료라는 것이 없다. 누가 책임을 져야 할까?

정보전달료는 없지만 단말들이 서로 물리적 접속을 유지하기 위해 접속료를 낸다. 2개의 단말이 서로 접속하면 서로에게 좋은데 누가 누구에게 내는 것일까? 더 접속을 하고 싶은 쪽이 낸다. 예를 들어, 이용자가 새로 예를 들어 SK브로드밴드에 가입한다는 것은 이미 가입한 수백만개의 SK브로드밴드가입자들의 단말들과 소통을 하게 된다는 것이다. 그럼 새 이용자가 얻는 혜택이 기존수백만 이용자들이 얻는 혜택보다 훨씬 크다. 그러니 SK브로드밴드에게 돈을 내고 가입하는 것이다.

접속료는 접속용량에 비례해서 정해진다. 10Mbps 즉 1초에 10메가바이트가 다운로드되는 인터넷은 100Mbps보다 비싸다.

그런데 접속료에 포함되어야 하는 것이 있는데 바로 중계접속비용이다. SK브로드밴드는 자신의 가입자들과의 소통만을 제공하는게 아니라 자기와 연결된 전세계의 다른 모든 단말들과의 소통가능성(“full connectivity”)도 같이 판매한다. SK브로드밴드가 이를 위해 직접 전세계의 다른 단말들과 연결하는 것은 아니다.

아래 그림을 인터넷 전체라고 간주하고 국내이용자는 왼쪽 상단의 연두색 셔츠이고 오른쪽 연두색 박스가 페이스북 서버라고 가정하자. SK브로드밴드(아래 그림 왼쪽 최상단의 Tier 3)는 국내이용자에게 full connectivity를 제공하기 위해 상위계위ISP 즉 자신보다 연결성이 더 좋은 이웃 ISP(왼쪽 상단의 Tier 2)들에게 돈을 내고 접속하고, 그 상위계위ISP는 자기보다 더 연결성이 좋은 더 상위계위의 ISP(중앙 왼편의 Tier 1)에게 역시 돈을 내고 연결을 한다. 결국 그림의 검은 선들이 다 저렇게 더 연결성이 좋은 쪽에 돈을 내면서 접속이 이루어진 것이다.

결국 페이스북서버에서 국내이용자까지 오려면 여러 ISP에 속한 단말들을 거쳐 오게 된다. 이때 SKB가 인터넷접속을 국내이용자들에게 판매할 때 “특정 용량(속도)에 얼마” 이런 식으로 판매했다면 자신의 가입자들이 전세계 단말들과 그 속도로 소통을 할 수 있도록 충분한 용량의 접속을 자신보다 상류에 있는 해외ISP로부터 구매를 해야 한다. 이것은 마치 수도국이 100개의 가정에 1가정당 1분당 1리터의 수량을 약속했다면 어딘가에서 1분당 10리터 수량을 상류수원에서 끌어와야 하는 것과 마찬가지이다. (물론 모든 가정이 동시에 인터넷을 이용하지는 않으므로 반드시 기계적으로 합산된 총량을 맞출 필요까지는 없다).

결론적으로 국내이용자의 페이스북 접속속도가 느려지는건 국내이용자로부터 돈을 받고 페이스북 서버를 포함한 전세계 단말들과의 소통(full connectivity)을 약속한 국내망사업자가 책임을 져야 한다. 국내이용자들로부터 받은 돈으로 상위계위 망사업자와의 충분한 접속용량을 확보할 책임이 있다.

물론 페이스북의 역할도 중요하다. 페이스북도 자기 지역의 ISP와 연결을 해서 전세계 단말들과의 소통을 하게 되는데, 이용자들이 방문할 때 마다 페이스북 서버로부터 다운로드가 발생하는데 이때 정보가 나가는 접속용량(속도)은 페이스북과 그 지역 ISP사이의 계약에 의해 정해진다. 하지만 혼잡이 거기서 발생한 것이 아니라 이용자 근처에서 발생한 것이라면 국내망사업자의 책임이 맞다.

국내망사업자는 상위계위 망사업자에게 내는 접속료를 아끼기 위해 해외콘텐츠제공사와 계약을 맺어 국내인들이 많이 이용하는 콘텐츠는 소위 ‘캐시서버’에 담아서 국내망사업자에게 직접 연결해둔다. 위 그림 왼쪽 상단에 하늘색 구름으로 나타나 있다. 거기에 담긴 콘텐츠를 국내이용자가 이용할 때는 정보가 바다건너 저 먼 곳에서 올 필요가 없으니 국내망사업자가 상위계위망사업자로부터 확보할 접속용량도 줄어들어 접속료 총액도 줄어들게 된다. 국내망사업자의 필요에 의해서 설치한 캐시서버이니 해외콘텐츠업자들에게는 무료로 제공되어 왔다.

그런데 국내망사업자가 갑자기 캐시서버에 대해서 돈을 받겠다고 하면 어떻게 될까? 국내망사업자가 국제접속용량을 충분히 확보하지 못해서 캐시서버를 설치했던 것인데 캐시서버에 대해서 돈을 받겠다고 하면 어떻게 해야 할까? 자신의 필요에 따라 캐시서버를 달아서 돈을 아꼈는데 돈을 받겠다고 하는 것은 좀. . .

망사업자들이 캐시서버설치에 대해서 돈을 받겠다고 하면서 들고 나오는게 역차별론이다. 즉 국내콘텐츠업자들에게는 접속료를 무지하게 많이 받는데 해외콘텐츠업자들의 캐시서버는 무료로 설치하게 해주면 차별이라는 것이다. 하지만 위에서 설명했듯이 캐시서버는 국내망사업자가 해외와 연결하는 상류접속용량 확보에 드는 비용을 아끼기 위해서 설치한 것이다. 국내콘텐츠와 이용자들을 연결할 때는 접속용량을 확보할 필요가 없으니 캐시서버를 설치할 필요를 느끼지 않은 것이다. 해외콘텐츠업자는 해외콘텐츠업자대로 인터넷에 접속하기 위해 접속료를 어딘가에 내고 있다. 현지의 망사업자에게 내든 그 돈으로 서버망을 스스로 깔든. 즉 차별이라고 보기 어렵다. 그리고 아래 그림에서 보듯이 해외콘텐츠업자가 캐시서버를 설치함으로써 얻는 것은 국내이용자와의 소통(하늘색 루트)이지만 국내콘텐츠업자가 인터넷접속료를 내서 얻는 것은 전세계 단말들과의 연결(분홍색 루트 전부)이다. 처음부터 비교불가한 것이라서 차별을 말할 수도 없다는 것이다.

2019. 12. 10. 유네스코한국위원회와 HY 과학기술 윤리·법·정책 센터가 주최한 “AI 윤리 성찰 포럼”에 오픈넷 김가연 변호사가 토론자로 참가해 인공지능과 젠더 문제에 대해 이야기했습니다.

[토론문] 인공지능과 젠더 문제

김가연 오픈넷 변호사

사단법인 오픈넷은 자유, 개방, 공유의 인터넷이라는 가치를 옹호하자는 취지 하에 2013년에 설립된 비영리 시민사회단체입니다. 표현의 자유, 프라이버시, 오픈데이터, 망중립성 등 정보인권 분야에서 활발하게 활동하고 있습니다. 발제를 맡은 이상욱 교수님께서 오픈넷의 이사로 계시기도 합니다.

오픈넷에서는 한 3년 전부터 인공지능과 윤리에 관한 논의를 관심을 갖고 지켜보면서 여러 국내외 관련 세미나에 참석을 하고 토론회를 주최하는 등 동향을 파악하고 있습니다. 내년 1월에는 하버드 대학교 버크맨 클레인 센터 등과 함께 인공지능과 윤리에 관한 국제 세미나를 개최할 예정입니다. 다만 아직 국내에서 인공지능이 정보인권에 직접 영향을 미치는 유의미한 사례가 발생하지는 않아서, 미래를 대비한 연구나 예측을 하는 연구소나 학계와 달리 활동 중심의 시민사회단체로서는 관련 논의를 관망하는 수준인 것 같습니다. 그렇지만 인공지능 개발에 필수적인 빅데이터의 활용에 수반되는 개인정보 보호의 문제에 대해서는 활발하게 목소리를 내고 있으며, 얼굴인식기술 등이 국가감시 고도화에 악용될 가능성을 항상 경계하고 있습니다.

지금까지 발표된 여러 원칙들을 비교해보면 큰 틀에서 몇 가지 공통되는 핵심 가치를 찾을 수 있고 이는 발제문에서 잘 정리하셨다고 생각합니다. 이러한 원칙들이 앞으로 유네스코에서 성안할 윤리 규범에 잘 반영되길 바랍니다. 또한 유네스코에서 기존의 시도와 달리 윤리 전문가 및 여러 분야의 전문가들을 모아 워킹 그룹을 꾸려 논의를 시작하고, 젠더나 아프리카 대륙 같이 논쟁적인 주제(mandate)를 다루기로 한 것은 매우 바람직하다고 생각합니다. 일례로 지난 11월 방송통신위원회에서는 「이용자 중심의 지능정보사회를 위한 원칙」을 발표했는데, 이를 논의하는 자문단에 기업과 학계만 참여를 한 것으로 알고 있습니다. 정부 차원의 논의에는 당연히 이용자의 입장을 대변하는 시민단체가 참여했어야 하는데 오픈넷은 전혀 초대를 받지 못해 유감스럽습니다. 다양성과 전문성을 함께 추구하는 유네스코의 방식이 훨씬 바람직하다고 생각됩니다.

지금의 AI는 우리 현실을 반영하는 거울로서 우리가 가진 편견 등을 그대로 답습하고 있습니다. 결국 AI와 윤리는 AI를 개발하고 관리·감독하는 인간을 감독하는 원칙에 대한 문제라고 생각합니다. 발제자께서 개발자나 이용자 교육의 필요성을 언급하셨는데 매우 중요한 지적인 것 같습니다. 그리고 현재까지의 논의에서 AI와 젠더 문제는 간과되고 있는 면이 있어서 더 비중있게 다뤄져야 한다고 생각합니다. 그런 점에서 유네스코의 방향성은 매우 바람직한 것 같습니다. 그리고 유네스코에서 올해 발표한 디지털 기술 성 격차 관련 <I’d Blush If I Could> 보고서도 매우 좋은 자료인데요, 보고서에서 다룬 인공지능 음성비서의 성정체성 관련 논의를 통해 AI와 젠더에 대해 간단히 말씀드리겠습니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 인공지능 음성비서 또는 스피커는 현재 우리에게 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 기업들이 ‘여성 비서’를 내세우고 있기 때문입니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 크게 세 가지 가설이 있습니다.

첫 번째는 여성의 목소리를 선호하는 게 더 자연스럽다는 것입니다. 여러 연구에서 사람들은 여성의 목소리를 더 따뜻하게 느꼈다고 하고, 스탠포드 대학의 Clifford Nass 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바도 있습니다. 아마존과 마이크로소프트는 시장조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

두 번째는 여성형 인공지능이 덜 위협적으로 느껴진다는 것입니다. 여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설입니다. ‘2001: 스페이스 오디세이’ 등 SF 영화에서 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과의 Michelle Habell-Pallan 교수는 다수의 엔지니어가 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하는 경향이 있다고 합니다.

하지만 가장 설득력 있는 가설은 성역할에 대한 고정관념의 영향을 받았다는 것입니다. 여성형 음성비서가 많은 이유에 대해 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다. 앞서 언급한 유네스코가 발표한 보고서는 ‘시리’를 비롯한 음성비서들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이런 문제점이 단순히 AI 개발이나 활용에 적용되는 윤리를 강화한다고 해서 해결될 것 같진 않습니다. 결국 다른 모든 분야에서 여성의 인권을 보장하고 성평등을 이루어 나가기 위해 끊임없이 노력해야 하는 것처럼 AI 분야에서도 근본적으로 성격차를 줄이고 성평등을 이루어 나가는 노력이 필요합니다. 그런 면에서 젠더 문제에 관한 별도의 윤리 규범을 논의하기로 한 유네스코의 시도는 매우 바람직하다고 생각하며, 논의가 좋은 결실을 맺을 수 있도록 시민사회도 더욱 활발하게 의견을 내고 지지하도록 하겠습니다.

글 | 김가연(오픈넷 변호사)

일시: 2019. 7. 31(수) – 8. 2.(금), 3일간

장소: 캐나다 토론토대학교 뭉크스쿨(Munk School of Global Affairs)

참석자: 김가연(오픈넷 변호사)

CLSI 2019 Agenda 보기

Citizen Lab Summer Institute (CLSI)는 캐나다 토론토대학교 뭉크스쿨 산하 시티즌랩 주관으로 2013년부터 매년 여름 개최되고 있는 행사입니다. “인터넷 개방성과 권리 모니터링(Monitoring Internet Openness and Rights)”이라는 주제로 인터넷 보안 및 정보인권 관련 최신 이슈들에 대해 학계, 산업계, 시민사회 등 다양한 분야의 전문가들이 모여 2~3일 동안 논의하는 연구의 장입니다. 오픈넷은 2015년 처음 시티즌랩의 초청을 받아 CLSI 2015에 참가한 이후 매년 참가하고 있습니다.

CLSI 2019에는 김가연 변호사가 참가했으며, 참가의 주된 목적은 오픈넷이 2016년 시티즌랩과 공동으로 진행한 AMI (Ask My Info) 연구 최종 보고서 마무리와 AMI 연구의 일환으로 진행중인 KT 상대 개인정보 공개 청구 소송 전략 모색이었습니다. AMI는 통신사들이 이용자에 대한 어떤 정보를, 얼마나, 어떤 목적에 의해 보유하고 있으며, 이러한 내용을 얼마나 공개하는지를 연구하는 프로젝트로, 2014년 시티즌랩과 Open Effect의 주도로 캐나다에서 처음으로 시작되었습니다. 오픈넷은 2016년에 국내에서 AMI 연구를 수행했는데, SKT, KT 및 LGU+ 주요 이통 3사를 대상으로 두 단계에 걸쳐 진행되었습니다.

김가연 변호사는 첫날 진행된 오리엔테이션과 이후 이틀 간 5개의 세션/워크샵에 참석했습니다. 그 중 “정보주체의 정보접근권(Data Subjects’ Right to Access Information)”세션이 특히 유용했습니다. 세션 주최자인 Lights Institute의 Maristela Miranda는 필리핀의 개인정보보호법제와 정보주체의 권리에 관한 내용에 대해 발제를 했는데, 필리핀의 개인정보보호법상으로는 열람청구권이 존재하지만 아직까지 권리를 행사할 방법이 마련되어 있지 않다며 어려움을 토로했습니다. 세션 참가자 대부분이 열람청구권 관련 소송을 해본 경험이 있는 변호사들이어서 흥미로운 토론이 이루어졌습니다. 김가연 변호사는 한국에서 AMI 연구를 진행한 경험을 공유했습니다. 

세션 참석과 별개로 시티즌랩의 AMI 연구팀과 만나 최종 보고서를 마무리하고 KT 소송에 대해 도움이 될 수 있는 자료를 받아 소기의 목적을 달성할 수 있었습니다. AMI 연구 관련 더 자세한 내용은 아래 논평에서 확인할 수 있습니다.

시티즌랩, 오픈넷이 참여한 아시아 5개국 통신사 개인정보 열람청구권 보장 실태 연구 결과 발표

글 | 황성기 (한양대 법학전문대학원 교수, 오픈넷 이사장)

최근 국회의원 총선거를 앞두고 모 정당의 비례대표 1번 후보자의 과거 대리게임 이력이 논란이 되었다. 이 문제는 그동안 정의와 공정을 정치이념으로 일관되게 추구해왔던 소수정당의 비례대표 1번 후보자로서의 자격에 대한 논란까지 번졌다. 사실 대리게임은 공정성의 관점에서는 도덕적으로 비난받을 여지가 있다. 특히 국회의원이 갖추어야 할 고도의 도덕성에 비추어 보면, 대리게임 이력은 문제가 될 소지가 있다. 그런데 대리게임은 현재 단순히 정치적ㆍ도덕적 비난의 대상에만 머무르는 것은 아니다. 대리게임은 형사처벌의 문제가 될 수도 있다.

필자는 오늘 대리게임의 문제를 공정성이라는 관점에서 이야기하고자 하는 것은 아니다. 일반 국민들은 그동안 생각해 보지 못했던 문제, 즉 표현의 자유라는 관점에서 특히 대리게임을 형사처벌하는 법적 규제의 문제를 한 번 짚어 보고자 한다. 대리게임과 그에 대한 형사처벌은 다음과 같은 측면에서 표현의 자유의 문제이기도 하다.

첫째, 게임은 헌법 제21조 제1항에 의해 보장되는 표현의 자유의 보호대상이 된다. 표현의 자유의 보호대상이 되는 의사표현의 매개체는 어떠한 형태이건 그 제한이 없기 때문이다. 그리고 게임은 예술표현의 수단이 될 수도 있으므로, 헌법 제22조에 의해 보장되는 예술의 자유의 보호대상이 되기도 한다.

둘째, 게임이 표현의 자유의 보호 대상이고, 게임을 이용하는 행위도 일종의 표현행위라면, 대리게임은 그것을 의뢰하는 자의 표현의 자유의 행사에 해당될 뿐만 아니라, 대리게임을 의뢰받아 수행하는 자의 익명표현의 자유의 행사에 해당되기도 한다. 여기서 익명표현의 자유란 자신의 신원을 누구에게도 밝히지 아니한 채 익명 또는 가명으로 자신의 사상이나 견해를 표명하고 전파할 자유를 의미한다. 이러한 익명표현의 자유도 헌법 제21조 제1항에 의하여 보장되는 표현의 자유에 포함된다.

그러면 대리게임과 그에 대한 형사처벌은 표현의 자유의 관점에서 어떠한 문제점을 가지고 있을까?

첫째, 게임이용에 있어서 익명표현의 자유를 원천적으로 부정하고 있어서 표현의 자유를 침해한다. 오늘날 인터넷 게임을 통하여 다른 이용자들과의 상호작용이 이루어지는데, 이러한 상호작용을 반드시 실명으로 혹은 본인임이 확인된 경우에만 할 수 있도록 하거나 아니면 본인이 직접 해야 한다고 강제하는 것은 익명표현의 자유를 원천적으로 부정하는 것이다. 약간 극단적으로 이야기하면, 유명인사들이 본인의 회고록을 집필할 때 전문작가를 고용하여 대리집필을 의뢰하는 경우가 있을 수 있는데, 이러한 것을 금지하고 위반시 형사처벌하는 것과 마찬가지이다.

둘째, 물론 익명표현의 자유도 우리 헌법에 따르면 국가안전보장, 질서유지, 공공복리를 위해서 제한할 수 있다. 하지만 다른 기본권보다도 더 고도의 보장을 받는 표현의 자유가 갖는 특수성으로 인하여, 표현의 자유를 제한하는 경우에는 소위 ‘명백하고 현존하는 위험’이 인정되어야 하는데, 대리게임으로 인하여 초래되는 사회적 해악이 구체적으로 무엇인지가 불분명하다. 물론 대리게임처벌법이 ‘게임물의 정상적인 운영을 방해하는 행위’라는 요건을 설정하고 있지만, ‘게임물의 정상적인 운영을 방해하는 행위’에 대한 판단기준이 매우 추상적이고 불분명하여, 사회적 해악이 분명하지 않은 대리게임마저 형사처벌하게 될 가능성이 높다.

결론적으로 대리게임은 형사처벌의 대상으로 할 것이 아니라, 개별 게임사업자와 이용자 간의 계약 약관 및 개별 게임사업자 차원에서의 자율규제를 통해서 해결해야 할 문제로서 사적 자치의 영역으로 남기는 것이 합리적이다. 즉 국가가 형벌권을 동원해서 개입해야 할 문제는 아니다. 따라서 현행 게임법상의 대리게임처벌조항은 향후 게임법 개정을 통해서 삭제하는 것이 타당하다.

이 글은 아시아경제에 기고한 글입니다. (2020.04.03.)