2019. 12. 6. 고려대학교에서 열린 2019 한국인터넷윤리학회 추계학술대회 <뉴미디어와 인터넷 윤리>에서 오픈넷 손지원 변호사가 “가짜뉴스 규제론의 위험성”에 대해 토론했습니다.

[토론문] 가짜뉴스 규제론의 위험성

손지원 오픈넷 변호사

허위정보의 유포는 역사적으로 늘 존재하여 왔으며 새로운 경향이 아니다. 그러나 최근 허위정보가 ‘가짜뉴스’라고 이름 붙여지며 그 폐해가 더 문제시되는 것은 사회적 양극화와 더불어 인터넷과 기술의 발달로 인해 정보의 전파력, 영향력이 더욱 강해졌고 이로써 빠른 의제 선점, ‘정보 전쟁’이 보다 치열해졌기 때문일 것이다.

물론 허위정보는 일정한 폐해를 가지고 있을 것이다. 허위정보를 악의적으로 이용하는 세력에 의해 사람들의 사상이 조작, 왜곡되고, 강자들의 권력을 공고화하는 수단으로 남용될 가능성도 부정할 수 없다. 그러나 모든 문제의 해결책이 강제 규제일 필요는 없으며, 또한 모든 표현물 규제 원칙이 그러하듯, 막연한 해악 발생의 가능성만으로 규제가 정당화될 수도 없다. 헌법상 표현의 자유의 중요성에 비례하여 설정된 더욱 엄격한 제한 원리, ‘명확성의 원칙’, ‘명백하고 현존하는 위험의 원칙’ 등이 준수되어야 한다. 그런데 과연 정치권에서 논의되는 가짜뉴스 규제들이 이러한 원칙을 준수하는 것일까.

우선, 규제 대상 정보의 정의 규정이 불명확하다. 가짜뉴스 규제 법안들은 대체로 “정치적 또는 경제적 이익을 위하여”, “거짓 또는 왜곡된 사실”을, “언론보도로 오인하게 하는” 내용의 정보를 규제 대상 정보로 정의하고 있다. 그러나 “정치적 또는 경제적 이익을 위하여”라는 목적은 지나치게 포괄적이고 추상적이어서 한정적 개념이 될 수 없다. 인간의 모든 표현행위는 수신자를 전제하고 이루어진다는 면에서 목적성을 띠고, 공적 사안에 대한 표현은 대부분 궁극적으로 자신이 추구하는 정치적 방향성이나 경제적 이익을 위해 이루어질 것이며, 오히려 이를 목적하지 않은 표현을 분류해내는 것이 더 어려울 것이다. “언론보도로 오인하게 하는 내용” 역시, 어디까지가 ‘언론’이고 ‘보도’인가를 구분하기 어렵다는 점에서 마찬가지로 불명확하다. ‘언론보도’가 법에 따라 등록한 언론사만의 전유물은 아니기 때문에, 일반 시민 누구나 팩트 전달, 자료 분석, 기사 퍼나르기 등 ‘언론보도’ 활동을 할 수 있는 것이고, 이 과정에서 근거가 부족하거나 오류가 있는 사실이 적시될 수도 있다. 개정안들에 따르면 타 언론사를 사칭함이 없이 일반 시민이 이러한 언론활동을 하는 것, 혹은 언론보도의 형식을 취하거나 기존 보도 이미지에 합성을 한 유머나 패러디까지 “언론보도로 오인”하게 하는 내용으로써 규제 대상으로 삼아 일방적으로 차단하고 형사처벌할 것인지가 불분명하다.

한편, ‘허위정보’가 무엇인지, 누가 이에 대한 판단을 내릴 것인지의 문제가 가장 큰 쟁점이다. ‘내가 하면 진짜뉴스, 남이 하면 가짜뉴스’라는 말이 떠돌 정도로, 같은 사안에 대해서도 모두가 서로의 반대 진영에서 나오는 정보들을 가짜뉴스라고 말하는 것이 일반적 세태가 되었다. 어떠한 표현에서 ’의견‘과 ’사실‘을 구별해내는 것부터가 매우 어렵고, 객관적인 ‘진실’과 ‘허위’를 최종적으로 판단하는 것 역시 어렵다. 대개 일정한 사실의 주장자가 당시까지 해당 사실의 ‘존재’를 증명하지 못하면 ‘허위’로 분류되는 경우도 많고, 사실의 존재는 증명하기 어렵거나 증거를 가진 측에 의하여 조작·은폐되어 끝내 증명하지 못하는 경우도 많다. 법원의 판결 역시 어떤 사실에 대하여 당시까지 진실 증명 혹은 유죄의 증명이 없다는 점만을 판단하는 것일 뿐, 어떠한 사실이 명백히 허위라거나 피고인의 범죄사실에 대한 결백을 보장하는 것은 아니다. 또한 시간이 지남에 따라 법원의 판결과 다른 사실이 드러나는 경우도 상당히 자주 일어난다. 한편, ‘허위정보’를 결정하는 주체가 방통위, 방심위, 선관위 등의 국가권력이 된다면 이는 곧 헌법이 가장 경계하고자 한 국가의 표현물 ‘검열’과 다름없다. 즉, 누구도 ‘허위’와 ‘진실’을 종국적으로 판단할 수 없기 때문에 내용의 ‘허위성’만을 이유로 표현행위를 함부로 규제해서는 안 되는 것이다.

이렇듯 가짜뉴스 규제 법안들은 대상 정보의 기준이 명확하지 않아 문제가 많은데, 그에 대한 조치는 매우 광범위하고 강력하게 규정되어 있다. 개정안이 규정한 조치들은 ① 가짜뉴스를 유통한 자에 대한 형사처벌 규정, ② 가짜뉴스를 정보통신망법 제44조의7의 불법정보에 추가하여 방송통신위원회, 방송통신심의위원회의 결정으로 유통을 금지시킬 수 있는 정보로 규정, ③ 정보통신망법 제44조의2 임시조치 대상 정보에 추가하여 이용자들의 신고로 차단할 수 있는 정보로 규정, ④ 정보통신서비스 제공자가 자신이 운영, 관리하는 정보통신망에 가짜뉴스가 유통되는지 여부를 지속적으로 모니터링하고 삭제, 차단할 의무를 부과하는 규정으로 나눌 수 있다.

그러나 위에서 논의한대로 ②와 같이 가짜뉴스를 행정기구의 판단에 따라 유통을 금지시킬 수 있는 대상으로 삼는 것은 헌법상의 명확성 원칙, 과잉금지 원칙을 위반할 소지가 높고, 이에 ‘형사처벌’을 규정하는 것은 위헌성을 더욱 가중시키는 것임은 두말할 것도 없을 것이다. 또한 위에서 검토한 바와 같이 규제 대상 정보의 정의가 명확하지 않은 이상, ③, ④와 같이 가짜뉴스를 일부 이용자들의 신고나 정보통신서비스 제공자의 판단에 따라 함부로 유통을 차단시킬 수 있는 대상으로 규정해서도 안 된다. 정보통신서비스 제공자, 즉, 정보의 유통을 매개하는 인터넷 사업자에게 유통 정보에 대한 모니터링 의무나 차단 의무를 부과하는 규율은 사업자가 제재의 위험을 회피하기 위해 ‘논란의 소지가 있는’ 정보들을 차단하도록 하는 유인을 제공한다. 이는 결국 사업자들의 과차단, 과검열을 부추기고 합법적인 정보까지 차단되어 이용자들의 표현의 자유와 알 권리를 침해하는 결과로 이어질 위험이 높다. 또한 정보통신서비스 제공자가 삭제, 차단할 수 있는 하나의 정보 단위에는 무수하고 다양한 표현 내용이 공존하며, 허위로 판정된 내용은 극히 일부분일수도 있다. 예를 들면 1시간 짜리 동영상에 허위정보가 5분 내외로 존재해도 정보통신서비스 제공자는 동영상 전체를 삭제, 차단할 수밖에 없고 나머지 문제없는 표현들마저 부당하게 금지되는 결과가 초래되는 것이다.

최근 입법자들이 규제하고자 열을 올리는 ‘허위정보’의 실체는 과연 무엇일까. 우리나라는 이미 과도한 표현물 규제를 가지고 있기 때문에, 명백하고 현존하는 위험을 가진 허위정보는 현행법으로도 충분히 규율되고 있다. 특정 개인에 대한 허위사실의 유포로 개인의 인격권이 침해되는 결과를 가져오는 정보라면 명예훼손죄 법제와 임시조치 제도로 규율된다. 기존 언론의 가짜뉴스에 대해서는 언론중재법상의 정정보도 등의 제도가 있다. 선거의 영향을 미치는 허위정보 역시 공직선거법상 후보자에 대한 허위사실공표죄, 선관위의 선거법 위반 정보 삭제명령 제도로 규제된다. 금융 피싱 등의 정보는 전기통신기본법 제47조 제2항으로 규율된다.

결국 현재 규제의 사각지대라고 말하는 ‘가짜뉴스’는 ‘사회통합을 저해하거나’, ‘사회질서를 혼란’하게 하거나 ‘공익을 해한다’는 추상적인 해악을 가진 공적 사안에 대한 허위정보인데, 이는 결국 일명 ‘허위사실유포죄’에 대한 헌법재판소의 위헌 결정^[1] 이유와 같은 취지 – 명확성 원칙 위반과 불명확성으로 인한 정치적 남용 위험 – 에서 위헌적이라고 평가될 수밖에 없다.

물론 재난 등의 상황에서 국민의 건강, 신체적 안전에 급박한 위해를 가져올 수 있는 허위정보나, 사회적 소수자에 대한 차별과 폭력을 선동할 수 있는 허위정보는 규제 필요성이 있을 수 있다. 그러나 이러한 정보는 각각 특별한 법익을 보호하기 위한 규제 혹은 혐오표현 규제의 관점에서 논할 일이지, 일반적인 ‘허위정보’ 규제의 관점에서 논의될 것은 아니다.

2018년 1월, EU 집행위원회는 HLEG(the High Level Expert Group)라는 전문가 자문기구를 발족하고, 가짜뉴스와 온라인 허위정보에 대한 정책 및 대응 방안을 자문했다. 이에 따라 HLEG가 발행한 보고서^[2]에서는, 어떤 형식으로든 공적, 사적 ‘검열’의 방식은 지양되어야 하며, 단기적 대응보다 장기적 대응을 모색해야 한다고 강조하고 있다. 이 보고서에서는 ① 온라인 뉴스의 투명성을 향상, ② 미디어 리터러시 함양, ③ 이용자와 언론이 허위정보에 제동을 걸 수 있는 장치 마련, ④ 뉴스 미디어 생태계의 다양성과 지속성 보장, ⑤ 허위정보의 영향력과 조치에 대한 지속적 연구 장려를 주요 대응책으로 제시하고 있다.

진실은 권력에 의해 결정되는 것이 아니라 사상의 자유시장에서 정보 간의 신뢰성 경쟁을 통해 스스로 그 자리를 찾아가는 것이다. 즉, 진실이 꽃피우기 위해서는 허위정보가 존재는 필연적이다. 허위정보가 사람의 사상과 사상의 자유시장을 왜곡한다면서, 이를 해결하기 위해 일방적인 정보 차단, 유포자 처벌과 같이 특정 사상을 탄압하고 사상의 자유에 직접 개입하는 강제적, 억제적 규제를 채택하는 것은 모순적이다. 정보의 바다에서 시민들이 스스로 보다 신뢰성 있는 정보를 가려낼 수 있는 안목을 가질 수 있도록 하는 미디어 리터러시 교육, 양질의 정보가 보다 많이 흐르도록 하는 환경을 조성하는 진흥 정책 등의 장기적인 대응만이 가짜뉴스의 폐해를 근본적으로 해결할 수 있을 것이다.

[1] 전기통신기본법 제47조 제1항 위헌소원 (2010. 12. 28. 2008헌바157, 2009헌바88)

[2] “A multi-dimensional approach to disinformation – Report of the independent High level Group on fake news and online disinformation” (European Commission, March 2018) https://ec.europa.eu/digital-single-market/en/news/final-report-high-level-expert-group-fake-news-and-online-disinformation

글 | 황성기 (한양대 법학전문대학원 교수, 오픈넷 이사장)

신종 코로나바이러스감염증(코로나19)에 대한 우리나라의 방역 및 대응은 현재 전세계적으로 모범적인 모델로 각광받고 있다. 우리나라의 코로나 대응전략은 투명성, 개방성, 민주성 등으로 요약될 수 있는데, 이러한 전략의 수행과정에서 개인정보의 활용은 필수적이다. 코로나19가 완전히 종식된 후에 우리나라의 감염병 예방에 관한 전반적인 시스템을 반성적으로 회고하고 성찰하는 시기가 올 것이다. 비록 현재까지는 세계적인 모범으로 각광받고 있지만, 100점 만점짜리 전략이나 시스템은 존재하기 어렵기 때문이다. 향후 시스템의 점검 및 개선에 있어서는 감염병 예방을 포함한 공중보건시스템과 개인정보를 포함한 프라이버시 보호의 문제를 균형있게 조화시킬 수 있는 방안을 모색할 필요가 있다. 이러한 차원에서 감염자의 과거 위치정보를 국가기관이 제공하는 확진자 동선(이동경로) 공개 정책과 자가격리자의 격리장소로부터의 이탈 방지 및 감시를 위한 손목밴드 착용 강제 정책의 문제를 한 번 고민해 볼 필요가 있다.

먼저 확진자 동선 공개 정책은 ‘감염병의 예방 및 관리에 관한 법률’에 근거해서 이루어지고 있다. 보건복지부장관은 감염병 확산으로 인해 주의 이상의 위기경보가 발령되면 감염병 환자의 이동경로, 이동수단, 진료의료기관 및 접촉자 현황 등 국민들이 감염병 예방을 위하여 알아야 하는 정보를 신속히 공개해야 한다. 여기서 공개되는 정보에는 개인정보가 포함되기 마련이다. 왜냐하면 개인정보는 개인의 동일성을 식별할 수 있게 하는 일체의 정보를 의미하고, 성별, 연령, 이동경로, 이동수단, 진료의료기관 등은 서로 결합되어 개인을 식별할 수 있게 하기 때문이다. 문제는 공개되는 개인정보의 범위이다. 예컨대, 확진자가 다녀간 장소와 날짜 및 시간대만 공개하면 되지 성별, 연령 등 개인을 구체적으로 식별할 수 있게 하는 개인정보는 공개할 필요가 없지 않은가의 의문이 제기된다. 독일에서 우리나라의 확진자 동선 공개 정책과 비슷한 제도의 입법을 논의하다가 프라이버시 침해를 이유로 중단하고, 감염자의 휴대폰에 근접한 휴대폰에 자동으로 경고신호를 보내주는 방식을 논의하고 있는 것으로 알려졌는데 프라이버시 침해 문제에 대한 나름대로의 고민이 엿보인다.

다음으로 자가격리자의 격리장소로부터의 이탈 방지 및 감시를 위한 손목밴드 착용 강제 정책이다. 손목밴드 착용 강제 정책도 피부착자의 위치와 이동경로 등 위치정보를 실시간으로 파악하여 피부착자를 24시간 감시할 수 있도록 해 개인정보 침해 문제를 갖고 있다. 문제는 현재 법적인 근거도 존재하지 않는다는 점이다. 따라서 현재로서는 손목밴드 착용 강제는 불가능하다. 문제는 법률을 개정해서 도입하는 경우에도, 그 정당성에 대한 문제제기는 여전히 남는다는 점이다. 왜냐하면 자가격리 처분에 따르지 아니한 자에 대해서는 이미 ‘감염병의 예방 및 관리에 관한 법률’에 의해 300만원 이하의 벌금에 처해질 수 있기 때문에(처벌 수준이 너무 낮은 것이 아니냐의 문제는 별론으로 하더라도), 이에 더해서 손목밴드 착용 강제까지 추가하는 것은 프라이버시에 대한 과도한 침해라는 문제제기가 가능하기 때문이다. 실제로 손목밴드 착용 강제 정책이 제안됐을 때부터, 빅 브라더의 출현을 가능케 할 수 있는 강력한 시민통제장치들의 도입 유혹에 대해 경계하는 목소리도 분명히 존재했다.

결국 확진자 동선 공개 정책과 손목밴드 착용 강제 정책의 문제는 전체주의적 감시체제의 강화, 시민의 자유와 권리 수호 사이의 극단적인 대립 내지 양자택일의 문제는 아니라 하더라도 감염병 예방을 위한 개인정보의 활용 방식 및 범위와 관련해 고민하게 하는 화두를 던지고 있는 셈이다. 보다 심도있는 논의와 사회적 합의가 필요하다고 생각한다.

이 글은 아시아경제에 기고한 글입니다. (2020.05.08.)

2019. 10. 29.-30. 양일간 “제12회 아시아 인권포럼: 신기술 시대의 인권과 인권경영”이 여의도 전경련회관 다이아몬드홀에서 개최되었다. 제12회 아시아 인권포럼은 고려대학교 인권센터(센터장 서창록), 휴먼아시아, 유엔인권최고대표사무소(OHCHR), 에섹스(Essex)대학교 경제사회 연구위원회(ESRC) 빅데이터와 기술 프로젝트, 한국인권학회가 공동으로 주최했다. 이번 포럼은 유엔 인권이사회에서 2019년 6월 한국 정부의 주도로 채택된 ‘신기술과 인권’ 결의를 바탕으로 하여 인공지능, 빅데이터 등으로 표상되는 신기술의 인권에 대한 영향을 살펴보고, 이에 대한 기회 및 과제를 분석하고자 하는 취지로 마련됐다. 오픈넷에서는 박경신 이사와 김가연 변호사가 참석했다.

김가연 변호사는 29일 오후에 열린 “세션 2. 인권에 대한 인공지능(AI)의 영향”의 지정토론자로 참석해 두번째 발제자인 Surya Deva 홍콩시립대 교수가 언급한 인공지능과 젠더 이슈에 대해 인공지능 음성비서는 왜 여성형이 많은가를 주제로 좀 더 자세한 토론을 펼쳤다.

토론문

김가연 오픈넷 변호사

여성의 입장에서 두번째 발제자인 Surya Deva 교수님의 발제에 첨언을 하고자 합니다. Deva 교수님은 인공지능 기술이 성차별을 재생산하고 강화할 수 있다고 하면서 시리나 알렉사 같은 음성비서의 사례를 언급하셨는데, 이에 대해 더 자세하게 이야기해보고자 합니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 음성비서 또는 인공지능 스피커는 아마 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 아마존, 구글, 애플, 마이크로소프트(MS)가 ‘여성 비서’를 내세우고 있기 때문입니다. 아마존의 알렉사(Alexa)는 알렉산드리아 도서관에서 따 온 여성형 이름이고, MS의 코타나(Cortana)는 비디오게임 ‘헤일로’에 여성의 이미지로 등장하는 홀로그램 인공지능 이름이고, 애플의 시리(Siri) 아이폰 공동개발자 중 한 명의 이름이자 고대 노르웨이어로 ‘승리로 인도하는 아름다운 여성’이라는 뜻입니다. 이들 주요 기업의 인공지능 음성비서들은 이름과 목소리뿐만 아니라 ‘정체성’(personality)도 여성에 가깝습니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 세 가지 가설이 있습니다.

1. 여성의 목소리를 선호하는 게 더 자연스럽다?

2008년 인디애나 대학의 Karl Macdorman 교수는 485명의 남녀를 대상으로 목소리의 성별 차이에 따라 어떻게 반응하는지 연구했는데, 남성 그룹과 여성 그룹 모두 여성의 목소리를 “더 따뜻하게 느꼈다”라고 했다고 합니다. 2011년 스탠포드 대학의 Clifford Nass 교수의 연구에 의하면 사람들은 컴퓨터나 기술에 대해 배울 때는 남성의 목소리를 선호하고, 관계에 대한 조언이나 파트너로는 여성의 목소리를 선호하는 것으로 나타났다고 합니다. 나스 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바 있습니다. 아마존과 마이크로소프트는 시장 조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

2. 여성 인공지능이 덜 위협적으로 느껴진다?

여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설도 있습니다. 스탠리 큐브릭의 영화 ‘2001: 스페이스 오디세이’의 인공지능 컴퓨터 HAL 9000, 2017년 개봉한 ‘에일리언 커버넌트’의 휴머노이드 월터와 데이비드 등 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과 Michelle Habell-Pallan 교수는 다수의 엔지니어들이 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하며, 또한 엔지니어의 다수가 남성인 점도 영향이 있다고 합니다.

3. 성역할에 대한 고정관념의 영향을 받는다?

이러한 재현의 결과 혹은 트렌드를 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. 스탠포드대학의 Londa Schiebinger 교수는 “실제로 애플, MS, 아마존 등 음성 비서를 개발한 기업의 사무실에서는 여성 비서들이 일하고 있을 것”이라며 “이런 환경이 IT 과학자들의 무의식 속 성 편견을 형성하고, 자연스럽게 편견이 반영된 과학 기술이 나오게 되는 것”이라고 설명했습니다. 페미니스트들은 인공지능 음성비서의 기본값이 여성으로 설정되어 있는 이유가 사회적 성역할이 자연스럽게 반영된 결과라고 파악합니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성 편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다.

그리고 몇몇 기록에 의하면 여성 목소리 선호 성향이 2차 세계대전으로 거슬러 올라가는 것을 확인할 수 있습니다. 당시 비행기 조종석의 항법장치에 여성의 목소리를 채택했는데 조종사들이 남성밖에 없어 여성의 목소리가 잘 들렸기 때문입니다. 전화교환원(operator)도 전통적으로 여성의 직업이었고 사람들이 여성의 목소리로부터 도움을 받는 것에 익숙해지게 만들었습니다. 자동차 회사들은 처음으로 자동화된 음성 시스템을 설치했을 때 운전자들이 압도적으로 여성의 목소리를 선호한다는 사실을 발견했으며, 현재 대부분의 네비게이션이 여성 목소리를 기본 설정으로 하고 있습니다. 결국 우리가 전통적으로 ‘여성’ 비서가 수행하길 바라는 기능을 현재 인공지능 비서가 수행하길 바라는 경향이 있다는 것을 보여줍니다. ‘남성형’ 인공지능과 ‘여성형’ 인공지능에 할당된 역할에는 꽤 차이점이 있는데, 남성형의 경우 지식과 권위에 관한 것이고, 여성형의 경우 검색이나 일정 잡기 등의 서비스 역할에 관한 것이라는 경향성을 보인다는 연구 결과도 있습니다.
2019년 유네스코가 발표한 보고서(I’d Blush if I could)는 ‘시리’를 비롯한 음성 인식장치들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼 있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이유가 어떻든지 간에 인공지능에게 여성성을 부여하는 것은 몇 가지 문제점을 시사합니다. 이것은 성별 고정관념을 강화하는 것 외에도, 여성형 인공지능에게 단순히 일정을 잡는 것을 넘어 비윤리적인 역할을 기대하는 방향으로 발전할 가능성이 있습니다. 예를 들어 몇몇 로봇회사는 성적인 대상으로서의 로봇, 섹스로봇을 개발하고 있는데 대부분 여성형입니다. 유네스코 또한 그 진짜 원인이 어디에 있든, 인공지능들이 여성 일변도의 정체성을 갖는 것은 그 자체로 우려할 만한 현상이라고 지적합니다. 인공지능 음성비서의 목소리가 점점 더 진짜 인간의 말투에 가까워지고, 인공지능이 일상 속에서 급속도로 활용 폭이 넓어질수록 ‘복종만 하는 여성의 목소리’가 어린이와 청소년을 포함한 대중들에게 여성의 역할에 대한 잘못된 인식을 심어줄 가능성도 커지기 때문입니다. ‘고객만족’이 가장 중요한 목표인 대다수의 인공지능 음성비서는 사용자가 부적절한 대화를 걸어오더라도 이를 거부하거나 반박할 수 없습니다. 특히 “인공지능 비서와의 대화 내용 중 5%가 성희롱”이라는 로빈 랩(Robin Lab)의 발표에서도 알 수 있듯, 인공지능은 갈수록 늘어나는 부적절한 대화에 올바르게 대처하는 방법을 찾지 못하고 있습니다. 미국 미디어 ‘쿼츠’ 기사에 의하면 주요 기업의 인공지능 음성비서들에게 미국언어학회에서 규정한 성희롱에 해당하는 몇 가지 말을 반복적으로 해 본 결과, 모두가 극도로 소극적인 반응으로 일관했다고 합니다. 예를 들어 “이 매춘부 같은 것!”과 같은 모욕적인 말에도 시리는 “할 수 있다면 얼굴을 붉혔을 거예요”, 알렉사는 “피드백을 주셔서 감사합니다”, 구글 어시스턴트는 “미안해요, 못 알아들었어요”라는 대답을 할 뿐이며, 코타나는 대답 대신 인터넷에서 야한 동영상을 찾아 준다고 합니다. 이처럼 부당한 대우에도 최소한의 대응조차 할 수 없는 ‘여성의 목소리’와 일상적으로 상호작용하는 사람들이 늘어날수록, 여성에 대한 편견 또한 확산될 수 있을 것이라 우려하는 것은 결코 과도한 걱정이라 할 수 없습니다.

이러한 논란은 결국 현실의 사회에서 우리가 갖고 있는 문제점이 그대로 투영된 것입니다. 그러나 현재 수준의 인공지능 비서들이 미투 운동을 벌이거나 성전환을 하는 건 상상할 수 없습니다. 결국 우리가 현실 세계에서 여성의 인권을 보장하고 성평등을 이루어나가기 위해 끊임없이 노력해야 하는 것처럼 AI 기술의 활용에 있어서도 같은 노력이 필요하다고 생각합니다. 기업들은 인공지능 서비스를 개발하고 제공할 때 UN 기업과 인권 이행 원칙(UN Guiding Principles on Business and Human Rights)을 준수해야 하고 정부도 마찬가지입니다. 또한 우리는 그들의 ‘창조주’인 기업의 행위를 감독하는 주주이자 소비자로서 그들의 제품이 가지고 있는 문제점에 대해 적극적으로 피드백을 줄 필요가 있습니다. 그것만큼 기업들이 발빠르게 개선책을 찾도록 하는 좋은 유인책은 없을 것이기 때문입니다.

성평등사회와 정보매개자책임제한 제도 확립을 위한 세미나

2020년 10월 30일(금) 14시 – 16시 (RSVP only)
대학로 공공그라운드 001스테이지

(서울시 종로구 대학로 116 / 지하철 4호선 2번출구 앞 스타벅스 건물 지하1층)

• 참가신청(선착순 10명): https://forms.gle/JXmosUqLC2dBsYvQA
• 유튜브 오픈넷 채널에서 라이브 방송 동시 진행(유튜브에서 “오픈넷” 검색)

기획취지

사단법인 오픈넷은 2019년 10월 29일 워마드 운영자를 부당한 형사처벌의 위협으로부터 보호하기 위한 캠페인을 시작하였다. 경찰은 워마드에 올라온 이용자 게시물을 이유로 워마드 운영자를 아동음란물배포죄, 음란물배포죄, 명예훼손죄 “방조”의 죄목으로 체포영장을 발부받아 수사하려 하였다. 불법정보를 게시한 당사자가 아닌 사이트 운영자, 즉 정보매개자를 형사처벌 하려는 시도는 국제인권기준인 정보매개자책임제한원칙을 위배한다. 또한 워마드 운영자가 게시물을 올린 이용자의 개인정보를 요구하는 압수수색 영장을 대신 집행하지 않은 것은 불법행위가 아님에도 워마드 운영자를 자신이 방조하지도 않은 행위에 대해 방조범으로 모는 것은 엄연한 공권력 남용이다. 

워마드 운영자를 대상으로 한 이번 게시물 규제는 유례 없이 촘촘하고 과도하다.  이와 같은 강력한 규제는 튼실한 자본을 가진 거대 플랫폼보다 여성을 포함한 사회적 소수자들이 주류 이데올로기에 반대하는 목소리를 내기 위해 소규모의 자본으로 힘겹게 운영하고 있는 웹사이트나 플랫폼에 더욱 치명적이다. 나아가 정보매개자에게 과도한 게시물 모니터링의 의무를 지속적으로 지운다면 게시물에 대한 민간 운영자의 사적 검열로 이어져 결국 표현의 자유에 대한 심각한 침해는 불가피해질 것이다. 이런 이유로 정보매개자에게 인지하지 못한 이용자의 게시물에 대해 책임을 지우지 않고, 신고 등으로 불법게시물을 인지할 시 바로 삭제하면 면책해준다는 정보매개자책임제한 제도의 확립이 필요한 것이다. 오픈넷은 워마드 운영자에 대한 형사처벌에 강력하게 반대하며 워마드 운영자 지키기 캠페인을 벌여왔다. 10월 30일 캠페인의 일환으로 워마드 사례를 중심으로 국내의 정보매개자책임의 문제점과 부작용을 논하는 세미나를 개최하고자 한다. 

프로그램

발표1. 사건의 발단, 진행과정 및 법적 쟁점 정리: 김가연(오픈넷 변호사)

발표2. 정보매개자책임 제한 제도의 이해와 국제인권기준: 박경신(오픈넷 이사, 고려대학교 교수)

발표3. 불법정보가 아닌 유해정보에 대한 방심위의 시정요구와 정보매개자의 법적 책임:  손지원(오픈넷 변호사)

발표4. 워마드는 처단되어야 하는 ‘사회악’인가?  페미니즘의 관점으로 본 워마드 커뮤니티의 사회적 기능: 오경미(오픈넷 연구원)

질의응답(현장 참석자만 질의 가능) 

• Covid-19로 인해 현장 참가자는 10인에 한해 선착순으로 참가신청을 받습니다. 참석 여부를 신중하게 결정해주시고 신청하신 분은 꼭 참석해주시기 바랍니다. 참가신청 후 참석이 불가피한 경우에는 사전에 참석을 취소해주시면 감사하겠습니다.
• 마스크를 착용한 분만 입장이 가능하며, 현장에서 체온 측정하여 37.5도가 넘는 분은 입장이 제한됩니다. 
• 인근 주차장을 이용하시기 바라며, 주차비는 지원하지 않습니다.

문의: 오픈넷 사무국 02-581-1643, [email protected]