2019.11.14. 서강대학교에서 남덕우기념사업회가 주최한 “한국언론, 길을 묻다” 토론회가 열렸다. 이날 토론회에는 각계 학자·언론인들이 모여 ‘가짜뉴스, 규제해야 할까?’, ‘언론의 소유에 관한 질문’, ‘한국 언론의 당파성(정파성)’을 주제로 한 발제 및 토론이 이루어졌다. 이 토론회에서 박경신 오픈넷 이사가 아래의 내용으로 가짜뉴스 규제에 대해 발표했다.

[발제문] 가짜뉴스 규제

박경신 오픈넷 이사/고려대 법학전문대학원 교수

표현의 자유 기본원리

• 표현의 내재적 가치
• 표현의 도구적 가치 : 민주주의, 진실
• 표현은 interactive 하다. 즉 청자와 화자의 ‘합작품’이다.
• 표현의 결과는 청자의 정보처리에 의해 mediate 된다.
• 표현의 결과에 대한 책임을 모두 화자나 정보에게 지울 수 없다.
  • 명백하고 임박한 위험의 원리(미국)
  • 민주사회에 필수불가결한 규제의 원리 (유럽)

허위주장에 대한 규제

위 기준에 비추어 허용되는 표현규제 (괄호 안은 해악)

• 명예훼손 (제3자의 피해자 기피)
• 사기 (청자의 재물 박탈)
• 저작권 (저자의 잠재적 시장 박탈),
• 폭탄헛소문법 (대중교통수단에서의 다수인들의 동시다발적 도피행위에 따른 부상, “verbal act(언사적 행위)”)
• 위증 (재판에서의 사실확인 노력 오도)
• 위조 (부당한 권리의 행사)
• 아동포르노그래피 (아동성학대영상 즉 제작과정에서 아동에게 발생한 피해)
• 혐오표현 (소수자에 대한 차별과 폭력. cf. 지배층에 대한 혐오표현?)
• 음란물 (예외? – 합법적인 행위를 묘사한 표현물이 유통이 끼치는 해악?)
• 선거법상 허위사실공표죄 (선거의 공정성 – 그러나 진실이 그렇게 중요하다면. . . )

허위사실유포죄? – 보통은 “공익”, “혼란” 등으로 포장되어 있지만 구체적인 해악이 적시되지 않음 → 위헌 및 인권침해로 받아들여짐

역사: 실제로 권위주의 정부에서 진실된 비판을 억압하기 위한 도구로 이용됨. 예) 유신정부의 긴급조치 1호의 첫번째 신설범죄 “유언비어유포죄”

사례: 미네르바

• 인기 경제 블로거 – 2007년 미국수출 대기업들에 유리한 고환율정책에 대한 비판
• 한나라당 의원들의 대검 추궁 → 미네르바 구속
• 블로그: “외환거래중단 공문 1호!” → 사실: 전화로 거래자제 요청
• 블로그: “외환거래 중단” → 사실: 외환거래 “거의” 중단
• 전기통신기본법 47조 “공익을 훼손하기 위해 허위의 통신을 한 죄”
• 한 번도 집행되지 않은 법
• 입법연혁 – 전파법 상 타인을 사칭한 통신을 금지한 규정
  • 결론: 피고인 무죄 (“진실이라고 믿을만한 이유” → 의도 부인)
  • 결론: 법 위헌 (“공익 훼손” 이유로 허위주장 처벌은 명확성 위반)
• 허위의 해악 통제? 국가보위를 위한 사법권력의 동원?
  • 결과: 다음 아고라의 피폐화

국제인권기준

• R v. Zundel (Canada, 1992): 유태인대학살 부인죄 위헌
• Chavanduka & Choto (Zimbabwe, 2000): 군인 소요 가능성을 보도한 기자들에 대해 “대중을 동요하기 위해 허위주장 배포한 죄” 위헌
• Minerva case (Korea, 2010): 한국정부의 외환관리 행태에 대한 블로거 논평에 대해 “공익을 훼손하기 위한 허위의 통신을 한 죄” 위헌
• Andare (Kenya, 2017): 페북 댓글로 타인의 소녀 성착취 의혹을 날조하여 비난한 것에 대해 “의도적으로 심적 불안을 끼치기 위해 허위통신을 한 죄” 위헌

민주사회에서 부정확성의 가치 (Zundel)

• 환경운동가가 ‘브리티시 콜럼비아주에서 열대우림이 사라지고 있다’는 주장이 과학자들에 의해 허위로 밝혀질 것이 두려워 그 주장을 하지 못하는 것이 옳은가? 삼림산업에 악영향을 끼치더라도 말이다.
• 인근의 원자력발전소가 아이들의 건강을 위협하고 있다는 말을 과학에 의해 영향이 최소한임이 입증되는 것이 두려워 하지 못해야 하는가?
• 의사가 뇌수막염이 유행이라는 말이 허위로 밝혀질까봐 그 말을 하지 못하는 것이 옳을까?
• 소수민족이 자신의 동료들의 상황을 무시하고 있다고 말하는 것도 두려워 해야 할까?”

공통점: 화자가 가진 선의에 의해 형성될 수도 있는 공익의 가치

의도적인 허위의 가치 (Zundel)

• 의도적인 허위주장도 표현의 자유를 떠받치는 가치들과 관련되어 유용한 사회적 역할을 수행할 수 있다.
• 동물학대 반대운동가가 통계를 조작하여 ‘동물학대건수가 증가하고 있다’고 주장했다면 처벌되어야 하는가?
• 의사가 유행바이러스 대응을 독촉하기 위해 유병율과 유병지점을 조작했다면 처벌되어야 할까?
• 예술가가 특정 사회에서는 진실에 반하는 것으로 여겨지는 주장을 한다면 (예: 살만 루시디 <악마의 시>) 처벌되어야 한는가?
• “이 모든 주장들은 정치적 참여를 독려하는 가치가 내재되어 있다”

화자에게 있는 약간의 악의. 이것은 사상의 자유시장에서 다투어져야 할까? 형사처벌로 다루어져야 할까?

허위사실유포죄

• 허위와 진실은 구분하기 어렵다.
• 과학철학: 진실은 잠정적이다. 과학은 반증할 수 있는 허구(가설)을 제시하고 반증에 실패하면서 진실의 범위를 넓혀가는 학문
• 처벌할 정도 명백한 허위? 그런 허위라면 어떤 해악을 끼칠까?
  • 예) 지구평평론, 백신무용론
• 대부분의 문제가 되는 허위는 진실에 가깝기 때문에 해악이 있는 것. 그러나 그 해악 때문에 검찰이 칼날이 들어간다면? 목전의 진실을 밝힐 가능성은?
  • 2012: 정봉주의 이명박 BBK주가조작 의혹
  • 2019: “다스는 이명박 소유!” 
• 진실은 항상 숨겨져 있다. 진실이 뚜벅뚜벅 걸어나오게 만드는 것은 오직 의혹제기뿐!

허위에 대한 사회의 대응

• 깨어있는 시민
• 언론의 각성
• 더 많은 사실의 공개 – 진실명예훼손죄의 폐지 + 공공데이터 개방
  • (예: 판결문 공개)
• Marcelo Mendoza 2010년 연구 – 칠레 지진 때 트위터를 통한 재난 관련 정보교환에서 충분한 자정작용 확인

새로운 주장: 가짜뉴스가 2016년 선거를 망쳤다!

• 가짜뉴스란? = 가짜 언론사 뉴스 (fake media’s news)
• 2012년말 버즈피드(Buzzfeed): “교황이 트럼프를 지지한다”는 등의 가짜 언론사의 페이지가 가장 많이 페이스북에서 공유되었음.
• 2012년말 이코노미스트/유거브(Yougov): “트럼프 투표자들의 40%가 민주당이 아동성매매조직을 운영하고 있다고 믿으며, 36%가 오바마가 케냐에서 태어났다고 믿는다.
• 시간이 흐른 뒤. . .
  • 2018년 MIT연구 – “소셜미디어에서 허위주장이 진실보다 더 넓게 더 깊게 전파된다”

진짜 문제일까?

1. 페이스북 공유는 공유된 가짜뉴스가 진실이라고 해서 이루어지는 것일까?
2. 진짜 선거에 영향을 끼쳤던 뉴스는 오바마 케냐 출신설. 그러나 가짜뉴스에서 시작된 것이 아님. 공화당원들이 대통령출생증명법안을 제출하고 트럼프가 계속된 인정거부하면서 발생함. → 정치인들의 역할은 무엇인가?
3. 정녕 문언상의 허위가 문제일까? 예) Alien Endorses Trump, 문재인 치매설

호주 (2019년4월 시행)

1. Failure by a service provider to notify the Australian Federal Police, within a reasonable time, that abhorrent violent material relating to conduct which is occurring, or has occurred, in Australia is accessible on a service.
2. Failure by a service provider to expeditiously remove, or cease to host, abhorrent violent material that is accessible within Australia.

• The changes to the Criminal Code empower the eSafety Commissioner to issue a notice giving rise to a presumption that a service provider has been reckless as to whether its service can be used to access/host material which is violent abhorrent material at the time the notice was issued, unless the service provider can prove otherwise. The receipt of a notice will in effect impose strict liability for the offence, unless a service provider acts “expeditiously” to remove the relevant material.”

나아갈 길: 진실의 재고를 키워라!

• 진실명예훼손 폐지
• 2015년 11월 UN 인권위원회 대한민국에 권고: ＂진실의 항변은 절대적이다. 공익으로 한정되어서는 안 된다.”

마지막 남은 문제: 러시안 여론 조작

• 러시아에 의한 미국 내 여론조작
• 북한에 의한 국내 여론조작?
  • 국정원의 역할?
  • 허위사실유포죄 부활?
  • 군사독재정권의 ‘유언비어유포죄’로의 귀환?

2019. 12. 10. 유네스코한국위원회와 HY 과학기술 윤리·법·정책 센터가 주최한 “AI 윤리 성찰 포럼”에 오픈넷 김가연 변호사가 토론자로 참가해 인공지능과 젠더 문제에 대해 이야기했습니다.

[토론문] 인공지능과 젠더 문제

김가연 오픈넷 변호사

사단법인 오픈넷은 자유, 개방, 공유의 인터넷이라는 가치를 옹호하자는 취지 하에 2013년에 설립된 비영리 시민사회단체입니다. 표현의 자유, 프라이버시, 오픈데이터, 망중립성 등 정보인권 분야에서 활발하게 활동하고 있습니다. 발제를 맡은 이상욱 교수님께서 오픈넷의 이사로 계시기도 합니다.

오픈넷에서는 한 3년 전부터 인공지능과 윤리에 관한 논의를 관심을 갖고 지켜보면서 여러 국내외 관련 세미나에 참석을 하고 토론회를 주최하는 등 동향을 파악하고 있습니다. 내년 1월에는 하버드 대학교 버크맨 클레인 센터 등과 함께 인공지능과 윤리에 관한 국제 세미나를 개최할 예정입니다. 다만 아직 국내에서 인공지능이 정보인권에 직접 영향을 미치는 유의미한 사례가 발생하지는 않아서, 미래를 대비한 연구나 예측을 하는 연구소나 학계와 달리 활동 중심의 시민사회단체로서는 관련 논의를 관망하는 수준인 것 같습니다. 그렇지만 인공지능 개발에 필수적인 빅데이터의 활용에 수반되는 개인정보 보호의 문제에 대해서는 활발하게 목소리를 내고 있으며, 얼굴인식기술 등이 국가감시 고도화에 악용될 가능성을 항상 경계하고 있습니다.

지금까지 발표된 여러 원칙들을 비교해보면 큰 틀에서 몇 가지 공통되는 핵심 가치를 찾을 수 있고 이는 발제문에서 잘 정리하셨다고 생각합니다. 이러한 원칙들이 앞으로 유네스코에서 성안할 윤리 규범에 잘 반영되길 바랍니다. 또한 유네스코에서 기존의 시도와 달리 윤리 전문가 및 여러 분야의 전문가들을 모아 워킹 그룹을 꾸려 논의를 시작하고, 젠더나 아프리카 대륙 같이 논쟁적인 주제(mandate)를 다루기로 한 것은 매우 바람직하다고 생각합니다. 일례로 지난 11월 방송통신위원회에서는 「이용자 중심의 지능정보사회를 위한 원칙」을 발표했는데, 이를 논의하는 자문단에 기업과 학계만 참여를 한 것으로 알고 있습니다. 정부 차원의 논의에는 당연히 이용자의 입장을 대변하는 시민단체가 참여했어야 하는데 오픈넷은 전혀 초대를 받지 못해 유감스럽습니다. 다양성과 전문성을 함께 추구하는 유네스코의 방식이 훨씬 바람직하다고 생각됩니다.

지금의 AI는 우리 현실을 반영하는 거울로서 우리가 가진 편견 등을 그대로 답습하고 있습니다. 결국 AI와 윤리는 AI를 개발하고 관리·감독하는 인간을 감독하는 원칙에 대한 문제라고 생각합니다. 발제자께서 개발자나 이용자 교육의 필요성을 언급하셨는데 매우 중요한 지적인 것 같습니다. 그리고 현재까지의 논의에서 AI와 젠더 문제는 간과되고 있는 면이 있어서 더 비중있게 다뤄져야 한다고 생각합니다. 그런 점에서 유네스코의 방향성은 매우 바람직한 것 같습니다. 그리고 유네스코에서 올해 발표한 디지털 기술 성 격차 관련 <I’d Blush If I Could> 보고서도 매우 좋은 자료인데요, 보고서에서 다룬 인공지능 음성비서의 성정체성 관련 논의를 통해 AI와 젠더에 대해 간단히 말씀드리겠습니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 인공지능 음성비서 또는 스피커는 현재 우리에게 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 기업들이 ‘여성 비서’를 내세우고 있기 때문입니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 크게 세 가지 가설이 있습니다.

첫 번째는 여성의 목소리를 선호하는 게 더 자연스럽다는 것입니다. 여러 연구에서 사람들은 여성의 목소리를 더 따뜻하게 느꼈다고 하고, 스탠포드 대학의 Clifford Nass 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바도 있습니다. 아마존과 마이크로소프트는 시장조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

두 번째는 여성형 인공지능이 덜 위협적으로 느껴진다는 것입니다. 여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설입니다. ‘2001: 스페이스 오디세이’ 등 SF 영화에서 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과의 Michelle Habell-Pallan 교수는 다수의 엔지니어가 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하는 경향이 있다고 합니다.

하지만 가장 설득력 있는 가설은 성역할에 대한 고정관념의 영향을 받았다는 것입니다. 여성형 음성비서가 많은 이유에 대해 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다. 앞서 언급한 유네스코가 발표한 보고서는 ‘시리’를 비롯한 음성비서들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이런 문제점이 단순히 AI 개발이나 활용에 적용되는 윤리를 강화한다고 해서 해결될 것 같진 않습니다. 결국 다른 모든 분야에서 여성의 인권을 보장하고 성평등을 이루어 나가기 위해 끊임없이 노력해야 하는 것처럼 AI 분야에서도 근본적으로 성격차를 줄이고 성평등을 이루어 나가는 노력이 필요합니다. 그런 면에서 젠더 문제에 관한 별도의 윤리 규범을 논의하기로 한 유네스코의 시도는 매우 바람직하다고 생각하며, 논의가 좋은 결실을 맺을 수 있도록 시민사회도 더욱 활발하게 의견을 내고 지지하도록 하겠습니다.

글 | 김가연(오픈넷 변호사)

일시: 2019. 7. 31(수) – 8. 2.(금), 3일간

장소: 캐나다 토론토대학교 뭉크스쿨(Munk School of Global Affairs)

참석자: 김가연(오픈넷 변호사)

CLSI 2019 Agenda 보기

Citizen Lab Summer Institute (CLSI)는 캐나다 토론토대학교 뭉크스쿨 산하 시티즌랩 주관으로 2013년부터 매년 여름 개최되고 있는 행사입니다. “인터넷 개방성과 권리 모니터링(Monitoring Internet Openness and Rights)”이라는 주제로 인터넷 보안 및 정보인권 관련 최신 이슈들에 대해 학계, 산업계, 시민사회 등 다양한 분야의 전문가들이 모여 2~3일 동안 논의하는 연구의 장입니다. 오픈넷은 2015년 처음 시티즌랩의 초청을 받아 CLSI 2015에 참가한 이후 매년 참가하고 있습니다.

CLSI 2019에는 김가연 변호사가 참가했으며, 참가의 주된 목적은 오픈넷이 2016년 시티즌랩과 공동으로 진행한 AMI (Ask My Info) 연구 최종 보고서 마무리와 AMI 연구의 일환으로 진행중인 KT 상대 개인정보 공개 청구 소송 전략 모색이었습니다. AMI는 통신사들이 이용자에 대한 어떤 정보를, 얼마나, 어떤 목적에 의해 보유하고 있으며, 이러한 내용을 얼마나 공개하는지를 연구하는 프로젝트로, 2014년 시티즌랩과 Open Effect의 주도로 캐나다에서 처음으로 시작되었습니다. 오픈넷은 2016년에 국내에서 AMI 연구를 수행했는데, SKT, KT 및 LGU+ 주요 이통 3사를 대상으로 두 단계에 걸쳐 진행되었습니다.

김가연 변호사는 첫날 진행된 오리엔테이션과 이후 이틀 간 5개의 세션/워크샵에 참석했습니다. 그 중 “정보주체의 정보접근권(Data Subjects’ Right to Access Information)”세션이 특히 유용했습니다. 세션 주최자인 Lights Institute의 Maristela Miranda는 필리핀의 개인정보보호법제와 정보주체의 권리에 관한 내용에 대해 발제를 했는데, 필리핀의 개인정보보호법상으로는 열람청구권이 존재하지만 아직까지 권리를 행사할 방법이 마련되어 있지 않다며 어려움을 토로했습니다. 세션 참가자 대부분이 열람청구권 관련 소송을 해본 경험이 있는 변호사들이어서 흥미로운 토론이 이루어졌습니다. 김가연 변호사는 한국에서 AMI 연구를 진행한 경험을 공유했습니다. 

세션 참석과 별개로 시티즌랩의 AMI 연구팀과 만나 최종 보고서를 마무리하고 KT 소송에 대해 도움이 될 수 있는 자료를 받아 소기의 목적을 달성할 수 있었습니다. AMI 연구 관련 더 자세한 내용은 아래 논평에서 확인할 수 있습니다.

시티즌랩, 오픈넷이 참여한 아시아 5개국 통신사 개인정보 열람청구권 보장 실태 연구 결과 발표

인터넷은 서로가 서로의 메시지를 품앗이로 전달해줌으로써 누구나 무료로 매스커뮤니케이션의 주체가 될 수 있도록 해주었습니다. 각자가 메시지 전달에 돈을 받으려거나 메시지 내용에 조건을 두어서는 안 된다는 이 상부상조의 약속인 ‘망중립성’이 최근 우리나라에서 위협받고 있습니다. 5G폰을 왜 지금 사면 안되는지, 인터넷은 왜 전화나 우편에 비해 무료인지, 인터넷은 왜 “쓴 만큼 내는 것”이 아닌지, 왜 한국 인터넷기업들이 한국을 떠나고 있는지, 왜 국내에서 넷플릭스와 페이스북 접속속도가 느린지 등등 실생활의 궁금증을 해소하면서 망중립성을 이해할 수 있는 만화를 소개합니다. (박경신 고려대 교수/오픈넷 이사)

• 5G폰 지금 사지 마세요 – 다같이 빨라져야 합니다
• 인터넷은 무료다 – 해외여행에서 만나는 망중립성
• 페이스북이 느려지면 누구 책임인가?
• 인터넷도 전기, 수도처럼 “쓴 만큼 내는 게” 옳지 않을까?
• ‘망이용료’도 없고 ‘역차별’도 없다
• 우리나라 인터넷접속료가 파리의 8배, 뉴욕의 5배?