주요 콘텐츠로 건너뛰기

[토론문] “인공지능과 젠더 문제” – AI 윤리 성찰 포럼 (2019.12.10.)

지역

[토론문] “인공지능과 젠더 문제” – AI 윤리 성찰 포럼 (2019.12.10.)

admin | 토, 2019/12/21- 00:28

2019. 12. 10. 유네스코한국위원회와 HY 과학기술 윤리·법·정책 센터가 주최한 “AI 윤리 성찰 포럼”에 오픈넷 김가연 변호사가 토론자로 참가해 인공지능과 젠더 문제에 대해 이야기했습니다.

[토론문] 인공지능과 젠더 문제

김가연 오픈넷 변호사

사단법인 오픈넷은 자유, 개방, 공유의 인터넷이라는 가치를 옹호하자는 취지 하에 2013년에 설립된 비영리 시민사회단체입니다. 표현의 자유, 프라이버시, 오픈데이터, 망중립성 등 정보인권 분야에서 활발하게 활동하고 있습니다. 발제를 맡은 이상욱 교수님께서 오픈넷의 이사로 계시기도 합니다.

오픈넷에서는 한 3년 전부터 인공지능과 윤리에 관한 논의를 관심을 갖고 지켜보면서 여러 국내외 관련 세미나에 참석을 하고 토론회를 주최하는 등 동향을 파악하고 있습니다. 내년 1월에는 하버드 대학교 버크맨 클레인 센터 등과 함께 인공지능과 윤리에 관한 국제 세미나를 개최할 예정입니다. 다만 아직 국내에서 인공지능이 정보인권에 직접 영향을 미치는 유의미한 사례가 발생하지는 않아서, 미래를 대비한 연구나 예측을 하는 연구소나 학계와 달리 활동 중심의 시민사회단체로서는 관련 논의를 관망하는 수준인 것 같습니다. 그렇지만 인공지능 개발에 필수적인 빅데이터의 활용에 수반되는 개인정보 보호의 문제에 대해서는 활발하게 목소리를 내고 있으며, 얼굴인식기술 등이 국가감시 고도화에 악용될 가능성을 항상 경계하고 있습니다.

지금까지 발표된 여러 원칙들을 비교해보면 큰 틀에서 몇 가지 공통되는 핵심 가치를 찾을 수 있고 이는 발제문에서 잘 정리하셨다고 생각합니다. 이러한 원칙들이 앞으로 유네스코에서 성안할 윤리 규범에 잘 반영되길 바랍니다. 또한 유네스코에서 기존의 시도와 달리 윤리 전문가 및 여러 분야의 전문가들을 모아 워킹 그룹을 꾸려 논의를 시작하고, 젠더나 아프리카 대륙 같이 논쟁적인 주제(mandate)를 다루기로 한 것은 매우 바람직하다고 생각합니다. 일례로 지난 11월 방송통신위원회에서는 「이용자 중심의 지능정보사회를 위한 원칙」을 발표했는데, 이를 논의하는 자문단에 기업과 학계만 참여를 한 것으로 알고 있습니다. 정부 차원의 논의에는 당연히 이용자의 입장을 대변하는 시민단체가 참여했어야 하는데 오픈넷은 전혀 초대를 받지 못해 유감스럽습니다. 다양성과 전문성을 함께 추구하는 유네스코의 방식이 훨씬 바람직하다고 생각됩니다.

지금의 AI는 우리 현실을 반영하는 거울로서 우리가 가진 편견 등을 그대로 답습하고 있습니다. 결국 AI와 윤리는 AI를 개발하고 관리·감독하는 인간을 감독하는 원칙에 대한 문제라고 생각합니다. 발제자께서 개발자나 이용자 교육의 필요성을 언급하셨는데 매우 중요한 지적인 것 같습니다. 그리고 현재까지의 논의에서 AI와 젠더 문제는 간과되고 있는 면이 있어서 더 비중있게 다뤄져야 한다고 생각합니다. 그런 점에서 유네스코의 방향성은 매우 바람직한 것 같습니다. 그리고 유네스코에서 올해 발표한 디지털 기술 성 격차 관련 <I’d Blush If I Could> 보고서도 매우 좋은 자료인데요, 보고서에서 다룬 인공지능 음성비서의 성정체성 관련 논의를 통해 AI와 젠더에 대해 간단히 말씀드리겠습니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 인공지능 음성비서 또는 스피커는 현재 우리에게 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 기업들이 ‘여성 비서’를 내세우고 있기 때문입니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 크게 세 가지 가설이 있습니다.

첫 번째는 여성의 목소리를 선호하는 게 더 자연스럽다는 것입니다. 여러 연구에서 사람들은 여성의 목소리를 더 따뜻하게 느꼈다고 하고, 스탠포드 대학의 Clifford Nass 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바도 있습니다. 아마존과 마이크로소프트는 시장조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

두 번째는 여성형 인공지능이 덜 위협적으로 느껴진다는 것입니다. 여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설입니다. ‘2001: 스페이스 오디세이’ 등 SF 영화에서 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과의 Michelle Habell-Pallan 교수는 다수의 엔지니어가 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하는 경향이 있다고 합니다.

하지만 가장 설득력 있는 가설은 성역할에 대한 고정관념의 영향을 받았다는 것입니다. 여성형 음성비서가 많은 이유에 대해 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다. 앞서 언급한 유네스코가 발표한 보고서는 ‘시리’를 비롯한 음성비서들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이런 문제점이 단순히 AI 개발이나 활용에 적용되는 윤리를 강화한다고 해서 해결될 것 같진 않습니다. 결국 다른 모든 분야에서 여성의 인권을 보장하고 성평등을 이루어 나가기 위해 끊임없이 노력해야 하는 것처럼 AI 분야에서도 근본적으로 성격차를 줄이고 성평등을 이루어 나가는 노력이 필요합니다. 그런 면에서 젠더 문제에 관한 별도의 윤리 규범을 논의하기로 한 유네스코의 시도는 매우 바람직하다고 생각하며, 논의가 좋은 결실을 맺을 수 있도록 시민사회도 더욱 활발하게 의견을 내고 지지하도록 하겠습니다.

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

글 | 손지원 (오픈넷 변호사)

최근 ‘디지털교도소’가 논란이 되면서, 개인이 다른 사람의 잘못을 폭로하는 이른바 ‘사적 제재’가 법치국가에서 용인되어선 안 된다는 목소리가 높아지고 있다. 디지털교도소만의 운영방식이나 표현 수위에 따른 특수한 문제에 대해서는 별개로 논의되어야 하며, 운영자는 그에 상응하는 법적 책임을 져야 할 것이다. 그러나 이를 계기로 국가 아닌 사인(私人)이 다른 사람의 신상을 공개하며 그들의 잘못된 행위를 알리는 활동 자체를 비판하고 금기시하는 목소리는 위험하다.

사실 ‘사적 제재’란 없다. ‘제재’란 본래 국가가 제도로써 잘못을 저지른 이들에게 일정한 의무를 강제적으로 부과하는 것이며, 개인이 이를 할 수는 없다. 아마도 여기서 ‘제재’란 사회적 비난을 당하게 되는 것을 상징하는 용어일 것이다. 그런데 개인이 다른 사람의 잘못을 알려―물론 그것이 진실이라는 전제하에―그들이 그에 상응하는 사회적 평가를 받도록 하는 것이 나쁜 일인가? 언론사가 기업이나 정치인의 비리를 추적하고 보도하는 것이나 미투 운동 등의 사회 고발 활동도 모두 이러한 사적 제재에 속한다. 타인의 잘못된 행위를 알리는 표현 활동은 행위자가 이로 인한 사회적 비난이 두려워 자신의 행위를 시정하도록 하여 피해를 구제하거나 제3의 피해도 예방할 수 있다. 또한 다른 사람들에게도 자신의 행위 역시 사회적 감시와 공개적인 비판의 대상이 될 수 있다는 경각심을 심어주어 사회구성원들이 공론장에서 좋은 사회적 평가를 유지하기 위해 각자의 행동을 반성하고 교정하도록 만든다. 민주주의 사회는 이렇듯 사회구성원들이 각자에 대한 평가를 교환하는 공론의 과정을 통해 발전한다. 언론사가 어느 총수 일가 등의 갑질 행태를 보도함으로써 부유층의 갑질에 고삐가 죄어질 수 있고, 미투 운동을 통해 사회에 만연한 크고 작은 성폭력, 성차별적 문화가 개선될 수 있는 것이다.

일각에서는 잘못된 ‘행위’에 대해서만 논하면 되지, 신상까지 공개할 필요는 없다고 주장한다. 그러나 신상공개는 곧 행위자를 특정하기 위함인데, 행위자를 특정하지 않으면 위와 같은 효용은 달성할 수 없다. 즉, 잘못을 저지른 사람은 다른 주변인들에 희석되어 자신에 대한 부정적인 평가를 면하고 자신의 행동을 교정할 동기도 없어지는 반면, 유사한 직종·특징을 가진 선량한 주변인들만 억울하게 피해를 입을 수 있고, 대중의 정당한 알 권리도 침해된다. 개인의 부조리는 사법 시스템을 통해서만 해결해야 한다는 주장도 있다. 그러나 사람이 자신이 저지른 행위에 대해 ‘법적’ 처단을 받는 것과 ‘사회적’ 평가를 받는 것은 별개의 책임 영역이다. 성희롱 등 모든 부조리한 행위가 법적 처단의 대상도 아닐뿐더러, 법이 있더라도 적정한 처단이나 보호를 하지 못하는 경우도 많고, 복잡한 사법 시스템을 활용할 여력이 없는 서민 피해자들도 많다. 양육비를 주지 않는 부모들의 명단을 공개하는 배드파더스는 법망을 피해 가던 양육비 미지급 건들을 다수 해결하고 양육비 미지급 문제를 크게 공론화했다. 또한 국가가 성범죄자의 신상공개를 하는 이유와 같이, 이미 과거의 잘못에 대해 법적 제재를 받았다고 해도 재발 위험은 있고, 사회구성원들이 이 위험으로부터 스스로를 보호하기 위해 알 권리가 우선되어야 하는 영역도 있다. 임금체불을 했던 업주, 식품위생법을 위반했던 식당 업주, 의료사고를 냈던 의사들의 명단을 알리는 사이트가 있다면, 이같이 노동자, 소비자의 합리적 선택에 필요한 정보를 알리는 공간들이 차단되어야 할까?

물론 개인이 하는 활동은 오류 가능성이 크므로 이 위험성을 지적하거나 정보의 신뢰도에 의문을 제기할 필요는 있으며, 행위자도 그에 상응하는 법적 책임을 지게 될 것이다. 그러나 마치 국가기관만이 개인의 비위 사실을 공식적으로 확인·공개해야 하고, 사인은 이를 공표해서는 안 된다는 식의 목소리는 민주주의 사회에서 헌법이 보장하고 있는 국민의 표현의 자유를 부정하는 것과 다름없다. 이러한 시각은 미투 운동을 비롯한 사회 고발, 언론사의 보도 등 사회를 움직이는 모든 ‘사적 제재’들을 위축시킬 것이다.

나쁜 짓을 해도 개인적 망신을 당할 염려는 없는 세상, ‘사적 제재’가 없는 세상이 과연 살기 좋은 세상일까. 나쁜 사람들만 더 살기 좋아진 세상은 아닐까.

이 글은 한겨레에 기고한 글입니다. (2020.10.26.)

화, 2020/10/27- 19:17
21
0

글 | 박경신(고려대 법학전문대학원 교수, 오픈넷 이사)

‘우리는 불완전한 지식에 터잡은 어떤 예언에 우리의 구원을 의존한다.’ 홈스 판사가 사상의 자유시장 이론을 설파한 소수의견에 나오는 문장이다.

진실은 누군가에 의해 배타적으로 점지되는 것이 아니라 수많은 사람들의 발언으로부터 현출된다(emergence). 명제가 사실과 다르다는 이유만으로 또는 사실과 다르고 불명확한 ‘공익’을 해한다는 이유로 형사 또는 민사적으로 벌하는 제도, 즉 허위사실유포죄에 대한 국제인권과 헌법의 평가는 명백하다. 불완전한 의혹 제기들이 가능해야 진실이 현출될 수 있는데 어떤 명제가 당장 근거가 부실하다고 하여 처벌하게 되면 진실은 영원히 현출되지 못한다. 그런 이유로 표현에 대한 제한은 명백하고 현존한 위험이 있는 경우에만 허용된다. 명예훼손, 사기 등을 제재하는 이유는 특정인에 대해 특정할 수 있는 피해를 발생시킬 위험 때문이다. 그렇지 않은 허위명제들을 처벌하려는 시도는 대부분 독재보위를 위해 이용되어왔다.

대표적인 사례가 긴급조치 1호와 9호의 유언비어유포죄이다. 국민들이 사람을 욕하지 않고 유신헌법을 욕해도 처벌할 수 있도록 급조된 법제이다. 가깝게는 미네르바의 이명박 정부 환율정책 비판을 처벌하려는 시도에 동원되었던 전기통신기본법 47조도 있다. 또 MBC 의 광우병 보도를 관련 정책 담당자의 명예훼손으로 환원하여 기소하려고 했던 시도 역시 허위사실유포죄와 다를 것이 없다. 위 시도들 모두 우리나라 대법원 및 헌법재판소에 의해 위헌결정되거나 파기되었다.

그런데 2021년 민주당이 이와 비슷한 법을 다시 만들려고 하고 있다. “허위의 사실 또는 사실로 오인하도록 조작한 정보를 보도하거나 매개하는 행위”를 위법행위로 규정하고 “고의 또는 중대한 과실”을 저지르면 그 피해에 대해 법원이 5배수 배상을 명할 수 있도록 규정하고 있다. 단순히 허위보도가 피해를 초래한다고 해서 모두 민사책임이 발생하는 것이 아니었다. 표현의 자유라는 헌법적 가치 때문에 표현에 대한 민사적 제재도 명예훼손, 저작권 침해 등 유형화되고 특정화된 인격권 침해나 재산상 피해가 있을 경우에만 인정되어왔다. 이번 개정안은, 형사처벌은 아니지만 5배수 손배에 의한 위축효과 역시 강력하여 민사법적으로 허위사실유포죄를 부활시킨 것과 마찬가지이다.

게다가 “정보를…매개하는 행위”에 대해 인터넷뉴스서비스사업자까지 부과 대상으로 삼는 것은 이들이 언론사별로 제휴·제공 여부를 결정할 뿐이지 기사별로 제공 여부를 결정하지 않기 때문에 개별 기사의 내용은 물론 그 불법성에 대해 알 수가 없다는 면에서 자기책임원칙에도 위반된다. 결국 인터넷뉴스서비스사업자는 조금이라도 논란이 될 만한 기사들을 자진해서 삭제 차단할 것이며 언론의 자유는 사적검열에 처하게 된다.

더욱 가관은 “고의 또는 중대한 과실”을 추정하는 조항이다. 즉 징벌적 손배가 부당함을 입증하지 못하면 허위·조작 보도에 대한 5배수 손배를 감당하라는 것인데, ‘취재 과정에서 법률을 위반하여 보도한 경우’를 보자. 인터뷰 기회를 얻기 위해 무단횡단이나 과속을 하는 경우, 잠입취재를 위해 신분을 숨기는 경우가 모두 포함될 텐데 탐사보도가 위축될 것이다. 삼성X파일, 계룡대 내 ‘룸살롱’, 유아원 급식위생 모두 ‘위법적 취재’로 거악을 드러낸 보도인데 기사가 부정확하면 5배수 손배를 감수해야 한다. 인터넷기사에 정정보도청구 표시가 되지 않는 경우 ‘왜곡된 기사제목’, ‘왜곡된 시각자료’, 다른 언론사의 기사를 ‘충분한 검증없이’ 인용하는 경우도 징벌적 손배의 부과를 추정하고 있는데 모두 기존의 법이나 판례로 포섭되지 않았던 새로운 위법행위를 창설하는 것뿐만 아니라 입증책임까지 언론에 전가하고 있다.

인권 면에서 이번 정부가 이명박, 박근혜 정부 때와 달랐던 것은 명예훼손 형사처벌이나 허위사실유포죄로 공적토론을 입막음하지 않았던 것이다. 이번 개정안은 그 영예를 걷어차버린다. 언론은 우리의 거울이다. 언론은 우리가 읽고 싶어 하는 기사를 쓰며 결국 우리 스스로의 정치적·역사적 정체성만큼 다양한 기사들이 쏟아져나오게 된다. ‘개혁’의 칼자루는 정부·여당이 쥐게 마련인데 ‘언론개혁’은 ‘국민개조’를 의미한다. 이런 식의 강압적인 ‘언론개혁’이라면 5공 때의 ‘정의사회 구현’과 무엇이 다른가.

이 글은 경향신문에 기고했습니다. (2021.08.21.)

월, 2021/08/02- 20:50
18
0

한국인터넷자율정책기구(KISO)가 7월 9일, 광화문 S타워 22층에서 “온라인상 혐오표현 그 해법은 무엇인가”를 주제로 2020 KISO 포럼을 개최했습니다. 이 자리에서 오픈넷 손지원 변호사가 토론자로 참석해 표현의 자유 측면에서 혐오표현 규제에 대해 발표했습니다. (유튜브 영상: https://youtu.be/8o8o07VgO5c)

[토론문] 혐오표현 규제와 표현의 자유

손지원(사단법인 오픈넷 변호사)

혐오표현은 혐오스럽다. 혐오표현 문제에 대하여 우리 사회는 대응할 필요가 있다. 혐오표현을 어떻게 정의하든 위 두 가지 명제에 대해서는 대체로 이견이 없을 것이다. 그러나 혐오표현을 ‘규제’의 대상으로 포섭시키려는 순간 문제는 더할 나위 없이 복잡해진다. 혐오표현 역시 원칙적으로는 헌법상 표현의 자유의 보호영역이며, 혐오표현에 대한 규제는 표현의 자유의 제한 원칙을 준수해야 하기 때문이다.

‘표현의 자유’는 ‘우리가 싫어하는 생각을 위한 자유’라는 말이 있다. 모든 나쁘고 옳지 못한 표현을 남에게 불쾌감을 준다거나 사회적 해악이 발생할 수 있다는 가능성만으로 규제해서는 안 되고 규제할 수도 없다. 또한 모든 사회 문제에 대한 대응이 ‘규제’나 네거티브 방식(금지나 차단)일 필요도 없다. 그러나 분명 규제가 필요한 표현도 있다. 모든 기본권은 타인의 권리를 침해하거나 공익을 현저히 해한다면 비례의 원칙에 따라 제한될 수 있고, 표현의 자유 역시 ‘명백하고 현존하는 위험’을 가져올 수 있다면 제한될 수 있는 것이다. 그렇다면 규제 필요성이 있는 ‘혐오표현’이란 무엇인가에 대한 답은, 우리가 혐오표현을 규제함으로써 막고자 하는 명백하고 현존하는 위험이나 해악이 과연 무엇인가를 생각함으로써 찾아낼 수 있다.

혐오표현에 대한 규제를 통해 진정으로 우리가 막고자 하는 것은 표현 그 자체가 아니라 실제적으로 나타날 표적집단에 대한 차별, 폭력, 배제일 것이다. 즉, 혐오표현의 해악은 사회 전체에 대해 표적집단에 대한 차별과 적의를 확산시킬 뿐만 아니라, 표적집단 구성원 개인에게 불안과 공포를 상기시키는 방식으로 개인의 존엄성을 침해하고, 이로써 공론장에서 표적집단 구성원의 표현행위와 영향력을 위축시켜, 사회의 표적집단에 대한 배제와 차별의 공고화로 이어진다는 데에 있다.[1]

따라서 규제 대상 혐오표현을 정의함에 있어, 표적집단은 사회적 소수자 집단으로 한정될 필요가 있다. 혐오표현으로 인하여 실제 사회에서 그 집단에 속한다는 이유만으로 배제, 차별, 폭력의 대상이 될 수 있고, 이에 대하여 구체적인 불안, 공포, 위축을 경험할 위험이 높은 집단이 그 대상이 되어야 한다. 혐오표현 정의 규정은 흔히 “국가, 인종, 민족, 종교, 성별, 성적 지향, 장애를 이유로”의 문구를 사용하고 있다. 이러한 분류 및 한정도 필요하지만, 이 문구만을 기준으로 할 경우에는 규제가 필요한 범위를 넘어 지나치게 광범위한 표현물, 즉 사회에서 주류적 지위를 차지하거나, 차별, 배제, 공포, 위축의 위험이 거의 없는 국가, 인종, 종교, 성별 집단 등에 대한 모든 부정적, 비판적 표현마저 규제 대상이 될 수 있다는 문제가 생길 수 있다. 모욕죄가 시위대 등 경찰의 공권력 행사에 저항하는 자를 현행범으로 체포하기 위하여 남용된 사례에서 볼 수 있듯, 광범위한 혐오표현 규제는 오히려 거친 언사나 미러링, 패러디 등으로 기득권층에 대한 불만이나 저항을 표출할 수밖에 없는 사회적 소수자들의 표현의 자유를 억압하는 수단으로 전락할 위험이 있다.

그런데 ‘사회적 소수자’라는 기준은 상대적·가변적인 개념으로서 불명확성을 안고 있어 이를 어떻게 최대한 명확한 문언으로 녹여낼지에 대한 심층적 연구가 필요할 것이다. 여기서 또 다른 혐오표현 규제의 한계점이 도출된다. 혐오표현 규제는 필연적으로 불명확성과 추상성을 내포할 수밖에 없다는 것이다. UN 자유권규약 제20조 제2항 “차별, 적의 또는 폭력의 선동이 될 민족적, 인종적 또는 종교적 증오의 고취”가 대표적인 혐오표현 규제의 정의 규정이라 할 수 있겠으나, 이 역시 명확한 개념은 아니다. 표현 규제에 있어 명확성의 원칙은 더욱 중요한 의미를 갖는다는 점에 비추어볼 때, 혐오표현에 대하여 형사처벌을 규정하거나 사업자에게 임시조치 등의 의무를 부과하고 위반시 법적 책임을 부과하는 등의 공적 규제, 강제 규제는 위헌의 소지가 매우 높다.

자율규제의 경우에는 강제 규제와 같은 수준의 헌법원칙의 준수가 요구되지는 않기 때문에 다소 추상적인 기준으로 표현물을 규제할 수도 있다. 또한 투명성과 이용자와의 원활한 소통이 바탕이 된다면 사회적 소수자가 보호되는 건전한 공론장을 만들기 위하여 혐오표현의 자율규제는 매우 필요한 것이라 할 수 있다. 그러나 민주사회에서 공론장, 사상의 시장은 결국 이용자, 시민이 형성하여야 하는 것이고, 정부나 기업의 검열과 개입은 최소화되어야 한다는 면에서, 자율규제의 경우에도 표현의 자유 보장의 의미와 그 제한원리의 근본적인 의미를 되새김으로써 그 적정한 수준을 찾을 수 있을 것이다.

KISO의 경우 ‘지역·장애·인종·출신국가·성별·나이·직업 등으로 구별되는 특정 집단을 대상으로 모욕적이거나 혐오적인 표현방식을 사용하여 해당 집단이나 그 구성원들에게 굴욕감이나 불이익을 현저하게 초래하는 게시물’을 규제하고 있는데, 이는 보통 ‘차별, 적의 또는 폭력을 선동’을 요건으로 하고 있는 혐오표현 규제보다 폭넓다. 그런데 위에서 논한 혐오표현의 규제 필요성을 고려할 때, 규제 대상 혐오표현은 표적집단 구성원에게 불안, 공포, 위축을 불러일으키고, 사회에서 실제적인 배제, 차별, 폭력으로 이어질 위험이 있는 표현이어야 한다고 본다. 표적집단의 특성 등 구체적인 ‘사실’을 언급하며 사회에서의 차별, 배제를 정당화하거나 조장하는 표현이 그 예가 될 수 있을 것이다. 이에 이르지 않고 집단의 구성원이 모욕감, 불쾌감을 느낄 수 있다는 이유만으로 단순한 감정의 표명이나 단발적인 비하적 용어, 별칭의 사용을 규제하는 것은 과도한 검열을 낳을 수 있다.

한편 혐오표현 규제로 잃을 수 있는 것들에 대해서도 생각해보아야 한다. 표현의 자유를 최대한으로 보장해야 하는 이유는 잘못되거나 올바르지 않은 표현일지라도 일정한 가치와 기능을 가지고 있기 때문이기도 하다. 밀(John Stuart Mill)은 자유론에서 ‘탄압하려는 의견이 설령 잘못된 것이라 하더라도 그 의견을 탄압하는 것은 틀린 의견과 옳은 의견을 대비시킴으로써 진리를 더 생생하고 명확하게 드러낼 수 있는 기회를 박탈하는 잘못을 저지르는 것’이라고 하였다. 나쁜 사상은 늘 존재한다. 그러나 이러한 사상이 보이지 않도록 막는 것은 그것이 사회 어딘가에 상존하고 있다는 사실을 간과하게 만들고 적절한 대응의 기회만 놓치게 되는 일일 수 있다. 또한 표현의 가치는 그 표현의 내용이나 화자의 의도대로만 형성되는 것이 아니고, ‘표현행위’ 자체가 하나의 사실 정보로서 대중의 알 권리의 대상이 된다는 면도 무시해서는 안 된다. 예를 들면 유력 정치인의 혐오표현은 그를 지지하는 사람들 사이에서는 혐오를 부추기는 역할을 할 수도 있지만 더 많은 사람들에게는 그 정치인의 자질을 판단하는 정보로서 더 큰 역할을 할 수도 있는 것이다. 이와 같은 표현의 자유 보장의 정신을 고려할 때, 혐오표현을 포괄적으로 금지하고 차단할 수 있는 규제를 만드는 것보다는 이에 대항하는 논증의 축적과 반박, 비판을 통해 혐오문화를 타파하는 방향의 해결책을 모색할 필요가 있다.

_________________________
[1] 이승현, “혐오표현 규제에 대한 헌법적 이해”, 「공법연구」 제44집 제4호, 한국공법학회, 2016. 6.

화, 2020/07/21- 21:32
18
0
 

2020. 4. 28. 인터넷기업협회가 주최한 “n번방 방지법, 재발방지 가능한가?” 토론회에 오픈넷 김가연 변호사가 토론자로 참가했습니다. 이번 토론회는 최근 텔레그램 n번방 사건을 계기로 디지털성범죄자에 대한 처벌강화와 함께 정보통신서비스제공자에 대한 사전적 조치의무 등의 도입을 목적으로 하는 법률 개정안이 다수 발의되고 있는 상황에서, 소위 ‘n번방 방지법’이라 불리고 있는 관련 법률 개정안의 내용이 반복되는 디지털성범죄의 재발방지에 효과적으로 기능할 수 있는지, 문제가 있다면 어떤 내용의 보완이 필요한지에 대하여 각계 전문가의 의견을 듣고 올바른 논의방향을 제언하고자 하는 목적으로 개최되었습니다.

[토론문] n번방 방지 법안의 문제점

글 | 김가연 (오픈넷 변호사)

1. 불법촬영물
정의의 문제점

성폭력처벌법에 의하면[1] 성적
욕망 또는 수치심을 유발할 수 있는 사람의 신체를 촬영대상자의 의사에 반하여 촬영”한 촬영물과 이의
복제물이 불법촬영물이며, 불법촬영물이 촬영 당시에는 촬영대상자(피해자)의 의사에 반하지 않더라도 이후 피해자의 의사에 반하여 배포하면 처벌받게 되어 있음. 현재 발의된 n번방 방지 법안들은 이러한 불법촬영물의 정의에 근거하고
있음. 문제는 촬영한 부위가 “성적 욕망 또는 수치심을 유발할
수 있는 사람의 신체”인지에 대한 판단이 쉽지 않으며[2], 성폭력처벌법상 성범죄는 친고죄나 반의사불벌죄가 아니므로 피해자가 없어도
처벌이 가능한데, 만약 피해자가 특정이 되지 않거나 찾을 수 없는 경우에는 촬영 당시 또는 배포 당시에
피해자의 의사에 반했는지를 어떻게 판단할 것인지가 문제됨. 따라서 범죄행위의 결과인 “성착취물”에 대한 정의를 도입할 필요가 있음. 아동음란물의 경우에도 애니메이션 같은 가상아동 음란물과 실존아동 성착취물 구분이 필요함

2. 플랫폼
불법촬영물 유통방지 의무 신설 법안의 문제점

n번방 방지 법안 중 다수가 청소년성보호법 제17조 온라인서비스제공자의 의무와 유사하게 텔레그램과 같은 플랫폼이 불법촬영물을 발견하여 즉시 기술적 조치를 취하도록
하고, 하지 않을 시 처벌하는 내용을 담고 있음.[3] 하지만 우리나라는 이미 플랫폼에게 불법정보 유통방지 의무를 지나칠 정도로
많이 지우고 있음. 디지털 성범죄물 관련해서는 2011. 9. 15.
청소년보호법 개정을 통해 온라인서비스제공자의 아동음란물 발견 즉시 삭제 또는 전송 중단을 할 기술적 조치 의무가 도입되었고, 2015. 4. 14. 전기통신사업법 개정을 통해 웹하드 사업자의 음란정보 유통 방지를 위한 기술적 조치 의무가
도입되었음. 그 밖에 청소년보호법상 청소년유해매체물과 정보통신망법상 음란물 관련 규제도 존재함. 이렇게 강력한 플랫폼 규제가 있는데도 소라넷, 웹하드 카르텔, n번방 같은 사건이 계속 발생하고 있어 규제의 실효성에 의문을 갖게 함

한편 플랫폼 사업자에게 디지털 성범죄물을 발견할 기술적 조치를 취할 의무, 즉 모니터링 의무를 지운다면 플랫폼을 이용하는 절대 다수의 선량한 이용자들의 개인정보자기결정권과 통신 비밀의
자유가 침해됨. 디지털 성범죄물을 발견하기 위해 사업자는 자신의 플랫폼상 오가는 통신 내용을 포함한
모든 정보를 모니터링해야 하기 때문. 대화방 모니터링의 경우에는 통신비밀보호법 위반 소지도 있음. 또한 기업 차원에서는 엄청난 자원을 투자해야 하는데 스타트업 같이 영세한 곳은 플랫폼 사업을 포기해야 할 것임

게다가 디지털 성범죄물만 100% 골라내는
기술은 아직 존재하지 않음. 현행법이 규정하고 있는 기술적 조치는 키워드에 의한 필터링이나 동영상 해시값
기반 필터링인데 별로 효과적이지 못함. 해시값 기반 필터링의 경우에는 컴퓨터가 1차로 걸러낸 영상을 인간이 육안으로 보고 성범죄물인지 여부를 확인한 동영상의 해시값 데이터베이스에 기반하는데, 매일 엄청나게 쏟아지는 영상을 일일이 다 확인한다는 것은 불가능함. AI 기술도
완벽하지 않아서 합법적 성인물인지 디지털 성범죄물인지는 결국 인간의 판단이 필요함. 카카오그룹에서 아동음란물이
공유되었다는 이유로 이석우 전 카카오 대표가 청소년성보호법 제17조 위반으로 기소당했으나 1심에서 무죄 판결을 받은 사례는 기술적 조치의 한계를 여실히 보여줌. 사업자에게
국가의 역할을 떠넘기지 말고 방송통신심의위원회나 한국인터넷진흥원(KISA)에 필터링에 필요한 성착취물
데이터베이스를 제공하는 성착취물 모니터링 전담반을 설치해야 함

해외 사업자의 경우 국내법 적용을 받지 않아 단속이 불가능하다는 주장도
있으나, 역외적용 규정을 도입한다 해도 집행력의 한계가 있을 수밖에 없고, 그렇다고 매일 새롭게 생겨나는 해외 플랫폼의 이용을 막는 것은 중국처럼 만리방화벽을 쌓지 않는 한 불가능하며, 플랫폼의 합법적인 이용까지 차단하는 결과를 낳게 됨. 그리고 음란물에
대한 기준은 나라마다 다르기 때문에 한국법을 적용한다고 해결될 문제가 아님. 아동 성착취물에 대해서는
대부분의 나라에서 극악무도한 범죄로 취급하기 때문에 국제적인 수사 및 사법공조가 이미 잘 이루어지고 있음

결론적으로 실효성 없고 이용자의 프라이버시까지 침해하는 모니터링 의무나
기술적 조치 의무를 신설하기 보다는 디지털 성범죄 신고가 들어 왔을 때 바로 차단·삭제하도록 플랫폼
사업자의 자율규제를 장려하고, 성착취물의 피해자를 빨리 찾아서 구제하는 방향으로 나아가야 함.

3.
불법촬영물 소지죄 신설 법안의 문제점

성폭력처벌법 개정안 중 일부는 불법촬영물과 복제물 소지죄를 신설하는 내용을
담고 있음.[4]
성폭력처벌법상 불법촬영물 소지죄가 도입된다면 한국은 성인을 대상으로 이루어진 성범죄 장면을 촬영한 영상물을 소지한 것만으로도 처벌받는
첫 국가가 될 것임. 전 세계적으로 심지어 실제 살인행위나 강간행위를 촬영한 영상물인 소위 스너프 필름에
대해서도, 살인행위나 강간행위 등 실제로 이루어진 범죄행위는 처벌되지만 영상을 소지했다고 처벌받는 소지죄는
존재하지 않음. “기계장치를 이용하여 성적 욕망 또는 수치심을 유발할 수 있는 사람의 신체를 촬영대상자의
의사에 반하여 촬영”한 결과물을 의미하는 불법촬영물의 개념이 촬영과 배포의 전후 정황을 모르고 범하게
되는 소지행위에 적용될 경우 큰 혼란을 초래할 수 있음. 연출된 영상과 진짜 범죄영상을 구분하지 못할
가능성에도 대비할 수 있어야 하며, 성행위와 촬영이 모두 합의 하에 이루어진 후 유출만 의사에 반하게
된 경우에도 소지죄가 적용되어야 하는지도 세밀한 검토가 요구됨

따라서 소지의 처벌은 촬영된 행위가 범죄행위인 경우로 한정되어야 함은
물론 그 사정을 소지자가 알고 있는 경우로 한정되어야 함. 또한 고발 및 수사 목적의 소지는 일반인에
대해서도 허용되어야 함. 마지막으로 성인을 대상으로 한 성착취물 소지죄의 형량은 아동 성착취물 소지죄보다
높아서는 안될 것임

————————————
[1] 성폭력범죄의 처벌 등에 관한 특례법 제14조(카메라 등을 이용한 촬영) ① 카메라나 그 밖에 이와 유사한 기능을 갖춘 기계장치를 이용하여 성적 욕망 또는 수치심을 유발할 수 있는 사람의 신체를 촬영대상자의 의사에 반하여 촬영한 자는 5년 이하의 징역 또는 3천만원 이하의 벌금에 처한다.
② 제1항에 따른 촬영물 또는 복제물(복제물의 복제물을 포함한다. 이하 이 항에서 같다)을 반포ㆍ판매ㆍ임대ㆍ제공 또는 공공연하게 전시ㆍ상영(이하 “반포등”이라 한다)한 자 또는 제1항의 촬영이 촬영 당시에는 촬영대상자의 의사에 반하지 아니한 경우에도 사후에 그 촬영물 또는 복제물을 촬영대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 3천만원 이하의 벌금에 처한다.
③ 생략

[2] 대법원 형사2부(주심 이상훈 대법관)는 길에서 본 여성 A(23)씨를 뒤따라가 아파트 엘리베이터에 동승한 뒤 스마트폰으로 A씨의 상반신 부분을 촬영하는 등의 혐의(성폭력처벌법상 카메라 등 이용 촬영)로 기소된 유모(29)씨에게 벌금 100만원을 선고한 원심을 깨고 최근 무죄 취지로 사건을 서울북부지법으로 돌려보냈다(2015도16851). 재판부는 “성폭력처벌법 제14조 1항의 카메라 등 이용 촬영죄는 카메라나 그 밖에 유사한 기능을 갖춘 기계장치를 이용해 성적 욕망 또는 수치심을 유발할 수 있는 다른 사람의 신체를 그 의사에 반해 촬영하는 행위를 처벌하는 규정”이라며 “이는 피해자의 성적 자유와 함부로 촬영당하지 않을 자유를 보호하기 위한 것”이라고 밝혔다. 이어 “촬영한 부위가 ‘성적 욕망 또는 수치심을 유발할 수 있는 다른 사람의 신체’에 해당하는지는 객관적으로 피해자와 같은 성별·연령대의 일반적이고 평균적인 사람들의 관점에서 성적 욕망 또는 수치심을 유발할 수 있는 신체에 해당되는지를 판단해야 한다”고 덧붙였다.
https://www.lawtimes.co.kr/Legal-News/Legal-News-View?serial=98201

[3]

[4]

 

 

목, 2020/04/30- 03:06
16
0

사단법인 오픈넷이 전국언론노동조합,
방송기자연합회,
한국기자협회,
피디연합회,
언론개혁시민연대와 함께 최근 쟁점이 되고 있는 민주당의 언론중재법 개정안과 관련하여 정당,
현업단체,
학계 및 시민사회단체가 참여하는 긴급토론회를 공동주최합니다.  

이번 토론회는 정당,
현업단체,
시민사회,
학계가 함께 모여 현재 논의되고 있는 개정안과 관련하여 정당의 입법 목적과 구체적 조항의 신설 사유,
언론현업단체의 우려와 실효성있는 언론보도 피해 구제 방안 제시,
개정안에 대한 학계의 분석과 평가,
시민사회단체가 밝히는 언론보도 피해 사례 및 구제 방안,
입법 방향 등을 논의하는 자리가 될 것입니다. 

☐ 일정: 2021년 8월 5일(목) 14:00 / 온라인 세미나 

☐ 공동주최: 전국언론노동조합, 방송기자연합회, 한국기자협회, 피디연합회, 언론개혁시민연대, 오픈넷

☐ 토론회 구성

사회: 전규찬 교수(한국예술종합학교)

발표: 이승선 교수(충남대학교)

토론(가나다순): 
김승원 의원(더불어민주당)
손지원 변호사(오픈넷)
윤여진 이사(언론인권센터)
윤창현 위원장(전국언론노동조합)
최형두 의원(국민의힘)
황용석 교수(건국대학교)

☐ 
참조사항

1. 본 토론회는 코로나19
감영병 방역을 위하여 토론회 참석자와 유튜브 중계 실무진만 토론장에 입장하실 수 있습니다.
모든 참석자는 발열 체크 및 소독,
그리고 비말 방지를 위한 가림막 안에서 마스크를 착용한 상태로 진행합니다.

2. 본 토론회는 언론노조 유튜브 채널(https://youtu.be/fZYqjHvOYMk)에서 실시간 스트리밍으로 중계합니다. 

문의: 오픈넷 사무국 02-581-1643, [email protected]

수, 2021/08/04- 21:08
16
0