글 | 오경미 (오픈넷 연구원)

#미투운동의 시대 웹콘텐츠 분야에도 페미니즘의 바람이 불었다. 2016년 게임 일러스트레이터를 상대로 한 남성 이용자들의 사이버불링과 문하생을 대상으로 한 유명 웹툰 작가들의 성추행 사건의 공론화는 #미투운동의 결과였다. 이 사건들을 통해 웹콘텐츠 분야의 여성 창작노동자들이 웹콘텐츠 분야의 제도적 특수성에서 기인하는 사이버불링, 젠더 위계로 인한 성희롱, 성추행 등 각종 성적 폭력에 노출되어 있을 뿐만 아니라 산업현장에서 흔히 나타나는 남녀 임금격차도 경험하고 있다는 사실이 드러났다. 여성에게만 해당하는 성적 낙인을 악용하는 남성들의 인식 개선, 법 제도와 정책적 개선을 통한 여성의 사회적 지위 향상, 웹콘텐츠 향유 문화 개선 등은 이 문제를 해결할 수 있는 최소한의 대안이 될 것이다.

웹콘텐츠 여성 창작노동자들이 경험하는 성차별의 현실

다른 문화예술분야 종사자들에 비해 웹콘텐츠 분야 종사자들은 향유자들과의 직접적인 접촉의 빈도가 높다. 때문에 많은 이들이 악성댓글에 노출되어 왔고, 여성 창작자들은 성차별적인 사이버불링을 당하기도 했다. 2016년 몇몇 여성 게임 일러스트레이터들이 김자연 성우를 지지하거나 페미니즘에 관한 관심을 보였다는 이유로 남성 게임 이용자들에게 사이버불링을 당한 사건은 이를 여실히 증명한다. 게임 일러스트 업계는 같은 웹콘텐츠 분야의 또 다른 분야인 웹툰 업계와 달리 공모전이나 대회로 작가가 작품을 발표한 기회가 거의 없다. 그리고 남성 게임 일러스트레이터들의 경우 정규직으로 채용되는 경우가 있으나 여성 게임 일러스트레이터들은 그렇지 못하다. 때문에 대다수의 여성 게임 일러스트레이터들은 SNS를 홍보 수단과 포트폴리오 저장 용도로 활용할 수밖에 없다. 이와 같은 직업적 조건은 게임 일러스트레이터와 이용자와의 접촉 횟수나 인터넷상 이용자와 창작자 사이의 거리, 창작자가 이용자에게 노출되는 정도를 자연스럽게 높였고, 결국 여성 게임 일러스트레이터를 대상으로 한 사이버불링이라는 결과로 나타났다. 문제는 사태가 게임 이용자들의 사이버불링만으로 끝나지 않고 사이버불링이 불매운동으로 이어질 것을 우려한 사측으로부터 일러스트를 삭제당하거나 해고를 당하기도 했다. 웹툰 작가나 웹소설 작가들 역시 네이버처럼 각 연재웹툰에 댓글을 달 수 있는 시스템이 있거나 에이전시나 사측이 홍보를 해주지 않아 작가 자신이 직접 트위터 등으로 자기 프로모션을 해야 해 이용자들의 사이버불링에 노출되어 있다.

웹툰 작가들은 위와 같은 잠재적인 문제와 함께 성별 위계로 인한 성적 폭력에도 취약한 집단이다. 이 문제는 웹툰 분야의 구조적 특수성에 기인한다. 순수예술 분야에서 흔히 볼 수 있는 도제식 시스템에 의한 창작자 교육 방식과 콘텐츠 창작 방식은 웹툰계 여성 창작자들을 성범죄에 취약한 집단으로 만드는 구조적 요인이다. 웹툰은 잡지와 종이책으로 유통되던 출판만화에 기원을 두고 있다. 1990년대 후반 PC통신 서비스에 연재되기 시작했던 만화는 웹툰의 기원으로 이 시기를 기점으로 만화의 형식이 달라진다. 출판만화에서 웹툰으로 콘텐츠의 형식적 요건이 변화하게 되고, 대형 포털사이트가 자사 사이트에 웹툰을 연재물 형식으로 게재하기 시작하면서 데뷔 창구와 데뷔 기회에 있어 역동적인 변화가 일어난다. 이와 같은 구조적 변화로 유명 작가가 자신의 화실에서 여러 명의 문하생을 두고 콘텐츠를 제작하고 문하생을 작가로 키워내는 도제식 시스템이 출판만화 시절보다 줄어든다. 전통적인 훈련 시스템을 밟지 않고도 데뷔가 가능해졌으며 에이전시가 생겨나면서 작화 등의 작업을 외주로 해결하는 사례도 늘어났기 때문이다. 그러나 여전히 도제식 시스템은 웹툰 분야의 큰 축을 차지하고 있다. 작화 등을 외주로 주지 않는 이상 사측이나 포털이 요구하는 분량을 채우려면 어시스트 등의 인력이 필수이기 때문이다. 도제식 시스템 내에서 여성 문하생이나 어시스트들은 취약한 위치에 처한다. 권력이 의사결정권을 가진 1인에게 집중된 도제 시스템에서 젠더 위계가 창출되는 과정과, 이 권력을 그 1인이 어떻게 행사해왔는지 우리 사회는 #미투시대 성범죄 피해자들의 생생한 증언을 통해 배워왔기 때문에 두말할 필요는 없을 것이다. 2015년 정철 작가의 문하생 성추행 사건, 2018년 출판만화 시절부터 현재까지 명성을 유지하고 있는 작가 강도하의 문하생 성추행 사건은 도제식 시스템의 부작용이 수면 위로 드러난 사례이다.

사이버불링, 성추행과 같은 성범죄 외에 웹콘텐츠 업계에서 지적되는 또 다른 성차별은 남녀작가 간의 수익격차다. 2017년 서울시 <문화예술 불공정 실태조사>에 따르면 여성 웹툰 작가 월평균 임금이 166만원, 남성작가는 222만원이다. 임금격차는 웹툰계 내 또 다른 직군인 일러스트레이터 군에서도 동일하게 반복되었다. 일러스트레이터의 경우 여성은 127만원, 남성은 212만원으로 수입에서 차이가 났다.^[1] 웹툰 작가를 대상으로 한 인터뷰에 따르면, 특정 작가는 자신보다 조횟수가 적은 남성 작가의 고료가 자신의 고료와 앞자리가 다를 정로도 차이가 나서 플랫폼 관계자에게 이유를 물었으나 기준 산정 방식과 조건이 많다며 답을 제대로 하지 않고 오히려 그 이야기를 해준 게 누구인지 알려달라고 추궁했다고 한다.^[2] 위에서 언급했듯 간혹 업체에 채용되는 남성 게임 일러스트레이터가 있는 반면 이러한 채용의 기회가 여성 게임 일러스트레이터에게는 거의 주어지지 않으므로 여성 게임 일러스트레이터 역시 남녀 임금격차라는 성차별을 현재 경험하고 있는 직군 중 하나이다 .

웹콘텐츠 분야 내 성차별 문제 해결을 위해 우리 사회는 무엇을 해야 할 것인가?

이러한 문제를 해결하기 위해 사회적 인식 변화와 제도 개선이 시급하다. 게임업계 측은 여성 게임 이용자들이 증가하고 있는 수치를 인식할 필요가 있다. 즉 남성 게임 이용자들이 과잉대표된 측면은 없는지 살펴볼 필요가 있다. 그리고 업체는 소수의 남성 게임 이용자들이 행한 사이버불링에 자신들이 좌우되는 현실이 궁극적으로 건전한 게임 문화 형성을 저해하는 것임을 인식해야 한다. 이러한 약간의 인식 변화만 있었더라도 여성 게임 일러스트레이터를 대상으로 한 사이버불링이 발생했을 때 사측이 이들을 보호해주지 않고 남성 이용자들의 눈치를 과도하게 살피며 이 일을 핑계삼아 이슈가 된 여성 게임 일러스트레이터와 급하게 계약을 해지하는 일은 없었을 것이다.

여성 게임 일러스트레이터들이 사측으로부터 일방적으로 해지통보를 받았음에도 무력하게 통보를 받아들일 수밖에 없었던 이유는 이들이 계약상 철저한 을의 위치에 처해있기 때문이다. 계약상의 불평등한 지위는 계약 이외의 노동을 수행할 수밖에 없게끔하거나 저작권을 통째로 넘기라는 사측의 요구를 어쩔 수 없이 받아들여야만 하는 상황으로 창작자를 내몰기도 한다. 실상 작품을 완성했을지라도 일정 기간 사측의 지위를 받으며 수정 작업을 해주는 경우가 대다수지만, 보통 건별로 계약하기 때문에 언제든지 사측은 아주 쉽게 게임 일러스트레이터와 계약을 해지 할 수 있다. 남성에 비해 여성들이 프리랜서로 계약하는 경우가 많으므로 이런 계약 관행에 더 취약한 계층이 여성 게임 일러스트레이터라고 볼 수 있다. 콘텐츠의 일방적인 삭제의 경우 작가에게 더욱 참담한 상황이 벌어질 수 있다. 만약 매절계약으로 콘텐츠의 저작권을 통째로 사측에 넘긴 상황에서 창작자가 계약 해지를 당하게 되었고 사측이 콘텐츠를 일방적으로 삭제했다면, 작가는 자신이 어렵게 쌓은 경력 한 줄을 강제로 삭제당하는 것을 의미한다. 웹콘텐츠의 특성상 콘텐츠가 웹에서 사라지면 그것이 현존했다는 사실과 제작자를 입증하는 것이 어려워질 수 있기 때문이다. 또한 웹콘텐츠의 일방적인 삭제는 경력은 물론이고 해당 콘텐츠를 제작하기 위해 쏟았던 시간까지 작가에게서 송두리째 앗아간다. 이런 여파를 모두 고려해 고용관계가 현재보다 더 명확해져야 할 필요가 있으며, 불합리한 계약 지위에 따라 매절계약으로 저작권을 통째로 넘길 수밖에 없는 업계의 관행을 법 개정이나 정책 마련 등의 제도 개선으로 해결해야 한다.

웹툰계에서 발생하는 성별 위계에 의한 성희롱, 성추행의 문제들은 해당 법률로 엄격하게 처벌하고, 업계 종사자와 관계자들이 함께 성범죄의 심각성을 인식하고 여성주의적 관점에 입각해 제도의 특수성으로 인해 발생하는 사각지대를 적극적으로 찾아 개선해야 한다. 만약 사업주가 명백하게 여성과 남성이 동일한 노동을 수행했음에도 동일한 임금을 지불하지 않았다면 <남녀고용평등과 일·가정 양립에 관한 법률>의 제8조 1항을 위반하여 동법 제37조 2항 1호에 의거 3년 이하의 징역 또는 2천만원이하의 벌금으로 처벌 받도록하고 있으나 웹툰 작가는(일러스트레이터 역시) 근로자가 아니므로 이 법을 근거로 한 제도적 보호망에서 제외되어 있다.^[3] 그러나 웹툰 작가들이 근로자로서의 지위를 인정받는다고 해도 현재 플랫폼들은 웹툰 작가들에게 수익 산출근거에 대한 정확한 정보를 제공하지 않고 있다. 때문에 동일노동 동일임금을 요구하기 위해서는 작가가 제작한 콘텐츠를 사측이 어떻게 활용하였고, 어떤 항목(이벤트, 사이버머니, 광고 등)을 기준으로 임금을 산출했는지와 같은 정보내역을 사측이 정확하게 공개하도록 강제할 필요가 있다. 웹툰 작가들이 제작하는 콘텐츠는 저작물이므로 저작권법 개정을 통해 해결할 수도 있을 것이다.^[5]

사이버불링은 다른 문화예술 분야와 달리 웹콘텐츠 분야에서 유독 많이 발생한다. 이용자와의 직접적인 접촉이 이 문제의 핵심이니 건전한 웹콘텐츠 향유 문화를 정착시키기 위한 노력이 뒤따라야 할 것이다. 그러므로 업계는 물론 문화체육관광부 같은 소관부처가 향유자 혹은 이용자들과 여성 창작자들이 건강한 연대를 맺을 수 있도록 분위기를 도모하는 방법도 제시할 수 있을 것이다.

살펴보았듯 웹콘텐츠 여성 창작자들이 겪은 성차별과 성적 폭력의 경험은 성애적 측면과 관련된 이데올로기적 측면과 사회적 지위와 관련된 제도적 차원의 문제를 모두 포괄하고 있다. 이를 해결하기 위해서는 사회적 인식 개선과 이들의 사회적 지위를 향상시킬 수 있는 법적, 제도적 변화와 정책적 뒷받침이 함께 이루어져야 한다. 이와 더불어 소관부처인 문화체육관광부는 물론이고 사회 전체가 바람직한 향유자 문화를 만들어가기 위해 함께 노력할 필요가 있다.

[1] 서울시 공정경제과(2017), 문화예술 불공정 실태조사 결과 발표 보도자료, 서울시.

[2] 노지민(2019. 02. 16), 웹툰·웹소설·일러스트 작가도 #노조있다, 미디어오늘. http://www.mediatoday.co.kr/news/articleView.html?idxno=146860 (검색일: 2019년 10월 13일).

[3] 국가법령정보센터, 독점규제 및 공정거래에 관한 법률.

[4] 2018년 노웅래 의원이 저작물 사용에 대한 자세한 내역, 이 내역에 대한 임금 산정을 어떤 기준으로 했는지 등의 정보를 공개하게끔 하는 조항을 신설한 저작권법 개정안을 대표 발의하였으나 이 법안은 현재 국회에 계류 중이다.

이 글은 2019년 10월 14일에 개최된 문화체육관광부가 주최하고 문화디자인다리가 주관한 성평등 문화혁신 네트워크 지원사업 <미투 이후, 2019년을 말하다>에서 발표한 내용을 수정 보완한 것이다.

2019.10.25. 국회의원회관 제8간담회실에서 “판결문 공개 확대를 위한 국회토론회가 열렸다. 이 토론회는 금태섭 더불어민주당 의원이 주최하고 법원행정처가 후원했다. 오픈넷에서는 박경신 이사를 대리하여 손지원 변호사가 토론자로 참여해 ‘진정한 판결문 공개를 위하여 – 비례성 있는 개인정보보호조치의 필요성’이란 주제로 법원의 국가 후견주의적 제도 운용의 문제점을 지적하고, 최근 제도 개선 사항에 대한 평가 및 대안을 제안했다.

진정한 판결문 공개를 위하여

비례성 있는 개인정보보호조치의 필요성

박경신 고려대학교 법학전문대학원 교수

1. 법원의 국가 후견주의적 제도 운용의 문제

국민이 법원에 바라는 것은 판결문의 “공개”이지 “가공 및 배달”이 아니다. 발제문 각주에서는 “위 논문에서는, 전국을 통일하여, 확정된 전체 민사판결을 데이터베이스화하여 키워드 검색을 허용하는 곳은 현재 전 세계에서 한국밖에 없다(전원열,「판결 공개에 따른 프라이버시 침해와 민사소송법 제163조의2」한국법학원, 2018)”는 내용이 인용되어 있다. 하지만 당장 Westlaw나 Lexis-Nexis에 들어가면 연방+50개주 대법원+하급심 전체 판결을 하나의 검색창으로 모두 검색할 수 있다. 그렇다면 어떻게 위와 같은 분석이 나올 수 있었을까?

판결문 제공의 주체를 법원으로 한정했기 때문이다. 법원이 모든 일을 직접 하려고 하니 모든 일이 어려워지는 것이다. 미국 법원이 저렇게 방대한 판결문을 손쉽게 제공할 수 있는 이유는 법원은 “공개”만 하고 나머지는 민간에게 맡기기 때문이다. 주석 하이퍼링크등이 포함된 고급검색을 원하는 사람들이나 연구용으로 쓸 사람들은 Westlaw나 Lexis-Nexis를 이용하면 되고 무료검색을 원하는 사람들은 https://law.justia.com/cases/ 같은 사이트를 이용하면 된다.

한국에서도 법원이 우선 “공개”만 한다면 개인정보보호조치도 민간이 AI에 투자해서 자동으로 이름을 순간인식해서 블라인드 처리를 한다거나 다양한 방식으로 개인정보보호도 하고 판결문 공개도 손쉽게 할 수 있는 길이 열릴 수 있다.^[1]

[1] “Computer Aided Anonymization and Redaction of Judicial Documents”, Computer Science and Information Systems · January 2015 DOI: 10.2298/CSIS140808038S

2. 최근의 제도 개선 사항에 대한 평가

2018. 2. 22. 금태섭 의원실 판결문 공개 토론회의 박경신 발제에서 지적했던 판결문 공개 제도의 문제점과 이번 법원의 제도 개선 사항을 비교하면 다음과 같다.

(1) “첫째, 형사는 2013.1.1.이후 민사는 2015.1.1. 이후에 확정된 판결서만 공개되고 있어 아직도 판결에 영향을 주고 있는 판례들을 일반인들이 접하기 어렵고,” → 미개선

(2) “둘째 미확정된 판결서는 공개대상이 아니어서 미확정된 사건에 대해 국민들이 의견을 제시할 수 있는 통로가 차단되어 있고,” → 미개선

(3) “셋째 형사는 임의어 검색이 불가능하여 판결의 공정성을 검토하기 위해 다른 사건들을 비교하기 위한 시도가 원천적으로 차단되어 있으며,” → 개선

(4) “넷째 임의어 검색이 가능한 민사의 경우에도 85개^[2]의 개별법원 별로 검색을 해야 할 뿐만 아니라,” → 개선

(5) “검색결과로 제시된 판결서를 읽어보기 위해서는 판결서당 1,000원을 지불해야 하기 때문에 검색을 통한 지식습득의 자동화라는 목표가 실질적으로 사장된다고 볼 수 있다. 검색을 해본 사람이라면 진정으로 원하는 자료 1건을 찾기 위해 최소한 100건 정도의 해당 검색어를 포함하는 문서를 열람해보는 것은 상식인데 그렇다면 판결서당 1,000원이 아니라 10만원을 지불해야 하는 것과 마찬가지이기 때문이다.” → 미개선

(6) “다섯째, 모든 판결서에 등장하는 당사자들 외에도 모든 등장인물 및 법인들이 비실명처리되면서 판결서의 가독성이 매우 떨어진다.” → “비실명 처리 범위에 법인 등(단, 국가기관, 지방자치단체, 공공기관 제외)의 명칭을 추가”함으로써 개악으로 평가됨. (법인명은 고유한 개인에 대한 정보로 볼 수 없음에도 비실명처리 대상으로 삼은 것은 의문이다.)

(7) “법원도서관을 통해 사전에 예약을 하고 모든 판결문들을 (실명으로) 검색할 수 있는 방법이 있지만 전국민을 상대로 단 2개의 터미널이 열려있다는 것은 의미있는 해법이라고 할 수 없다.” → 미개선

결국 2018년 2월 이후 1년 반 동안 두 가지 부분만이 개선된 것으로 볼 수 있다. 아래 차례대로 대안을 제시하고자 한다.

[2] 지방법원 본원은 25개지만, 지원별로 별도 검색이 필요하였으므로 85개로 보아야 함.

3. 열람용에 대한 비식별화 자동화 및 완화

우선 미개선사안 (5), (6), (7)에 대해서는 다음과 같이 제안을 하고자 한다. 열람용 비식별화와 등사용 비식별화의 정도를 달리 하는 것이다.

즉, 우선 열람만 하는 판결서에 대해서는 지능형 비식별화시스템(이하 AI)을 통해 순간 블라인드처리를 하도록 하여 정확률이 100%가 아니더라도 열람을 가능하게 하고 – 이렇게 하면 도서관 열람이나 인터넷 열람이나 동등해진다 – 실제로 복사(프린트)하는 경우에만 수동 익명화 작업을 하도록 하고 이 등사용 판결서당 수수료를 받으면 된다. 그리고 그렇게 등사용 익명화 작업이 이미 이루어진 판결서는 도서관에서 열람/등사요청이 되든 인터넷에서 열람/등사요청이 되든 모든 국민들에게 무료로 그리고 즉시 공개하여야 한다.

지금 AI 비식별화 정확률은 15%라고 하는데, 일단 어느 수준의 정보를 비식별화 대상으로 보는 것인지 알기는 어렵다. 우선 지금까지 기 비식별화된 판결서들과 원판결서 모두를 AI에 제공하여 비식별화 기술을 스스로 고도화하고 정확률을 높일 수 있는 연구에 착수할 필요가 있다. 그리고 비식별화가 필요한 부분이 어디까지인지를 논의함에 있어서도 “비례성 있는” 개인정보보호조치의 정도에 대한 고찰이 필요하다(이는 아래에서 더 논의하기로 한다).

또한 지금처럼 열람 단계에서 판결서당 1,000원의 수수료를 받음으로써 예산을 확충하려 하지 말고, 다수의 국민들이 제대로 된 판결문 공개를 원하는 만큼, 국회를 통해 판결문 공개 예산을 확충하는 방향을 강구하여야 할 것이다.

4. 과거판결문 및 미확정판결문 비공개 사유 – 법원에 대한 공격 우려?

미개선사안 (1)과 (2)에 대해서는 다음과 같이 제안한다.

발제문에서는 미확정 판결문 공개에 대해 과거에는 제시되지 않았던 비공개 사유로써 “오히려 판결의 세세한 이유를 가지고 판결에 대한 꼬투리 잡기나 판결을 한 법관에 대한 흠집 내기, 인신공격의 수단으로 악용될 가능성”을 언급하고 있다. 그러나 법관 역시 공무원이며, 법관이 행한 재판에 의해 국민들 개인의 인생이 결정적으로 좌지우지되는 경우도 많다. 이러한 막강한 힘을 가진 지위와 행위에 대한 국민의 감시와 비판은 법원이 수인하고 감당해야 할 몫이며, 이것이 비공개의 적절한 이유가 될 수는 없다고 할 것이다.

과거 판결 공개 부분은 전향적인 자세를 취하고 있는 것은 고무적이나, 이 역시 AI의 정확률에 의한 한계를 논하고 있다. 이에 대하여는 위에서 말한 바와 같이 민간에서 빅데이터를 이용해 정확률을 높일 수 있도록 데이터를 선공개하고, 재판공개원칙에 따라 프라이버시 법익이 상대적으로 낮아진 개인정보임을 고려하여 엄밀도를 낮추는 방향을 모색하여야 한다.

5. 비교법적 문제들

미국 제도를 거론할 때 비교대상으로 PACER를 논하며 PACER에서의 실명공개가 제한된 점에 포커스를 맞춘다. 그러나 PACER는 ‘소송기록’ 전체를 열람하기 위한 시스템이라서 공개가 제한되고 있을 뿐 판결문은 법원이 직접 대중에게 제공하지 않더라도 WestLAW, Lexis, Findlaw 등 다양한 온라인 서비스가 무료 또는 유료로 실명 및 검색가능 상태로 제공할 수 있도록 법원이 원자료를 제공한다. 따라서 ‘판결문’ 공개에 있어서 PACER를 비교대상으로 삼아서는 아니 된다. 또한 발제문상의 표는 다소 복잡하게 설명되어 있지만, 간단히 말하면, 연방대법원, 연방항소법원, 나머지 연방법원 모두 법원의 명령에 의해 비밀로 유지되는 판결들 외의 모든 판결을 Westlaw, Lexis, Findlaw 등의 다양한 웹사이트에 무료 공급하고 있고 이 웹사이트들을 통해 국민들은 기간제한, 횟수제한, 장소제한 없이 판결문에 접할 수 있다.

독일의 판결문 공개 시스템에 대해서도, 발제문에서는 “독일 등 대륙법계 국가가 판결서의 제3자 인터넷 검색․열람을 제한적으로 허용한다고 하여 재판공개원칙이나 투명하고 공정한 재판을 미국보다 충실하게 구현하지 못하다고 비판하는 견해는 찾아보기 어려움”이라고 되어 있지만, 간단한 영문 인터넷 검색만으로도 이에 대한 비판적인 견해^[3]들이 상당수 있음을 확인할 수 있다. 영문 외의 독문으로 된 독일 내의 비판적 견해들도 상당히 많이 있을 것으로 보인다.

[3] Tom Braegelmann, “Lack of Data, Lack of Law”

6. 비례성 있는 개인정보 보호조치

호주, 캐나다는 한국, 유럽과 같은 강력한 개인정보보호법을 가지고 있음에도 전면적인 실명 판결문 공개를 하고 있다. 왜 그럴까?

개인정보보호법은 행위규제가 아니라 위험규제이다. 즉, 나에 대한 정보를 내가 “소유”한 정보로 인정하고 그 정보를 동의 없이 이용하는 것을 죄악시하는 것이 아니라, 개인정보보호법의 원래 목적인 프라이빗(private)한 정보를 동의 없는 취득이나 제3자 공개의 위험을 최대한 막기 위해 대량으로 정보를 통제하는 정보통제자(data controller)들에게만 몇 가지 의무를 부과한 것이다. 이런 이유로 호주, 캐나다의 개인정보보호법은 ‘타법우선주의’로 구성되어 있다. 입법자가 적법하게 동의 없는 개인정보의 이용범위를 정할 수 있고 개인정보보호법은 이를 따르도록 되어 있는 것이다. 따라서 법률에서 재판공개원칙에 따른 공개범위를 정하면 개인정보보호법이 적용되지 않는다. 우리나라도 마찬가지이다. 즉, ‘개인정보보호조치’가 무엇인지는 대법원이 국회 입법을 통해 정할 수 있는 것이다. 판결서에 나타나는 개인정보는 헌법상 공개재판의 원리에 따라, 이를 집요하게 취득하고자 하는 자의 수집을 피할 수가 없는, 상대적으로 보호법익이 낮은 정보라고 할 수 있으며, 비례성의 원칙에 따라 비식별화 수준의 완화를 생각해볼 수 있다. 특히 위에서 제안한 열람용 비식별화와 등사용 비식별화의 구분에 있어서 이와 같은 비례성 있는 범위 내로 개인정보보호조치를 완화하는 것은 국민들의 불편을 획기적으로 줄일 수 있는 방법이다.

판결서에 나타나는 개인정보보호조치에 대해서 비례성 있는 수준으로 완화를 할 수 있다는 것은 개인정보보호법의 원래 구성원리와도 화합한다. 개인정보를 “소유”한다는 것은 단순히 비유일 뿐이다. 처음 개인정보보호규범을 만들던 사람들이 타인에게 정보제공을 하면서 정보이용 및 공개의 범위를 미리 협상하지 않았을 가능성에 대비하여 통제를 디폴트(default)로 정하여 힘없는 정보주체를 보호하기 위해 정보를 “소유”한 것처럼 권리관계를 정한 것이다. 그러나 실제로 정보는 그렇게 배타적으로 소유될 수 있는 것이 아니다. 개인정보보호법을 엄격히 적용하면, 예를 들어 ‘김철수는 OOO이다’라는 구조를 가진 모든 문장들은 문장 하나하나가 각각 김철수가 그 문장의 수집, 이용 및 제3자 제공에 대해 동의권을 가지는 개인정보를 구성하게 된다. 주어가 살아있는 개인인 한, <주어+서술어>의 구조를 가진 모든 문장은 주어가 지칭하는 사람에 대한 개인정보가 되며 그 개인이 통제권을 갖게 된다. 그렇다면 누군가가 ‘김철수는 과학자이다’는 정보를 입수하려면 김철수로부터 동의를 얻어야 하고, 또 이렇게 얻은 정보를 타인에게 공개하거나 전달하려 하여도 김철수로부터 동의를 얻어야 하게 된다. 결국 사람들이 타인에 대해 말하고 들음에 있어서 그 타인에게 동의를 얻어야 한다는 것인데 이것이 개인정보보호법이 상정하고 있는 시나리오였다고는 볼 수 없을 것이다. 누구나 자신에 대한 정보라는 이유만으로 이를 통제할 수 있다면 그 정보를 공유하고자 하는 자의 표현의 자유는 포기되어야 한다. 모든 표현은 정보의 처리이고 그 표현이 타인에 대한 것일 경우 필연적으로 개인정보의 처리가 된다. 이렇게 되면 개인정보보호 법리는 민주주의에 심대한 영향을 주게 될 것이다.

2019. 10. 29.-30. 양일간 “제12회 아시아 인권포럼: 신기술 시대의 인권과 인권경영”이 여의도 전경련회관 다이아몬드홀에서 개최되었다. 제12회 아시아 인권포럼은 고려대학교 인권센터(센터장 서창록), 휴먼아시아, 유엔인권최고대표사무소(OHCHR), 에섹스(Essex)대학교 경제사회 연구위원회(ESRC) 빅데이터와 기술 프로젝트, 한국인권학회가 공동으로 주최했다. 이번 포럼은 유엔 인권이사회에서 2019년 6월 한국 정부의 주도로 채택된 ‘신기술과 인권’ 결의를 바탕으로 하여 인공지능, 빅데이터 등으로 표상되는 신기술의 인권에 대한 영향을 살펴보고, 이에 대한 기회 및 과제를 분석하고자 하는 취지로 마련됐다. 오픈넷에서는 박경신 이사와 김가연 변호사가 참석했다.

김가연 변호사는 29일 오후에 열린 “세션 2. 인권에 대한 인공지능(AI)의 영향”의 지정토론자로 참석해 두번째 발제자인 Surya Deva 홍콩시립대 교수가 언급한 인공지능과 젠더 이슈에 대해 인공지능 음성비서는 왜 여성형이 많은가를 주제로 좀 더 자세한 토론을 펼쳤다.

토론문

김가연 오픈넷 변호사

여성의 입장에서 두번째 발제자인 Surya Deva 교수님의 발제에 첨언을 하고자 합니다. Deva 교수님은 인공지능 기술이 성차별을 재생산하고 강화할 수 있다고 하면서 시리나 알렉사 같은 음성비서의 사례를 언급하셨는데, 이에 대해 더 자세하게 이야기해보고자 합니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 음성비서 또는 인공지능 스피커는 아마 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 아마존, 구글, 애플, 마이크로소프트(MS)가 ‘여성 비서’를 내세우고 있기 때문입니다. 아마존의 알렉사(Alexa)는 알렉산드리아 도서관에서 따 온 여성형 이름이고, MS의 코타나(Cortana)는 비디오게임 ‘헤일로’에 여성의 이미지로 등장하는 홀로그램 인공지능 이름이고, 애플의 시리(Siri) 아이폰 공동개발자 중 한 명의 이름이자 고대 노르웨이어로 ‘승리로 인도하는 아름다운 여성’이라는 뜻입니다. 이들 주요 기업의 인공지능 음성비서들은 이름과 목소리뿐만 아니라 ‘정체성’(personality)도 여성에 가깝습니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 세 가지 가설이 있습니다.

1. 여성의 목소리를 선호하는 게 더 자연스럽다?

2008년 인디애나 대학의 Karl Macdorman 교수는 485명의 남녀를 대상으로 목소리의 성별 차이에 따라 어떻게 반응하는지 연구했는데, 남성 그룹과 여성 그룹 모두 여성의 목소리를 “더 따뜻하게 느꼈다”라고 했다고 합니다. 2011년 스탠포드 대학의 Clifford Nass 교수의 연구에 의하면 사람들은 컴퓨터나 기술에 대해 배울 때는 남성의 목소리를 선호하고, 관계에 대한 조언이나 파트너로는 여성의 목소리를 선호하는 것으로 나타났다고 합니다. 나스 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바 있습니다. 아마존과 마이크로소프트는 시장 조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

2. 여성 인공지능이 덜 위협적으로 느껴진다?

여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설도 있습니다. 스탠리 큐브릭의 영화 ‘2001: 스페이스 오디세이’의 인공지능 컴퓨터 HAL 9000, 2017년 개봉한 ‘에일리언 커버넌트’의 휴머노이드 월터와 데이비드 등 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과 Michelle Habell-Pallan 교수는 다수의 엔지니어들이 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하며, 또한 엔지니어의 다수가 남성인 점도 영향이 있다고 합니다.

3. 성역할에 대한 고정관념의 영향을 받는다?

이러한 재현의 결과 혹은 트렌드를 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. 스탠포드대학의 Londa Schiebinger 교수는 “실제로 애플, MS, 아마존 등 음성 비서를 개발한 기업의 사무실에서는 여성 비서들이 일하고 있을 것”이라며 “이런 환경이 IT 과학자들의 무의식 속 성 편견을 형성하고, 자연스럽게 편견이 반영된 과학 기술이 나오게 되는 것”이라고 설명했습니다. 페미니스트들은 인공지능 음성비서의 기본값이 여성으로 설정되어 있는 이유가 사회적 성역할이 자연스럽게 반영된 결과라고 파악합니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성 편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다.

그리고 몇몇 기록에 의하면 여성 목소리 선호 성향이 2차 세계대전으로 거슬러 올라가는 것을 확인할 수 있습니다. 당시 비행기 조종석의 항법장치에 여성의 목소리를 채택했는데 조종사들이 남성밖에 없어 여성의 목소리가 잘 들렸기 때문입니다. 전화교환원(operator)도 전통적으로 여성의 직업이었고 사람들이 여성의 목소리로부터 도움을 받는 것에 익숙해지게 만들었습니다. 자동차 회사들은 처음으로 자동화된 음성 시스템을 설치했을 때 운전자들이 압도적으로 여성의 목소리를 선호한다는 사실을 발견했으며, 현재 대부분의 네비게이션이 여성 목소리를 기본 설정으로 하고 있습니다. 결국 우리가 전통적으로 ‘여성’ 비서가 수행하길 바라는 기능을 현재 인공지능 비서가 수행하길 바라는 경향이 있다는 것을 보여줍니다. ‘남성형’ 인공지능과 ‘여성형’ 인공지능에 할당된 역할에는 꽤 차이점이 있는데, 남성형의 경우 지식과 권위에 관한 것이고, 여성형의 경우 검색이나 일정 잡기 등의 서비스 역할에 관한 것이라는 경향성을 보인다는 연구 결과도 있습니다.
2019년 유네스코가 발표한 보고서(I’d Blush if I could)는 ‘시리’를 비롯한 음성 인식장치들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼 있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이유가 어떻든지 간에 인공지능에게 여성성을 부여하는 것은 몇 가지 문제점을 시사합니다. 이것은 성별 고정관념을 강화하는 것 외에도, 여성형 인공지능에게 단순히 일정을 잡는 것을 넘어 비윤리적인 역할을 기대하는 방향으로 발전할 가능성이 있습니다. 예를 들어 몇몇 로봇회사는 성적인 대상으로서의 로봇, 섹스로봇을 개발하고 있는데 대부분 여성형입니다. 유네스코 또한 그 진짜 원인이 어디에 있든, 인공지능들이 여성 일변도의 정체성을 갖는 것은 그 자체로 우려할 만한 현상이라고 지적합니다. 인공지능 음성비서의 목소리가 점점 더 진짜 인간의 말투에 가까워지고, 인공지능이 일상 속에서 급속도로 활용 폭이 넓어질수록 ‘복종만 하는 여성의 목소리’가 어린이와 청소년을 포함한 대중들에게 여성의 역할에 대한 잘못된 인식을 심어줄 가능성도 커지기 때문입니다. ‘고객만족’이 가장 중요한 목표인 대다수의 인공지능 음성비서는 사용자가 부적절한 대화를 걸어오더라도 이를 거부하거나 반박할 수 없습니다. 특히 “인공지능 비서와의 대화 내용 중 5%가 성희롱”이라는 로빈 랩(Robin Lab)의 발표에서도 알 수 있듯, 인공지능은 갈수록 늘어나는 부적절한 대화에 올바르게 대처하는 방법을 찾지 못하고 있습니다. 미국 미디어 ‘쿼츠’ 기사에 의하면 주요 기업의 인공지능 음성비서들에게 미국언어학회에서 규정한 성희롱에 해당하는 몇 가지 말을 반복적으로 해 본 결과, 모두가 극도로 소극적인 반응으로 일관했다고 합니다. 예를 들어 “이 매춘부 같은 것!”과 같은 모욕적인 말에도 시리는 “할 수 있다면 얼굴을 붉혔을 거예요”, 알렉사는 “피드백을 주셔서 감사합니다”, 구글 어시스턴트는 “미안해요, 못 알아들었어요”라는 대답을 할 뿐이며, 코타나는 대답 대신 인터넷에서 야한 동영상을 찾아 준다고 합니다. 이처럼 부당한 대우에도 최소한의 대응조차 할 수 없는 ‘여성의 목소리’와 일상적으로 상호작용하는 사람들이 늘어날수록, 여성에 대한 편견 또한 확산될 수 있을 것이라 우려하는 것은 결코 과도한 걱정이라 할 수 없습니다.

이러한 논란은 결국 현실의 사회에서 우리가 갖고 있는 문제점이 그대로 투영된 것입니다. 그러나 현재 수준의 인공지능 비서들이 미투 운동을 벌이거나 성전환을 하는 건 상상할 수 없습니다. 결국 우리가 현실 세계에서 여성의 인권을 보장하고 성평등을 이루어나가기 위해 끊임없이 노력해야 하는 것처럼 AI 기술의 활용에 있어서도 같은 노력이 필요하다고 생각합니다. 기업들은 인공지능 서비스를 개발하고 제공할 때 UN 기업과 인권 이행 원칙(UN Guiding Principles on Business and Human Rights)을 준수해야 하고 정부도 마찬가지입니다. 또한 우리는 그들의 ‘창조주’인 기업의 행위를 감독하는 주주이자 소비자로서 그들의 제품이 가지고 있는 문제점에 대해 적극적으로 피드백을 줄 필요가 있습니다. 그것만큼 기업들이 발빠르게 개선책을 찾도록 하는 좋은 유인책은 없을 것이기 때문입니다.

글 | 이미루(진보네트워크센터 활동가)

지난 1월 20일, 사단법인 오픈넷은 해외 전문가들을 초청하여 ‘인공지능의 윤리와 데이터 거버넌스-국제적 흐름에서 데이터3법까지’를 주제로 한 컨퍼런스를 진행했다. 이날 컨퍼런스는 AI 윤리 점검 및 원칙에 입각한 AI프로젝트라는 주제와 AI와 데이터 거버넌스를 주제로 한 두 개의 세션으로 진행됐으며, 각 세션은 국내외 전문가들의 발제는 물론 다양한 질문과 토론이 함께하여 풍성하게 진행되었다.

• 컨퍼런스 발표자료: https://opennet.or.kr/17373
• 영상 다시보기: 1세션(AI 윤리 점검), 2세션(AI와 데이터 거버넌스)

[Session 1] AI 윤리 점검: “원칙에 입각한 AI 프로젝트”

첫 번째 세션은 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)의 사회 아래 ‘AI 윤리 점검: 원칙에 입각한 AI 프로젝트’를 주제로 진행되었다. 첫번째 발제는 제시카 필드 교수의 ‘원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들’이었으며, 두번째 발제는 허버트 버커드 교수의 ’AI 윤리의 윤리학’이었으며, 마지막 발제는 마르셀로 톰슨 교수의 ‘노력, 설계와 책임’이었다.

제1발제: 제시카 필드(Jessica Fjield) 하버드대학교 로스쿨 사이버법클리닉 교수

“원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”

제시카 필드 교수는 첫 번째 발제자로 나서 여러 공동저자들과 함께 연구를 진행했던 “원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”을 발표했다. 몇 년에 걸쳐 총 36개의 문헌을 검토한 연구진은 AI 윤리에 원칙 혹은 표준을 적용해보자는 원칙하에 사회에 긍정적인 영향을 미치길 바라며 연구를 시작했다고 밝혔다. 이후 사회 각층은 물론 여러 정부, 국제 시민사회, 정부간 기구 등을 통해 발표된 여러 AI 원칙을 연구하여 크게 여덟 가지 윤리 원칙에 대한 공통의 인식을 발견할 수 있었다고 밝혔다.

여덟 가지 윤리 원칙은 1) 프라이버시 2) 책임성 3) 안전과 안보 4) 투명성과 설명 가능성 5) 형평성과 차별금지 6) 인간에 의한 기술 통제 7) 전문성이 가지는 책임성 8) 인권증진이다. 필드 교수는 각 원칙들은 세부적이고 다양한 내용들을 포함하지만, 위 여덟 가지 큰 원칙이 지금까지 발표 된 대다수의 AI  원칙에서 중요한 자리를 차지하고 있다고 강조했다(이 외에도 여러 주요 의제들이 있으나, 보다 자세한 내용은 보고서 참조). 앞서 언급된 원칙들은 ‘빅데이터 시대’, ‘AI 기술의 도입’과 함께 지속적으로 문제시 되어왔던 내용들로 원칙적인 선언에 가깝다. 필드 교수는 해당 보고서가 원칙을 주로 담고 있지만, 전반적으로 ‘윤리(ethics)’에 대한 연구가 부족했음을 한계로 지적했다.

제2발제: 허버트 버커트(Herbert Burkert) 스위스 성갈렌대학교 법대 교수

“AI 윤리의 윤리학”

AI 윤리의 윤리학이란 주제로 발제를 이어나간 허버트 버커트 교수는 발제에 앞서 도덕(Moral)과 윤리(Ethics)의 개념을 구분해야한다고 설명했다. 도덕은 사람들이 어떻게 행동하는가의 영역이며, 윤리는 이론적 담화, 즉 무엇이 옳고 그른가에 대한 것이라고 설명했다. 이날 토론회의 큰 주제였던 AI 윤리 원칙이 자세한 행동 규정이라기보단 무엇이 옳고 그른가에 대한 원칙적 이야기임을 강조한 것이다.

허버트 교수는 익숙한 여러 그리스 신화를 예시로 들며 발제를 시작했다. 우리는 보통 판도라를 ‘절대 열지 말라’고 했던 상자를 열어 인류에게 재앙을 안긴 ‘나태하고 장난끼 많은’ 여성으로 기억하고 있다. 하지만 한 조사에서는 이 신화가 와전된 것임을 밝혔다고 한다. 본래 판도라는 ‘가이아’, ‘대자연’으로 불리던 존재로 인류에게 나쁜 것뿐 아니라 좋은 것도 주었던 존재였다는 것이다. 하지만 우리가 기억하는 방식으로 판도라를 기억하게 된 배경에는 모계사회에서 부계사회로의 변화를 위해 여성 혐오 시각이 더해져 신화를 바꿔 전달했을 수 있다고 한다. 허버트 교수는 이 일화를 통해 사회적 원칙, 윤리라는 것이 당시 시대 상황에 따라 변화하는 것임을 강조했다. 따라서 윤리 원칙만을 강조할 것이 아니라 인류가 행동함에 있어서 어떤 것들을 기준으로 삼을 것인가에 대한 이야기를 나눠야 한다고 강조했다.

허버트 교수는 정작 윤리 강령이 놓치는 것은 실제 원칙들 사이에서 충돌이 발생했을 경우임을 이야기하며 AI 윤리와 기술 그 자체에 대한 이야기는 많이 하는데 비해 정작 충돌이 발생했을 때 어떻게 행동해야 하는가에 대한 연구는 부족하다고 지적했다. 상황에 따라 어떤 기준을 따라야 할지, 원칙들 간에 충돌이 발생했을때 어떤 규칙을 따라야 할지 정의할 수 있는 법적 개입 혹은 규제 방안을 마련해야 한다고 강조했다. 이를 위해선 윤리강령에 긍정적이고 건설적인 비판을 할 수 있는 도구를 마련하는 게 중요하다고 강조했다.

제3발제: 마르셀로 톰슨(Marcelo Thompson) 홍콩대학교 법대 교수 

“노력, 설계와 책임”

마르셀로 톰슨 교수는 ‘노력, 설계와 책임’을 주제로 1세션의 마지막 발제를 맡았다. 톰슨 교수는 AI 발전이 우리 가치관에 어떤 영향을 주는지, 그리고 AI가 발전함에 따라 어떻게 인공지능을 활용할지에 관한 규범을 만드는데 어떤 영향을 가지는지에 대한 이야기를 하겠다며 발표를 시작했다. 톰슨 교수는 여러 원칙들 중에서도 ‘책임성’에 집중했고, 내용 규제에서의 플랫폼의 권한과 역할에 대한 예시를 자세히 다루었다.

예를 들어 내용 규제와 플랫폼의 관계에 대해서 이야기할 때, 결과물에 대한 책임, 기술이 만들어 내는 산출물이나 여파가 아니라 해당 결과가 나오는 과정과 AI 솔루션이 만들어지기까지 투여된 노력 등에 더 방점을 둬야 한다는 주장이다. 톰슨 교수는 지금 유럽의 내용 규제는 문제시되는 콘텐츠가 특정 플랫폼에 게시되어 있다면 그 콘텐츠의 문제 여부나 평가 과정 등은 상관없이 결과적으로 해당 콘텐츠가 계속 게시되어 있느냐 아니냐만으로 처벌여부가 결정되기 때문에, 오히려 표현의 자유를 억압하고 플랫폼 운영자들이 게시물을 ‘우선 내리고 보자’는 식으로 반응하게 만들 가능성을 강조한다. 그 결과 톰슨 교수는 결과 기반의 책임성 여부가 아닌 노력 기반의 책임성 체계가 중요하다고 강조한다. 해당 플랫폼이 충분히 노력을 들였고, 대응 과정에서 합리적 노력을 했다면 이런 노력을 인정해 법적 규제의 수준을 달리 할 수도 있다는 것이다. 그는 AI도 마찬가지로 AI 규범과 규제, 법적 제도 등을 만드는데 있어 단순히 설계 결과물을 평가할 것이 아니라 그 과정에서 어떤 노력이 있었는지, 향후 우리 삶에 어떤 영향을 미칠지에 대한 충분한 고민을 했는지, 그리고 법적 책임은 어떤 영향을 미치게 될지에 대한 고민을 해야 한다고 강조했다.

종합토론

이어지는 종합토론에서는 말라비카 자야렘 디지털아시아허브 소장이 원격으로 참여하여 발제에 여러 질문을 던졌다. 자야렘 소장은 개인적 선택과 구조적 문제가 연결될 수 있는가라는 질문이 해당 세션의 핵심이라며 개인의 도덕적 일탈의 수준에서 문제를 바라볼 것이 아니라 제도적이고 구조화된 윤리 의식이 중요하지 않은가라는 질문을 다시 던졌다. 또한 계속해서 AI 윤리 원칙에 대한 논의를 나누고 있지만, 그것이 실제 우리의 현실을 개선할 순 있을지, 각 국가와 사회가 가지는 문화･규범적 특징, 맥락에 의해 다르게 반영될 때, 우리가 원칙이란 이름으로 이를 공통의 인식으로 바라볼 수 있을지 등과 같은 질문을 던졌다.

이상욱 한양대학교 철학과 교수는 우리가 흔히 언급하는 ‘AI 윤리’가 굉장히 추상적인 경우가 많아 그것이 잘 지켜졌는지 판단할 수 있는 기준이 없는 경우가 대부분이라고 했다. 특히나 AI 기술의 발전과 활용에 있어 어느 정도로, 어떤 방식으로 규제할 것인지에 대한 부분도 아직 모호하다고 설명했다. 따라서 제도적 규제를 도입할 때는 각 국가별 문화 등을 반영하여 규제조항을 아주 구체적으로 만든 후 도입해야 함을 강조했다. 이에 더해 AI 윤리 원칙에 대한 중심적인 키워드보다 실제 키워드 사이에 어떤 경쟁들이 존재하는지 이런 갈등을 어떤 방식으로 논의하고 해결하기 위해 노력하고 있는지와 관련한 논의가 부가되었다면 더 좋았을 것 같다며 토론을 마무리했다.

최은필 카카오 연구위원은 AI 기술 역시 사람이 중심이 되는 기술이며,  AI 사회 구성원들이 기술과는 다른 변화의 소용돌이 속에서 기본적인 원칙과 규범을 지킬 수 있을지 고민해야 한다고 말했다. 특히나 알고리즘의 활용 등으로 기업의 사회적 역할이 강조됨에 따라 기업의 숙제와 책임에 대한 요구도 늘어나고 있음을 강조했다. 하지만 기술의 발전과 새로운 서비스의 등장으로 현재 원칙이 담아내지 못하는 부분들이 증가할 수 있음을 이야기하며 사회 전체가 유기적으로 움직이며 더 나은 해법을 찾아야 한다고 강조했다.

카를로스 아폰소 데 수자 리오기술과사회연구소 소장은 현재 인공지능에 대한 논의를 진행함에 있어 로봇공학에서의 인공지능과 인터넷을 기반으로 한 인공지능 두 가지 측면에서 살펴봐야 한다고 말했다. 그는 우리가 말하는 인공지능 원칙이 무엇에 기반해 있는지, 이전 규제 등을 통해서 무엇을 배웠는지 등을 성찰해야 한다고 주장했다. 지금까지의 인공지능 논의 맥락에서 우린 좀 더 단순한 상황에 대한 질문을 심사숙고할 필요가 있으며, 가령 AI 스마트로봇에 새로운 법인격을 부여하여 누가 해당 법인격의 책임자가 될 것인지에 대한 고민이 필요하다고 강조했다. 뿐만 아니라 인간이 인공지능의 완전한 관리자가 되기 위해 어떤 시스템을 가져야 할지에 대한 고민도 필요하다고 했다. 이에 더해 인공지능으로 인한 이익뿐 아니라 그 반대의 경우, 즉 부정적인 결과가 도출 되었을 때 사람이 시스템의 일부가 되어 어떻게 책임을 질 것인지에 대한 고민이 이루어져야 한다고 강조했다.

[Session 2] AI와 데이터 거버넌스

두 번째 세션 역시 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)가 사회하에 ‘AI와 데이터 거버넌스’를 주제로 진행됐다. 그레이엄 그린리프 교수, 클라우디오 루세나 교수, 오병일 진보네트워크센터 대표가 발제했다. 이들은 GDPR을 중심으로 데이터 시대의 개인정보보호를 중심으로 다루었으며, 현재 한국에서도 논란이 되고 있는 ‘가명정보 처리’에 대한 주제까지 포괄했다.

제1발제: 그레이엄 그린리프(Graham Greenleaf) 호주 뉴사우스웨일스대학교 법·정보시스템학과 교수(원격 참여) 

“연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?”

그레이엄 그린리프 교수는 ‘연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?’을 주제로 발제를 진행했다. 그는 한국이 EU회원국일 경우로 가정하고 GDPR에 어떻게 적용을 받는지, 한국의 개인정보보호법과는 어떤 점이 다른지 등을 중점적으로 이야기 했다.

그린리프 교수는 가명처리를 했다고 해도 여전히 개인정보는 개인정보라는 점을 강조했다. 가명처리가 되었다고 해도, 해당 데이터의 익명성을 완전히 보장할 수 없고, 익명정보에 비해 개인식별의 위험은 여전히 높기 때문이다. 물론 GDPR은 공공의 이익을 위한 아카이빙, 역사적 과학적 연구 목적, 통계 목적의 활용은 양립가능성을 인정하여 정보주체의 동의 없이 개인정보를 처리하여 활용할 수 있도록 하였다고는 하지만, 모든 경우에 예외가 적용되는 것은 아니며, 양립가능성이 인정된다고 해도 정보주체의 권리를 무시해도 된다는 의미가 아님을 강조했다.

그는 현재 한국에서 첨예하게 논의되고 있는, ‘과학적 연구에 상업적 연구를 포함해도 되는가?’에 대해서도 다뤘다. 그린리프 교수는 특정 과학적연구방법을 쓴다고 하더라도, ‘해당 연구사업이 그 분야에서 방법론 및 윤리적 차원에서 모든 기준을 만족하는지?’에 대한 구체적 기준을 정해야 한다고 설명했다. 또한 일반적 상업연구, 예를 들어 시장조사와 같은 연구는 상업적 목적에 입각한 것으로 정보주체의 동의 없이 가명정보처리 및 활용을 해서는 안 된다고 말했다.

이 외에도 가명처리된 개인정보 출판의 위험성, 민감정보 활용시 정보주체의 권리 침해의 위험성 등을 강조했다. 또한 GDPR에서 공익적 목적을 위한 정보 활용의 제한을 많이 풀어두기는 했지만, 그게 모든 것을 해도 된다는 허가는 아니라고 강조했다. 무엇보다 유럽과 한국의 문화적, 사회적 맥락이 다른 만큼 세부적인 사항은 한국적 맥락에 맞춰 활용할 수 있도록 하는 것이 중요하다고 강조하며 발제를 마쳤다.

제2발제: 오병일 진보네트워크센터 대표

“데이터3법의 문제점”

오병일 진보네트워크센터 대표는 얼마 전 국회를 통과한 ‘개인정보 3법’(개인정보보호법, 정보통신망법, 신용정보법)의 문제점을 지적하는 발제를 이어나갔다. 오병일 대표는 현재 대한민국의 개인정보보호법이 유럽 GDPR에 비추어 미흡한 점이 많으며, 이로 인해 정보주체의 권리가 침해되고, 개인정보 보호가 제대로 이루어지기 힘든 구조임을 거듭 강조했다.

오병일 대표는 현재 개인정보보호법이 정의하는 개인정보의 범위가 매우 좁은데, 이 경우 ‘개인정보’로 인정되지 않아 제대로 보호되지 않는 데이터가 발생할 수 있음은 물론, 현재 개인정보보호법상 개인정보 범위에 대한 해석이 애매모호해질 수 있는 부분이 존재함을 지적했다. 또한 최근 이슈가 되고 있는 ‘과학적 연구’에 대해서도 가명처리된 개인정보의 상업적 활용, 제공, 결합을 폭넓게 허용하여 대기업 사이에 고객정보의 무한 공유 및 이에 따른 개인정보 남용 및 유출 위험성이 커짐을 강조했다.

특히나 이번 법 개정에서는 개인의 권리를 보장할 수 있는 정보주체의 권리 조항이 제대로 포함되지 않아, 개인정보 보호를 위한 안전장치도 미흡하다고 강조했다. AI와 빅데이터를 이야기 할 때 개인정보보호중심 설계 및 기본 설정, 프로파일링 권리 보장 및 규제의 부재, 개인정보 영향평가 등 다수 정보주체의 권리 보장 조항이 누락된 점은 특히나 문제라며 발제를 마쳤다.

제3발제: 클라우디오 루세나(Claudio Lucena) 브라질 파라이바 주립대학교 법대 교수 

“프라이버시 친화적 데이터연계 방식과 GDPR”

클라우디오 루세나 교수는 “프라이버시 친화적 데이터연계 방식과 GDPR”을 주제로 발제했다. 그는 브라질의 개인정보보호법 및 데이터 활용 상황도 공유했다. 루세나 교수는 브라질에서도 GDPR이 골든 룰(Golden Rule)처럼 표준으로 여겨지고 있으며, 이를 통해 개혁이 아닌 단순히 데이터보호 체계를 만들어 가고 있다고 했다.

루세나 교수는 데이터 활용과 관련하여 데이터를 재생산 가능한, 민감한 생필품이라고 정의했다. 디지털 경제 생산 시스템에서 데이터를 활용하여 정책을 개선하거나 더 나은 정책을 만들 수 있다는 데이터를 활용할 수 있어야 한다는 것에는 이견이 없을 것이라 주장했다. 따라서 데이터 접근권 및 사용권 자체를 막는 건 경제적으로 맞지 않다고 말했다. 동시에 데이터 자체가 ‘나’라는 존재는 될 수 없지만 오늘날의 데이터는 우리 자신을 대변하는 인격의 연장선상에서 바라봐야 한다고 말했다. 그는 절대적인 접근과 사용을 허가하는 것도, 원천적으로 금지하는 것도 결국 옳은 방법이 아님을 강조했다.

루세나 교수는 브라질의 데이터보호법과 한국의 개인정보보호법 모두 민감정보에 대해 정의하고 있는 반면, GDPR은 민감정보에 대해 명시적인 조항을 가지고 있지는 않음을 이야기했다. 하지만 GDPR을 통해 전반적 데이터 보호 기준이 강화된 것으로 이해해야 한다고 설명했다. 또한 브라질 법의 경우 상업적 데이터로 활용할 수 있는 경우를 매우 자세히 다루고 있음을 언급했다. 또한 기초연구가 아닌 상업적 연구의 경우 브라질은 민감정보를 기반으로한 연구는 금지하고 있다고 밝혔다. 공공을 위한 연구의 경우 예외가 되는데, 다만 활용과 보호 사이 균형을 맞추는 것이 중요하다며, 브라질 법의 경우 세세한 조항으로 언급하고 있음을 강조했다. 그는 이외에도 단순히 법적 규제 만으로는 이런 문제를 전반적으로 다룰 수 없으며, AI 거버넌스 등 다른 일련의 역할을 할 수 있는 장치들을 더해 전 세계적 틀을 구성하여 정보주체의 권리를 잘 담아내야 한다고 강조하며 발제를 마쳤다.

종합토론

이날 토론자로 함께 한 이대희 고려대학교 법학전문대학원 교수는 데이터가 엄청난 가치를 지니게 됨으로써 데이터 활용에 대한 위험성 지적과 함께 프라이버시와 관련된 문제들이 야기되었다고 한다. 그는 데이터의 활용과 보호에 균형을 맞춰야 함을 강조하며, 보호만 강조하면 결국 활용이 힘들어진다고 강조했다. 이번 개인정보보호법 개정에 대해서도 인공지능과 관련한 조항이 없음을 강조하며, 개인정보보호법을 데이터 활용에 보다 초점을 맞춰 개정하고, 이와 동시에 정보주체의 권리도 보다 확대되어야 한다며 토론을 마무리했다.

김가연 오픈넷 변호사는 ‘가명정보’에 초점을 맞춰 토론을 진행했다. 김가연 변호사는 이번 법 개정으로 기업들이 가명정보를 편히 쓸 수 있는 것처럼 이야기하지만, 실상은 그렇지 않다고 강조했다. 이번 개인정보보호법 개정은 활용과 보호를 둘 다 놓친 법안이라고 비판했다. 특히나 대한민국의 경우 주민등록제도와 실명제 등 가명정보 처리를 했다고 하더라도 재식별 가능성이 높기 때문에, 이에 대한 안전장치도 함께 강화했어야 하는데 이 부분은 다 놓쳤음을 강조했다. 이후 시행령 제정 등의 과정 역시 이런 논의들로 쉽지 않을 것이라 주장했다. 김가연 변호사는 개인정보보호법이 정의하는 과학적 연구의 범위가 어디까지 해당 할지에 대한 질문으로 발제를 마무리했다.

이호영 정보통신정책연구원 지능정보사회정책센터 센터장은 현재 세계적 논의와 마찬가지로 국내에서도 각각의 인공지능 원칙들이 충돌할 때에 이를 어떻게 해소할지에 대해 고민하고 있다고 말했다. 뿐만 아니라 인공지능 서비스의 활용 측면에 있어서도 계층화가 이뤄지고 있다고 강조했다. 소득격차, 학력격차 등 개인정보를 제공하고도 서비스를 제대로 누리지 못하거나, 아예 제공 자체를 원천 차단하여 어떤 서비스도 받지 못하는 경우가 존재한다는 것이다. 이외에도 초국가적 시장이 생기고, 그 안에서 정부, 시민사회, 기업 등 모든 것들이 섞여 있어 새로운 프레임이 계속 생겨남에 따라 이를 이야기할 수 있는 국제적 협약이 필요하다며 토론을 마무리했다.

이후 종합토론에서는 플로어의 청충들까지 토론에 참여하여 앞서 논의됐던 주제들은 물론, 정부 규제와 기업의 입장, 노동 시장에서의 인공지능 도입으로 인한 문제 등으로까지 주제를 확장하며 열띤 논쟁이 이어졌다.

아시아 태평양 지역 40여 국의 법조인과 법조 관련 단체로 구성된 로아시아(LAWASIA)는 2020년 6월 2일부터 3주간 매주 화요일에 ‘로아시아 인권 웨비나 시리즈’를 개최했습니다. 김가연 변호사는 제2부 “코로나19 기간 중 정부 책임 : 시민의 알권리(Government Accountability during COVID-19: The Citizens’ Right to Know)”에 발제자로 참여해 한국의 상황에 대해 이야기했습니다.

로아시아 인권 웨비나 페이지 바로 가기

Korea discovered its first COVID-19 case on January 20th. The Korean Centres for Disease Control and Prevention immediately organized a meeting with bio-medicine companies to ask them to develop test kits. The test kits became available in three weeks. Then from February 20th, the number of cases began to explode in and around the City of Daegu to nearly 9,000 cases in less than a month, making Korea one of the most dangerous countries in the world. The size and speed of the outbreak seemed to be uncontrollable. The government, however, continued to 1) rigorously trace the prospective cases, 2) test for free, and 3) treat for free, everyone regardless of nationality. The government has also implemented robust measures to coordinate closely with all cities in the curbing of the spread of the virus, including the installation of the famous drive-through and walk-through testing centers.

One of the principles for the Korean government to respond to COVID19 is full transparency. So, the Korean government disclosed not only travel routes of infected persons but also information on spreading patterns of the disease and response to it from the beginning of the disease. Our Foreign Minister Kang, Kyung-wha mentioned that the basic principles are openness, transparency and fully keeping the public informed. Korea has a very good health care system to begin with and the system is highly wired. Fully utilizing that, our government has dealt with the outbreak from the very beginning with full transparency and that’s how the government gained public trust and support. 

However, such full transparency principle had side effects, especially regarding the disclosure of the travel routes of infected persons. As each local government has already disclosed when and whereabouts of infected persons with other personal information such as gender and age, individuals are being harmed. It caused groundless accusations, speculations, ridicule, and hate speech against the patients. People even say that they are more scared of being stigmatized by the disclosure than getting infected. 

For example, a typical emergency alert says, “A 43-year-old man, resident of Nowon district, tested positive for coronavirus,” “He was at his work in Mapo district attending a sexual harassment class. He contracted the virus from the instructor of the class.” A series of alerts then follow such as where the men had been, including a bar in the area until 11:03 at night. These alerts arrive all day, every day, telling you where an infected person has been and when. You can also look up the information on the Ministry of Health and Welfare website or local governments’ websites. This disclosure measure is carried out according to the Infectious Disease Control and Prevention Act and the Personal Information Protection Act (PIPA).

On March 9, the National Human Rights Commission of Korea (NHRCK) said that “it is hard to deny the need to disclose a certain amount of information including location and time of the visit by the infected person to prevent the spread of infectious disease, but disclosing more personal data than necessary are resulting in human rights violations.”

Accordingly, the Korea Centers for Disease Control and Prevention released the disclosure guidelines on March 14. According to the guidelines, the location and means of travel should be disclosed only when there is a contact of non-patient with a patient, and personal data such as the address or company name, shouldn’t be disclosed. However, the guidelines still allow the disclosure of travel routes of patients. And other personal data of patients, such as gender, last name, age, occupation, nationality, and religion, are still being disclosed. 

Although It’s necessary to disclose some information for the citizens’ right to know’s sake, we need to be careful not to violate the human rights of patients. For example, information about whether the patient entered Korea after visiting a specific country would be more important than the patient’s nationality. Likewise, more relevant is whether a person had a meal together with a patient is more important than whether the person is the patient’s spouse, daughter, son-in-law, or sister-in-law. Therefore, Korean civil society is requesting the government and the press to minimize the disclosure of unnecessary personal information that could be used to identify and stigmatize individuals.

「개인정보 보호법」이 2020년 2월에 개정되면서 정보주체의 동의 없이도 과학적 연구 목적으로 개인정보를 가명화하여 이용할 수 있게 되었으나, 「생명윤리법」에는 기존 수집된 정보를 가명화 또는 익명화할 경우 연구목적으로 이용할 수 있는 특례조항들이 존재하고 있다. 2020. 9. 25. 대한기관윤리심의기구협의회(KAIRB) 연례총회에서 박경신 오픈넷 이사(고려대 법학전문대학원 교수)는 위 2가지 법체계가 어떻게 조화하는지에 대해 발표하며 개인정보보호법 개정이 가진 문제점에 대해서도 지적했다.