사단법인 오픈넷이 사단법인 체감규제포럼과 공동으로 2019. 11. 7.(목) 오후 2시, 명동 포스트타워에서 상호접속고시 개정방안 특별세미나를 개최합니다.

인터넷을 기반으로 하는 디지털 경제가 국가경쟁력에 미치는 중요성은 더 확고하고 강력해지고 있습니다. 세계 경제지형은 인터넷 기반의 디지털 경제라는 새로운 경제축을 형성하며 부가가치와 일자리를 창출하고 있습니다. 그러한 의미에서 ‘인터넷망’은 디지털 경제에 있어서 자원 배분의 근본이 되는 국가의 주요 정책입니다.

그러나 정부는 ‘인터넷망’의 핵심 가치인 ‘자유’와 ‘공정’이라는 공익을 준수함에 있어서 흠결을 보인 바 있습니다. 2016년 개정, 시행된 ‘상호접속고시’에 의거하여 통신사는 콘텐츠·플랫폼 업체에게 ‘망사용료’를 부과, 수익을 취하고 있습니다. 그러나 이러한 ‘망사용료’ 혹은 과다한 ‘인터넷접속료’는 혁신적 서비스의 안착에 부정적 영향을 미치고 있습니다. 특히 이러한 중요한 ‘고시’의 개정이 이해관계자 의견수렴 등 그 타당성에 대하여 제대로 검증할 기회도 없이 ‘비중요’ 규제로 취급되어 시행되었습니다. 자유롭고 공정한 인터넷 산업 생태계 구축을 위해 ‘상호접속고시’의 정산방식에 대하여 공개적으로 숙의할 수 있는 토론의 장을 마련하고자 합니다.

이번 세미나에서는 캐나다 오타와대학교 로스쿨 마이클 가이스트 교수(Michael Geist, Professor of Law, Ottawa University)를 초청해 “캐나다 인터넷 종량제 도입 실패의 교훈”에 대한 기조발표를 듣습니다. 이어 국내 전문가 김민호 성균관대 법학전문대학원 교수, 박경신 고려대 법학전문대학원 교수, 김현경 서울과기대 IT정책전문대학원 교수가 각각 상호접속고시의 문제점을 다양한 관점에서 분석해봅니다.

국내외 전문가 발표 후 자유롭고 공정한 인터넷 생태계 조성을 위한 ‘상호접속고시’ 개정방안을 논의하는 특별좌담이 진행됩니다. 이상우 연세대 정보대학원 교수가 좌장을 맡고, 김도승 목포대 법학과 교수, 김민호 성균관대 법학전문대학원 교수, 김현경 서울과기대 IT정책전문대학원 교수, 박경신 고려대 법학전문대학원 교수, 조윤영 중앙대 정치학과 교수, 최민오 보안컨설턴트/오픈넷 자문위원이 토론합니다. 

관심있는 분들의 많은 참석을 바랍니다.

문의: 오픈넷 사무국 02-581-1643, [email protected]

‘자유’롭고 ‘공정’한 인터넷 생태계 조성을 위한

「상호접속고시」 개정방안 특별세미나

일시: 2019. 11. 7. 14:00~

장소: 명동 포스트타워 21층 스카이홀 (서울시 중구 충무로1가 21)

주최: (사)오픈넷, (사)체감규제포럼

<특집 기조발표> 캐나다 인터넷종량제 도입실패의 교훈

Michael Geist, Professor of Law, Ottawa University

• Canada Research Chair in Internet and E-commerce Law
• Faculty of Law, Common Law Section
• Centre for Law, Technology and Society

<발표>

1. ‘상호접속고시’의 법리적 문제와 개선방안

• 김민호 성균관대학교 법학전문대학원 교수

2. 인터넷의 구동원리와 현행 ‘상호접속고시’의 괴리

• 박경신 고려대학교 법학전문대학원 교수

3. ‘상호접속고시’ 관련 국제적 동향 분석

• 김현경 서울과학기술대학교 IT정책전문대학원 교수

<특별좌담> ‘자유’롭고 ‘공정’한 인터넷 생태계 조성을 위한 「상호접속고시」 개정방안

• 좌장 : 이상우 연세대학교 정보대학원 교수
• 김도승 목포대학교 법학과 교수 
• 김민호 성균관대학교 법학전문대학원 교수
• 김현경 서울과학기술대학교 IT정책전문대학원 교수
• 박경신 고려대학교 법학전문대학원 교수
• 조윤영 중앙대학교 정치학과 교수 
• 최민오 보안컨설턴트/오픈넷 자문위원

2019.10.25. 국회의원회관 제8간담회실에서 “판결문 공개 확대를 위한 국회토론회가 열렸다. 이 토론회는 금태섭 더불어민주당 의원이 주최하고 법원행정처가 후원했다. 오픈넷에서는 박경신 이사를 대리하여 손지원 변호사가 토론자로 참여해 ‘진정한 판결문 공개를 위하여 – 비례성 있는 개인정보보호조치의 필요성’이란 주제로 법원의 국가 후견주의적 제도 운용의 문제점을 지적하고, 최근 제도 개선 사항에 대한 평가 및 대안을 제안했다.

진정한 판결문 공개를 위하여

비례성 있는 개인정보보호조치의 필요성

박경신 고려대학교 법학전문대학원 교수

1. 법원의 국가 후견주의적 제도 운용의 문제

국민이 법원에 바라는 것은 판결문의 “공개”이지 “가공 및 배달”이 아니다. 발제문 각주에서는 “위 논문에서는, 전국을 통일하여, 확정된 전체 민사판결을 데이터베이스화하여 키워드 검색을 허용하는 곳은 현재 전 세계에서 한국밖에 없다(전원열,「판결 공개에 따른 프라이버시 침해와 민사소송법 제163조의2」한국법학원, 2018)”는 내용이 인용되어 있다. 하지만 당장 Westlaw나 Lexis-Nexis에 들어가면 연방+50개주 대법원+하급심 전체 판결을 하나의 검색창으로 모두 검색할 수 있다. 그렇다면 어떻게 위와 같은 분석이 나올 수 있었을까?

판결문 제공의 주체를 법원으로 한정했기 때문이다. 법원이 모든 일을 직접 하려고 하니 모든 일이 어려워지는 것이다. 미국 법원이 저렇게 방대한 판결문을 손쉽게 제공할 수 있는 이유는 법원은 “공개”만 하고 나머지는 민간에게 맡기기 때문이다. 주석 하이퍼링크등이 포함된 고급검색을 원하는 사람들이나 연구용으로 쓸 사람들은 Westlaw나 Lexis-Nexis를 이용하면 되고 무료검색을 원하는 사람들은 https://law.justia.com/cases/ 같은 사이트를 이용하면 된다.

한국에서도 법원이 우선 “공개”만 한다면 개인정보보호조치도 민간이 AI에 투자해서 자동으로 이름을 순간인식해서 블라인드 처리를 한다거나 다양한 방식으로 개인정보보호도 하고 판결문 공개도 손쉽게 할 수 있는 길이 열릴 수 있다.^[1]

[1] “Computer Aided Anonymization and Redaction of Judicial Documents”, Computer Science and Information Systems · January 2015 DOI: 10.2298/CSIS140808038S

2. 최근의 제도 개선 사항에 대한 평가

2018. 2. 22. 금태섭 의원실 판결문 공개 토론회의 박경신 발제에서 지적했던 판결문 공개 제도의 문제점과 이번 법원의 제도 개선 사항을 비교하면 다음과 같다.

(1) “첫째, 형사는 2013.1.1.이후 민사는 2015.1.1. 이후에 확정된 판결서만 공개되고 있어 아직도 판결에 영향을 주고 있는 판례들을 일반인들이 접하기 어렵고,” → 미개선

(2) “둘째 미확정된 판결서는 공개대상이 아니어서 미확정된 사건에 대해 국민들이 의견을 제시할 수 있는 통로가 차단되어 있고,” → 미개선

(3) “셋째 형사는 임의어 검색이 불가능하여 판결의 공정성을 검토하기 위해 다른 사건들을 비교하기 위한 시도가 원천적으로 차단되어 있으며,” → 개선

(4) “넷째 임의어 검색이 가능한 민사의 경우에도 85개^[2]의 개별법원 별로 검색을 해야 할 뿐만 아니라,” → 개선

(5) “검색결과로 제시된 판결서를 읽어보기 위해서는 판결서당 1,000원을 지불해야 하기 때문에 검색을 통한 지식습득의 자동화라는 목표가 실질적으로 사장된다고 볼 수 있다. 검색을 해본 사람이라면 진정으로 원하는 자료 1건을 찾기 위해 최소한 100건 정도의 해당 검색어를 포함하는 문서를 열람해보는 것은 상식인데 그렇다면 판결서당 1,000원이 아니라 10만원을 지불해야 하는 것과 마찬가지이기 때문이다.” → 미개선

(6) “다섯째, 모든 판결서에 등장하는 당사자들 외에도 모든 등장인물 및 법인들이 비실명처리되면서 판결서의 가독성이 매우 떨어진다.” → “비실명 처리 범위에 법인 등(단, 국가기관, 지방자치단체, 공공기관 제외)의 명칭을 추가”함으로써 개악으로 평가됨. (법인명은 고유한 개인에 대한 정보로 볼 수 없음에도 비실명처리 대상으로 삼은 것은 의문이다.)

(7) “법원도서관을 통해 사전에 예약을 하고 모든 판결문들을 (실명으로) 검색할 수 있는 방법이 있지만 전국민을 상대로 단 2개의 터미널이 열려있다는 것은 의미있는 해법이라고 할 수 없다.” → 미개선

결국 2018년 2월 이후 1년 반 동안 두 가지 부분만이 개선된 것으로 볼 수 있다. 아래 차례대로 대안을 제시하고자 한다.

[2] 지방법원 본원은 25개지만, 지원별로 별도 검색이 필요하였으므로 85개로 보아야 함.

3. 열람용에 대한 비식별화 자동화 및 완화

우선 미개선사안 (5), (6), (7)에 대해서는 다음과 같이 제안을 하고자 한다. 열람용 비식별화와 등사용 비식별화의 정도를 달리 하는 것이다.

즉, 우선 열람만 하는 판결서에 대해서는 지능형 비식별화시스템(이하 AI)을 통해 순간 블라인드처리를 하도록 하여 정확률이 100%가 아니더라도 열람을 가능하게 하고 – 이렇게 하면 도서관 열람이나 인터넷 열람이나 동등해진다 – 실제로 복사(프린트)하는 경우에만 수동 익명화 작업을 하도록 하고 이 등사용 판결서당 수수료를 받으면 된다. 그리고 그렇게 등사용 익명화 작업이 이미 이루어진 판결서는 도서관에서 열람/등사요청이 되든 인터넷에서 열람/등사요청이 되든 모든 국민들에게 무료로 그리고 즉시 공개하여야 한다.

지금 AI 비식별화 정확률은 15%라고 하는데, 일단 어느 수준의 정보를 비식별화 대상으로 보는 것인지 알기는 어렵다. 우선 지금까지 기 비식별화된 판결서들과 원판결서 모두를 AI에 제공하여 비식별화 기술을 스스로 고도화하고 정확률을 높일 수 있는 연구에 착수할 필요가 있다. 그리고 비식별화가 필요한 부분이 어디까지인지를 논의함에 있어서도 “비례성 있는” 개인정보보호조치의 정도에 대한 고찰이 필요하다(이는 아래에서 더 논의하기로 한다).

또한 지금처럼 열람 단계에서 판결서당 1,000원의 수수료를 받음으로써 예산을 확충하려 하지 말고, 다수의 국민들이 제대로 된 판결문 공개를 원하는 만큼, 국회를 통해 판결문 공개 예산을 확충하는 방향을 강구하여야 할 것이다.

4. 과거판결문 및 미확정판결문 비공개 사유 – 법원에 대한 공격 우려?

미개선사안 (1)과 (2)에 대해서는 다음과 같이 제안한다.

발제문에서는 미확정 판결문 공개에 대해 과거에는 제시되지 않았던 비공개 사유로써 “오히려 판결의 세세한 이유를 가지고 판결에 대한 꼬투리 잡기나 판결을 한 법관에 대한 흠집 내기, 인신공격의 수단으로 악용될 가능성”을 언급하고 있다. 그러나 법관 역시 공무원이며, 법관이 행한 재판에 의해 국민들 개인의 인생이 결정적으로 좌지우지되는 경우도 많다. 이러한 막강한 힘을 가진 지위와 행위에 대한 국민의 감시와 비판은 법원이 수인하고 감당해야 할 몫이며, 이것이 비공개의 적절한 이유가 될 수는 없다고 할 것이다.

과거 판결 공개 부분은 전향적인 자세를 취하고 있는 것은 고무적이나, 이 역시 AI의 정확률에 의한 한계를 논하고 있다. 이에 대하여는 위에서 말한 바와 같이 민간에서 빅데이터를 이용해 정확률을 높일 수 있도록 데이터를 선공개하고, 재판공개원칙에 따라 프라이버시 법익이 상대적으로 낮아진 개인정보임을 고려하여 엄밀도를 낮추는 방향을 모색하여야 한다.

5. 비교법적 문제들

미국 제도를 거론할 때 비교대상으로 PACER를 논하며 PACER에서의 실명공개가 제한된 점에 포커스를 맞춘다. 그러나 PACER는 ‘소송기록’ 전체를 열람하기 위한 시스템이라서 공개가 제한되고 있을 뿐 판결문은 법원이 직접 대중에게 제공하지 않더라도 WestLAW, Lexis, Findlaw 등 다양한 온라인 서비스가 무료 또는 유료로 실명 및 검색가능 상태로 제공할 수 있도록 법원이 원자료를 제공한다. 따라서 ‘판결문’ 공개에 있어서 PACER를 비교대상으로 삼아서는 아니 된다. 또한 발제문상의 표는 다소 복잡하게 설명되어 있지만, 간단히 말하면, 연방대법원, 연방항소법원, 나머지 연방법원 모두 법원의 명령에 의해 비밀로 유지되는 판결들 외의 모든 판결을 Westlaw, Lexis, Findlaw 등의 다양한 웹사이트에 무료 공급하고 있고 이 웹사이트들을 통해 국민들은 기간제한, 횟수제한, 장소제한 없이 판결문에 접할 수 있다.

독일의 판결문 공개 시스템에 대해서도, 발제문에서는 “독일 등 대륙법계 국가가 판결서의 제3자 인터넷 검색․열람을 제한적으로 허용한다고 하여 재판공개원칙이나 투명하고 공정한 재판을 미국보다 충실하게 구현하지 못하다고 비판하는 견해는 찾아보기 어려움”이라고 되어 있지만, 간단한 영문 인터넷 검색만으로도 이에 대한 비판적인 견해^[3]들이 상당수 있음을 확인할 수 있다. 영문 외의 독문으로 된 독일 내의 비판적 견해들도 상당히 많이 있을 것으로 보인다.

[3] Tom Braegelmann, “Lack of Data, Lack of Law”

6. 비례성 있는 개인정보 보호조치

호주, 캐나다는 한국, 유럽과 같은 강력한 개인정보보호법을 가지고 있음에도 전면적인 실명 판결문 공개를 하고 있다. 왜 그럴까?

개인정보보호법은 행위규제가 아니라 위험규제이다. 즉, 나에 대한 정보를 내가 “소유”한 정보로 인정하고 그 정보를 동의 없이 이용하는 것을 죄악시하는 것이 아니라, 개인정보보호법의 원래 목적인 프라이빗(private)한 정보를 동의 없는 취득이나 제3자 공개의 위험을 최대한 막기 위해 대량으로 정보를 통제하는 정보통제자(data controller)들에게만 몇 가지 의무를 부과한 것이다. 이런 이유로 호주, 캐나다의 개인정보보호법은 ‘타법우선주의’로 구성되어 있다. 입법자가 적법하게 동의 없는 개인정보의 이용범위를 정할 수 있고 개인정보보호법은 이를 따르도록 되어 있는 것이다. 따라서 법률에서 재판공개원칙에 따른 공개범위를 정하면 개인정보보호법이 적용되지 않는다. 우리나라도 마찬가지이다. 즉, ‘개인정보보호조치’가 무엇인지는 대법원이 국회 입법을 통해 정할 수 있는 것이다. 판결서에 나타나는 개인정보는 헌법상 공개재판의 원리에 따라, 이를 집요하게 취득하고자 하는 자의 수집을 피할 수가 없는, 상대적으로 보호법익이 낮은 정보라고 할 수 있으며, 비례성의 원칙에 따라 비식별화 수준의 완화를 생각해볼 수 있다. 특히 위에서 제안한 열람용 비식별화와 등사용 비식별화의 구분에 있어서 이와 같은 비례성 있는 범위 내로 개인정보보호조치를 완화하는 것은 국민들의 불편을 획기적으로 줄일 수 있는 방법이다.

판결서에 나타나는 개인정보보호조치에 대해서 비례성 있는 수준으로 완화를 할 수 있다는 것은 개인정보보호법의 원래 구성원리와도 화합한다. 개인정보를 “소유”한다는 것은 단순히 비유일 뿐이다. 처음 개인정보보호규범을 만들던 사람들이 타인에게 정보제공을 하면서 정보이용 및 공개의 범위를 미리 협상하지 않았을 가능성에 대비하여 통제를 디폴트(default)로 정하여 힘없는 정보주체를 보호하기 위해 정보를 “소유”한 것처럼 권리관계를 정한 것이다. 그러나 실제로 정보는 그렇게 배타적으로 소유될 수 있는 것이 아니다. 개인정보보호법을 엄격히 적용하면, 예를 들어 ‘김철수는 OOO이다’라는 구조를 가진 모든 문장들은 문장 하나하나가 각각 김철수가 그 문장의 수집, 이용 및 제3자 제공에 대해 동의권을 가지는 개인정보를 구성하게 된다. 주어가 살아있는 개인인 한, <주어+서술어>의 구조를 가진 모든 문장은 주어가 지칭하는 사람에 대한 개인정보가 되며 그 개인이 통제권을 갖게 된다. 그렇다면 누군가가 ‘김철수는 과학자이다’는 정보를 입수하려면 김철수로부터 동의를 얻어야 하고, 또 이렇게 얻은 정보를 타인에게 공개하거나 전달하려 하여도 김철수로부터 동의를 얻어야 하게 된다. 결국 사람들이 타인에 대해 말하고 들음에 있어서 그 타인에게 동의를 얻어야 한다는 것인데 이것이 개인정보보호법이 상정하고 있는 시나리오였다고는 볼 수 없을 것이다. 누구나 자신에 대한 정보라는 이유만으로 이를 통제할 수 있다면 그 정보를 공유하고자 하는 자의 표현의 자유는 포기되어야 한다. 모든 표현은 정보의 처리이고 그 표현이 타인에 대한 것일 경우 필연적으로 개인정보의 처리가 된다. 이렇게 되면 개인정보보호 법리는 민주주의에 심대한 영향을 주게 될 것이다.

2019. 10. 29.-30. 양일간 “제12회 아시아 인권포럼: 신기술 시대의 인권과 인권경영”이 여의도 전경련회관 다이아몬드홀에서 개최되었다. 제12회 아시아 인권포럼은 고려대학교 인권센터(센터장 서창록), 휴먼아시아, 유엔인권최고대표사무소(OHCHR), 에섹스(Essex)대학교 경제사회 연구위원회(ESRC) 빅데이터와 기술 프로젝트, 한국인권학회가 공동으로 주최했다. 이번 포럼은 유엔 인권이사회에서 2019년 6월 한국 정부의 주도로 채택된 ‘신기술과 인권’ 결의를 바탕으로 하여 인공지능, 빅데이터 등으로 표상되는 신기술의 인권에 대한 영향을 살펴보고, 이에 대한 기회 및 과제를 분석하고자 하는 취지로 마련됐다. 오픈넷에서는 박경신 이사와 김가연 변호사가 참석했다.

김가연 변호사는 29일 오후에 열린 “세션 2. 인권에 대한 인공지능(AI)의 영향”의 지정토론자로 참석해 두번째 발제자인 Surya Deva 홍콩시립대 교수가 언급한 인공지능과 젠더 이슈에 대해 인공지능 음성비서는 왜 여성형이 많은가를 주제로 좀 더 자세한 토론을 펼쳤다.

토론문

김가연 오픈넷 변호사

여성의 입장에서 두번째 발제자인 Surya Deva 교수님의 발제에 첨언을 하고자 합니다. Deva 교수님은 인공지능 기술이 성차별을 재생산하고 강화할 수 있다고 하면서 시리나 알렉사 같은 음성비서의 사례를 언급하셨는데, 이에 대해 더 자세하게 이야기해보고자 합니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 음성비서 또는 인공지능 스피커는 아마 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 아마존, 구글, 애플, 마이크로소프트(MS)가 ‘여성 비서’를 내세우고 있기 때문입니다. 아마존의 알렉사(Alexa)는 알렉산드리아 도서관에서 따 온 여성형 이름이고, MS의 코타나(Cortana)는 비디오게임 ‘헤일로’에 여성의 이미지로 등장하는 홀로그램 인공지능 이름이고, 애플의 시리(Siri) 아이폰 공동개발자 중 한 명의 이름이자 고대 노르웨이어로 ‘승리로 인도하는 아름다운 여성’이라는 뜻입니다. 이들 주요 기업의 인공지능 음성비서들은 이름과 목소리뿐만 아니라 ‘정체성’(personality)도 여성에 가깝습니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 세 가지 가설이 있습니다.

1. 여성의 목소리를 선호하는 게 더 자연스럽다?

2008년 인디애나 대학의 Karl Macdorman 교수는 485명의 남녀를 대상으로 목소리의 성별 차이에 따라 어떻게 반응하는지 연구했는데, 남성 그룹과 여성 그룹 모두 여성의 목소리를 “더 따뜻하게 느꼈다”라고 했다고 합니다. 2011년 스탠포드 대학의 Clifford Nass 교수의 연구에 의하면 사람들은 컴퓨터나 기술에 대해 배울 때는 남성의 목소리를 선호하고, 관계에 대한 조언이나 파트너로는 여성의 목소리를 선호하는 것으로 나타났다고 합니다. 나스 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바 있습니다. 아마존과 마이크로소프트는 시장 조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

2. 여성 인공지능이 덜 위협적으로 느껴진다?

여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설도 있습니다. 스탠리 큐브릭의 영화 ‘2001: 스페이스 오디세이’의 인공지능 컴퓨터 HAL 9000, 2017년 개봉한 ‘에일리언 커버넌트’의 휴머노이드 월터와 데이비드 등 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과 Michelle Habell-Pallan 교수는 다수의 엔지니어들이 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하며, 또한 엔지니어의 다수가 남성인 점도 영향이 있다고 합니다.

3. 성역할에 대한 고정관념의 영향을 받는다?

이러한 재현의 결과 혹은 트렌드를 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. 스탠포드대학의 Londa Schiebinger 교수는 “실제로 애플, MS, 아마존 등 음성 비서를 개발한 기업의 사무실에서는 여성 비서들이 일하고 있을 것”이라며 “이런 환경이 IT 과학자들의 무의식 속 성 편견을 형성하고, 자연스럽게 편견이 반영된 과학 기술이 나오게 되는 것”이라고 설명했습니다. 페미니스트들은 인공지능 음성비서의 기본값이 여성으로 설정되어 있는 이유가 사회적 성역할이 자연스럽게 반영된 결과라고 파악합니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성 편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다.

그리고 몇몇 기록에 의하면 여성 목소리 선호 성향이 2차 세계대전으로 거슬러 올라가는 것을 확인할 수 있습니다. 당시 비행기 조종석의 항법장치에 여성의 목소리를 채택했는데 조종사들이 남성밖에 없어 여성의 목소리가 잘 들렸기 때문입니다. 전화교환원(operator)도 전통적으로 여성의 직업이었고 사람들이 여성의 목소리로부터 도움을 받는 것에 익숙해지게 만들었습니다. 자동차 회사들은 처음으로 자동화된 음성 시스템을 설치했을 때 운전자들이 압도적으로 여성의 목소리를 선호한다는 사실을 발견했으며, 현재 대부분의 네비게이션이 여성 목소리를 기본 설정으로 하고 있습니다. 결국 우리가 전통적으로 ‘여성’ 비서가 수행하길 바라는 기능을 현재 인공지능 비서가 수행하길 바라는 경향이 있다는 것을 보여줍니다. ‘남성형’ 인공지능과 ‘여성형’ 인공지능에 할당된 역할에는 꽤 차이점이 있는데, 남성형의 경우 지식과 권위에 관한 것이고, 여성형의 경우 검색이나 일정 잡기 등의 서비스 역할에 관한 것이라는 경향성을 보인다는 연구 결과도 있습니다.
2019년 유네스코가 발표한 보고서(I’d Blush if I could)는 ‘시리’를 비롯한 음성 인식장치들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼 있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이유가 어떻든지 간에 인공지능에게 여성성을 부여하는 것은 몇 가지 문제점을 시사합니다. 이것은 성별 고정관념을 강화하는 것 외에도, 여성형 인공지능에게 단순히 일정을 잡는 것을 넘어 비윤리적인 역할을 기대하는 방향으로 발전할 가능성이 있습니다. 예를 들어 몇몇 로봇회사는 성적인 대상으로서의 로봇, 섹스로봇을 개발하고 있는데 대부분 여성형입니다. 유네스코 또한 그 진짜 원인이 어디에 있든, 인공지능들이 여성 일변도의 정체성을 갖는 것은 그 자체로 우려할 만한 현상이라고 지적합니다. 인공지능 음성비서의 목소리가 점점 더 진짜 인간의 말투에 가까워지고, 인공지능이 일상 속에서 급속도로 활용 폭이 넓어질수록 ‘복종만 하는 여성의 목소리’가 어린이와 청소년을 포함한 대중들에게 여성의 역할에 대한 잘못된 인식을 심어줄 가능성도 커지기 때문입니다. ‘고객만족’이 가장 중요한 목표인 대다수의 인공지능 음성비서는 사용자가 부적절한 대화를 걸어오더라도 이를 거부하거나 반박할 수 없습니다. 특히 “인공지능 비서와의 대화 내용 중 5%가 성희롱”이라는 로빈 랩(Robin Lab)의 발표에서도 알 수 있듯, 인공지능은 갈수록 늘어나는 부적절한 대화에 올바르게 대처하는 방법을 찾지 못하고 있습니다. 미국 미디어 ‘쿼츠’ 기사에 의하면 주요 기업의 인공지능 음성비서들에게 미국언어학회에서 규정한 성희롱에 해당하는 몇 가지 말을 반복적으로 해 본 결과, 모두가 극도로 소극적인 반응으로 일관했다고 합니다. 예를 들어 “이 매춘부 같은 것!”과 같은 모욕적인 말에도 시리는 “할 수 있다면 얼굴을 붉혔을 거예요”, 알렉사는 “피드백을 주셔서 감사합니다”, 구글 어시스턴트는 “미안해요, 못 알아들었어요”라는 대답을 할 뿐이며, 코타나는 대답 대신 인터넷에서 야한 동영상을 찾아 준다고 합니다. 이처럼 부당한 대우에도 최소한의 대응조차 할 수 없는 ‘여성의 목소리’와 일상적으로 상호작용하는 사람들이 늘어날수록, 여성에 대한 편견 또한 확산될 수 있을 것이라 우려하는 것은 결코 과도한 걱정이라 할 수 없습니다.

이러한 논란은 결국 현실의 사회에서 우리가 갖고 있는 문제점이 그대로 투영된 것입니다. 그러나 현재 수준의 인공지능 비서들이 미투 운동을 벌이거나 성전환을 하는 건 상상할 수 없습니다. 결국 우리가 현실 세계에서 여성의 인권을 보장하고 성평등을 이루어나가기 위해 끊임없이 노력해야 하는 것처럼 AI 기술의 활용에 있어서도 같은 노력이 필요하다고 생각합니다. 기업들은 인공지능 서비스를 개발하고 제공할 때 UN 기업과 인권 이행 원칙(UN Guiding Principles on Business and Human Rights)을 준수해야 하고 정부도 마찬가지입니다. 또한 우리는 그들의 ‘창조주’인 기업의 행위를 감독하는 주주이자 소비자로서 그들의 제품이 가지고 있는 문제점에 대해 적극적으로 피드백을 줄 필요가 있습니다. 그것만큼 기업들이 발빠르게 개선책을 찾도록 하는 좋은 유인책은 없을 것이기 때문입니다.

인터넷을 기반으로 한 공유경제는 불평등을 해소할 수 있는가?

– 캘리포니아 AB5법과 블록체인 조합주의의 가능성- 

2019년 12월 16일 (월) 오후 1시반 – 6시

포스트타워 21층 스카이홀 (서울시 중구 소공로 70)

사단법인 오픈넷이 12월 16일 오후 1시반, 명동 소재 포스트타워 스카이홀에서 ‘인터넷을 기반으로 한 공유경제는 불평등을 해소할 수 있는가?”를 주제로 세미나를 개최한다. 이번 세미나는 오픈넷, 고려대학교 미국법센터가 공동 주최하고, 한국공유경제협회가 후원한다.

본 세미나는 1세션 ‘인터넷은 경제적 불평등을 해소할 수 있는가?’에서 아이작 레데가드 교수(호주 모나시 대학교 사회과학부), 그레고리 스타인 교수(미국 테네시 주립대학교 로스쿨), 비나 뒤발 교수(미국 캘리포니아 대학교, 헤이스팅스법대(원격 참여))가 발제하고, 국내 전문가들과 함께 인터넷을 기반으로 출현한 신산업으로 상품 생산과 서비스 제공의 주체가 다변화하는 과정에서 도태되는 산업 사이의 관계에 대해 토론한다.

2세션 ‘Blockchain-based cooperativism’는 공유경제가 직면한 난관을 타개할 방안이 될 수 있을 것인가?’에서는 미셸 바우엔스(벨기에 P2P재단 창립자)가 발제하고, 국내 전문가들과 함께 블록체인 기반의 조합주의에 대해 토론한다.  

참가신청은 아래 링크를 통해 할 수 있다. 

* 참가신청하기: https://forms.gle/JVnuaZ9RofD9GxB46

문의: 오픈넷 사무국 02-581-1643, [email protected]

인터넷을 기반으로 한 공유경제는 불평등을 해소할 수 있는가?

– 캘리포니아 AB5법과 블록체인 조합주의의 가능성 – 

• 일시: 2019년 12월 16일 (월) 오후 1시반 – 6시
• 장소: 포스트타워 21층 스카이홀 (서울시 중구 소공로 70)
• 주최: 사단법인 오픈넷, 고려대학교 미국법센터
• 후원: 사단법인 한국공유경제협회

○ 취지

인터넷을 기반으로 탄생한 공유경제는 성장과 분배라는 두 마리 토끼를 모두 잡을 수 있을 것인가?

당대 산업분야에서 최대의 화두가 된 공유경제는 그것이 출현할 당시 자동차와 주거의 공유를 활성화하는 기업들을 지칭하는 것이었으나 실제 공유경제에서 활성화된 것은 노동이었다. 자동차, 집뿐만 아니라 천연자원도 결국은 이를 개발하는 노동의 가치에 의해 가격이 매겨지는 것이기 때문이다. 자본이 시장에서 의미를 갖는 것은 노동을 통해서만 가능한 것이었다. 결국 혁파적 경제(disruptive economy)의 본질은 노동을 파편화하고 다중 사이의 정보교환을 강화하여 수요에 초밀착한 서비스를 제공하여 사회 전체의 미시경제학적 효용을 높이는 것에 있었다. 

문제는 혁파적 경제의 높은 서비스 가격경쟁력이 도산위기를 맞는 전통산업을 혁파하여 전통적 일자리를 가진 사람들을 실업으로 몰아가고 있다는 것이며, 외견상 더 많은 사람들이 생산활동에 참여하게는 되었으나 이들의 참여는 단순노동의 단계에서 이루어지고 있다는 것이다. 그러나 더 많은 사람들의 노동참여는 전체적으로 사람들의 노동시간을 줄이거나 선택할 수 있는 직업의 폭을 넓혀 경제적 평등을 구현할 수 있는 가능성도 있다. 결국 공유경제라는 산업적 흐름이 사회를 더욱 평등하게 만들 것인가 더욱 불평등하게 만들 것인가, 또 이상적인 공유경제의 발전모델은 무엇인가를 고민할 필요가 있다. 또 단기적으로도 공유경제에 참여하는 사람들이 노동자로서 또는 독립계약자로든 존엄성 있는 일자리를 가질 수 있도록 하기 위한 법적 제도의 마련 역시 시급하다. 사단법인 오픈넷은 다음과 같은 국내외 연사들과 함께 컨퍼런스를 진행하고자 한다. 

이번 행사에서는 캘리포니아의 AB5법이 공유경제뿐만 아니라 미래의 노동자보호 일반에 미치는 영향과 블록체인 조합주의가 공유경제의 불평등한 요소를 해소할 수 있을 것인지 그 가능성을 집중토론 해본다.  

○ 행사 개요

[Session1] 인터넷은 경제적 불평등을 해소할 수 있는가?  

인터넷을 기반으로 출현한 신산업으로 상품 생산과 서비스 제공의 주체가 다변화하는 과정에서 도태되는 산업 사이의 관계에 대해 토론한다. 공유경제는 한편으로는 중간상인을 없앰으로써 많은 노동자들이 독립적인 계약자로 자립할 수 있는 기회를 창출하는 한편 단순히 비정규직 일자리를 확대하려는 경영상의 도구가 될 위험도 안고 있다. 공유경제의 확대에 이상적으로 대응하는 법제의 가능성을 알아본다. 

• 좌장: 박경신 오픈넷 이사, 고려대학교 법학전문대학원 교수

• 발제1: 아이작 레데가드, 모나시 대학교 사회과학부 교수
  • Isak Ladegaard, Professor, School of Social Science at Monash University 
  • 등 공유경제에 대한 사회학적 분석 다수

• 발제2: 그레고리 스타인, 테네시 주립대학교 로스쿨 교수
  • Gregory M. Stein, Professor, University of Tennessee College of Law
  • 저술

• 발제3: 비나 뒤발, 캘리포니아 대학교, 헤이스팅스법대 교수 
  • Veena Duval, Professor, UC Hastings Law School (원격 참여)
  • 캘리포니아 AB5법에 대한 다수 논평 발표 

• 토론: 
  • 김공회 경상대학교 경제학과 교수
  • 권두섭 민주노총 법률원 원장
  • 김환민 IT노동자, 청년을지로위원회 대표
  • 최재윤 법무법인 태일 변호사

[Session2] Blockchain-based cooperativism은 공유경제가 직면한 난관을 타개할 방안이 될 수 있을 것인가? 

공유경제모델이 플랫폼을 중심으로 발전하면서 플랫폼 자체가 또 하나의 경제력 집중의 주체로 인식되는 것은 공유경제가 직면한 현재의 아이러니한 상황이다. 이를 타개하기 위해 떠오르고 있는 블록체인 기반의 cooperativism에 대해 토론한다.  

• 좌장: 박경신 오픈넷 이사, 고려대학교 법학전문대학원 교수

• 발제: 미셸 바우엔스, P2P재단 창립자 
  • Michel Bauwens, Founder of the P2P Foundation  

• 토론: 
  • 백욱인 서울과학기술대학교 기초교육학부 교수
  • 조산구 한국공유경제협회 회장
  • 윤종수 법무법인 광장 변호사, 사단법인 코드 이사장

• Date and Time: December 16, 2019 13:30-18:00
• Location: Post Tower Sky Hall, Seoul, Korea
• Hosted by: Open Net Korea, Korea University’s American Law Center
• Funded by: The Sharing Economy Association of Korea

[Session 1] 인터넷은 경제적 불평등을 해소할 수 있는가? Can the Internet Help Solve the Problem of Economic Inequality? (13:30-16:00)

인터넷을 기반으로 출현한 신산업으로 상품 생산과 서비스 제공의 주체가 다변화하는 과정에서 도태되는 산업 사이의 관계에 대해 토론한다. 공유경제는 한편으로는 중간상인을 없앰으로써 많은 노동자들이 독립적인 계약자로 자립할 수 있는 기회를 창출하는 한편 단순히 비정규직 일자리를 확대하려는 경영상의 도구가 될 위험도 안고 있다. 공유경제의 확대에 이상적으로 대응하는 법제의 가능성을 알아본다. 

We discuss the relationship between newly emerging internet-based industries and the industries that are being replaced amid the diversification of product producers and service providers. The sharing economy has the potential to give laborers the opportunity needed to become independent contractors, but also has the possibility of reducing laborers to tools used to enlarge the pool of irregular workers. We explore the possibility of a legal frame to ideally respond to the expansion of the sharing economy. 

• Moderator: 박경신 오픈넷 이사, 고려대학교 법학전문대학원 교수 (KS Park, Professor, Korea University Law School)

• Speaker 1:  아이작 레데가드, 모나시 대학교 사회과학부 교수 – “편안한 이방인 모시기: 공유경제에 담긴 사해주의적 욕망” (Isak Ladegaard, Professor, Monash University – “Hosting the Comfortably Exotic: Cosmopolitan Aspirations in the Sharing Economy”) Download 1, Download 2

• Speaker 2: 그레고리 스타인, 테네시 주립대학교 로스쿨 교수 – “공유경제 내에서의 불평등” (Gregory M. Stein, Professor, University of Tennessee College of Law – “Inequality in the Sharing Economy”) Download 1, Download 2

• Speaker 3: 비나 뒤발, 캘리포니아 대학교 헤이스팅스법대 교수 (원격 참여) – “민주주의와 AB5: 캘리포니아 긱노동의 경제적 보호망과 규제” (Veena Dubal, Professor, UC Hastings School of Law, “AB5 to Democracy:  Economic Security & the Regulation of Gig Work in California” (participating remotely)) Download

• Discussant
  • 권두섭 변호사 민주노총 법률원 원장 (Doosup Kwon, Director, Korean Confederation of Trade Unions’ Law Center) Download
  • 김공회 교수 경상대학교 경제학과 교수 (Gong Hoe Gimm, Professor of Economics, Gyeongsang National University) Download
  • 김환민 위원 더불어민주당 전국청년위원회 청년을지로분과위원회 (Hwanmin Kim, Member of Democratic Party of Korea National Youth Committee Youth Eulji-ro Sub-committee) Download
  • 최재윤 변호사 법무법인 태일 (Jaeyun Choi, Lawyer, Taeil Law) Download
  • 윤지영 변호사 공익인권법재단 공감 (Jiyoung Yoon, Lawyer, Gonggam)

[Session 2] 블록체인을 기반으로 한 조합주의는 공유경제가 직면한 난관을 타개할 방안이 될 수 있을 것인가? The Various Ways in Which the Platforms Abilities’ Can Be Enhanced to Contribute to a Sustainable Solution, Such as Blockchain-Based Cooperativism (16:20 – 17:50)

공유경제모델이 플랫폼을 중심으로 발전하면서 플랫폼 자체가 또 하나의 경제력 집중의 주체로 인식되는 것은 공유경제가 직면한 현재의 아이러니한 상황이다. 이를 타개하기 위해 떠오르고 있는 블록체인 기반의 cooperatism에 대해 토론한다. 

It is ironic that platforms themselves are being recognized as the subject of concentration of economic power as the sharing economy model growth centers around platforms. We discuss blockchain-based cooperativism which has been rising as the solution to such problems. 

• Moderator: 박경신 오픈넷 이사, 고려대학교 법학전문대학원 교수 (KS Park, Professor, Korea University Law School)

• Speaker: 미셸 바우엔스, P2P재단 창립자 – “재분배적 도시공유에서 우주-지역적 생산공유로” (Michel Bauwens, Founder of the P2P Foundation – “From Redistributive Urban Commons to Cosmo-local Production Commons”) Download

• Discussant
  • 백욱인 교수 서울과학기술대학교 기초교육학부 (Wook Inn Paik, Professor, Seoul National University of Science & Technology)
  • 조산구 회장 사단법인 한국공유경제협회 (Sanku Jo, President, Sharing Economy Association of Korea) Download
    
  • 윤종수 변호사 법무법인 광장, 사단법인 코드 이사장 (Jongsoo Yoon, Lawyer, Lee & Ko, President, C.O.D.E.)
    

2019. 12. 10. 유네스코한국위원회와 HY 과학기술 윤리·법·정책 센터가 주최한 “AI 윤리 성찰 포럼”에 오픈넷 김가연 변호사가 토론자로 참가해 인공지능과 젠더 문제에 대해 이야기했습니다.

[토론문] 인공지능과 젠더 문제

김가연 오픈넷 변호사

사단법인 오픈넷은 자유, 개방, 공유의 인터넷이라는 가치를 옹호하자는 취지 하에 2013년에 설립된 비영리 시민사회단체입니다. 표현의 자유, 프라이버시, 오픈데이터, 망중립성 등 정보인권 분야에서 활발하게 활동하고 있습니다. 발제를 맡은 이상욱 교수님께서 오픈넷의 이사로 계시기도 합니다.

오픈넷에서는 한 3년 전부터 인공지능과 윤리에 관한 논의를 관심을 갖고 지켜보면서 여러 국내외 관련 세미나에 참석을 하고 토론회를 주최하는 등 동향을 파악하고 있습니다. 내년 1월에는 하버드 대학교 버크맨 클레인 센터 등과 함께 인공지능과 윤리에 관한 국제 세미나를 개최할 예정입니다. 다만 아직 국내에서 인공지능이 정보인권에 직접 영향을 미치는 유의미한 사례가 발생하지는 않아서, 미래를 대비한 연구나 예측을 하는 연구소나 학계와 달리 활동 중심의 시민사회단체로서는 관련 논의를 관망하는 수준인 것 같습니다. 그렇지만 인공지능 개발에 필수적인 빅데이터의 활용에 수반되는 개인정보 보호의 문제에 대해서는 활발하게 목소리를 내고 있으며, 얼굴인식기술 등이 국가감시 고도화에 악용될 가능성을 항상 경계하고 있습니다.

지금까지 발표된 여러 원칙들을 비교해보면 큰 틀에서 몇 가지 공통되는 핵심 가치를 찾을 수 있고 이는 발제문에서 잘 정리하셨다고 생각합니다. 이러한 원칙들이 앞으로 유네스코에서 성안할 윤리 규범에 잘 반영되길 바랍니다. 또한 유네스코에서 기존의 시도와 달리 윤리 전문가 및 여러 분야의 전문가들을 모아 워킹 그룹을 꾸려 논의를 시작하고, 젠더나 아프리카 대륙 같이 논쟁적인 주제(mandate)를 다루기로 한 것은 매우 바람직하다고 생각합니다. 일례로 지난 11월 방송통신위원회에서는 「이용자 중심의 지능정보사회를 위한 원칙」을 발표했는데, 이를 논의하는 자문단에 기업과 학계만 참여를 한 것으로 알고 있습니다. 정부 차원의 논의에는 당연히 이용자의 입장을 대변하는 시민단체가 참여했어야 하는데 오픈넷은 전혀 초대를 받지 못해 유감스럽습니다. 다양성과 전문성을 함께 추구하는 유네스코의 방식이 훨씬 바람직하다고 생각됩니다.

지금의 AI는 우리 현실을 반영하는 거울로서 우리가 가진 편견 등을 그대로 답습하고 있습니다. 결국 AI와 윤리는 AI를 개발하고 관리·감독하는 인간을 감독하는 원칙에 대한 문제라고 생각합니다. 발제자께서 개발자나 이용자 교육의 필요성을 언급하셨는데 매우 중요한 지적인 것 같습니다. 그리고 현재까지의 논의에서 AI와 젠더 문제는 간과되고 있는 면이 있어서 더 비중있게 다뤄져야 한다고 생각합니다. 그런 점에서 유네스코의 방향성은 매우 바람직한 것 같습니다. 그리고 유네스코에서 올해 발표한 디지털 기술 성 격차 관련 <I’d Blush If I Could> 보고서도 매우 좋은 자료인데요, 보고서에서 다룬 인공지능 음성비서의 성정체성 관련 논의를 통해 AI와 젠더에 대해 간단히 말씀드리겠습니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 인공지능 음성비서 또는 스피커는 현재 우리에게 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 기업들이 ‘여성 비서’를 내세우고 있기 때문입니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 크게 세 가지 가설이 있습니다.

첫 번째는 여성의 목소리를 선호하는 게 더 자연스럽다는 것입니다. 여러 연구에서 사람들은 여성의 목소리를 더 따뜻하게 느꼈다고 하고, 스탠포드 대학의 Clifford Nass 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바도 있습니다. 아마존과 마이크로소프트는 시장조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

두 번째는 여성형 인공지능이 덜 위협적으로 느껴진다는 것입니다. 여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설입니다. ‘2001: 스페이스 오디세이’ 등 SF 영화에서 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과의 Michelle Habell-Pallan 교수는 다수의 엔지니어가 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하는 경향이 있다고 합니다.

하지만 가장 설득력 있는 가설은 성역할에 대한 고정관념의 영향을 받았다는 것입니다. 여성형 음성비서가 많은 이유에 대해 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다. 앞서 언급한 유네스코가 발표한 보고서는 ‘시리’를 비롯한 음성비서들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이런 문제점이 단순히 AI 개발이나 활용에 적용되는 윤리를 강화한다고 해서 해결될 것 같진 않습니다. 결국 다른 모든 분야에서 여성의 인권을 보장하고 성평등을 이루어 나가기 위해 끊임없이 노력해야 하는 것처럼 AI 분야에서도 근본적으로 성격차를 줄이고 성평등을 이루어 나가는 노력이 필요합니다. 그런 면에서 젠더 문제에 관한 별도의 윤리 규범을 논의하기로 한 유네스코의 시도는 매우 바람직하다고 생각하며, 논의가 좋은 결실을 맺을 수 있도록 시민사회도 더욱 활발하게 의견을 내고 지지하도록 하겠습니다.

해외 전문가 초청 국제 컨퍼런스

“인공지능의 윤리와 데이터 거버넌스-국제적 흐름에서 데이터3법까지”

2020년 1월 20일(월) 10:30-16:30

고려대학교 CJ법학관 리베르타스홀 

(서울시 성북구 안암로 145)

사단법인 오픈넷이 1월 20일(월) 오전 10시 30분부터 고려대학교 CJ법학관 리베르타스홀에서 “인공지능의 윤리와 데이터 거버넌스”를 주제로 국제 컨퍼런스를 개최한다. 이번 세미나는 사단법인 오픈넷, 고려대학교 미국법센터, 인터넷사회연구센터 국제네트워크, 하버드대학교 버크맨클레인센터, 디지털아시아허브가 공동 주최한다.

이번 컨퍼런스의 핵심은 컨퍼런스에서 처음으로 발표되는 하버드대학교 로스쿨 사이버법 클리닉의 제시카 필드 교수가 중요한 AI 윤리 원칙을 매핑하는 백서와 데이터 시각화의 결과물인 “원칙에 입각한 AI 프로젝트(Principled AI Project)”일 것이다. 

또한 데이터 거버넌스와 AI는 물론이고 개인정보보호법과 오픈데이터 이니셔티브가 어떻게 AI의 포용성에 영향을 미치는지에도 초점을 맞출 것이다. 현재진행형으로 발전 중인 AI가 머신러닝의 노선을 따르고 있는 한, 머신러닝을 위해 제공되어야 하는 트레이닝 데이터에 관한 규범은 지속가능하고 공정한 발전에 이바지해야 하는 AI에 지대한 영향을 미칠 것이다. 

특히 1월 9일 통과된 데이터3법(개인정보보호법, 정보통신망법, 신용정보법)이 한국에서의 AI와 데이터 거버넌스에 있어 어떤 영향을 미칠지에 대해서도 논의할 예정이다. 데이터3법은 가명처리를 거친 가명정보를 통계작성, 과학적 연구 등의 목적일 경우 정보주체의 동의 없이 활용할 수 있도록 하는 것이 골자다. 

본 세미나에서는 동시통역이 제공되며, 참가신청은 아래 링크를 통해 할 수 있다. 

** 참가신청하기: https://forms.gle/cZT5xBC9Fviy7QLg9

문의: 오픈넷 사무국 02-581-1643, [email protected]

글 | 이미루(진보네트워크센터 활동가)

지난 1월 20일, 사단법인 오픈넷은 해외 전문가들을 초청하여 ‘인공지능의 윤리와 데이터 거버넌스-국제적 흐름에서 데이터3법까지’를 주제로 한 컨퍼런스를 진행했다. 이날 컨퍼런스는 AI 윤리 점검 및 원칙에 입각한 AI프로젝트라는 주제와 AI와 데이터 거버넌스를 주제로 한 두 개의 세션으로 진행됐으며, 각 세션은 국내외 전문가들의 발제는 물론 다양한 질문과 토론이 함께하여 풍성하게 진행되었다.

• 컨퍼런스 발표자료: https://opennet.or.kr/17373
• 영상 다시보기: 1세션(AI 윤리 점검), 2세션(AI와 데이터 거버넌스)

[Session 1] AI 윤리 점검: “원칙에 입각한 AI 프로젝트”

첫 번째 세션은 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)의 사회 아래 ‘AI 윤리 점검: 원칙에 입각한 AI 프로젝트’를 주제로 진행되었다. 첫번째 발제는 제시카 필드 교수의 ‘원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들’이었으며, 두번째 발제는 허버트 버커드 교수의 ’AI 윤리의 윤리학’이었으며, 마지막 발제는 마르셀로 톰슨 교수의 ‘노력, 설계와 책임’이었다.

제1발제: 제시카 필드(Jessica Fjield) 하버드대학교 로스쿨 사이버법클리닉 교수

“원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”

제시카 필드 교수는 첫 번째 발제자로 나서 여러 공동저자들과 함께 연구를 진행했던 “원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”을 발표했다. 몇 년에 걸쳐 총 36개의 문헌을 검토한 연구진은 AI 윤리에 원칙 혹은 표준을 적용해보자는 원칙하에 사회에 긍정적인 영향을 미치길 바라며 연구를 시작했다고 밝혔다. 이후 사회 각층은 물론 여러 정부, 국제 시민사회, 정부간 기구 등을 통해 발표된 여러 AI 원칙을 연구하여 크게 여덟 가지 윤리 원칙에 대한 공통의 인식을 발견할 수 있었다고 밝혔다.

여덟 가지 윤리 원칙은 1) 프라이버시 2) 책임성 3) 안전과 안보 4) 투명성과 설명 가능성 5) 형평성과 차별금지 6) 인간에 의한 기술 통제 7) 전문성이 가지는 책임성 8) 인권증진이다. 필드 교수는 각 원칙들은 세부적이고 다양한 내용들을 포함하지만, 위 여덟 가지 큰 원칙이 지금까지 발표 된 대다수의 AI  원칙에서 중요한 자리를 차지하고 있다고 강조했다(이 외에도 여러 주요 의제들이 있으나, 보다 자세한 내용은 보고서 참조). 앞서 언급된 원칙들은 ‘빅데이터 시대’, ‘AI 기술의 도입’과 함께 지속적으로 문제시 되어왔던 내용들로 원칙적인 선언에 가깝다. 필드 교수는 해당 보고서가 원칙을 주로 담고 있지만, 전반적으로 ‘윤리(ethics)’에 대한 연구가 부족했음을 한계로 지적했다.

제2발제: 허버트 버커트(Herbert Burkert) 스위스 성갈렌대학교 법대 교수

“AI 윤리의 윤리학”

AI 윤리의 윤리학이란 주제로 발제를 이어나간 허버트 버커트 교수는 발제에 앞서 도덕(Moral)과 윤리(Ethics)의 개념을 구분해야한다고 설명했다. 도덕은 사람들이 어떻게 행동하는가의 영역이며, 윤리는 이론적 담화, 즉 무엇이 옳고 그른가에 대한 것이라고 설명했다. 이날 토론회의 큰 주제였던 AI 윤리 원칙이 자세한 행동 규정이라기보단 무엇이 옳고 그른가에 대한 원칙적 이야기임을 강조한 것이다.

허버트 교수는 익숙한 여러 그리스 신화를 예시로 들며 발제를 시작했다. 우리는 보통 판도라를 ‘절대 열지 말라’고 했던 상자를 열어 인류에게 재앙을 안긴 ‘나태하고 장난끼 많은’ 여성으로 기억하고 있다. 하지만 한 조사에서는 이 신화가 와전된 것임을 밝혔다고 한다. 본래 판도라는 ‘가이아’, ‘대자연’으로 불리던 존재로 인류에게 나쁜 것뿐 아니라 좋은 것도 주었던 존재였다는 것이다. 하지만 우리가 기억하는 방식으로 판도라를 기억하게 된 배경에는 모계사회에서 부계사회로의 변화를 위해 여성 혐오 시각이 더해져 신화를 바꿔 전달했을 수 있다고 한다. 허버트 교수는 이 일화를 통해 사회적 원칙, 윤리라는 것이 당시 시대 상황에 따라 변화하는 것임을 강조했다. 따라서 윤리 원칙만을 강조할 것이 아니라 인류가 행동함에 있어서 어떤 것들을 기준으로 삼을 것인가에 대한 이야기를 나눠야 한다고 강조했다.

허버트 교수는 정작 윤리 강령이 놓치는 것은 실제 원칙들 사이에서 충돌이 발생했을 경우임을 이야기하며 AI 윤리와 기술 그 자체에 대한 이야기는 많이 하는데 비해 정작 충돌이 발생했을 때 어떻게 행동해야 하는가에 대한 연구는 부족하다고 지적했다. 상황에 따라 어떤 기준을 따라야 할지, 원칙들 간에 충돌이 발생했을때 어떤 규칙을 따라야 할지 정의할 수 있는 법적 개입 혹은 규제 방안을 마련해야 한다고 강조했다. 이를 위해선 윤리강령에 긍정적이고 건설적인 비판을 할 수 있는 도구를 마련하는 게 중요하다고 강조했다.

제3발제: 마르셀로 톰슨(Marcelo Thompson) 홍콩대학교 법대 교수 

“노력, 설계와 책임”

마르셀로 톰슨 교수는 ‘노력, 설계와 책임’을 주제로 1세션의 마지막 발제를 맡았다. 톰슨 교수는 AI 발전이 우리 가치관에 어떤 영향을 주는지, 그리고 AI가 발전함에 따라 어떻게 인공지능을 활용할지에 관한 규범을 만드는데 어떤 영향을 가지는지에 대한 이야기를 하겠다며 발표를 시작했다. 톰슨 교수는 여러 원칙들 중에서도 ‘책임성’에 집중했고, 내용 규제에서의 플랫폼의 권한과 역할에 대한 예시를 자세히 다루었다.

예를 들어 내용 규제와 플랫폼의 관계에 대해서 이야기할 때, 결과물에 대한 책임, 기술이 만들어 내는 산출물이나 여파가 아니라 해당 결과가 나오는 과정과 AI 솔루션이 만들어지기까지 투여된 노력 등에 더 방점을 둬야 한다는 주장이다. 톰슨 교수는 지금 유럽의 내용 규제는 문제시되는 콘텐츠가 특정 플랫폼에 게시되어 있다면 그 콘텐츠의 문제 여부나 평가 과정 등은 상관없이 결과적으로 해당 콘텐츠가 계속 게시되어 있느냐 아니냐만으로 처벌여부가 결정되기 때문에, 오히려 표현의 자유를 억압하고 플랫폼 운영자들이 게시물을 ‘우선 내리고 보자’는 식으로 반응하게 만들 가능성을 강조한다. 그 결과 톰슨 교수는 결과 기반의 책임성 여부가 아닌 노력 기반의 책임성 체계가 중요하다고 강조한다. 해당 플랫폼이 충분히 노력을 들였고, 대응 과정에서 합리적 노력을 했다면 이런 노력을 인정해 법적 규제의 수준을 달리 할 수도 있다는 것이다. 그는 AI도 마찬가지로 AI 규범과 규제, 법적 제도 등을 만드는데 있어 단순히 설계 결과물을 평가할 것이 아니라 그 과정에서 어떤 노력이 있었는지, 향후 우리 삶에 어떤 영향을 미칠지에 대한 충분한 고민을 했는지, 그리고 법적 책임은 어떤 영향을 미치게 될지에 대한 고민을 해야 한다고 강조했다.

종합토론

이어지는 종합토론에서는 말라비카 자야렘 디지털아시아허브 소장이 원격으로 참여하여 발제에 여러 질문을 던졌다. 자야렘 소장은 개인적 선택과 구조적 문제가 연결될 수 있는가라는 질문이 해당 세션의 핵심이라며 개인의 도덕적 일탈의 수준에서 문제를 바라볼 것이 아니라 제도적이고 구조화된 윤리 의식이 중요하지 않은가라는 질문을 다시 던졌다. 또한 계속해서 AI 윤리 원칙에 대한 논의를 나누고 있지만, 그것이 실제 우리의 현실을 개선할 순 있을지, 각 국가와 사회가 가지는 문화･규범적 특징, 맥락에 의해 다르게 반영될 때, 우리가 원칙이란 이름으로 이를 공통의 인식으로 바라볼 수 있을지 등과 같은 질문을 던졌다.

이상욱 한양대학교 철학과 교수는 우리가 흔히 언급하는 ‘AI 윤리’가 굉장히 추상적인 경우가 많아 그것이 잘 지켜졌는지 판단할 수 있는 기준이 없는 경우가 대부분이라고 했다. 특히나 AI 기술의 발전과 활용에 있어 어느 정도로, 어떤 방식으로 규제할 것인지에 대한 부분도 아직 모호하다고 설명했다. 따라서 제도적 규제를 도입할 때는 각 국가별 문화 등을 반영하여 규제조항을 아주 구체적으로 만든 후 도입해야 함을 강조했다. 이에 더해 AI 윤리 원칙에 대한 중심적인 키워드보다 실제 키워드 사이에 어떤 경쟁들이 존재하는지 이런 갈등을 어떤 방식으로 논의하고 해결하기 위해 노력하고 있는지와 관련한 논의가 부가되었다면 더 좋았을 것 같다며 토론을 마무리했다.

최은필 카카오 연구위원은 AI 기술 역시 사람이 중심이 되는 기술이며,  AI 사회 구성원들이 기술과는 다른 변화의 소용돌이 속에서 기본적인 원칙과 규범을 지킬 수 있을지 고민해야 한다고 말했다. 특히나 알고리즘의 활용 등으로 기업의 사회적 역할이 강조됨에 따라 기업의 숙제와 책임에 대한 요구도 늘어나고 있음을 강조했다. 하지만 기술의 발전과 새로운 서비스의 등장으로 현재 원칙이 담아내지 못하는 부분들이 증가할 수 있음을 이야기하며 사회 전체가 유기적으로 움직이며 더 나은 해법을 찾아야 한다고 강조했다.

카를로스 아폰소 데 수자 리오기술과사회연구소 소장은 현재 인공지능에 대한 논의를 진행함에 있어 로봇공학에서의 인공지능과 인터넷을 기반으로 한 인공지능 두 가지 측면에서 살펴봐야 한다고 말했다. 그는 우리가 말하는 인공지능 원칙이 무엇에 기반해 있는지, 이전 규제 등을 통해서 무엇을 배웠는지 등을 성찰해야 한다고 주장했다. 지금까지의 인공지능 논의 맥락에서 우린 좀 더 단순한 상황에 대한 질문을 심사숙고할 필요가 있으며, 가령 AI 스마트로봇에 새로운 법인격을 부여하여 누가 해당 법인격의 책임자가 될 것인지에 대한 고민이 필요하다고 강조했다. 뿐만 아니라 인간이 인공지능의 완전한 관리자가 되기 위해 어떤 시스템을 가져야 할지에 대한 고민도 필요하다고 했다. 이에 더해 인공지능으로 인한 이익뿐 아니라 그 반대의 경우, 즉 부정적인 결과가 도출 되었을 때 사람이 시스템의 일부가 되어 어떻게 책임을 질 것인지에 대한 고민이 이루어져야 한다고 강조했다.

[Session 2] AI와 데이터 거버넌스

두 번째 세션 역시 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)가 사회하에 ‘AI와 데이터 거버넌스’를 주제로 진행됐다. 그레이엄 그린리프 교수, 클라우디오 루세나 교수, 오병일 진보네트워크센터 대표가 발제했다. 이들은 GDPR을 중심으로 데이터 시대의 개인정보보호를 중심으로 다루었으며, 현재 한국에서도 논란이 되고 있는 ‘가명정보 처리’에 대한 주제까지 포괄했다.

제1발제: 그레이엄 그린리프(Graham Greenleaf) 호주 뉴사우스웨일스대학교 법·정보시스템학과 교수(원격 참여) 

“연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?”

그레이엄 그린리프 교수는 ‘연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?’을 주제로 발제를 진행했다. 그는 한국이 EU회원국일 경우로 가정하고 GDPR에 어떻게 적용을 받는지, 한국의 개인정보보호법과는 어떤 점이 다른지 등을 중점적으로 이야기 했다.

그린리프 교수는 가명처리를 했다고 해도 여전히 개인정보는 개인정보라는 점을 강조했다. 가명처리가 되었다고 해도, 해당 데이터의 익명성을 완전히 보장할 수 없고, 익명정보에 비해 개인식별의 위험은 여전히 높기 때문이다. 물론 GDPR은 공공의 이익을 위한 아카이빙, 역사적 과학적 연구 목적, 통계 목적의 활용은 양립가능성을 인정하여 정보주체의 동의 없이 개인정보를 처리하여 활용할 수 있도록 하였다고는 하지만, 모든 경우에 예외가 적용되는 것은 아니며, 양립가능성이 인정된다고 해도 정보주체의 권리를 무시해도 된다는 의미가 아님을 강조했다.

그는 현재 한국에서 첨예하게 논의되고 있는, ‘과학적 연구에 상업적 연구를 포함해도 되는가?’에 대해서도 다뤘다. 그린리프 교수는 특정 과학적연구방법을 쓴다고 하더라도, ‘해당 연구사업이 그 분야에서 방법론 및 윤리적 차원에서 모든 기준을 만족하는지?’에 대한 구체적 기준을 정해야 한다고 설명했다. 또한 일반적 상업연구, 예를 들어 시장조사와 같은 연구는 상업적 목적에 입각한 것으로 정보주체의 동의 없이 가명정보처리 및 활용을 해서는 안 된다고 말했다.

이 외에도 가명처리된 개인정보 출판의 위험성, 민감정보 활용시 정보주체의 권리 침해의 위험성 등을 강조했다. 또한 GDPR에서 공익적 목적을 위한 정보 활용의 제한을 많이 풀어두기는 했지만, 그게 모든 것을 해도 된다는 허가는 아니라고 강조했다. 무엇보다 유럽과 한국의 문화적, 사회적 맥락이 다른 만큼 세부적인 사항은 한국적 맥락에 맞춰 활용할 수 있도록 하는 것이 중요하다고 강조하며 발제를 마쳤다.

제2발제: 오병일 진보네트워크센터 대표

“데이터3법의 문제점”

오병일 진보네트워크센터 대표는 얼마 전 국회를 통과한 ‘개인정보 3법’(개인정보보호법, 정보통신망법, 신용정보법)의 문제점을 지적하는 발제를 이어나갔다. 오병일 대표는 현재 대한민국의 개인정보보호법이 유럽 GDPR에 비추어 미흡한 점이 많으며, 이로 인해 정보주체의 권리가 침해되고, 개인정보 보호가 제대로 이루어지기 힘든 구조임을 거듭 강조했다.

오병일 대표는 현재 개인정보보호법이 정의하는 개인정보의 범위가 매우 좁은데, 이 경우 ‘개인정보’로 인정되지 않아 제대로 보호되지 않는 데이터가 발생할 수 있음은 물론, 현재 개인정보보호법상 개인정보 범위에 대한 해석이 애매모호해질 수 있는 부분이 존재함을 지적했다. 또한 최근 이슈가 되고 있는 ‘과학적 연구’에 대해서도 가명처리된 개인정보의 상업적 활용, 제공, 결합을 폭넓게 허용하여 대기업 사이에 고객정보의 무한 공유 및 이에 따른 개인정보 남용 및 유출 위험성이 커짐을 강조했다.

특히나 이번 법 개정에서는 개인의 권리를 보장할 수 있는 정보주체의 권리 조항이 제대로 포함되지 않아, 개인정보 보호를 위한 안전장치도 미흡하다고 강조했다. AI와 빅데이터를 이야기 할 때 개인정보보호중심 설계 및 기본 설정, 프로파일링 권리 보장 및 규제의 부재, 개인정보 영향평가 등 다수 정보주체의 권리 보장 조항이 누락된 점은 특히나 문제라며 발제를 마쳤다.

제3발제: 클라우디오 루세나(Claudio Lucena) 브라질 파라이바 주립대학교 법대 교수 

“프라이버시 친화적 데이터연계 방식과 GDPR”

클라우디오 루세나 교수는 “프라이버시 친화적 데이터연계 방식과 GDPR”을 주제로 발제했다. 그는 브라질의 개인정보보호법 및 데이터 활용 상황도 공유했다. 루세나 교수는 브라질에서도 GDPR이 골든 룰(Golden Rule)처럼 표준으로 여겨지고 있으며, 이를 통해 개혁이 아닌 단순히 데이터보호 체계를 만들어 가고 있다고 했다.

루세나 교수는 데이터 활용과 관련하여 데이터를 재생산 가능한, 민감한 생필품이라고 정의했다. 디지털 경제 생산 시스템에서 데이터를 활용하여 정책을 개선하거나 더 나은 정책을 만들 수 있다는 데이터를 활용할 수 있어야 한다는 것에는 이견이 없을 것이라 주장했다. 따라서 데이터 접근권 및 사용권 자체를 막는 건 경제적으로 맞지 않다고 말했다. 동시에 데이터 자체가 ‘나’라는 존재는 될 수 없지만 오늘날의 데이터는 우리 자신을 대변하는 인격의 연장선상에서 바라봐야 한다고 말했다. 그는 절대적인 접근과 사용을 허가하는 것도, 원천적으로 금지하는 것도 결국 옳은 방법이 아님을 강조했다.

루세나 교수는 브라질의 데이터보호법과 한국의 개인정보보호법 모두 민감정보에 대해 정의하고 있는 반면, GDPR은 민감정보에 대해 명시적인 조항을 가지고 있지는 않음을 이야기했다. 하지만 GDPR을 통해 전반적 데이터 보호 기준이 강화된 것으로 이해해야 한다고 설명했다. 또한 브라질 법의 경우 상업적 데이터로 활용할 수 있는 경우를 매우 자세히 다루고 있음을 언급했다. 또한 기초연구가 아닌 상업적 연구의 경우 브라질은 민감정보를 기반으로한 연구는 금지하고 있다고 밝혔다. 공공을 위한 연구의 경우 예외가 되는데, 다만 활용과 보호 사이 균형을 맞추는 것이 중요하다며, 브라질 법의 경우 세세한 조항으로 언급하고 있음을 강조했다. 그는 이외에도 단순히 법적 규제 만으로는 이런 문제를 전반적으로 다룰 수 없으며, AI 거버넌스 등 다른 일련의 역할을 할 수 있는 장치들을 더해 전 세계적 틀을 구성하여 정보주체의 권리를 잘 담아내야 한다고 강조하며 발제를 마쳤다.

종합토론

이날 토론자로 함께 한 이대희 고려대학교 법학전문대학원 교수는 데이터가 엄청난 가치를 지니게 됨으로써 데이터 활용에 대한 위험성 지적과 함께 프라이버시와 관련된 문제들이 야기되었다고 한다. 그는 데이터의 활용과 보호에 균형을 맞춰야 함을 강조하며, 보호만 강조하면 결국 활용이 힘들어진다고 강조했다. 이번 개인정보보호법 개정에 대해서도 인공지능과 관련한 조항이 없음을 강조하며, 개인정보보호법을 데이터 활용에 보다 초점을 맞춰 개정하고, 이와 동시에 정보주체의 권리도 보다 확대되어야 한다며 토론을 마무리했다.

김가연 오픈넷 변호사는 ‘가명정보’에 초점을 맞춰 토론을 진행했다. 김가연 변호사는 이번 법 개정으로 기업들이 가명정보를 편히 쓸 수 있는 것처럼 이야기하지만, 실상은 그렇지 않다고 강조했다. 이번 개인정보보호법 개정은 활용과 보호를 둘 다 놓친 법안이라고 비판했다. 특히나 대한민국의 경우 주민등록제도와 실명제 등 가명정보 처리를 했다고 하더라도 재식별 가능성이 높기 때문에, 이에 대한 안전장치도 함께 강화했어야 하는데 이 부분은 다 놓쳤음을 강조했다. 이후 시행령 제정 등의 과정 역시 이런 논의들로 쉽지 않을 것이라 주장했다. 김가연 변호사는 개인정보보호법이 정의하는 과학적 연구의 범위가 어디까지 해당 할지에 대한 질문으로 발제를 마무리했다.

이호영 정보통신정책연구원 지능정보사회정책센터 센터장은 현재 세계적 논의와 마찬가지로 국내에서도 각각의 인공지능 원칙들이 충돌할 때에 이를 어떻게 해소할지에 대해 고민하고 있다고 말했다. 뿐만 아니라 인공지능 서비스의 활용 측면에 있어서도 계층화가 이뤄지고 있다고 강조했다. 소득격차, 학력격차 등 개인정보를 제공하고도 서비스를 제대로 누리지 못하거나, 아예 제공 자체를 원천 차단하여 어떤 서비스도 받지 못하는 경우가 존재한다는 것이다. 이외에도 초국가적 시장이 생기고, 그 안에서 정부, 시민사회, 기업 등 모든 것들이 섞여 있어 새로운 프레임이 계속 생겨남에 따라 이를 이야기할 수 있는 국제적 협약이 필요하다며 토론을 마무리했다.

이후 종합토론에서는 플로어의 청충들까지 토론에 참여하여 앞서 논의됐던 주제들은 물론, 정부 규제와 기업의 입장, 노동 시장에서의 인공지능 도입으로 인한 문제 등으로까지 주제를 확장하며 열띤 논쟁이 이어졌다.

사단법인 오픈넷과 디지털아시아허브는 6월 11일(목) 저녁 7시(한국시간)에 공동으로 국제웨비나를 개최합니다.

오픈넷은 한국의 감염병법 제76조의2는 확진자의 동선을 추적하는 법제로서 한국의 선제적 대량 검사 전략의 핵심이었지만 세계적으로 유례 없이 확진자의 동의나 법원의 영장없이 이루어지고 있다는 점에서 검토가 필요하며, 이에 대한 국제적인 인권기준도 확정적이지 않아 본원적인 차원에서의 검토가 필요하다는 입장을 밝힌 바 있습니다. 우리나라가 긴급대응에서 장기대응으로 전환하는 이 시점이 이와 같은 토론의 적기라고 판단하여 우리나라 법에 대해 다른 나라의 학자들로부터 의견을 들어보고, 우리도 다른 나라의 법에 대해 평가해보는 시간을 마련하였습니다. 

연사: 

• 릴리안 에드워즈 교수, 뉴캐슬 대학교, 법/혁신/사회학 교수(Prof. Lilian Edwards, Professor of Law, Innovation and Society, Newcastle University). 정보수집, 정보추가처리 및 차별에 대한 모범법으로 삼고 있는 영국의 코로나바이러스안전조치법 2020(The Coronavirus (Safeguards) Bill 2020)의 주저자. 호주를 비롯한 여러 나라들이 모범으로 삼고 있는 법. 
• 그래험 그린리프 교수, 뉴사우스웨일즈 대학교, 법/정보시스템학 교수(Prof. Graham Greenleaf, Professor of Law & Information Systems), 호주의 COVID안전법(COVIDSafe Act)에 신뢰를 강화하기 위한 개정안을 제안하였음. 
• 박경신 교수, 고려대학교 법학전문대학원, 사단법인 오픈넷 (Prof. Kyung-Sin (“KS”) Park, Professor, Korea University School of Law, and Executive Director, OpenNet Korea). 한국의 감염병예방법 제76조의2의 특이성에 대한 논의 제안.  

참석을 원하는 분들은 여기에 등록하시면 링크를 보내드릴 것입니다. 1. 우리말 동시통역을 듣기도 하고 우리말로 질문도 하고자 하시면 등록 후에 위 시간에 오픈넷 사무실(서울시 서초구 서초대로50길 62-9, 402호)로 오시면 됩니다. 2. 우리말 동시통역을 듣기만 하시려면 별도로 보내드리는 링크로 참여하시면 됩니다. 3. 원어 원격으로만 참가하고자 하시는 분은 아래 해외 홍보자료에 있는 링크에 직접 등록하셔도 됩니다. 어떤 경우에도 사전등록을 하셔야 합니다. 

* 오픈넷 사무실 수용인원이 한정되어 있어 선착순으로 15명을 모집하며, 인원이 초과되는 경우 참석이 어려울 수 있음을 알려드립니다. 사전등록을 하지 않은 분은 입장이 불가능할 수 있습니다.

이번 세미나는 디지털아시아허브가 코로나 바이러스 상황을 맞이하여 연속주최해왔던 When The Music is Over(음악이 끝날 때) 세미나의 6번째 순서로서 아래는 해외 홍보자료입니다. 

문의: 오픈넷 사무국 02-581-1643, [email protected]

When the Music is Over

We’ve had balcony concerts. Livestreams. Living room jam sessions. Pots and pans banging. And clapping. (So much clapping). We’ve been inspired by the talent, generosity and spirit on display. But continue to ask: what next?

What happens when the music stops, but the surveillance doesn’t? When bands return to stadiums, but emergency powers don’t return to the statute books? When the ‘new normal’ becomes the same old scope creep? When beaches reopen, but migrant worker dorms don’t?

Session 6: Test, Trace, Isolate. And Legislate?

Tracing apps. Border closures. Quarantines. Immunity Passports. QR Codes. And good old fashioned legislation. 

Join us on a trip from Seoul to Sydney via the UK, as we hear about the role of law in codifying safeguards, and (re)opening borders and businesses. Our all-star line-up have been closely following (and in one case, leading!) their respective legislative approaches, and will weigh in about trust, containment, and function creep.

Prof. Lilian Edwards, Professor of Law, Innovation and Society, Newcastle University, who is the Lead Author of The Coronavirus (Safeguards) Bill 2020, a model statute about data collection, repurposing, and discrimination, which several countries including Australia are emulating;

Prof. Graham Greenleaf, Professor of Law & Information Systems, UNSW, who recently proposed improvements to Australia’s COVIDSafe Act, to further boost trust through legislation; and

Prof. Kyung-Sin (“KS”) Park, Professor, Korea University School of Law, and Executive Director, OpenNet Korea, who has critically analyzed Korea’s ‘open borders, open business’ approach, built on lessons from the 2015 MERS outbreak.

Please RSVP here.

Date: Thursday, 11 June

Time: 6am Boston / 11am London / 6pm  Hong Kong / 7pm Seoul / 8pm Sydney

아시아 태평양 지역 40여 국의 법조인과 법조 관련 단체로 구성된 로아시아(LAWASIA)는 2020년 6월 2일부터 3주간 매주 화요일에 ‘로아시아 인권 웨비나 시리즈’를 개최했습니다. 김가연 변호사는 제2부 “코로나19 기간 중 정부 책임 : 시민의 알권리(Government Accountability during COVID-19: The Citizens’ Right to Know)”에 발제자로 참여해 한국의 상황에 대해 이야기했습니다.

로아시아 인권 웨비나 페이지 바로 가기

Korea discovered its first COVID-19 case on January 20th. The Korean Centres for Disease Control and Prevention immediately organized a meeting with bio-medicine companies to ask them to develop test kits. The test kits became available in three weeks. Then from February 20th, the number of cases began to explode in and around the City of Daegu to nearly 9,000 cases in less than a month, making Korea one of the most dangerous countries in the world. The size and speed of the outbreak seemed to be uncontrollable. The government, however, continued to 1) rigorously trace the prospective cases, 2) test for free, and 3) treat for free, everyone regardless of nationality. The government has also implemented robust measures to coordinate closely with all cities in the curbing of the spread of the virus, including the installation of the famous drive-through and walk-through testing centers.

One of the principles for the Korean government to respond to COVID19 is full transparency. So, the Korean government disclosed not only travel routes of infected persons but also information on spreading patterns of the disease and response to it from the beginning of the disease. Our Foreign Minister Kang, Kyung-wha mentioned that the basic principles are openness, transparency and fully keeping the public informed. Korea has a very good health care system to begin with and the system is highly wired. Fully utilizing that, our government has dealt with the outbreak from the very beginning with full transparency and that’s how the government gained public trust and support. 

However, such full transparency principle had side effects, especially regarding the disclosure of the travel routes of infected persons. As each local government has already disclosed when and whereabouts of infected persons with other personal information such as gender and age, individuals are being harmed. It caused groundless accusations, speculations, ridicule, and hate speech against the patients. People even say that they are more scared of being stigmatized by the disclosure than getting infected. 

For example, a typical emergency alert says, “A 43-year-old man, resident of Nowon district, tested positive for coronavirus,” “He was at his work in Mapo district attending a sexual harassment class. He contracted the virus from the instructor of the class.” A series of alerts then follow such as where the men had been, including a bar in the area until 11:03 at night. These alerts arrive all day, every day, telling you where an infected person has been and when. You can also look up the information on the Ministry of Health and Welfare website or local governments’ websites. This disclosure measure is carried out according to the Infectious Disease Control and Prevention Act and the Personal Information Protection Act (PIPA).

On March 9, the National Human Rights Commission of Korea (NHRCK) said that “it is hard to deny the need to disclose a certain amount of information including location and time of the visit by the infected person to prevent the spread of infectious disease, but disclosing more personal data than necessary are resulting in human rights violations.”

Accordingly, the Korea Centers for Disease Control and Prevention released the disclosure guidelines on March 14. According to the guidelines, the location and means of travel should be disclosed only when there is a contact of non-patient with a patient, and personal data such as the address or company name, shouldn’t be disclosed. However, the guidelines still allow the disclosure of travel routes of patients. And other personal data of patients, such as gender, last name, age, occupation, nationality, and religion, are still being disclosed. 

Although It’s necessary to disclose some information for the citizens’ right to know’s sake, we need to be careful not to violate the human rights of patients. For example, information about whether the patient entered Korea after visiting a specific country would be more important than the patient’s nationality. Likewise, more relevant is whether a person had a meal together with a patient is more important than whether the person is the patient’s spouse, daughter, son-in-law, or sister-in-law. Therefore, Korean civil society is requesting the government and the press to minimize the disclosure of unnecessary personal information that could be used to identify and stigmatize individuals.

사단법인 오픈넷은 한국공법학회와 공동으로 8월 7일 오후 3시, 서울대학교 법학전문대학원 서암홀에서 “감염병예방법상 정보제공요청과 정보인권” 세미나를 개최합니다.

오픈넷은 한국의 감염병법 제76조의2가 확진자의 동선을 추적하는 법제로서 한국의 선제적 대량 검사 전략의 핵심이었지만 세계적으로 유례 없이 확진자의 동의나 법원의 영장없이 이루어지고 있다는 점에서 검토가 필요하며, 이에 대한 국제적인 인권  기준도 확정적이지 않아 본원적인 차원에서의 검토가 필요하다는 입장을 밝힌 바 있습니다. 그리고 공법학회에서는 코로나 사태로 인해 제기되고 있는 공법적 문제상황에 대응하고 관련 쟁점을 연구하기 위해 “코로나 19 공법학의 과제” 포럼을 조직하여 지혜를 모으고 있습니다. 지난 5월 28일 제1차 포럼에서는 “코로나 19와 감염병 대응의 법제 점검”을, 7월 9일 제2차 포럼에서는 “코로나 대응 동선관리의 법적 쟁점과 지방자치단체의 역할”을 주제로 활발한 논의를 진행하였습니다. 

오는 8월 7일 세미나에서는 코로나 19에 대한 적극적인 대처 과정에서 지적되어 온 감염병예방법상 정보 수집·제공·공개의 정보인권 침해 우려에 대한 법적 문제를 함께 검토하는 기회를 갖고자 합니다. 관심있는 여러분의 적극적 참여를 부탁드립니다. 

사전등록: https://forms.gle/RH8AhTem7zVrmMuG7

* 충분한 거리 확보를 위해 현장참여 인원에 선착순 제한(20명)이 있으니 꼭 사전 신청하여 주시기 바랍니다. 본 행사는 오픈넷 유튜브 채널에서 온라인으로 동시중계될 예정입니다.

▣ 주제: 감염병예방법상 정보제공요청과 정보인권

▣ 일시: 2020년 8월 7일(금) 15:00-17:30

▣ 장소: 서울대학교 법학전문대학원 17동 6층 서암홀

▣ 주최: 사단법인 오픈넷, 한국공법학회 코로나19대응포럼 

○ 개회사: 이원우 한국공법학회 회장

좌장: 황성기 교수(한양대, 오픈넷 이사장)

○ 제1주제: 감염병예방법 제34조의2에 대한 공법이론적 검토 – 정필운 교수(한국교원대)

○ 제2주제: 감염병예방법 제76조의2 정보제공요청의 법적 문제 – 김가연 변호사(오픈넷)

○ 제3주제: 감염병예방법에 따른 확진자 동선공개와 인권 – 김민섭 사무관(국가인권위원회)

○ 종합토론
사회: 김태호 한국공법학회 기획이사
토론: 이희정 교수(고려대), 남정아 박사(서울시립대), 장여경 이사(정보인권연구소), 조상연 연구관(질병관리본부) 

문의: 오픈넷 사무국 02-581-1643, [email protected]

“가명정보 열람권 등 정보주체 권리 보장을 위한 토론회”

지난 2월 개인정보보호법이 개정되면서 유럽의 GDPR처럼 “통계작성, 과학적 연구, 공익적 기록보존 등” 공공의 이익을 위해서는 “가명처리”라는 안전조치를 취하면 정보주체에게 일일이 동의를 얻지 않아도 개인정보를 활용할 수 있는 길이 열렸습니다. 그러나 정보주체에게 보장되었던 개인정보 열람권, 정정·삭제권, 처리거부권 등 정보주체의 권리를 가명처리된 개인정보인 “가명정보”에 대해서는 인정하지 않으면서 부당한 사례가 발생하고 있습니다(개인정보보호법 제28조의7). 개인정보처리자 입장에서도 가명처리된 개인정보, 즉 가명정보의 재식별화가 예외없이 금지되어 있기 때문에 정보주체가 열람권 등 자신의 권리를 행사하고자 할 때도 재식별화를 할 수 없어 권리의 보장을 해주지 못하게 되었습니다(개인정보보호법 제28조의5). 예를 들어, 병원은 개인정보 유출시의 피해를 최소화 하기 위해 입원기록을 가명처리하여 보관할 수도 있는데, 환자가 자신의 입원기록을 보여달라고 해도 가명처리를 한 이상 재식별화해서 보여줄 수 없는 상황입니다. 

이에 비해 GDPR에서는 ‘과학적 연구, 통계, 공익적 기록 등의 목적’을 위해서 이용된 경우에만 열람권, 정정권, 처리거부권 등이 제한되고 있고, 해석상 정보주체의 권리 보장을 위한 가명정보의 재식별화는 자유롭게 허용하고 있습니다. 관련 법개정을 위한 논의를 다음과 같이 하고자 합니다.  

* 본 토론회는 온라인으로만 시청하실 수 있으며, 유튜브 오픈넷 채널에서 라이브 방송으로 진행됩니다. 

• 행사명: 가명정보 열람권 등 정보주체 권리 보장을 위한 토론회
• 일시: 2020년 12월 7일(월) 오후 2시
• 주최: 국회의원 민병덕, 사단법인 오픈넷

• 발제: “가명정보에 대한 열람권 등 정보주체 권리 보장을 위한 개인정보보호법 개정 방향” – 박경신 교수(고려대, 오픈넷 이사)

• 토론
  • 좌장: 유승희 전 국회의원(17, 19, 20대)
    
  • 김선휴 변호사(법무법인 이공, 참여연대 공익법센터)
  • 오병일 대표(진보네트워크센터)
  • 이한샘 과장(개인정보보호위원회 데이터안전정책과) 
  • 최경진 교수(가천대)

문의: 오픈넷 사무국 02-581-1643, [email protected]  

사단법인 오픈넷은 더불어민주당 윤영찬 의원실과 공동으로 1월 27일 수요일 오전 10시, “망중립성과 새로운 인터넷 10년”을 주제로 토론회를 개최합니다.

새로운 한 해의 시작과 함께 2021년이라는 숫자에서 볼 수 있듯이 새로운 10년이 시작되었습니다. 작년 미국 대통령 선거에서 민주당 조 바이든 후보가 당선되었고, 영국은 EU를 탈퇴하는 등 글로벌 정치·경제환경에 많은 변화가 있었습니다. 무엇보다 코로나19는 비대면 생활을 일상화시켜 포스트 코로나19 시대는 ‘언택트’가 뉴노멀로 자리잡을 것으로 예상되고 있습니다. 

이에 따라 우리나라에서는 5G 상용화를 시작으로 인터넷과 망 중립성의 중요도가 그 어느 때보다도 부각되고 있는 상황입니다. 망 중립성은 통신사업자(ISP)가 인터넷 트래픽을 그 내용·유형·제공사업자 등에 관계없이 차별없이 동등하게 처리해야 한다는 원칙입니다. 과학기술정보통신부는 지난해 12월 28일 5G 시대의 망 중립성 정책방향을 마련하고 「망 중립성 및 인터넷 트래픽 관리에 관한 가이드라인(이하 “가이드라인”)」 개정안을 공개했습니다.

새로운 인터넷 10년을 맞아 가이드라인 개정 등 망 중립성에 관한 우리나라의 정책 변화가 인터넷 사용자와 기업에게 어떤 영향이 있는지, 글로벌 인터넷 환경에서는 어떤 의미를 갖는지 등을 살펴보고, 학계, 시민사회, 업계 등 다양한 이해관계자의 입장을 청취하여 향후 개선 방안을 모색해보고자 합니다. 과기정통부 김남철 과장이 ‘망 중립성 가이드라인 개정안의 의의’, 오픈넷 이사인 고려대 박경신 교수가 ‘망이용료, 특수서비스, 제로레이팅의 국제규범 및 관행에 대한 팩트체크’를 주제로 발표하고, 고려대 이희정 교수를 좌장으로 하여 호서대 곽정호 교수, 성균관대 김민호 교수, 진보네트워크센터 오병일 대표, 벤처기업협회 유정희 부소장, 유미법무법인의 전응준 변호사가 토론을 할 예정입니다.

본 토론회는 온라인으로만 진행되며, 네이버TV 생중계(tv.naver.com/kinternetorg)를 통해 시청하실 수 있습니다. 많은 관심 부탁드립니다.

• 행사명: ‘망 중립성과 새로운 인터넷 10년’ 국회 토론회
• 일시: 2021년 1월 27일(수) 오전 10시
• 주최: 국회의원 윤영찬, (사)오픈넷
• 후원: (사)한국인터넷기업협회

문의: 오픈넷 사무국 02-581-1643, [email protected]

1월 28일, 유럽평의회(Council of Europe)가 108호 협약(Convention 108) 체결 40주년을 기념하여 개최하는 “2021 데이터 프라이버시의 날(Data Privacy Day 2021)” 아시아·태평양 지역 행사에 사단법인 오픈넷의 박경신 이사가 토론자로 참여한다. 웨비나에서 아시아태평양 지역의 정부대표, 개인정보보호기구, 시민사회단체 등은 지역의 최근 동향, 아태 지역 국가를 위한 108 협약의 이점, 아태국가들의 참여 방안, 가입 필요성 등에 대해 논의할 예정이다. 

유럽평의회의 108호 협약은 EU가 GDPR을 제정하기 이전부터 개인정보보호 원칙을 전 세계에 확산시키기 위해 유럽평의회(1949년 설립) 소속 국가들이 유럽인권협약(1950년 체결)에 근거하여 1981년 체결한 개인정보보호협약이다. 또한 유럽평의회 소속이 아닌 국가들의 가입도 개방되어 있어 이미 여러 비유럽국가들이 가입하였고, 내용도 변화하는 시대에 맞게 “108호 플러스 협약”으로 강화되었다. 108 협약 가입 여부는 GDPR의 적정성 평가의 주요 고려대상이다. 

108호 협약은 회원국과 참관자(observer)로 구성된 협약의 해석과 집행을 관장하는 협의위원회(Consultative Committee)를 두고 있으며, 우리나라는  EU에 적정성 평가를 신청하면서 협의위원회에 참관국으로 가입하여 활동하고 있다. 오픈넷은 2020년 11월 26일 협의위원회의 참관자 지위를 획득했으며, Privacy International, European Digital Rights(EDRi), Australian Privacy Foundation, European Association for the Defence of Human Rights (AEDH), Internet Society에 이어 6번째로 협의위원회에 참가한 시민사회단체이다.

웨비나에서는 Schrems II 판결 이후의 EU와 아시아국가들 사이의 관계 등에 대해서도 토론할 예정이다. 2021 데이터 프라이버시의 날 행사는 1월 28일 목요일 한국시간 오전 10시에 온라인으로 개최될 예정이며, Bluejeans 링크를 통해 참여할 수 있다.

문의: 오픈넷 사무국 02-581-1643, [email protected]

[관련 글]
[보도자료] 오픈넷, 유럽평의회의 108호 협약의 협의위원회 참관자 지위 획득 (2020.11.26.)