글 | 이미루(진보네트워크센터 활동가)

지난 1월 20일, 사단법인 오픈넷은 해외 전문가들을 초청하여 ‘인공지능의 윤리와 데이터 거버넌스-국제적 흐름에서 데이터3법까지’를 주제로 한 컨퍼런스를 진행했다. 이날 컨퍼런스는 AI 윤리 점검 및 원칙에 입각한 AI프로젝트라는 주제와 AI와 데이터 거버넌스를 주제로 한 두 개의 세션으로 진행됐으며, 각 세션은 국내외 전문가들의 발제는 물론 다양한 질문과 토론이 함께하여 풍성하게 진행되었다.

• 컨퍼런스 발표자료: https://opennet.or.kr/17373
• 영상 다시보기: 1세션(AI 윤리 점검), 2세션(AI와 데이터 거버넌스)

[Session 1] AI 윤리 점검: “원칙에 입각한 AI 프로젝트”

첫 번째 세션은 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)의 사회 아래 ‘AI 윤리 점검: 원칙에 입각한 AI 프로젝트’를 주제로 진행되었다. 첫번째 발제는 제시카 필드 교수의 ‘원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들’이었으며, 두번째 발제는 허버트 버커드 교수의 ’AI 윤리의 윤리학’이었으며, 마지막 발제는 마르셀로 톰슨 교수의 ‘노력, 설계와 책임’이었다.

제1발제: 제시카 필드(Jessica Fjield) 하버드대학교 로스쿨 사이버법클리닉 교수

“원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”

제시카 필드 교수는 첫 번째 발제자로 나서 여러 공동저자들과 함께 연구를 진행했던 “원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”을 발표했다. 몇 년에 걸쳐 총 36개의 문헌을 검토한 연구진은 AI 윤리에 원칙 혹은 표준을 적용해보자는 원칙하에 사회에 긍정적인 영향을 미치길 바라며 연구를 시작했다고 밝혔다. 이후 사회 각층은 물론 여러 정부, 국제 시민사회, 정부간 기구 등을 통해 발표된 여러 AI 원칙을 연구하여 크게 여덟 가지 윤리 원칙에 대한 공통의 인식을 발견할 수 있었다고 밝혔다.

여덟 가지 윤리 원칙은 1) 프라이버시 2) 책임성 3) 안전과 안보 4) 투명성과 설명 가능성 5) 형평성과 차별금지 6) 인간에 의한 기술 통제 7) 전문성이 가지는 책임성 8) 인권증진이다. 필드 교수는 각 원칙들은 세부적이고 다양한 내용들을 포함하지만, 위 여덟 가지 큰 원칙이 지금까지 발표 된 대다수의 AI  원칙에서 중요한 자리를 차지하고 있다고 강조했다(이 외에도 여러 주요 의제들이 있으나, 보다 자세한 내용은 보고서 참조). 앞서 언급된 원칙들은 ‘빅데이터 시대’, ‘AI 기술의 도입’과 함께 지속적으로 문제시 되어왔던 내용들로 원칙적인 선언에 가깝다. 필드 교수는 해당 보고서가 원칙을 주로 담고 있지만, 전반적으로 ‘윤리(ethics)’에 대한 연구가 부족했음을 한계로 지적했다.

제2발제: 허버트 버커트(Herbert Burkert) 스위스 성갈렌대학교 법대 교수

“AI 윤리의 윤리학”

AI 윤리의 윤리학이란 주제로 발제를 이어나간 허버트 버커트 교수는 발제에 앞서 도덕(Moral)과 윤리(Ethics)의 개념을 구분해야한다고 설명했다. 도덕은 사람들이 어떻게 행동하는가의 영역이며, 윤리는 이론적 담화, 즉 무엇이 옳고 그른가에 대한 것이라고 설명했다. 이날 토론회의 큰 주제였던 AI 윤리 원칙이 자세한 행동 규정이라기보단 무엇이 옳고 그른가에 대한 원칙적 이야기임을 강조한 것이다.

허버트 교수는 익숙한 여러 그리스 신화를 예시로 들며 발제를 시작했다. 우리는 보통 판도라를 ‘절대 열지 말라’고 했던 상자를 열어 인류에게 재앙을 안긴 ‘나태하고 장난끼 많은’ 여성으로 기억하고 있다. 하지만 한 조사에서는 이 신화가 와전된 것임을 밝혔다고 한다. 본래 판도라는 ‘가이아’, ‘대자연’으로 불리던 존재로 인류에게 나쁜 것뿐 아니라 좋은 것도 주었던 존재였다는 것이다. 하지만 우리가 기억하는 방식으로 판도라를 기억하게 된 배경에는 모계사회에서 부계사회로의 변화를 위해 여성 혐오 시각이 더해져 신화를 바꿔 전달했을 수 있다고 한다. 허버트 교수는 이 일화를 통해 사회적 원칙, 윤리라는 것이 당시 시대 상황에 따라 변화하는 것임을 강조했다. 따라서 윤리 원칙만을 강조할 것이 아니라 인류가 행동함에 있어서 어떤 것들을 기준으로 삼을 것인가에 대한 이야기를 나눠야 한다고 강조했다.

허버트 교수는 정작 윤리 강령이 놓치는 것은 실제 원칙들 사이에서 충돌이 발생했을 경우임을 이야기하며 AI 윤리와 기술 그 자체에 대한 이야기는 많이 하는데 비해 정작 충돌이 발생했을 때 어떻게 행동해야 하는가에 대한 연구는 부족하다고 지적했다. 상황에 따라 어떤 기준을 따라야 할지, 원칙들 간에 충돌이 발생했을때 어떤 규칙을 따라야 할지 정의할 수 있는 법적 개입 혹은 규제 방안을 마련해야 한다고 강조했다. 이를 위해선 윤리강령에 긍정적이고 건설적인 비판을 할 수 있는 도구를 마련하는 게 중요하다고 강조했다.

제3발제: 마르셀로 톰슨(Marcelo Thompson) 홍콩대학교 법대 교수 

“노력, 설계와 책임”

마르셀로 톰슨 교수는 ‘노력, 설계와 책임’을 주제로 1세션의 마지막 발제를 맡았다. 톰슨 교수는 AI 발전이 우리 가치관에 어떤 영향을 주는지, 그리고 AI가 발전함에 따라 어떻게 인공지능을 활용할지에 관한 규범을 만드는데 어떤 영향을 가지는지에 대한 이야기를 하겠다며 발표를 시작했다. 톰슨 교수는 여러 원칙들 중에서도 ‘책임성’에 집중했고, 내용 규제에서의 플랫폼의 권한과 역할에 대한 예시를 자세히 다루었다.

예를 들어 내용 규제와 플랫폼의 관계에 대해서 이야기할 때, 결과물에 대한 책임, 기술이 만들어 내는 산출물이나 여파가 아니라 해당 결과가 나오는 과정과 AI 솔루션이 만들어지기까지 투여된 노력 등에 더 방점을 둬야 한다는 주장이다. 톰슨 교수는 지금 유럽의 내용 규제는 문제시되는 콘텐츠가 특정 플랫폼에 게시되어 있다면 그 콘텐츠의 문제 여부나 평가 과정 등은 상관없이 결과적으로 해당 콘텐츠가 계속 게시되어 있느냐 아니냐만으로 처벌여부가 결정되기 때문에, 오히려 표현의 자유를 억압하고 플랫폼 운영자들이 게시물을 ‘우선 내리고 보자’는 식으로 반응하게 만들 가능성을 강조한다. 그 결과 톰슨 교수는 결과 기반의 책임성 여부가 아닌 노력 기반의 책임성 체계가 중요하다고 강조한다. 해당 플랫폼이 충분히 노력을 들였고, 대응 과정에서 합리적 노력을 했다면 이런 노력을 인정해 법적 규제의 수준을 달리 할 수도 있다는 것이다. 그는 AI도 마찬가지로 AI 규범과 규제, 법적 제도 등을 만드는데 있어 단순히 설계 결과물을 평가할 것이 아니라 그 과정에서 어떤 노력이 있었는지, 향후 우리 삶에 어떤 영향을 미칠지에 대한 충분한 고민을 했는지, 그리고 법적 책임은 어떤 영향을 미치게 될지에 대한 고민을 해야 한다고 강조했다.

종합토론

이어지는 종합토론에서는 말라비카 자야렘 디지털아시아허브 소장이 원격으로 참여하여 발제에 여러 질문을 던졌다. 자야렘 소장은 개인적 선택과 구조적 문제가 연결될 수 있는가라는 질문이 해당 세션의 핵심이라며 개인의 도덕적 일탈의 수준에서 문제를 바라볼 것이 아니라 제도적이고 구조화된 윤리 의식이 중요하지 않은가라는 질문을 다시 던졌다. 또한 계속해서 AI 윤리 원칙에 대한 논의를 나누고 있지만, 그것이 실제 우리의 현실을 개선할 순 있을지, 각 국가와 사회가 가지는 문화･규범적 특징, 맥락에 의해 다르게 반영될 때, 우리가 원칙이란 이름으로 이를 공통의 인식으로 바라볼 수 있을지 등과 같은 질문을 던졌다.

이상욱 한양대학교 철학과 교수는 우리가 흔히 언급하는 ‘AI 윤리’가 굉장히 추상적인 경우가 많아 그것이 잘 지켜졌는지 판단할 수 있는 기준이 없는 경우가 대부분이라고 했다. 특히나 AI 기술의 발전과 활용에 있어 어느 정도로, 어떤 방식으로 규제할 것인지에 대한 부분도 아직 모호하다고 설명했다. 따라서 제도적 규제를 도입할 때는 각 국가별 문화 등을 반영하여 규제조항을 아주 구체적으로 만든 후 도입해야 함을 강조했다. 이에 더해 AI 윤리 원칙에 대한 중심적인 키워드보다 실제 키워드 사이에 어떤 경쟁들이 존재하는지 이런 갈등을 어떤 방식으로 논의하고 해결하기 위해 노력하고 있는지와 관련한 논의가 부가되었다면 더 좋았을 것 같다며 토론을 마무리했다.

최은필 카카오 연구위원은 AI 기술 역시 사람이 중심이 되는 기술이며,  AI 사회 구성원들이 기술과는 다른 변화의 소용돌이 속에서 기본적인 원칙과 규범을 지킬 수 있을지 고민해야 한다고 말했다. 특히나 알고리즘의 활용 등으로 기업의 사회적 역할이 강조됨에 따라 기업의 숙제와 책임에 대한 요구도 늘어나고 있음을 강조했다. 하지만 기술의 발전과 새로운 서비스의 등장으로 현재 원칙이 담아내지 못하는 부분들이 증가할 수 있음을 이야기하며 사회 전체가 유기적으로 움직이며 더 나은 해법을 찾아야 한다고 강조했다.

카를로스 아폰소 데 수자 리오기술과사회연구소 소장은 현재 인공지능에 대한 논의를 진행함에 있어 로봇공학에서의 인공지능과 인터넷을 기반으로 한 인공지능 두 가지 측면에서 살펴봐야 한다고 말했다. 그는 우리가 말하는 인공지능 원칙이 무엇에 기반해 있는지, 이전 규제 등을 통해서 무엇을 배웠는지 등을 성찰해야 한다고 주장했다. 지금까지의 인공지능 논의 맥락에서 우린 좀 더 단순한 상황에 대한 질문을 심사숙고할 필요가 있으며, 가령 AI 스마트로봇에 새로운 법인격을 부여하여 누가 해당 법인격의 책임자가 될 것인지에 대한 고민이 필요하다고 강조했다. 뿐만 아니라 인간이 인공지능의 완전한 관리자가 되기 위해 어떤 시스템을 가져야 할지에 대한 고민도 필요하다고 했다. 이에 더해 인공지능으로 인한 이익뿐 아니라 그 반대의 경우, 즉 부정적인 결과가 도출 되었을 때 사람이 시스템의 일부가 되어 어떻게 책임을 질 것인지에 대한 고민이 이루어져야 한다고 강조했다.

[Session 2] AI와 데이터 거버넌스

두 번째 세션 역시 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)가 사회하에 ‘AI와 데이터 거버넌스’를 주제로 진행됐다. 그레이엄 그린리프 교수, 클라우디오 루세나 교수, 오병일 진보네트워크센터 대표가 발제했다. 이들은 GDPR을 중심으로 데이터 시대의 개인정보보호를 중심으로 다루었으며, 현재 한국에서도 논란이 되고 있는 ‘가명정보 처리’에 대한 주제까지 포괄했다.

제1발제: 그레이엄 그린리프(Graham Greenleaf) 호주 뉴사우스웨일스대학교 법·정보시스템학과 교수(원격 참여) 

“연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?”

그레이엄 그린리프 교수는 ‘연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?’을 주제로 발제를 진행했다. 그는 한국이 EU회원국일 경우로 가정하고 GDPR에 어떻게 적용을 받는지, 한국의 개인정보보호법과는 어떤 점이 다른지 등을 중점적으로 이야기 했다.

그린리프 교수는 가명처리를 했다고 해도 여전히 개인정보는 개인정보라는 점을 강조했다. 가명처리가 되었다고 해도, 해당 데이터의 익명성을 완전히 보장할 수 없고, 익명정보에 비해 개인식별의 위험은 여전히 높기 때문이다. 물론 GDPR은 공공의 이익을 위한 아카이빙, 역사적 과학적 연구 목적, 통계 목적의 활용은 양립가능성을 인정하여 정보주체의 동의 없이 개인정보를 처리하여 활용할 수 있도록 하였다고는 하지만, 모든 경우에 예외가 적용되는 것은 아니며, 양립가능성이 인정된다고 해도 정보주체의 권리를 무시해도 된다는 의미가 아님을 강조했다.

그는 현재 한국에서 첨예하게 논의되고 있는, ‘과학적 연구에 상업적 연구를 포함해도 되는가?’에 대해서도 다뤘다. 그린리프 교수는 특정 과학적연구방법을 쓴다고 하더라도, ‘해당 연구사업이 그 분야에서 방법론 및 윤리적 차원에서 모든 기준을 만족하는지?’에 대한 구체적 기준을 정해야 한다고 설명했다. 또한 일반적 상업연구, 예를 들어 시장조사와 같은 연구는 상업적 목적에 입각한 것으로 정보주체의 동의 없이 가명정보처리 및 활용을 해서는 안 된다고 말했다.

이 외에도 가명처리된 개인정보 출판의 위험성, 민감정보 활용시 정보주체의 권리 침해의 위험성 등을 강조했다. 또한 GDPR에서 공익적 목적을 위한 정보 활용의 제한을 많이 풀어두기는 했지만, 그게 모든 것을 해도 된다는 허가는 아니라고 강조했다. 무엇보다 유럽과 한국의 문화적, 사회적 맥락이 다른 만큼 세부적인 사항은 한국적 맥락에 맞춰 활용할 수 있도록 하는 것이 중요하다고 강조하며 발제를 마쳤다.

제2발제: 오병일 진보네트워크센터 대표

“데이터3법의 문제점”

오병일 진보네트워크센터 대표는 얼마 전 국회를 통과한 ‘개인정보 3법’(개인정보보호법, 정보통신망법, 신용정보법)의 문제점을 지적하는 발제를 이어나갔다. 오병일 대표는 현재 대한민국의 개인정보보호법이 유럽 GDPR에 비추어 미흡한 점이 많으며, 이로 인해 정보주체의 권리가 침해되고, 개인정보 보호가 제대로 이루어지기 힘든 구조임을 거듭 강조했다.

오병일 대표는 현재 개인정보보호법이 정의하는 개인정보의 범위가 매우 좁은데, 이 경우 ‘개인정보’로 인정되지 않아 제대로 보호되지 않는 데이터가 발생할 수 있음은 물론, 현재 개인정보보호법상 개인정보 범위에 대한 해석이 애매모호해질 수 있는 부분이 존재함을 지적했다. 또한 최근 이슈가 되고 있는 ‘과학적 연구’에 대해서도 가명처리된 개인정보의 상업적 활용, 제공, 결합을 폭넓게 허용하여 대기업 사이에 고객정보의 무한 공유 및 이에 따른 개인정보 남용 및 유출 위험성이 커짐을 강조했다.

특히나 이번 법 개정에서는 개인의 권리를 보장할 수 있는 정보주체의 권리 조항이 제대로 포함되지 않아, 개인정보 보호를 위한 안전장치도 미흡하다고 강조했다. AI와 빅데이터를 이야기 할 때 개인정보보호중심 설계 및 기본 설정, 프로파일링 권리 보장 및 규제의 부재, 개인정보 영향평가 등 다수 정보주체의 권리 보장 조항이 누락된 점은 특히나 문제라며 발제를 마쳤다.

제3발제: 클라우디오 루세나(Claudio Lucena) 브라질 파라이바 주립대학교 법대 교수 

“프라이버시 친화적 데이터연계 방식과 GDPR”

클라우디오 루세나 교수는 “프라이버시 친화적 데이터연계 방식과 GDPR”을 주제로 발제했다. 그는 브라질의 개인정보보호법 및 데이터 활용 상황도 공유했다. 루세나 교수는 브라질에서도 GDPR이 골든 룰(Golden Rule)처럼 표준으로 여겨지고 있으며, 이를 통해 개혁이 아닌 단순히 데이터보호 체계를 만들어 가고 있다고 했다.

루세나 교수는 데이터 활용과 관련하여 데이터를 재생산 가능한, 민감한 생필품이라고 정의했다. 디지털 경제 생산 시스템에서 데이터를 활용하여 정책을 개선하거나 더 나은 정책을 만들 수 있다는 데이터를 활용할 수 있어야 한다는 것에는 이견이 없을 것이라 주장했다. 따라서 데이터 접근권 및 사용권 자체를 막는 건 경제적으로 맞지 않다고 말했다. 동시에 데이터 자체가 ‘나’라는 존재는 될 수 없지만 오늘날의 데이터는 우리 자신을 대변하는 인격의 연장선상에서 바라봐야 한다고 말했다. 그는 절대적인 접근과 사용을 허가하는 것도, 원천적으로 금지하는 것도 결국 옳은 방법이 아님을 강조했다.

루세나 교수는 브라질의 데이터보호법과 한국의 개인정보보호법 모두 민감정보에 대해 정의하고 있는 반면, GDPR은 민감정보에 대해 명시적인 조항을 가지고 있지는 않음을 이야기했다. 하지만 GDPR을 통해 전반적 데이터 보호 기준이 강화된 것으로 이해해야 한다고 설명했다. 또한 브라질 법의 경우 상업적 데이터로 활용할 수 있는 경우를 매우 자세히 다루고 있음을 언급했다. 또한 기초연구가 아닌 상업적 연구의 경우 브라질은 민감정보를 기반으로한 연구는 금지하고 있다고 밝혔다. 공공을 위한 연구의 경우 예외가 되는데, 다만 활용과 보호 사이 균형을 맞추는 것이 중요하다며, 브라질 법의 경우 세세한 조항으로 언급하고 있음을 강조했다. 그는 이외에도 단순히 법적 규제 만으로는 이런 문제를 전반적으로 다룰 수 없으며, AI 거버넌스 등 다른 일련의 역할을 할 수 있는 장치들을 더해 전 세계적 틀을 구성하여 정보주체의 권리를 잘 담아내야 한다고 강조하며 발제를 마쳤다.

종합토론

이날 토론자로 함께 한 이대희 고려대학교 법학전문대학원 교수는 데이터가 엄청난 가치를 지니게 됨으로써 데이터 활용에 대한 위험성 지적과 함께 프라이버시와 관련된 문제들이 야기되었다고 한다. 그는 데이터의 활용과 보호에 균형을 맞춰야 함을 강조하며, 보호만 강조하면 결국 활용이 힘들어진다고 강조했다. 이번 개인정보보호법 개정에 대해서도 인공지능과 관련한 조항이 없음을 강조하며, 개인정보보호법을 데이터 활용에 보다 초점을 맞춰 개정하고, 이와 동시에 정보주체의 권리도 보다 확대되어야 한다며 토론을 마무리했다.

김가연 오픈넷 변호사는 ‘가명정보’에 초점을 맞춰 토론을 진행했다. 김가연 변호사는 이번 법 개정으로 기업들이 가명정보를 편히 쓸 수 있는 것처럼 이야기하지만, 실상은 그렇지 않다고 강조했다. 이번 개인정보보호법 개정은 활용과 보호를 둘 다 놓친 법안이라고 비판했다. 특히나 대한민국의 경우 주민등록제도와 실명제 등 가명정보 처리를 했다고 하더라도 재식별 가능성이 높기 때문에, 이에 대한 안전장치도 함께 강화했어야 하는데 이 부분은 다 놓쳤음을 강조했다. 이후 시행령 제정 등의 과정 역시 이런 논의들로 쉽지 않을 것이라 주장했다. 김가연 변호사는 개인정보보호법이 정의하는 과학적 연구의 범위가 어디까지 해당 할지에 대한 질문으로 발제를 마무리했다.

이호영 정보통신정책연구원 지능정보사회정책센터 센터장은 현재 세계적 논의와 마찬가지로 국내에서도 각각의 인공지능 원칙들이 충돌할 때에 이를 어떻게 해소할지에 대해 고민하고 있다고 말했다. 뿐만 아니라 인공지능 서비스의 활용 측면에 있어서도 계층화가 이뤄지고 있다고 강조했다. 소득격차, 학력격차 등 개인정보를 제공하고도 서비스를 제대로 누리지 못하거나, 아예 제공 자체를 원천 차단하여 어떤 서비스도 받지 못하는 경우가 존재한다는 것이다. 이외에도 초국가적 시장이 생기고, 그 안에서 정부, 시민사회, 기업 등 모든 것들이 섞여 있어 새로운 프레임이 계속 생겨남에 따라 이를 이야기할 수 있는 국제적 협약이 필요하다며 토론을 마무리했다.

이후 종합토론에서는 플로어의 청충들까지 토론에 참여하여 앞서 논의됐던 주제들은 물론, 정부 규제와 기업의 입장, 노동 시장에서의 인공지능 도입으로 인한 문제 등으로까지 주제를 확장하며 열띤 논쟁이 이어졌다.

“두 가지 관점으로 살펴 본 매크로금지법”

일시: 2020년 2월 25일 화요일 오전 10:00~12:00

장소: 전경련회관 컨퍼런스센터 3층 에메랄드홀 (서울시 영등포구 여의대로 24)

사단법인 오픈넷은 인터넷기업협회, 코리아스타트업포럼, 벤처기업협회와 공동으로 2월 25일(화), 여의도 전경련회관 3층 에메랄드홀에서 매크로금지법 관련 세미나를 개최합니다.

최근 정치권에서 입법을 추진하고 있는 매크로금지법, 혹은 여론 조작 방지법은 인터넷 사업자에 대하여 인터넷 이용자 행태에 대한 과도한 감시, 검열 책임을 부과하고, 이용자의 표현의 자유를 침해할 위험이 높다는 우려의 목소리가 이어지고 있습니다. 이번 세미나에서는 논란의 매크로금지법과 관련하여 산업계에서부터 학계, 법조계, 시민단체까지 패널로 참석하여 해당 법이 산업에서부터 일반 시민까지 미치는 악영향에 대하여 면밀하게 분석해봅니다.

매크로금지법에 대하여 법률적 관점으로는 법무법인 태평양의 강태욱 변호사, 기술적 관점으로는 연세대학교 정보산업공학과의 모정훈 교수의 발제를 통해 두 가지 측면으로 매크로금지법을 문제점을 진단합니다. 발제에 이어 성균관대학교 김민호 교수가 좌장을 맡고 법무법인 린 구태언 변호사, 인터넷기업협회 박성호 사무총장, 중앙대학교 손승우 교수, 오픈넷 손지원 변호사, 진보네트워크센터 오병일 대표, 동국대학교 정용국 교수가 참여하는 종합 토론을 통해 매크로금지법의 여파와 대안을 모색하는 시간을 가져봅니다.

관심있는 분들의 많은 참석을 바랍니다. 참가신청은 온오프믹스에서 하실 수 있습니다.

문의: 오픈넷 사무국 02-581-1643, [email protected]

2019. 12. 6. 고려대학교에서 열린 2019 한국인터넷윤리학회 추계학술대회 <뉴미디어와 인터넷 윤리>에서 오픈넷 손지원 변호사가 “가짜뉴스 규제론의 위험성”에 대해 토론했습니다.

[토론문] 가짜뉴스 규제론의 위험성

손지원 오픈넷 변호사

허위정보의 유포는 역사적으로 늘 존재하여 왔으며 새로운 경향이 아니다. 그러나 최근 허위정보가 ‘가짜뉴스’라고 이름 붙여지며 그 폐해가 더 문제시되는 것은 사회적 양극화와 더불어 인터넷과 기술의 발달로 인해 정보의 전파력, 영향력이 더욱 강해졌고 이로써 빠른 의제 선점, ‘정보 전쟁’이 보다 치열해졌기 때문일 것이다.

물론 허위정보는 일정한 폐해를 가지고 있을 것이다. 허위정보를 악의적으로 이용하는 세력에 의해 사람들의 사상이 조작, 왜곡되고, 강자들의 권력을 공고화하는 수단으로 남용될 가능성도 부정할 수 없다. 그러나 모든 문제의 해결책이 강제 규제일 필요는 없으며, 또한 모든 표현물 규제 원칙이 그러하듯, 막연한 해악 발생의 가능성만으로 규제가 정당화될 수도 없다. 헌법상 표현의 자유의 중요성에 비례하여 설정된 더욱 엄격한 제한 원리, ‘명확성의 원칙’, ‘명백하고 현존하는 위험의 원칙’ 등이 준수되어야 한다. 그런데 과연 정치권에서 논의되는 가짜뉴스 규제들이 이러한 원칙을 준수하는 것일까.

우선, 규제 대상 정보의 정의 규정이 불명확하다. 가짜뉴스 규제 법안들은 대체로 “정치적 또는 경제적 이익을 위하여”, “거짓 또는 왜곡된 사실”을, “언론보도로 오인하게 하는” 내용의 정보를 규제 대상 정보로 정의하고 있다. 그러나 “정치적 또는 경제적 이익을 위하여”라는 목적은 지나치게 포괄적이고 추상적이어서 한정적 개념이 될 수 없다. 인간의 모든 표현행위는 수신자를 전제하고 이루어진다는 면에서 목적성을 띠고, 공적 사안에 대한 표현은 대부분 궁극적으로 자신이 추구하는 정치적 방향성이나 경제적 이익을 위해 이루어질 것이며, 오히려 이를 목적하지 않은 표현을 분류해내는 것이 더 어려울 것이다. “언론보도로 오인하게 하는 내용” 역시, 어디까지가 ‘언론’이고 ‘보도’인가를 구분하기 어렵다는 점에서 마찬가지로 불명확하다. ‘언론보도’가 법에 따라 등록한 언론사만의 전유물은 아니기 때문에, 일반 시민 누구나 팩트 전달, 자료 분석, 기사 퍼나르기 등 ‘언론보도’ 활동을 할 수 있는 것이고, 이 과정에서 근거가 부족하거나 오류가 있는 사실이 적시될 수도 있다. 개정안들에 따르면 타 언론사를 사칭함이 없이 일반 시민이 이러한 언론활동을 하는 것, 혹은 언론보도의 형식을 취하거나 기존 보도 이미지에 합성을 한 유머나 패러디까지 “언론보도로 오인”하게 하는 내용으로써 규제 대상으로 삼아 일방적으로 차단하고 형사처벌할 것인지가 불분명하다.

한편, ‘허위정보’가 무엇인지, 누가 이에 대한 판단을 내릴 것인지의 문제가 가장 큰 쟁점이다. ‘내가 하면 진짜뉴스, 남이 하면 가짜뉴스’라는 말이 떠돌 정도로, 같은 사안에 대해서도 모두가 서로의 반대 진영에서 나오는 정보들을 가짜뉴스라고 말하는 것이 일반적 세태가 되었다. 어떠한 표현에서 ’의견‘과 ’사실‘을 구별해내는 것부터가 매우 어렵고, 객관적인 ‘진실’과 ‘허위’를 최종적으로 판단하는 것 역시 어렵다. 대개 일정한 사실의 주장자가 당시까지 해당 사실의 ‘존재’를 증명하지 못하면 ‘허위’로 분류되는 경우도 많고, 사실의 존재는 증명하기 어렵거나 증거를 가진 측에 의하여 조작·은폐되어 끝내 증명하지 못하는 경우도 많다. 법원의 판결 역시 어떤 사실에 대하여 당시까지 진실 증명 혹은 유죄의 증명이 없다는 점만을 판단하는 것일 뿐, 어떠한 사실이 명백히 허위라거나 피고인의 범죄사실에 대한 결백을 보장하는 것은 아니다. 또한 시간이 지남에 따라 법원의 판결과 다른 사실이 드러나는 경우도 상당히 자주 일어난다. 한편, ‘허위정보’를 결정하는 주체가 방통위, 방심위, 선관위 등의 국가권력이 된다면 이는 곧 헌법이 가장 경계하고자 한 국가의 표현물 ‘검열’과 다름없다. 즉, 누구도 ‘허위’와 ‘진실’을 종국적으로 판단할 수 없기 때문에 내용의 ‘허위성’만을 이유로 표현행위를 함부로 규제해서는 안 되는 것이다.

이렇듯 가짜뉴스 규제 법안들은 대상 정보의 기준이 명확하지 않아 문제가 많은데, 그에 대한 조치는 매우 광범위하고 강력하게 규정되어 있다. 개정안이 규정한 조치들은 ① 가짜뉴스를 유통한 자에 대한 형사처벌 규정, ② 가짜뉴스를 정보통신망법 제44조의7의 불법정보에 추가하여 방송통신위원회, 방송통신심의위원회의 결정으로 유통을 금지시킬 수 있는 정보로 규정, ③ 정보통신망법 제44조의2 임시조치 대상 정보에 추가하여 이용자들의 신고로 차단할 수 있는 정보로 규정, ④ 정보통신서비스 제공자가 자신이 운영, 관리하는 정보통신망에 가짜뉴스가 유통되는지 여부를 지속적으로 모니터링하고 삭제, 차단할 의무를 부과하는 규정으로 나눌 수 있다.

그러나 위에서 논의한대로 ②와 같이 가짜뉴스를 행정기구의 판단에 따라 유통을 금지시킬 수 있는 대상으로 삼는 것은 헌법상의 명확성 원칙, 과잉금지 원칙을 위반할 소지가 높고, 이에 ‘형사처벌’을 규정하는 것은 위헌성을 더욱 가중시키는 것임은 두말할 것도 없을 것이다. 또한 위에서 검토한 바와 같이 규제 대상 정보의 정의가 명확하지 않은 이상, ③, ④와 같이 가짜뉴스를 일부 이용자들의 신고나 정보통신서비스 제공자의 판단에 따라 함부로 유통을 차단시킬 수 있는 대상으로 규정해서도 안 된다. 정보통신서비스 제공자, 즉, 정보의 유통을 매개하는 인터넷 사업자에게 유통 정보에 대한 모니터링 의무나 차단 의무를 부과하는 규율은 사업자가 제재의 위험을 회피하기 위해 ‘논란의 소지가 있는’ 정보들을 차단하도록 하는 유인을 제공한다. 이는 결국 사업자들의 과차단, 과검열을 부추기고 합법적인 정보까지 차단되어 이용자들의 표현의 자유와 알 권리를 침해하는 결과로 이어질 위험이 높다. 또한 정보통신서비스 제공자가 삭제, 차단할 수 있는 하나의 정보 단위에는 무수하고 다양한 표현 내용이 공존하며, 허위로 판정된 내용은 극히 일부분일수도 있다. 예를 들면 1시간 짜리 동영상에 허위정보가 5분 내외로 존재해도 정보통신서비스 제공자는 동영상 전체를 삭제, 차단할 수밖에 없고 나머지 문제없는 표현들마저 부당하게 금지되는 결과가 초래되는 것이다.

최근 입법자들이 규제하고자 열을 올리는 ‘허위정보’의 실체는 과연 무엇일까. 우리나라는 이미 과도한 표현물 규제를 가지고 있기 때문에, 명백하고 현존하는 위험을 가진 허위정보는 현행법으로도 충분히 규율되고 있다. 특정 개인에 대한 허위사실의 유포로 개인의 인격권이 침해되는 결과를 가져오는 정보라면 명예훼손죄 법제와 임시조치 제도로 규율된다. 기존 언론의 가짜뉴스에 대해서는 언론중재법상의 정정보도 등의 제도가 있다. 선거의 영향을 미치는 허위정보 역시 공직선거법상 후보자에 대한 허위사실공표죄, 선관위의 선거법 위반 정보 삭제명령 제도로 규제된다. 금융 피싱 등의 정보는 전기통신기본법 제47조 제2항으로 규율된다.

결국 현재 규제의 사각지대라고 말하는 ‘가짜뉴스’는 ‘사회통합을 저해하거나’, ‘사회질서를 혼란’하게 하거나 ‘공익을 해한다’는 추상적인 해악을 가진 공적 사안에 대한 허위정보인데, 이는 결국 일명 ‘허위사실유포죄’에 대한 헌법재판소의 위헌 결정^[1] 이유와 같은 취지 – 명확성 원칙 위반과 불명확성으로 인한 정치적 남용 위험 – 에서 위헌적이라고 평가될 수밖에 없다.

물론 재난 등의 상황에서 국민의 건강, 신체적 안전에 급박한 위해를 가져올 수 있는 허위정보나, 사회적 소수자에 대한 차별과 폭력을 선동할 수 있는 허위정보는 규제 필요성이 있을 수 있다. 그러나 이러한 정보는 각각 특별한 법익을 보호하기 위한 규제 혹은 혐오표현 규제의 관점에서 논할 일이지, 일반적인 ‘허위정보’ 규제의 관점에서 논의될 것은 아니다.

2018년 1월, EU 집행위원회는 HLEG(the High Level Expert Group)라는 전문가 자문기구를 발족하고, 가짜뉴스와 온라인 허위정보에 대한 정책 및 대응 방안을 자문했다. 이에 따라 HLEG가 발행한 보고서^[2]에서는, 어떤 형식으로든 공적, 사적 ‘검열’의 방식은 지양되어야 하며, 단기적 대응보다 장기적 대응을 모색해야 한다고 강조하고 있다. 이 보고서에서는 ① 온라인 뉴스의 투명성을 향상, ② 미디어 리터러시 함양, ③ 이용자와 언론이 허위정보에 제동을 걸 수 있는 장치 마련, ④ 뉴스 미디어 생태계의 다양성과 지속성 보장, ⑤ 허위정보의 영향력과 조치에 대한 지속적 연구 장려를 주요 대응책으로 제시하고 있다.

진실은 권력에 의해 결정되는 것이 아니라 사상의 자유시장에서 정보 간의 신뢰성 경쟁을 통해 스스로 그 자리를 찾아가는 것이다. 즉, 진실이 꽃피우기 위해서는 허위정보가 존재는 필연적이다. 허위정보가 사람의 사상과 사상의 자유시장을 왜곡한다면서, 이를 해결하기 위해 일방적인 정보 차단, 유포자 처벌과 같이 특정 사상을 탄압하고 사상의 자유에 직접 개입하는 강제적, 억제적 규제를 채택하는 것은 모순적이다. 정보의 바다에서 시민들이 스스로 보다 신뢰성 있는 정보를 가려낼 수 있는 안목을 가질 수 있도록 하는 미디어 리터러시 교육, 양질의 정보가 보다 많이 흐르도록 하는 환경을 조성하는 진흥 정책 등의 장기적인 대응만이 가짜뉴스의 폐해를 근본적으로 해결할 수 있을 것이다.

[1] 전기통신기본법 제47조 제1항 위헌소원 (2010. 12. 28. 2008헌바157, 2009헌바88)

[2] “A multi-dimensional approach to disinformation – Report of the independent High level Group on fake news and online disinformation” (European Commission, March 2018) https://ec.europa.eu/digital-single-market/en/news/final-report-high-level-expert-group-fake-news-and-online-disinformation

*이 글은 2020.1.16에 있었던 이재웅 박경신 대담https://opennet.or.kr/17287에서 박경신의 답변을 정리한 것입니다. 앞서 “타다는 공유경제여야만 영업이 허용되는가” https://opennet.or.kr/17523, “공유경제 vs. 구 산업 갈등에서 국가의 역할은 무엇인가?” https://opennet.or.kr/17526 에 이어 세번째 글입니다.

7) 노동자들의 처우 문제와 함께 공유경제에서 심각한 문제로 거론되고 있는 것이 저임금 노동자의 급증입니다. 일각에서는 공유경제가 저임금노동자를 양산하는 주요인인 것처럼 보도하고 있는데요, 이런 주장에 대해 어떻게 생각하시는지요?

  근로기준법, 노동법상의 노동자와 근로자개념은 공유경제 활동에 참여하는 자를 노동자로 포괄하기 어려워 공유경제가 저임금 “노동자”를 양산한다는 주장은 과도한 비약이라고 볼 수 있다. 또 실제로 시간당 임금을 따져보면 택시 등에 비해 “저임금”이라고 보기도 어렵다. 현재 우버드라이버들의 60%가 넘게 노동자가 되는 것보다 현재 상황을 선호한다고 설문에 답하였다. 이들은 원할 때만 원하는 만큼만 일할 수 있는 자유를 훨씬 더 선호하면 운전할 때의 시간만 따지자면 틀림없이 택시보다는 더 많은 돈을 번다. 

  하지만 이들 자율적인 사업자는 풀타임 노동자들에 비해 혜택은 적으니 저임금 노동자는 아니더라도 “저혜택인구” 만들어내고 있다. 이에 대한 대책이 필요하다. 

8) 저임금노동자 양산은 하지 않더라도 일자리들이 일거리로 대체되면서 초단기파트타임 노동자들이 늘어나고 있다. 그리고 이들은 원래 정규직 노동자들이 누리던 각종 혜택을 누리지 못하고 있는 것은 사실이다. 이것은 타당한 지적아닐까?

  한편으로는 택시노동자들의 처우를 매우 열악하게 방치해놓고 이를 조금이라도 더 열악하게 하는 비즈니스모델은 허용하지 않겠다는 것인데 국가의 역할이 무엇인지 질문해볼 수 있다. 다른 한편으로 우리나라의 복지시스템이 그다지 강력하지 않기 때문에 당장 택시기사들의 처우가 더 위협받는 것에 대한 대응도 필요하다. 

  하지만 우버금지, 카풀금지, 타다금지가 장기적인 해결책은 아닐 것이다. 10개의 풀타임 직장이 1만개의 초단기파트타임 일거리로 대체된다면 어떻게 해야 할까? 

  일자리가 아니라 일거리를 통해서 보호받는 방법은 없을까? 일거리에 혜택을 붙이는 방법은 없을까? 고용보험은 어렵겠지만 산재 정도는 붙일 수 있지 않을까? 플랫폼노동자의 노동특성을 보면 시간, 장소는 스스로 통제하지만 방법은 플랫폼에 의해 더욱 강하게 통제된다는 특성이 있고 산재는 노동의 방법 통제여부와 더 큰 관련을 맺고 있다. 이와 관련하여 배달앱노동자에 대한 최근 산재인정결정에서 법원은 “산업재해보상보험법이 특수형태근로종사자 보호를 위한 특별규정을 둔 취지는 근로기준법상 근로자에 해당하지는 아니하나 업무상 재해로부터 보호할 필요성이 있는 경우에 해당 종사자를 보호하기 위함이다. 그런데 원심이 특수형태근로종사자의 전속성을 판단하면서 제시한 기준은 결국 근로기준법상 근로자성을 판단하는 기준과 크게 다르지 않다. 이러한 기준에 따를 경우 위와 같은 법의 취지를 몰각시키게 된다”고 하였다.  

  국가가 일자리가 일거리로 대체되는 상황 자체를 막으려고 해서는 안될 것이다. 일자리가 일거리로 대체되는 것이 아니라 일거리 자체도 없어져가고 있는 상황이다. 운송업만 보더라도 전에는 직접 움직여야 되는 일이 이제는 정보통신기술의 발전으로 교통수요도 줄어들고 있다. 택시산업의 보호를 목표로 삼는 것은 근시안적이다. 양극화가 더 심해지면 세금을 더 걷어야 하고 이를 통해 공공재의 수익자부담원칙을 더 강화해야 할 것이다. 예를 들어 도로를 더 많이 이용한 사람이 있다면 돈을 더 내도록 해야 하고 이것이 소득세를 통해서 관철될 수 있다. 

9) 캘리포니아에서 얼마 전 AB5법이 통과되었습니다. 우리나라에서는 우버금지법이 통과되었고 지금 타다금지법 통과를 논의하고 있습니다. 이 법률안의 시의적절성과 유효성에 관해서 법학자이신 박경신 교수님께서 어떻게 생각하시는지 말씀을 부탁드립니다.

 국내에서도 법원이 플랫폼 노동자들의 근로자성을 인정한 판례들이 있다. 그러나 결정적인 차이가 있다. 예를 들어 요기요플러스 사건에서 근로자성을 인정한 대법원의 요건은 다음과 같다: 

대법원의 근로기준법상 근로자성 판단기준: 1) 사용자가 업무의 내용을 결정하고 업무 수행과정에서 상당한 지휘·감독을 하는지 ; 2) 취업규칙 등이 적용되는지; 3) 사용자가 근무시간·장소를 지정하고 노무제공자가 이에 구속받는지; 4) 노무제공자가 독립하여 자신의 계산으로 사업을 할 수 있는지; 5) 보수의 노무대가성 유무와 기본급·고정급 유무; 6) 노무제공 관계의 계속성과 상대방에의 전속성 유무와 정도; 7) 근로소득세의 원천징수와 사회보장법상 근로자 지위의 인정 여부

대리운전기사 노동조합법 상 노동자 인정(부산지법 동부지원 2019가합100867): 동업계약서에 주로 대리운전 기사들의 의무사항을 정하면서 수수료 변경 권한은 업체에만 있는 점, 업체가 시행하는 정책이나 규칙 등을 대리운전 기사들이 따르도록 한 점, 특정 시간 동안 일정 횟수이상의 대리운전을 의무적으로 수행하도록 한 점 등 어느 정도 업체가 운전기사들을 지휘·감독한 것으로 보인다. . . 최씨 등과 업체 사이의 노무제공관계의 실질과 업무 수행 방식, 보수 수수 방식 등을 볼 업체 사업에 필수적인 노무를 제공하면서 업체와 경제적·조직적 종속관계를 이루고 있는 최씨 등을 노동조합법상 근로자로 인정할 필요성이 있다.

AB5법은 미국의 “우버금지법”으로 불리지만 아이러니하게도 우버에 더많은 운전자들이 참가하도록 하는 반대효과를 내고 있다. AB5법은 (1) 회사의 통제를 받지 않고 (2) 회사의 핵심서비스 제공을 하지 않고 있으며 (3) 독립적 사업을 하고 있는 경우, 즉 3가지를 다 충족해야만 근로자가 아닌 것으로 인정하겠다는 것이다. 결국 우버는 회사의 통제를 줄이기 위해 일감을 맡기 전에 보수를 볼 수 있도록 하였다.  https://www.sfchronicle.com/business/article/Uber-makes-major-changes-to-California-rides-as-14957326.php

그런데 바로 이것이 우버운전자들이 전부터 원했던 것이다. 바로 이런 것이 일감 자체에 혜택을 붙이는 방식이 아닐까 생각한다. 즉 전통적인 노동자로 만들지 않더라도 일감 자체에 품위를 지켜주는 것이다. 더많은 운전자들이 우버에 참여할 것으로 예측된다. 

  더 중요한 것은 AB5법은 도리어 우버나 리프트보다는 시간과 장소를 정해놓고 일하도록 하는 다른 업종 특히 파견직 노동자들에 큰 영향을 끼칠 것이다. 이렇게 앱을 통해 앱참여자들에게 더 자유를 줄 수가 없는 일반노동계에 큰 영향을 미칠 것이다. 노동자-독립계약자 분류법이 노동착취의 방식이었음은 이미 잘 알려져있고 노동자인정범위를 넓히는 것은 노동계의 숙원사업이었다. 예를 들어 AB5법이 한국에서 통과된다면 2번 3번에서 수많은 파견직 노동자들이 사업장주의 노동자로 인정될 가능성이 높다. AB5법이 하루빨리 통과되어 택시업계에도 적용되고 여러 업계에 적용되어야 할 필요가 있으며 이는 공유경제업계에도 절대로 나쁜 소식이 아니다. 

2019. 1. 11.-12. 이틀에 걸쳐 Digital Asia Hub가 주최하고 The Ethics and Governance of AI Initiative 와 the Konrad-Adenauer-Stiftung가 후원하는 FAT/Asia Hong Kong 2019에 김가연 변호사가 참석했습니다. FAT는 Fairness, Accountability, Transparency를 의미하며 머신러닝과 알고리즘의 공정성, 책임성, 투명성에 대해 논의하는 이니셔티브입니다. 김가연 변호사는 첫날 오프닝 세션에서 한국과 일본의 AI 윤리 동향 등에 대해 이야기하고 세션 1의 사회를 맡았습니다.

• FAT/Asia Program

오프닝 세션 Taking Stock of Trends and Challenges: Perspectives from Multiple Disciplines 메모

• In Korea, AI ethics, or Roboethics has a relatively long history of 12 years.
• In 2007, the Ministry of Industry and Energy (Ministry of Commerce) disclosed the draft of the Robot Ethics Charter. It included not only robot ethics but also researcher ethics and user ethics, which we boast as the first in the world. However, the draft is yet to be finalized.
  • Not really different from Asimov’s robot principles
• The Intelligent Robots Act 2008 was amended in 2016 to mandate the government to enact the AI Ethics Charter.
  • At the end of last year, the Ministry of Science and ICT announced that it will finalize the charter.
  • In 2016, in terms of accountability, the draft made it designers, manufacturers, and users’ responsibility if a robot causes any damage or harm.  

• Kakao published “Kakao Algorithm Ethics” in January 2018:

1. enhance mankind’s benefit and wellbeing and keep all efforts for algorithm development within the ethical framework of society;
2. ensure that algorithms shall not generate biased results;
3. collect and manage data for algorithm learning in accordance with social-ethical norms;
4. ensure that algorithm shall not be manipulated internally or externally; and
5. provide explanations on algorithm to strengthen users’ trust to the extent that it does not compromise corporate competitiveness. 

• KAIST Killer Robot controversy in April 2018:
  • More than 50 leading academics from nearly 30 countries signed the letter calling for a boycott of Korea Advanced Institute of Science and Technology (KAIST) and its partner, defense manufacturer Hanwha Systems. The researchers said they would not collaborate with the university or host visitors from KAIST over fears it sought to “accelerate the arms race to develop” autonomous weapons.

Japan:

• 2004 World Robot Declaration
• 2017 Japan Society for AI Ethical Guideline
• 2018 Japan Ministry of Internal Affairs and Communications AI R&D Guideline draft