2019. 10. 30. 스탠포드 대학교의 CISAC(Center for International Security and Cooperation)이 주최한 “Data Governance in Asia” 워크샵에 오픈넷 박경신 이사와 김가연 변호사가 참석했다. 박경신 이사는 아시아 데이터 거버넌스의 전반적인 경향과 특징에 대해, 김가연 변호사는 한국의 데이터 거버넌스의 문제점을 주민등록번호 제도, 실명제 및 본인확인제, 통신감시 제도 등의 사례를 들어 설명했다.

글 | 박경신 (고려대 법학전문대학원 교수, 오픈넷 이사)

망 이용료 논쟁: 오픈넷 vs. 이데일리

오픈넷은 지난 8월에 페북-방통위간 소송 결과에 대한 논평을 발표하면서 발신자종량제(상호접속고시)와 방통위 망 이용계약 가이드라인을 폐기를 주장했습니다.
- 오픈넷, 페이스북-방통위 소송 결과를 환영한다 (2019. 8. 23.)

그동안 오픈넷은 인터넷상 표현의 자유 보장을 위해 망사업자가 아닌 CP(content provider: 콘텐츠 제공자, 가령 페이스북, 구글, 네이버, 카카오 등)에게 정보 전달 책임과 소위 ‘망 이용료’의 비용을 부담시키는 것에 반대해왔습니다. 이는 글로벌 CP, 국내 CP 모두에 공히 해당되는 주장이었습니다.

네이버, 아프리카TV 등 국내 CP들은 초반에 역차별을 주장했지만, 결국 방통위 망 이용계약 가이드라인 제정에 대해서는 인터넷기업협회 이름으로 반대 성명을 내기도 했었습니다.

이에 이데일리 김현아 기자는 오픈넷이 과하게 페이스북을 편든다는 기사를 썼습니다.
- 이데일리, [김현아의 IT세상읽기] 오픈넷의 과도한 페이스북 편들기 (2019. 8. 24.)

이에 오픈넷이 반박글을 슬로우뉴스에 기고해왔습니다. 이 글에 대한 이데일리 측의 재반박은 물론이고, 독자 여러분의 다양한 이견과 보충, 비판 기고([email protected])를 환영합니다. (편집자)

위 기사를 쓴 김현아 기자는 3년전 2016년 10월 17일에는 이런 기사를 썼었습니다.

• 이데일리, “통신3사 배만 불린 미래부 접속고시 개정 문제많다” (2016. 10. 7.)

2016년 기사의 취지는 당시 개정 고시에 포함된 “발신자종량제 상호접속고시”에 관해 오픈넷이 2019년 8월 23일에 발표한 비판적인 논평과 일치합니다.

3년 사이에 무슨 변화가 있었는지 모르겠지만, 이번 기사에서는 ‘외국 CP들이 통신망을 공짜로 쓴다’는 통신사들의 ‘궤변’을 그대로 수용하면서 오픈넷을 “과도한 편들기”라고 비판했습니다. 이에 대한 제 판단은 ‘과도한 통신사 편들기’라는 것입니다. 이데일리 기자의 주장이 왜 문제인지 따져보겠습니다.

이데일리:

“오픈넷의 주장이 과도하다고 생각됩니다. ① 접속지연이라는 이용자 피해는 페이스북의 행위(접속경로 변경)로 발생했는데 페이스북은 책임이 없다고 주장하는 점, ② 발신자종량제에 표현의 자유까지 끌어들이는 것은 과도하다는 점, ③ 이번 재판 결과는 한국의 통신망을 공짜로 쓰려는 구글이나 페이스북 등 글로벌 CP에 일방적으로 유리한 효과를 낳고 있다는 점 때문에 그렇습니다.” (기사 중에서)

1. 접속지연 사태의 책임은 페이스북도 KT도 아니다

페이스북이 접속경로를 변경한 주체이니 페이스북의 책임이라는 기자의 주장은 너무 단순합니다. 기자가 비판한 논평에서 오픈넷은 다음과 같이 밝혔습니다.

오픈넷:

KT는 결국 ‘발신자종량제 정산비용을 더 이상 감당할 수 없으니 페이스북이 비용을 내든지 SK그룹/LGU+ 이용자들이 페이스북에 접속하면 더 이상 KT에 호스팅된 국내 캐시서버로부터 받지 말고 페이스북의 원래 접근루트로 받도록 하라’고 페이스북에 요구했다. KT의 압박 때문에 페이스북은 SK그룹/LGU+ 이용자들의 KT캐시서버에의 접근을 차단하여 원래 접근 루트로 페이스북에 접속하도록 할 수밖에 없었고, 당연히 속도가 전보다 느려질 수밖에 없었던 것이다. (오픈넷 논평 중에서)

한국의 망사업자들은 한국의 인터넷 이용자들을 볼모로 잡고 있습니다. 페이스북이든 구글이든 네이버든 카카오든 망사업자들을 거치지 않고 5천만 이용자와 소통할 수 없습니다. 그런 망사업자가 압력을 넣으면 어떤 CP라도 압력을 회피하려 할 수밖에 없습니다. KT가 자기들의 필요에 따라 – 즉, 기존 해외통신망을 거치게 되면 자신들이 더 높은 중계접속료(transit fee)를 물어야 하므로 – 무료로 설치해놓았던 페이스북 캐시서버를 이제 와서 돈을 내라 압박하면 페이스북은 두 가지 중에 선택할 수밖에 없습니다.

• (1) KT가 스스로 캐시서버를 차단할 때까지 버틴다.
• (2) 위 상황에 대비해 캐시서버를 통해 서비스되던 콘텐츠의 경로를 바꿔 기존 해외통신망을 통해 국내에 들어오게 한다.

페이스북은 (1) 대신 (2)를 선택했습니다. 이게 왜 페이스북의 책임인가요? 이를테면 백화점에 오는 메인 도로를 막겠다고 누군가 위협해서 손님들이 놀라지 않도록 좁은 뒷길로 오도록 안내한다면 그때 발생한 혼잡이 백화점이 책임질 행위인가요? 만약 (1)이 발생했다면 KT가 책임을 지도록 했을까요?

KT도 페이스북도 책임이 없습니다. 오픈넷이 잘못이라고 지적한 것은 바로 정부의 ‘발신자종량제 상호접속고시’입니다.

• 오픈넷, 망중립성 위협하는 발신자 종량제 원칙 폐지하라! (2019. 2. 27.): 상호접속고시에 대한 좀 더 자세한 주장이 담긴 글입니다.

기자는 ‘이태원 살인사건 운운하며 페이스북도 KT도 책임이 없으면 누구 책임이냐’고 반문하는데, 만일 어떤 사람이나 회사에 책임을 물을 수 없다면, 제도에 책임을 물을 수 있다는 아이디어는 상상할 수 없는 것인가요?

KT도 페이스북도 잘못이 없다. 문제는 정부의’발신자종량제 상호접속고시’다.

2. 페이드 피어링(Paid Peering)이 종량제?

오픈넷:

“발신자종량제는 힘없는 개인들이 콘텐츠를 올리는 방식으로 수많은 사람들과 소통할 수 있는 인터넷의 힘을 마비시키는 제도이다. 콘텐츠를 올리면 전 세계 누가 몇명이나 접근할지도 모르는데 그들이 접속할 때마다 접속량에 대해서 돈을 내야 한다면 누가 인터넷을 통해 자신의 주장을 자유롭게 펼치거나 자기의 콘텐츠를 자유롭게 공유하려 하겠는가?” (논평 중에서)

이데일리:

“구글은 프랑스 오렌지(Orange), 독일 도이치텔레콤(DT), 미국 주요 통신사(ISP) 등에 망 대가를 지급하고 있습니다. 이 때 망 대가는 트래픽을 많이 발생시키는 일방이 대가를 주는 페이드 피어링(Paid Peering) 방식이죠. 즉 트래픽 기반이라는 점에서 발신자종량제라고 할 수 있습니다. 오히려 구글이 미국에서는 트래픽 기반으로 통신사에 돈을 내고, 우리나라에서는 트래픽 처리비용을 통신사(ISP)에게 전가하는 게 문제아닐까요.”(김현아 기자)

이데일리 기사에서 김현아 기자가 서술한 내용은 완전히 틀렸습니다. 외국에서 구글이 하고 있다는 페이드 피어링의 가격은 기본적으로 접속 용량을 기반으로 산정되기 때문에 종량제가 아닙니다. 물론 합리적인 네트워크 관리 차원에서 데이터 상한제와 같은 종량제의 요소가 부분적으로 있을 수도 있겠지만, 원칙은 접속 용량 기반입니다.

그런데 우리나라는 세계 유일무이하게 종량제를 의무화하고 있습니다. 종량제 하에서는 제대로된 페이드 피어링 요금 협상이 이루어질 수 없습니다. 망사업자들간에 발신자종량제가 적용되면 자신의 망에 유치한 콘텐츠가 다른 망으로 발송되는 만큼 돈을 더 내야 합니다. 그러면 KT는 SKT/SK브로드밴드, LGU+에 지불해야 할 발신자종량제 정산액수에 맞추어 해외 사업자들과 캐시서버 접속료를 흥정할 수밖에 없고 3사가 제시하는 가격은 자연스럽게 상향담합이 이루어지거나 장기적으로는 누적통행량에 정해질 수도 있습니다.

그리고 이것은 카카오나 네이버와의 전용회선료 협상에도 똑같이 적용됩니다. 서울의 인터넷 접속료가 파리, 런던의 7~8배, LA,뉴욕의 4배, 싱가폴의 2배인 이유도 이 때문입니다(텔레지오그래피, 2018.).  이렇게 발신자종량제 상호접속고시는 캐시서버 페이드 피어링 요금이든 전용회선료든 플랫폼들이 납부하는 접속료를 인위적으로 높게 만들거나 장기적으로는 종량제의 요소를 갖도록 왜곡합니다.

이렇게 되면, 그 플랫폼을 통해 자신의 주장과 콘텐츠를 전개하려는 사람들의 표현의 자유도 같이 금전적으로 위축될 수밖에 없습니다. 접속용량(순간 트래픽) 기반이냐 누적 트래픽 기반이냐에 따라 표현의 자유 보장 여부가 갈리는 이유는 이렇습니다.

예를 들어 인터넷에 자기 콘텐츠를 올린 A가 있다고 해보겠습니다.

• ‘접속용량 기반’에서, A는 자신이 어떤 용량으로 인터넷에 접속할지 결정하고 그에 따른 접속료를 이웃 망사업자에 지불한 후에는 별도 부담이 없습니다. 아무리 많은 사람이 A의 콘텐츠에 접속해도 A의 접속용량이 허락하는 대로 접속한 사람들에게 천천히 데이터를 공급해주면 됩니다.
• ‘누적 통행량 기반’에서, A는 사람들이 콘텐츠에 접속하는 만큼 망사업자에 별도의 비용을 지불해야 합니다. A는 자신의 콘텐츠가 인기가 있을수록, 더 많은 사람이 접근할수록 그에 따른 비용을 더 내야 합니다. 이런 상황에서 A는 콘텐츠를 온라인에 자유롭게 올릴 수 있을까요? 그뿐만 아니라 인터넷의 핵심은 중간 전달자가 여럿이라는 건데 중간 전달자들이 각자 통행료를 받겠다고 하면 A는 비용을 이중으로 지급하는게 아니라 3중, 4중으로 지급해야 합니다.

결국 돈 문제. 그리고 그 돈 문제는 인터넷 콘텐츠 생산자를 압박하게 되고, 결국 이용자의 접속권 장애를 초래할 위험으로 연결될 수 있습니다.

3. 정부가 중국과 러시아처럼 행동하다 패소하면 ‘일방적인’ 판결인가 ?

이데일리:

“세금이나 망 이용대가는 제대로 내지 않는 글로벌 콘텐츠 업체들이 유리해졌다는 점에서, 오픈넷의 입장은 답답한 마음마저 듭니다. . .방통위가 망 이용 계약 가이드라인을 만들려던 이유는 구글이나 넷플릭스, 페이스북, 네이버나 카카오 같은 큰 콘텐츠 업체라면 이제는 자사 서비스에 대한 서비스 품질에 신경써야 한다는 취지 때문입니다. “(김현아)

“큰 콘텐츠 업체라면 자사서비스에 대한 서비스 품질에 신경써야 한다”는 김현아 기자의 말에서 ‘품질’이 접속품질을 말하는 거라면 인터넷의 구동원리에 어긋납니다.

오픈넷:

인터넷의 핵심은 콘텐츠 제공자가 세계 어디에든 콘텐츠를 온라인에 올려놓기만 하면 세계 어디의 누구에게든 인터넷접속료만 내면 그 콘텐츠에 접근할 수 있다는 것이다. 이용자들에게 전 세계 콘텐츠에 접근하게 해주겠다는 약속을 대가로 인터넷접속료를 받는 망사업자들이 접속의 품질에 대해 책임을 지는 것이 마땅한데, 이번 소송의 대상인 과징금은 페이스북 접속에 장애가 생겼다고 해서 페이스북을 징계하려고 한 세계 유일의 사례였다.

기자는 위 주장에 대해 아무런 반박도 하지 못하고 있습니다. 제발 비슷한 징계 사례 즉, 콘텐츠 사업자에게 이용자의 접속 속도가 느려진 것에 대해 책임을 지라는 사례를 하나라도 찾아와주면 좋겠습니다.

‘콘텐츠 제공사가 망이용대가를 내야 한다’는 망 이용료론에 대해서도 오픈넷은 다음과 같이 논평했습니다.

오픈넷:

“망 이용료”라는 말은 전 세계에서 우리 언론과 정부만 쓴다. “망 이용료”라는 말에는 콘텐츠 제공자가 정보전달의 책임을 져야 한다는 생각이 저변에 깔려 있다. 그러나 인터넷이라는 것은 컴퓨터들이 라우터를 통해 연결된 집합체이고, 모든 라우터들이 이웃 라우터로부터 데이터를 받아 다른 이웃 라우터에게 공짜로 차별없이 정보를 전달하겠다는 약속으로 연결되어 있다.

다같이 망의 일부로서 이 약속을 지키고 있기 때문에 누구는 망 이용료를 내고 누구는 망 이용료를 받고 할 이유가 없다. 단지 서로간의 물리적 연결을 유지하는 유지비 즉 인터넷접속료만 있을 뿐이다. 국내 망사업자들이 전 세계 컴퓨터와 연결이 된다는 약속 하에 수많은 국내의 개인들로부터 받고 있는 것이 바로 인터넷접속료이다. “망 이용료”론은 바로 이 똑같은 연결에 대해서 콘텐츠 제공자로부터 돈을 다시 한 번 받아야 한다는 봉이 김선달과 같은 소리이다. (논평 중에서)

김현아 기자는 이에 대해서도 선택적으로 입을 다물고 있습니다. 결국, 김 기자는 정부가 내린 페이스북 징계 시도가 얼마나 부당한지는 전혀 언급하지 않으니 ‘정부가 패소해서 페이스북에 유리해졌으니 잘못이다’라는 주장만 남습니다.

인터넷 관련 여러 이슈들에 있어서 오픈넷의 기본적인 입장은 ‘인터넷에 대해서 국제표준에 맞는 규제를 해야 한다’는 것입니다. 한국의 골방에 앉아서도 전 세계의 모든 사람들과 소통할 수 있게 해주는 인터넷의 힘은 우리 정치와 경제를 발전시켜 왔고, 더 평등하게 발전시켜 왔습니다.

그러나 우리나라에 있는 수많은 갈라파고스 규제들이 우리나라 국민을 인트라넷에 가둬왔습니다. 지금은 다행히 위헌판정을 받았지만 인터넷실명제를 시작으로 합법 정보도 의무적으로 차단삭제하라는 임시조치 제도, 행정기관이 표현물의 불법합법 여부를 판단하는 방송통신심의위원회 등등 인터넷 이용자의 눈과 입을 가리는 규제는 아직도 셀 수 없이 많습니다. 이데일리 기자나 방송통신위원회가 말하는 ‘CP업자 품질책임’론, ‘망이용대가’론, ‘발신자종량제’도 인터넷 갈라파고스 규제 리스트에 새롭게 추가된 것들입니다.

인터넷 규제가 국제표준에 맞추어 개선되면 당연히 우리나라 기업들을 포함한 전 세계 기업과 개인들이 제공하는 콘텐츠는 국경없이 전 세계 사람들이 접속할 수 있게 됩니다. (물론 이런 모델에 반대되는 중국과 러시아 방식도 있습니다. 자기 나라 시장만 바라보는 일부 중국과 러시아 기업들에는 좋을지 모르지만, 중국과 러시아 국민들은 엄청난 검열과 감시 피해를 당하고 있습니다.) 오픈넷은 우리나라 국민들도 다른 나라 국민들과 똑같이 전 세계의 다양한 플랫폼을 통해 정보를 주고받을 수 있어야 민주주의와 공정경제가 꽃피울 것이라고 생각합니다.

망사업자와 콘텐츠사업자의 거대한 전쟁에서 가장 소외됐지만, 가장 중요한 궁극의 플레이어는 당연히 엔드 유저인 ‘이용자’다. 이용자의 자유로운 접속이 보장되는 방법과 정책적 방향이 무엇인지를 사업자와 정부가 망중립성 원칙 하에서 고민하는 것이 가장 중요하다.

위 글은 슬로우뉴스에 기고한 글입니다. (2019.11.14.)

글 | 이미루(진보네트워크센터 활동가)

지난 1월 20일, 사단법인 오픈넷은 해외 전문가들을 초청하여 ‘인공지능의 윤리와 데이터 거버넌스-국제적 흐름에서 데이터3법까지’를 주제로 한 컨퍼런스를 진행했다. 이날 컨퍼런스는 AI 윤리 점검 및 원칙에 입각한 AI프로젝트라는 주제와 AI와 데이터 거버넌스를 주제로 한 두 개의 세션으로 진행됐으며, 각 세션은 국내외 전문가들의 발제는 물론 다양한 질문과 토론이 함께하여 풍성하게 진행되었다.

• 컨퍼런스 발표자료: https://opennet.or.kr/17373
• 영상 다시보기: 1세션(AI 윤리 점검), 2세션(AI와 데이터 거버넌스)

[Session 1] AI 윤리 점검: “원칙에 입각한 AI 프로젝트”

첫 번째 세션은 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)의 사회 아래 ‘AI 윤리 점검: 원칙에 입각한 AI 프로젝트’를 주제로 진행되었다. 첫번째 발제는 제시카 필드 교수의 ‘원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들’이었으며, 두번째 발제는 허버트 버커드 교수의 ’AI 윤리의 윤리학’이었으며, 마지막 발제는 마르셀로 톰슨 교수의 ‘노력, 설계와 책임’이었다.

제1발제: 제시카 필드(Jessica Fjield) 하버드대학교 로스쿨 사이버법클리닉 교수

“원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”

제시카 필드 교수는 첫 번째 발제자로 나서 여러 공동저자들과 함께 연구를 진행했던 “원칙에 입각한 인공지능: 윤리 및 권리에 기반한 AI 원칙들에서 나타나는 합의점들”을 발표했다. 몇 년에 걸쳐 총 36개의 문헌을 검토한 연구진은 AI 윤리에 원칙 혹은 표준을 적용해보자는 원칙하에 사회에 긍정적인 영향을 미치길 바라며 연구를 시작했다고 밝혔다. 이후 사회 각층은 물론 여러 정부, 국제 시민사회, 정부간 기구 등을 통해 발표된 여러 AI 원칙을 연구하여 크게 여덟 가지 윤리 원칙에 대한 공통의 인식을 발견할 수 있었다고 밝혔다.

여덟 가지 윤리 원칙은 1) 프라이버시 2) 책임성 3) 안전과 안보 4) 투명성과 설명 가능성 5) 형평성과 차별금지 6) 인간에 의한 기술 통제 7) 전문성이 가지는 책임성 8) 인권증진이다. 필드 교수는 각 원칙들은 세부적이고 다양한 내용들을 포함하지만, 위 여덟 가지 큰 원칙이 지금까지 발표 된 대다수의 AI  원칙에서 중요한 자리를 차지하고 있다고 강조했다(이 외에도 여러 주요 의제들이 있으나, 보다 자세한 내용은 보고서 참조). 앞서 언급된 원칙들은 ‘빅데이터 시대’, ‘AI 기술의 도입’과 함께 지속적으로 문제시 되어왔던 내용들로 원칙적인 선언에 가깝다. 필드 교수는 해당 보고서가 원칙을 주로 담고 있지만, 전반적으로 ‘윤리(ethics)’에 대한 연구가 부족했음을 한계로 지적했다.

제2발제: 허버트 버커트(Herbert Burkert) 스위스 성갈렌대학교 법대 교수

“AI 윤리의 윤리학”

AI 윤리의 윤리학이란 주제로 발제를 이어나간 허버트 버커트 교수는 발제에 앞서 도덕(Moral)과 윤리(Ethics)의 개념을 구분해야한다고 설명했다. 도덕은 사람들이 어떻게 행동하는가의 영역이며, 윤리는 이론적 담화, 즉 무엇이 옳고 그른가에 대한 것이라고 설명했다. 이날 토론회의 큰 주제였던 AI 윤리 원칙이 자세한 행동 규정이라기보단 무엇이 옳고 그른가에 대한 원칙적 이야기임을 강조한 것이다.

허버트 교수는 익숙한 여러 그리스 신화를 예시로 들며 발제를 시작했다. 우리는 보통 판도라를 ‘절대 열지 말라’고 했던 상자를 열어 인류에게 재앙을 안긴 ‘나태하고 장난끼 많은’ 여성으로 기억하고 있다. 하지만 한 조사에서는 이 신화가 와전된 것임을 밝혔다고 한다. 본래 판도라는 ‘가이아’, ‘대자연’으로 불리던 존재로 인류에게 나쁜 것뿐 아니라 좋은 것도 주었던 존재였다는 것이다. 하지만 우리가 기억하는 방식으로 판도라를 기억하게 된 배경에는 모계사회에서 부계사회로의 변화를 위해 여성 혐오 시각이 더해져 신화를 바꿔 전달했을 수 있다고 한다. 허버트 교수는 이 일화를 통해 사회적 원칙, 윤리라는 것이 당시 시대 상황에 따라 변화하는 것임을 강조했다. 따라서 윤리 원칙만을 강조할 것이 아니라 인류가 행동함에 있어서 어떤 것들을 기준으로 삼을 것인가에 대한 이야기를 나눠야 한다고 강조했다.

허버트 교수는 정작 윤리 강령이 놓치는 것은 실제 원칙들 사이에서 충돌이 발생했을 경우임을 이야기하며 AI 윤리와 기술 그 자체에 대한 이야기는 많이 하는데 비해 정작 충돌이 발생했을 때 어떻게 행동해야 하는가에 대한 연구는 부족하다고 지적했다. 상황에 따라 어떤 기준을 따라야 할지, 원칙들 간에 충돌이 발생했을때 어떤 규칙을 따라야 할지 정의할 수 있는 법적 개입 혹은 규제 방안을 마련해야 한다고 강조했다. 이를 위해선 윤리강령에 긍정적이고 건설적인 비판을 할 수 있는 도구를 마련하는 게 중요하다고 강조했다.

제3발제: 마르셀로 톰슨(Marcelo Thompson) 홍콩대학교 법대 교수 

“노력, 설계와 책임”

마르셀로 톰슨 교수는 ‘노력, 설계와 책임’을 주제로 1세션의 마지막 발제를 맡았다. 톰슨 교수는 AI 발전이 우리 가치관에 어떤 영향을 주는지, 그리고 AI가 발전함에 따라 어떻게 인공지능을 활용할지에 관한 규범을 만드는데 어떤 영향을 가지는지에 대한 이야기를 하겠다며 발표를 시작했다. 톰슨 교수는 여러 원칙들 중에서도 ‘책임성’에 집중했고, 내용 규제에서의 플랫폼의 권한과 역할에 대한 예시를 자세히 다루었다.

예를 들어 내용 규제와 플랫폼의 관계에 대해서 이야기할 때, 결과물에 대한 책임, 기술이 만들어 내는 산출물이나 여파가 아니라 해당 결과가 나오는 과정과 AI 솔루션이 만들어지기까지 투여된 노력 등에 더 방점을 둬야 한다는 주장이다. 톰슨 교수는 지금 유럽의 내용 규제는 문제시되는 콘텐츠가 특정 플랫폼에 게시되어 있다면 그 콘텐츠의 문제 여부나 평가 과정 등은 상관없이 결과적으로 해당 콘텐츠가 계속 게시되어 있느냐 아니냐만으로 처벌여부가 결정되기 때문에, 오히려 표현의 자유를 억압하고 플랫폼 운영자들이 게시물을 ‘우선 내리고 보자’는 식으로 반응하게 만들 가능성을 강조한다. 그 결과 톰슨 교수는 결과 기반의 책임성 여부가 아닌 노력 기반의 책임성 체계가 중요하다고 강조한다. 해당 플랫폼이 충분히 노력을 들였고, 대응 과정에서 합리적 노력을 했다면 이런 노력을 인정해 법적 규제의 수준을 달리 할 수도 있다는 것이다. 그는 AI도 마찬가지로 AI 규범과 규제, 법적 제도 등을 만드는데 있어 단순히 설계 결과물을 평가할 것이 아니라 그 과정에서 어떤 노력이 있었는지, 향후 우리 삶에 어떤 영향을 미칠지에 대한 충분한 고민을 했는지, 그리고 법적 책임은 어떤 영향을 미치게 될지에 대한 고민을 해야 한다고 강조했다.

종합토론

이어지는 종합토론에서는 말라비카 자야렘 디지털아시아허브 소장이 원격으로 참여하여 발제에 여러 질문을 던졌다. 자야렘 소장은 개인적 선택과 구조적 문제가 연결될 수 있는가라는 질문이 해당 세션의 핵심이라며 개인의 도덕적 일탈의 수준에서 문제를 바라볼 것이 아니라 제도적이고 구조화된 윤리 의식이 중요하지 않은가라는 질문을 다시 던졌다. 또한 계속해서 AI 윤리 원칙에 대한 논의를 나누고 있지만, 그것이 실제 우리의 현실을 개선할 순 있을지, 각 국가와 사회가 가지는 문화･규범적 특징, 맥락에 의해 다르게 반영될 때, 우리가 원칙이란 이름으로 이를 공통의 인식으로 바라볼 수 있을지 등과 같은 질문을 던졌다.

이상욱 한양대학교 철학과 교수는 우리가 흔히 언급하는 ‘AI 윤리’가 굉장히 추상적인 경우가 많아 그것이 잘 지켜졌는지 판단할 수 있는 기준이 없는 경우가 대부분이라고 했다. 특히나 AI 기술의 발전과 활용에 있어 어느 정도로, 어떤 방식으로 규제할 것인지에 대한 부분도 아직 모호하다고 설명했다. 따라서 제도적 규제를 도입할 때는 각 국가별 문화 등을 반영하여 규제조항을 아주 구체적으로 만든 후 도입해야 함을 강조했다. 이에 더해 AI 윤리 원칙에 대한 중심적인 키워드보다 실제 키워드 사이에 어떤 경쟁들이 존재하는지 이런 갈등을 어떤 방식으로 논의하고 해결하기 위해 노력하고 있는지와 관련한 논의가 부가되었다면 더 좋았을 것 같다며 토론을 마무리했다.

최은필 카카오 연구위원은 AI 기술 역시 사람이 중심이 되는 기술이며,  AI 사회 구성원들이 기술과는 다른 변화의 소용돌이 속에서 기본적인 원칙과 규범을 지킬 수 있을지 고민해야 한다고 말했다. 특히나 알고리즘의 활용 등으로 기업의 사회적 역할이 강조됨에 따라 기업의 숙제와 책임에 대한 요구도 늘어나고 있음을 강조했다. 하지만 기술의 발전과 새로운 서비스의 등장으로 현재 원칙이 담아내지 못하는 부분들이 증가할 수 있음을 이야기하며 사회 전체가 유기적으로 움직이며 더 나은 해법을 찾아야 한다고 강조했다.

카를로스 아폰소 데 수자 리오기술과사회연구소 소장은 현재 인공지능에 대한 논의를 진행함에 있어 로봇공학에서의 인공지능과 인터넷을 기반으로 한 인공지능 두 가지 측면에서 살펴봐야 한다고 말했다. 그는 우리가 말하는 인공지능 원칙이 무엇에 기반해 있는지, 이전 규제 등을 통해서 무엇을 배웠는지 등을 성찰해야 한다고 주장했다. 지금까지의 인공지능 논의 맥락에서 우린 좀 더 단순한 상황에 대한 질문을 심사숙고할 필요가 있으며, 가령 AI 스마트로봇에 새로운 법인격을 부여하여 누가 해당 법인격의 책임자가 될 것인지에 대한 고민이 필요하다고 강조했다. 뿐만 아니라 인간이 인공지능의 완전한 관리자가 되기 위해 어떤 시스템을 가져야 할지에 대한 고민도 필요하다고 했다. 이에 더해 인공지능으로 인한 이익뿐 아니라 그 반대의 경우, 즉 부정적인 결과가 도출 되었을 때 사람이 시스템의 일부가 되어 어떻게 책임을 질 것인지에 대한 고민이 이루어져야 한다고 강조했다.

[Session 2] AI와 데이터 거버넌스

두 번째 세션 역시 박경신 오픈넷 이사(고려대학교 법학전문대학원 교수)가 사회하에 ‘AI와 데이터 거버넌스’를 주제로 진행됐다. 그레이엄 그린리프 교수, 클라우디오 루세나 교수, 오병일 진보네트워크센터 대표가 발제했다. 이들은 GDPR을 중심으로 데이터 시대의 개인정보보호를 중심으로 다루었으며, 현재 한국에서도 논란이 되고 있는 ‘가명정보 처리’에 대한 주제까지 포괄했다.

제1발제: 그레이엄 그린리프(Graham Greenleaf) 호주 뉴사우스웨일스대학교 법·정보시스템학과 교수(원격 참여) 

“연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?”

그레이엄 그린리프 교수는 ‘연구, 통계, 기록보존 목적의 가명정보 처리: 한국이 EU회원국 입장이라면?’을 주제로 발제를 진행했다. 그는 한국이 EU회원국일 경우로 가정하고 GDPR에 어떻게 적용을 받는지, 한국의 개인정보보호법과는 어떤 점이 다른지 등을 중점적으로 이야기 했다.

그린리프 교수는 가명처리를 했다고 해도 여전히 개인정보는 개인정보라는 점을 강조했다. 가명처리가 되었다고 해도, 해당 데이터의 익명성을 완전히 보장할 수 없고, 익명정보에 비해 개인식별의 위험은 여전히 높기 때문이다. 물론 GDPR은 공공의 이익을 위한 아카이빙, 역사적 과학적 연구 목적, 통계 목적의 활용은 양립가능성을 인정하여 정보주체의 동의 없이 개인정보를 처리하여 활용할 수 있도록 하였다고는 하지만, 모든 경우에 예외가 적용되는 것은 아니며, 양립가능성이 인정된다고 해도 정보주체의 권리를 무시해도 된다는 의미가 아님을 강조했다.

그는 현재 한국에서 첨예하게 논의되고 있는, ‘과학적 연구에 상업적 연구를 포함해도 되는가?’에 대해서도 다뤘다. 그린리프 교수는 특정 과학적연구방법을 쓴다고 하더라도, ‘해당 연구사업이 그 분야에서 방법론 및 윤리적 차원에서 모든 기준을 만족하는지?’에 대한 구체적 기준을 정해야 한다고 설명했다. 또한 일반적 상업연구, 예를 들어 시장조사와 같은 연구는 상업적 목적에 입각한 것으로 정보주체의 동의 없이 가명정보처리 및 활용을 해서는 안 된다고 말했다.

이 외에도 가명처리된 개인정보 출판의 위험성, 민감정보 활용시 정보주체의 권리 침해의 위험성 등을 강조했다. 또한 GDPR에서 공익적 목적을 위한 정보 활용의 제한을 많이 풀어두기는 했지만, 그게 모든 것을 해도 된다는 허가는 아니라고 강조했다. 무엇보다 유럽과 한국의 문화적, 사회적 맥락이 다른 만큼 세부적인 사항은 한국적 맥락에 맞춰 활용할 수 있도록 하는 것이 중요하다고 강조하며 발제를 마쳤다.

제2발제: 오병일 진보네트워크센터 대표

“데이터3법의 문제점”

오병일 진보네트워크센터 대표는 얼마 전 국회를 통과한 ‘개인정보 3법’(개인정보보호법, 정보통신망법, 신용정보법)의 문제점을 지적하는 발제를 이어나갔다. 오병일 대표는 현재 대한민국의 개인정보보호법이 유럽 GDPR에 비추어 미흡한 점이 많으며, 이로 인해 정보주체의 권리가 침해되고, 개인정보 보호가 제대로 이루어지기 힘든 구조임을 거듭 강조했다.

오병일 대표는 현재 개인정보보호법이 정의하는 개인정보의 범위가 매우 좁은데, 이 경우 ‘개인정보’로 인정되지 않아 제대로 보호되지 않는 데이터가 발생할 수 있음은 물론, 현재 개인정보보호법상 개인정보 범위에 대한 해석이 애매모호해질 수 있는 부분이 존재함을 지적했다. 또한 최근 이슈가 되고 있는 ‘과학적 연구’에 대해서도 가명처리된 개인정보의 상업적 활용, 제공, 결합을 폭넓게 허용하여 대기업 사이에 고객정보의 무한 공유 및 이에 따른 개인정보 남용 및 유출 위험성이 커짐을 강조했다.

특히나 이번 법 개정에서는 개인의 권리를 보장할 수 있는 정보주체의 권리 조항이 제대로 포함되지 않아, 개인정보 보호를 위한 안전장치도 미흡하다고 강조했다. AI와 빅데이터를 이야기 할 때 개인정보보호중심 설계 및 기본 설정, 프로파일링 권리 보장 및 규제의 부재, 개인정보 영향평가 등 다수 정보주체의 권리 보장 조항이 누락된 점은 특히나 문제라며 발제를 마쳤다.

제3발제: 클라우디오 루세나(Claudio Lucena) 브라질 파라이바 주립대학교 법대 교수 

“프라이버시 친화적 데이터연계 방식과 GDPR”

클라우디오 루세나 교수는 “프라이버시 친화적 데이터연계 방식과 GDPR”을 주제로 발제했다. 그는 브라질의 개인정보보호법 및 데이터 활용 상황도 공유했다. 루세나 교수는 브라질에서도 GDPR이 골든 룰(Golden Rule)처럼 표준으로 여겨지고 있으며, 이를 통해 개혁이 아닌 단순히 데이터보호 체계를 만들어 가고 있다고 했다.

루세나 교수는 데이터 활용과 관련하여 데이터를 재생산 가능한, 민감한 생필품이라고 정의했다. 디지털 경제 생산 시스템에서 데이터를 활용하여 정책을 개선하거나 더 나은 정책을 만들 수 있다는 데이터를 활용할 수 있어야 한다는 것에는 이견이 없을 것이라 주장했다. 따라서 데이터 접근권 및 사용권 자체를 막는 건 경제적으로 맞지 않다고 말했다. 동시에 데이터 자체가 ‘나’라는 존재는 될 수 없지만 오늘날의 데이터는 우리 자신을 대변하는 인격의 연장선상에서 바라봐야 한다고 말했다. 그는 절대적인 접근과 사용을 허가하는 것도, 원천적으로 금지하는 것도 결국 옳은 방법이 아님을 강조했다.

루세나 교수는 브라질의 데이터보호법과 한국의 개인정보보호법 모두 민감정보에 대해 정의하고 있는 반면, GDPR은 민감정보에 대해 명시적인 조항을 가지고 있지는 않음을 이야기했다. 하지만 GDPR을 통해 전반적 데이터 보호 기준이 강화된 것으로 이해해야 한다고 설명했다. 또한 브라질 법의 경우 상업적 데이터로 활용할 수 있는 경우를 매우 자세히 다루고 있음을 언급했다. 또한 기초연구가 아닌 상업적 연구의 경우 브라질은 민감정보를 기반으로한 연구는 금지하고 있다고 밝혔다. 공공을 위한 연구의 경우 예외가 되는데, 다만 활용과 보호 사이 균형을 맞추는 것이 중요하다며, 브라질 법의 경우 세세한 조항으로 언급하고 있음을 강조했다. 그는 이외에도 단순히 법적 규제 만으로는 이런 문제를 전반적으로 다룰 수 없으며, AI 거버넌스 등 다른 일련의 역할을 할 수 있는 장치들을 더해 전 세계적 틀을 구성하여 정보주체의 권리를 잘 담아내야 한다고 강조하며 발제를 마쳤다.

종합토론

이날 토론자로 함께 한 이대희 고려대학교 법학전문대학원 교수는 데이터가 엄청난 가치를 지니게 됨으로써 데이터 활용에 대한 위험성 지적과 함께 프라이버시와 관련된 문제들이 야기되었다고 한다. 그는 데이터의 활용과 보호에 균형을 맞춰야 함을 강조하며, 보호만 강조하면 결국 활용이 힘들어진다고 강조했다. 이번 개인정보보호법 개정에 대해서도 인공지능과 관련한 조항이 없음을 강조하며, 개인정보보호법을 데이터 활용에 보다 초점을 맞춰 개정하고, 이와 동시에 정보주체의 권리도 보다 확대되어야 한다며 토론을 마무리했다.

김가연 오픈넷 변호사는 ‘가명정보’에 초점을 맞춰 토론을 진행했다. 김가연 변호사는 이번 법 개정으로 기업들이 가명정보를 편히 쓸 수 있는 것처럼 이야기하지만, 실상은 그렇지 않다고 강조했다. 이번 개인정보보호법 개정은 활용과 보호를 둘 다 놓친 법안이라고 비판했다. 특히나 대한민국의 경우 주민등록제도와 실명제 등 가명정보 처리를 했다고 하더라도 재식별 가능성이 높기 때문에, 이에 대한 안전장치도 함께 강화했어야 하는데 이 부분은 다 놓쳤음을 강조했다. 이후 시행령 제정 등의 과정 역시 이런 논의들로 쉽지 않을 것이라 주장했다. 김가연 변호사는 개인정보보호법이 정의하는 과학적 연구의 범위가 어디까지 해당 할지에 대한 질문으로 발제를 마무리했다.

이호영 정보통신정책연구원 지능정보사회정책센터 센터장은 현재 세계적 논의와 마찬가지로 국내에서도 각각의 인공지능 원칙들이 충돌할 때에 이를 어떻게 해소할지에 대해 고민하고 있다고 말했다. 뿐만 아니라 인공지능 서비스의 활용 측면에 있어서도 계층화가 이뤄지고 있다고 강조했다. 소득격차, 학력격차 등 개인정보를 제공하고도 서비스를 제대로 누리지 못하거나, 아예 제공 자체를 원천 차단하여 어떤 서비스도 받지 못하는 경우가 존재한다는 것이다. 이외에도 초국가적 시장이 생기고, 그 안에서 정부, 시민사회, 기업 등 모든 것들이 섞여 있어 새로운 프레임이 계속 생겨남에 따라 이를 이야기할 수 있는 국제적 협약이 필요하다며 토론을 마무리했다.

이후 종합토론에서는 플로어의 청충들까지 토론에 참여하여 앞서 논의됐던 주제들은 물론, 정부 규제와 기업의 입장, 노동 시장에서의 인공지능 도입으로 인한 문제 등으로까지 주제를 확장하며 열띤 논쟁이 이어졌다.

「개인정보 보호법」이 2020년 2월에 개정되면서 정보주체의 동의 없이도 과학적 연구 목적으로 개인정보를 가명화하여 이용할 수 있게 되었으나, 「생명윤리법」에는 기존 수집된 정보를 가명화 또는 익명화할 경우 연구목적으로 이용할 수 있는 특례조항들이 존재하고 있다. 2020. 9. 25. 대한기관윤리심의기구협의회(KAIRB) 연례총회에서 박경신 오픈넷 이사(고려대 법학전문대학원 교수)는 위 2가지 법체계가 어떻게 조화하는지에 대해 발표하며 개인정보보호법 개정이 가진 문제점에 대해서도 지적했다.