2019. 1. 11.-12. 이틀에 걸쳐 Digital Asia Hub가 주최하고 The Ethics and Governance of AI Initiative 와 the Konrad-Adenauer-Stiftung가 후원하는 FAT/Asia Hong Kong 2019에 김가연 변호사가 참석했습니다. FAT는 Fairness, Accountability, Transparency를 의미하며 머신러닝과 알고리즘의 공정성, 책임성, 투명성에 대해 논의하는 이니셔티브입니다. 김가연 변호사는 첫날 오프닝 세션에서 한국과 일본의 AI 윤리 동향 등에 대해 이야기하고 세션 1의 사회를 맡았습니다.

• FAT/Asia Program

오프닝 세션 Taking Stock of Trends and Challenges: Perspectives from Multiple Disciplines 메모

• In Korea, AI ethics, or Roboethics has a relatively long history of 12 years.
• In 2007, the Ministry of Industry and Energy (Ministry of Commerce) disclosed the draft of the Robot Ethics Charter. It included not only robot ethics but also researcher ethics and user ethics, which we boast as the first in the world. However, the draft is yet to be finalized.
  • Not really different from Asimov’s robot principles
• The Intelligent Robots Act 2008 was amended in 2016 to mandate the government to enact the AI Ethics Charter.
  • At the end of last year, the Ministry of Science and ICT announced that it will finalize the charter.
  • In 2016, in terms of accountability, the draft made it designers, manufacturers, and users’ responsibility if a robot causes any damage or harm.  

• Kakao published “Kakao Algorithm Ethics” in January 2018:

1. enhance mankind’s benefit and wellbeing and keep all efforts for algorithm development within the ethical framework of society;
2. ensure that algorithms shall not generate biased results;
3. collect and manage data for algorithm learning in accordance with social-ethical norms;
4. ensure that algorithm shall not be manipulated internally or externally; and
5. provide explanations on algorithm to strengthen users’ trust to the extent that it does not compromise corporate competitiveness. 

• KAIST Killer Robot controversy in April 2018:
  • More than 50 leading academics from nearly 30 countries signed the letter calling for a boycott of Korea Advanced Institute of Science and Technology (KAIST) and its partner, defense manufacturer Hanwha Systems. The researchers said they would not collaborate with the university or host visitors from KAIST over fears it sought to “accelerate the arms race to develop” autonomous weapons.

Japan:

• 2004 World Robot Declaration
• 2017 Japan Society for AI Ethical Guideline
• 2018 Japan Ministry of Internal Affairs and Communications AI R&D Guideline draft

글 | 손지원 (오픈넷 변호사)

제20대 국회 과학기술정보방송통신위원회(이하 “과방위”)가 잠정 합의했던 것으로 알려진 정보통신망법 개정안은 일명 ‘매크로금지법’, ‘실검 조작 방지법’ 등으로 불리운다. 이용자가 부당한 목적으로 매크로 프로그램을 사용하거나 타인의 개인정보를 이용하여 정보통신서비스 제공자의 서비스를 조작하는 행위를 금지하고, 일정규모 이상의 정보통신서비스 제공자는 해당 서비스가 이용자로부터 조작되지 않도록 기술적, 관리적 조치를 해야한다는 내용이다.

본 개정안은 이미 잘 알려진 바와 같이 ‘여론 조작’, 즉, 실시간 검색어 순위나 댓글 등이 매크로 프로그램이나 타인 계정을 이용하여 조작되는 결과를 방지한다는 것이 가장 큰 명분이다. 그러나 검색어를 입력하거나, 글을 게시하거나, 게시물에 대한 호불호를 표시하는 행위와 이를 실현함에 있어서 직접 수동으로 행할 것인지, 매크로 등의 자동화된 기술을 이용할 것인지, 혹은 익명‧가명으로 표현할 것인지, 타인의 허락하에 타인의 계정으로 표현할 것인지의 여부는 모두 원칙적으로 표현의 자유라는 기본권 행사의 영역이다. 따라서 이러한 행위를 제한하는 법은 모두 표현의 자유를 제한하는 규제로서 엄격한 헌법상의 표현의 자유 제한 원칙이 적용되어야 한다. 즉, 판단주체의 자의적 기준에 따라 표현행위의 제한 여부가 남용되는 결과를 방지하기 위하여, 표현의 자유를 규제하는 법률은 규제되는 표현의 개념을 세밀하고 명확하게 규정해야 한다는 ‘명확성의 원칙’과, 표현 행위가 단지 장래에 해로운 결과를 가져올 수 있다는 추상적 해악의 발생 가능성만을 이유로 제한해서는 안 되고, 중대한 해악을 초래한 명백하고도 현실적인 위험성이 입증된 경우에 한하여 제한할 수 있다는 ‘명백하고 현존하는 위험의 원칙’ 등을 준수해야 한다.

그러나 본 법안은 명확성 원칙에 위반할 소지가 높다. ‘부당한 목적’이란 매우 추상적이고 불명확한 기준으로써 표현의 자유를 제한하는 법률 용어로 사용될 수 없다. 최소한의 예시 개념도 없이, ‘목적’이라는 누군가의 주관적인 내심의 의사가 ‘정당’(이치에 맞아 올바르고 마땅함)한지, ‘부당’(이치에 맞지 아니함)한지를 누가 어떤 기준으로 판단하고 확인할 것인가. 본 법안의 모태였던 개정법안들, 즉, ‘여론 조작 금지’를 목적으로 드루킹과 같은 행위를 방지해야 한다며 발의된 개정법안들 역시 ‘정치적 이익을 위하여’ 등의 불명확한 기준을 사용하고 있었는데, 정치적 이익을 목적하는 행위라면 본조의 ‘부당한 목적’으로 포섭시킬 가능성이 높다. 그런데 만일 기업이 본인들의 비리를 폭로하고 있는 불리한 기사를 밀어내기 위한 각종 작업을 하고 있는데, 이 사실이 대중에게 꼭 널리 알려져야 한다고 생각하는 사람이 해당 검색어 순위나 기사를 상위에 노출하기 위해서 매크로를 이용한 행위는 ‘부당한 목적’인가? 또 만약 장애인단체가 정당이나 정치인의 장애인 혐오발언 사실을 알리고 그들의 지지율을 떨어뜨리기 위해 단체 구성원들의 포털 계정의 포괄적 이용 허락을 받아 게시글, 댓글을 올리거나, 추천을 누르는 집단행위를 도모하였고, 장애인인 운영진이 그 과정을 간편하게 하기 위해 매크로 기술을 사용하였다면, 이는 ‘정치적 이익’을 위한 ‘여론 왜곡’ 행위인가, 아닌가?

또한 ‘서비스를 조작’하는 행위가 무엇인지에 대해서도 명확한 정의를 내릴 수 없다. 입법 의도상 실검이나 댓글의 추천수, 조회수 등의 결과에 영향을 미치는 행위를 이에 포함시키려는 것으로 보인다. 협의안의 배경이 된 소위 회의록을 보면 “안 제48조 4항 서비스를 조작하여서는 아니된다의 내용에 ‘게시판에 부호, 문자, 음성, 음향, 화상, 동영상 등의 정보를 반복적으로 게재, 입력하거나 게시판에 게재된 정보의 조회수, 추천수, 또는 실검 순위를 변경, 조작하여서는 아니된다’라는 등으로 ‘변경’의 의미도 포함된다는 것을 명시해주길 바란다”는 취지의 발언이 있다. 그렇다면 ‘변경’의 대상이 될 ‘본래’의 서비스란 무엇인가? 한 사람이 순수한 의도를 가지고 직접 행한 1회의 의사표시를 반영한 결과를 제공하는 것을 본래의 서비스로 해석해야 하는가? 그렇다면 이를 어떻게 증명할 것인가? 생각건대 크라우드 소싱을 본질로 하는 인터넷 서비스는 불특정 다수의 이용자들의 다양한 이용행태를 반영함으로써 비로소 ‘완성’되는 것이다. 일부 이용자가 서비스 제공자의 서비스 프로그램 자체를 훼손하지 않으면서 단지 그 프로그램의 기계적 알고리즘을 이용하여 서비스 결과에 영향을 미친 행위는 서비스의 ‘이용’ 그 자체로 보아야하지, 이를 ‘변경’이나 ‘조작’으로 보아서는 안 된다.

결국 위와 같은 개념들을 사용하고 있는 본 법안은 법률의 수범자인 일반 국민과 정보통신서비스 제공자, 나아가 법의 집행자에게도 명확한 기준을 제시하지 못하여 판단자의 자의적 기준에 따라 남용될 위험이 높은 위헌적 법안인 것이다.

한편, 본 법안이 규제하고자 하는 행위가 과연 강제 규제나 형사처벌의 필요성이 있는 행위인지, 즉, ‘명백하고 현존하는 위험’이 있는 표현행위로써 이를 규제하는 것이 헌법상 비례의 원칙에 부합하는 것인지도 따져볼 필요가 있다.

매크로를 이용하거나 타인의 개인정보를 이용하여 표현행위를 하는 것이 서비스 제공 약관에 어긋나는 이용행태라 할지라도, 즉, 이용자들이 서비스제공자가 기대하는 방식대로 서비스를 이용하지 않았다고 할지라도, 이를 형사처벌 대상으로 삼는 것은 과도하다. 위에서 말한 바와 같이 일부 이용자가 서비스 제공자의 서비스 프로그램 자체를 훼손하지 않으면서 단지 그 프로그램의 알고리즘을 이용하여 서비스 결과물에 영향을 미쳤다고 하더라도, 그와 같은 위험은 크라우드 소싱을 본질로 하는 서비스 내에 이미 내포되어 있는 것이며, 서비스제공자는 이러한 위험을 감수하면서 자율적 선택에 따라 일반에게 서비스를 제공하고 있는 것이다. 따라서 조작 가능성을 포착하고 더 나은 서비스로 개선할지, 관련 서비스를 중단할지 여부도 서비스제공자가 자율적으로 결정하고 해결하여야 할 문제다. 만일 서비스 제공자의 영업상 이익의 침해가 발생했다면 이용약관 위반의 책임을 물음으로써 민사적으로 해결하거나 서비스 제공을 중단하면 되지, 국가의 형벌권이 개입하여 많은 인터넷 이용자를 함부로 형사 수사 및 처벌의 위험으로 몰아넣을 일이 아니다.

또한 타인의 용인, 위임 하에 타인의 계정이나 정보를 이용하거나, 매크로와 같은 기술을 이용하는 등 각종 방법을 통해 ‘소수의 의견이 실제보다 다수의 의견처럼 보였다’는 것만으로, 이러한 행위를 법으로 규제할만큼 타인의 권리나 사회적 법익에 어떠한 ‘명백하고 현존하는 위험’을 초래하였다고 보기는 어렵다. 각종 캠페인이나 집회, 시위 등 모든 형태의 표현행위는 실제보다 더 큰 위력을 대외적으로 과시함으로써 더 큰 영향력을 발휘하고자 하는 동기를 가지기 마련이며, 정치활동의 본질이 바로 자신이 더 많은 사람들을 대표하고 있음을 내세우는 행위라고도 할 수 있다. 또한 ‘여론’이란 일의적으로 정의되거나 보여질 수 있는 것이 아니기 때문에 ‘왜곡’, ‘조작’이라는 것도 증명할 수 없으며, ‘순수한 여론’을 그대로 보여주는 것이 인터넷 서비스 사업자 본연의 업무라고도 할 수 없다.

즉, 이와 같은 방식의 표현행위가 실질적으로 어떤 중대하고 명백한 해악을 가져왔는지에 대한 충분한 입증과 근거없이 자의적 판단에 따라 남용될 수 있는 불명확한 기준을 내세워 국민의 일반적인 표현 행태를 원천적으로 금지하거나 형사처벌 등을 무분별하게 규정하는 것은 헌법상 과잉금지원칙 및 명백하고 현존하는 위험의 원칙 등에 위배하여 표현의 자유를 침해하는 것이다. 매크로 사용이나 여론 조작을 금지하는 법이 다른 어느 나라에도 존재하지 않는 이유를 생각해보아야 한다.

한편, 정보통신서비스 제공자에게 ‘해당 서비스가 이용자로부터 조작되지 않도록 하는 기술적, 관리적 조치’와 같이 추상적이고도 세세한 조치의무를 과도하게 부과하는 것 역시, 정보통신서비스 제공자가 선택에 따라 이용자들의 자유로운 서비스 이용 환경을 보장할 권리를 침해하고, 다양한 인터넷 서비스의 발전을 저해할 뿐만 아니라, 서비스와 이용자들의 행태를 상시적으로 감시, 검열하게 함으로써 일반 국민인 이용자들의 인터넷상의 자유를 위축시키는 결과로 이어진다.

인터넷 서비스가 순수한 여론을 보여주는 공간이 되어야 한다는 신화에 기반한 인터넷 서비스 규제는 곧 인터넷 실명제와 같이 표현의 자유와 통신의 자유, 개인정보자기결정권 등을 침해하는 규제의 도입 논의로 이어질 가능성이 높다. 당장 안 제48조 제4항은 타인의 개인정보를 이용하여 서비스를 조작하는 행위를 형사처벌 대상으로 하고 있는데, 이는 인터넷 서비스가 실명제 혹은 준실명제에 기반하여 제공되어야 함을 이미 전제하고 있는 것과 다름없다. 나아가 소위 회의록을 보면 “본조의 개인정보 ‘이용’에는 ‘도용’뿐만 아니라 ‘매매나 대여’하는 경우 등까지 포함되도록 할 것”을 강조하고 있는데, 이는 실명제를 넘어 당사자의 자유로운 의사에 따라 표현행위에 대한 대리권을 수여‧행사하는 행위까지 형사처벌하겠다는 것이어서 매우 과도하다고 하지 않을 수 없다.

결론적으로 ‘여론 조작’을 방지한다는 명분으로 ‘부당한 목적’의 ‘서비스 조작’이라는 불명확한 개념을 이용한 위헌적 법안을 남발하는 것은, 앞으로 정부와 국회가 정치적 목적에 따라 손쉽게 국민의 자유로운 공론장을 재단하고 통제하려는 시도는 아닌지 우려하지 않을 수 없다. 부디 새로 구성될 제21대 국회는 헌법에 위반하여 국민의 자유로운 인터넷 이용을 위축시키고 표현의 자유를 부당하게 침해하는 유사 법안을 발의하지 않기를 바란다. <끝>

글 | 황성기 (한양대 법학전문대학원 교수/오픈넷 이사장)

일제강점기 일본 조선총독부는 시국 불안정 등을 이유로 조선에 댄스홀을 허가하지 않았다. 1937년 잡지 삼천리에 실린 한 레코드 회사 소속 여성들의 ‘경성에 딴스홀을 허(許)하라’라는 제목의 기고는 조선총독부에 대한 탄원서 형식의 글이지만, 조선의 제도적 자유를 얻기 위한 노력으로 이해될 수 있다. 다른 나라의 도시에는 있는 댄스홀을 유독 조선에만 허가하지 않는 것을 통탄하며 댄스홀에서 춤을 추게 해달라고 청원하는 것이었다.

공정거래위원회는 지난해 전자상거래 등에서의 상품 등의 정보제공에 관한 고시 개정안을 행정예고한 바 있다. 개정안의 주된 내용은 확률형 상품 판매 시 사업자가 공급 가능한 재화 등의 종류와 종류별 공급 확률정보를 소비자에게 제공하도록 하는 의무를 사업자에게 부과하는 것이다. 여기의 확률형 상품에는 게임의 확률형 아이템도 포함된다는 것이 공정거래위원회의 기본입장이자 입법의도이다. 그런데 공정거래위원회의 개정안은 매우 잘못된 정부규제의 대표적인 사례이다.

첫째, 게임의 확률형 아이템에 대해서는 개정안보다 매우 높은 수준의 확률정보 공개 자율규제가 이미 적용되고 있기 때문이다. 게임의 확률형 아이템 자율규제는 2015년 한국게임산업협회 주도 확률형 아이템 확률정보 공개 시작부터, 2018년 확률정보 공개대상 범위 확대 및 개별 아이템 확률정보 공개로의 일원화, 2018년 게임자율규제기구인 한국게임정책자율기구의 출범을 거치면서 발전하고 있다. 이와 같은 게임 분야에서의 자율규제를 정부규제로 전환하는 것은 역사의 흐름에 역행하는 것이다. 전 세계를 대상으로 제공되는 게임서비스에서 정부규제는 결코 만능이 아니고, 과거처럼 정부규제가 모든 문제를 해결한다는 생각은 탁상공론에 불과하다.

둘째, 공정거래위원회의 개정안이 시행되는 순간부터 게임의 확률형 아이템 규제수준은 떨어져서, 소비자의 합리적 선택을 유도한다는 명분에 반하기 때문이다. 동일한 대상에 대해 높은 수준의 자율규제와 낮은 수준의 정부규제가 동시에 공존하는 경우, 전체적인 규제수준은 당연히 떨어진다. 수범자인 사업자 입장에서는 공권력에 의한 제재가 적용되는 정부규제만 준수하면 되지, 비용도 많이 드는 높은 수준의 자율규제까지 준수할 필요성이나 유인을 못 느끼기 때문이다. 따라서 자율규제가 적용되고 있는 영역에는 정부규제가 끼어들면 안된다. 사회적 요구에 비해 자율규제 수준이 낮은 경우에만 정부규제의 명분과 실효성이 생긴다.

셋째, 공정거래위원회의 개정안으로는 게임의 확률형 아이템 규제의 실효성을 담보할 수 없기 때문이다. 현재 게임의 확률형 아이템 자율규제에 대해서는 독립적인 게임자율규제기구가 지속적인 모니터링을 통해서 그 준수 여부를 감시하고 있다. 일정한 규제가 실효성을 확보하기 위해서는, 규제의 준수 여부를 지속적으로 모니터링하고, 위반자를 적발해서 제재를 가해야 한다. 이를 위해서는 모니터링기구, 위반 여부 심의를 위한 인적ㆍ물적 자원이 상당히 소요된다. 공정거래위원회가 개정안의 준수 여부를 어떻게 모니터링하고 어떠한 세부기준을 갖고 위반 여부를 심의할지 등에 대한 계획을 들어본 바가 없다.

넷째, 자율규제도 ‘규제’이기 때문이다. 오히려 정부규제의 정당성 및 실효성 문제를 해소해 줄 수 있는 대체재 혹은 보완재 역할을 한다. 이러한 자율규제의 의미와 필요성을 정부가 먼저 나서서 부정하고, 이미 작동하고 있는 자율규제의 싹을 뿌리째 없애는 것은 오늘날의 스마트 시대에 전혀 부합하지 않는 구태의연한 모습이다. 아니면 최소한 자율규제에 대한 이해가 일천하다는 것을 보여 준다. 국내 서버를 두지 않은 해외 사업자들의 경우에는, 정부규제도 속수무책이다. 오히려 의도치 않게 국내 사업자에 대한 역차별 문제만 발생시킨다.

문재인 대통령은 후보자 시절부터 게임 규제는 산업계의 자율규제를 원칙으로 해야 한다는 의견을 밝히지 않았는가. 국회 입법조사처의 보고서에서도 게임 자율규제의 확대 필요성을 밝힌 바 있다. 산업계는 갈수록 스마트해지는데, 정부는 산업계의 흐름을 제대로 따라 가지 못하는 것 같아 무척 안타깝다. 공정거래위원회는 개정안을 당장 철회해야 한다. “게임 자율규제를 허(許)하라!

이 글은 아시아경제에 기고한 글입니다. (2020.06.15.)

인터넷은 서로가 서로의 메시지를 품앗이로 전달해줌으로써 누구나 무료로 매스커뮤니케이션의 주체가 될 수 있도록 해주었습니다. 각자가 메시지 전달에 돈을 받으려거나 메시지 내용에 조건을 두어서는 안 된다는 이 상부상조의 약속인 ‘망중립성’이 최근 우리나라에서 위협받고 있습니다. 5G폰을 왜 지금 사면 안되는지, 인터넷은 왜 전화나 우편에 비해 무료인지, 인터넷은 왜 “쓴 만큼 내는 것”이 아닌지, 왜 한국 인터넷기업들이 한국을 떠나고 있는지, 왜 국내에서 넷플릭스와 페이스북 접속속도가 느린지 등등 실생활의 궁금증을 해소하면서 망중립성을 이해할 수 있는 만화를 소개합니다. (박경신 고려대 교수/오픈넷 이사)

• 5G폰 지금 사지 마세요 – 다같이 빨라져야 합니다
• 인터넷은 무료다 – 해외여행에서 만나는 망중립성
• 페이스북이 느려지면 누구 책임인가?
• 인터넷도 전기, 수도처럼 “쓴 만큼 내는 게” 옳지 않을까?
• ‘망이용료’도 없고 ‘역차별’도 없다
• 우리나라 인터넷접속료가 파리의 8배, 뉴욕의 5배?

[망중립성 특별기획 웹툰 1] 라이즈 오브 망중립성의 수호자