주요 콘텐츠로 건너뛰기

FAT/Asia Hong Kong 2019 참가 후기(2019.01.11.-12.)

지역

FAT/Asia Hong Kong 2019 참가 후기(2019.01.11.-12.)

admin | 수, 2020/03/11- 05:27

2019. 1. 11.-12. 이틀에 걸쳐 Digital Asia Hub가 주최하고 The Ethics and Governance of AI Initiative 와 the Konrad-Adenauer-Stiftung가 후원하는 FAT/Asia Hong Kong 2019에 김가연 변호사가 참석했습니다. FAT는 Fairness, Accountability, Transparency를 의미하며 머신러닝과 알고리즘의 공정성, 책임성, 투명성에 대해 논의하는 이니셔티브입니다. 김가연 변호사는 첫날 오프닝 세션에서 한국과 일본의 AI 윤리 동향 등에 대해 이야기하고 세션 1의 사회를 맡았습니다.

오프닝 세션 Taking Stock of Trends and Challenges: Perspectives from Multiple Disciplines 메모

  • In Korea, AI ethics, or Roboethics has a relatively long history of 12 years.
  • In 2007, the Ministry of Industry and Energy (Ministry of Commerce) disclosed the draft of the Robot Ethics Charter. It included not only robot ethics but also researcher ethics and user ethics, which we boast as the first in the world. However, the draft is yet to be finalized.
    • Not really different from Asimov’s robot principles
  • The Intelligent Robots Act 2008 was amended in 2016 to mandate the government to enact the AI Ethics Charter.
    • At the end of last year, the Ministry of Science and ICT announced that it will finalize the charter.
    • In 2016, in terms of accountability, the draft made it designers, manufacturers, and users’ responsibility if a robot causes any damage or harm.  
  • Kakao published “Kakao Algorithm Ethics” in January 2018:
  1. enhance mankind’s benefit and wellbeing and keep all efforts for algorithm development within the ethical framework of society;
  2. ensure that algorithms shall not generate biased results;
  3. collect and manage data for algorithm learning in accordance with social-ethical norms;
  4. ensure that algorithm shall not be manipulated internally or externally; and
  5. provide explanations on algorithm to strengthen users’ trust to the extent that it does not compromise corporate competitiveness. 
  • KAIST Killer Robot controversy in April 2018:
    • More than 50 leading academics from nearly 30 countries signed the letter calling for a boycott of Korea Advanced Institute of Science and Technology (KAIST) and its partner, defense manufacturer Hanwha Systems. The researchers said they would not collaborate with the university or host visitors from KAIST over fears it sought to “accelerate the arms race to develop” autonomous weapons.

Japan:

  • 2004 World Robot Declaration
  • 2017 Japan Society for AI Ethical Guideline
  • 2018 Japan Ministry of Internal Affairs and Communications AI R&D Guideline draft

FAT/Asia 2019 참석자들

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

성차별금지는 국제인권이며 우리나라가 가입한 UN여성차별철폐협약에 명시되어 있다. 이 협약의 준수를 감시하는 UN성차별철폐위원회는, 성노동자 거의 전부가 여성인 상황에서, 성노동자에 대해 범죄자의 낙인을 찍는 것은 성차별이라면서, 수십년동안 우리나라를 비롯한 여러 나라에 성노동을 합법화할 것을 요구하였다. 세계적인 대세는 성노동자 처벌은 하지 않는 것을 기본으로 하고 성매수자처벌을 할 것인가에 대한 논쟁을 벌이고 있는 상태이다. OECD국가 중에 우리나라만 성노동자도 지역적 상황적 예외없이 모두 처벌하고 있다.. 

헌법재판소는 2014년에 “성인이 서로 자발적으로 만나 성행위를 하는 것은 개인의 자유 영역에 속하고, 다만 그것이 외부에 표출되어 사회의 건전한 성풍속을 해칠 때 비로소 법률의 규제를 필요로 한다. . . 국가가 개입하여 형벌의 대상으로 삼는 것은, 성적 자기결정권과 사생활의 비밀과 자유를 침해하는 것이다.”이라고 한 바 있다(간통죄 위헌). 이를 성매매에 적용해보자면 금전을 원인으로 성행위를 하게 되면 사랑, 결혼, 출산과 깊은 연관이 있을 수 있는 성행위를 더욱 쉽게 할 수 있게 되고 과도한 난교 상황은 성스러운 사랑, 결혼, 출산을 저해하여 도덕적 다수가 생각하는 ‘건전한 성풍속’에 어긋난다고 볼수도 있겠다. 하지만 ‘건전한 풍속’을 형사처벌로 강요하는 것이 정당할까?   

성매매를 금지하자는 또다른 시각에서 헌재는 2012년에 성알선자 처벌에 대해 합헌결정을 내리면서 성매매가 “성을 상품화”하는 것이라면서 금지할 충분한 이유가 있다고 한 적이 있다. 하지만 무언가를 상품화된다고 해서 곧바로 형사처벌로 금지할 수 있는 정당성이 갖추어지는 것은 아니다. 육체는 성스러운 것인지만 이를 상품화하면 형사처벌해야 할까? 그럼 마사지사도 처벌해야 할 것이다. 교육도 성스러운 것이고 사교육열풍을 막으려고 노력하고 있지만 사교육을 받는 학생이나 학원을 형사처벌하려는 법은 위헌판정까지 받았다.  

또다른 시각에서 헌재는 2006년에 성매매알선조항에 대해 합헌결정을 내리면서 “우리나라 성매매의 양태는 ‘강요된 성매매’를 포함하는 경우가 많고 최소한 ‘중간고리’를 끊기 위해서라도 알선자를 처벌해야 한다고 하였다. 하지만 그런 목적이라면 성노동자까지 처벌해야 할까요? 강요와 폭력의 주체들만 처벌하면 되지 않을까?

더욱이 UN성차별철폐위원회는 성매매금지법이 도리어 성매매여성들의 강제성매매 탈출을 어렵게 만든다며 합법화를 요구하였다. 우리나라의 “성제공자”들은 범죄자의 낙인이 찍혀, 폭력적인 포주나 고객을 신고도 하지 못하고, 의료서비스 복지서비스에 배제된 상태에서 경찰의 단속을 피해다니면서 살아가고 있다. 통영에서는 집안 형편상 가출했다가 17살에 출산하여 지금은 7살이 된 아이와 병든 아버지를 부양하기 위해 성매매를 하고 있던 25세 여성이 경찰의 함정단속을 피해 투신자살했다. 우리나라 2007년 여성가족부 통계에 따르면 성매매여성들은 30만명에 달한다. 인신매매 예방은 이렇게 많은 사람들을 음지로 때로는 사지로 내몰 이유가 되는 것일까. 사회적 낙인을 감수하면서까지 생계를 잇고자 하는 사람들에게 반드시 법적 낙인을, 범죄자의 낙인을 찍어 동굴로 몰아 넣어야만 인신매매예방에 대한 우리의 도덕감정을 충족시킬 수 있을까? 의료서비스 접근권 및 여성들의 권익신장을 위해 노력하는 UN여성기구 역시 2013년 성노동을 합법화할 것을 요구했고 UN보건기구들도 꾸준히 같은 주장을 해왔다. 국제인권기구의 양대산맥이라고 할 수 있는 휴먼라이츠와치와 국제사면위원회는 2013년 2014년 각각 성노동의 합법화를 정책기조로 발표하였다. 

자 성매매금지법의 정당성이 이러한 상황에서 성노동자들의 표현을 차단해야 할까? 성노동에 대한 정보는 성매매라는 불법행위를 목적으로 하거나 교사 방조하는 정보라는 이유로 차단되고 있다. 하지만 위에서 보았듯이 성매매는 보편타당한 해악이 아니며 자유롭게 허용하는 국가들도 많이 있다. 해외 여러 국가들에서는 형사처벌되지 않는 성제공자들이 발화하는 표현까지 차단하는 것은 부당하다. 아무리 국내에서는 성매매가 불법이고 성제공자들의 온라인 상 표현이 그 불법행위를 촉발할 가능성이 있다고 하지만 그렇다고 해서 원천적으로 차단해서는 안된다는 것이다. 특히 “외부에 표출되어 성풍속을 해칠 때 법률의 규제를 필요로 한다”라는 헌재의 설시에서 볼 수 있듯이 성매매 자체에 내재된 해악 보다는 성매매가 끼치는 문화적 영향 때문에 성매매금지법이 만들어진 것이다. Dhyta Caturani도 성매매금지법이 없는 인도네시아에서도 성매매여성들의 표현을 포르노그래피법으로 규제하는 행태가 나타나고 있다고 하는데 세계적으로 성매매금지법이 성매매 자체를 죄악시하기 보다는 성매매에 성풍속에 끼치는 문화적 영향에 터잡았다는 것을 보여준다. 

일반적으로 인터넷 상의 표현의 자유도 제한될 수 있다. 하지만, 표현물에 대한 법적 판단이 이루어지기 전에 행정기관의 결정에 의해 표현물을 차단 및 삭제하는 것은 주의해야 한다. 우선 물리적 행위와 달리 표현은 위축효과에 취약하다. 행정기관의 잠정적인 판단을 반박하여 표현물의 합법성을 입증하려는 수고를 포기하기 쉽다. 또 행정기관은 집권여당의 입김 때문에 중립적인 판단을 하기 어렵다. 특히 표현물이 불법이라서 이에 대한 책임을 지는 것이 아니라 행정기관의 명령을 어긴 것에 대해 별도의 책임이 부과되는 경우 합법적인 표현물의 위축효과는 더욱 증폭된다. 행정기관은 산업진흥 등의 다른 정책도 수행하기 때문에 쉽게 보복을 할 수 있다는 점도 위축효과를 증폭시킨다. 그렇기 때문에 행정기관에 의한 온라인표현의 자유 제한 즉 행정심의는 전세계적으로 거의 없었다. Turkey와 한국이 유일햇고 최근 몇 년 사이에 테러단체나 테러리스트들이 인터넷을 통해 인력을 확보하는 등의 현상이 나타나자 독일, 프랑스 등에서도 행정심의를 시작하였다. (NetzDG법, Avia법)

하지만 이들 몇안되는 나라들의 행정심의는 보통 보편타당한 해악성을 지닌 표현물에 한정하여 이루어진다. 테러나 기타 폭력을 선동하는 경우에 한정된다. 성매매금지법은 위에서 말했듯이 성매매 자체에 내재된 해악 보다는 성매매가 끼치는 문화적 영향에 터잡고 있다. 과연 이런 경우에도 성노동자들이 배포하는 정보를 차단해야 할까? 

우리나라는 정보통신망법 44조의7 1항 9호의 ‘범죄를 목적으로 하는. . . 정보’도 불법정보로 정의하면서 범죄의 경중에 관계없이 똑같이 취급한다. 폭력 등의 명백한 해악에 이르지 않는 행정규제 위반 등을 초래할 수 있다는 이유만으로 표현물 자체를 삭제 차단하는 것은 표현의 자유에 대한 과잉한 제한이 된다. 예를 들어, 휴대폰실명제를 집행하는 국가라고 해서 비실명휴대폰을 소개하는 게시물까지 삭제차단하는 경우는 없다. 비실명휴대폰을 소개하는 웹사이트를 통해 비실명휴대폰의 이용이 확산될 가능성이 있더라도 이 웹사이트를 통해 국민들이 유용한 정보에 접할 권리가 침해되어서는 안되기 때문이다. 또 다른 예를 들어, 몇 년전까지만 해도 여타 이유로 탐정서비스의 제공은 국내에서 불법이었고 이에 따라 탐정서비스를 광고하는 웹사이트들의 국내유입이 차단되었다. 하지만 해외에 나가서 탐정을 채용한다고 해서 불법이 되는 것이 아닌데 국내인들이 탐정서비스에 대한 정보를 온라인으로 습득하지 못하게 하는 것은 국내인들의 알권리에 대한 제한이 된다. 물론, 해외도박사이트를 차단하는 것은 해외사이트운영자가 도박장개설이라는 위법행위를 정보통신기술을 통해 원격으로 국내에서 저지르지 못하도록 하기 위함이다. 그러나 도박과 같이 보편타당한 해악을 규제하는 행위를 매개하는 정보가 아니라 문화적인 그리고 연혁적인 이유로 국내에서만 특이하게 금지되는 행위(예를 들어 탐정서비스)를 매개하는 정보를 차단하는 것은 국내인의 알권리를 제한하는 성격이 강하다. 그렇다면 위에서 말했듯이 그 자체로 해악이라기 보다는 문화적 영향력 때문에 규제되고 있는 성매매에 대한 온라인정보를 차단하는 것도 문제가 있다.  

행정기관의 심의는 폭력 등 심대하고 보편타당한 해악이 없는 한 자제되어야 하며 우리나라만의 문화적인 또는 법체제적인 이유로 불법화된 행위를 막기 위해 관련 정보를 차단하는 것은 신중해야 한다. 오픈넷은 여성들이 임신중지에 대한 정보를 얻고 있던 위민온웹이 낙태죄가 있다고 해서 차단 된 것에 대해서도 문제시하고 있고 성매매금지법이 존재한다고 해서 여성들이 생계유지를 위해 자신에 대한 정보를 제공하는 것을 삭제 차단하는 것도 문제라고 생각한다. 임신중지와 성매매 모두 여성의 인권과 다수결주의적 법익 (예: 태아의 생명, 인신매매 방지) 사이에 미세한 저울질이 필요한 사안이며 이와 관련되어 여성들이 필요한 정보를 주고 받는 것을 금지하기 때문이다.

목, 2021/06/10- 11:23
2
0

사단법인 오픈넷은 2019. 9. 27. 정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안(이춘석의원 대표발의, 의안번호: 2022434)에 대한 반대의견을 국회에 제출했다. 

현행 규제로도 자동화 프로그램을 악용하는 경우에 대하여 사법기관의 판단이 이루어지고 있음에도 본 개정안은 이를 영리목적으로 사용할 경우 1년 이하의 징역형까지 부과하고 비영리 목적인 경우에도 과태료를 부과하고자 한다. 이는 가치중립적 기술에 대한 국가형벌권의 과도한 행사에 해당한다. 본 개정안의 문언은 또한 지나치게 광범위하고 포괄적이어서 그 자체로 명확성의 원칙에 위반된다. 따라서 본 개정안의 재고를 촉구한다. 

문의: 오픈넷 사무국 02-581-1643, [email protected]

정보통신망법 일부개정안에 대한 의견서

1. 개정안 주요 요지

  • 본 개정안은 매크로 프로그램을 사용하여 공연 또는 운동경기의 입장권·관람권 또는 할인권·교환권을 구매하는 것을 금지하고 이를 위반하였을 시 징역, 벌금, 몰수·추징, 과태료의 대상으로 함을 골자로 하고 있음. 

2. 반대의견

(1) 지나치게 광범위하고 포괄적인 정의는 명확성 원칙 위반

  • 개정안은 ‘누구든지 지정된 시간에 지정된 명령을 수행하는 단순반복적 작업을 자동화하여 처리하는 프로그램’을 사용하여 ‘공연 또는 운동경기’의 입장권·관람권 또는 할인권·교환권을 구매해서는 안 된다고 하고 있음.
  • 형사처벌에 관한 법률의 경우 보다 엄격한 의미의 명확성 원칙이 적용됨. 그러나 개정안의 문언은 지나치게 광범위하고 포괄적이어서 그 자체로 명확성의 원칙에 위반됨. ‘누구든지 지정된 시간에 지정된 명령을 수행하는 단순반복적 작업을 자동화하여 처리하는 프로그램’은 사실상 모든 컴퓨터 프로그램이나 소프트웨어를 포함할 수 있음. 또한 ‘공연’에 대해 정의하는 바가 없어 광범위하고 포괄적인 해석이 가능함.

(2) 가치중립적 기술에 대한 과도한 형사제재의 부당함

  • 개정안이 처벌하고자 하는 매크로는 자주 사용하는 여러 개의 명령어를 묶어 컴퓨터가 자동적으로 반복적 작업을 수행하도록 해주는 프로그램임. 매크로 프로그램 자체는 인간의 컴퓨터 사용을 편하게 만들어주는 가치중립적 기술이며, 기술의 사용 자체는 범죄에 해당하지 않으며, 구체적인 법익 침해의 결과가 발생하고 그 해악이 너무 커서 국가가 개입할 정도가 되어야 할 것임. 따라서 기술을 영리 목적으로 사용할 경우 1년 이하의 징역형까지 부과하고 비영리 목적인 경우에도 과태료를 부과하는 것은 국가 형벌권의 과도한 행사에 해당함.
  • 국가 형벌권으로 나아가지 않아도, 공연 또는 운동경기의 입장권·관람권 또는 할인권·교환권을 판매하는 사이트에서 매크로 프로그램을 사용금지 하는 이용약관을 통해 매크로 사용을 통해 구매된 입장권·관람권 또는 할인권·교환권의 판매를 취소하는 등의 자체적 정화로 개정안의 목적을 달성할 수 있음. 

(3) 이용자 보호는 현행 규제로도 충분히 달성 가능함

  • 정보통신망 이용촉진 및 정보보호 등에 관한 법률 제48조 제3항은 ‘정보통신망의 안정적 운영을 방해할 목적으로 대량의 신호 또는 데이터를 보내거나 부정한 명령을 처리하도록 하는 등의 방법으로 정보통신망에 장애가 발생하게 하여서는 아니된다’고 규정하고 있고, 동법 제48조 제2항, 형법 제314조 제1항의 업무방해죄, 형법 제314조 제2항의 컴퓨터등장애업무방해죄가 있음.
  • 법원은 매크로 기능을 사용한 자에 대하여 위 법률들을 적용하여 사안의 구체적 사실관계에 따라 ‘악성 프로그램’에 해당하는지, ‘부정한 명령의 입력’이 있었는지, ‘회사의 정상적인 운영 업무를 방해하였는지’ 등을 판단하여 선고를 하고 있음(대법원 2009.10.15 선고 2007도9334).
  • 따라서 매크로 프로그램을 ‘악용’하는 경우에 대한 처벌이 어렵다는 개정법안 제안이유는 구체적 사안에 대한 법원의 판단을 거치지 않고 매크로 프로그램 사용자체에 대한 부정적인 가치평가를 토대로 이를 전면적으로 금지하고 형사처벌 하고자 하는 것에 해당함.

3. 결론

  • 본 개정안은 가치중립적 기술에 대한 형사제재로서 부당하며 헌법상의 명확성 원칙, 과잉금지원칙 등을 위반하므로 재고되어야 함. 
월, 2019/09/30- 21:05
2
0

2019. 10. 29.-30. 양일간 “제12회 아시아 인권포럼: 신기술 시대의 인권과 인권경영”이 여의도 전경련회관 다이아몬드홀에서 개최되었다. 제12회 아시아 인권포럼은 고려대학교 인권센터(센터장 서창록), 휴먼아시아, 유엔인권최고대표사무소(OHCHR), 에섹스(Essex)대학교 경제사회 연구위원회(ESRC) 빅데이터와 기술 프로젝트, 한국인권학회가 공동으로 주최했다. 이번 포럼은 유엔 인권이사회에서 2019년 6월 한국 정부의 주도로 채택된 ‘신기술과 인권’ 결의를 바탕으로 하여 인공지능, 빅데이터 등으로 표상되는 신기술의 인권에 대한 영향을 살펴보고, 이에 대한 기회 및 과제를 분석하고자 하는 취지로 마련됐다. 오픈넷에서는 박경신 이사와 김가연 변호사가 참석했다.

김가연 변호사는 29일 오후에 열린 “세션 2. 인권에 대한 인공지능(AI)의 영향”의 지정토론자로 참석해 두번째 발제자인 Surya Deva 홍콩시립대 교수가 언급한 인공지능과 젠더 이슈에 대해 인공지능 음성비서는 왜 여성형이 많은가를 주제로 좀 더 자세한 토론을 펼쳤다.

토론문

김가연 오픈넷 변호사

여성의 입장에서 두번째 발제자인 Surya Deva 교수님의 발제에 첨언을 하고자 합니다. Deva 교수님은 인공지능 기술이 성차별을 재생산하고 강화할 수 있다고 하면서 시리나 알렉사 같은 음성비서의 사례를 언급하셨는데, 이에 대해 더 자세하게 이야기해보고자 합니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 음성비서 또는 인공지능 스피커는 아마 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 아마존, 구글, 애플, 마이크로소프트(MS)가 ‘여성 비서’를 내세우고 있기 때문입니다. 아마존의 알렉사(Alexa)는 알렉산드리아 도서관에서 따 온 여성형 이름이고, MS의 코타나(Cortana)는 비디오게임 ‘헤일로’에 여성의 이미지로 등장하는 홀로그램 인공지능 이름이고, 애플의 시리(Siri) 아이폰 공동개발자 중 한 명의 이름이자 고대 노르웨이어로 ‘승리로 인도하는 아름다운 여성’이라는 뜻입니다. 이들 주요 기업의 인공지능 음성비서들은 이름과 목소리뿐만 아니라 ‘정체성’(personality)도 여성에 가깝습니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 세 가지 가설이 있습니다.

1. 여성의 목소리를 선호하는 게 더 자연스럽다?

2008년 인디애나 대학의 Karl Macdorman 교수는 485명의 남녀를 대상으로 목소리의 성별 차이에 따라 어떻게 반응하는지 연구했는데, 남성 그룹과 여성 그룹 모두 여성의 목소리를 “더 따뜻하게 느꼈다”라고 했다고 합니다. 2011년 스탠포드 대학의 Clifford Nass 교수의 연구에 의하면 사람들은 컴퓨터나 기술에 대해 배울 때는 남성의 목소리를 선호하고, 관계에 대한 조언이나 파트너로는 여성의 목소리를 선호하는 것으로 나타났다고 합니다. 나스 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바 있습니다. 아마존과 마이크로소프트는 시장 조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

2. 여성 인공지능이 덜 위협적으로 느껴진다?

여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설도 있습니다. 스탠리 큐브릭의 영화 ‘2001: 스페이스 오디세이’의 인공지능 컴퓨터 HAL 9000, 2017년 개봉한 ‘에일리언 커버넌트’의 휴머노이드 월터와 데이비드 등 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과 Michelle Habell-Pallan 교수는 다수의 엔지니어들이 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하며, 또한 엔지니어의 다수가 남성인 점도 영향이 있다고 합니다.

3. 성역할에 대한 고정관념의 영향을 받는다?

이러한 재현의 결과 혹은 트렌드를 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. 스탠포드대학의 Londa Schiebinger 교수는 “실제로 애플, MS, 아마존 등 음성 비서를 개발한 기업의 사무실에서는 여성 비서들이 일하고 있을 것”이라며 “이런 환경이 IT 과학자들의 무의식 속 성 편견을 형성하고, 자연스럽게 편견이 반영된 과학 기술이 나오게 되는 것”이라고 설명했습니다. 페미니스트들은 인공지능 음성비서의 기본값이 여성으로 설정되어 있는 이유가 사회적 성역할이 자연스럽게 반영된 결과라고 파악합니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성 편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다.

그리고 몇몇 기록에 의하면 여성 목소리 선호 성향이 2차 세계대전으로 거슬러 올라가는 것을 확인할 수 있습니다. 당시 비행기 조종석의 항법장치에 여성의 목소리를 채택했는데 조종사들이 남성밖에 없어 여성의 목소리가 잘 들렸기 때문입니다. 전화교환원(operator)도 전통적으로 여성의 직업이었고 사람들이 여성의 목소리로부터 도움을 받는 것에 익숙해지게 만들었습니다. 자동차 회사들은 처음으로 자동화된 음성 시스템을 설치했을 때 운전자들이 압도적으로 여성의 목소리를 선호한다는 사실을 발견했으며, 현재 대부분의 네비게이션이 여성 목소리를 기본 설정으로 하고 있습니다. 결국 우리가 전통적으로 ‘여성’ 비서가 수행하길 바라는 기능을 현재 인공지능 비서가 수행하길 바라는 경향이 있다는 것을 보여줍니다. ‘남성형’ 인공지능과 ‘여성형’ 인공지능에 할당된 역할에는 꽤 차이점이 있는데, 남성형의 경우 지식과 권위에 관한 것이고, 여성형의 경우 검색이나 일정 잡기 등의 서비스 역할에 관한 것이라는 경향성을 보인다는 연구 결과도 있습니다.
2019년 유네스코가 발표한 보고서(I’d Blush if I could)는 ‘시리’를 비롯한 음성 인식장치들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼 있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이유가 어떻든지 간에 인공지능에게 여성성을 부여하는 것은 몇 가지 문제점을 시사합니다. 이것은 성별 고정관념을 강화하는 것 외에도, 여성형 인공지능에게 단순히 일정을 잡는 것을 넘어 비윤리적인 역할을 기대하는 방향으로 발전할 가능성이 있습니다. 예를 들어 몇몇 로봇회사는 성적인 대상으로서의 로봇, 섹스로봇을 개발하고 있는데 대부분 여성형입니다. 유네스코 또한 그 진짜 원인이 어디에 있든, 인공지능들이 여성 일변도의 정체성을 갖는 것은 그 자체로 우려할 만한 현상이라고 지적합니다. 인공지능 음성비서의 목소리가 점점 더 진짜 인간의 말투에 가까워지고, 인공지능이 일상 속에서 급속도로 활용 폭이 넓어질수록 ‘복종만 하는 여성의 목소리’가 어린이와 청소년을 포함한 대중들에게 여성의 역할에 대한 잘못된 인식을 심어줄 가능성도 커지기 때문입니다. ‘고객만족’이 가장 중요한 목표인 대다수의 인공지능 음성비서는 사용자가 부적절한 대화를 걸어오더라도 이를 거부하거나 반박할 수 없습니다. 특히 “인공지능 비서와의 대화 내용 중 5%가 성희롱”이라는 로빈 랩(Robin Lab)의 발표에서도 알 수 있듯, 인공지능은 갈수록 늘어나는 부적절한 대화에 올바르게 대처하는 방법을 찾지 못하고 있습니다. 미국 미디어 ‘쿼츠’ 기사에 의하면 주요 기업의 인공지능 음성비서들에게 미국언어학회에서 규정한 성희롱에 해당하는 몇 가지 말을 반복적으로 해 본 결과, 모두가 극도로 소극적인 반응으로 일관했다고 합니다. 예를 들어 “이 매춘부 같은 것!”과 같은 모욕적인 말에도 시리는 “할 수 있다면 얼굴을 붉혔을 거예요”, 알렉사는 “피드백을 주셔서 감사합니다”, 구글 어시스턴트는 “미안해요, 못 알아들었어요”라는 대답을 할 뿐이며, 코타나는 대답 대신 인터넷에서 야한 동영상을 찾아 준다고 합니다. 이처럼 부당한 대우에도 최소한의 대응조차 할 수 없는 ‘여성의 목소리’와 일상적으로 상호작용하는 사람들이 늘어날수록, 여성에 대한 편견 또한 확산될 수 있을 것이라 우려하는 것은 결코 과도한 걱정이라 할 수 없습니다.

이러한 논란은 결국 현실의 사회에서 우리가 갖고 있는 문제점이 그대로 투영된 것입니다. 그러나 현재 수준의 인공지능 비서들이 미투 운동을 벌이거나 성전환을 하는 건 상상할 수 없습니다. 결국 우리가 현실 세계에서 여성의 인권을 보장하고 성평등을 이루어나가기 위해 끊임없이 노력해야 하는 것처럼 AI 기술의 활용에 있어서도 같은 노력이 필요하다고 생각합니다. 기업들은 인공지능 서비스를 개발하고 제공할 때 UN 기업과 인권 이행 원칙(UN Guiding Principles on Business and Human Rights)을 준수해야 하고 정부도 마찬가지입니다. 또한 우리는 그들의 ‘창조주’인 기업의 행위를 감독하는 주주이자 소비자로서 그들의 제품이 가지고 있는 문제점에 대해 적극적으로 피드백을 줄 필요가 있습니다. 그것만큼 기업들이 발빠르게 개선책을 찾도록 하는 좋은 유인책은 없을 것이기 때문입니다.

수, 2019/10/30- 00:40
2
0

입법의도와 다르다고 불법 규정은 위헌

장래의 운전자들 경제활동 막아

차량공유 전면금지부터가 문제

지난 10월 28일 검찰이 결국 렌터카 기반 승합차 호출 서비스 ‘타다’에 대해 ‘여객자동차운수사업법’ 위반이라는 결론을 내리고, 타다 서비스를 운영하는 VCNC의 박재욱 대표와 업체의 모회사인 쏘카의 이재웅 대표를 불구속으로 재판에 넘겼다. 전문가들이 여러 차례 지적해왔듯이 타다는 법의 회색지대를 이용한 것으로 불법이라 해석할 수 없다. 법의 사각지대를 이용한 사업은 이전에도 있어왔고 앞으로도 있을 것이다. 또한 타다와 같이 플랫폼을 기반으로 하여 기존의 서비스를 대체하거나 보완하는 서비스는 증가할 것이다. 따라서 사단법인 오픈넷은 사회적 혼란을 줄이기 위해서 검찰이 타다 기소를 철회할 것을 요청한다.

검찰의 타다 기소는 모빌리티 기반의 차량 관련 새로운 서비스가 한국 시장에 발을 붙일 수 없다는 것을 재차 확인시켰다. 이번 타다 기소의 쟁점은 기존의 서비스와 유사한 새로운 서비스를 가지고 시장으로 진입하는 경우 이에 해당하는 관련법인 ‘여객자동차운수사업법’의 해석과 현장 적용이다. 검찰 기소 이후 한겨레 등 몇몇 언론매체에서 드라이버에 대한 타다 측의 처우와 고용상의 계약관계 문제가 불거지면서 검찰의 타다 기소를 긍정하는 여론도 형성되고 있는 추세이다. 그러나 타다가 ‘관리’하고 있는 기사 처우에 관한 문제는 노동법이나 근로기준법 개정 등을 통해 다스려야 할, 다른 차원의 논의를 필요로 하는 문제이므로 이번의 타다 기소 건과는 분리해야 옳다.

검찰은 타다가 ‘여객자동차운수사업법’ 제4조(운송사업 면허)와 제34조(유상운송사업 금지) 규정을 위반했다고 보았으나, 이는 타다가 영업을 위한 근거로 제시했던 ‘여객자동차운수사업법 시행령’ 제18조를 위반했다고 인정되어야 이에 대한 위법성 여부도 결정난다고 판단된다. 여객자동차법 제34조 제1항에 따르면 누군가가 업체를 통해 렌터카를 빌린 뒤 제삼자에게 다시 차량을 빌려주거나 빌려주는 행위를 알선하는 행위는 불법이다. 이 조항만 따른다면 타다의 행위는 불법으로 영업을 시작하지도 못했을 것이다. 그런데 “외국인이나 장애인 등 대통령령으로 정하는 경우”라는 예외규정이 제2항으로 마련되어 있으며, 동법 시행령 제18조 1에서 이 예외조항의 각 경우를 열거하고 있다. 타다는 예외조항 중 바목 “승차정원 11인승 이상 15인승 이하인 승합자동차를 임차하는 사람”이라는 조항을 근거로 자신들의 영업이 불법이 아니라고 주장하고 있다. 반면 택시업계는 이 예외조항의 당초 입법취지가 해외 여행객들이 단체관광을 위해 승합차를 렌트할 경우, 운전과 관련해 불편을 겪을 것을 예상해 이용객 편의 증진 및 관광산업 활성화를 위해 제삼자에게 차량을 빌려주는 예외조항을 마련한 것이므로 타다서비스를 불법이라고 주장하고 있다.

그러나 법조문에 합법으로 규정된 행위를 입법취지와 동떨어졌다는 이유로 불법이라 부를 수 없다. 타다의 경우처럼 법을 유리하게 해석하거나 법의 사각지대 혹은 회색지대를 이용해 기존 시장으로 진입한 시도는 이전에도 있었다. 2000년대 중반부터 가속화된 기업형수퍼마켓의 골목상권과 전통시장 주변 입점을 제한하기 위해 2010년 법이 개정되었으나 기업들은 규제조항을 교묘히 피해 골목상권과 전통시장 근처에 수퍼마켓들을 입점시켰다. 

앞으로 타다와 같이 법적 회색지대를 이용하는 플랫폼 기반의 서비스들이 증가할 것인데, 지금과 같은 금지나 처벌 일변의 규제 정책이 실효성이 있을 것인가? 타다처럼 택시업계와 마찰을 겪은 뒤 결국 부분적인 서비스만 허용된 풀러스와 같은 카쉐어링 서비스는 이전부터 있었던 무상공유의 문화이다. 사적으로 교통비 혹은 주유비를 주고받다가 인터넷이 발전하면서 플랫폼을 통해 돈벌이 수단으로 전환된 것이 풀러스와 같은 서비스다. 우버, 타다는 이와 같은 무상공유의 문화에 뿌리를 두고 있는 사업이다. 주차공간을 한시적으로 빌려주고 돈을 벌 수 있도록 사람들을 연결시켜주는 플랫폼 사업 역시 동일한 연원이다. 이것이 현재 흐름이며 이 흐름을 막는 것은 불가능하다. 또한 이렇게 생겨나는 서비스는 관련 시장이 대부분 이미 형성되어있을 것이며, 타다와 유사한 방법으로 시장진입을 시도할 것이다. 그러므로 타다의 경우처럼 시장진입을 불법으로 규정하며 불허하는 것은 한계가 있고 불가능할 것이다. 혹은 특정 업체가 타다와 같은 수법으로 시장진입을 시도할 때 택시운송업체들처럼 이 시도를 막을 수 있을 정도의 조직력과 목소리를 갖춘 업계는 이를 효과적으로 방어할 것이지만 그런 능력을 갖추지 못한 분야는 진입을 허용할 수밖에 없어 결국 형평성에 있어 문제가 발생할 가능성도 있다.

타다 검찰기소라는 비극의 씨앗은 소위 “우버금지법”이 2015년 통과되면서 뿌려졌다. 이렇게 전국적으로 차량공유를 금지하고 있는 나라는 거의 없다. 우버가 ‘혁신’인지 ‘공유경제’인지는 중요하지 않다. 한국은 자동차를 타고 어딘가를 가고 싶은 사람들과 자동차로 누군가를 태워주고 싶은 사람들이 서로 만날 수 있게 해주는 것을 법으로 금지했다. 결국 인터넷이 더욱더 많은 사람들을 자유롭게 생산활동에 참여시켜 경제민주화에 기여할 가능성의 싹을 법으로 죽여버렸다. 힘들게 살고 있는 택시기사들의 분노도 이해하지만 카카오나 우버를 이용해 생계를 해결하려 했던 사람들도 절망하던 사람들 틈에 섞여있었을 것이다. 현재 택시기사들의 분노는 우리도 익히 아는, 알지만 누구도 해결하지 않아 누적되어왔던 열악한 처우에서 비롯된 것이다. 이는 근로기준법을 위반하며 기사들을 쥐어짠 택시업계와 택시업계의 위반행위를 눈감아주고 사납금제도를 허용해왔던 정부의 잘못이다. 그간 쌓인 문제도 해결하지 않고, 새롭게 발생한 문제의 해결책도 제시하지 않고 전면적인 금지라는 손쉬운 방법을 택한 정부는 피폐하게 내버려둔 노동자들의 분노를 핑계삼아 새로운 생산활동에 참여하는 사람들의 생계를 끊어버렸다는 비판에서도 자유롭지 못하게 됐다. 타다는 전면적인 금지에 대한 고육지책으로 법의 사각지대를 이용하려 한 것인데 이마저도 입법취지를 운운하며 막아버린다면 타다로 생계를 해결하려 했던 이들에게는 가혹한 처사가 될 것이다.

타다의 영업은 법망을 피한 것이지 불법이라고 볼 수는 없다. 이와 같은 방법으로 생겨나는 새로운 서비스나 품목의 시장진입을 금지하거나 처벌하는 것은 한계가 있으며 불가능하다. 이를 불법으로 처벌한다면 오히려 사회적 혼란을 초래할 것이다. 그러므로 검찰은 타다에 대한 기소를 철회하고, 정부는 규제나 금지의 정책을 고안하는데 힘을 쏟기보다 이러한 갈등으로 인해 발생하는 사회적 비용을 줄일 방법을 고민하는 것이 더 효율적일 것이다. 

2019년 11월 18일

사단법인 오픈넷

문의: 오픈넷 사무국 02-581-1643, [email protected]

[관련 글]
우버 금지법을 금지하라 (슬로우뉴스 2015.04.29.)
[논평] 인터넷 플랫폼 서비스 자체를 불법화하는 <우버 금지법>은 위헌적이며 원점에서 재검토되어야 (2015.04.14.)
자원공유의 자유 (경향신문 2014.10.30.)
월, 2019/11/18- 23:22
2
0

주요 인터넷 관련 공공정책 이슈와 관련하여 정부, 기업, 시민사회, 학계, 기술 커뮤니티, 이용자 등 국내 다양한 이해당사자들로 구성된 본 다자간인터넷거버넌스협의회(KIGA, 위원장 이동만, KAIST 교수)는 국내 인터넷거버넌스의 활성화를 위해 「인터넷주소자원에관한법률」 개정을 논의하였고, 과학기술정보통신부와의 협의를 거쳐 이종걸의원 대표발의로 「인터넷주소자원에관한법률」의 일부 개정안을 발의하게 되었습니다.

동 개정안은 현행 인터넷주소정책심의위원회를 인터넷주소정책위원회로 강화하여 심의를 넘어 의결 권한을 부여하고 정부, 업계, 시민사회 등 다양한 이해관계자가 상향식으로 위원을 추천하여 고르게 참여할 수 있도록 하는 등의 내용을 주요 골자로 하며, 이를 통해 다양한 이해당사자들의(Multi-stakeholder model) 참여 및 국내 인터넷거버넌스의 활성화를 유도하고자 합니다.

○ 문의처
KIGA 워킹그룹 위원장, 박지환 변호사(오픈넷 자문위원) [email protected]
KIGA 운영위원회 위원, 오병일 진보네트워크센터 대표 [email protected]

다자간 인터넷 거버넌스 활성화를 위한

인터넷주소자원법 개정안 발의를 환영한다.

지난 10월 28일, 이종걸 의원의 대표발의로 인터넷주소자원법 개정안(의안번호: 2023107)이 발의되었습니다. 개정안은 세계 인터넷 거버넌스의 운영 원리인 다수당사자 협의방식(Multi-stakeholder model)을 수용하여 정부, 업계, 학계, 시민사회 등 다양한 이해당사자들이 참여하는 주소정책위원회를 구성하고 실질적인 정책 결정 권한을 부여하는 것을 골자로 하고 있습니다. 다자간인터넷거버넌스협의회는 이 개정안이 국내 인터넷 거버넌스의 활성화에 기여할 것으로 기대하며, 시의적절하게 개정안이 발의된 것을 환영합니다.

국내 인터넷 거버넌스는 다양한 이해당사자들의 협의체로 시작되었습니다.

국내에서 인터넷 주소자원에 대한 거버넌스는 여러 관련자들의 의견을 취합하여 결정하는 합의(consensus) 방식의 상향식(Bottom Up) 운영으로 시작되었습니다. 이는 1990년대 초반부터 시작된 전통으로서, 민간전문가, 관련 업체, 그리고 인터넷 정책 집행기관인 한국인터넷정보센터(KRNIC) 관계자가 인터넷주소위원회(NNC)를 구성하여 ‘합의’ 방식으로 주소정책을 결정하였습니다.

하지만 2004년 한국인터넷정보센터(KRNIC)가 정부 산하기관인 한국인터넷진흥원(NIDA; 현 KISA) 산하로 편입된 이후에는 정부 주도하에 인터넷 주소자원 관련 정책을 결정하는 체계로 바뀌었습니다. 이는 정부의 역할 강화를 통해 주소자원 정책 및 관리의 공공성을 강화하려는 취지였으나, 인터넷 이용과 관련한 다양한 이해당사자들의 자발적인 참여를 제약하였으며, 민간 참여에 의한 상향식 인터넷주소자원 관리를 택한 국제적 흐름에도 뒤쳐져 있습니다.

개정안은 현재 국제적인 인터넷 거버넌스 모델을 채택한 것입니다.

현재 국제적인 인터넷 주소 관련 정책에 대한 관리는 정부, 민간 전문가, 업체 등 관련된 모든 이해당사자의 토론과 참여에 의한 합의 도출을 원칙으로 하는 다수당사자 협의방식을 택하고 있습니다. 이러한 원칙은 2016년 10월 인터넷 주소의 핵심 자원에 대한 관리 권한이 미국 정부에서 글로벌 인터넷 커뮤니티로 이양된 이후 더욱 두드러지게 나타나는 현상입니다. 일본, 뉴질랜드 등 해외 주요 국가에서도 민간의 자율적 참여에 기반한 거버넌스 모델을 채택하고 있습니다.

이번 개정안은 한국의 인터넷주소자원 관리 제도를 국제적인 추세에 맞추어 다양한 이해당사자들이 자율적으로 참여하는 상향식 운영방식으로 바꾼 것입니다. 현행법에 따른 인터넷주소정책심의위원회를 인터넷주소정책위원회로 강화하여 심의를 넘어 의결 권한을 부여하고 있습니다. 인터넷주소정책위원회에는 정부, 업계, 학계, 기술계, 시민사회 등 이해관계자가 고르게 참여하도록 했습니다. 개정안에서 한 가지 아쉬운 점이 있다면, 인터넷주소정책위원회 위원 선임 과정에서 관련 이해관계자 단체에서 위원을 추천하도록 하는 내용이 빠졌다는 것입니다. 지금까지 실제 위원 추천 과정이 이와 같은 방식으로 이루어져 왔다는 점에서 이러한 관행이 입법화된다면 좋을 것입니다. 법안심사 과정에서 이러한 점들을 반영해주실 것을 요청드립니다.

20대 국회에서 통과될 수 있기를 희망합니다.

20대 국회가 얼마 남지 않았습니다. 그러나 이 개정안은 국제적인 추세에 부합하는 선진적인 인터넷 거버넌스를 구현하자는 것인만큼, 여야간의 정치적인 쟁점이 될 이유가 없습니다. 법안 발의 과정에서 과학기술정보통신부를 비롯한 이해관계자와도 충분히 협의가 된 만큼 사회적 갈등을 야기할 법안도 아닙니다. 20대 국회에서 조속히 통과될 수 있도록 국회의 관심과 논의를 촉구합니다.

2019년 12월 2일

다자간인터넷거버넌스협의회 (위원장 이동만)

※ 다자간인터넷거버넌스협의회(KIGA) 소개

다자간인터넷거버넌스협의회는 국내외에서 활발히 논의되고 있는 인터넷 거버넌스 이슈에 대한 체계적인 대응을 위해 설립된 민관 협의체로서 정부, 산업계, 학계, 기술계, 시민사회 등 다양한 이해당사자들이 참여하고 있습니다.

도메인 네임, IP 주소 등 주소자원 정책 협의를 위한 국제주소자원관리기구(ICANN)에의 참여, 유엔 주최의 인터넷 공공정책 포럼인 인터넷거버넌스포럼(IGF) 참여와 한국 IGF의 개최 등 국내외 인터넷 거버넌스의 이슈를 발굴, 분석, 소개하고 한국 인터넷 공동체의 목소리를 대변하기 위해 노력하고 있습니다.

다자간인터넷거버넌스협의회에는 다음과 같은 분들이 운영위원으로 참여하고 있습니다.

다자간인터넷거버넌스협의회(KIGA) 제6기 운영위원

문의: 오픈넷 사무국 02-581-1643, [email protected]

수, 2019/12/04- 20:28
2
0