주요 콘텐츠로 건너뛰기

미국에서 900년 걸릴 일이… 2008년에 무슨 일이 있었나?

지역

미국에서 900년 걸릴 일이… 2008년에 무슨 일이 있었나?

익명 (미확인) | 수, 2015/07/01- 12:41

자살까지 부른 저작권 합의금 장사는 언제 멈출까 | <4> 메르스 방역 방해하면 징역 2년, 저작권 침해하면 징역 5년

글 | 남희섭(오픈넷 이사, 지식연구소 공방 대표)

GETTYIMAGESBANK

 

저작권 침해 – 걸면 걸린다

친구들과 생일 파티 때 찍은 영상을 인터넷에 올리면 저작권 침해로 걸릴 수 있다. 영상에 생일 축하 노래 “Happy Birthday to You”가 들어 있다면 말이다. 영어로 불렀다면 외국 저작권자가 문제지만, 우리말로 불렀다면 번역 저작권까지 고려해야 한다. 라이브로 부르지 않고 음반을 틀었거나 누가 연주를 했다면, 음반제작자와 연주자의 권리 침해도 따져야 한다.[1]

아니 생일날, 그것도 늘상 부르는 노래 때문에 저작권 침해라니? 법이 그렇다. 친구 집에서 부르기만 했다면 괜찮지만, 인터넷에 올리는 순간 저작권 침해다. 1편2편3편에서 소개한 사례들 대부분이 인터넷과 관련된 것들이다. 한 번 올리는 걸로 그치지 않고 친구들 생일 파티 때마다 올렸다면 상습범으로 몰려 저작권 경찰에 불려갈 수도 있다.[2] 권리자의 고소도 필요없다.

인터넷에만 들어오면 저작권이 문제되는 이유는 바로 전송권 때문이다. 인터넷에 정보나 콘텐츠를 올리는 행위는 저작권법상 전송에 해당한다. 보통 전송이라고 하면 무언가를 송신하는 것으로 이해되지만 저작권법에서는 타인이 접근할 수 있도록 이용에 제공하는 행위를 전송으로 정의한다. 이 전송권에는 권리 제한이 거의 없다. 그래서 노래든, 이미지든, 폰트 파일이든 인터넷에 올리는 순간 저작권 침해에 걸릴 수 있다.

 

죄와 형벌의 지나친 불균형

생일 축하 노래를 인터넷에 올렸다고 저작권자에게 얼마나 피해가 갈까? 국가의 형벌권을 발동하여 처벌할 사회적 법익은 얼마나 될까? 어려운 질문이 아니다. 피해가 거의 없고 비싼 세금 들여 운영되는 검찰이나 경찰까지 나설 일이 아니라는 데 토를 달기 어렵다. 하지만 법은 다르다. 피해 규모나 법 위반의 경중은 따지지 않는다. 전송이란 행위를 저작권자의 허락을 받지 않았다면 모조리 형사 처벌 대상으로 해 놓았다.

그것도 5년 이하의 징역이란 중형에 처해질 수 있다. ‘감염병의 예방 및 관리에 관한 법률 ‘ 제77조, 제79조 제2호에 따르면, 메르스(중동호흡기증후군)와 같은 고위험병원체에 대한 안전관리 점점을 못하게 방해해도 2년 이하의 징역형이고, 생물테러에 사용되는 탄저균을 허가 없이 무단 반입하는 정도의 행위를 해야 5년 이하의 징역형이다. 저작권 침해죄가 얼마나 중형인지 알 수 있다.

다른 나라도 다 이렇지는 않다. 프랑스의 경우 저작권 침해를 조직범죄집단이 한 경우에야 징역 5년 짜리가 적용된다. 우리 법도 처음에는 징역 1년 이하였는데, 미국의 통상압력 때문에 1986년에 3년으로 늘렸고, 디지털 기술의 발달로 저작자의 권리 침해가 날로 증가하는 문제를 해결하겠다는 명분으로 2000년에 징역 5년으로 늘렸다. 형벌은 이렇게 강화하면서 범죄 구성 요건에는 아무런 문턱도 두지 않았다. 지재권을 전 세계적 규모로 강화한 대표적인 조약인 세계무역기구(WTO) 지재권 협정(TRIPS)도 상업적 규모(commercial scale)에 대한 형사 처벌을 의무화하고 있을 뿐이다.

 

2008년에 무슨 일이 있었나? 미국에서는 900년 걸릴 일이 …

아래 그래프를 보자.
2015-06-29-1435587455-584320-20052013.jpg

2007년부터 늘어나기 시작한 저작권법 위반 사건이 2008년에 폭증하여 거의 10만건에 육박한다. 전 세계에서 우리나라에서만 관찰되는 특이한 현상이다. 2007년부터 전 국민이 저작권을 침해하기로 작정했기라도 한 걸까? 아니면 법이 바뀌었나? 둘 다 아니다. 저작권법을 악용하는 새로운 비즈니스 모델이 생겨난 시점이 2007년이기 때문이다.

이는 저작권 침해 고소가 대부분 합의로 종결되는 현상으로 설명할 수 있다. 그래서 실제로 기소되는 비율은 극히 낮다. 2008년의 경우 정식재판에 회부된 건은 불과 8건이었다. 2005년부터 2013년까지 고소된 사건 중 정식 재판은 0.2% 뿐이다. 약식 기소까지 다 합쳐도 10%도 안된다(7.1%). 저작권 침해자는 경제사범으로 분류되는데, 경제사범 전체의 정식 재판 기소율과 비교하면 33분의 1 수준이다. 이처럼 저작권 제도가 우리나라에서 터무니없이 악용되고 있다는 점은 미국과 비교해도 금방 드러난다. 2009년부터 2011년까지 미국에서 저작권법 위반으로 수사 의뢰된 사건은 모두 293건이다. 한해 평균 100건으로 잡아도 우리나라 2008년의 고소 규모가 되려면 900년이 걸린다. 미국에서는 경미한 저작권 침해는 고소를 해도 받아주지 않는다. 그래서 유죄가 인정된 것이 3년 동안 212건으로 72.4%에 달한다. 실제로 징역을 산 경우도 81건으로 수사 의뢰 건수의 28%에 달한다.

이 정도는 되어야 저작권법에 형사 처벌 규정을 두는 의미가 있다. 범죄의 예방 효과라는 형벌 규정의 본래 취지는 온데간데 없고 저작권 침해죄가 합의금 갈취 수단으로 전락한 지 10년 가까이 되어가는데 왜 해결책이 나오지 않는 걸까? 이건 이 연재의 마지막인 5편에서 살펴보자.

____________________________

[1] 사실 “Happy Birthday to You”가 누구의 저작권인지, 보호기간은 만료되었는지는 논문을 쓸 정도로 복잡하다. 2013년에는 책까지 나왔다. 가장 좋은 논문으로는 브라우나이스(Brauneis) 교수의 논문이 꼽히고, 이를 바탕으로 미국에서는 “Happy Birthday to You”를 저작권료 없이 이용하게 해 달라는 소송이 제기되기도 했다. 생일 축하곡의 저작권 문제가 이처럼 복잡한 이유는 법률 규정 때문이다. 저작권의 보호기간은 창작자를 알 수 있는 경우에는 그 사람의 사망시점을 알아야 하고(여러 명이 창작한 경우에는 마지막으로 사망한 창작자의 사망 연도), 무명이거나 업무상 창작인 경우에는 창작한 시점이나 발행 시점을 알아야 한다. 창작자의 국적과 발행 국가에 관한 정보도 필요하다. “Happy Birthday to You”의 멜로디는 힐 자매(Patty Hill과 Mildred Hill)가 1893년에 만들었고 1912년에 출판물에 처음 등장했다는 것이 정설이다. 이 권리가 여러 경로를 거쳐 워너/채펠 뮤직(Warner/Chappell Music)으로 흘러들어갔고, 그 동안 워너/채펠 뮤직이 저작권 행사를 해왔다. 2008년에는 하루에 5천 달러의 저작권료를 받았다고 한다. 우리나라에서 2009년에 상영된 ’7급 공무원’도 12,000 달러를 냈다고 한다. 저작권이 종료되었는지는 미국 소송의 결과를 지켜봐야겠지만 국내에서는 이미 저작권 보호기간이 종료되었다고 보인다. 하지만 이걸로 문제가 해결되지는 않는다. 왜냐하면 인터넷에 올리면 국내 저작권이 아니라 미국 저작권이 문제될 수 있기 때문이다(베른협약의 보호지국법주의, 워너/채펠은 미국 저작권은 2030년이 되어야 만료된다고 주장하고 있다). 멜로디 외에 가사는 힐 자매와 학생들과의 공동창작으로 보이고, 우리말 번역 가사에는 누가 저작권을 주장하기 쉽지 않아 보인다(번역 내용은 누가 하더라도 그렇게 할 수밖에 없는 정도여서 창작성이 인정되기는 어렵기 때문이지만, 이것도 법원의 판단이 있어야 명확해진다). 하여간 노래 하나만 해도 저작권 문제를 피하려면 따져야 할 것이 너무 많다.

[2] 저작권 경찰 제도는 저작권법 위반 행위에 대해 문화체육관광부 공무원에게 직접 경찰권을 행사하도록 한 제도로 2008년에 도입되었다. 당시 유인촌 장관은 저작권 경찰 제도를 통해 “국내 소프트웨어 불법복제율을 향후 2~3년 내에 OECD 국가 평균인 36% 수준”으로 낮추겠다는 포부를 밝히고 “인터넷을 통해 유통되는 불법저작물에 대한 상시 모니터링 등 지속적인 단속과 불법 저작물을 영리·상습적으로 유통시키는 헤비 업로더에 대한 추적 강화, 불법저작물 유통 추적관리시스템 구축 등 강력한 저작권보호 정책”을 예고했다. 2009년부터 2013년까지 저작권 경찰은 약 44억원을 수사활동비 등으로 지출했다.

 

* 오픈넷은 총 5회에 걸쳐 과도한 저작권 합의금 요구 사례 및 입법적 해결 방안에 대한 글을 연재합니다. 위 글은 허핑턴포스트코리아에도 동시 연재하고 있습니다.

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

오픈넷, NGO 상대로 한 저작권 침해 손배소 방어 성공 

- 저작물의 공정이용 및 손해배상 산정의 선행 판례로 확립되길 기대

 

비평 목적 광어회 사진 인용에 대한 손배소, 법원 공정이용에 해당하여 손해배상책임 없다는 판결

사단법인 오픈넷은 NGO 단체(전쟁없는 세상) 상근자를 상대로한 저작권 침해 손배소 사건을 공익소송으로 지원(담당 변호사 : 박지환 변호사)하였고, 법원에서 저작물의 공정한 이용에 해당한다는 이유로 원고 청구가 모두 기각되는 판결이 선고되었다. (서울서부지방법원 2015. 5. 12. 선고 2015가소308746 판결) 현재 사진 저작권자 측은 1심 판결에 불복하여 항소한 상태이다.

본 사건에서는 음식 사진을 상업적으로 판매하는 법인에서 촬영한 “광어회” 사진이 문제되었다. 피고 단체는 채식을 장려하기 위한 시사 보도 목적의 블로그 글을 작성하면서 구글 검색을 통해 광어회 섬네일(thumbnail) 사진을 인용하였다.  이에 사진 저작권을 주장하는  법인은 200만원의 손해가 발생했다고 주장하면서 내용증명을 보냈고,  합의 요구에 응하지 않자 지급명령신청을 거쳐 민사 손배소를 제기하였다.

 

ss

- 사진 : 피고의 블로그 글 캡처

 

이 사건의 쟁점

첫째. 광고 목적으로 피사체를 그대로 촬영한 사진의 저작권법 상 저작물 해당 여부

둘째. 섬네일 사진의 비영리적 인용이 공정이용에 해당하는지 여부

 

1심 법원은 아래와 같이 해당 사진을 저작권이 보호하는 저작물로 인정하면서도 피고 단체의 비영리적인 인용은 공정이용에 해당한다는 판단을 내렸다.

 

“피고가 이 사건 사진을 이용한 목적 및 성격이 영리적이라고 보기 어려운 점, 이 사건 사진이 피고의 게시물 전체에서 차지하는 비중 및 중요성이 크지 아니한 점, 피고가 이 사건 사진을 이용한 것이 이 사건 사진의 관련 시장 및 가치에 큰 영향을 미쳤다고 보기는 어려운 점 그밖에 이 사건 사진의 크기 및 형식 등을 종합하여 보면, 피고의 이 사건 사진 이용은 피고가 비평 활동을 함에 있어 저작물의 통상적인 이용 방법과 충돌하지 아니하고 저작자의 정당한 이익을 부당하게 해치지 아니 하는 경우로서 저작권법 제35조의3이 정한 저작물의 공정한 이용에 해당한다고 봄이 상당하다.”

 

요컨대 원본 파일이 아닌 섬네일 크기의 저화질 사진을 비평 목적에 인용한 경우라면 해당 사진이 판매되는 광고 시장에 미치는 영향이 크다고 볼 수 없어 저작권법 제35조의3이 정한 저작물의 공정한 이용에 해당한다는 것이다. 이는 오픈넷이 2014년 진행한 형사 고소 사건에서 이끌어낸 비영리적인 사진 인용이 공정이용에 해당한다는 처분과 맥이 닿아 있다.

관련링크 http://opennet.or.kr/8745

 

저작권 침해 사건은 민사소송을 통해 해결되어야

한편, 오픈넷은 저작권 침해가 문제되는 경우 이번 사건과 같이  민사 소송으로 해결되어야 한다는 입장이다. 민사 소송을 통해 공정이용이나 손해배상액의 범위에 대한 엄격한 판단을 받게 되면 형사 고소를 통한 이른바 고액 합의금 장사도 근절될 수 있다.

오픈넷은 서울서부지방법원의 판단을 환영하며, 항소심에서도 법원의 판단이 유지될 수 있도록 해당 사건을 공익소송으로 계속 지원하고 있다.

 

 

목, 2015/08/27- 11:22
242
0

저작권법 개정안의 조속처리 촉구 기자회견

- 창작시장의 불공정거래 관행의 개선 시급

- 저작권법 개정안의 조속하고 진지한 논의 통해 원안대로 통과되어야

 

- 일시 및 장소: 8월 25일(화), 오전 10시 30분, 국회 정론관

1. 배재정 새정치민주연합 의원․독립PD협회․독립제작사협회․(사)오픈넷․참여연대 경제금융센터는 8월 25일(화) 10시 30분 국회 정론관에서 창작자의 저작권 보호를 강화하는 저작권법 개정안의 국회 교육문화체육관광위원회 논의 일정이 지연되는 것에 우려를 표하고 조속한 법안심사 논의를 촉구하였다. 배재정 의원은 지난 4월 30일 저작권 계약의 거래상 약자인 창작자의 저작권 보호 강화를 내용으로 하는 저작권법 개정안을 발의하였다(http://www.peoplepower21.org/1329785참조).

2. 현행 저작권법이 거래상 약자를 제대로 보호하지 못하는 창작물 시장의 대표적인 분야가 서적물 시장과 방송외주제작 시장이다. 백희나 작가가 쓴 <구름빵>은 원 저작물뿐만 아니라 동화와 애니메이션 등 분야에서 인기를 얻는 캐릭터로 수출까지 올렸다. 한국콘텐츠진흥원의 보고서에 따르면 수천억의 가치창출을 한 것으로 추산된다. 그러나 창작자인 작가에게 돌아간 이익은 거의 없다시피 하였다. 소위 ‘매절 계약’으로 인해 출판사에게 창작자의 저작권 일체가 양도되었기 때문이다. 방송외주제작 분야에서도 사정은 마찬가지다. 방송사가 공중송신권, 복제배포권 등 기본 저작권은 물론 제작 당시 확보한 자료, 2차 저작물 작성권, 공연권, 전시권, 기타 저작권 등 저작권 일체를 독립제작사 및 독립PD들로부터 양도받는 외주제작계약을 체결하고 있다. 이 같은 관행은 해외 방송국들이 외주 창작자는 물론 내부 직원의 창작권까지 적절히 보호하고 있는 관행과는 완전히 동떨어져 있다. 2014년 ‘저작권과 문화향유권에 관한 유엔 인권이사회 특별보고서(A/HRC/28/57))’도 창작자에 대한 정당한 보상 청구권을 창작자의 인권으로 다룬 실정이다.

3. 결국 우리나라 창작자들의 저작권이 제대로 보호받지 못하는 주된 이유는 창작물 유통채널을 장악한 기업들이 창작자에 대해 거래상 우위를 바탕으로 ‘자유계약’의 형식으로 ‘저작권 빼앗기’를 일삼고 있기 때문이다. 공정거래위원회도 이러한 불공정한 저작권 거래 시장의 감독과 시정에 성의를 보이지 않고 있다. 배재정 의원이 발의한 저작권법 개정안은 △계약 체결 시점에 완성되지 않은 창작물 및 아직 확정되지 않은 창작물의 이용 형태에 대한 저작권의 사전 양도나 이용 허락을 원칙적으로 금지하고 △저작권 계약 당시 예상치 못한 상업적 성공을 거둔 창작물에 대해 창작자가 유통업자에게 정당한 보상을 요구할 권리를 명문화하였다. 이 같은 저작권법 개정안이 통과되면 창작자들이 울며 겨자먹기로 저작권 일체를 양도하는 관행에도 제동이 걸릴 수 있고, 사후적 구제에도 유효할 것이다.

4. 이처럼 저작권법 개정을 통한 저작권 약자의 보호가 창작시장의 불공정거래 관행을 해소할 수 있는 좋은 대안임에도 불구하고 법안이 발의된 이후 지금까지 해당 상임위의 국회 논의는 전혀 진척되지 않고 있다. 배재정 의원과 4개 단체는 국회 교육문화체육관광위원회가 이 저작권법 개정안에 대한 조속한 논의 일정을 잡기를 거듭 촉구한다. 끝.

화, 2015/08/25- 12:07
238
0

[오픈넷 세미나 후기]

인공지능(AI) 위기인가, 기회인가? 이코노미스트에 길을 묻다

글 | 김복희

 

* 세미나 자료집(PDF): 자료집_인공지능 위기인가 기회인가 이코노미스트에 길을 묻다

EIU 수석에디터 크리스토퍼 클라그는 “위험과 보상, 머신러닝의 경제적 영향에 관한 시나리오(Risks and Rewards – Scenarios around the economic impact of machine learning)”를 구글의 후원을 받아 연구하고, 지난 2월 12일 국회에서 열린 오픈넷 주최 세미나에서 발표하였다. (EIU 국문보고서 / EIU 영문보고서)

발표에 앞서 유승희 의원은 개회사에서 4차 산업혁명 논의가 활발한 지금, 인공지능이 가져올 기회와 위기 양면 중 어느 일면에도 치우치지 않으면서 심도 있게 논의할 필요성을 역설했다.

 

[발제] “인공지능이 (한국)경제에 미치는 영향에 관한 연구”

EIU 수석에디터 크리스토퍼 클라그(Christopher Clague)

이날 발표된 연구의 기조는 인공지능과 관련한 염세주의와 낙관주의 사이의 중간을 찾아보자는 데 있으며 실제로 AI와 관련된 논란에 있어서 타당한 근거를 마련하자는 것이었다. 이 연구는 미국, 영국, 일본, 한국, 호주 5개국과 집단으로서 아시아 개발도상국을 대상으로 2030년까지 세 가지 계량경제 시나리오를 제출한다. 시나리오1과 2는 각각 긍정적 성장률을, 시나리오3은 부정적인 성장률을 예측한다. 경제성장률은 GDP 성장률을 지표로 따른다.

먼저, 시나리오1은 “숙련도 향상을 통한 보다 큰 인간 생산성”이 가능해졌을 때를 예측한다. 현재 다른 선진국과 마찬가지로 한국 역시 기술은 진보하는데 생산성은 정체되고 있다. 20세기에는 생산성 향상이 쉽게 이루어질 수 있는 부분은 다 이루어졌고, 이제 더 이상 쉽게 달성할 분야가 남아있지 않기 때문이다. 이 시나리오를 통해 짐작해 보건대, 기술이 고도화될수록 역설적으로 사람의 판단력이 중요해진다는 것을 확인할 수 있었다. 즉, 사람의 판단력을 키우기 위한 교육이 이 시나리오에서의 중요한 화두다. 과학과 기술, 공학, 수학 결합된 교육의 중요성이 대두되므로 교육 인프라 구축이 중요함을 알 수 있다.

 

이어서 시나리오2는 “기술과 오픈소스 데이터 엑세스에 대한 보다 많은 투자”가 이루어졌을 때를 예측한다. 데이터의 개방 및 국경을 넘어서는 데이터의 흐름에 따라가기 위해서는 AI기술에 정부의 적극적인 투자가 필요하다. 특히 AI 기술은 데이터 확보에서 뒤처질 경우 그 변화를 따라잡기 어렵기 때문에 교육이나 숙련도 향상만큼이나 AI에 큰 영향 줄 수 있는 부분이 컴퓨터 자본에 대한 투자 부분이다. 컴퓨터 자본에 투자 시, 단순히 시나리오1의 교육 투자에만 집중한 것보다 효율이 높아질 것을 전망해볼 수 있다.

 

마지막으로 시나리오3은 “경제적 구조적 변화에 대한 정책 지원 부족”시 생겨날 AI의 노동대체효과를 가정한다. 시나리오1이나 시나리오2와 달리, 모든 정책 지원이 부족하여 발생할 시나리오이다. 이 시나리오에서는 노동력의 대체효과가 가속화되어 기계가 수용할 업무량과 베이스라인이 증가하고 이것이 결과적으로 비자발적인 실업상태를 야기할 수 있음을 짐작할 수 있다.

 

또한 이 연구는 현재 세계 곳곳에서 사용되고 있는 AI의 사례와 가상 시나리오를 바탕으로 교통, 에너지, 제조, 보건의료 면의 긍정적 효과도 예측하였다. 결론적으로 이 연구는 시나리오3을 피하고, 한국 경제에 낙관적인 전망을 제시할 수 있는 1혹은 2의 시나리오를 취하기 위해서 AI에 대한 접근 방식을 바꿀 것을 제안한다. AI에 대한 생산적인 논의를 가능케 하기 위해서 고려해야 할 사안은 다음과 같다. AI에 대한, “기대수준 관리”, “커뮤니케이션의 개선”, “위험의 인정”, “신뢰와 투명성 개선”, “대중 교육”이 그것이다. 정책 부분에 있어서는 “인적 역량과 교육에 대한 투자” 확대, “데이터 취급”의 안정성 및 신뢰성 확보, “공공부분 R&D 투자” 강화를 강조한다.


[종합토론]

사회: 김진형 원장 (지능정보기술연구원)

패널: 조준모 교수(성균관대), 이경전 교수(경희대), 이상욱 교수(한양대), 주동원 대표(파운트 AI), 고상원 실장(정보통신정책연구원 국제협력연구실), 안현실 논설위원(한국경제신문), 박종일 과장(과기정통부 지능정보사회추진단)

토론은 김진형 원장(지능정보기술연구원) 좌장의 사회로 각 토론자들이 준비해온 토론 내용을 먼저 발표하고 질의 시간을 갖는 것으로 진행되었다.

조준모 교수(성균관대학교)는 “4차 산업혁명과 로봇화 보면, 특히 자동차 제조업에서 강하게 발생하는 것 볼 수 있”으므로 “일자리 창출하는 것은, CSI라든가 경영전략이라든가 소분류적인 이야기를 통해 입체적으로 접근”해야 할 것을 주장했다.

이경전 교수(경희대학교)는 “AI 기술은 아직 그 위험성을 지적할 만큼 성장하지 않았”으며, 현재 시급한 부분은 “AI 기술이 잘못 적용되어 실수했을 때의 논의”라고 지적했다.

이상욱 교수(한양대학교)는 “AI 기술의 발전이 어떤 방향으로 어떻게 이루어질 것인가, 불확실하다는 것이 가장 눈에 띄었다”며 연구의 한계를 지적하고 “문화적 요인과 한국에서 이루어지는 교육 현황, 의료계의 특성이 AI 교육에 어려움”이라고 토로했다.

주동원 대표(파운트 AI)는 한국에서 AI 산업의 현장에서 맞닥뜨리는 고충을 발표했다. 한국의 AI산업은 현재 “인공지능 인력 찾기가 어려워 직원 대다수를 재교육하는 수준”이다. 인공지능 관련 산업은 과거의 산업과 달리 오픈소스 기반으로 발전하는 산업이므로 인재 육성하고 인프라 조성하는 노력이 우선되어야 할 것을 강조했다.

고상원 실장(정보통신정책연구원 국제협력연구실)은 “한국은 기존 종사자들의 저항이 심하므로 신규서비스 도입이 어려운 곳”임을 말하며 “기존 이해관계자들과 신규 사업자 모두 상생할 중간을 찾는 정책 보완”이 필요하지만 동시에 “분배이슈”가 매우 중요하다는 점을 역설했다.

안현실 논설위원(한국경제신문)은 노동시장의 문제를 지적했다. 그는 “문재인 정부는 소득주도성장을 멈춰야 한다는 생각이 든”다며 “한국은 이대로 가면 시나리오3으로 갈 가능성이 크므로 주의해야 할 것”이라고 예측했다.

박종일 과장(과기정통부 지능정보사회추진단)은 인공지능은 기존 GDP성장 논의로는 불충분함을 지적하며 “양적 지표 중심에서 질적 지표로의 전환”이 필요하다고 주장했다. “직업을 직무(TASK)로 인지하고 접근해야 할 것”이며 “AI가 직무에 미칠 영향이 무엇인가” 고민해야 할 것을 언급했다.

다들 AI기술의 필요성과 유의미한 발전을 이루어야 한다는 점에서는 동의하는 바였지만, 입점에 따라 세심한 접근이 필요하다는 사실을 강조하였다.

크리스토퍼 수석연구원은 앞선 발제자들의 의견에 대해 “이 보고서의 경우, 규제의 필요성”을 이야기한다고 답했다. 특히 그는 “노동시장의 탈규제화가 문제된다고 말한 적은 없다”고 말하며 한국과 관련된 예측에 따르면, 실제로 “인구감소가 중요한 요인”임을 지적했다. 토론의 끝에 그는 부가 자본에 집중되고 노동에 집중되지 않으면서 소득분배가 왜곡되고 있는 상황에서 “AI 트렌드가 이것을 역전시킬 가능성은 없어보이므로 정책적 보완이 무척 중요”하다며 “AI의 민주화가 중요”하다고 다시 한 번 정책적 보완을 강조하며 발언을 마무리했다.

마무리 제언에서 조준모 교수는 기술과 사회 문제가 결합되어 있기에 노동경제학자들의 정책지원과, 노동시장의 구조에 대한 이해가 이루어져야 하며 고용, 임금, 젠더, 분배 등의 모든 문제를 학계에서 미시적인 영역에서부터 시작해 나가는 진지한 노력이 필요하다고 발언했다.

이경전 교수는 AI는 상상하지도 못할 많은 일자리와 서비스를 만들 것이기에 앞으로 이어나가야 할 하나의 기술이라고 말하며, 이 정부의 정책과 관련 입안자들의 문제의식을 재고시켜야 함을 강조했다.

이상욱 교수는 청중의 의문에 대한 답으로, 현재의 기술수준으로 AI는 감정 표현을 흉내 내는 것일 뿐, 감정을 가질 수 없다고 말하며 감정을 가진 AI를 개발하고 싶다면 나타날 사회적 문제를 먼저 우려하고 만들어야 함을 지적했다.

주동원 대표 역시 이상욱 교수와 마찬가지로 AI가 감정을 표현한다는 것은 그렇게 보이게끔 만들어진 것이지, 감정을 가지는 지능은 아님을 언급했다. 다만, 현재의 알고리즘으로는 반년 정도 데이터를 쌓으면 원하는 반응을 보이는 지능을 만들 수는 있다고 현재의 기술 수준에 대해서 좀 더 상세히 언급했다.

고상원 실장은 AI기술로 긍정적 미래를 찾아갈 수 있을 것이라 희망하며, 우리 경제, 정부, 국민, 기업 모두 변화에 적응하는 면이 세계 최고이기에 이 연구를 기반으로 노력해 나가야 한다고 말했다.

안현실 논설위원은 AI기술이 가야 할 방안에 대해 현 정부를 언급하며 인적자본이 주도하는 경제로 가야 통합이 될 것이라고 생각함을 강조했다.

마지막으로 박종일 과장은 AI 전략에 대해서 정부에서 여러 가지 연구를 통해서 아이템을 묶어서 R&D를 주도할 계획임을 소략했다. 혁신을 방해하는 부분들을 정부가 해결하려는데, 이해관계가 복잡하게 얽혀있기에 이를 풀어가는 것이 쉽지 않지만, 노력의 의지를 보이며 발언을 마무리하였다.

토론을 이끈 좌장 김진형 원장 역시 “Managing expectation, Better communication, Acknowledging the risks, Improving trust and transparency, Educating the public.”라는 크리스토퍼의 결론을 재차 강조하며 AI기술에 대해 좀 더 객관적인 시각을 가지고 다각도로 접근할 것을 주장하여 유의미한 성과를 낼 수 있도록 노력할 필요가 있다며 세미나를 끝맺었다.

이 날의 세미나는 AI기술에 대한 경제적 관점의 연구를 바탕으로, 한국 사회가 나아갈 실제 방향에 대한 논의의 초석이 될 만한 유의미한 자리였다. 이 세미나의 기조대로 대한민국이 AI에 대한 균형 잡힌 시각을 갖추고 긍정적인 미래상을 그릴 수 있도록 기대해본다. 끝.

수, 2018/02/28- 14:31
237
0

오픈넷, 국민인수위원회에 정보인권 향상을 위한 IT/인터넷 정책 제출

 

사단법인 오픈넷은 문재인 정부가 국민으로부터 정책을 제안받기 위해 조직한 국민인수위원회를 통해 정보통신 관련 정책을 제출하는 행사를 연다.

오픈넷은 7월 4일 오후 6시 20분에 서울 세종로공원에 설치된 ‘광화문1번가’에서 여는 행사에서, 그동안 추진해 온 정책 중 시급하고 주요한 사안을 정리하여 정부에 제출한다. 해당 정책은 방송통신위원회(‘방통위’), 방송통신심의위원회(‘방심위’), 문화체육관광부(‘문화부’) 소관 내용으로, 행사장에는 이들 부서의 담당자가 나와 정책 제안을 접수하고 대담할 예정이다.

오픈넷이 제출할 정책은 △정보통신망법상 임시조치 제도 개선 △청소년유해매체물 차단수단 강제 폐지 △휴대폰 실명제 단계적 폐지(이상 방통위 소관) △통신심의대상 정보의 한정화 및 효율화(방심위 소관) △저작권 정책 개선(문화부 소관) 등이다.

새 정부가 이 같은 정책의 필요성과 중요성을 인식하고 신속하게 국정에 반영함으로써 인터넷 이용자와 일반 시민의 정보인권을 향상시키는 계기로 삼아야 한다. 오픈넷은 “온라인과 오프라인의 민의 분출을 통해 탄생한 정부이니만치 높아진 시민의 눈높이에 맞춰 정보통신 정책을 전향적으로 개편함으로써 국민의 표현의 자유와 알 권리, 문화물 향유 보장에 나서야 한다”라고 말한다.

광화문1번가는 서울 세종로공원에 설치된 새 정부의 소통 공간으로, 국민인수위원회는 이 공간을 통해 다양한 국민과 시민사회의 정책 제안을 받고 이를 국정에 반영하게 된다. 오는 7월 12일까지 매주 화,목요일에 ‘열린 포럼’을 열어 주제별 정책 이슈를 집중 논의하고, 그외에도 소규모 간담회, ‘국민 마이크’ 등 다양한 방식으로 민의를 수렴한다.

문의: 오픈넷 사무국 02-581-1643, [email protected]


 

오픈넷 광화문1번가 정책 제안 발표회 – 2017년 7월 4일(화), 세종로공원

▶ 영상으로 보기: http://opennet.or.kr/opentalk/13900

김가연 변호사 <정보통신망법상 임시조치 제도 개선/청소년유해매체물 차단수단 강제 폐지/휴대폰 실명제 단계적 폐지>

 

손지원 변호사 <방심위 통신심의 권한 축소 및 조직, 위원 구성의 독립성, 다양성 확립>

 

박지환 변호사 <저작권 정책 개선>

 

허광준 정책실장 “저희와 함께 살고 있는 이웃들, 네티즌들, 동료 시민들을 위해서 계속 이야기하고 문제제기를 하고 두들기고 열 것입니다”

 

월, 2017/07/03- 16:17
231
0

[팩트체크] 가짜 뉴스 피해액 연간 30조 원?

글 | 민노씨(슬로우뉴스 편집장)

제목과 첫 줄만 읽는 바쁜 독자들을 위해 우선 간단한 팩트체크 문답부터 확인하고 시작하자. 제발 서너 줄만 더 읽어주시라.

가짜뉴스 가짜 뉴스

Q. 한 경제연구소(현대경제연구원) 보고서에 따르면, 가짜 뉴스로 인한 연간 피해액이 무려 30조 원이나 된다고 하던데요? 가짜 뉴스 피해액 연간 30조 원, 사실인가요?
A. 아니요. 전혀 사실이 아닙니다. 적어도 해당 수치는 현재로선 전혀 신뢰할 수 없습니다. 신뢰할 근거가 없습니다. 해당 수치는 “가짜 뉴스 건수가 만약 실제 기사의 1% 정도 유포된다고 가정”(보고서 해당 문구 직접 인용)하고 계산한 수치입니다. 자세한 내용은 아래 보고서 작성 연구원과의 일문일답을 확인해 주세요.

 

현대경제연구원이 발표한 [가짜 뉴스(Fake News)의 경제적 비용 추정과 시사점](2017. 3. 이하 ‘보고서’)이라는 제목의 보고서는 ‘가짜 뉴스의 경제적 비용’이라는 항목에서 이렇게 설명한다.

현재경제연구원

• 가짜 뉴스의 실제 건수를 추정하는 것이 현재로서는 어렵기 때문에, 분석을 위해 가짜 뉴스 건수가 만약 실제 기사의 1% 정도 유포된다고 가정하고 경제적 비용 추정.

• 가짜 뉴스로 인한 경제적 비용은 당사자 피해 금액 22조 7,700억 원과 사회적 피해 금액 7조 3,200억 원을 합한 연간 약 30조 900억 원이 발생하는 것으로 추정.

• 연간 경제적 비용 30조 900억 원은 명목 GDP (2015년 1,559조 원)의 1.9%에 해당하는 수준.

– 현대경제연구원(정민 연구위원, 백다미 선임연구원), [가짜 뉴스(Fake News)의 경제적 비용 추정과 시사점], 2017 중에서 (‘강조’는 필자)

그런데 좀 이상한 점 발견하지 못했나. 30조 원의 출발점은 “가짜 뉴스 건수가 만약 실제 기사의 1% 정도 유포된다고 가정”하는 것이다. 도대체 왜? 와이? 왜 때문이죠??? 

물음표

 

‘엉터리’ 보고서, 엉터리 ‘인용’ 

이 보고서는 크게 두 가지 문제가 있다.

  1. 우선 보고서 자체의 문제다. 문제의 “1%”에 대해서는 어떤 근거도 없다. 마치 태초에 ‘빛이 있으라’ 하니 빛이 있는 격이랄까. 하지만 보고서는 성경이 아니다. 이런 알 수 없는 대전제에서 출발한 보고서를 우리는 얼마나 신뢰할 수 있을까.
  2. 두 번째 문제는 보고서 인용이다. 즉, 이 보고서는 다양한 이익집단에 의해 마치 대단히 합리적인 근거인 양 인용될 가능성이 매우 크다.

첫 번째 문제는 더 숙고할 가치가 없다. 점잖게 말해서 합리적인 근거가 부족하고, 쉽게 말해서 엉터리다. 문제는 두 번째, 이 보고서를 마치 ‘과학적인 사실’이거나 ‘합리적 근거’처럼 인용하는 일이다. 그리고 실제 그런 일이 있었다.

오픈넷은 정치인이 가짜 뉴스 방지법에 관한 입법 시도를 비판하면서, 안호영 더불어민주당의 ‘블로그 홍보글’을 보고서의 잘못된 인용 사례로 지적한다.1

오픈넷

가짜뉴스의 피해는 한 번도 구체적으로 확인된 바 없고 다만 그럴 것이라는 추정 및 예단만이 존재하는 상황이기 때문이다. 개정안을 내며 함께 발표한 안 의원의 블로그 홍보글은 한 경제연구소의 추정을 그 근거로 내세우고 있으나, 그 내용을 보면 가짜뉴스로 인한 피해액 추산이 명확한 근거도 없이 주먹구구로 엄청나게 부풀려져 있음을 알 수 있다.

– 오픈넷, ‘정치인들의 끊임없는 가짜뉴스 방지법 입법 시도를 비판한다’, 2017년 7월 11일 중에서

 

가짜 정보 게임 

다시 사안을 정리해보자. 간단한 사안이다. 그리고 이렇게 진행할 가능성이 크다.

  • 가짜 뉴스를 때려잡자는 ‘정의감’에 불타는 집단이 있(었)다(그 진심마저 오해하진 않겠다). 그 집단은 박근혜 정부와 그 하수인들이었을 수도 있고, 현재는 집권 여당인 민주당이나 유력 야당일 수도 있다. 하지만 잊지 말라. 돈 많은 기업 ‘오너’와 힘 있는 정치인은 예전부터 자신을 향한 세상의 목소리를 탐탁하게 여기지 않았다.
  • 30년 넘는 전통을 가진 명망 있는 경제연구소는 ‘만약’이라는 전제로 ’30조 원’이라는 아주 구체적이고, 충격적인 피해액 수치, 그러니까 ‘가짜 뉴스의 연간 경제적 비용’을 산출한다(이거 실화다).
  • 언론은 이를 ‘당연한 사실’인 것처럼, 과학적이고 합리적인 “분석 결과”인 것처럼 보도한다.

보고서를 '아무 생각 없이' 인용보도한 언론들. 언론 보도를 통해 보고서의 위험한 '만약'은 확고한 '사실'이 된다. 보고서를 ‘아무 생각 없이’ 인용보도한 언론들. 언론 보도를 통해 보고서의 위험한 ‘만약’은 확고한 ‘사실’이 된다.

  • 한 여당 의원은 자신의 ‘가짜 뉴스 방지법’을 알리는 글에서 위 보고서 수치를 근거로 인용한다.
  • 문제 의식을 가진 소수의 시민단체가 이 황망한 사태를 비판하지만, 논평은 소리소문없이 묻힌다. (여기까지가 현재) 
  • 어느날 보수 혹은 진보 논객 A는 ‘가짜 뉴스’를 소재로 하는 TV 토론쇼에 나와 트럼프 당선과 보고서 ‘수치’, 국회의 입법안 들을 적절히 인용하면서 가짜 뉴스의 사회적인 폐해에 관해 열변을 토한다.
  • 어떤 평범한 시민 B는 어느날, 어디에서 들었는지는 모르겠지만, 그리고 어떤 근거가 있는 건지도 확인할 길 없지만, ‘가짜 뉴스의 연간 피해액 30조 원’라는 것만은 기억한다. 그리고 그 ‘지식’으로 포장마차에서 친구들과 ‘가짜 뉴스, 참 심각해! 그렇지 않니?’ 썰을 푼다.

가짜 뉴스 논쟁의 정치적 본질은 정보 주체와 정보 객체의 ‘파워 게임’에 있다. 누구나 정보의 주체이면서 동시에 객체다. 힘 있고, 돈 있는 세력은 기본적으로 말 많은 세상을 싫어한다. 힘 없고, 돈은 없지만 입은 가진 평범한 시민들의 목소리는 어떤 사회든 그 사회의 진실을 위한 마지막 보루로 역할해 왔다.

Raul Lieberwirth, "shouting in the storm", CC BY-NC-ND https://flic.kr/p/7Gn1FXRaul Lieberwirth, “shouting in the storm”, CC BY-NC-ND

 

일부 정치인의 가짜 뉴스 입법안은 1) 현재 공직선거법상 허위사실유포죄와 후보자비방죄가 현존하고, 2) 형법에는 명예훼손과 모욕죄가 상존하며, 3) 정보통신망법상 각종의 표현의 자유 규제 법안이 있다는 ‘사실’을 모르는 체하고, 가짜 뉴스의 “경제적 비용 연간 30조 원” 따위의 ‘가짜 정보’에 기대어 대중을 호도한다. 그렇게 함으로써 당신을, 그러므로 우리를 ‘가짜 정보 게임’의 철저한 객체로 머물게 한다.

'안호영의원, 가짜뉴스방지법 대표발의' 중에서 http://blog.naver.com/lawanhoyoung/221019359740 가짜 뉴스를 막을 법이 없어서 가짜 뉴스가 창궐한다? 하지만 공직선거법, 형법, 정보통신망법 등에서 이른바 ‘가짜 뉴스’를 예전에도 그랬고, 지금도 그렇듯, 규제하고 있다. (출처: ‘안호영 의원, 가짜뉴스방지법 대표발의’ 중에서)

당신은 가짜 뉴스 논쟁에서 찬성 편에도, 반대 편에 설 수도 있다. 하지만 가짜 근거를 가져와 가짜 정보 게임을 하는 ‘음험하거나 바보스러운 편’에는 서지 않는 게 좋을 거다.

 

[현대경제연구원 정민 연구위원 일문일답]

현대경제연구원

 

– 가짜 뉴스 비중이 “1%”라는 게 어떤 근거가 있는 건가. 보고서를 보면 아무리 봐도 막연한 가정인데. 

실제로 유통되고 있는 뉴스에서 1% 정도라고 가정을 한 것이다. 가짜 뉴스의 비중을 정확히 측정하는 것이 불가능하기 때문에.

– 논리의 기초 전제가 이렇게 막연한 가정이라면 보고서로서는 가치가 없는 게 아닐지.

보고서에서도 썼지만, 실질적으로 가짜 뉴스가 얼마나 되는지 현재로서는 측정하기 어렵다. 그래서 1%라고 가정했을 때 그 경제적 비용을 추산한 것이다. (일종의 공식으로?) 나중에 실제로 가짜 뉴스의 비중을 산출할 수 있을 때 그 사회적인 비용, 경제적 비용을 추산할 수 있도록.

– “가짜 뉴스로 인한 피해액 추산이 명확한 근거도 없이 주먹구구로 엄청나게 부풀려져 있”다는 오픈넷 비판에 대해선 어떻게 생각하나. 

미국 사례를 봐도, 지난 미국 대선에서 가짜 뉴스가 판세에 엄청난 영향을 미쳤다고 보기 때문에. 그러니까 가짜 뉴스로 인해 대통령이 바뀌었다면, 그 비용을 계산할 수 없을 정도로 엄청날  것이라는 점을 고려해서…

– 칼럼으로 그런 가정을 ‘의견’으로 발표하는 것과 경제연구소에서 ‘보고서’로 구체적인 수치를 발표하는 것은 그 의미나 무게감이 전혀 다른데.

현재 뉴스의 1%가 가짜 뉴스라고 단정한 게 아니라 현재 유통되는 뉴스의 1%가 가짜 뉴스였을 때 그 경제적 비용을 추정해 본 거다. 언론에서 오해할 수 있는 소지가 있어서 “가정”이라고 보고서에도 썼다.

– 지금도 오해할 여지가 크다고 보고, 의원실에서 실제로 그렇게 오해하고 있다고 보이는데?

보고서에서도 4페이지에도 ‘가정’이라고 쓰지 않았나.  가짜 뉴스가 1%라는 것은 가정이지만, 그 1%의 비용을 추산하는 방법은 객관적이다.

현대경제연구원, '가짜 뉴스(Fake News)의 경제적 비용 추정과 시사점' )2017. 3.) 중에서 현대경제연구원, ‘가짜 뉴스(Fake News)의 경제적 비용 추정과 시사점’ )2017. 3.) 중에서

– 민주당의 안호영 의원은 가짜 뉴스 방지법 대표발의를 설명하는 글에서 보고서를 근거 자료로 삼고 있다. 보고서의 사회적 영향력에 관해선? 

가짜 뉴스로 인해 경제적 비용이 발생하는 것은 분명하니, ‘사회적인 시그널’을 내려는 입장에서 보고서를 발표한 것이다.

– 사회적인 시그널?

가짜 뉴스가 초래하는 사회적 신뢰의 저하 등을 고려해 표현의 자유는 충분히 보호하되 팩트체크 등의 방법으로 사전적으로 가짜 뉴스를 차단하고, 자유에는 항상 책임이 따른다는 사회적인 시그널.

– “30조 원”이라는 수치가 개인적으로는 꽤나 충격적으로 느껴진다. 그런데 실제로 가짜 뉴스의 비중은 0.1%일도 있고, 그 반대로 10%일수도 있다. 그런데 이 보고서를 인용하는 사람들은 각자의 입장(이익)에 따라 인용할 텐데. 

인용하시는 분이 어떻게 인용하는지는 모르겠지만, 만약에 1%라면 경제적 비용이 얼마나 될 지를 ‘추정’한 것이지, 그 1%나 30조 원을 기정사실화한 것은 아니다.

– 연구원의 사회적 영향력을 고려하면, 그리고 해당 보고서 결과를 인용할 다양한 이해집단의 오남용에 관한 연구원 측의 예견 가능을 생각하면, 책임의 차원에서 이번 보고서는 아쉬움이 크다. 

가짜뉴스를 통해서 대통령이 바뀌었다면, 우리가 추정한 비용보다 더 큰 비용이 발생할 수도 있지 않나.

구체적인 비용, 수치를 쓰는 것은 연구자 입장에서도 상당히 부담스러운 일이다. 비용을 추정하는 것도 내부에서 상당히 고려한다. 고려하기는 하지만, 우리도 가정을 통해서 추산을 하다보니까 그 중간(‘1%’)에서 고려했다.

 

[안호영 의원실 이수남 보좌관 일문일답]

– 법안 발의 취지를 설명하는 블로그 게시물을 보면, 현대경제연구원의 ‘보고서’를 인용하고 있다. 해당 보고서에서 ’30조 원’이라는 수치 근거가 “만약”이라는 가정에서 출발한 사실을 알고 있나. 이런 보고서를 법안의 (논리적) 근거로 여기는 건지. 

보고서를 ‘근거’로 법안을 마련했다고 말하면 안 된다. 그리고 해당 보고서에 대한 판단은, 맞다고 보는 분도 있고, 아니라고 보는 분도 있겠지만, 나는 나름으로 근거가 있다고 생각한다. 각자 판단이 다를 수 있는 문제다.

법안은 그 ‘보고서’를 근거로 한 게 아니고, 법안 발의가 끝난 상태에서 이에 관한 보도자료를 준비하는 시기에 참고 자료가 뭐 없을까 하던 차에 발견한 보고서고, 독자의 이해를 돕는 차원에서 단순하게 인용한 것에 불과하다.

– 설명을 돕기 위한 단순한 인용에 불과하다?

그렇다. 안호영 의원은 지난 대선 과정에서 당에서 법률위원장, 법률지원단장을 하셨고, 그 과정에서 경선 주자와 문 후보에 대한 가짜 뉴스가 사회 문제화했다. 가짜 뉴스가 이렇게 많이 생산되고, 미국 대선 등도 고려했을 때, 또 우리나라에선 어떻게 규제하고 있는지 살펴봐야 했다. 그래서 입법조사처와 함께 논의했고, 단기 대응과 중장기 대응이 필요하다고 판단했던 거다.

입법발의 때까지 해당 ‘보고서’를 참고한 바는 없다.

(법안을 준비하는 과정에서 당연히 해당 보고서를 살펴봤어야 하는 것 아닌가 하는 생각이 들고, 독자의 이해를 돕기 위해 인용한 것이 ‘근거’로 삼는 것과 어떻게 다른 것인지는 알 길 없지만, 굳이 다시 질문하지는 않았다. – 필자)

– 기존 공직선거법에 허위사실유포죄나 후보자비방죄가 있고, 형법상 명예훼손이나 모욕죄, 정보통신망법 등에 관련 규제가 이미 존재한다. 정의 실현이나 피해자 구제도 중요하지만, 표현의 자유를 포함한 다양한 헌법상 기본권도 중요하지 않나. 이들의 관계를 종합적으로 고려해야 하는 국회의원 입장에서 이번 법안은 과잉입법이라고 생각하지는 않나.

아시다시피 현재는 뉴스의 확산 속도가 대단히 빠르다. 그래서 피해의 확산 속도도 빠르다. 기존법들로는 이 피해에 제대로 대응하기 어렵다. 그래서 마련한 법이다.

 

1. 보도자료용으로 배포된 안호영 의원의 블로그 게시물은 위 보고서를 과학적이고, 합리적인 근거인 양 인용한다.

 

* 위 글은 슬로우뉴스에 동시게재하고 있습니다. (2017.07.11.)

수, 2017/07/12- 11:40
220
0