주요 콘텐츠로 건너뛰기

스마트보안관은 사라졌지만 감시는 계속된다

지역

스마트보안관은 사라졌지만 감시는 계속된다

익명 (미확인) | 월, 2015/11/16- 18:44

스마트보안관은 사라졌지만 감시는 계속된다

 

글 | 오픈넷

 

방통위가 청소년들을 유해정보에서 구해내겠다며 청소년들의 스마트폰에 배포한 스마트보안관이라는 모바일 앱이 있다. 방통위는 2013년부터 무려 이 앱을 위해 약 30억 원의 예산을 들였고 이통3사와 한국무선인터넷산업연합회(이하 MOIBA)가 함께 개발을 했다.

스마트보안관을 실행시키면 이 앱이 계속 스마트폰에 상주해있으면서 이용자, 즉 청소년이 스마트폰을 통해 하는 모든 행동이 모두 모니터링 되는 방식으로 작동한다. 주요 기능은 아래와 같다.

  • 청소년에게 유해하다고 판단된 정보에 접근하는 것을 원천적으로 차단한다.
  • 부모에게 청소년 자녀의 스마트폰 일평균 이용시간, 주 이용시간대, 주 이용정보 카테고리 등의 정보를 제공한다.
  • 부모가 청소년 자녀의 스마트폰 이용을 통제한다. (시간별, 앱별 등)
  • 스마트폰에 설치된 스마트보안관을 청소년이 임의로 삭제할 수 없게 한다.

스마트보안관 안내 배너

주요 기능만 봐도 애정이 과한 부모 세대가 청소년 세대를 스토킹하고 일거수 일투족을 감시하는 등 적극적으로 사생활 침해를 하는 느낌이 든다. 놀랍게도 방통위가 2015년 4월 16일부터 시행한 “전기통신사업법 시행령” 일부 개정령에 의하면 청소년에 판매하는 스마트폰에는 유해매체물을 차단할 수 있는 앱을 반드시 설치해야 했다. 이 법률상 의무를 충족할 수 있는 여러 앱이 있지만 방통위는 자신들이 개발한 스마트보안관 설치를 은근히 장려했고 이에 따라 아래와 같이 수십만명의 청소년의 스마트폰에 깔리게 되었다.

참고로 2015년 7월 이통사별 스마트보안관을 설치한 수는 다음과 같다.

  • SK텔레콤 – 57,217건
  • KT – 202,041건
  • LG유플러스 – 120,709건

 

심각한 보안 문제, 7개월 만에 서비스 중단

결론부터 말하면 2015년 11월 1일 방통위는 스마트보안관 앱·서비스를 중단한다고 발표했다. 실제로 스마트보안관 앱은 구글 플레이 스토어에서 삭제됐다. 방통위가 스마트보안관 서비스를 중단한 건 의무 사용을 강요한 이 서비스에 심각한 보안 문제를 끝내 해결하지 못했기 때문이라는 의견이 있다.

스마트보안관의 심각한 보안 결함을 발견한 것은 토론토 대학교 뭉크스쿨 글로벌상황연구소 산하 시티즌랩이다. 시티즌랩은 2015년 9월 20일 “우리의 아이들은 안전한가? 청소년들을 디지털 위험에 노출시키는 한국의 스마트보안관 앱”이라는 보고서를 공개했다. (참고: 관련 오픈넷 보도자료)

"우리의 아이들은 안전한가? 청소년들을 디지털 위험에 노출시키는 한국의 스마트보안관 앱" 보고서

이 보고서에는 스마트보안관의 프라이버시 보호 정도 및 보안성에 대한 독립적인 두 건의 감사 결과가 담겨있다. 감사는 보안감사 전문 회사인 큐어53(Cure53)과 함께 진행이 됐는데, 연구진은 스마트보안관[1]을 이용하는 청소년과 부모의 프라이버시와 보안을 위헙하는 26건의 취약점이 있다고 밝혔다. 이 보안 취약점들을 이용하면 스마트보안관 계정을 무력화시키는 것은 물론이고 데이터 변조, 개인정보 절도 등 다양한 공격에 당할 수 있다는 것이다.

보고서에서 밝힌 문제점들을 요약하면 다음과 같다.

  • 인증 문제: 정상적인 확인절차나 암호 없이도 계정의 등록과 관리가 가능한 문제점 존재
  • 인프라 문제: 서버는 구식 프로그램을 이용하고 있고, 보안조치와 암호화가 업계 표준으로 구현되지 않음. 무작위 대입 공격에 대한 대책 없음
  • 법적·정책적 함의: 스마트보안관의 설계 수준이 취약해서 MOIBA의 스마트보안관 약관과 개인정보정책에 맞지 않음. 또한 스마트보안관의 기능은 전기통신사업법령의 내용을 넘어서 프라이버시를 침해함

시티즌랩은 9월 20일 보고서를 공개하기 전 MOIBA에 이 내용을 공유하고 문제를 수정하도록 45일을 기다렸고 일부 취약점을 보완했다고 답변을 했으나 전체 취약점을 해결했는지 답변이 없어 보고서를 공개했다고 한다.

시티즌랩은 그후 MOIBA가 관련 개선을 하였는지 확인하기 위해 2015년 11월 1일 2차 감사를 한 결과를 발표했다. (참고: 관련 오픈넷 보도자료) 2차 감사는 1차 감사 때보다 보완이 됐다고 주장하는 최신 버전을 대상으로 했는데[2] 일부 수정·보완이 이루어졌지만, 여전히 아래와 같은 심각한 문제점들이 남아있다고 했다.

  • 공격자가 청소년의 휴대폰 번호를 알고 있다면 청소년의 생년월일, 휴대폰에 설치된 모든 앱의 목록, 모든 차단 규칙을 취득할 수 있다.
  • 공격자는 여전히 청소년의 휴대폰의 차단 규칙이나 설정을 마음대로 변경할 수 있기 때문에 청소년이 휴대폰을 사용하지 못하도록 잠글 수 있다.
  • 공격자는 여전히 스마트보안관 부모용의 비밀번호와 청소년의 계정과 연계된 부모의 휴대폰 번호를 찾아낼 수 있다.

이에 시티즌랩은 스마트보안관을 앱스토어에서 즉시 내리고, 이용자들은 사용을 즉시 중단할 것을 권고했다. 즉, 방통위는 시티즌랩이 중단 권고를 한 당일 바로 서비스를 중단한 것이다.

조선닷컴 기사에 따르면 방통위는 스마트보안관 중단 조치에 관해 “지난달 모든 이통사가 음란물 차단 앱을 무료로 보급하기 시작했기 때문에 플레이스토어에서 삭제했을 뿐”이라며 “문제와 관계없이 예정된 일정에 따른 조치”라고 밝혔다.

여기서 말한 이통사의 차단 앱이란 SK텔레콤의 “T청소년유해차단”, KT의 “올레 자녀폰 안심”, LG유플러스의 “U+ 자녀폰지킴이” 등을 말하는데, 이것들은 여전히 플레이 스토어에서 다운로드를 받아 실행할 수 있다.

 

계속되는 프라이버시 무시·자녀 감시들

따라서 문제는 여전히 남아있다. 정부가 아니더라도 이통사를 비롯한 여러 회사들이 유사한 기능의 앱을 계속해서 배포하고 서비스하고 있다. 이런 위험한 앱들이 시중에 나와 있는 가장 근본적인 이유는 일명 “청소년 스마트폰 감시법”이 이런 앱들의 설치를 강제하고 있기 때문이다.

개정된 전기통신사업법에는 이통사가 청소년과 계약을 할 경우 청소년 유해매체물과 음란정보를 차단할 수 있는 수단을 제공해야 한다고 되어 있고, 세부 방법·절차는 시행령에서 정하도록 되어 있다.

전기통신사업법 시행령 제37조의8 제2항

제1항에 따라 차단수단을 제공하는 경우에는 다음 각 호의 절차에 따른다.

1. 계약 체결 시

  • 가. 청소년 및 법정대리인에 대한 차단수단의 종류와 내용 등의 고지
  • 나. 차단수단의 설치 여부 확인

2. 계약 체결 후: 차단수단이 삭제되거나 차단수단이 15일 이상 작동하지 아니할 경우 매월 법정대리인에 대한 그 사실의 통지

(참고로 여기서 차단수단은 청소년유해정보차단 소프트웨어로서 시행령은 정부 배포 “스마트보안관” 등 앱의 형태로 되어 있는 수단을 전제하고 있다)

법에 이렇게 명시되어 있는 경우 정부가 아니더라도 누군가 반드시 청소년에게 유해정보를 차단하기 위한 서비스를 만들어야 한다. 기본적으로 이를 위해서는 많은 정보에 접근을 하고 모든 정보를 들여다봐야 하는데, 그 과정에서 청소년은 부모와 협상할 기회도 없이 부모의 상시감시 아래 놓이게 되는 프라이버시 침해가 발생하는 것은 자명하다.

또 법은 차단서비스만 제공하라고 했지만 차단서비스가 상시 작동하고 있는지 확인하기 위해서는 스마트폰 기기 전체에 대한 상시감시가 필요하고 이를 구현하기 위해서는 스마트보안관처럼 수십 억의 돈을 들여도 이용자들을 오히려 각종 보안 위협에 노출될 가능성도 여전하다.

또한 이 시행령은 이통사가 유해정보 차단 앱이 설치되었는지 확인할 수 있는 방법에 대해 명시하지 않고 있다. 그리고, 이통사를 통해 구입하지 않고, 스마트폰을 직접 구매하는 이용자나 외국산 스마트폰을 이용하는 이용자의 경우는 확인조차 할 수 없는 한계점도 명확하다.

심지어 성인인 부모조차 이러한 발상과 서비스를 거부할 방법이 없다는 것도 문제다. 앱의 품질이 나빠 이용을 거부하거나 자녀의 프라이버시를 지켜주기 위해 설치를 하지 않을 수도 있는데, 시행령은 부모가 당연히 동의할 것이라고 전제하고 있다. 이 앱은 부모가 원치 않아도 자녀의 폰에 설치되어 부모와 자녀를 감시자와 피감시자의 관계로 몰아넣어 스마트폰 이용에 관해 교육적인 대화를 할 수 있는 기회를 박탈한다.

 

감시와 통제로 교육? 발상 자체가 문제

정부는 프라이버시를 포함한 기본권을 침범할 소지가 높더라도 청소년의 모든 스마트폰 이용 내역을 감시하는 법안을 마련하고, 수십억 원의 예산을 들여 보안성이 매우 떨어지는 앱을 직접 개발해 배포했다. 불행 중 다행으로 지금은 직접 앱을 배포하는 것은 포기했지만, “청소년 스마트폰 감시법” 때문에 여전히 이런 강제 모니터링 앱을 설치해야 하는 수많은 청소년들이 존재한다.

정부는 여전히 청소년의 문자메시지, 채팅 메시지, 검색어 등을 감시하는 서비스를 운영 중이다.

정부는 여전히 청소년의 문자메시지, 채팅 메시지, 검색어 등을 감시하는 서비스를 운영 중이다.

참고로 지금도 서비스 중인 스마트안심드림은 예를 들어, “찍힐”, “주글”, “셔틀”, “찐따”, “빠굴” 등등 비속어 및 변종 그리고 “본드” “죽었”, “스트레스” “쌍커플”, “외모”, “월경”, “성범죄” 등의 주의어 등의 수천개의 단어들 목록에 포함된 단어가 이용되면 부모에게 곧바로 통지가 된다. 이용실적이 2015년 3월 현재 수천명 정도로 높지는 않다는 보도가 있었지만 이 청소년들에 대해서는 이미 통지가 수십만건 이루어지고 있다고 하며 이들은 고도의 감시상태 속에서 생활해야 한다.

 

정부는 통제와 감시로 문제가 해결된다는 생각을 버려야 한다. 시민들은 학교와 가정에서 교육해야 할 영역을 국가가 법으로 학교·부모의 감시를 강제하거나 이를 위해 개인용 통신기기에 특정 소프트웨어의 장착을 요구하는 것의 위험성에 대해 다시 한번 심각하게 생각해 봐야 할 때다.

————————————————–

[1] 안드로이드용 스마트보안관 최신버전(1.7.5 이하)

[2] 안드로이드용 스마트보안관 1.7.7

 

* 위 글은 슬로우뉴스에도 동시 게재하고 있습니다. (2015. 11. 16.)

시민들의 의견

댓글 달기

Plain text

  • 웹 페이지 주소 및 이메일 주소는 자동으로 링크로 전환됩니다.
  • 줄과 단락은 자동으로 분리됩니다.
  • 사용할 수 있는 HTML 태그: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd>
이미지
무제한 수의 파일을 이 필드에 업로드할 수 있습니다.
50 MB 한계입니다.
허용된 유형: png gif jpg jpeg.
Enter the YouTube URL. Valid URL formats include: http://www.youtube.com/watch?v=1SqBdS0XkV4 and http://youtu.be/1SqBdS0XkV4.
CAPTCHA
스펨 사용자 차단 질문

글 | 황성기 (한양대 법학전문대학원 교수, 오픈넷 이사장)

최근 국회의원 총선거를 앞두고 모 정당의 비례대표 1번 후보자의 과거 대리게임 이력이 논란이 되었다. 이 문제는 그동안 정의와 공정을 정치이념으로 일관되게 추구해왔던 소수정당의 비례대표 1번 후보자로서의 자격에 대한 논란까지 번졌다. 사실 대리게임은 공정성의 관점에서는 도덕적으로 비난받을 여지가 있다. 특히 국회의원이 갖추어야 할 고도의 도덕성에 비추어 보면, 대리게임 이력은 문제가 될 소지가 있다. 그런데 대리게임은 현재 단순히 정치적ㆍ도덕적 비난의 대상에만 머무르는 것은 아니다. 대리게임은 형사처벌의 문제가 될 수도 있다.

필자는 오늘 대리게임의 문제를 공정성이라는 관점에서 이야기하고자 하는 것은 아니다. 일반 국민들은 그동안 생각해 보지 못했던 문제, 즉 표현의 자유라는 관점에서 특히 대리게임을 형사처벌하는 법적 규제의 문제를 한 번 짚어 보고자 한다. 대리게임과 그에 대한 형사처벌은 다음과 같은 측면에서 표현의 자유의 문제이기도 하다.

첫째, 게임은 헌법 제21조 제1항에 의해 보장되는 표현의 자유의 보호대상이 된다. 표현의 자유의 보호대상이 되는 의사표현의 매개체는 어떠한 형태이건 그 제한이 없기 때문이다. 그리고 게임은 예술표현의 수단이 될 수도 있으므로, 헌법 제22조에 의해 보장되는 예술의 자유의 보호대상이 되기도 한다.

둘째, 게임이 표현의 자유의 보호 대상이고, 게임을 이용하는 행위도 일종의 표현행위라면, 대리게임은 그것을 의뢰하는 자의 표현의 자유의 행사에 해당될 뿐만 아니라, 대리게임을 의뢰받아 수행하는 자의 익명표현의 자유의 행사에 해당되기도 한다. 여기서 익명표현의 자유란 자신의 신원을 누구에게도 밝히지 아니한 채 익명 또는 가명으로 자신의 사상이나 견해를 표명하고 전파할 자유를 의미한다. 이러한 익명표현의 자유도 헌법 제21조 제1항에 의하여 보장되는 표현의 자유에 포함된다.

그러면 대리게임과 그에 대한 형사처벌은 표현의 자유의 관점에서 어떠한 문제점을 가지고 있을까?

첫째, 게임이용에 있어서 익명표현의 자유를 원천적으로 부정하고 있어서 표현의 자유를 침해한다. 오늘날 인터넷 게임을 통하여 다른 이용자들과의 상호작용이 이루어지는데, 이러한 상호작용을 반드시 실명으로 혹은 본인임이 확인된 경우에만 할 수 있도록 하거나 아니면 본인이 직접 해야 한다고 강제하는 것은 익명표현의 자유를 원천적으로 부정하는 것이다. 약간 극단적으로 이야기하면, 유명인사들이 본인의 회고록을 집필할 때 전문작가를 고용하여 대리집필을 의뢰하는 경우가 있을 수 있는데, 이러한 것을 금지하고 위반시 형사처벌하는 것과 마찬가지이다.

둘째, 물론 익명표현의 자유도 우리 헌법에 따르면 국가안전보장, 질서유지, 공공복리를 위해서 제한할 수 있다. 하지만 다른 기본권보다도 더 고도의 보장을 받는 표현의 자유가 갖는 특수성으로 인하여, 표현의 자유를 제한하는 경우에는 소위 ‘명백하고 현존하는 위험’이 인정되어야 하는데, 대리게임으로 인하여 초래되는 사회적 해악이 구체적으로 무엇인지가 불분명하다. 물론 대리게임처벌법이 ‘게임물의 정상적인 운영을 방해하는 행위’라는 요건을 설정하고 있지만, ‘게임물의 정상적인 운영을 방해하는 행위’에 대한 판단기준이 매우 추상적이고 불분명하여, 사회적 해악이 분명하지 않은 대리게임마저 형사처벌하게 될 가능성이 높다.

결론적으로 대리게임은 형사처벌의 대상으로 할 것이 아니라, 개별 게임사업자와 이용자 간의 계약 약관 및 개별 게임사업자 차원에서의 자율규제를 통해서 해결해야 할 문제로서 사적 자치의 영역으로 남기는 것이 합리적이다. 즉 국가가 형벌권을 동원해서 개입해야 할 문제는 아니다. 따라서 현행 게임법상의 대리게임처벌조항은 향후 게임법 개정을 통해서 삭제하는 것이 타당하다.

이 글은 아시아경제에 기고한 글입니다. (2020.04.03.)

수, 2020/05/06- 19:46
6
0

글 | 손지원 (오픈넷 변호사)

얼마 전 김정은 북한 국무위원장의 건강 이상설이 떠돌았을 때, 많은 사람이 ‘우리는 북한에 대해 아무것도 알 수 없다’라는 말을 새삼 실감했다. 북한 특유의 폐쇄성으로 인해 그 실상을 제대로 파악하기 어려운 건 다른 나라도 마찬가지겠지만, 우리는 특히 북한에 대해 무지한 부분이 많다. 북한을 반국가단체나 적으로 취급하든, 혹은 같은 언어와 민족성을 나누는 통일과 화합의 대상으로 보든, 상식적으로 우리가 분단국으로서 북한을 제일 잘 알아야 하는 나라임을 고려하면 더욱 아이러니하다.

왜 그럴까. 한국은 북한에 대해 알려고 하는 것 자체를 금기시하는 뿌리 깊은 문화가 있기 때문이다. 이러한 문화가 생긴 배경에는 북한을 찬양·미화하는 표현물을 ‘이적표현물’로 보고, 이의 유포와 소지를 범죄화하고 있는 국가보안법 제7조가 가장 큰 몫을 하고 있을 것이다. 많은 남용의 역사를 거쳐, 법원이 ‘국가의 존립·안전이나 자유민주적 기본질서에 실질적 해악을 줄 명백한 위험성이 있는 경우’ 등으로 처벌 규정을 엄격히 해석하는 기준을 마련하긴 했다. 그러나 이는 개인을 형사처벌하는 경우에만 고려될 뿐, ‘이적표현물’ 조항의 존재는 여전히 우리가 북한에 대해 알 권리를 부당하게 제한하고 위축시키고 있다.

북한의 폐쇄성, 통제성으로 인해 북한에 대한 정보는 대부분 조선중앙통신, 우리민족끼리 등 북한의 국영·선전매체가 직접 생산한 정보에 의존할 수밖에 없다. 그런데 여기에는 누구나 알다시피 낯간지러운 북한 체제에 대한 찬양·미화의 내용이 포함되어 있고, 이 때문에 우리 정부는 이들 콘텐츠와 북한 사이트 등 거의 모든 북한발 정보를 이적표현물(국가보안법 위반 정보)로 분류하고 온라인상에서 차단하고 있다.

이러한 관행으로 수난을 겪은 두 명의 외국인 ‘마틴’ 씨들이 있다. 북한 기술과 관련한 뉴스를 전달하는 온라인 매체인 ‘노스코리아테크’를 운영하는 영국인 ‘마틴 윌리엄스’는 뉴스의 출처로써 조선중앙통신을 링크하고 있다는 이유 등으로 사이트가 차단당하는 수난을 겪었다. 노스코리아테크는 북한발 보도에 의혹을 제기하거나 독자적·학술적 분석을 해온 매체였기 때문에 법원에서 차단 처분이 위법하다는 판결을 받아 차단은 해제되었지만, 그는 한국 정부가 북한 정보를 통제하는 방식에 놀라움을 금치 못했다고 전했다. 한국에서 북한학을 공부하는 독일인 ‘마틴 와이저’씨는 연구를 위해 북한의 장애인 관련 단체 사이트를 비롯한 각종 북한 사이트에 접속하려고 했지만 대부분이 차단되어 있어 한국에서 정상적인 인터넷 활동으로 북한의 정책이나 관행을 연구하는 것이 거의 불가능했다고 한다. 그는 인권위에 정보 접근권 침해를 이유로 민원도 넣었지만, 어쩔 수 없다는 답변만이 돌아왔다. 그는 아마 한국이 전 세계에서 북한 연구가 가장 힘든 곳일 거라는 말을 덧붙였다. 최근에는 외국인이 운영하는 KCNA watch라는 사이트가 방송통신심의위원회의 결정으로 한국에서 차단된 것 같다는 제보를 받았다. 이 사이트는 조선중앙통신 등의 북한 매체 및 각종 온라인상 북한 정보를 실시간으로 아카이빙하여 검색 편의를 제공하는 사이트로, 북한 연구자, 외교부, 통일부 등 공공기관 관계자, 언론 등에서 많이 활용했던 사이트다.

우리나라는 북한에 대한 정보가 최대한 많이 파악되고 공유되어야 하는 나라다. 북한발 정보의 왜곡·과장·미화는 건전한 상식을 가진 대부분의 국민이라면 이미 다 아는 사실이다. 또한 모든 ‘정보’가 그러하듯, 정보를 어떻게 수용하고 활용할지는 정보에 대한 접근 이후 비로소 독자들이 선택하는 영역이다. 북한발 정보가 북한 체제에 대한 찬양·미화적인 요소가 있다는 이유만으로 국가의 존립·안전에 위협이 될리는 만무하다. 또한 세계적 시각에서 북한의 동향은 늘 ‘핫한’ 이슈로, 한국의 국가 가치 역시 북한과의 관계에서 중요성이 더 크다. 실리적 관점으로도 북한 정보에 대한 접근을 수월하게 하여 이해관계나 언어적 이해력이 가장 높은 우리나라가 북한 연구와 보도 시장을 선점하는 것이 현명하다. 그럼에도 북한발 정보를 국가보안법 위반 정보로 보는 뿌리 깊은 관행으로 인해 우리 국민의 북한 정보에 대한 접근권이 사실상 원천적으로 통제·차단되는 위헌적 결과가 발생하고 있다. 나아가 우리 국민의 보도·연구 활동이 오히려 다른 나라에 비해 크나큰 제약을 받게 됨으로써, 북한의 소식을 외신을 통해 접하게 되는 안타까운 상황이 비일비재하게 일어나고 있는 것이다.

국정원장과 통일부 장관이 새로 임명되었다. 정부는 더 이상 국가보안법을 확대해석하여 우리 국민의 표현의 자유와 알 권리를 불필요하게 옥죄는 구태를 반복해서는 안 된다. 새 수장을 맞이한 기관들이 당장 이적표현물 조항의 폐지 추진은 어렵더라도, 최소한 북한 정보에 대한 우리 국민의 자유로운 접근과 활용을 보장하는 열린 태도를 견지하길 기대한다. 그것이 바로 정부가 우리 체제와 북한 체제와의 근본적인 차이를 선언하는 길이자, 우리 국민과 체제에 대한 신뢰와 자신감을 보여주는 길일 것이다.

*이 글은 미디어스에 기고한 글입니다. (2020.08.05.)

수, 2020/08/12- 01:08
6
0

2019. 12. 10. 유네스코한국위원회와 HY 과학기술 윤리·법·정책 센터가 주최한 “AI 윤리 성찰 포럼”에 오픈넷 김가연 변호사가 토론자로 참가해 인공지능과 젠더 문제에 대해 이야기했습니다.

[토론문] 인공지능과 젠더 문제

김가연 오픈넷 변호사

사단법인 오픈넷은 자유, 개방, 공유의 인터넷이라는 가치를 옹호하자는 취지 하에 2013년에 설립된 비영리 시민사회단체입니다. 표현의 자유, 프라이버시, 오픈데이터, 망중립성 등 정보인권 분야에서 활발하게 활동하고 있습니다. 발제를 맡은 이상욱 교수님께서 오픈넷의 이사로 계시기도 합니다.

오픈넷에서는 한 3년 전부터 인공지능과 윤리에 관한 논의를 관심을 갖고 지켜보면서 여러 국내외 관련 세미나에 참석을 하고 토론회를 주최하는 등 동향을 파악하고 있습니다. 내년 1월에는 하버드 대학교 버크맨 클레인 센터 등과 함께 인공지능과 윤리에 관한 국제 세미나를 개최할 예정입니다. 다만 아직 국내에서 인공지능이 정보인권에 직접 영향을 미치는 유의미한 사례가 발생하지는 않아서, 미래를 대비한 연구나 예측을 하는 연구소나 학계와 달리 활동 중심의 시민사회단체로서는 관련 논의를 관망하는 수준인 것 같습니다. 그렇지만 인공지능 개발에 필수적인 빅데이터의 활용에 수반되는 개인정보 보호의 문제에 대해서는 활발하게 목소리를 내고 있으며, 얼굴인식기술 등이 국가감시 고도화에 악용될 가능성을 항상 경계하고 있습니다.

지금까지 발표된 여러 원칙들을 비교해보면 큰 틀에서 몇 가지 공통되는 핵심 가치를 찾을 수 있고 이는 발제문에서 잘 정리하셨다고 생각합니다. 이러한 원칙들이 앞으로 유네스코에서 성안할 윤리 규범에 잘 반영되길 바랍니다. 또한 유네스코에서 기존의 시도와 달리 윤리 전문가 및 여러 분야의 전문가들을 모아 워킹 그룹을 꾸려 논의를 시작하고, 젠더나 아프리카 대륙 같이 논쟁적인 주제(mandate)를 다루기로 한 것은 매우 바람직하다고 생각합니다. 일례로 지난 11월 방송통신위원회에서는 「이용자 중심의 지능정보사회를 위한 원칙」을 발표했는데, 이를 논의하는 자문단에 기업과 학계만 참여를 한 것으로 알고 있습니다. 정부 차원의 논의에는 당연히 이용자의 입장을 대변하는 시민단체가 참여했어야 하는데 오픈넷은 전혀 초대를 받지 못해 유감스럽습니다. 다양성과 전문성을 함께 추구하는 유네스코의 방식이 훨씬 바람직하다고 생각됩니다.

지금의 AI는 우리 현실을 반영하는 거울로서 우리가 가진 편견 등을 그대로 답습하고 있습니다. 결국 AI와 윤리는 AI를 개발하고 관리·감독하는 인간을 감독하는 원칙에 대한 문제라고 생각합니다. 발제자께서 개발자나 이용자 교육의 필요성을 언급하셨는데 매우 중요한 지적인 것 같습니다. 그리고 현재까지의 논의에서 AI와 젠더 문제는 간과되고 있는 면이 있어서 더 비중있게 다뤄져야 한다고 생각합니다. 그런 점에서 유네스코의 방향성은 매우 바람직한 것 같습니다. 그리고 유네스코에서 올해 발표한 디지털 기술 성 격차 관련 <I’d Blush If I Could> 보고서도 매우 좋은 자료인데요, 보고서에서 다룬 인공지능 음성비서의 성정체성 관련 논의를 통해 AI와 젠더에 대해 간단히 말씀드리겠습니다.

애플 시리, 삼성 갤럭시 빅스비, 네이버 클로바, 아마존 알렉사 등 인공지능 음성비서 또는 스피커는 현재 우리에게 가장 친숙한 형태의 AI일 것입니다. 대부분 기본적으로 여성의 목소리를 가지고 있는데, 세계의 인공지능 음성비서 시장을 선도하는 기업들이 ‘여성 비서’를 내세우고 있기 때문입니다. 개발자들은 사용자들이 인공지능과 대화할 때 진짜 인간과 대화하는 듯한 느낌을 받을 수 있도록 만들기 위해 인공지능의 개성과 성장과정, 이력과 같은 세세한 ‘인간적인’ 면도 심혈을 기울여 디자인하는데, 이러한 정체성이 대부분 여성을 상정하고 만들어졌다고 합니다. 이렇게 여성형 음성비서가 압도적으로 많은 이유에 대해 크게 세 가지 가설이 있습니다.

첫 번째는 여성의 목소리를 선호하는 게 더 자연스럽다는 것입니다. 여러 연구에서 사람들은 여성의 목소리를 더 따뜻하게 느꼈다고 하고, 스탠포드 대학의 Clifford Nass 교수는 “인간의 뇌는 여성의 목소리를 좋아하도록 발달했다(“It’s a well-established phenomenon that the human brain is developed to like female voices.”)”라고 말한 바도 있습니다. 아마존과 마이크로소프트는 시장조사에서 일반 유저들이 여성 목소리를 더 선호한다는 것을 확인하기도 했습니다.

두 번째는 여성형 인공지능이 덜 위협적으로 느껴진다는 것입니다. 여성형 인공지능이 많은 이유가 대중문화에서 접한 남성형 인공지능의 위협적 성향 때문이라는 가설입니다. ‘2001: 스페이스 오디세이’ 등 SF 영화에서 남성형 인공지능은 살인을 저지르는 등 종종 매우 위협적으로 묘사되었습니다. 워싱턴 대학의 Gender, Women & Sexuality 학과의 Michelle Habell-Pallan 교수는 다수의 엔지니어가 일반인들이 새로운 기술을 위협적으로 느끼거나 거부감이 들게 하지 않도록 여성형의 인공지능을 채택하는 경향이 있다고 합니다.

하지만 가장 설득력 있는 가설은 성역할에 대한 고정관념의 영향을 받았다는 것입니다. 여성형 음성비서가 많은 이유에 대해 페미니스트들은 전통적으로 여성이 비서 역할에 자연스럽기 때문이라는 성역할 고정관념에서 기인한다고 봅니다. IT 업계 핵심 직종의 종사자 대부분이 남성이라는 것은 우리들에게 이미 익숙한 사실이며, 이를 고려한다면 음성비서가 여성으로 성별화되어 있다는 것이 IT 과학자들의 무의식 속 성편견의 반영물이라는 페미니스트들의 주장이 틀린 말은 아닐 것입니다. 앞서 언급한 유네스코가 발표한 보고서는 ‘시리’를 비롯한 음성비서들이 대부분 ‘젊은 여성’ 목소리를 기본값으로 설정해 수동적이고 소극적인 답을 내놓게 돼있어, 여성 역할을 수동적·소극적이며 명령자에 복종하는 역할에 한정해 젠더에 대한 편견을 강화한다고 지적했습니다.

이런 문제점이 단순히 AI 개발이나 활용에 적용되는 윤리를 강화한다고 해서 해결될 것 같진 않습니다. 결국 다른 모든 분야에서 여성의 인권을 보장하고 성평등을 이루어 나가기 위해 끊임없이 노력해야 하는 것처럼 AI 분야에서도 근본적으로 성격차를 줄이고 성평등을 이루어 나가는 노력이 필요합니다. 그런 면에서 젠더 문제에 관한 별도의 윤리 규범을 논의하기로 한 유네스코의 시도는 매우 바람직하다고 생각하며, 논의가 좋은 결실을 맺을 수 있도록 시민사회도 더욱 활발하게 의견을 내고 지지하도록 하겠습니다.

토, 2019/12/21- 00:28
5
0

글 | 김가연(오픈넷 변호사)

일시: 2019. 7. 31(수) – 8. 2.(금), 3일간

장소: 캐나다 토론토대학교 뭉크스쿨(Munk School of Global Affairs)

참석자: 김가연(오픈넷 변호사)

CLSI 2019 Agenda 보기

Citizen Lab Summer Institute (CLSI)는 캐나다 토론토대학교 뭉크스쿨 산하 시티즌랩 주관으로 2013년부터 매년 여름 개최되고 있는 행사입니다. “인터넷 개방성과 권리 모니터링(Monitoring Internet Openness and Rights)”이라는 주제로 인터넷 보안 및 정보인권 관련 최신 이슈들에 대해 학계, 산업계, 시민사회 등 다양한 분야의 전문가들이 모여 2~3일 동안 논의하는 연구의 장입니다. 오픈넷은 2015년 처음 시티즌랩의 초청을 받아 CLSI 2015에 참가한 이후 매년 참가하고 있습니다.

CLSI 2019에는 김가연 변호사가 참가했으며, 참가의 주된 목적은 오픈넷이 2016년 시티즌랩과 공동으로 진행한 AMI (Ask My Info) 연구 최종 보고서 마무리와 AMI 연구의 일환으로 진행중인 KT 상대 개인정보 공개 청구 소송 전략 모색이었습니다. AMI는 통신사들이 이용자에 대한 어떤 정보를, 얼마나, 어떤 목적에 의해 보유하고 있으며, 이러한 내용을 얼마나 공개하는지를 연구하는 프로젝트로, 2014년 시티즌랩과 Open Effect의 주도로 캐나다에서 처음으로 시작되었습니다. 오픈넷은 2016년에 국내에서 AMI 연구를 수행했는데, SKT, KT 및 LGU+ 주요 이통 3사를 대상으로 두 단계에 걸쳐 진행되었습니다.

김가연 변호사는 첫날 진행된 오리엔테이션과 이후 이틀 간 5개의 세션/워크샵에 참석했습니다. 그 중 “정보주체의 정보접근권(Data Subjects’ Right to Access Information)”세션이 특히 유용했습니다. 세션 주최자인 Lights Institute의 Maristela Miranda는 필리핀의 개인정보보호법제와 정보주체의 권리에 관한 내용에 대해 발제를 했는데, 필리핀의 개인정보보호법상으로는 열람청구권이 존재하지만 아직까지 권리를 행사할 방법이 마련되어 있지 않다며 어려움을 토로했습니다. 세션 참가자 대부분이 열람청구권 관련 소송을 해본 경험이 있는 변호사들이어서 흥미로운 토론이 이루어졌습니다. 김가연 변호사는 한국에서 AMI 연구를 진행한 경험을 공유했습니다. 

세션 참석과 별개로 시티즌랩의 AMI 연구팀과 만나 최종 보고서를 마무리하고 KT 소송에 대해 도움이 될 수 있는 자료를 받아 소기의 목적을 달성할 수 있었습니다. AMI 연구 관련 더 자세한 내용은 아래 논평에서 확인할 수 있습니다.

시티즌랩, 오픈넷이 참여한 아시아 5개국 통신사 개인정보 열람청구권 보장 실태 연구 결과 발표

수, 2020/02/26- 00:26
5
0

글 | 손지원 (오픈넷 변호사)

법무부가 상인의 고의·중과실로 인한 위법행위에 대해 징벌적 손해배상제를 도입하는 상법 개정안을 입법예고했다. 본 상법 개정안이나 중대재해기업처벌법 등을 통해 기업의 영리 추구 과정에서의 반사회적 위법행위를 억제할 필요는 있으며 이러한 기본 취지에는 공감한다. 그런데 법무부가 해당 법안 설명자료에서 ‘가짜뉴스, 허위정보’를 명시하면서 언론을 주요 규제 대상으로 타깃팅하고 있는 것이 문제다. 국회에서도 허위보도에 대한 징벌적 손해배상을 규정한 여러 법안이 발의되는 등, 언론에 대한 징벌적 손해배상제 도입이 가시화되고 있다.

피해자의 손해액만큼의 보상, 즉, ‘전보배상의 원칙’을 기본으로 하는 민사 손해배상 체계에서, 징벌적 손해배상은 예외적인 제도다. 즉, 개인의 피해에 대한 보상을 넘어, 사회 공익적 고려에서 다시 재발되어서는 안 되는 반사회적 행위를 징벌을 통해 억지하는 데에 초점이 있는 것이다. 물론 무책임한 보도로 개인에게 피해를 입히는 언론 활동이 억지되어야 함은 당연하지만, 이것이 예외적 징벌이 필요할 정도로 해악이 중대한 반사회적 행위인가는 냉정하게 바라볼 필요가 있다. 기업의 안전기준 위반으로 인한 노동자의 사망, 가습기 살균제 참사와 같이 다수의 인명과 신체 안전에 위해를 가져오는 행위와 비교할 때, 표현행위는 그로 인한 해악의 결과나 인과관계 자체가 명백하지 않다. 또한 징벌적 손해배상은 보통 형사제재가 미비하거나 부족한 사건에서 추가적인 사적 벌금을 부과하여 재발방지 효과를 노리는 제도다.

그런데 우리나라는 이미 표현에 대해 과도할 정도로 많은 형사처벌 규정이 존재하고, 징역형까지 규정되어 있으며, 명예훼손죄 고소·고발 건수도 굉장히 많다. 이런 형사 규제로도 억지되지 않던 부분들이 징벌적 손해배상으로 ‘경제적 타격’을 준다고 하여 억지될 수 있을까? 징벌적 손해배상제가 있는 미국에서 지난 대선 때 가짜뉴스라는 용어가 생겼을 정도로 가짜뉴스 전쟁을 치렀다는 사실만 보아도 그 효과는 의문스럽다. 가짜뉴스는 보통 영리적 목적보다는 정치적 목적으로 생산, 이용, 소비되는 경우가 많기 때문일 것이다.

반면 징벌적 손해배상의 위협을 통해 비판적 여론을 차단하려는 공인이나 기업의 소송 남발로 언론 활동은 크게 위축될 것이다. ‘악의적’ ‘허위’ 보도라는 것이 각자의 정의 관념에서는 판단이 명확할 것 같지만, 실상은 그렇지 않다. 한 명제에서 ‘사실’과 ‘의견’을 구분해내는 것부터가 매우 어렵고, 어떠한 사실이 ‘허위’인지 ‘진실’인지에 대한 판단 역시 해석에 따라 달라지거나 사실의 존재를 명백하게 증명하기 어려운 경우가 많기 때문에, 대부분의 명제가 가짜뉴스로 프레임 씌워질 수도 있다. 예를 들면 ‘특혜’, ‘성폭력’, ‘공산주의자’, ‘친일파’ 등의 단어 사용도 명확한 법적·학술적 기준을 적용할 것인지, 아니면 사회적 맥락까지 고려한 용례에 의할 것인지에 따라 다르게 해석될 수 있고, 이러한 단어를 사용한 명제가 ‘허위’인지, ‘진실’인지에 대한 판단도 달라지게 되는 것이다.

이명박의 BBK 실소유주설을 주장한 정봉주 전 의원, 최태민-최순실 부녀와 박근혜의 유착관계에 의혹을 제기했던 김해호 목사 모두 공직선거법상 ‘허위사실공표죄’ 위반 판결을 받고 처벌받았다. 그러나 이들의 주장이 점차 진실에 가까운 것으로 드러나고 있다는 것을 보아도, ‘허위성’을 이유로 함부로 표현, 표현자를 단죄해서는 안 된다는 것을 알 수 있다. 또한 이 사례들도 발화자의 ‘고의’가 인정되었기 때문에 유죄가 인정되었다는 점에서, ‘악의’, ‘중과실’과 같이 주관적인 기준은 안전장치가 되기엔 부족하다고 할 것이다. 즉, 허위임을 명백히 인지하거나 조작한 수준이 아니라, 취재원 일방의 주장만을 듣고 당사자의 주장을 듣지 않았다거나, 추가 취재없이 받아쓰기만 했다거나, 확실한 증거가 없이 공표했다는 이유만으로 ‘악의’나 ‘중과실’이 인정될 수도 있다.

기존의 언론 판결에서 손해배상액이 적었다는 것이 징벌적 손해배상을 도입해야 하는 필연적인 이유가 될 수는 없다. 법원이 정신적 손해배상액(위자료) 산정에서 인색했다는 문제는 앞으로 법원이 자유재량 영역인 위자료 인정을 현실화·합리화하여 해결하면 될 일이다. 언론중재위원회의 보고서에 따르면 2009~2018년까지 10년간 손해배상 사건 청구액 평균은 약 2억원, 인용액 평균은 약 2000만원으로 청구액의 10분의 1 수준이었다고 하는데, 법원이 청구액을 상당한 수준으로 반영하여 인용하였어도 이같은 문제가 지적되지는 않았을 것이다. 그럼에도 이를 넘어 언론 활동 자체를 중대한 위험을 가진 ‘징벌’의 대상으로 보는 시각과 이에 기초한 과도한 규제는 언론인들을 위협하고 언론의 자유에 대한 심대한 위축으로 이어질 수밖에 없다.

한국언론진흥재단의 조사에 따르면 기자들 중 약 30%가 취재나 보도로 인해 소송을 당한 경험이 있고, ‘공인에 대해 취재할 때는 소송에 대한 부담감으로 보도가 꺼려진다’고 답했다. 이러한 배경에서 징벌적 손배제가 도입되면 사실확인을 제대로 하지 않고 보도했다는 이유로 엄청난 액수의 손해배상액을 부담할 위험을 감수해야 하는 기자들로서는 명백한 증거가 확보되지 않은 사안에 대한 보도를 자제하게 될 것이고, 공인이나 기업에 대한 자유롭고 신속한 의혹 제기의 환경은 크게 위축될 것이 자명하다. 언론에 대한 징벌적 손해배상제 도입에 신중해야 하는 이유다.

이 글은 한국기자협회보 [‘언론보도 징벌적 손배제를 말한다’ 전문가 릴레이 기고]에 기고한 글입니다. (2020.11.04.)

목, 2020/11/05- 18:33
5
0