2024년 4월 10일 한국에서는 국회의원 총 선거가 진행됩니다. 올 해는 한국의 총선 이외에도 전 세계 70여개국에서 40억명의 사람들이 투표에 참여하는 선거의 해입니다. 유례없는 대규모 정치참여의 해를 맞아 국제사회에서는 ‘기술정의를 위한 국제연합(Global Coalition for Tech Justice)’이 출범했는데요, 정보공개센터도 이 연합에 함께하고 있습니다.
기술정의를 위한 국제연합(아래 기술정의연합)은 민주적 선거를 위한 빅테크의 역할에 주목하면서, 구글이나 메타, X, 틱톡과 같은 빅테크가 전 세계의 선거와 사람들을 보호하는 계획을 수립하도록 요구하는 ‘2024 Year of Democracy’ 캠페인을 추진하고 있습니다. 선거 시기에는 소셜미디어를 통한 공론장이 어느 때보다 활성화되는 만큼, 세계 각국에서 표현의 자유가 보장되고 소수자에 대한 차별 및 혐오가 확산되지 않는 온라인 정보 환경이 제공되어야 한다는 것이 이 운동의 취지입니다.
기업에서 유출된 정보와 현지 시민 사회 경험들은 소셜 미디어 기업이 미국 및 영어 콘텐츠 이외의 피해 평가와 완화에는 거의 투자하지 않고 있다는 것을 시사합니다. 그러나 이러한 기업들이 아프리카, 아시아 및 라틴 아메리카의 정보 생태계에 미치는 영향이 커짐에 따라 그들의 영향은 더욱 심각하고 광범위하며 빈번해지고 있습니다.
소셜 미디어가 전 세계적으로 널리 사용되고 있는 영향력을 고려할 때, 전 세계 55개 이상의 국가에서 65개 이상의 선거가 치뤄지는 2024년은 민주주의와 자유에 있어 결정적인 연도가 될 것이며, 소셜 미디어 기업에 대한 궁극적인 시험이 될 것입니다.
연합과 캠페인은 국제적인 서명운동 단체 아바즈(Avaaz), 인권감시기구 휴먼 라이츠 워치(Human Rights Watch), 반착취·반빈곤 운동 단체 글로벌 위트니스(Global Witness)을 포함해 전 세계 60개 이상의 기관 및 전문가들이 모여 1년이 넘는 협의, 행사 및 토론을 거쳐 기획되었습니다. 이들은 구체적으로 빅테크 기업들에 아래 10가지 내용을 포함한 행동계획을 수립할 것을 요구하고 있습니다.
- 1. 국제적인 인권과 선거 기준을 주요한 우선순위로 두고, 기존 및 새로운 정책과 집행 체계가 기준에 부합하는지 평가할 것
- 2. 독립적인 외부 당사자가 수행하는 인권영향평가를 도입하고, 선거의 이해당사자들이 평가결과를 반영해 더 잘 준비할 수 있도록 할 것
- 3. 피해의 위험에 대응 할 수 있도록 완전한 자원을 할당하고, 투자 규모와 언어/방언별 직원 및 계약자 수를 공개할 것. 전 세계적으로 공평하게 안전한 온라인 플랫폼에 대한 접근을 보장할 수 있도록 기업은 이 기간 동안 자신의 활동을 표준화된 보고 형식으로 기록하고, 연구원, 규제 기관, 시민 사회 및 기타 행위자가 기업의 행동과 영향을 완전히 투명하게 모니터링할 수 있도록 할 것
- 4. 미국 선거 등 현재까지 빅테크들이 선거의 신뢰와 안전에 가장 많은 투자를 한 시장에서 이미 검증된 도구와 조치를 포함하여, 전세계 시장에서 모든 가능한 도구와 조치를 제공 할 것. 또한 어디에 무엇이 구현되었는지, 각 국에 왜 다르게 적용되는지 이유를 제시할 것.
- 5. 선거 후에 폭력이나 악의적인 비민주적 행동이 쉽게 일어나지 않도록, 선거 몇 달 전부터 투표 후 몇 주에서 몇 달 뒤까지 선거 과정의 각 단계에서 조치를 시행할 것.
- 6. 현지 상황과 전문 지식을 기반으로 하고 이를 구현 할 것. 영어 이외의 열악한 알고리즘 성능을 보완하기 위해 현지 직원과 다양한 이해관계자를 참여 시킬 것
- 7. 사실 확인(팩트체크) 기관, 독립 언론, 시민 사회 및 선거 공정성을 보호하는 기타 기관 과의 파트너십을 강화하고, 확대하고, 자원을 확보 할 것.
- 8. 정부 및 정치적 압력에서 독립적일 것. 법이 허용하는 경우 정부와의 모든 접촉과 언론 및 감시 요구를 억제하라는 모든 정부 요청을 게시할 것
- 9. 적절한 감독과 투명성을 확립할 것. 플랫폼에서의 활동을 모니터링하기 위해 연구원, 시민 사회, 독립 언론 등의 데이터 접근 및 교육을 제공할 것. (Meta에서 소셜미디어 분석 툴인 Crowdtangle에 재투자 및 개방하고, Alphabet에서 호환가능한 도구를 만들고, Twitter에서 개방적이고 무료거나 저렴한 API를 유지하는 등). 광고 라이브러리와 해당 기능(예: 타겟팅 매개변수)의 알고리즘 등에 대해 완전한 투명성과 정확성을 보장하고, 캠페인 재정 및 지출을 면밀히 조사할 수 있는 재무 정보를 공개하고, 독립적인 감사를 수행할 것
- 10. 책임을 부여할 것. 플랫폼에서 발생한 모든 실제 또는 잠재적인 피해를 기록, 보존하고 피해 완화 조치의 정확성과 효과를 검증하기 위한 문서화를 허용하여 실시간 및 사후 책임 추적을 가능하게 할 것
▶캠페인 요구사항 원문 보기
국제사회가 이렇게 빅테크 기업에 자체적인 노력을 요구하고 나선 이유는 이들이 운영하는 유튜브나 트위터 등 소셜미디어 플랫폼이 정보 생태계와 시민들의 여론에 막강한 영향을 미치기 때문입니다. 특히 AI와 딥페이크, 알고리즘 등의 정보 기술이 급격하게 발전하고 상용화 되면서, 소셜미디어에서 정보조작이나 혐오 콘텐츠가 더 쉽게, 대량으로 확산되고 이에 따라 여론이 왜곡되는 현상은 국제적으로 점점 심각한 문제가 되고 있습니다.
한국의 경우, 선거 시기 소셜미디어에서 유포되는 허위정보나 혐오표현을 규율하기 위한 논의가 주요하게 다루어지지 못하고 있습니다. 한국에서는 과도한 선거법 규제로 선거 시기 후보자에 대한 지지나 비판 자체가 오랫동안 불가능했기 때문입니다. 불과 2년 전인 2022년까지도 선거 기간에는 일반 시민들의 집회가 제한되고, 비리후보자 등에 대한 낙선운동도 할 수 없는 등 시민들의 정치적 표현이 과도하게 억압되어 왔기 때문입니다. 게다가 현 정부에서는 ‘가짜뉴스’를 차단하겠다거나 선거에 영향을 줄 수 있다는 구실로 정부에 대한 비판 여론을 차단하거나, 시민들의 정치적인 표현을 억압하는 행태가 이어지고 있기도 합니다.
그러나 한국 사회에서도 선정적이고, 양극화되고, 잠재적인 유권자에게 잘못된 정보를 퍼뜨려 오해를 불러일으키는 소셜미디어의 콘텐츠는 여론에 점점 더 큰 영향력을 미치고 있습니다. 작년 말, 4월 10일 총선을 앞두고 21대 국회에서는 선거법을 개정하면서 딥페이크를 선거운동에 사용하는 것을 금지했습니다. 하지만 단순히 기술 사용 자체를 규제하는 것으로는 소셜미디어에서 발생하는 다층적인 위협을 근본적으로 해결할 수 없을 것입니다. 선관위 등 규제기관과 국회 등 책임있는 기관이 함께 나서 이번 선거를 계기로 소셜미디어 플랫폼에서의 허위정보 및 혐오 콘텐츠 확산 현황과 그 영향에 대해 공식적으로 분석하고, 논의의 장을 만들어야 할 것입니다.
우리의 요구 이후, 지난 2월 16일 구글,메타,X,틱톡 등 20개의 빅테크 기업은 ‘2024년 선거에서 인공지능의 기만적 사용을 방지하기 위한 기술 협약’(Tech Accord to Combat Deceptive Use of AI in 2024 Elections)을 공동으로 발표했습니다.
이들은 사기성 AI 선거 콘텐츠의 위험을 완화하기 위한 기술 개발 및 구현, 위험 평가 모델 수립, 플랫폼에서 허위콘텐츠 탐지 및 해결을 위한 노력, 회사가 문제를 어떻게 해결하는지 투명하게 공개, 다양한 글로벌 시민사회단체·학계와 협력 등 8가지를 약속했습니다.
- 1. 적절한 경우 오픈 소스 도구를 포함하여 사기성 AI 선거 콘텐츠와 관련된 위험을 완화하기 위한 기술 개발 및 구현
- 2. 사기성 AI 선거 콘텐츠와 관련하여 발생할 수 있는 위험을 이해하기 위해 본 협정 범위 내에서 모델을 평가
- 3. 플랫폼에서 허위조작 콘텐츠의 배포를 탐지하려고 노력
- 4. 플랫폼에서 감지된 콘텐츠를 적절하게 해결하기 위해 노력
- 5. 사기성 AI 선거 콘텐츠에 대한 산업 전반의 탄력성 강화
- 6. 회사가 문제를 어떻게 해결하는지 대중에게 투명성 제공
- 7. 다양한 글로벌 시민사회단체, 학계와 지속적으로 협력
- 8. 대중 인식, 미디어 활용 능력, 사회 전체의 회복력을 강화하기 위한 노력 지원
▶협정문(A Tech Accord to Combat Deceptive Use of AI in 2024 Elections) 원문 보기