RightsCon 2022 ‘빅테크 기업의 성표현물 검열에 관하여’ 세션 참가 후기

글 | 오경미(오픈넷 연구원)

주제: 빅테크 기업의 성표현물 검열에 관하여

일시: 2022년 6월 7일 오후 9:15 – 10:15(한국시간) / 온라인

사회: 박경신, 고려대 법전원 교수, 사단법인 오픈넷 집행이사(Kyung Sin (“KS”) Park, Professor, Korea University/ Executive Director, Open Net Association)

패널:
베일 베일, 여성권리프로그램 섹슈얼리티&네트워크 코디네이터(Hvale Vale, Sexuality and Networks coordinator at Women’s Rights Programme of Association of Progressive Communications) 
다이타 카투라니, 액세스나우 동남아시아 지역 헬프라인(Dhyta Caturani, Helpline SEA Regional Coordinator, Access Now)
비샤카 다타, 포인트 오브 뷰 소장(Bishaka Datta, Executive Director, Point of View)
오경미, 오픈넷 연구원(Kyoungmi Oh, Researcher, Open Net Association)

2022년 6월 7일, 온라인으로 개최되는 RightsCon 2022에 사단법인 오픈넷이 페이스북과 텀블러를 운영하는 이른바 빅테크 기업이 성적 표현물을 검열하고 삭제해왔던 관행에 관해 비판하는 토론회를 기획하고 참여하였다. 

페이스북, 텀블러 등 빅테크 기업이 자발적으로 성적 표현물을 삭제하는 사례가 증가하고 있다. 정치적 표현이나 불쾌감을 유발하는 표현 등은 요청에 의해 복원되는 경우가 많았으나 성적인 표현은 복구되는 경우가 거의 없었다. 성적 표현물 삭제에 있어 심각한 문제는 삭제의 정당한 기준이 없다는 것이다. 아동포르노, 성폭력영상과 함께 성교육 관련 자료, 모유수유 사진, 성정체성을 드러내는 이미지, 여성해방을 위해 유두를 의도적으로 드러낸 이미지 등이 그간 ‘성적 표현물’이라는 이름으로 삭제되었다. 예술작품도 예외가 아니었다. 2018년에는 빌렌도르프의 비너스상이 페이스북에서, 2019년에는 루벤스의 그림이 인스타그램에서, 2021년에는 아라키 노부요시의 사진이 틱톡 계정에서 삭제되었다. 비엔나에 위치한 미술관들은 테크 기업들의 검열에 반대하는 차원에서 ‘온리팬’이라는 성인 전용 플랫폼에 계정을 만들어 전시를 홍보하고 있다. 비엔나 미술관의 관계자는 누드화를 소장하고 있는 미술관은 계정 정지를 반복적으로 경험할 수밖에 없다는 점을 토로하기도 했다. 

다른 성격과 목적에 따라 생산된 이미지들을 ‘성적 표현물’이라는 단일의 기준으로 일원화해 삭제하거나 차단하는 등의 규제 방침은 비용의 효율성 때문이기도 하다. 온라인 플랫폼 소비자들의 권익을 보호한다는 목적 아래 인종, 성별, 종교, 세대 등에 대한 혐오 발언이나 아동 성착취물 등 민감한 정보를 플랫폼이 삭제하지 않으면 패널티를 주는 등의 처벌이 그간 전 세계적으로 강화되어 왔다. 필요한 정보, 위험한 정보, 보호해야 할 정보를 구분하는 것은 테크 기업의 입장에서는 막대한 비용을 의미한다. 그래서 테크 기업들은 약간이라도 문제가 될 수 있는 정보는 무자비하게 삭제하는 전략을 취해왔던 것이다. 

성적인 표현에 대해 깊은 고려 없이 성급히 삭제해버리는 것은 단기적으로는 효과적일 수 있다. 그러나 필요한 정보가 유통되는 환경 조성을 불가능하게 만들 것이다. 또 성적 다양성을 추구하기 어려운 환경을 고착시킬 것이다. 이는 결국 사회의 보수 성향을 더욱 강화해 장기적으로는 우리 사회에 더욱 큰 손실을 가져올 것이다. 

이와 같은 문제의식 아래, 오픈넷은 페미니스트 패널들과 함께 아래의 네 가지 질문을 중심으로 패널 토론을 진행하였다. 

1. 성적인 표현물과 위험한 성적 표현물은 어떻게 규정할 수 있을까?
2. 성적 표현물을 삭제하는 것은 옳은 방법인가?
3. 민간 기업이 성적 표현물을 검열하는 것에 대해 어떤 의견을 가지고 있는가?
4. 성적 표현은 여성, 성소수자, 성평등은 물론이고 민주주의에 어떤 의미를 가지는가?

본 세션은 박경신 오픈넷 이사가 사회를 맡았으며 오경미 연구원이 주어진 질문에 먼저 답을 하고 패널이 첨언하는 순서로 진행되었다. 성적 표현물과 위험한 성적 표현물은 어떻게 규정할 수 있을 것인가라는 첫 번째 질문에 오경미는 다음과 같이 답했다. 페이스북은 커뮤니티 규정 아래 여러 주제로 규제해야 하는 콘텐츠를 분류하고 있는데, 이 규정에서 무엇이 성적 표현이고 무엇이 위험한 성적 표현인지 분명하게 구분되어 있다. 그중 불쾌한 콘텐츠는 차단해야 하는 성적 표현을 가리키는데, 남성과 여성의 성기, 항문, 노출된 여성의 유두, 성교나 오럴 섹스를 연상시키는 이미지나 발기한 성기 등 성적 행위를 묘사하거나 충동하는 표현이 검열의 대상이다. 안전 규정은 합의되지 않은 성적 접촉, 강제로 옷을 벗기는 행위나 동의 없이 가슴이나 사타구니, 엉덩이, 허벅지 등의 신체를 촬영한 이미지, 사적인 성적 대화를 공유하겠다는 협박성의 표현이 그 대상이다. 그런데 개념 정의보다 중요한 것은 성적 표현과 위험한 성적 표현을 구분하지 않고 삭제한다는 것이다. 페이스북은 성적 표현물이 사람들에게 불쾌감을 유발하기 때문에 차단한다고 공식적으로 밝혀왔다. 결론적으로 페이스북은 성적 표현과 위험한 성적 표현을 구분은 하지만 모두 삭제하는 조치를 취해 결과적으로는 모든 성적 표현물을 합의되지 않은 친밀한 이미지인 위험한 성적 표현물로 취급하고 있다고 볼 수 있다. 규정을 확인해보기 위해 직접 실험을 해보았다. 오경미는 로버트 메이플소프의 사진 작품과 피에르와 쥴의 사진 작품을 페이스북 피드에 업로드 했더니 메이플소프의 작품만 삭제 조치를 당했다. 

오경미는 실험을 통해 페이스북이 섹스 그 자체를 위험하다고 생각하고 있음을 보다 확신할 수 있었다고 하였다. 이에 비샤카 다타 포인트오브뷰 소장(이하 ‘비샤카’)은 성적 표현은 광범위하다, 섹스 젠더 정체성, 역할 오리엔테이션, 행동, 친밀한 즐거움 등등이 성적 표현에 포함된다고 성적 표현의 범주를 확정하였다. 그럼에도 불구하고 섹스는 그 자체로 낙인 찍혀 있고, 이런 것들은 위험하다고 생각되고 있다고 지적했다. 무엇이 성적 표현인가 위험한 성적 표현인가라는 질문에 비샤카는 동의를 거쳐 이루어진 행위는 성적 표현, 동의가 이루어지지 않고 일어난 성적인 행위는 위험한 성적 표현으로 구분해야 한다고 주장했다. 위험한 성적 표현은 누드이건 아니건 그 내용은 상관없는 것이라고 하였다. 또한 검열은 위험을 초래할 것이라는 상상 때문에 이루어지는 것으로, 사회는 상상된 위험과 실제 위험을 구분해야 할 것이라 하였다. 발레 베일 여성권리프로그램 섹슈얼리티&네트워크 코디네이터(이하 ‘발레’)는 테크 기업이 제시하는 성적 표현의 기준은 매우 좁으며 우리는 우리의 경험을 이렇게 좁은 프레임에 맞춰야 한다고 하였다. 그러니 다른 프레임 워크를 제시할 필요가 있다고 하였고, 성적 표현을 표현의 자유로 간주해야 하며 성적 표현을 검열하는 것은 이성애자, 성소수자, 남성, 여성 등 사회적 지위에 있어 차등이 있는 집단의 표현의 권리를 위계화를 의미하는 것이라고 비판적으로 말했다. 액세스나우 동남아시아 지역 헬프라인의 다이타 카투라니(이하 ‘다이타’)는 비샤카의 의견을 이어 상상된 위험 역시 편견으로 가득찬 것으로, 예를 들어 남성과 여성의 토플리스 이미지 배포에 있어서도 남성은 허용되고 여성은 차단되는데 이것도 차별에 따른 것이라 말했다. 즉 상상된 위험 역시 여성의 몸에 대한 도덕적 편견에 따라 이루어진다는 지적이었다.

두 번째 질문과 세 번째 질문에 오경미는 다음과 같이 답했다. 기업들은 자신의 사이트에 이용자가 되도록 오래 머물러야 이익을 얻을 수 있으므로 기업들이 불쾌하다고 규정되는 성적 표현을 무작위로 삭제하는 것을 이해할 수 없는 것은 아니나, 문제는 성적 표현이 평등하게 삭제되지 않고 있다는 것이다. Center for Intimacy Justice는 2021년에 진행한 연구를 통해 여성의 성적 건강 증진을 위해 도구와 약물을 생산하는 60개 회사가 페이스북 피드에 게재한 홍보물이 삭제조치 당한 것을 인터뷰를 통해 알아냈다. 이들은 광고에서 “골반 통증”, “폐경”, “생리”, “생식”과 같은 단어 등을 언급했다. 이 중 35개 정도의 회사는 계정을 정지당하기도 했다고 한다. 그러나 은유적인 표현과 이미지로 남성의 성기능을 강조하는 광고들은 삭제조치 당하지 않았다. 

또 오경미는 기업이 성적 표현을 삭제 차단하는 등으로 관리하는 것이 매우 위험하다고 말했다. 삭제의 대상이 되는 표현들은 주로 여성을 성적으로 대상화하는 것들인데, 이런 표현은 여성의 독립성을 위축시키고 종속성을 강화할 가능성이 있어 이를 비판적으로 바라보는 여성을 불편하게 만들 수 있다. 이 불편함이 여론을 형성하여 테크 기업의 성적 표현 검열과 차단에 영향을 미쳤을 수 있다. 그러나 표현을 비판하는 것과 그 표현을 삭제하는 권한을 가지는 것은 다른 문제라고 선을 그었다. 성적 표현은 가치 판단에 속하는 것인데, 가치 판단은 사실이나 거짓 혹은 예/아니오로 판명되는 문제가 아니다. 가치 판단은 토론을 거쳐 그 옳고 그름이 판명되는데, 테크 기업이 기계적으로 특정 표현을 차단 조치하는 것은 비판적 토론의 과정을 삭제하는 것이라 위험하다고 하였다. 오경미의 답에 먼저, 발레는 우리는 주어진 문제를 어떻게 빠져나갈지 방법을 찾으려 할 때 매우 창조적이 된다, 배제된 자들이 창조적일 수 있다, 시스템을 창조적인 방법으로 파괴하면서 그곳에 계속 머무르려 하는 것도 매우 중요하다고 제언했다. 또 대안적인 인프라 스트럭처를 개발하는 것도 중요하다고 조언했다. 창조적 방법과 대안적인 사이트를 개발하는 사람들은 좁게 규정된 성적 표현의 정의를 재규정하는 힘이라고 강조했다. 비샤카는 우리 사회가 왜 성적 표현을 삭제하기를 원하는지, 그것을 삭제해버릴 때 그 결과는 누가 책임지게 되는지 생각해봐야 한다고 말했다. 드랙퀸, 백인우월주의자, 역대 대통령 중 언어적인 성적 표현이 트위터에서 가장 빈번하게 삭제되는가에 관한 연구를 인터넷랩이 2년 전에 했었데, 드랙퀸의 성적 표현이 백인우월주의자의 표현보다 더 위험한 것으로 고려되었고 그래서 더 많이, 자주 삭제되었다고 한다. 그들의 언어가 위험한 것으로 자주 고려된 이유는 성소수자들은 비성소수자들이 성소수자들을 향해 사용하는 비하의 언어를 전복하기 위해 커뮤니티에서 의도적으로 자신들을 비하하는 표현을 사용하지만 플랫폼과 알고리즘은 이 문맥을 읽지 못하고 단어를 그 자체로 받아들이기 때문이다. 또 인스타그램에는 섀도우 배닝이라는 기능이 있어 특정한 포스팅의 유통을 저하할 수 있다. 주로 성노동자들의 포스팅이 그 대상이 된다고 하였다. 즉 비샤카는 받아들이기에 불편하고 불쾌하다는 이유로 삭제할 권한을 플랫폼에 위임한 결과가 고스란히 사회적 약자들에게 떠넘겨지고 있다는 것을 지적한 것이다. 다이타는 성적 표현과 위험한 성적 표현의 정의를 테크 기업들이 정확하게 알아야 하며, 성적 표현을 권리의 차원에서 이해할 것을 요구했다. 그리고 테크 기업들은 성적 표현을 지우는데 많은 비용을 소모하기보다 폭력적인 성적 표현물을 처리하는 데 필요한 메커니즘을 개발하는 것에 더 많은 관심을 기울여야 한다고 비판했다. 진짜 폭력적인 이미지나 영상물들이 데이터 베이스에 포함되어 메커니즘을 리포팅해 이미지나 표현물을 삭제하는 데는 매우 오랜 시간이 걸리며, 그렇기 때문에 정보의 유포로 입은 피해를 극복하는 것은 희생자에게 떠안을 수밖에 없었다는 것이다. 테크 컴퍼니는 항상 비용을 고려해야 한다고 말하지만 그들은 이미 이용자들로 인해 많은 돈을 벌고 있으니 이용자의 권리와 안전을 보호하는 것은 그들의 제일의 의무라고 강하게 비판했다. 

네 번째 질문에 오경미는 성노동자의 경우를 예로 들어 답했다. 성노동 역시 가정이라는 공간에서 이루어지는 여러 가사노동 중 상품화된 노동의 하나이다. 대부분의 가사노동이 상품화되면서 그것이 여성의 일, 가사노동이라는 이유로 평가절하되어 왔었는데, 성노동은 특히 성적 서비스를 거래한다는 이유로 더욱 터부시되었다. 이런 이유로 성노동자들은 위험을 피하기 위해 열악한 종사 환경을 고발하고 위험한 부류에 속하는 구매자에 관한 정보를 플랫폼으로 공유하고자 하지만 이들의 정보는 성적 표현이나 불쾌한 표현으로 분류되어 빠르게 삭제처리된다. 이처럼 상품화된 가사노동을 평가절하하는 것은 환원적으로 가정 내에서 무보수로 여성들에 의해 행해지는 가사노동을 평가절하하게 된다. 그러므로 성적 표현을 삭제하는 것은 지금보다 더 심도 깊게 고려되어야 한다고 답을 마무리했다. 비샤카는 성적 표현은 단지 성적인 부분에만 해당되는 것이 아니라 삶의 모든 부분과 연결된 것이니 그것을 삭제하거나 관리하고 통제하는 것은 다른 모든 권리를 통제하고 관리하는 것과 필연적으로 연결된다고 하였다. 플로어에서는 질문 보다는 빅테크 기업의 사이트들이 보수적인 사회를 반영하고 있다는 점, 성적 표현을 금기시하는 문화는 법률에도 반영되어 있으며 범죄시되어 처벌하는 국가도 존재하고 있다는 점 등을 들며 세션에 참여한 패널리스트들의 의견에 동의하는 의사를 표명해주었다. 다이타와 발레는 끝으로 룰을 피하기 위해 창조적인 방법을 개발하는 것, 투명성을 지속적으로 테크 기업에게 요구하는 것도 좋은 방법이라는 조언을 덧붙였다.