폰테크 신청 페이스북과 인스타그램의 모회사인 메타가 인공지능(AI)을 이용한 딥페이크 나체 이미지를 생성하는 앱을 광고한 홍콩 회사를 고소했다.
20일 AFP통신과 홍콩 독립매체 더 위트니스에 따르면 메타는 최근 “온라인에서 나체 합성사진이 우려스럽게 증가하고 있다”며 SNS에서 딥페이크 사진 합성 앱의 홍보회사 역할을 해 온 조이 타임라인 홍콩을 상대로 28만9200달러(약 4억원)를 청구하는 소송을 홍콩 지방법원에 제기했다.
메타가 법원에 제출한 소장에 따르면 이 회사는 페이스북과 인스타그램에 최소 170개의 비즈니스 계정을 만들어 사진 합성 앱 광고를 게재한 혐의를 받고 있다. 메타가 손해배상금으로 제시한 금액은 광고를 모니터링하고 지우는 데 들어간 비용이다.
이 회사가 올린 광고는 지난 2월 기준 8만7000건이다. 일부 광고에는 AI가 생성한 노골적인 나체 이미지와 “사진을 올려 1분 만에 옷을 벗어요” “소녀의 옷을 지워요”라는 문구가 포함됐다. 이 같은 광고를 게시하는 것은 메타 규정을 위반한다.
메타는 자사 플랫폼에서 이 회사가 해당 광고를 제작, 게시, 공유, 배포하는 것을 금지하는 조치를 시행해 달라고도 법원에 신청했다. 딥페이크 합성 사진 또는 합의 없는 사생활 이미지를 제작·공유하는 앱과 관련된 모든 콘텐츠가 금지 대상이다.
조이 타임라인 홍콩은 2023년 1월 등록됐으며 같은 해 9월부터 광고를 게재했다. 장샤오·쟝스웨이란 이름의 2명의 주주가 지분 100%를 보유한다.
메타는 2023년 하반기 페이스북과 인스타그램에 나체 사진이나 동의를 받지 않은 사생활 이미지가 담긴 광고가 급증했다는 사실을 발견하고 원인을 파악한 결과 해당 광고들이 조이 타임라인 홍콩과 관련 있다는 사실을 확인했다.
메타는 자사 플랫폼에서 ‘옷 벗기기’ ‘누드화’ 등의 검색어를 금지 단어로 지정했으며, 사진 합성 앱을 감지하는 기술도 개발하고 있다고 밝혔다. 메타는 “우리는 이번 법적 조치를 통해 우리가 학대 문제를 얼마나 심각하게 인식하고 있는지 알렸으며 지역 사회를 학대로부터 보호하려는 헌신을 보여주겠다”고 밝혔다.
국가인권위원회가 내부 격론 끝에 ‘새 정부 인권과제’를 의결했다. 일부 인권위 위원들은 ‘인권위 정상화’ 논의가 선행돼야 한다고 주장했지만 반영되지 않았다.
인권위는 23일 서울 중구 인권위에서 전원위원회를 열고 ‘새 정부 인권과제’ 의결의 건을 심의·의결했다. 인권위는 설립 이후부터 윤석열 정부까지 총 다섯 차례 ‘새 정부 인권과제’를 제시해 국정 과제에 반영될 수 있도록 해왔다.
이번에 마련한 16개 과제에는 기후위기 대응 및 에너지 전환 과정에서 취약계층 보호, 장애인 인권 보호, 실질적 성평등 제도화를 통한 차별시정 강화 등 내용이 담겼다. 이와 함께 인권위는 인권위원장과 인권위 상임위원 선출 시 ‘국민 후보 추천위원회’를 구성하는 내용도 담았다. 시민사회의 참여를 제도적으로 보장하고, 인권위의 정치적 독립성을 높이겠다는 취지다.
하지만 의결까지 과정은 험난했다. 이날 전원위에서는 이숙진 상임위원이 ‘인권위 정상화 방안’을 새 정부 과제에 포함하자고 주장했다. 이 위원은 “세계국가인권기구연합(GANHRI·간리)에서 (비상계엄 등) 국가 위기 상황에서 인권위가 시의적절하고 독립적인 방식으로 대응하는 데 실패해 인권위의 독립성과 신뢰성이 훼손됐다는 문제가 제기돼 특별 심사를 하게 된 것”이라며 “인권위는 지난 2월 ‘윤석열 방어권’ 결정으로 인해 독립성을 스스로 저버렸고 정치의 도구, 비인권 기구로 전락했다”고 밝혔다. 앞서 인권위는 지난 2월 헌법재판소 등에 윤석열 전 대통령의 탄핵심판 방어권을 보장하라는 취지의 안건을 수정 가결했고, 이를 두고 ‘내란 비호’ 논란이 일었다.
그러자 김용원 상임위원과 한석훈 위원 등은 “인권위의 독립성 보장이 먼저다” “차기 정부에 인권과제를 전달하는 게 정부에 잘 보이기 위함이냐” 등 반박하며 해당 방안의 과제 포함을 반대하고 나섰다.
결국 인권위 정상화 방안을 제외한 16개 과제만 포함됐고 이는 오는 24일 국정기획위원회에 업무보고로 제출될 예정이다.
