메타, SNS에서 ‘딥페이크 앱’ 홍보한 홍콩 기업 고소

메타, SNS에서 ‘딥페이크 앱’ 홍보한 홍콩 기업 고소
페이스북과 인스타그램의 모회사인 메타가 인공지능(AI)을 이용한 딥페이크 나체 이미지를 생성하는 앱을 광고한 홍콩 회사를 고소했다. 20일 AFP통신과 홍콩 독립매체 더 위트니스에 따르면 메타는 최근 “온라인에서 나체 합성사진이 우려스럽게 증가하고 있다”며 SNS에서 딥페이크 사진 합성 앱의 홍보회사 역할을 해 온 조이 타임라인 홍콩을 상대로 28만9200달러(약 4억원)를 청구하는 소송을 홍콩 지방법원에 제기했다. 메타가 법원에 제출한 소장에 따르면 이 회사는 페이스북과 인스타그램에 최소 170개의 비즈니스 계정을 만들어 사진 합성 앱 광고를 게재한 혐의를 받고 있다. 메타가 손해배상금으로 제시한 금액은 광고를 모니터링하고 지우는 데 들어간 비용이다. 이 회사가 올린 광고는 지난 2월 기준 8만7000건이다. 일부 광고에는 AI가 생성한 노골적인 나체 이미지와 “사진을 올려 1분 만에 옷을 벗어요” “소녀의 옷을 지워요”라는 문구가 포함됐다. 이 같은 광고를 게시하는 것은 메타 규정을 위반한다. 메타는 자사 플랫폼에서 이 회사가 해당 광고를 제작, 게시, 공유, 배포하는 것을 금지하는 조치를 시행해 달라고도 법원에 신청했다. 딥페이크 합성 사진 또는 합의 없는 사생활 이미지를 제작·공유하는 앱과 관련된 모든 콘텐츠가 금지 대상이다. 조이 타임라인 홍콩은 2023년 1월 등록됐으며 같은 해 9월부터 광고를 게재했다. 장샤오·쟝스웨이란 이름의 2명의 주주가 지분 100%를 보유한다. 메타는 2023년 하반기 페이스북과 인스타그램에 나체 사진이나 동의를 받지 않은 사생활 이미지가 담긴 광고가 급증했다는 사실을 발견하고 원인을 파악한 결과 해당 광고들이 조이 타임라인 홍콩과 관련 있다는 사실을 확인했다. 메타는 자사 플랫폼에서 ‘옷 벗기기’ ‘누드화’ 등의 검색어를 금지 단어로 지정했으며, 사진 합성 앱을 감지하는 기술도 개발하고 있다고 밝혔다. 메타는 “우리는 이번 법적 조치를 통해 우리가 학대 문제를 얼마나 심각하게 인식하고 있는지 알렸으며 지역 사회를 학대로부터 보호하려는 헌신을 보여주겠다”고 밝혔다. 인스타 팔로워 사는법
추천 0 비추천 0

작성자

(121.♡.249.163)

작성일

25-06-22 04:14

조회수

페이스북과 인스타그램의 모회사인 메타가 인공지능(AI)을 이용한 딥페이크 나체 이미지를 생성하는 앱을 광고한 홍콩 회사를 고소했다.
20일 AFP통신과 홍콩 독립매체 더 위트니스에 따르면 메타는 최근 “온라인에서 나체 합성사진이 우려스럽게 증가하고 있다”며 SNS에서 딥페이크 사진 합성 앱의 홍보회사 역할을 해 온 조이 타임라인 홍콩을 상대로 28만9200달러(약 4억원)를 청구하는 소송을 홍콩 지방법원에 제기했다.
메타가 법원에 제출한 소장에 따르면 이 회사는 페이스북과 인스타그램에 최소 170개의 비즈니스 계정을 만들어 사진 합성 앱 광고를 게재한 혐의를 받고 있다. 메타가 손해배상금으로 제시한 금액은 광고를 모니터링하고 지우는 데 들어간 비용이다.
이 회사가 올린 광고는 지난 2월 기준 8만7000건이다. 일부 광고에는 AI가 생성한 노골적인 나체 이미지와 “사진을 올려 1분 만에 옷을 벗어요” “소녀의 옷을 지워요”라는 문구가 포함됐다. 이 같은 광고를 게시하는 것은 메타 규정을 위반한다.
메타는 자사 플랫폼에서 이 회사가 해당 광고를 제작, 게시, 공유, 배포하는 것을 금지하는 조치를 시행해 달라고도 법원에 신청했다. 딥페이크 합성 사진 또는 합의 없는 사생활 이미지를 제작·공유하는 앱과 관련된 모든 콘텐츠가 금지 대상이다.
조이 타임라인 홍콩은 2023년 1월 등록됐으며 같은 해 9월부터 광고를 게재했다. 장샤오·쟝스웨이란 이름의 2명의 주주가 지분 100%를 보유한다.
메타는 2023년 하반기 페이스북과 인스타그램에 나체 사진이나 동의를 받지 않은 사생활 이미지가 담긴 광고가 급증했다는 사실을 발견하고 원인을 파악한 결과 해당 광고들이 조이 타임라인 홍콩과 관련 있다는 사실을 확인했다.
메타는 자사 플랫폼에서 ‘옷 벗기기’ ‘누드화’ 등의 검색어를 금지 단어로 지정했으며, 사진 합성 앱을 감지하는 기술도 개발하고 있다고 밝혔다. 메타는 “우리는 이번 법적 조치를 통해 우리가 학대 문제를 얼마나 심각하게 인식하고 있는지 알렸으며 지역 사회를 학대로부터 보호하려는 헌신을 보여주겠다”고 밝혔다.

인스타 팔로워 사는법