폰테크 잘하는곳 페이스북과 인스타그램의 모회사인 메타가 인공지능(AI)을 이용한 딥페이크 나체 이미지를 생성하는 앱을 광고한 홍콩 회사를 고소했다.
20일 AFP통신과 홍콩 독립매체 더 위트니스에 따르면 메타는 최근 “온라인에서 나체 합성사진이 우려스럽게 증가하고 있다”며 SNS에서 딥페이크 사진 합성 앱의 홍보회사 역할을 해 온 조이 타임라인 홍콩을 상대로 28만9200달러(약 4억원)를 청구하는 소송을 홍콩 지방법원에 제기했다.
메타가 법원에 제출한 소장에 따르면 이 회사는 페이스북과 인스타그램에 최소 170개의 비즈니스 계정을 만들어 사진 합성 앱 광고를 게재한 혐의를 받고 있다. 메타가 손해배상금으로 제시한 금액은 광고를 모니터링하고 지우는 데 들어간 비용이다.
이 회사가 올린 광고는 지난 2월 기준 8만7000건이다. 일부 광고에는 AI가 생성한 노골적인 나체 이미지와 “사진을 올려 1분 만에 옷을 벗어요” “소녀의 옷을 지워요”라는 문구가 포함됐다. 이 같은 광고를 게시하는 것은 메타 규정을 위반한다.
메타는 자사 플랫폼에서 이 회사가 해당 광고를 제작, 게시, 공유, 배포하는 것을 금지하는 조치를 시행해 달라고도 법원에 신청했다. 딥페이크 합성 사진 또는 합의 없는 사생활 이미지를 제작·공유하는 앱과 관련된 모든 콘텐츠가 금지 대상이다.
조이 타임라인 홍콩은 2023년 1월 등록됐으며 같은 해 9월부터 광고를 게재했다. 장샤오·쟝스웨이란 이름의 2명의 주주가 지분 100%를 보유한다.
메타는 2023년 하반기 페이스북과 인스타그램에 나체 사진이나 동의를 받지 않은 사생활 이미지가 담긴 광고가 급증했다는 사실을 발견하고 원인을 파악한 결과 해당 광고들이 조이 타임라인 홍콩과 관련 있다는 사실을 확인했다.
메타는 자사 플랫폼에서 ‘옷 벗기기’ ‘누드화’ 등의 검색어를 금지 단어로 지정했으며, 사진 합성 앱을 감지하는 기술도 개발하고 있다고 밝혔다. 메타는 “우리는 이번 법적 조치를 통해 우리가 학대 문제를 얼마나 심각하게 인식하고 있는지 알렸으며 지역 사회를 학대로부터 보호하려는 헌신을 보여주겠다”고 밝혔다.
사용자마다 2개 이상 유출 우려도최근 수집된 것…피싱 범죄 ‘비상’
구글, 애플 등 글로벌 플랫폼에서 최대 160억개에 달하는 데이터가 유출됐다는 의혹이 제기됐다.
사이버 보안 전문 매체인 사이버뉴스는 올해 초부터 진행해온 모니터링에서 데이터셋(데이터의 묶음) 30개를 발견했다고 21일(현지시간) 보도했다.
이번에 발견한 데이터셋에는 작게는 수천만개에서 많게는 35억개 넘는 기록이 담겨 있었다. 모두 합치면 160억개에 달한다. 여기에는 구글, 애플 등 서비스의 아이디나 비밀번호 같은 로그인 정보가 포함됐다고 매체는 전했다. 160억개는 전 세계 인구의 약 2배에 달하는 숫자로, 사용자마다 2개 이상의 계정 정보가 유출됐을 가능성이 있다.
사이버뉴스는 데이터의 중복 가능성을 언급하며 “실제로 얼마나 많은 사람과 계정이 유출됐는지 파악하는 것은 불가능하다”면서도 해당 데이터 대부분이 최근 수집됐으며 과거 유출된 자료의 재활용이 아니라고 설명했다.
이번 유출은 ‘인포스틸러’라고 알려진 악성 소프트웨어에 의해 이뤄진 것으로 추정된다. 사이버뉴스 연구진은 이번에 유출된 데이터가 계정 탈취나 신원 도용, 각종 피싱 범죄 등에 악용될 수 있다고 분석했다.
이들은 페이스북과 구글, 애플 등 기업이 직접 해킹된 것은 아니라며 선을 그었다. 그러면서도 “해당 데이터셋에 이들 플랫폼의 로그인 URL이 포함돼 있었고, 이들 정보가 다크웹으로 유출되지 않았다는 의미는 아니다”라고 설명했다.
전문가들은 이용자들에게 비밀번호 변경 등의 조치를 권고하고 있다. 영국 서리대학교 사이버 보안 교수 앨런 우드워드는 이번 유출 보도가 “‘비밀번호 청소’를 해야 한다는 사실을 상기시켜준다”고 지적했다.
이어 주요 계정의 비밀번호를 바꾸고, 동일한 아이디와 비밀번호를 여러 서비스에 사용하지 않을 것 등을 제안했다.
