지난 주, 테일러 스위프트의 성적으로 노골적인 딥페이크 이미지 만든 것으로 전해진다 인공지능을 활용한 영상이 소셜미디어를 통해 전파됐다. 이는 딥페이크와 디지털 괴롭힘의 위험이 커지고 있음을 보여주는 최신이자 가장 주목받는 사례였습니다.
스위프트는 이런 일이 일어난 최초의 여성도 아니고 마지막도 아닐 것이다. 음란물 딥페이크의 거의 모든 피해자는 전 세계 수백만 명의 팬이 온라인에 있고 이에 대해 잘 알고 있는 억만장자 팝스타보다 자원이 적다고 해도 과언이 아닙니다. 하지만 이런 일이 일어날 수 있다는 사실은 심지어 테일러 스위프트에게도 이 문제에 대한 새로운 관심과 더 많은 청중의 관심을 불러일으켰습니다. 옹호론자들은 학대를 방지하기 위해 연방법 제정에 박차를 가하고 있다고 말합니다.
화요일 미국 상원의원들은 초당파적 법안을 제출했습니다. 2024년 명시적 위조 이미지 및 합의되지 않은 편집 방지법 (DEFIANCE Act)을 통해 합의되지 않은 딥 페이크 포르노를 해결하고 방지할 수 있습니다. 이 법안은 '소프트웨어, 기계 학습, 인공 지능 또는 기타 컴퓨터 생성 또는 기술 수단을 사용하여 진짜인 것처럼 위장한' '디지털 위조'의 피해자가 가해자를 민사 소송을 제기할 수 있도록 허용하여 처음으로 정의를 구할 수 있는 기회를 제공합니다.
합의되지 않은 딥페이크 포르노의 피해자들은 딥페이크 포르노를 제작, 배포, 요청하는 사람들을 고소하는 데 큰 성공을 거두지 못했다고 옴니 미란다 마톤(Omny Miranda Martone)이 말했습니다. 성폭력예방협회(SVPA) . 기술은 여전히 상당히 새로운 기술이며, 기술과 관련된 다른 사회적 문제와 마찬가지로 법률도 따라잡아야 합니다. 그 동안 기술은 누구나 AI로 생성된 딥페이크를 더욱 쉽게 만들 수 있도록 발전했습니다.
'일상적인 개인에 대한 성폭력의 양이 급증했습니다.'
'약 2년 전까지만 해도. . . 누군가는 고성능 컴퓨터가 필요했고, 기술에 대해 많은 것을 알고 혼란스러운 시스템을 작동할 수 있어야 했으며 잠재적으로 시스템 자체를 구축할 수도 있어야 했습니다. 그리고 현실적으로 보이려면 피해자의 사진이 많이 필요했습니다.'라고 Martone은 설명합니다. 하지만 AI 기술이 크게 발전해 누구나 단 한두 장의 사진만 사용해 정말 현실적으로 보이는 비합의적 딥페이크 포르노물을 만들 수 있는 수준에 이르렀습니다. 그들은 기술에 대해 많은 것을 알 필요가 없습니다. 휴대전화나 컴퓨터에서 앱이나 웹사이트에 접속하여 단 몇 초 만에 만들 수 있습니다.'
2017년 기준으로 볼 때 오늘날에는 정말 놀라운 일입니다. 여덟 명 중 한 명 소셜 미디어 사용자들은 합의되지 않은 포르노의 표적이 되었다고 보고했으며 소셜 미디어를 사용하는 성인 20명 중 1명은 가해자였습니다. 사이버 민권 이니셔티브 .
이러한 기술적 발전과 '인터넷에 접속할 수 있는 사람은 누구나 쉽게 만들 수 있다는 사실'로 인해 '일상적인 개인에 대한 성폭력의 양이 급증했습니다'라고 Martone은 말합니다. 유명인은 이미지의 가용성으로 인해 가장 일반적인 대상이었습니다. '그러나 이제 [가해자]에게는 누군가의 LinkedIn이나 소셜 미디어, 회사 웹사이트에서 얻을 수 있는 사진 몇 장만 있으면 됩니다.'라고 Martone은 설명합니다.
구글의 윤리적 인공 지능 팀의 전 공동 책임자인 마가렛 미첼(Margaret Mitchell)에 따르면 이는 여성에게 불균형적으로 해를 끼치는 것이라고 합니다. '그것은 극도로 위반적이며, 피해자라면 극도로 충격적인 심리적 영향을 미칩니다. 그것은 또한 객관화하기 때문에 다른 사람들이 전문적인 렌즈가 아닌 성적인 렌즈를 통해 당신을 보도록 영향을 미칩니다. 그렇다면 이는 기회에 영향을 미칠 수 있다는 것을 의미합니다.'라고 그녀는 247CM에 말합니다.
'여성들은 이미 리더로 여겨지고 직장에서 진지하게 받아들여지기 위해 고군분투하고 있습니다. 이런 종류의 콘텐츠가 떠돌면 여성이 승진하고 더 많은 리더십 위치에 오르는 방법에 영향을 미칠 수 있습니다.' 현재 AI 빌더를 위한 개방형 플랫폼인 Hugging Face의 최고 윤리 과학자인 Mitchell은 계속해서 말합니다. '그것은 때때로 추적하기 정말 어려울 수 있는 방식으로 많은 것들에 스며들지만, 근본적으로 당신이 자신을 보는 방식, 자신에 대해 느끼는 방식, 다른 사람들이 당신을 대하는 방식에 영향을 미칩니다.'
Swift의 경우 이미지의 출처는 다음과 같습니다. 4chan 텔레그램에서 여성에 대한 모욕적인 이미지를 유포하는 데 사용되는 그룹이 보고되었습니다. 404 미디어 . 매체에 따르면 무료 마이크로소프트 AI 생성기인 디자이너(Designer)는 합의되지 않은 콘텐츠를 제작하는 데 종종 사용된다고 한다. 보고에 따라 Microsoft는 허점을 막았다 이를 통해 Designer는 AI로 생성된 유명인 포르노를 만들 수 있었습니다.
그러나 그 동안 해당 이미지는 이전에 트위터로 알려진 X에 빠르게 넘쳐났습니다. 일론 머스크 시대 콘텐츠 조정의 이례적인 사례로 X는 '테일러 스위프트' 검색에 임시 차단을 실시해 확산 속도를 늦췄지만 이미지를 모두 삭제하지는 못했다고 CBS뉴스는 전했다. 보고됨 . X의 반응은 수많은 Swifties가 게시물을 보고하고 사이트에 해당 게시물을 삭제하도록 요구한 이후에 이루어졌습니다. 이는 또한 해당 게시물이 이미 널리 퍼진 후에 나온 것입니다. 확인된 사용자의 계정이 정지되기 전 17시간 동안 한 게시물은 이미 조회수 4,500만 회, 리트윗 24,000회, 좋아요 및 북마크 수십만 개를 기록했습니다. 더 버지 . 1월 29일 월요일까지 블록이 만료되었습니다.
SVPA는 한동안 의회와 협력해 왔지만(Martone은 작년에 이 문제를 해결하도록 촉구하는 공개 서한을 보냈다고 말했습니다) Martone이 보기에는 'Taylor Swift 뉴스가 정말 커질 때까지 조치를 취하지 않은 것 같습니다.'
'아무도 귀하의 이미지에 관심을 두지 않는다고 느끼더라도 AI는 관심을 갖습니다.'
그럼에도 불구하고 합의되지 않은 음란물 피해자의 대부분은 주목을 받지 않습니다. 대부분은 여성이고 많은 사람들이 인종, 민족, 성적 지향 등 소외된 정체성을 갖고 있습니다. 예를 들어, SVPA는 체육관에서 운동을 하고 있던 대학생 여성과 함께 일한 적이 있습니다. 그녀는 한 남자에게 맞았지만 그녀는 이를 거절했습니다. 몇 주 후, 또 다른 체육관 회원은 그녀가 거부한 남자가 그녀에 대한 딥페이크 포르노를 만들었고 체육관에서 다른 회원들에게 보여주고 인스타그램에 게시했다는 사실을 알리기 위해 그 여자를 옆으로 데려갔고, 그녀는 그것을 삭제할 수 있었습니다. Martone은 이 문제에 대한 작업을 고려할 때 최근에 딥페이크 포르노를 제작했다고 말했습니다.
법안이 없으면 어떤 조치도 취하기 어렵습니다. 문제가 있는 콘텐츠는 가짜로 인정되기 때문에 명예훼손으로 간주되지 않는다고 Martone은 덧붙였습니다.
어쨌든 우리 모두는 합의되지 않은 콘텐츠가 만들어지고 공유되는 것을 방지하기 위해 사회 전체가 노력해야 한다고 전문가들은 말합니다. 문제가 커지고 있고 지니를 다시 병 속에 넣는 것이 불가능하다는 생각이 필연성이나 무감각함을 조장해서는 안 됩니다.
Mitchell은 이러한 상황에 결코 직면하지 않을 것이라고 생각하는 사람들을 위해 기술 덕분에 이러한 상황이 너무 흔해져서 누구나 영향을 받을 수 있다고 강조합니다.
Mitchell은 다음과 같이 설명합니다. '사람들은 자신이 온라인에 올리는 모든 콘텐츠가 AI 교육의 일부로 사용되기 위해 개인이나 기업에 의해 잠재적으로 쓸어버릴 수 있다는 점을 인식해야 합니다. 따라서 Facebook의 일부 가족 사진은 일반 대중이 관심을 가질만한 것이 아닐 수도 있습니다. 그러나 그것은 질문이 아닙니다. 문제는 이 콘텐츠가 대규모 기술 기업에 의해 여성을 더욱 대상화하는 데 도움이 될 수 있는 방식으로 채택될 것인가 하는 것입니다.'
궁극적으로 주의해야 할 것은 기술입니다. Mitchell은 '아무도 귀하의 이미지에 관심을 두지 않는다고 느끼더라도 AI가 관심을 갖습니다.'라고 말합니다. 'AI 시스템은 여전히 그들을 쓸어버릴 수 있고, 여전히 당신을 허위로 표현하는 데 사용될 수 있으며, 어떤 종류의 보복 상황에도 사용될 수 있으며, 그런 악의적인 행위자가 될 사람이 있는 어떤 상황에서도 당신에게 개인적으로 해를 끼칠 수 있습니다.'
