霉霉再成Deepfake受害者：AI“不雅照”被疯传，粉丝网友全都怒了
热搜大全 2024-01-26
Deepfake 最新受害者出现了——全球顶流，霉霉女士（Taylor Swift）。
近乎是在一夜之间，X、Facebook 等社交平台上便充斥了大量虚假 " 不雅照片 "，而且浏览量已经高达上千万！
△图片由 Deepfake 合成
尽管最早传播这些图片的账号已被封禁，但照片的流传仍未彻底阻断。
霉霉本人也已经得知此事，对此表示相当愤怒，粉丝们也自发组织了保护行动。
在 X 上，有网友直接 @马斯克，喊话说这事老马你得出来管管了。
虚假照片病毒式传播
事情要从霉霉和美国 NFL 橄榄球运动员 Travis Kelce 的恋情说起。
Kelce 效力于堪萨斯城酋长队，两人的恋爱关系被曝光后，霉霉也成为了该球队比赛的常客。
于是便有人借题发挥，用 AI 生成了以球场为背景，涉及霉霉和多名虚构 " 队员 " 的露骨照片。
△图片由 Deepfake 合成
而关于这些图片的传播过程，则存在多种传闻，The Verge 的说法是最早出现在某加密聊天群组当中。
英国《每日邮报》则称，这些 Deepfake 照片一开始被传至一家不良网站，这个网站上充斥着大量以知名人士为主角的不雅照片。
除了霉霉，这家网站还收录了成百上千的名人，包括饰演芭比的 Magrot Robbie 也未能幸免。
照片传上网后不久，在 X、Facebook 等各大社交媒体中就出现了疯狂的传播，据悉浏览量高达上千万。
"Taylor Swift AI" 一度成为了 X 上的热门话题，不过目前疑似已被屏蔽。
得知此事后，霉霉的粉丝们在 X 上发起了保护行动，"PROTECT TAYLOR SWIFT" 变成了新的热搜。
但也有人混入其中，假借 "PROTECT" 的标签继续传播那些虚假照片……
愤怒的粉丝们挖出了一名疑似造成照片大量传播的始作俑者，并表示其有多年的性骚扰的前科。
该账号目前已经设置了访问权限，但据有权限的用户透露，该用户在自己的账号上嚣张地挑衅说 " 你们找不到我 "。
截至目前，一些参与传播照片账号已被各大平台陆续封禁，但仍有不少漏网之鱼。
甚至有人在自建网站上公开叫卖霉霉的宣称是 " 自制 " 的 deepfake 照片合集，1 套要价 10 英镑。
一名据称是接近霉霉的消息人士告诉《每日邮报》，其本人对此表示非常愤怒，团队正在考虑是否采取法律手段。
另据了解，此次事件已经不是霉霉第一次遭遇 Deepfake，但上一次只是冒充她的形象和声音给产品带货，并未出现露骨内容。
美联社的一份报告显示，去年互联网上出现的 Deepfake 视频多达 14 万段，超过了以往的总和。
而面对 Deepfake，像霉霉这样的名人尚且有粉丝和团队帮忙澄清、喊话，但普通人如果有这样的遭遇，可能就百口莫辩了……
该设法防御 Deepfake 了
此次事件中，各大平台的删帖行动可能还算及时，在 X 上，大部分相关内容都已不见踪影。
Facebook 方面，母公司 Meta 也有一名发言人告诉《每日邮报》：
这些内容违反了我们的政策，我们正在将其从我们的平台上删除，并对发布该内容的帐户采取行动。
但也有网友说，这不是删除的问题，这些照片一开始就不应该出现在这些平台上。
对此 Meta 也做出了回应，表示 " 会继续监测并及时删除违规内容 "。
而在技术层面，Nature 杂志也在其 "2024 最值得关注的七项技术 " 一文中提及了 Deepfake 检测。
Nature 的文章中指出，让开发者在 AI 工具中加入隐形水印机制或许是一种方案。
但这种做法可能更多是在事后进行追踪，同时起到一定的震慑作用，但想从根源上阻止 Deepfake，可能还需要全人类的共同努力……
