核查|脸书要求用户上传裸照防止色情报复?

2021-12-07 星期二


中文网络流传说法称,脸书(Facebook)的母公司Meta表示,为了防止用户遭到“色情报复”,公司开发了一个新平台,要求人们提交私密照片和视频,以便将来它们可以被识别并从平台上删除。该说法引来网民群嘲。


经核查,Facebook的母公司Meta的确与全球50余家机构合作建立了一个工具,让人们可以防止自己的私密图片或者视频在未经自己同意的情况下被上传到Facebook、Instagram和其他参与平台。


然而,根据设计,寻求帮助的用户不会直接上传自己的私密照片给Facebook或Instagram,而是将这些图像提交到一个名为StopNCII.org的网站。该网站也无法下载或存储原始图像的副本,这些图像将在用户的浏览器中被转换为哈希值。


参与计划的公司使用他们从StopNCII.org收到的哈希值,而不是用户上传的照片,来识别某人在其平台上分享或试图分享的图像,原始图像不会离开用户的设备。


尽管如此,对于这一手段的有效性以及数据泄露的担心依然存在。







中文网络流传信息称,社交媒体Facebook的母公司Meta表示,为了防止用户遭到色情报复,公司开发了一个新平台,要求人们提交他们的私密照片和视频,以便将来它们可以被识别并从平台上删除。


这一消息在微博引发了广泛讨论,被群嘲为“迷惑行为”。


所谓“色情报复(Revenge porn)”是一种未经过他人同意,任意散布含有他人色情内容之照片或影片等影像的报复手段。这些色情影像通常来自于与行为人具有亲密关系之伴侣,可能是在伴侣知道并同意的状况下取得,也可能是在伴侣不知道的情况下拍摄而得。拥有这些影像资料的行为者可能以色情报复意图作为一种勒索手段,强迫其伴侣持续他们的亲密关系,或是持续发生性行为,或是为了惩罚伴侣结束两人的关系而散布这些色情影像。


根据《卫报》2020年9月的报道,英国非营利组织Refuge最新的研究发现,七分之一的英国年轻女性收到过分享私密图像或视频的威胁,在英格兰和威尔士,每14个成年人中就有一个遭受过类似的威胁,这一数字相当于440万人。






 1,有关消息源自何处

据美国全国广播公司(NBC122日报道,Facebook的母公司Meta与英国的非营利组织Revenge Porn HelplineRPH,色情报复求助热线)合作,允许那些担心自己的私密照片或视频已经或可能被分享到网上的人,将这些图像提交到一个名为StopNCII.org的网站。



StopNCII.org的名称是 “Stop Non-Consensual Intimate Images(停止未经同意的私密图像的分享)”的缩写。


该网站将为这些图像创建一个“哈希值(hash)”,然后传递给参与计划的公司,包括Facebook和Instagram。每家参与公司将使用哈希匹配技术,检查与哈希匹配的图像或者视频是否被上传到自己的平台。如果检测到匹配,平台上的内容管理员将审查这些图片或者视频,以确认它们是否违反这些平台的政策,如果违反,这些内容将被删除,重新上传的尝试将被阻止。


Meta的全球安全主管安提戈内·戴维斯(Antigone Davis)也在官网发布了相关信息。



2,谁会看到这些图像


根据StopNCII.org官网的介绍,StopNCII通过从私密图像/视频中生成一个哈希值(hash)来工作。由于同一张图片的副本有相同的哈希值,因此哈希值有时被称为数字指纹(digital fingerprints


StopNCII.org称,该哈希值是StopNCII.org和参与计划的公司共享的唯一文件。StopNCII.org不会从用户设备上下载图像,而是收集最少的数据来运行服务,以帮助保护用户隐私。



Meta也声称,虽然参与计划的公司使用他们从StopNCII.org收到的哈希值来识别某人在其平台上分享或试图分享的图像,但原始图像从未离开该人的设备。只有哈希值,而不是图像本身,会与StopNCII.org和参与的技术平台共享。



不过,Meta全球安全政策总监卡露娜·内恩(Karuna Nain)承认,该系统只能检测到精确的图像匹配,因此,如果有人有“非常恶劣的意图”,他们可以对图像或视频进行微小的更改以逃避检测。

3,这一系统如何运作


用户可以进入StopNCII.org的主页中建立档案。StopNCII.org首先会询问用户的年龄、档案图片中出现的人物、图片大致内容、图片是否已被共享至网络等信息,然后用户可以上传想要保护的图片/视频。



每个用户档案最多只能上传20个图像/视频文件,向平台提交材料的用户可以实时跟踪其档案并可以随时选择退出。 



有据核查员在StopNCII.org发现,用户图片一经上传,该工具就会识别出其唯一的哈希值。只要图片内容不变,即使修改文件名称、改变图片大小,StopNCII.org都会生成同样的哈希值,且不能重复上传。



如果重复提交画面内容一致的文件,StopNCII.org将会提示用户的上传的文件是复制的或是不支持的文件。


完成档案的创建后,用户将获得一个档案编号。为追踪个人档案的进度,StopNCII.org会要求用户创建一个6-10个字符长的个人识别码(PIN)。如果丢失或忘记,个人识别码将无法重置,且不会与StopNCII.org及其项目合作公司共享。如果丢失了档案编号或个人识别码,用户将无法通过任何其他方式查找个人档案(截图中的选项和上传的图片仅为有据核查员测试使用,未最终提交相关图片——注)。



4,该工具有无争议


该工具在Facebook2017年在澳大利亚启动的试点项目基础上完善。


2017年11月,Facebook与澳大利亚政府合作应对私密图片泄露问题,用户必须首先在澳大利亚电子安全专员的网站上填写一份在线表格讲述其担忧。然后,用户将被要求在Facebook Messenger上将其希望得到处理的私密图片发送给自己,同时电子安全专员办公室将用户提交的内容通知Facebook。Facebook收到通知后,社区运营人员将访问该图像并对其进行哈希处理,以防止照片未来被上传或共享。


不过,这些做法遭到了很多批评。比如,Vox.com旗下的科技频道Recode的评论文章《打击色情报复,Facebook需要做的还有很多(Facebook can do more to protect us from ‘revenge porn’)》中总结了当时公众对此的质疑。该文章作者是关注个人隐私安全的应用程序Keepsafe的联合创始人祖海尔·贝尔库拉(Zouhair Belkoura)。


首先是用户上传了私密图片后,谁会审查这些图片?以及评估照片的人是什么性别,这项任务是否会助长现有的变态行为,还是会成为分析员审查、分析哈希值和创建图像的“数字指纹”的惩罚性任务?贝尔库拉认为,Facebook应该至少提供更多上传程序的细节,说明谁将审查Facebook要求用户提交的私密图片。


贝尔库拉还认为用户不一定真的愿意上传私密照片。“难道Facebook真的认为人们会心甘情愿地分享他们的私密照片,让其‘社区运营’团队的匿名的工作人员进行评估?Facebook采取了什么样的安全措施(除了在照片被审核后进行哈希运算外)来确保其用户的私密照片在提交给Messenger时得到保护?”他写道。


与2017年饱受争议的试验相比,Facebook如今选择与第三方合作。


根据StopNCII.org官网的介绍,这一网站是50多个专门从事基于图像的虐待、网络安全和妇女权利的全球合作伙伴协商开发的独立网站,由Revenge Porn Helpline(RPH,色情报复求助热线)运营。


Revenge Porn Helpline (RPH) 成立于2015年,帮助个人避免成为未经同意的亲密形象滥用的受害者。自成立以来,RPH已为数千名受害者提供支持。他们以超过90%的移除率成功地从互联网上移除了超过20万张未经同意发布的个人私密图片。


色情报复帮助热线的负责人索菲·莫蒂默 (Sophie Mortimer)说,“哈希值数据库需要在一个中立的地方独立保存,我们在帮助受未经同意分享私密图像影响的人方面获得了公众的信任和长期的良好记录。”


NBC高级记者Olivia Solon在推特中表示,“对于2017年的试点计划有很多批评,但是与我交谈的受访者迫切需要这种工具——任何可以阻止Ta们的私密图像在网络中传播的工具。这不是一个完美的解决方案,但它是一种控制色情报复的方法。”


Olivia Solon还表示:“与试点计划不同的是,(在StopNCII.org中)没有人会对私密照片在进行数字化处理之前对其进行审查,并且数字化处理只会发生在受害者的浏览器中。一旦平台找到与哈希值匹配的图像,就会对图像进行审查。这使系统容易受到滥用,但可以更好地保护隐私。如果没有其他方法,目前来看,这似乎是最好的(关于私密图片的)解决方案。我希望这会带来更多积极的行动和骚扰的结束,而不是误用(misuse)/滥用(abuse)(不知道在这种情况下哪个词是正确的)。”





Facebook的母公司Meta的确与全球50余家机构合作建立了一个工具,让人们可以防止自己的私密图片或者视频在未经自己同意的情况下被上传到FacebookInstagram和其他参与平台。


然而,根据设计,寻求帮助的用户不会直接上传自己的私密照片给Facebook或Instagram,而是将这些图像提交到一个名为StopNCII.org的网站。该网站是50多个专门与图像虐待、在线安全和妇女权利有关的全球合作伙伴协商开发的,网站也无法下载或存储原始图像的副本。这些图像将在用户的浏览器中被转换为哈希值。


参与计划的公司使用他们从StopNCII.org收到的哈希值,而不是用户上传的照片,来识别某人在其平台上分享或试图分享的图像,原始图像不会离开用户的设备。


尽管如此,对于这一手段的有效性以及数据泄露的担心依然存在。



核  查  员:王梓龙(汕头大学长江新闻与传播学院)
资料来源

https://weibo.com/1893801487/L4vi8cUrK

https://www.nbcnews.com/tech/social-media/meta-builds-tool-stop-spread-revenge-porn-rcna7231

https://about.fb.com/news/2021/12/strengthening-efforts-against-spread-of-non-consensual-intimate-images/

https://www.theguardian.com/world/2020/sep/16/uks-revenge-porn-helpline-registers-busiest-year-on-record

https://stopncii.org/

https://twitter.com/oliviasolon/status/1466379782304772098

https://about.fb.com/news/2017/04/using-technology-to-protect-intimate-images-and-help-build-a-safe-community/

https://www.vox.com/2017/12/7/16743956/facebook-revenge-porn-nude-photos-selfies-messenger-australia-online-privacy

https://www.vox.com/2017/4/5/15194360/facebook-ai-image-recognition-software-fight-revenge-porn

https://www.nbcnews.com/tech/social-media/inside-facebook-s-efforts-stop-revenge-porn-it-spreads-n1083631

原文地址:点击