DeepFake虚假内容泛滥，Twitter出手了
时间：2019-11-12 | 栏目：业界 | 点击：次
北京时间11月12日下午消息，据路透社报道，社交媒体平台Twitter周一宣布，公司拟推出处理人工智能合成（deepfake）视频和其他篡改内容的计划，并呼吁公众积极反馈。
随着2020年11月的美国总统大选一日日趋近，社交媒体也承受着越来越大的压力，需应对各种被篡改的内容，包括人工智能合成的视频。Twitter在公司的一篇博客文章里提到了这个新的计划，称平台打算在推文下方附加一条提示信息——“包含合成或篡改内容”，在人们点赞或转发推文前给予提示，或者在新闻报道下方增加一个链接说明为什么大多数人认为该内容是合成或篡改的。
公司还表示，若包含这类内容的推文具有误导性并有可能威胁人身安全或导致其他严重伤害的，公司或可从平台上删除这类内容。
根据博客文章，Twitter提议将合成和篡改的内容定义为任何“以误导大众或改变其愿意为目的而实质性更改或伪造过的”照片、音频或视频，意味着人工智能合成内容或手中合成的内容亦将被归来为合成和篡改的内容。
去年，Twitter已经禁止对私密内容进行人工智能合成编辑：公司的政策禁止在平台上发布采用数字方式将一个人的头像合成到另一个裸体身上的照片或视频。
尽管精心合成的视频尚未在美国造成严重的政治后果，但这类视频所能造成的混乱已经在5月份的时候得到印证。彼时，众议院议长南希·佩洛西（Nancy Pelosi）的一段视频被有意放慢，造成醉酒的假象。
佩洛西视频之后，Facebook的首席执行官马克·扎克伯格（Mark Zuckerberg）也遭到恶搞。一段恶搞视频在Instagram上流传，视频里扎克伯格说“谁掌握了数据，谁就掌握未来”。但Facebook事后并未删除这段视频。
7月份，美国众议院情报委员会主席亚当·希夫（Adam Schiff）致信Facebook、Twitter和谷歌的首席执行官们，要求各公司在2020年大选之前出台应对人工智能合成图像和视频的策略。
Twitter已经公开其新计划，并邀请公众通过#TwitterPolicyFeedback话题发表建议，直至11月27日。
上个月，亚马逊旗下的亚马逊网络服务（AWS）也表示将与Facebook和微软一起接受“人工智能合成检测挑战”。