【环球时报报道】困难——面对不当内容，“删帖”标准不统一让上万审查员头痛;使用人工智能却闹出不少笑话。

争议——因麻烦不断，脸书被美国媒体称作“道歉机器”;批评者称，限制内容与社交媒体的盈利模式相抵触，互联网公司没有“尽力”负责。

解决——德国专家呼吁：社交媒体需要自律，各国也要有严厉法律;中国学者提醒：视社交媒体为矛盾之源，西方在“杀死带来坏消息的信使”。

在新西兰枪击事件发生后，有媒体形容称，整个袭击案似乎就是为了社交网络时代而策划——枪手用相机拍摄作案过程，使用手机应用进行直播，其长篇自白书刻意使用网络用语。这让几大社交媒体连日来遭到各方激烈声讨。对于枪击视频迅速传播，这些“巨头”真的无能为力?面对数十亿用户，社交媒体平台确实难以保证没有疏漏，但它们的商业模式、对流量和点击率等的追逐，也导致其被怀疑没有主动尽力。社交媒体兴起的时间并不长，但它迅速改变人们交往的模式，也让网络放大效应得到前所未有的凸显。新西兰恐袭事件让人们认识到了社交媒体作用的另一面，这是一个代价沉重的提醒。不过，在一片议论声中，被提醒的或许不应只有社交媒体。

社交媒体当“帮凶”有先例

2015年8月26日，美国弗吉尼亚州两名电视记者在直播时突然遭枪击身亡，枪手是一名一直心怀不满的前同事。接着，枪手在推特及脸书账号上发帖讲述这么做的缘由，最后附上近距离射杀前同事的视频。

枪手精心策划了这场行动，他在自己的社交媒体账号广为人知之后才发布了视频。推特和脸书很快封掉这名枪手的账号，但相关视频已经被广泛传播，被人们四处下载和重新上传。“考虑到该事件成功获得广泛关注，它极有可能成为一个被其他人效仿的例子。”美国《纽约时报》当时报道称。

类似事件还有，2017年4月，美国俄亥俄州一名黑人男子在脸书上直播枪杀一名74岁的路人，视频在上传约三四个小时后被删除。同年，芝加哥发生一名15岁女孩被强奸直播的事件;泰国一名父亲在脸书上直播了自己杀死女儿的画面，在视频被删除前，点击量已经达到37万次。

但要说影响力，都比不上最新这起屠杀直播。有媒体称，新西兰枪击案是“首起社交媒体直播的恐袭案”。“网络控制完全失败”，德国《焦点》周刊称，脸书只是在接到警方通知后作出反应，从那时起删除了150万条相关视频，YouTube则是“完全失败”，“未来，社交媒体和网络的重大挑战将是如何控制极端思想的传播”。

在不少媒体看来，新西兰的屠杀直播揭示了一个根本性问题——在互联网上，控制此类暴力视频传播是多么困难。全球目前不仅要防范宗教极端主义，也要防范极右翼分子，而互联网好像正变得“激进化”。

去除网络“污垢”为什么难?

近年来，脸书、推特和YouTube等平台都在努力管控涉暴力内容，例如，脸书专门雇用了超过1.5万名审查员，去除互联网上的“污垢”。美国科技新闻网站“临界点”曾披露这个群体的工作状态——薪酬低廉、要求苛刻。从入职起，他们就要整日面对极具视觉冲击力的内容，很多人因此出现心理问题。但最头痛的是“删帖”标准难以统一。除了受到语言和文字过度复杂的限制，有网络专家提到，各国法律对言论自由范畴的界定不同，“比如德国和泰国对待‘大不敬’问题的态度就完全不一样”。

为弥补内容审查员的不足，脸书、推特等公司在人工智能系统上投入大量资金，但人工智能的使用却闹出不少笑话。去年7月，在美国各界欢庆独立日之际，脸书却“误删”美国《独立宣言》的内容，相关语句“无情的印第安野蛮人”被判定为“仇恨言论”。此前，脸书人工智能把一家挪威媒体主页上发布的著名越战裸体少女照片，识别为“色情图片”。

据美国《华盛顿邮报》报道，枪击视频被上传到社交网站时，平台的审查团队通常以该视频创建黑名单，进而阻拦其再次发布。这种算法已有多年历史，最初是用来打击儿童色情内容传播。但这样的算法效果有限。上传者可以通过添加水印、改变视频大小等简单方法绕过拦截。在新西兰枪击案中，后续被转发到YouTube上的枪击视频，很多似乎都有这些改动。

人工智能专家表示，目前还没有一种技术能够确保对流媒体平台上的暴力内容进行万无一失的检测。例如，识别挥舞枪支的人对机器来说就很困难，因为枪支有许多类型，握枪姿势也有多种，电脑很难区分真实的暴力和虚构的电影。