Facebook推AI新技术：能自动锁定有自杀倾向的用户

去年7月，一位Facebook安全团队的成员打电话给911中心的调度员称，当地一位居民需要紧急救助，有一位女性在她的Facebook上发出了自杀的信息，好在最后当地的警察进行了及时的救助。

Facebook称，“这能够帮助我们提升公共安全。我们不会干预人们的私生活，但是如果出现危险我们就会介入。”

多年以来，Facebook都允许内部审核人员对自杀内容进行审查，并且决定是否需要通过自杀预防热线为用户提供帮助，或者在紧急情况下让公司的法律反应团队介入。

随着技术的不断发展，对于Facebook来说必然存在一种工程学方案来应对自杀行为。

为了能够及时的监控自杀的信息，Facebook在2017年就成立了相应的识别技术，能够自动识别标记涉及自杀意图的帖子，供公司审查员进行分析。

据Facebook称，这个新系统标记的涉及自杀想法的帖子数量已经提升了20倍，收到Facebook自杀预防系统帮助的人数也增加了两倍。

公司也一直在对系统的语言和Instagram的自杀预防系统进行升级，特别是在2018年2月，加入了人工智能系统，识别效率陡然提升。

自杀预防也是谷歌和微软正在进行的事情。比如说，如果有人用谷歌搜索“我想自杀”，就会出现国家自杀预防热线的电话号码。微软则会在搜索结果中显示救助中心的信息，并且让用户在Xbox线上服务上报自残信息。

- END -

图 / 网络

文 / 网络