在技术与道德的天秤上，算法如何找到平衡点

随着大数据、人工智能的广泛应用，一些商业网站、移动新闻客户端，包括直播平台、浏览器、搜索引擎、影音软件等，都在运用算法这个“读心术”，为用户量身打造信息，创造出一种新的个性化阅读体验，信息获取已经从“大海捞针”进入“私人定制”模式。然而，技术往往是一把冷冰冰的双刃剑，在价值和利益的天平上，所谓的算法成为了利益的砝码，一切围着流量转，唯点击量、转发量马首是瞻，“标题党”泛滥，价值取向跑偏，内容沦为附庸。

头条的边界

2017年12月29日，北京市互联网信息办公室曾针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题，分别约谈两家企业负责人，责令企业立即停止违法行为。

两天之后，今日头条平台宣布关闭社会频道，将新时代频道设置为默认频道。同时，今日头条集中清理了涉嫌违规的含低质内容的自媒体账号，共封禁、禁言账号1101个。同时，2017年 12月29日18时至12月30日18时，今日头条手机客户端的“推荐”、“热点”、“社会”、“ 图片 ”、“问答”、“财经”等六个频道还暂停更新24小时。

这一力度不可谓不大，也是聚合型新闻APP史上第一次遭到封禁。公开数据显示，截止到2016年7月，今日头条累计激活用户数达5.3亿，人均日使用时间超过70分钟。

技术创新如何与社会导向平衡

相比人工推荐，智能算法推荐投入产出比更高、覆盖面更广、个性化程度更高，但风险把控能力相对较低。

我国人工智能仍然处于初级应用阶段，以最为广泛的语音解析为例，在记录对话时，人工智能可能与人类一样准确，但它无法辨别出讽刺、笑话或理解上百万种其他文化背景，而即使是最普通的信息，理解文化背景也至关重要。

通过人工智能识别内容最大的难点在于攻克语义的复杂性，涉及到对逻辑推理和因果关系的上下文分析。人工智能可以鉴别色情内容，但在区别色情、性感、艺术等照片上还存在很大难度。

因此，作为新闻客户端起家的今日头条，在信息分发的同时，还涉及到价值体系和新闻把关。

纠正算法推荐，既要听其言，更要观其行

互联网公司唯“流量”是问已经是当前存在的普遍问题，企业技术创新的边界应该是承担起更多的社会责任。

企业想盈利无可厚非，可怎么盈利却有天壤之别。以优质文化产品取胜，这是健康的产业模式，而把低俗内容兜售给消费者，这是不负责任的行为。算法推荐赚取巨大流量红利的同时，是否应该反思这种创新能给社会带来怎样的进步。如果新的媒体平台，只是为了让低俗化、媚俗化、娱乐化的信息更加便捷传播，降低人的思考能力和审美水平，这样的媒介形态和产品创新必将在社会发展中被淘汰。

整改和处罚只是手段，按照中央要求，营造清朗、干净、健康的网络空间，才是管理者和经营者的共同责任和目标。纠正算法推荐的弊端，治理低俗内容倾向，从根本上改变不顾导向的所谓算法推荐，管理部门在关注，网民更有期待。

本文信息来自人民日报、人民网、21财经，传播君整理。