给你一个AI监控系统 就能搞垮一个学校？

近日，旷视科技和中国药科大学被推上了舆论的风口浪尖，原因在于旷视把AI监控和人脸识别系统安装在了教室。前者可以抓取学生的行为举止和面部表情进行分析，从而判断学生注意力是否集中、有没有睡觉等；后者则是记录学生的考勤。

网友的担忧来自于此，这已经不是简单的监控，而是“监视”。从另一个角度来看，AI监控技术对老师来说同样适用，如此一来教师是否认真讲解、是否有体罚学生的行为也会被一一记录在案，其对教师的监督作用不亚于学生。

对此，旷视科技官方回应称，网络上出现的一幅课堂行为分析图片，为技术场景化概念演示。同时旷视表示，智慧校园方案是为了保障学生的安全，主要运用在智能校门、教室门及宿舍的出入等。

从老师的角度来看，AI监控起到了辅助作用，可以提高工作效率。对家长来说，有了如此“神通广大”的AI监控技术，他们能够清楚地了解自家孩子的课堂情况，也能了解教师是否尽责。不同的学生会对AI监控有不同的看法，那些无心于学习的学生会觉得AI监控的出现使他们失去偷懒的自由，而品行端正的学生或许会认为该技术有利于自我监督。

除此之外，AI监控可以防止校园暴力事件，以及早恋等行为的发生，帮助学校构建良好的校风。这些都是AI监控带来的好处，但是它也有弊端。我们也可以想象，学生不希望他们在学校中的一举一动均被捕风捉影，被人无时无刻监视的感觉必然不好受。时间久了，这种无形的压力很可能会对学生的心理造成影响。

AI监控是一把双刃剑，如果能够恰当利用，那么便能起到督促作用，提升学习、生活效率；如果被错误地利用，那么就会成为泄露个人信息的作案工具，让学生和老师的隐私遭到侵犯。

在此之前，就有过一起非法出售学生信息的案例。张某是负责管理维护安徽全省学籍的人，就职于科大讯飞，为了一己私利，以每条1毛钱的价格，出售了4万名学生的隐私信息。

AI监控多场景运用，发展前景很可观？

AI监控基于人脸识别、行为分析、机器视觉、大数据等技术实现，本质是多个技术的结合体。所以不仅仅适用于教育领域，在安防这一块也是较为出色的。它可以通过后台数据进行深度学习，以此来实现目标检测、目标跟踪、目标分类、行为分析等复杂的操作。打个比方：当人进入监控范围内，它可以识别出他的性别、大致的年龄区间、衣服特征等，最后通过行为分析和目标检索与服务器配合，找出这个人的身份信息和活动轨迹。

对比传统安防，它可以有序与随机过程进行分析，对治安风险进行评估，防止高危事件的发生。除此之外，它还可以对人流密度以及变化进行监测，实现大型活动和重要区域的风险管理。AI监控可以融合定位、网络等技术，可以掌握高风险的人或事的精度和粒度，通过预测，来提高防范能力，以及高犯罪地区的分类。

AI监控有助于公安系统的建设，通过数据融合，开展大数据应用。不仅可以降低犯罪率，还可以让公安人员的工作效率得到提高。不过这些都是在理想状态下呈现的效果，AI监控其实还有很多问题需要解决，比如：容易受到光照条件、天气因素、图像质量等问题的影响，无法进行准确的目标分析。

在传统的安防系统中，各个平台的开放性普遍偏低，数据无法共享，这也就意味着不能利用云计算进行数据融合。另外，现阶段的人工智能还不够成熟，只能通过事先设定好的条件来进行分析，并不能自我完善，哪些地方分析错误了，并不会通过错误的事件进行自我反省。

AI监控用于安防领域会有卓越的成效，其中，张学友演唱会抓人就是典型的案例。去年在张学友漳州演唱会上，一名男子涉嫌一起经济案，被赣州市公安局列为网上追逃人员，在看演唱会时被智慧安保人像识别功能锁定，让民警找到了他。同时这说明了AI技术需要用对地方，才能发挥最大作用。

AI使我们担忧

AI技术展现出强悍技术本领，过去我们认为不可能的事情都变成可能。例如：ZAO的AI换脸，用户只需通过上传一张照片，便可以与范冰冰、张柏芝之等明星进行换脸。但是没过多久，该软件就走向了终结，原因在于该软件因为隐私问题引起质疑。

没过多久，工信部就ZAO App网络数据安全问题开展问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，进行整改，依法收集用户信息并使用，规范协议条款，强化网络数据和用户个人信息安全保护。目前，在ZAO的用户协议和隐私协议中，已经删除了“免费的、不可撤销的、永久的”等霸王词，并增加了一段特殊提醒。

另外，旷视科技在近日推出了一款“AI狗鼻子识别”的APP，犬类主人只需对准犬鼻进行简单的抓拍或者视频录像，系统通过犬鼻检测，定位出鼻纹关键点，将提取到的鼻纹深度图信息汇入后台数据库，便可为犬生成一张专属的身份证。这就有点类似于人脸识别，可以帮助犬主找到走丢的小狗，以及监测不文明养狗的行为。但是该APP会将收集到的信息进行上传。通过以上两起案例说明了一个道理，AI让我们的生活产生危机感。

AI为什么使我们有危机感？分为以下3点：

1.真假难辨，容易受欺骗。有些不法分子，利用换脸软件和AI变声来制造绑架视频骗钱。他们把你的照片和录音上传至软件，软件将把一帧帧的图片和一段段的声波进行处理，然后进行伪装，最后通过短信或者电话的形式告知被绑架人的家属。

2.避无可避，无处藏身。这就好比有一双无形的眼睛，在无时无刻的监视着你，你一天笑了几次，做了多少站立的动作，都将被AI记录下来。

3.无法感知。在你完全没有察觉的情况下，可能已经被AI盯上了，比如：当你在进行商务谈判的时候，对方通过AI监控，将你的个人信息进行了分析，并上传至手机等。

AI技术充满潜力，但其用在何处是关键。企业在展示AI实力的时候也要展示其管理手段，我们需要知道AI是可控的，是不会被恶意利用的。这需要相关的法律进行制约，只有告诉企业恶意搜集个人信息是违法的行为，相关的事件才会变少。

AI技术高速发展和广泛落地带来的问题已经得到全社会的重视。

今年 6 月国家新一代人工智能治理专业委员会发布报告，提出发展“负责任的人工智能”，这是我国首次发布人工智能治理原则。在世界人工智能大会上，腾讯董事会主席兼首席执行官马化腾在演讲时表示，AI 治理的紧迫性越来越高，应以“科技向善”引领 AI 全方位治理，确保 AI“可知”、“可控”、“可用”、“可靠”。越来越多的企业在AI技术应用上开始变得谨慎和负责。工信部约谈ZAO App开发者幕后公司陌陌，同样体现出对AI技术治理的重视。

现在，AI技术治理将跟AI技术应用落地变得同等重要。技术只是工具，每一种技术都是双刃剑，关键看我们怎样使用这把剑。数百年来，人类一次次成功驾驭一代代新技术改变世界，人类文明得以突飞猛进地发展，人类社会的生活和生产得以不断进步。

对于人类可以很好地驾驭AI，我们充满自信。