用AI监测员工大脑活动：一种未来形而上学

（原标题：用AI监测员工大脑活动：一种未来形而上学） 漫画/刘俊科技观察设想一个人的大脑出于善意的目的而被监控，这里边其实隐藏着很大的伦理风险。人性是不可试探的，就如神圣是不可试探的一样

（原标题：用AI监测员工大脑活动：一种未来形而上学）

漫画/刘俊

科技观察

设想一个人的大脑出于善意的目的而被监控，这里边其实隐藏着很大的伦理风险。人性是不可试探的，就如神圣是不可试探的一样。

据报道，国内有工厂引进员工脑电波扫描系统，敷设在工人帽子上的传感器追踪脑电波。在工人整个值班期间，传感器会持续收集脑活动数据，通过对这些数据的分析，能获悉工人的烦躁、抑郁和消极心态。此时把工人送去休息，或许有利于生产效率和企业的人文建设。

据该报道，国内某电力公司从2014年起开始对员工使用情绪监控技术，此后盈利增长了约20亿人民币。

另外，据美国媒体报道，上海一家医院采用了脑造影术，是很先进的前沿技术。该系统对病人的脑部活动进行扫描，借助智能监测摄像头分析他的脸部，同时在病床下面安装一种确定机体运动和姿势的传感器。

这可以说明，用人工智能监测大脑，在技术上已经成为可能。那么，我们是否可以依赖脑电波扫描系统？如果系统犯错，或者数据解读错误，责任将由谁承担？

在我看来，这个技术是靠谱的，至少从原理上来讲，有很强的可行性。至于这一系统的准确性具体能达到多少，还很难说。我只能说，这个系统从技术操作角度来说，是没有多大障碍的。接下来就是要看更多的实践结果。这就像一种新的药物研发过程一样，药物研发出来之后，还需要几年的临床试验。

这一人脑监控技术的研发已经基本完成了，但是，还需要通过“临床”来收集更多的数据，因为人工智能是靠两条腿驱动的――一条腿是算法，另一条腿是数据。再好的算法，如果没有大量的数据作支撑和配合，这样的算法都是瘸腿的。

此外，正如所有的规则都不可能百分之百平等。具体到这个系统上，系统的确会存在一定的失误率，不可能百分之百准确，但是只要将失误率控制在一个可控范围之内，就是可以接受的。

在此之前，我就做过人工智能在未来生活中可能扮演什么角色的分析，明确提出了医生极可能失业的预测――这主要是基于机器对人身体监测的作用而做出的结论。

与此不同的是，我今天所谈的问题是对人脑的监控与诊断。当然不是判断你是否脑血管有破损可能，大脑是否萎缩，而是实时监控你的大脑活动、情绪状况以及所思所想。

也就是说人的头脑，被机器所掌控，并据此调整你的现状与行为模式。听起来有些讽刺，但未必不是现实。

但是，设想一个人的大脑出于善意的目的而被监控，这里边其实隐藏着很大的伦理风险。人性是不可试探的，就如神圣是不可试探的一样。

如果一个人明确地知道自己的思想被他人掌控，势必带来一个硬币的两个面――他可能被迫变得更主动和积极于工作，提高效率；也可能伴随着消极思想的状态，以便自我隐匿和保护。至于下班后能不能切换回来是很成问题的，长此以往下去，人将变得拒绝思考、停止进步。

按照道德的要求成为一个“心中无不可与人言者”的楷模是人的极致追求，在现实中能够做到哪一步，个体间差异极大。

当然，也有学者认为极难借助脑造影术解读心理情绪状况，并且就目前在工厂进行实验所取得的成就，也可能具有相对性。对此，我们还是抱着审慎的乐观态度拭目以待吧。

□刘兴亮（DCCI互联网研究院院长）