用AI监测员工大脑活动:一种未来形而上学
来 源:HR沙龙发表日期:2018-05-11
设想一个人的大脑出于善意的目的而被监控,这里边其实隐藏着很大的伦理风险。人性是不可试探的,就如神圣是不可试探的一样。
据报道,国内有工厂引进员工脑电波扫描系统,敷设在工人帽子上的传感器追踪脑电波。在工人整个值班期间,传感器会持续收集脑活动数据,通过对这些数据的分析,能获悉工人的烦躁、抑郁和消极心态。此时把工人送去休息,或许有利于生产效率和企业的人文建设。
据该报道,国内某电力公司从2014年起开始对员工使用情绪监控技术,此后盈利增长了约20亿人民币。
另外,据美国媒体报道,上海一家医院采用了脑造影术,是很先进的前沿技术。该系统对病人的脑部活动进行扫描,借助智能监测摄像头分析他的脸部,同时在病床下面安装一种确定机体运动和姿势的传感器。
这可以说明,用人工智能监测大脑,在技术上已经成为可能。那么,我们是否可以依赖脑电波扫描系统?如果系统犯错,或者数据解读错误,责任将由谁承担?
在我看来,这个技术是靠谱的,至少从原理上来讲,有很强的可行性。至于这一系统的准确性具体能达到多少,还很难说。我只能说,这个系统从技术操作角度来说,是没有多大障碍的。接下来就是要看更多的实践结果。这就像一种新的药物研发过程一样,药物研发出来之后,还需要几年的临床试验。
这一人脑监控技术的研发已经基本完成了,但是,还需要通过“临床”来收集更多的数据,因为人工智能是靠两条腿驱动的——一条腿是算法,另一条腿是数据。再好的算法,如果没有大量的数据作支撑和配合,这样的算法都是瘸腿的。
此外,正如所有的规则都不可能百分之百平等。具体到这个系统上,系统的确会存在一定的失误率,不可能百分之百准确,但是只要将失误率控制在一个可控范围之内,就是可以接受的。
在此之前,我就做过人工智能在未来生活中可能扮演什么角色的分析,明确提出了医生极可能失业的预测——这主要是基于机器对人身体监测的作用而做出的结论。
与此不同的是,我今天所谈的问题是对人脑的监控与诊断。当然不是判断你是否脑血管有破损可能,大脑是否萎缩,而是实时监控你的大脑活动、情绪状况以及所思所想。
也就是说人的头脑,被机器所掌控,并据此调整你的现状与行为模式。听起来有些讽刺,但未必不是现实。
但是,设想一个人的大脑出于善意的目的而被监控,这里边其实隐藏着很大的伦理风险。人性是不可试探的,就如神圣是不可试探的一样。
如果一个人明确地知道自己的思想被他人掌控,势必带来一个硬币的两个面——他可能被迫变得更主动和积极于工作,提高效率;也可能伴随着消极思想的状态,以便自我隐匿和保护。至于下班后能不能切换回来是很成问题的,长此以往下去,人将变得拒绝思考、停止进步。
按照道德的要求成为一个“心中无不可与人言者”的楷模是人的极致追求,在现实中能够做到哪一步,个体间差异极大。
当然,也有学者认为极难借助脑造影术解读心理情绪状况,并且就目前在工厂进行实验所取得的成就,也可能具有相对性。对此,我们还是抱着审慎的乐观态度拭目以待吧。
刘兴亮(DCCI互联网研究院院长)
本文关键字:AI 监测 大脑活动
- 相关文章
-