内容

中国学校教室装“天眼” 监控老师和学生的一举一动
In China, classroom cameras scan student faces for emotion, stoking fears of new form of state monitoring


 
《环球邮报》日前发表的一篇文章称,在今年3月,中国有一所学校在数间教室内安装了天眼摄像头识别学生上课表情, 在学校看来,这是教育教学创新,将新型人工智能技术用于课堂教学,但这种为了加强课堂纪律管理而对学生实施监控的新方式也引发了严重担忧。
 
浙江省杭州第十一中学安装的摄像头旨在简化考勤制度,用刷脸代替传统意义上的口头点名和刷卡,此外还可以随时追踪学生的一举一动,比如阅读、举手、书写、起立、听讲、趴桌子等行为。
 
除此之外,据校方负责人介绍,该系统还可实时追踪学生的面部表情,通过捕捉学生的面部表情是害怕、高兴、反感、伤心、惊讶、愤怒还是无所谓,学校可以分析出学生们在课堂上的状态。校方吹嘘该系统可以确保学生快乐学习,提高他们的专注度和学习效率,最终在考试中获得好成绩。
 
通过使用这套系统,杭州第十一中学可以通过六种行为类型对学生进行评分分析,从中获知哪些学生可能是在专心学习,哪些学生可能在课堂上分心,之后该系统会向相关教师发出通知。杭州第十一中学副校长张冠超(Zhang Guanchao)在接受中国国家新闻网站澎湃新闻网(The Paper)采访时称,学校设定了最低得分线,如果一个学生的课堂评分低于最低得分线,那就意味着这个学生在上课时没有集中精力。

 
张冠超称,在安装该系统的第一个月里就有许多学生主动改变自己的行为和课堂习惯,这使得学生可以更加快乐地学习。
 
杭州第十一中学一直积极地在校园里运用新科技,比如该校的食堂和图书馆都已经使用面部识别技术以为学生提供更多便利,因为学生无需再随身携带就餐卡和图书证。
 
但是,在中国《财经新闻》最初报道杭州第十一中学安装学生表情追踪系统的详细情况后,随即便在中国国内引发了广泛争论,有些家长表示愿意资助学校在自己孩子的教室里也安装类似的追踪系统,还有一些家长则对这种监控新模式入侵课堂表示担忧。
 
一位中国网民在中国类似推特的社交媒体平台微博上发帖称:“为什么不在大学教室里安装这种系统监视上政治课的情况,并根据学生表现出的热情程度对他们进行评分?”
 
23岁的摄影师张进(音译)则在网上直言杭州第十一中学在教室里使用这种技术太变态,这是反人类的行为。张进称,如果在未来教师要求学生们在课堂上一直保持微笑,那学生和机器人还有什么区别?
 
哈佛大学教育研究生院(Harvard Graduate School of Education)专门研究中国教育系统的研究员蒋学勤(音译)称,在中国学校开始使用表情追踪技术的同时,中国当局亦正在越来越多地利用教育系统加强社会控制。

工作单位曾是共产党实施控制的主要杀手锏。现在,由于中国的劳动力流动更为频繁,学校开始逐渐取代工作单位原先所扮演的角色。蒋学勤最近曾前往中国湖南省的一所学校,在那里他获知教师现在也在将注意力转向教育家长,以让他们知道确保自己的孩子了解正确的道德行为,共产党的重要性以及其他相关知识的重要性。
 
蒋学勤称,他认为这些学校在未来都会成为用于进行有关如何控制和预测人类行为的大规模试验的实验室。
 
那些担心中国当局可能会对在教育系统中使用情绪追踪技术兴趣大增的人,亦会以史为鉴证明自己的担忧并不是杞人忧天。
 
数十年来一直在对中国进行研究的哥伦比亚大学政治学系教授内森(Andrew Nathan)称,按照毛泽东的刑罚理论,中国当局的目标是“改造”犯罪分子的思想,而是否需要对犯罪分子进行改造则是根据其表现是否真诚来决定的。
 
奥威尔(George Orwell)在其1984年出版的反乌托邦小说中曾经描绘了一个类似系统,并将其命名为“facecrime”。现在,这个系统已经被在中国网民中引发热议的杭州第十一中学所使用的表情追踪技术唤醒。

 
实际上,并非只有中国公司在扩大计算智能的应用范围。微软公司通过其认知服务部门称,该公司可以通过照片和视频分析人们是愤怒、蔑视、厌恶、恐惧、幸福、中性、悲伤还是惊讶。位于波士顿的Affectiva公司也正在研究零售商可以如何使用情绪识别技术推动冲动性购买行为,以及如何通过车辆监控司机和乘客的困倦及不适表现。
 
俄罗斯最著名的面部识别技术公司Ntechlab也已经开发出情绪识别演算法。但Ntechla公司的创始人Artem Kukharenko警告称,即便是当前最先进的技术也不可能单独良好地运作。Kukharenko称,想要捕捉人们的潜在情绪并非易事,因为有时候人们的外在表现和内在感觉并不是一回事。
 
Kukharenko称,目前情绪识别演算法的最佳应用是用于查看数百人的平均评分,比如追踪数百名进出购物中心的消费者,以查看他们的情绪变化情况,并将此作为评估他们购物体验的一种方法。而如果将这种技术应用于教室里,单单追踪个人的情绪表现可能并不会奏效,更好的用法可能是追踪整个班级学生的情绪是否会随着时间发生改变。Kukharenko认为,相比于学生,使用这种方法对教师进行评估会更加有效。

 
有些中国家长在看到杭州第十一中学使用表情追踪系统后,认为这可能有助于提高自己孩子的学习成绩。还有一些家长已经在社交媒体上发起筹款活动,以便能够资助自己孩子所上的学校也安装类似系统。
 
但是,杭州第十一中学安装的这套系统却在中国以外的地区引发了严重担忧。
 
英国牛津大学人类未来研究所(Future of Humanity Institute)专门研究中国人工智能发展情况的研究员Jeffrey Ding表示,他在获悉这一情况后,第一反应就是觉得很可怕。
 
Ding称, 虽然西方政府也会采用先进的监控和面部识别系统,但当这些技术在专制的中国国内使用时,往往就会变味,目前,一些中国公司已经开始出口相关产品。
 
Ding同时称,由此可以想见的未来是,会有越来越多公共和私人空间有可能出现这种全方位监控。




 

我们鼓励所有读者在我们的文章和博客上分享意见。We are committed to maintaining a lively but civil forum for discussion, so we ask you to avoid personal attacks, and please keep your comments relevant and respectful. Visit the FAQ page for more information.

验证码
请输入验证码