专家认为对“人工智能+教育”应持审慎态度

制图/李晓军

● 人脸识别进校园,既有数据安全也有个人隐私问题,包含学生的个人信息要非常谨慎,能不采集就不采集,能少采集就少采集,尤其涉及个人生物信息的

● 网络安全法规定,网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意

● 表情监控在某种程度上侵犯了学生的尊严,也是对学生自主学习能力和教师授课能力的不信任。学生长期在监控环境下学习、成长,容易养成“表演性人格”

随着人工智能不断发展,人脸识别技术被越来越多地应用于校园中。

据了解,一所知名大学2019级新生“刷脸”就能瞬间完成报到程序,系统是这所学校的学生研发的,学生对着摄像头,人脸识别系统就开始进行比对,眨眼间就能完成扫描,整个报到注册手续几乎不到一秒钟。此外,通过人脸识别还可以对学生进行考勤,以及实时观察学生的上课状况等。

对此,教育部科学技术司司长雷朝滋认为,“(对于人脸识别技术应用)我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。教育部已经开始关注这个事情,组织专家论证研究”。

雷朝滋还说,人脸识别进校园,既有数据安全也有个人隐私问题,“包含学生的个人信息都要非常谨慎,能不采集就不采集,能少采集就少采集,尤其涉及个人生物信息的”。

人脸识别进校园究竟会有哪些利弊?《法制日报》记者对此进行了采访。实时监控课堂表现老师学生压力增大

近日,中国药科大学试水“人脸识别进课堂”,在校门口、学生宿舍、图书馆及部分教室等场所安装人脸识别系统。这个系统除了能自动识别学生的出勤情况外,还能识别出学生是否认真听讲,课堂上抬头低头了几次,低头是否在玩手机,是否闭眼打瞌睡等。有网友认为,这样的系统在校园广泛应用或涉嫌“侵犯隐私”。

据了解,早在2015年,国内一所知名高校就曾在高校信息化建设中首次引入人脸识别技术。近年来,有些地方的初中出于“提升校园安全”考虑,在校园门口安装人脸识别考勤系统。

“现在是互联网科技时代,到处都讲‘互联网+教育’,这是教育的创新,我们也很乐意看到新技术的应用能给教育行业带来新的生机。”一位从教近10年的高中老师杨妮(化名)对《法制日报》记者说。

“初、高中学生上课自觉性比较差,需要老师的督促,如果上课期间需要老师不停地维持课堂纪律,那么课堂质量就会有所降低。而且传统的点名方式浪费时间,准确率也不高。从这个方面来说,在教室安装人脸识别系统确实能帮助老师维持课堂的秩序,从而专心把精力放在对课堂内容的把控上,很大程度上提高了课堂效率。”杨妮说。

杨妮认为,尽管人脸识别系统能给教学带来一些好处,但是如果老师和学生长期处于人工智能的“监视”之下,有可能会适得其反。一旦学生意识到自己处于监控状态之下,那他们在课堂中的表现就必然是失真的,老师们无法得到真实的教学反馈,也不能准确了解学生们的兴趣点和对知识的掌握情况。

“对于老师而言,在监控之下教学,难免会出现迎合的心态,无法完全放开自主发挥。老师们把课堂教学变成表演,学生们也在表演,长此以往,教学效果就会不断降低。”杨妮说。

西安一名大学生陈霖(化名)告诉《法制日报》记者,没有哪个学生会喜欢这种上课方式。“这就像是有人在一直监视你,没有人会喜欢被监视。对于类似的系统,我们肯定是比较抵触的,如果强制安装,那只会让大家的逆反心理更重,根本达不到提高课堂质量的效果,学习关键还是要靠自觉。”

陈霖就读的大学目前已经开始通过人脸识别进行考勤,出入宿舍也会有人脸识别。

“这些都是出于安全考虑,我们可以理解,但如果人脸识别真的推广到教室里,连大家的细微表情都能监控,那就有点可怕了。”陈霖说。人脸识别侵犯隐私教育创新尊重学生

据中国药科大学图书与信息中心有关负责人介绍,目前学校在两间教室试点安装的人脸识别系统,除了自动识别学生出勤情况外,学生是否认真听讲,课堂上是否抬头低头,低头是否在玩手机,是否闭眼打瞌睡,都逃不过系统的“法眼”。

上述人脸识别系统引起关注后不久,该人脸识别系统的开发企业回应称,该图为技术场景化概念演示。针对网友热议的隐私保护等问题,这家开发企业称,在人工智能技术的各种场景中,会坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。

中国传媒大学法律系主任郑宁认为,人脸识别系统在校园推广确实有侵犯学生隐私的可能性。人脸属于个人生物信息,而且属于可以识别的个人信息,一旦被泄露或被不法分子利用,风险远远高于其他信息。

郑宁告诉《法制日报》记者,网络安全法中提到,网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息,不得违反法律、行政法规的规定和双方的约定收集、使用个人信息,并应当依照法律、行政法规的规定和与用户的约定,处理其保存的个人信息。民法总则也明确提出,自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。

郑宁认为,人格尊严是法律规定的人的基本权利,表情监控在某种程度上侵犯了学生的尊严,也是对学生自主学习能力和教师授课能力的不信任。

“作为一线教师,我认为,靠人脸识别系统对学生进行表情监控来提高课堂效率,既不合法,也不合理。提高课堂效率,归根到底,还是要靠先进的教学理念和教学方式、丰富生动的教学内容。”郑宁说。

21世纪教育研究院副院长熊丙奇告诉《法制日报》记者,去年,某中学使用“黑科技”打造“智慧教室”,对学生进行表情监控,以提高课堂教学效率,舆论对此普遍质疑,认为此举不尊重学生的人格权利,侵犯学生隐私。学生长期在监控环境下学习、成长,容易养成“表演性人格”。因此,对这种所谓的技术创新应该持十分慎重的态度。

（编辑：南平站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!