主页 / 社会 > 教育 > 正文

课堂安装人脸识别惹争议 涉嫌技术滥用

2019-09-05 01:32:10   来源:科技生活在线   评论:0   [收藏]   [评论]
导读:小编按:有专家表示,人脸识别进课堂已经超出了正当、合法、必要的法律限度,涉嫌技术滥用。需要征得学生及家长的同意,采集的信息不能作为商业化用途,也不得对外公开,学校还应保障学生删除信息的权利。

  有专家表示,人脸识别进课堂已经超出了正当、合法、必要的法律限度,涉嫌技术滥用。需要征得学生及家长的同意,采集的信息不能作为商业化用途,也不得对外公开,学校还应保障学生删除信息的权利。

  还记得校园时代被班主任在教室后门“暗中观察”所支配的恐惧吗?

  如今,取而代之的可能是一个“360度无监控死角”的人脸识别摄像头。

  近日,南京的中国药科大学在部分教室“试水”人脸识别系统引发网友热议。

  该系统不但可以识别每个进出教室的学生,自动签到签退,还能识别学生发呆、打瞌睡、玩手机等行为。校方称,此举是为提高学生到课率,严肃课堂纪律。

  近年来,人脸识别进校园的尝试越来越多,但每一次曝光都伴随着极大的争议——

  采集学生的人脸信息是否得到了所有学生或家长的明确同意?

  校方是否有能力保护收集到的敏感数据?

  评估学生上课专注度有必要动用人脸识别技术吗?

  根据南都NDX热点站站队发起的调查,84%的网友不赞同学校用人脸识别系统采集学生的课堂行为吗,86.1%认为该行为侵犯了学生隐私。

  对此,有专家表示,人脸识别进课堂已经超出了正当、合法、必要的法律限度,涉嫌技术滥用。也有观点认为,使用人脸识别系统需要征得学生及家长的同意;同时,采集的信息不能作为商业化用途,也不得对外公开,学校还应保障学生删除信息的权利。

  落地

  人脸识别摄像头入驻高校、中小学

  2019年秋季开学的第二天,各大高校的官博还忙着晒开学典礼和新生军训照片,中国药科大学却因为几天前的一段视频被顶上了微博热搜。

  原来,药大在校门、图书馆、宿舍安装了新的人脸识别门禁,部分教室内还装上了人脸识别系统,不仅可以有效杜绝由别人代为签到的情况,还能识别学生发呆、打瞌睡、玩手机等行为。校方表示,未来还将实现“刷脸”吃饭、借书等等。

  “从进教室的那一刻起,你往那一坐,它(摄像头)对你已经全程进行识别了……比如你抬头了几次、低头了几次,还有你是否在玩手机,是否在发呆,是否在看别的书,都能感知到”,药大图书与信息中心主任许建真称,目前课堂人脸识别系统会先在两间教室试点,效果好的话将在全校推广。

  他还表示,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法。

  南都记者注意到,这则新闻距离上一次引发广泛讨论的上海中医药大学附属闵行蔷薇小学智能课堂行为分析系统,仅仅过去了一个星期。

  据澎湃新闻报道,蔷薇小学正在构建智能课堂行为分析系统,运用姿态评估、表情识别、语言识别、关键词匹配等技术,探索对课堂教学过程的定量分析。

  比如孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作。

  系统还可以采集学生姿态行为如打哈欠、坐姿、走姿的图像数据,对孩子的走姿倾斜、不良坐姿和睡眠不良等情况等进行识别判断,生成预警报告。

  事实上,早在去年5月,杭州第十一中学联合海康威视研发的全国首个智慧课堂行为管理系统——“慧眼”就曾引发过关于新技术在教育领域的应用边界的争议。

  据了解,“慧眼”可以针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。有学生直言:“自从教室装了慧眼,上课都不敢开小差了。”

  校方表示,目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值,系统就会向显示屏推送提醒,任课教师可根据提醒进行教学管理,而显示屏仅任课教师可见。日后还会与学校医务室等其他后台的数据打通,若学生因身体不舒服,可列入“白名单”。

  公众

  逾八成不赞同人脸识别进课堂

  与人脸识别技术在教育领域内的席卷之势相对的,是公众对人脸识别进课堂的疑虑和担忧。

  对此,南都NDX实验室热点站站队以“你赞同学校用人脸识别系统采集学生的课堂行为吗?”为题,发起了话题讨论。调查结果显示,参与投票的3269位网友中,84%不赞同,86.1%认为该行为侵犯了学生隐私。

  有网友认为,“这个系统只会教孩子虚伪”、“学生会把注意力集中在表情上,而不会专注学习了!”还有网友质疑,“监狱都不带这么控制表情的,这是把孩子当机器人来培养?”“其实当了老师那么多年眼明手快的了,怎么会没发现台下学生的小动作呢!”

  此外,尽管投票网友中只有1.3%表示,自己或孩子就读的学校安装了人脸识别系统,却有高达22.8%的网友称没有经过家长或自己的同意;剩下的网友中,81%表示不会同意学校安装人脸识别系统。

  针对公众对隐私的担忧,杭州第十一中学校长倪子元回应媒体称,人脸识别系统只采集学生的行为状态信息,不会进行课堂录像。例如,认真听课的为A,趴下睡觉的是B,起立回答问题为C,系统只是统计这些符号信息。

  副校长张冠超补充说,系统采用的摄像头背后都是一个小型处理器,操作原理为通过对学生面部的判断,之后形成一个与之相对应的代码。系统采集的对象为代码,而非学生的面部影像,否则数据量太大,服务器也吃不消。

  不过,由始至终,上述三个学校都没有拿出学生或家长同意安装人脸识别系统的证据。而在一向以保护用户隐私严格而著称的欧盟看来,即使事先获得了同意,也不能证明什么。

  8月21日,瑞典数据监管机构对当地一所高中开出一张20万瑞典克朗(约合人民币14.8万元)的罚单,因为该校为了统计学生的出勤率,在校园内试行了三周人脸识别系统。

  尽管学校强调已经事先获得了学生的同意,但瑞典数据监管机构认为,“学生受学校董事会管理”,即无法判断是否为其独立意志,而且学校完全可以采用对学生权益侵害更小的方式,因此该校的监控行为侵犯了学生的隐私。

  监管

  鼓励建设智慧课堂,但行业规范缺失

  南都记者梳理发现,人脸识别系统在高校、中学、小学的全面开花,不仅得益于AI技术的广泛应用,也符合国家鼓励的发展方向——教育部在2016年教育信息化工作要点中,首次正式提出智慧校园建设与应用。

  2018年4月,教育部印发《教育信息化2.0行动计划》,提出构建智慧学习支持环境,推动人工智能(AI)在教学、管理等方面的全流程应用,利用智能技术加快推动人才培养模式、教学方法改革,探索泛在、灵活、智能的教育教学新环境建设与应用模式。

  值得注意的是,上述文件仅为原则性要求,旨在鼓励云计算、大数据、移动互联网、人工智能等现代科技的应用,并没有对如何落实智慧课堂建设提出具体要求。

  不过,各地的教育厅和学校纷纷在实践中摸索出了适合自身情况的路径。

  比如同年5月印发的《江苏省中小学智慧校园建设指导意见(试行)》提出“支持教学行为数据采集和分析的智慧教室和学习体验中心”;随后出台的《广东省中小学智慧教室建设指南(试行)》则进一步明确,支持对课堂教学过程的数据分析,实现课堂对学生情绪分析、人脸识别及抬头率等课堂参与性指标的分析。

  在业界,这些基于人脸识别的课堂专注度分析已经形成了较为成熟的解决方案。从传统的班级授课到借助智能手段实现个性化教学,智慧教育是大势所趋——除了AI技术提供商,传统教育类公司和互联网企业也都想“分一杯羹”。

  然而,由于行业标准和规范的缺失,市场上的智能教育产品显现出质量良莠不齐、存在潜在数据安全风险等问题。另一方面,也鲜少有地方在相关文件中从保护学生隐私和AI伦理的角度提出要求。

  对此,由科技部新一代人工智能发展研究中心联合罗兰贝格管理咨询公司发布的《智能教育创新应用发展报告》建议,加快制定AI在教育领域应用的标准规范体系,建立并完善基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准,加快制定智能教育的标准和规范,推动智能教育的健康发展。

  争议

  AI采集人脸信息是否侵犯学生隐私?

  南都记者梳理发现,公众的讨论主要聚焦在三个问题上:在安防目的之外使用人脸识别系统是否必要?学生被收集人脸信息是否侵犯隐私?课堂行为采集是否会对教师和学生的心理产生不好的影响,导致“作秀式”教学?

  1

  必要性

  “学校是公共场所,也是敏感区域,因为涉及到学生之间的危险行为、教师体罚学生等情况,容易有纠纷,所以在教室里装摄像头总体应该还是起到一个正向作用”,中国信息安全研究院副院长左晓栋指出。

  但他也强调,安装摄像头的目的应该限制在公共安全上面,用来识别开小差的学生的做法存在争议。“我不认为人脸识别进课堂现在能起到多么重要的作用,至少目前还看不到课堂行为分析的必要性。”

  因此,他认为,人脸识别进课堂已经超出了正当、合法、必要的限度,涉嫌技术滥用——如果使用目的不成立,即使出发点是好的,也不能构成正当使用的理由,而是需要在这项技术带来的益处和用户失去的权利之间做出平衡。

  2

  隐私权

  北京师范大学中国教育与社会发展研究院讲师高莉曾撰文表示,根据中国法律关于隐私权的规定,教室是集体场所,具有公共场所的性质,但又有别于医院、广场等一般公共场所,其开放性只属于共同完成教学任务的教师和学生。

  在这个相对封闭的空间内,如何保障教师和学生的隐私权?如何安全使用和储存监控数据资料?

  据杭州第十一中学副校长张冠超透露,为了避免信息外泄,系统使用的是本地服务器。后期统计出的数据也分权限,如校领导和中层管理人员,可以看到的数据信息也不同。至于代码运算出来的结果,则仅供任课教师关于课堂效果的一个参考。

  在北京师范大学刑事法律科学研究院暨法学院副教授吴沈括看来,利用人脸信息识别学生的行为,对其进行课堂上的有效管理,是法律允许的行为;但若将信息影响大范围披露,借此对学生予以当众羞辱,或对采集内容未尽到妥善保管义务导致信息发生泄漏,以及在信息泄露事故发生后未能采取及时的止损措施等,则是法律禁止的行为。

  对于中小学生来说,采集人脸信息还涉及未成年人隐私的问题。

  “如果没有获得学生及家长同意,学校就没有权利进行监测”,中国政法大学传播法研究中心副主任朱巍认为,隐私权是一种民事权利,对未成年人使用人脸识别系统需要征得学生及家长的同意。同时,采集的信息不能作为商业化用途,也不得对外公开;学生毕业后,学校需保障其能够及时删除信息的权利。

  3

  心理影响

  高莉还在文中指出,无论对于教师还是学生,人脸识别摄像头分析课堂行为的功能都可能带来负面效果。

  如果把系统结果异化为评价教师教学的一种方式,那么在摄像头监控下的教学很可能会演变成一种拘谨的“作秀”式教学,比如降低教学难度,减少学生“困惑”表情产生;甚至为了取悦学生,增加与教学内容无关的“段子”,博取“掌声”。

  她提到,教学本应是一种高度自主化的过程,教师与学生之间的关系也应该是相互尊重和融洽的,教育环境也应该是自由和充满信任的。

  “面部识别技术一旦走进学校、监控课堂,学生的身体、时间不仅被规训着,甚至连注意力、一举一动、喜怒哀乐也将被纳入监控范畴。长期生活学习在这种不信任环境所带来的逆反心理,也会对学生的身心健康有影响”,她说。(南方都市报)
 

  链接+

  人脸识别检测能提高课堂质量吗?

  尽管学校和开发公司的初衷都是“保障校园安全和提高课堂效率”,这样严密的“监管”仍存争议,不少人质疑新技术涉嫌侵犯隐私。

  日前,瑞典一项涉及人脸识别软件的学校实验被认为是非法的——当地一所高中为了统计学生的出勤率,在校园内试行人脸识别系统。在实施试验的三周内,共涉及到22名学生。

  事实上,伴随着“刷脸”时代的到来,中国也正面临相同的问题:中国药科大学近日试水“人脸识别进课堂”,在校门口、学生宿舍、图书馆及部分教室等场所安装人脸识别系统。该系统除了能自动识别学生的出勤情况外,还能识别出学生是否认真听讲,课堂上抬头低头了几次,低头是否在玩手机,是否闭眼打瞌睡等。

  这并非人脸识别系统初入校园,早在2015年,清华大学就曾在高校信息化建设中首次引入人脸识别技术。2018年,全国各地多所初中也以“提升校园安全”为由,校园门口纷纷安置了人脸识别考勤系统。

  但此前,人脸识别技术在校园安全领域的应用主要集中在六大场景,包括校园出入口、重点区域、人流量密集场所、学生安全、校园欺凌以及教学秩序规范。少有学校将此引入课堂教学。

  “传统点名浪费时间,准确率不高。但是有了人脸识别系统就没有这些问题了,从进教室那一刻,学生往那一坐,它就已经全程进行识别了。”中国药科大学图书与信息中心主任许建真在接受媒体采访时表示,“现在两间教室进行试点(人脸识别系统),如果好的话就会全校推广 。”

  “现在很多大学生都缺乏自控能力,上课效率很低。从这个角度来看,在教室安装人脸识别系统,进行有效监控,或许能提高课堂质量。”中国医科大学基础医学院的学生陈睿(化名)告诉界面新闻,该校大部分学生对此表示理解,“毕竟如果你上课认真听讲,也就不用担心人脸识别暴露出你的问题。”

  尽管学校和开发公司的初衷都是“保障校园安全和提高课堂效率”,这样严密的“监管”仍存争议,不少人质疑新技术涉嫌侵犯隐私。

  “如果只是用于校门、宿舍等地方,确实是为学生提供了便利,不用随时带校园卡。另外外来人员也不能随意进出校园。”中国医科大学就读的大二学生刘宇(化名)告诉界面新闻,“目前人脸识别进教室还在试点,如果确定全面覆盖的话,也的确会有些担忧,或多或少有被监控的感觉。”

  刘宇认为,“学校在安装人脸识别系统之前,至少应该征求学生的意见,并明示如何保证个人隐私不被泄露。”

  中国医科大学药学院的一名学生则表示,“用人脸识别来提升课堂质量,不过是治标不治本,最关键的还是需要学生自觉。”

  “很显然,在教室里安装监控,全天无休地对着学生,适时采集学生的表情、动作,这是把学生当作‘犯人’,时刻监控。这种做法的反教育性质是十分明显的。”21世纪教育研究院副院长熊丙奇认为,这之所以会得到一些教育管理者和学校的追捧,是因为有的教育者和办学者忘记了教育是什么,只是考虑怎么管理方便,以及怎样提高成绩。

  "赞成安装者不妨设身处地思考,假如自己的办公室装上人脸识别系统,自己发呆和打哈欠都被监控,被用来分析工作态度,自己会是什么态度。"熊丙奇称。

  对此,开发该系统的旷视科技发布声明称:近日网络上出现的一副课堂行为分析图片,为技术场景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全。并表示,“在人工智能技术的各种场景中,旷视会坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。”

  许建真则表示,校方已向公安部门和法务部门咨询,教室属于公开场所,因此不存在侵犯隐私的说法。

  在熊丙奇看来,“在我国中小学教室,安装人脸识别系统的主要目的有二,一是让学生全神关注投入学习,二是避免安全纠纷。而大学在教室安装人脸识别系统,主要目的则是防止‘逃课’,解决学生不愿意上课的难题。”

  “但学生积极学习,培养学习兴趣,这是能靠监控技术解决的问题吗?”熊丙奇认为,为什么有一些大学生“混学”,关键是有的教师“混教”。在这种情况下,引入各种技术手段,表面上学校重视课堂教学了,但缺乏吸引力的教学,加上人脸识别技术,带来的不是高质量的课堂教学,而是装着认真学习的学生。

  “如果单从加强课堂纪律管理看,该校教务部门不出意外会建议所有教室都安装人脸识别系统。但是,如果从尊重学生隐私,发展学生健全人格出发,安装人脸识别系统是需要慎行的。”熊丙奇告诉界面新闻,支持安装监控者把教室简单地类比于普通公共场所是不够合理的。

  熊丙奇认为,“虽然公共教室是公共空间,但它是供教师和学生完成教学活动的,在课堂教学时,师生的行为,对同一间教室的师生,不是什么隐私,而引入人脸识别技术,监控所有学生(以及教师)的行动,并对学生行为进行分析,就可能导致学生的信息被泄露。”

  “教室里可以安装监控,但是应该只在两种情况下使用,一是用于作为考场时,监控考场秩序,二是在得到教师和学生同意的情况下,直播课堂教学,与其他学校、课堂共享教育资源。”熊丙奇称。

  武汉大学(深圳)心理健康管理研究所所长戴影频同样认为智能技术进校园需谨慎,“信息化、大数据经常会形成一种权力,对身处其中的人造成一种不自觉的深入控制。”

  中国教育科学研究院研究员储朝晖则表示,教室虽然是公共场所,但是监控下的教师和学生都不是真实的状态,“大家从专业角度得出一个共同的结论,在教室里是不能装监控的。这是原则,首先是为了保护学生的隐私,同时也不让课堂处在一个被控制的状态。不遵循这个原则,学生就可以在教室里作假和伪装,教师也可以伪装业绩,那么真实的教学就不可能发生。”(界面)

分享到:
责任编辑:admin

网友评论

全站最新