开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?

凤凰网科技 刘洋 2019-09-04 08:11:35
浏览

开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?

在 C 端用户质疑其存在的隐私与伦理问题同时,计算机视觉方案落地线下教育场景的真实应用现状到底如何,教育市场的需求存量有多少,课堂学生状态监控方案落地后将带来哪些社会问题?这些问题亟待调查与解答。

撰文 | 寓扬、茜茜 编辑 | 四月

九月伊始,又是一年开学季,和学生一同走进课堂的还有摄像头和人工智能。

近日,一组课堂上学生行为分析的视频截图在微博引发热议。照片中,摄像头通过计算机视觉算法获取两名学生的课堂表现,并以标签的形式计算出「听讲、阅读、举手,趴桌子、玩手机、睡觉」等动作次数。截图显示该技术方案来自旷视科技。

开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?

讨论区,网友对人工智能「监视」课堂行为所带来的隐私、伦理价值问题的声讨不断。有网友表示,「希望有人来解释一下课堂监控 AI 产品的合法性,尤其是人权和隐私权等权利的保护。」

机器之心向旷视科技求证该方案目前的应用情况,旷视科技方面表示,该图片为技术场景化概念演示。旷视在教育领域的产品主要专注于保护孩子在校园的安全,同时也将坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。

事实上,据机器之心了解,目前视觉方案在课堂教育场景的应用已经不是新鲜事,摄像头生产厂商、教育巨头、AI 技术公司三大类数十家企业。

在 C 端用户质疑其存在的隐私与伦理问题同时,计算机视觉方案落地线下教育场景的真实应用现状到底如何,教育市场的需求存量有多少,课堂学生状态监控方案落地后将带来哪些社会问题?这些问题亟待调查与解答。

1

智慧课堂是一块什么样的市场?

据机器之心了解,旷视关于智慧课堂的解决方案在 2018 年的中国教育装备展上就已经亮相。当时,结合校园场景的需求,与自身在人脸识别、行为识别、表情识别等方面的 AI 技术,旷视就推出了智慧教育解决方案。

在教学场景,旷视重点打造的是课堂智能考勤系统和教学评价系统。其中,考勤系统基于旷视的考勤摄像机,巡航拍摄教室并自动变焦拍摄人脸,再配合旷视的考勤主机盒子,以人脸识别验证的方式对上课学生进行身份核实。

而本次备受争议的则是课堂教学评价系统。旷视的大致做法是,通过其考勤及行为分析摄像机 MegEye-C3V-920 获取人脸、行为以及表情等数据,通过行为分析服务器对课堂视频数据进行结构化分析,并反馈学生的行为、表情、专注度等数据,辅助教学评估。

旷视科技告诉机器之心,目前旷视在智慧校园中主要提供门禁系统,比如应用在教室、宿舍中的门禁系统,学生可以刷脸通过,并且这些系统是离线部署在学校,旷视只提供技术支持。

针对网上流出的课堂行为分析图片,对方称,「这张图源于旷视一次小规模线下活动的 Demo 展示照片,目前还停留在技术展示阶段,并没有落地应用。」

不只是旷视,BAT、科大讯飞、好未来以及多家创业公司在近两年均围绕课堂场景推出了相关的视觉解决方案,这些玩家大体可以分为三类,分别是:设备厂商(摄像头生产商),教育公司和 AI 技术公司。

比如,一位该领域的技术方案提供商向机器之心表示,一般教学分析系统需要 800 万像素左右的摄像头对教室进行拍摄,典型情况下可以覆盖一个 40 人的课堂。

系统会先对每个人进行人脸跟踪,跟踪每个人的位置,然后把每个 ID 单独存储为序列数据,即一系列的图片。随后,在学校部署的工作站会使用深度学习模型进行「情感计算 」,对学生们的肢体、头部、视线等动作完成分析,得到一系列数值。