倾听创业故事,对接融资需求 欢迎做客【镁客·请讲】栏目 点击菜单栏-联系我们,让更多人看到你们 作为AI时代的开创者,我们需要为它绑上一条安全带。 策划&撰写:伶轩 喜迎开学季。 但如果开学第一课是上图这样的,想想还是挺惊悚的。 9月2日,一张网传的旷视AI课堂行为分析图曝光。从图中可以很清晰的看到,通过计算机视觉算法分析,系统可以很轻松标出识别范围内学生听讲、阅读、举手的次数,更可怕的是,它还能统计学生趴桌子、玩手机和睡觉的次数。 简而言之,摄像头范围内,学生的一举一动都在被“监视”着,没有自由。甚至有网友调侃称,“这是在猪圈里养猪吗?”,虽然言辞有些过激,但话糙理不糙。 这也不免牵出一个老生常谈却不得不提的问题,“当技术开始应用时,它是为人类所用还是让人类畏惧?”,这个“边界”确实该引起行业重视,而不只是说说而已了。 更高的效率=更小的自由?从技术应用的角度来看,这张网传图所示用AI分析学生的课堂行为,应该是为了更有效的帮助老师了解学生的上课状态,从而针对性的调整教学方案,但过犹不及。 面对网络一边倒的批判,旷视方面发表声明称:
可以看到,针对声明,旷视所想表达的有两点:
但显然,网友对这种说法并不买账,因为选择展示怎样的内容是基于厂商对市场需求的判断,也就是说,厂商在展示这张课堂行为分析图时是认为这一场景对学校是有价值的。而根据校方的说法,相关系统已经在两间教室中进行试点,效果好就会进行全校推广。 更重要的是,在那张行为分析图中,所涉及到的学生听讲、阅读、举手、趴桌子、玩手机和睡觉等行为信息,均与校园安全无关。保护校园安全,实际上应列入安防行列,且信息分析应集中在“进出时间、着装、情绪状态”等维度上。 但对学生在课堂上的听讲、阅读、举手、趴桌子、玩手机和睡觉次数的统计,很明显是在实时监控学生的一举一动。在旷视此前对自家课堂教学评价系统的介绍中是这么说的,“将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中,可对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估评价。”很明显,AI课堂行为分析图反应的信息符合这一定义。 我们不能完全否定这一辅助教学模式的价值,但这种类似于“监管”的教育方式,极可能让学生产生逆反心理,所造成的后果不亚于拔苗助长。更直白点说,减少学生的课堂自由,不该成为提高学习效率的主要途径。教育也不应该只是监控和数字,其本质在于鼓励和激发。如果技术只是帮助我们从机器里看“一个个机器”,那么它的价值将被一点点消耗殆尽。 技术要用在该用的地方,AI也需要被绑上“安全带”随着AI相关技术的快速发展以及应用场景的不断被发掘,教育作为一个已知的蓝海,市场竞争也愈发激烈。CNNIC数据预测,到2020年AI教育市场规模将达3000亿元,如此机遇下,抢占市场也成为了众AI厂商近段时间发力的重心。 可以看到,仅在校园场景中,如计算机视觉技术已大范围落地的AI应用就包括校门口/宿舍楼的门闸刷脸、课堂学生的行为分析等。 除此之外,类似于通过智能校服传感器监测学生的出勤和活动等新闻也屡见不鲜,甚至有厂商曾提出通过脑机交互设备实时监测学生的脑电波数据,对学生进行情绪、疲劳度、精神状态、思维活跃度和学习专注力进行分析。不用细思,就已经感到很可怕了。 试问在保护学生安全和提升学习效率的帽子下,隐私问题就该被厂商甚至学校抛诸脑后吗?当然不是,技术应该用在它该用的地方,科技应该向善。 毋庸置疑,AI对于传统行业的赋能作用是明显且值得被期待的。以教育场景为例,除了计算机视觉、脑电波/传感监测,还有很多AI技术可用,如利用AI构建知识图谱,对学生进行一对一的自动化辅导和答疑;自适应学习,通过搜集学生学习数据,如错题集等找到学生的短项,并进行智能化题集推荐等。 而对于老师而言,模拟和游戏化的教学平台、智能测评及学生成绩统计分析等,都能对实际教学活动起到辅助作用,不仅能做到寓教于乐,还能辅助决策。当然,课堂之外的幼儿早教机器人等,也已成为家庭教育中重要的一环。 可见AI能为教育做的有很多,而以计算机视觉技术切入教育场景的厂商,还应该进一步甄别有价值的场景,全面考量技术辅助的公平性和安全性,而这才是AI教育最核心的价值。 微软全球执行副总裁沈向洋曾表示,汽车的出现改变了人类的出行方式,而安全带的出现保障了我们的出行安全。作为AI时代的开创者,很多问题应该同步考虑,例如隐私保护等,我们需要为AI也绑上一条安全带。 谷歌、微软、华为、阿里加入战局,物联网操作系统这盘棋怎么下?7年布局、涉及资金逾330亿美元,软银“出行帝国”再升级双马会激辩:马云造词“阿里巴巴智能”,马斯克全程忧心地球,十大AI创新平台跑赢全场星标我们,不要错过 |
|