正在阅读:

救救孩子:头环与注意力量化将扼杀真正的创造力

扫一扫下载界面新闻APP

救救孩子:头环与注意力量化将扼杀真正的创造力

任何一种可能产生巨大影响的技术应用都应当遵循必要的审慎原则,对其进行必要的、高标准的技术和伦理评估,特别是当这种技术应用于教育、特别是中小学教育领域时。

图片来源:视觉中国

(作者郭喨系浙江大学博士,浙江大学科技与法律研究中心博士后)

“人工愚蠢”与“揠苗助长”

一款号称有助于提高儿童学习成绩的“人工智能”产品“Brainco头环”近日走进了金华的课堂。随着红橙蓝三色前额灯的明灭,孝顺小学五年级的学生们“是否集中注意力”的数据开始被收集起来传递到电脑后台,供教师评阅、供家长“围观”。很快又因社会各界的广泛关注而被赶出了教室。为了防止学生“走神”,学校真是煞费苦心。

“一二三,我坐端;四五六,手背后;七八九,闭上口。”这是我在幼儿园——以及小学低年级时候非常熟悉、天天念诵的“课堂童谣”。现在的学校要求儿童“听话”、“乖巧”、“注意力集中”,跟二十年前好像也没有什么改变。差别只在于,当今越来越多的量化指标将使每一个自由发展、潜力无限的心灵陷入无处不在的“圆形监狱”之中。尽管在福柯的意义上,学校“规训”的本质与监狱无异,然而在“真理指引”这一问题上,自由追寻的年轻心灵拥有未来成长的无限可能;现在这无限可能正在被过度的监控所扼杀。实际上,近年来校园中的这类“人工愚蠢”并不罕见。贵州“冠宇科技有限公司”可以收集学生面部信息、指纹和其他生理信息甚至是下课后GPS位置的“愚蠢校服”已经通过“捐赠”的方式撬开了贵阳市观山湖远大中学等11所中学的大门;杭州第十一中学的“愚蠢课堂行为管理系统”试图监控学生表情来分析听课状态并进行评估。我在某些对罪犯机实施“社区矫正”的试点中才能见到的场景,如今在校园里铺天盖地地推广。

该Brainco头环实际上提供了一种有害的教育控制技术,通过“数据反馈”的方式来增强教师和家长对儿童学习过程的控制。这种强制的外在监控对学生的发展的影响并没有得到严肃的评估。这一旨在“增强学习”的产品,技术上上无效的,实践中是有害的。

实际上,儿童的注意力、自控力等许多认知指标都会随着身体的发育而逐渐成熟,许多精神或者学业表现的指标也都需要特定的生理基础。一个广为人知的例子是,刚出生的婴儿其实视力极差只有“光感”,直到五岁视力发育到0.8——事实上,完整到达“1.0”的“常视视力”,儿童一般需要13岁左右。学龄前的儿童视力普遍“不正常”——都是远视眼(Myopia)! 如果你家幼儿过早视力1.0,赶紧上医院检查出了什么毛病。注意力、自控力也都一样。小学低龄学童的注意力集中时间为20分钟左右,而10-12岁的学童为25分钟,12岁才到30分钟。通过“人工智能头箍”,试图让8岁的孩子拥有28岁的注意力专注度——人类注意力所依赖的大脑前额叶28岁才彻底发育成熟——这是揠苗助长。由于前述原因,对中小学生而言,走神本身就构成了学习过程的自然一环。然而现在,学生被带上“紧箍咒”开始被“约束思想”。我还不能说此种做法就一定有害,因为毕竟有家长表示“似乎短期有效”——正如激素治疗牛皮廯那样地立竿见影。我只是担心,在缺乏更长期影响的数据之前是不是就能对这种“人工智能教育产品”如此宽容?

孩子们失去了“开小差”的思想自由,这是何等恐怖的情形!罪犯还没有带上脚环,儿童却先带上了头箍。多么讽刺。

事件恐怕也不能只怪商业公司,“教育焦虑”的家长们也在推波助澜。那个“闵其苗之不长而揠之者”的宋国人,最终面的的是“苗则槁矣。”吕本中也在《紫微杂说》中告诫当今的家长拔苗助长的最终结局:“(非如)世人强袭取之,揠苗助长,苦心极力,卒无所得也。”家长们该醒醒了。

可以容忍的“走神”与值得鼓励的“捣蛋”

更加重要的是,注意力不集中、走神其实是正常的,人人都在走神、时时都有人走神。  走神也是有益的;是逸兴遄飞、天马行空的创造力不可或缺的。越是根本性的创造,就越需要奇崛思维的颠覆,越需要持续的各种“走神”。关于走神的(Mind wandering)的严肃研究也揭示,走神甚至就是人类神经活动的基本方式!注意力“高度集中”是非常消耗认知资源的,对学龄儿童也是不必要的。

对于教育的真正重要的价值——创造力而言,“走神”是可以容忍的,“捣蛋”是值得鼓励的。问题在于,当代的小学教育已经对儿童——特别是男童,极度不友好了。压抑天性、“听话”、“乖巧”、“注意力集中”的当代校园文化正在酝酿中国的“男性气质危机”和“创造力危机”——“创造力危机”直接关系女性,而“男性气质危机”也令许多男孩的母亲和女婿的丈母娘忧心忡忡;这种有害的技术监控手段进一步强化了这一趋势。在某985高校,我所主持的谈论班中男女比经常为25:5或者更大,而男女同学都积极思考、勇于怀疑;我也曾为某师范类高校兼职授课,班级男女比为1:42!他们也都态度端正,十分认真,努力的平均程度甚至超过985高校的学生们,然而他们对于批判性思考的兴趣远小于对标准答案的兴趣,这一度让我很不适应。他们当然也是非常优秀的,不然也不会毕业后都在杭州等地的各类小学顺利取得教职。然而我担心的是,他们,以及整个的小学教师群体,恐怕都不“偏好”儿童中的“规则破坏者”,不喜欢“闹腾”——不喜欢当年的我。他们会欢迎Brainco头环这样一种控制技术吗?很可能会。毕竟已经有教师用行动投票了。

然而,男孩子本来就跟女孩子不一样啊!文静、“坐得住”、注意力集中、多动症少,甚至——同龄相比心智发育更早(说人话就是“同龄相比更聪明”),这都是女孩子的重要特点。然而可怕在于,所有小学都将女性特征直接“规则化”确定为“价值取向”——小学中数量绝对占优的女性教师本身也更易于将这一标准“内化”,她们对此具有天然的亲切感——这无疑是有害的。

现在好了,“银样镴枪头” 的Brainco头环来了。

这一“刷数据”的Brainco头环存在可能带来严重的后果,哪怕仅仅是在其“提高学习成绩”这一初始目标中。(该Brainco头环何以技术上无效,具体讲在第三部分。)以“记笔记”为例,我所认识的诸多“学神”们几乎没有人记笔记——他们上课往往只追求“听懂、听明白”,而不去追去“笔记清晰、卷面整洁”——许多学渣在这方面做得不错。然而不能绝对化的原因在于,诸多学渣(包括我自己)、学神都不记笔记,学霸和普通学生很多都记——“记笔记”这一动作指标及其笔记质量很难成为对学习成绩的有效预测指标。某知名人工智能公司的教育产品对此的监测实质上是无效的。每个人的天生禀赋不尽一致,更重要的是初级教育阶段这些禀赋本身都还处于蓬勃发展的初始阶段,过早以某一单一标准来裁量中小学生的表现是有害的,甚至会导致学生落入“自我预期陷阱”。我们熟知的谎言“女生学不好理科”这一文化就导致了直接的负性后果。人人生而不同,在紫金港的“西方音乐欣赏”课上,教授又是讲解又是演示了老半天我才弄懂“旋律”与“节奏”的差异,然而帮我占座的同学早已经跟着教授“同声合唱”了;我的室友、西南某省会城市的高考状元有一次向我抱怨他的烦恼:“李同学上课就是睡觉,从来不听课,考前最后一天晚上预习一下第二天照样满绩,真变态!”我也认识这位后来去了加州伯克利的李同学,如果他也带上这神奇的紧箍咒或者暴露在各种“教育人工愚蠢”面前,数据一定非常难看;好在我们学校毫不关心这类指标。

数据迷思与技术反噬

此种对数据的迷恋本身是一种技术反噬,我们在追求“数据化”、可操纵的过程中逐渐被“异化”,这种异化不仅是比喻意义的,更是物理意义的。量化万物的企图终将失败,但在此之前它将经历很长一段时间的繁荣。“万物皆备于我”,来自于各种传感器的“万物数据”的即时反馈会让我们产生一种虚幻的控制感和操纵感,甚至产生“权力快感”——今晚少吃了一块泡芙,明早你看我瘦了二两;这周多跑了50公里,周末你看我体脂率下降了0.3%;带上这个头箍21天,你看,我儿子注意力提高了15分!哪怕所有这些变化的主要原因仅仅是“向均值回归”的统计规律在起作用,哪怕这数据完全是不相关的数据,都不重要。重要的是,家长相信它会有用;重要的是,教师允许它进课堂;重要的是,商家赚得盆满钵满。

以海量数据、深度学习发掘出“小数据科学”难以发现的特殊维度的相关关系,可以暂时置“因果性”于不顾而应用于商业并取得了空前的成功,美国仅次于沃尔玛的Target超市通过销售大数据比少女的父亲更早地发现其女儿怀孕就是经典案例。正因如此,逐步积累的数据让部分商业机构产生了这样一种幻觉:万物皆可量化,一切皆可替代。于是,“因果性”普遍为“相关性”所取代——这在教育领域注定行不通。

回到教育领域。“创造力”难以量化?那好,我们以“注意力”的集中程度来替代;“注意力”也难以评估?(因为“注意力”指标太多,)那好,我们继续以8-13HZ的α脑电波的活跃程度来替代。整个大脑的α波难以获取?那我,我们以个别电极的数据来替代——于是,该款Brainco头环上用三个电极来收集学生的脑电活动以求“提升学习水平”。稍微了解经典脑电实验的人都知道,除了密布的电极,实验被试还经常被涂满满一脑袋的浆糊以求降低电阻提高测量精度,而且往往还要等上很久才能测量。三个电极就能“替代”,这哪里是什么“人工智能教育产品”,这分明就是当代的“电脑算命”——“人工智能算命”。以一种高大上的方式呈现出不仅并没有意义、而且可能有害的一大堆的数据,好来宽慰家长、约束儿童。我们也已经注意到,这一制造成本低廉、售价昂贵的“脑机接口”的“捐赠行为”与其商业价值存在明确的利益关联。金华的教育部门及时叫停,这是非常正确的。

11月1日,我专门前往杭州人工智能小镇该Brainco头环公司考察,结论是:技术底层不违反科学原理,不排除在传感器进步和算法优化的未来它可能有效。我也不反对作为家长的“自由选择”使用此类产品,我只是反对在缺乏必要的技术可靠和伦理安全评估的前提下的大规模使用、我只是反对将其作为教育控制技术的任何使用,因为这都将不可逆地伤害教育的核心价值。

教育兹事体大,教育人工智能的应用也应慎之又慎。在很短的时间里,我们看到了一出又一出的“人工智能教育产品闹剧”频繁上演。任何一种可能产生巨大影响的技术应用都应当遵循必要的审慎原则,对其进行必要的、高标准的技术和伦理评估,特别是当这种技术应用于教育、特别是中小学教育领域时。应当组建省级和国家层面的教育人工智能产品技术和伦理评估委员会,对所有意在进入我国教育领域的人工智能产品和应用进行先技术、后伦理的审查,只有经过双重审查的产品和应用才能获得教育领域的准入资格。否则,商业利益的巨大驱动、人情社会的广泛联结,足以使中国的课堂成为世界上最大的闹剧剧场——以牺牲我们这个民族的未来为代价。

(注:本文仅代表作者个人观点。责编邮箱:zhoujing@jiemian.com)

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

救救孩子:头环与注意力量化将扼杀真正的创造力

任何一种可能产生巨大影响的技术应用都应当遵循必要的审慎原则,对其进行必要的、高标准的技术和伦理评估,特别是当这种技术应用于教育、特别是中小学教育领域时。

图片来源:视觉中国

(作者郭喨系浙江大学博士,浙江大学科技与法律研究中心博士后)

“人工愚蠢”与“揠苗助长”

一款号称有助于提高儿童学习成绩的“人工智能”产品“Brainco头环”近日走进了金华的课堂。随着红橙蓝三色前额灯的明灭,孝顺小学五年级的学生们“是否集中注意力”的数据开始被收集起来传递到电脑后台,供教师评阅、供家长“围观”。很快又因社会各界的广泛关注而被赶出了教室。为了防止学生“走神”,学校真是煞费苦心。

“一二三,我坐端;四五六,手背后;七八九,闭上口。”这是我在幼儿园——以及小学低年级时候非常熟悉、天天念诵的“课堂童谣”。现在的学校要求儿童“听话”、“乖巧”、“注意力集中”,跟二十年前好像也没有什么改变。差别只在于,当今越来越多的量化指标将使每一个自由发展、潜力无限的心灵陷入无处不在的“圆形监狱”之中。尽管在福柯的意义上,学校“规训”的本质与监狱无异,然而在“真理指引”这一问题上,自由追寻的年轻心灵拥有未来成长的无限可能;现在这无限可能正在被过度的监控所扼杀。实际上,近年来校园中的这类“人工愚蠢”并不罕见。贵州“冠宇科技有限公司”可以收集学生面部信息、指纹和其他生理信息甚至是下课后GPS位置的“愚蠢校服”已经通过“捐赠”的方式撬开了贵阳市观山湖远大中学等11所中学的大门;杭州第十一中学的“愚蠢课堂行为管理系统”试图监控学生表情来分析听课状态并进行评估。我在某些对罪犯机实施“社区矫正”的试点中才能见到的场景,如今在校园里铺天盖地地推广。

该Brainco头环实际上提供了一种有害的教育控制技术,通过“数据反馈”的方式来增强教师和家长对儿童学习过程的控制。这种强制的外在监控对学生的发展的影响并没有得到严肃的评估。这一旨在“增强学习”的产品,技术上上无效的,实践中是有害的。

实际上,儿童的注意力、自控力等许多认知指标都会随着身体的发育而逐渐成熟,许多精神或者学业表现的指标也都需要特定的生理基础。一个广为人知的例子是,刚出生的婴儿其实视力极差只有“光感”,直到五岁视力发育到0.8——事实上,完整到达“1.0”的“常视视力”,儿童一般需要13岁左右。学龄前的儿童视力普遍“不正常”——都是远视眼(Myopia)! 如果你家幼儿过早视力1.0,赶紧上医院检查出了什么毛病。注意力、自控力也都一样。小学低龄学童的注意力集中时间为20分钟左右,而10-12岁的学童为25分钟,12岁才到30分钟。通过“人工智能头箍”,试图让8岁的孩子拥有28岁的注意力专注度——人类注意力所依赖的大脑前额叶28岁才彻底发育成熟——这是揠苗助长。由于前述原因,对中小学生而言,走神本身就构成了学习过程的自然一环。然而现在,学生被带上“紧箍咒”开始被“约束思想”。我还不能说此种做法就一定有害,因为毕竟有家长表示“似乎短期有效”——正如激素治疗牛皮廯那样地立竿见影。我只是担心,在缺乏更长期影响的数据之前是不是就能对这种“人工智能教育产品”如此宽容?

孩子们失去了“开小差”的思想自由,这是何等恐怖的情形!罪犯还没有带上脚环,儿童却先带上了头箍。多么讽刺。

事件恐怕也不能只怪商业公司,“教育焦虑”的家长们也在推波助澜。那个“闵其苗之不长而揠之者”的宋国人,最终面的的是“苗则槁矣。”吕本中也在《紫微杂说》中告诫当今的家长拔苗助长的最终结局:“(非如)世人强袭取之,揠苗助长,苦心极力,卒无所得也。”家长们该醒醒了。

可以容忍的“走神”与值得鼓励的“捣蛋”

更加重要的是,注意力不集中、走神其实是正常的,人人都在走神、时时都有人走神。  走神也是有益的;是逸兴遄飞、天马行空的创造力不可或缺的。越是根本性的创造,就越需要奇崛思维的颠覆,越需要持续的各种“走神”。关于走神的(Mind wandering)的严肃研究也揭示,走神甚至就是人类神经活动的基本方式!注意力“高度集中”是非常消耗认知资源的,对学龄儿童也是不必要的。

对于教育的真正重要的价值——创造力而言,“走神”是可以容忍的,“捣蛋”是值得鼓励的。问题在于,当代的小学教育已经对儿童——特别是男童,极度不友好了。压抑天性、“听话”、“乖巧”、“注意力集中”的当代校园文化正在酝酿中国的“男性气质危机”和“创造力危机”——“创造力危机”直接关系女性,而“男性气质危机”也令许多男孩的母亲和女婿的丈母娘忧心忡忡;这种有害的技术监控手段进一步强化了这一趋势。在某985高校,我所主持的谈论班中男女比经常为25:5或者更大,而男女同学都积极思考、勇于怀疑;我也曾为某师范类高校兼职授课,班级男女比为1:42!他们也都态度端正,十分认真,努力的平均程度甚至超过985高校的学生们,然而他们对于批判性思考的兴趣远小于对标准答案的兴趣,这一度让我很不适应。他们当然也是非常优秀的,不然也不会毕业后都在杭州等地的各类小学顺利取得教职。然而我担心的是,他们,以及整个的小学教师群体,恐怕都不“偏好”儿童中的“规则破坏者”,不喜欢“闹腾”——不喜欢当年的我。他们会欢迎Brainco头环这样一种控制技术吗?很可能会。毕竟已经有教师用行动投票了。

然而,男孩子本来就跟女孩子不一样啊!文静、“坐得住”、注意力集中、多动症少,甚至——同龄相比心智发育更早(说人话就是“同龄相比更聪明”),这都是女孩子的重要特点。然而可怕在于,所有小学都将女性特征直接“规则化”确定为“价值取向”——小学中数量绝对占优的女性教师本身也更易于将这一标准“内化”,她们对此具有天然的亲切感——这无疑是有害的。

现在好了,“银样镴枪头” 的Brainco头环来了。

这一“刷数据”的Brainco头环存在可能带来严重的后果,哪怕仅仅是在其“提高学习成绩”这一初始目标中。(该Brainco头环何以技术上无效,具体讲在第三部分。)以“记笔记”为例,我所认识的诸多“学神”们几乎没有人记笔记——他们上课往往只追求“听懂、听明白”,而不去追去“笔记清晰、卷面整洁”——许多学渣在这方面做得不错。然而不能绝对化的原因在于,诸多学渣(包括我自己)、学神都不记笔记,学霸和普通学生很多都记——“记笔记”这一动作指标及其笔记质量很难成为对学习成绩的有效预测指标。某知名人工智能公司的教育产品对此的监测实质上是无效的。每个人的天生禀赋不尽一致,更重要的是初级教育阶段这些禀赋本身都还处于蓬勃发展的初始阶段,过早以某一单一标准来裁量中小学生的表现是有害的,甚至会导致学生落入“自我预期陷阱”。我们熟知的谎言“女生学不好理科”这一文化就导致了直接的负性后果。人人生而不同,在紫金港的“西方音乐欣赏”课上,教授又是讲解又是演示了老半天我才弄懂“旋律”与“节奏”的差异,然而帮我占座的同学早已经跟着教授“同声合唱”了;我的室友、西南某省会城市的高考状元有一次向我抱怨他的烦恼:“李同学上课就是睡觉,从来不听课,考前最后一天晚上预习一下第二天照样满绩,真变态!”我也认识这位后来去了加州伯克利的李同学,如果他也带上这神奇的紧箍咒或者暴露在各种“教育人工愚蠢”面前,数据一定非常难看;好在我们学校毫不关心这类指标。

数据迷思与技术反噬

此种对数据的迷恋本身是一种技术反噬,我们在追求“数据化”、可操纵的过程中逐渐被“异化”,这种异化不仅是比喻意义的,更是物理意义的。量化万物的企图终将失败,但在此之前它将经历很长一段时间的繁荣。“万物皆备于我”,来自于各种传感器的“万物数据”的即时反馈会让我们产生一种虚幻的控制感和操纵感,甚至产生“权力快感”——今晚少吃了一块泡芙,明早你看我瘦了二两;这周多跑了50公里,周末你看我体脂率下降了0.3%;带上这个头箍21天,你看,我儿子注意力提高了15分!哪怕所有这些变化的主要原因仅仅是“向均值回归”的统计规律在起作用,哪怕这数据完全是不相关的数据,都不重要。重要的是,家长相信它会有用;重要的是,教师允许它进课堂;重要的是,商家赚得盆满钵满。

以海量数据、深度学习发掘出“小数据科学”难以发现的特殊维度的相关关系,可以暂时置“因果性”于不顾而应用于商业并取得了空前的成功,美国仅次于沃尔玛的Target超市通过销售大数据比少女的父亲更早地发现其女儿怀孕就是经典案例。正因如此,逐步积累的数据让部分商业机构产生了这样一种幻觉:万物皆可量化,一切皆可替代。于是,“因果性”普遍为“相关性”所取代——这在教育领域注定行不通。

回到教育领域。“创造力”难以量化?那好,我们以“注意力”的集中程度来替代;“注意力”也难以评估?(因为“注意力”指标太多,)那好,我们继续以8-13HZ的α脑电波的活跃程度来替代。整个大脑的α波难以获取?那我,我们以个别电极的数据来替代——于是,该款Brainco头环上用三个电极来收集学生的脑电活动以求“提升学习水平”。稍微了解经典脑电实验的人都知道,除了密布的电极,实验被试还经常被涂满满一脑袋的浆糊以求降低电阻提高测量精度,而且往往还要等上很久才能测量。三个电极就能“替代”,这哪里是什么“人工智能教育产品”,这分明就是当代的“电脑算命”——“人工智能算命”。以一种高大上的方式呈现出不仅并没有意义、而且可能有害的一大堆的数据,好来宽慰家长、约束儿童。我们也已经注意到,这一制造成本低廉、售价昂贵的“脑机接口”的“捐赠行为”与其商业价值存在明确的利益关联。金华的教育部门及时叫停,这是非常正确的。

11月1日,我专门前往杭州人工智能小镇该Brainco头环公司考察,结论是:技术底层不违反科学原理,不排除在传感器进步和算法优化的未来它可能有效。我也不反对作为家长的“自由选择”使用此类产品,我只是反对在缺乏必要的技术可靠和伦理安全评估的前提下的大规模使用、我只是反对将其作为教育控制技术的任何使用,因为这都将不可逆地伤害教育的核心价值。

教育兹事体大,教育人工智能的应用也应慎之又慎。在很短的时间里,我们看到了一出又一出的“人工智能教育产品闹剧”频繁上演。任何一种可能产生巨大影响的技术应用都应当遵循必要的审慎原则,对其进行必要的、高标准的技术和伦理评估,特别是当这种技术应用于教育、特别是中小学教育领域时。应当组建省级和国家层面的教育人工智能产品技术和伦理评估委员会,对所有意在进入我国教育领域的人工智能产品和应用进行先技术、后伦理的审查,只有经过双重审查的产品和应用才能获得教育领域的准入资格。否则,商业利益的巨大驱动、人情社会的广泛联结,足以使中国的课堂成为世界上最大的闹剧剧场——以牺牲我们这个民族的未来为代价。

(注:本文仅代表作者个人观点。责编邮箱:zhoujing@jiemian.com)

未经正式授权严禁转载本文,侵权必究。