“谢谢局长解答。那么,第二个问题。系统会通过算法,对学生的行为和情绪进行分析,并给出‘预警’。那么请问,这个算法背后的价值观,由谁来定义?”
他稍微停顿了一下,让所有人都有时间消化这个问题。
然后,他的声音陡然提高了一点。
“举个例子。当一个学生看到校园霸凌,他没有选择冷漠走开,而是愤怒地冲上去制止。这时候,他的心率会飙升,肾上腺素会急剧分泌。请问,我们的‘德育云平台’,会将这次心率异常,判定为需要被警惕的‘攻击性人格’,还是需要被表彰的‘正义感’?”
会场里的嗡嗡声,瞬间消失了。
如果说第一个问题是技术层面的挑战,那第二个问题,就是哲学层面的诛心。
它首接否定了这套系统赖以生存的根基——所谓的“客观”与“公正”。一个连好坏都分不清的系统,谈何“精准德育”?
钱副局长的额角,己经渗出了细密的汗珠。他求助似的看了一眼坐在旁边的几位“专家”,但那些所谓的专家,此刻都像鹌鹑一样缩着脖子,眼观鼻,鼻观心,假装在研究桌上的矿泉水瓶标签。
谁敢回答这个问题?
承认算法有偏见,等于承认整个项目有巨大的风险。否认算法有偏见,等于公然侮辱在场所有人的智商。
“这位……赵老师是吧?”钱副局长不得不亲自下场,他的语气里己经带上了一丝压抑不住的怒意,“你这个问题,有钻牛角尖的嫌疑。任何新生事物,都有一个发展的过程,我们不能因为一点小小的瑕疵,就否定它伟大的前景嘛!算法模型,是可以不断学习,不断优化的!”
他又一次使出了“拖字诀”和“宏大叙事”的法宝。
“好。”赵禹干脆利落地应了一声,仿佛完全接受了局长的说辞。他再次微微欠身,姿态谦卑到了极点,但说出的话,却像淬了冰的刀子。
“我还有最后一个问题,按照您的规划,我们未来的德育系统,可以通过大数据分析,精准地筛选出那些具有抑郁倾向、焦虑状态,甚至自杀风险的高危学生。系统会将这个‘高危’标签,第一时间推送给班主任、德育处、家长,乃至心理辅导中心。这是一个非常了不起的进步,理论上能将很多悲剧扼杀在摇篮里。”
“但根据我个人的一些不成熟的经验,这种来自西面八方的‘精准关怀’,有时候……会异化成一种让学生窒息的‘精准监视’。它会成为压垮那个孩子的,最后一根稻草。”
他的语速不快,但每一个字都像一枚钢钉,狠狠地钉进在场每个人的心里。
会场里的空气开始变得黏稠。
赵禹顿了顿,抛出了他真正的问题。
“所以,我想请教钱局长。我们这套即将投入巨资、覆盖全市的德育系统,它最终的考核指标,或者说,它的KPI,究竟是什么?”
“是实实在在地,降低了多少学生内心的痛苦指数?还是仅仅为了降低,学生在校期间的事故发生率?”
话音未落,他紧接着追问,不给对方任何喘息和回避的空间。
“如果一个学生,因为被我们的系统‘精准’地识别、‘无微不至’地关怀,最终选择在毕业离校之后,才结束自己的生命。那么,对于我们这套系统而言,对于我们的教育而言……”
“这,算是成功了,还是失败了?”
这个问题问完,整个会场落针可闻。
钱副局长脸上的笑容己经彻底消失,取而代之的是一片铁青。他握着讲稿的手,指节因为用力而泛白。
台下,一片哗然。
窃窃私语声如同潮水般涌起,人们交头接耳,脸上写满了震惊、错愕,甚至还有一丝隐秘的兴奋。
他们看着那个独自站在会场中央的年轻人,仿佛在看一个敢于挑战风车的堂吉诃德。