当前位置:首页 > 戎季同 > 正文

美国学区正使用AI预防校园暴力,检测威胁语言后通知管理员,但事前诊断率仅25%

摘要: 大数据文摘出品 作者:Caleb 美国再发枪击案。 5月24日,得克萨斯州尤瓦尔迪市罗布小学发生枪击事件,至少...

美国学区正使用AI预防校园暴力,检测威胁语言后通知管理员,但事前诊断率仅25%

  大数据文摘出品

  作者:Caleb

  美国再发枪击案。

  5月24日,得克萨斯州尤瓦尔迪市罗布小学发生枪击事件,至少19名儿童和2名教师遇害。这是自2012年康涅狄格州纽敦镇桑迪胡克小学枪击案以来,美国境内致死人数最多的校园枪击事件,也是美国2022年发生的至少第30起幼儿园及中小学校园枪击案。

  根据法国媒体报道,枪击案事件肇事者可能是一名17岁的青少年。

  当地时间29日,美国总统拜登和第一夫人吉尔·拜登当天前往得克萨斯州尤瓦尔迪市罗布小学大规模枪击案现场,他们参观了在该小学外设立的一处纪念场所,并向遇难者献花。

美国学区正使用AI预防校园暴力,检测威胁语言后通知管理员,但事前诊断率仅25%

  每次青少年大规模枪击事件发生之后,我们都不禁疑惑:这些迹象到底是怎么被一一错过的?

  AI正在阻止学校暴力事件

  锁定个人与早期干预是至关重要的。

  目前,学校也越来越依赖于监控软件来检查他们在网上发布的帖子和文章,因为他们几乎总是记录这些计划。

  这些软件系统,来自Gaggle,Lightspeed Systems和Bark等公司,可以监控在学校发行的设备和网络上的通信。其中AI可以检测到一些语言,表明学生有伤害自己或他人的倾向。

  谷歌文档和微软Office上写的电子邮件或者是一些暴力计划,以及网络搜索武器或自杀方法等行为,都被标记给管理员,然后管理员必须决定威胁是否可信以及如何采取行动。

美国学区正使用AI预防校园暴力,检测威胁语言后通知管理员,但事前诊断率仅25%

  “这是一个预警系统,提醒我们可能会发生的事情,所以我们可以帮助他们回到一个相对正常的水平”。Quintin Shepherd说。

  虽然无法得知有多少校园枪击事件被预防,用户表示,这项技术能在学生正在使用学校服务进行交流的地方标记警告,同时学校必须做好在警报出现时采取行动的准备,评估警告,做出反应。

  警报通常包含被标记的措辞、威胁的类型以及学生聊天打字的地方。当威胁被认为是可信的时候,比如学生写到自己有自杀的想法而不是为课堂项目时,学校辅导员就需要进行家访。

  学校官员说,家长们经常表示惊讶。根据不同情况,学生可能会住院,转介给治疗师进行治疗,或由咨询师进行更密切的监控。

  这名青少年男子被控本月早些时候在纽约州布法罗的一家超市杀害10人,此前也曾被转到医院。医务人员确定他没有危险,也没有精神疾病,才把他送回家。

  维多利亚地区使用了Gaggle,每个学生一年的费用约为6美元。

  然而,Shepherd说,学区不能仅仅依靠技术来防止学校暴力事件。四年前,当他成为督学时,他询问了社区成员的担忧,学生安全排名靠前。大人们都表达了需要更多的身体安全措施的要求,比如学校警察和通知系统。学生们说,他们需要更多的心理健康支持,并帮助他们发展应对技能。

美国学区正使用AI预防校园暴力,检测威胁语言后通知管理员,但事前诊断率仅25%

  各学区已经收到了数十亿美元的救济资金,用于解决心理健康问题和学习损失,他们也正努力使用所能使用的所有工具来检测和防止暴力。

  Shepherd说,他所在的地区减少了300个运营、行政和教学工作,为学生提供更多的心理健康服务。维多利亚是一个有13500名学生的地区,来自一个低收入的西班牙裔社区。它为每一所学校增加了一名社会情感行为专家,帮助陷入困境的学生和家庭。

  “我们意识到,每个来学校的学生都带着一些感觉,有时这些感觉是悲伤、愤怒或沮丧的。如果我们能尽早看到,我们就能帮助孩子们不让他们的感觉劫持他们的情绪,那正是坏事发生的时候。”

  94%的计划会被提前分享

  去年,美国特勤局分析了67起避免了针对学校的暴力阴谋,他们发现,在94%的案件中,攻击者都会通过电子信息或在线帖子口头分享计划。也有人在没有被分享的期刊、文件、视频或录音中概述了他们的计划。

  乌瓦尔德大学的枪手曾在脸书上向一名海外少女发短信,说他计划在枪击事件发生前杀死自己的祖母和学生。据说,他还在社交媒体上发布了有关枪支和自残的照片和视频。

  根据联邦调查局的一份关于枪手导致攻击的行为的报告,活跃的枪手表现出四到五种与周围人有关的行为,比如心理健康的变化、困难的人际交往和对暴力的讨论。

  枪手在枪击发生前一年也经历了多重问题,从学校的纪律处分到家里的虐待。抑郁、焦虑或偏执狂等心理健康问题在这些枪手中普遍存在。然而,在联邦调查局调查的案件中,只有大约25%的人在袭击前得到了正式诊断。

  联邦调查局发现,对于18岁以下的枪手来说,同学们比家人更有可能观察到自己的行为。41%的案件向执法部门报告了这种行为,在大多数情况下,关于该行为的唯一讨论是在枪手和同伴之间。

  据联邦调查局和其他官员说,自杀的念头在那些继续伤害他人的青少年中也很常见。

美国学区正使用AI预防校园暴力,检测威胁语言后通知管理员,但事前诊断率仅25%

  “那些有杀人倾向的人往往有自杀倾向,这是对地区的潜在威胁。”科罗拉多州法尔肯市49学区安全安全主任David Watson说,该学区利用Bark向管理人员提醒学生的威胁。

  Watson表示,他所在的学区在2017-2018学年开始注意到青少年心理健康问题的上升,此后,科罗拉多斯普林斯东北部地区发生了大量学生自杀事件。

  Bark为学校提供免费的人工智能服务,以扫描他们的通讯。该软件不是一个独立的应用程序,也不是一个跨学校网络使用的过滤器;相反,它是在学校的谷歌和微软Office365中实现的。每个学生的年费2美元,学区就可以在放学后让审查人员来审查可能出现的严重威胁。

  但正如Shepherd所说,我们不能完全依赖技术,AI能在多大程度上解决这类问题,我们仍需要继续观察并摸索。

发表评论