在美国,正在讨论使用语言模型进行紧急通知。原因很明显:在火灾或洪水期间,当地服务人员经常匆忙写信息。文本可能会错过收件人、确切的风险区域或明确的命令。研究人员珍妮特·萨顿 (Jeanette Sutton) 在一次真实的洪水警报中展示了 EM1 程序如何纠正结构:命名发送者、指示疏散区域、建议转移到地势较高的地方并提供更新来源。这是一项有用的编辑任务,特别是对于小型团队而言。
但漂亮的公式并没有检查原始数据。在阿拉巴马州,一名当地员工使用聊天机器人创建了飓风威胁图,其中对危险风的描述在气象学上是不正确的。一个错误可能会使虚构的场景看起来像官方预测。据《连线》和 Grist 报道,EM1 与机构签订了约 100 份合同,但尚未将系统转移到自动发送紧急天气警报。该程序用于准备计划和内部工作。这里合理的应用方案如下:一个人收到经过验证的预测,确定居民的领土和行动,该模型有助于缩短和澄清消息,由授权的专家验证并发送。另外,您需要监控邮件的频率:过多的警报会导致警告疲劳。速度很重要,但在紧急消息中,准确性比流畅的文本更重要。
通知应回答居民的实际问题:谁在发出警告、危险在哪里、现在该做什么以及在哪里监控进一步消息。如果缺少其中一点,即使是语法完美的短语也无济于事。语言模型可能会注意到差距并建议简单的单词而不是部门术语。但她不会亲眼看到天气,也不必自己绘制危险地图。事实的来源仍然是负责任的服务的测量、预测和决策。文章中显示错误地图的情况尤其重要,因为图像通常看起来比纯文本更有说服力。此外,公司内部测试不能被视为自动群发邮件安全性的证据。在广泛实施之前,需要进行真正的检查、纠正错误的程序以及对所发送消息的明确责任。
尤其要区分“帮助起草”和“自动发布”。前者允许工作人员逐条核对地点、时间和行动建议,后者可能在错误被发现前就触达大量居民。一次错误警报不仅浪费资源,也可能削弱公众对下一次真警报的信任。地方机构在使用系统之前,应规定谁提供可靠的事实、谁签发通知,以及发现错误后如何及时更正。基准测试成绩无法替代这些现场流程。