英国相关司法监管机构已紧急叫停警方使用AI工具撰写法庭陈述材料，原因是担忧AI生成的文本可能包含虚构的判例或误导性信息，从而严重扰乱司法公正。此前已有多名警务人员因盲目信任AI生成的内容，在法庭上引用不存在的法律条款，导致案件审理陷入混乱。这一禁令凸显了生成式AI在法律等高严谨度领域的应用风险，强调了人工审核作为最后一道防线的必要性。

该事件揭示了当前AI大模型存在的“幻觉”问题在法律场景下的致命危害，即便是准确度较高的模型，也可能在压力下生成看似合理实则错误的引用。英国警方的遭遇为全球司法系统敲响了警钟，任何涉及人身自由与法律裁决的文书，都不能完全委托给缺乏法律伦理训练的算法。这也促使各地司法部门加速制定AI辅助工具的准入标准与使用规范。

随着AI工具在办公领域的渗透，如何确保生成内容的真实性与可追溯性成为亟待解决的难题。英国警方的案例预示着未来法律与政务AI应用将强制要求引入“可信源验证”机制，并建立明确的责任归属制度。这种趋势将推动AI开发者专注于提升模型的事实准确性与逻辑一致性，确保技术真正服务于正义，而非成为制造混乱的源头。

“目前所有警队都已出台规范使用Copilot 的相关制度，规定警员必须核查该工具生成的所有内容。”默里说。

尽管存在诸多隐患，但默里认为，经过全面测试的人工智能系统，能够为深陷工作量激增、案件侦查日趋复杂困境的警队带来显著助益。

监控录像分析就是极具前景的应用方向。现阶段，警员往往要耗费数小时人工回看录像，从中搜寻嫌疑人。

默里表示：“只要指令设置得当，人工智能完全可以做到按要求检索，比如‘找出戴红帽子的男子’。在证据尚存关键价值的黄金数小时乃至一两天内，我们就能锁定目标、上门抓捕，当场查获带有血迹的鞋证。”

他还提到，人工智能有能力处理海量电子证据，儿童性侵案件侦查便是典型场景。目前警方人工智能中心正在研发一款工具，可对查扣设备中的图片进行识别与分类，减少警员直接浏览不良影像的次数。

默里说：“警员只需抽样核验即可，不必逐一查看全部画面。这类内容会对人的身心造成极大伤害。我认为，只要配套完善监管规则、使用规范与人员培训，自动化技术带来的益处远大于弊端。”