警察部门往往是科技行业最早采用无人机、面部识别、预测软件等新产品的部门之一，现在又有了人工智能。在已经采用人工智能音频转录程序之后，一些部门现在正在测试一种新的、更全面的工具——利用类似于ChatGPT的技术自动生成警方报告的软件。据美联社8月26日报道，许多警官已经对这款生成式人工智能工具“充满热情”，该工具声称可以将日常办公时间缩短30-45分钟。

Draft One最初由Axon公司于4月宣布，该公司声称其初步试验为用户每天减少了一小时的文书工作时间。Axon在披露的信息中表示：“当警官们可以花更多时间与社区联系并照顾好自己的身心健康时，他们就能做出更好的决定，从而取得更成功的缓和结果。”

该公司当时表示，Draft One是基于微软的Azure OpenAI平台构建的，可以自动转录警察随身摄像机的音频，然后“利用人工智能快速创建叙述草稿”。报告“严格根据音频记录起草”，遵循Draft One的“基本模型……以防止猜测或夸大其词”。在添加其他关键信息后，警官必须签署报告的准确性，然后才能进行另一轮人工审查。如果人工智能参与了报告的撰写，每份报告也会被标记。

Axon的AI产品经理Noah Spitzer-Williams周一在接受美联社采访时声称，Draft One使用“与ChatGPT相同的底层技术”。ChatGPT的基础生成式大型语言模型由OpenAI设计，经常因其在响应中提供误导性或虚假信息的倾向而受到批评。然而，Spitzer-Williams将Axon的能力比作拥有比普通ChatGPT用户更多的“旋钮和拨盘”。据称，调整其“创造力拨盘”有助于Draft One保持其警方报告的真实性，并避免生成式AI持续出现的幻觉问题。

目前，Draft One的适用范围似乎因部门而异。俄克拉荷马市警察局长Jason Bussert声称，他所在的1,170名警员的部门目前仅将Draft One用于不涉及逮捕的“小事件报告”。但据美联社报道，在印第安纳州拉斐特，为该镇近71,000名居民服务的警察可以自由使用Draft One“处理任何类型的案件”。与此同时，拉斐特邻近的普渡大学的教职员工认为，生成式人工智能根本不够可靠，无法处理可能改变人生的与警察发生冲突的情况。

“ChatGPT等工具所依赖的大型语言模型并非旨在生成真相。相反，它们基于预测算法将听起来合理的句子串联起来。”普渡大学专注于数字和技术伦理的临床副教授Lindsay Weinberg在给《大众科学》的一份声明中说道。

担任技术正义实验室主任的温伯格还认为，“几乎你能想到的每一种算法工具都被一次又一次地证明可以重现和放大现有的种族不公正形式。”多年来，专家们已经在大型语言模型中记录了许多基于种族和性别的偏见的例子。

温伯格说：“在目前支持和批准大规模监禁的法律体系背景下，使用一些工具让生成警方报告变得‘更容易’，这应该引起那些关心隐私、公民权利和正义的人的深切关注。”

在发给《大众科学》的电子邮件中，OpenAI的一位代表建议将问题直接转给微软。截至撰写本文时，Axon、微软和拉斐特警察局尚未回应置评请求。