微软宣布推出了一项名为“Correction”的新功能，该功能不仅能够检测人工智能系统中的错误，还能自动进行修正。此功能是微软为解决AI准确性问题所作努力的一部分。使用Azure来驱动其AI系统的客户现在可以利用这一功能自动检测并重写AI输出中的不准确内容。

“Correction”功能目前作为Azure AI Studio的一部分提供预览版本。Azure AI Studio是一套旨在检测漏洞、识别“幻觉”以及阻止恶意提示的安全工具。启用后，“Correction”系统会扫描并识别AI输出中的不准确之处，并通过与客户的源材料对比来突出显示错误，提供错误原因，并在用户看到之前重写有问题的内容。

尽管这一功能看起来是解决AI模型常出现的无稽之谈的有效方法，但它并非完全可靠。谷歌的Vertex AI平台也有类似的功能，通过检查输出内容与Google搜索结果、公司数据及第三方数据集的一致性来“固定”AI模型。微软向TechCrunch表示，“Correction”系统使用小型和大型语言模型来使输出与基础文档对齐，但这并不意味着它不会出错。微软强调，基于文档的检测并不能完全保证准确性，而是帮助生成的AI输出与基础文档保持一致。

参考链接:

https://www.theverge.com/2024/9/24/24253452/microsoft-correction-ai-safety-tool-fix-errors