微软正在推出一项名为“纠正”的新功能，旨在加强其对人工智能不准确性问题的应对。使用微软Azure为其人工智能系统提供支持的客户，现在可以利用该功能自动识别和重写人工智能输出中的错误内容。
作为Azure AI Studio的一部分，修正功能目前在预览版中可用，这是一套旨在检测漏洞、识别“幻觉”并防止恶意提示的安全工具。一旦启用，校正系统将扫描并识别人工智能输出中的不准确之处，并与客户的原始材料进行对比。
接下来，它会突出显示错误，提供关于错误原因的解释，并重写有问题的内容——所有这些都在用户看到错误之前完成。尽管这看起来是解决人工智能模型常常产生的无效信息的有效方法，但它可能并不是一个完全可靠的解决方案。
谷歌的Vertex AI是为开发人工智能系统的公司提供的云平台，它通过对比谷歌搜索、公司自身的数据以及即将推出的第三方数据集来“确认”人工智能模型的基础。
在给TechCrunch的一份声明中，微软的一位发言人表示，“校正”系统利用“小型语言模型和大型语言模型来将输出与基础文档对齐”，这意味着它也无法完全避免错误。微软向TechCrunch表示：“重要的是要注意，接地检测并不能解决‘准确性’问题，但有助于将生成的人工智能输出与接地文档保持一致。”
本文来自作者[admin]投稿，不代表万福山立场，如若转载，请注明出处：https://ahwfs.cn/zlan/202506-478.html
评论列表（4条）
我是万福山的签约作者“admin”！
希望本篇文章《微软宣称其人工智能安全工具具备错误检测与修复功能》能对你有所帮助！
本站[万福山]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 微软正在推出一项名为“纠正”的新功能，旨在加强其对人工智能不准确性问题的应对。使用微软Azure为其人工智能系统提供支持的客户，现在可以利用该功能自动识...