微软发布新工具，检测和纠正 AI 幻觉内容

微软在 Azure AI Content Safety 中推出预览版 Groundedness Detection，旨在纠正 AI 幻觉，通过对比 AI 输出内容和源文件，识别并修正没有证据或幻觉内容。虽然该工具能提高人工智能输出的可靠性，但不能保证完全准确，主要目的是提高生成内容与源材料之间的一致性。当系统检测到支持不足的句子时，会触发新请求，要求小型人工智能模型进行修正。