亚马逊推出「自动推理检查」工具，对抗 AI 幻觉

亚马逊云科技（AWS）推出了「自动推理检查」工具，旨在解决 AI 模型产生的幻觉问题。该工具通过验证模型的响应准确性来防止幻觉产生。尽管 AWS 宣称这是首个也是唯一的针对幻觉的防护措施，但微软和谷歌也推出了类似的功能。自动推理检查通过 AWS 的 Bedrock 模型托管服务提供，可以创建规则验证模型生成的回答，并将正确答案与可能的错误答案一起呈现。普华永道已经开始使用该工具为其客户设计 AI 助手。然而，专家指出，消除生成式 AI 的幻觉就像试图从水中消除氢一样困难，因为 AI 模型是基于统计模式预测答案，而非提供确切答案。AWS 尚未提供数据证明该工具的可靠性。