买球·(中国大陆)APP官方网站客户上传信息以竖立一种事实基础-买球·(中国大陆)APP官方网站

IT 之家 12 月 4 日音尘，亚马逊云科技（AWS）发布了一款新器用，旨在惩办 AI 模子产生的幻觉问题。

IT 之家刺目到，在拉斯维加斯举办的 re:Invent 2024 大会上，AWS 推出了"自动推理查验"（Automated Reasoning checks）器用，该器用通过交叉援用客户提供的信息来考证模子的反应准确性。

AWS 宣称，这是"第一个"亦然"独一"的针对幻觉的谨防要领。可是，这种说法可能不够准确。微软本年夏天推出的"更正"功能与"自动推理查验"险些疏导，都不错艳丽可能存在事实造作的 AI 生成文本。谷歌的 Vertex AI 平台也提供了一个器用，允许客户通过使用第三方提供商的数据、我方的数据集或谷歌搜索来使模子的陈述更可靠。

"自动推理查验"通过 AWS 的 Bedrock 模子托管就业（相配是 Guardrails 器用）提供，试图弄明晰模子是若何得出谜底的，并判断谜底是否正确。客户上传信息以竖立一种事实基础，然后"自动推理查验"创建规矩，这些规矩不错被优化并应用于模子。

当模子生成陈述时，"自动推理查验"会考证它们，并在可能出现幻觉时，专揽事实基础得出正确谜底。其会将这个谜底与可能的造作谜底一皆呈现，以便客户不错看到模子偏离正确谜底的进度。

AWS 显露，普华永说念还是开动使用"自动推理查验"为其客户策画 AI 助手。AWS 的 AI 和数据副总裁 Swami Sivasubramanian 暗意，这种类型的器用恰是招引客户使用 Bedrock 的原因。

但据 Techcrunch 报说念，一位民众本年夏天称，试图撤消生成式 AI 的幻觉就像试图从水中撤消氢相通。AI 模子之是以会产生幻觉，是因为它们骨子上并"不知说念"任何东西。它们是统计系统，通过识别一系列数据中的形状，并字据之前看到的例子展望下一个数据是什么。因此，模子的反应不是谜底，而是对问题应该若何陈述的展望 —— 在一定的差错限制内。

AWS 宣称"自动推理查验"使用"逻辑准确"和"可考证的推理"来得出论断买球·(中国大陆)APP官方网站，但该公司莫得提供任何数据来诠释该器用的可靠性。