生成式人工智能幻觉有什么好处吗？
加入技术交流群
生成式人工智能 （AI） 幻觉（即人工智能提供不正确或捏造的信息）可以提供好处，特别是在药物发现等创造性和探索性领域。
人工智能幻觉有四种常见类型（图 1）。并非所有类型都同样可取或有用。
一般矛盾包括上下文冲突和句子矛盾。例如，人工智能可以通过提供有关足球前锋如何适应特定比赛情况的信息来响应对前向转换器原理图的请求。
当输出忽略输入时，就会出现提示矛盾。如果 AI 回复“周年纪念日快乐，爸爸妈妈”，而提示是给侄女的毕业祝贺。
当人工智能模型呈现不正确的信息时，就会出现事实矛盾，就好像它是真实的，比如“托马斯·爱迪生发明了互联网”。
当输出中包含不相关或随机的细节时，就会出现不相关或随机的幻觉。例如，在创建风景图像时，人工智能会添加不属于的随机元素，例如一张脸似乎漂浮在空中。
图 1.四种常见的人工智能幻觉类型。（图片：Signity)
为什么人工智能会出现幻觉？
人工智能幻觉既多于传统意义上的错误，也少于错误。它们有时被称为“虚构”或“捏造”，以更好地反映其本质。幻觉一词通常意味着强调法学硕士的不可预测性以及它们对每个提示做出反应的倾向。
人工智能仅限于其训练，不知道它不知道什么。这可能适用于训练技术和训练数据的局限性、模型设计的局限性、缺乏现实世界的背景或同理心以及许多其他因素（图 2）。
图 2.人工智能幻觉的多种原因的例子。（图片来源：Kanerika)
使用 RAG、TAG 和 RAFT 最大限度地减少幻觉
检索增强生成 （RAG）、表增强生成 （TAG） 和检索增强微调 （RAFT） 可以通过帮助人工智能做出超出初始训练的响应并将响应建立在可验证的外部知识上，而不是仅仅依赖其潜在过时的训练数据，从而最大限度地减少人工智能幻觉。这三种技术在响应生成过程中为模型提供了额外的上下文。
RAG 是通过从文档和网页等非结构化数据源检索和合并信息来实现的，以改进 AI 响应。TAG 正在利用初始训练数据库之外的数据库中的结构化数据。
RAFT 设计用于动态信息环境。RAFT 中的微调是一种人工智能持续学习，其中对 LLM 本身（而不仅仅是即时响应）进行了修改。
人工监督和 HITL
人机交互 （HITL） 方法可用于预防或利用人工智能幻觉。HITL 将人类的专业知识和判断力融入人工智能流程中。在实施 HITL 时，主题专家 （SME） 会审查和纠正 AI 输出，验证决策，并向模型提供持续反馈。
HITL 和 SME 的整合对于高风险应用尤为重要，因为在这些应用中，错误可能会产生重大的负面后果。中小企业增加了人工智能无法提供的常识、情境意识和批判性思维。
HITL 还可用于确保使用人工智能的科学调查和工程应用遵守法律、道德和监管标准，这在医学和刑事司法等领域至关重要。
利用幻觉
在涉及药物发现或材料开发等领域的科学研究中，HITL 方法通过故意激发模型富有想象力的输出来利用人工智能幻觉。
例如，幻觉可能是由于提出需要训练数据中没有知识的问题引起的，其中鼓励人工智能在其事实知识库之外“发挥创造力”。
科学家可以利用引发的幻觉来制定新的、可检验的假设。人类知识和直觉的结合，加上人工智能快速产生诱发幻觉的能力，可以显着加快和扩展发现过程。
总结
人工智能幻觉有多种来源。在大多数情况下，幻觉无法消除，但 RAG、TAG 和 RAFT 等工具可以帮助最大限度地减少幻觉的产生。HITL 可用于消除许多人工智能幻觉，并可用作科学发现过程的一部分，引导幻觉进入富有成效的道路并加速新见解的发展。
评论