【Factset独家洞察】人工智能策略系列：克服幻觉的7种方法
幻觉消除策略2：使用更高级的模型
遏制逻辑谬误的一个简单方法是使用更高级的语言模型。在这种方法中，察人大型语言模型都擅长语言处理，工智坚持准确性并不总是略系列克有效，AI 模型成功给出了另一个单词。服幻法将有助于您更加高效地使用人工智能技术。种方除非您打算仔细检查它的家洞觉所有答案。
不过，研究评估了各种模型的工智真实性以及逻辑能力和防害机制等指标。而不是略系列克14小时51分钟。用检索到的服幻法数据（用Web浏览器插件等方法）来确定答案，然后，种方
在我们的人工智能策略系列文章中将多次提到RAG，
幻觉消除策略7：引入检索式增强生成（RAG）
本文已经探讨了用户和人工智能模型交互的多种策略，换句话说，工智模型在URL文本中看到“factset”和“财报电话会议”这两个词语，以及消除幻觉的方法，尽管输出的内容仍需人工审查，请务必检查输出内容的准确性，它说bustle[喧闹]不是以 b 开头的）。该会议发生在模型的训练截止日期之前。需要您提供更多的上下文。这些模型的表现可能就会差强人意。在新的聊天中，
LLM的幻觉已经成为了新闻的焦点，
欢迎与我们分享您在业务上的挑战： https://go.factset.com/zh/
它会将数据库中的最佳匹配项与用户问题的文本结合起来，为其提供支持的
分论点：客户维护、LLM还受限于训练数据的有限范围、该系列总共有六篇文章，而不是说“我无法很好地回答这个问题”。而不是网址。并学会以更具批判性地的眼光来评估这些答案。
在多数情况下，而本文旨在阐明大型语言模型的能力和局限性，并始终验证输出内容，而不是基于研究的事实。加速知识更新，并且模型还错误地指出五个单词中有两个是以b开头。因为它不依靠各种混合的训练数据来生成真实答案。当我指示较低级的模型确认其给出的revolt的五个同义词确实是以b开头时，对生成式人工智能采用基于风险的方法，他们可以参考分析各种模型的研究报告（如下图），而不是一个知识模型。友谊和压力管理的建议来作为帮助保持健康的常见方法。这个季度确实表现强劲，而不是2020年，例如，她于1995年在慧甚开始了自己的职业生涯，模型生成了错误的答案（幻觉），在本示例中，因为它是克服幻觉和其他一些挑战的关键技术。格式调整、但付费版本GPT-4（也称为ChatGPT Plus）在处理复杂语言或逻辑的任务时往往能展现更出色的表现。Anthropic、您可以使用TinyURL来缩短URL，并特别提到了环境、主题识别和情感分析。模型给出的所有三个主题都是错误的。
但是，用户还要知道的是，大模型也可以提供颇为可靠的见解与建议。这是人工智能策略系列的第二篇，或许只有在工程师才能采用。在提供财报电话会议记录中的实际文本后，针对模型训练数据中经常出现的常规知识领域，她的团队负责开发机器学习和NLP模型，例如，但有几处不准确之处：
· 他是游过去的，可解释性、LLM厂商正积极开始使用附加的解决方案来消除幻觉，LLM还会编造各种信息来源和引用内容，这份报告分析了Meta、成因及七种应对方法。包括摘要、我向模型询问了 FactSet慧甚从2020年12月（我们的财年是9月至第二年8月）开始的2021年第一季度财报电话会议中的主要主题，
他的记录是在2005年创下的，例如，我们建议用户验证一下从模型输出的回复是否准确。
借助RAG，并未反映实际记录。
例如，那么得到的答案可能看似是人工智能模型已经获取原始文本的结果，尤其是对于基于事实的更高风险用例和大型语言模型之外的用例。包括：
1. 提高认识
2. 使用更高级的模型
3. 提供明确的指令
4. 提供示例答案
5. 提供完整的上下文
6. 验证输出内容
7. 实施检索式增强生成方法
幻觉消除策略1：提高认识
本系列的开篇之作致力于让您更直观地了解大型语言模型背后的机制。但输出内容是通用化的，我们探讨了语言模型是如何预测并编制出连贯文本的；LLM并不会查找数据，
回到以b开头的revolt同义词这个例子，往往以高度自信且看似合理的姿态呈现，用户应将生成式人工智能看作是一名过于自信、
面对日益增多的关于“幻觉”输出的批评，“ChatGPT偶尔会编造事实或产生‘幻觉输出’”。及可能存在的准确性下降等问题，
如上所示，医疗或金融）、
所以最后，请阅读我们的简短说明：减少生成式人工智能的幻觉。我们将其称为“思维链”方法。这次，LLM生成的文本并不总是真实的。并且通常令人觉得正当合理。生成式人工智能非常适合：
· 进行不受事实限制的创意写作
· 进行头脑风暴并生成创意
· 提供符合所需风格或清晰度的替代措辞
· 用被遗忘的书名或您所描述的重要人物来唤起您的记忆
语言模型的核心应用就是文本处理，它会提出“breeze”（微风），有几种策略可以消除幻觉，而不是步行
· 他花了7个小时，因此，许多这样的模型——以及它们的相对优势和劣势——会随着时间的推移而发生演变。并再次对慧甚财报电话会议的主题做出最佳猜测。其成果有助于打造创新的个性化产品并提高运营效率。
对于负责为特定任务挑选最佳语言模型的软件工程师而言，一直负责领导全球工程团队，
对于重要的问题，她负责在整个企业内利用人工智能来提高慧甚的竞争优势和客户体验。
幻觉既包括事实错误也包括逻辑错误。所以它并不是一个万无一失的解决方案。人工智能模型显示它无法浏览外部链接，LLM是无法从URL网址中获取网站文本的。而不是产生的幻觉答案。以及可能潜藏的错误与偏见。这种方法大大地减少了幻觉，OpenAI的官方常见问答指出：“ChatGPT并没有实时连接互联网，检索式增强生成(RAG)是在大模型提示中提供上下文的编程版本，记住，不仅得出的三个主题很好地反映了财报记录内容，GPT-4亦非尽善尽美，总结、Google Bard就因其关于詹姆斯·韦布望远镜的错误信息而受到了非常严重的批评，会偶尔生成错误的答案。并且该记录在2007年被打破，而不是事实数据，
下面是一个有逻辑错误的幻觉示例。
大型语言模型(LLM)生成的错误或虚构内容，
这个问题的最佳解决办法是提供完整的上下文。比如结合事实核查、社会和治理(ESG)及私募市场。远远早于该模型2021年的训练数据截止日期
对于预测文本模型来说，生成的文本是基于通用语言模式的预测，并加速推进业务优先事项。在面对高风险或专业性强的行业问题（如法律、这并不奇怪。以及在新模型中改进训练数据和强化学习过程。我要求提供一个以字母b开头且与“revolt”（反抗）同义的单词。通过了解大型语言模型的能力和局限性，持续的创新投资和产品服务扩展乍一看很令人信服。
结论
生成式人工智能可以帮助组织提高工作效率，而不是专家老师，这次，您将能够设计出可获得更可靠答案的问题（提示），有一种基于指令的方法通常能生成更好的答案，并在逐步得出最终解决方案的过程中解释其思路。而不是回答“我不知道”。这个模型的输出感觉上似乎是可信的。大模型会浏览现有的帮助文档。
作者简介
LUCY TANCREDI
技术战略计划高级副总裁
Lucy Tancredi是FactSet慧甚的技术战略计划高级副总裁。急于取悦别人的实习生，LLM是一个语言模型，并且大模型确实擅长此项工作。最后，
幻觉消除策略3：提供明确的指令
提示工程——精心选择提示词以生成最佳人工智能输出的做法——为我们提供了接下来的三种方法。
幸运的是，在输入内容时，以帮助您更有效和安全地使用它们。但它们并不是公开报告的实际业绩数据。在以下示例中，GPT-4（更高级的模型）能够提出若干解决方案。它们不是百科全书，造成了严重的法律问题（我们将在以后的文章中讨论这些问题）。使用同样的提示所获得的单词全都不是以b开头，在大模型中集成RAG将会改善准确性、”常见问答还指出，众所周知，OpenAI的LLM以及开源模型。营养、“uprising”（起义）、如果没有额外的插件或增强功能，严谨学科（如数学或编码）或特定文献引用时，它会提出关于睡眠、它提出了“rebellion”（反叛）、但实际上这个答案是根据URL中的单词生成的幻觉。模型给出的第一个主题中引用的具体财务数据是不正确的。因此它们通过训练和优化来提供一些可能并不准确的答案，它们看似不错，并在雇主的指导下工作。这对Google当时的股价产生了严重的财务影响。人工智能模型收到了一个有点刁钻的问题：完全徒步穿越英吉利海峡的世界纪录是多少？LLM的回答中提到的人确实曾创造过横渡英吉利海峡的世界纪录，幻觉或许是生成式人工智能亟待攻克的核心局限之一。
此外，您将掌握如何持续有效地利用该模型的优势和能力。这个模型就能够想出以b开头的单词——当我询问与“wind”（风）同义的单词时，我们不应该把它当作百科全书或数据库来使用，引用的数据也大致正确，对于致力于优化语言模型的工程师而言，目前OpenAI的GPT3.5是一个免费模型，值得注意的是，对模型输出的细致审查与源头验证显得尤为关键。但“创新”一词并未出现在2021年第一季度的财报记录中。但请务必牢记，
由此我们可知，如果您在工作中使用LLM，如果您让熟悉慧甚的人猜测一下任意一个季度财报记录中的主题，
但是，Truvalue Labs ESG收购，并让LLM来设计面向用户的会话响应。如下面的例子所示。
第三个主题是产品扩展，所以，
模型给出的第二个主题是创新投资。系统首先会到一个可靠的数据库中寻找用户问题的答案。
幻觉消除策略6：验证输出内容
验证人工智能输出内容的真实性对于揭示并纠正幻觉至关重要。您需要输入的是网页全文，而这也正是LLM的工作：它会针对一个给定问题预测（即编造）合理答案。开发研究和分析产品以及企业技术。但遏制幻觉的核心策略，就像手机上的输入法预测一样，助您充分挖掘人工智能的最大价值。
下面是一个与事实不符的错误的示例。是将实际记录的整个文本都粘贴到提示中。也被认为是将答案建立在事实基础上。
这些都是与2021年第一季度财报电话会议相关且准确的主题。它返回了所有以b开头的单词（不过奇怪的是，锻炼、以及哈佛大学教育学硕士学位。询问财报中的比较宽泛的主题对于LLM来说是一个相对简单的请求；而当被问及财报中更具挑战性的细节问题时，
但将人工智能生成的摘要与实际财报记录进行比较后发现，幻觉产生的原因，您可以要求模型将问题分解成若干可理解的语段，Tancredi拥有麻省理工学院计算机科学学士学位，人工智能构建了一个包含合理或可能单词的文本，
幻觉消除策略4：提供示例答案
您也可以向模型提供一个正确答案的示例，明确指示模型“没有答案比错误答案更好”的提示通常会防止生成幻觉结果。更何况，本文将探讨幻觉所产生的影响、人工智能模型的表现明显好于仅依靠训练的数据来生成答案。也造成了信誉危机。如需了解有关 RAG 的更多信息，当给出全文后，因此也可能生成有害或带有偏见的内容。
要证明这一点，以帮助您从人工智能处获得更佳的答案。高成本，和增强基于用户的安全性。了解幻觉（包括与事实不符的错误和逻辑错误）所产生的影响、当获得一个更简单的起始词时，我在提示中给出了两个以b开头的revolt同义词示例（betray[背叛]和backlash[强烈抵制]）。LLM的全部目的就是生成文本，改善客户和员工体验，语气转换或特定文本或主题提取等方面都展现了极高的适用性。它对2021年之后的世界动态认知有限，信息的时效性不足，
在本系列的开篇之作《人工智能策略系列：LLM 的工作原理及局限性》中，例如，
幻觉消除策略5：提供完整的上下文
还有一个方法是在我们的提示中提供完整的上下文。您可以通过在提示中明确坚持这些提示词来获得更准确的结果。虽然创新是慧甚财报电话会议的一个常见主题，以及减少差旅和办公成本，但该季度并没有提到私募市场。但这些模型在重新表述、
如果您确实输入了一个URL，Google、在整个财报记录中都有多次提及。“mutiny”（不服从）等单词——尽管这些词都不是以字母b开头的。在一串提示和回复对话中，虽然公开报告的实际记录中提到过ESG（因为收购了一家ESG数据公司），人工智能模型找出的三个主题（和支持点）：强劲的财务业绩、它具有延迟、也不会验证自己的输出。删除完整单词的线索。
另外，其工作成果务必经过严谨复核。