生成式AI风靡一时。

自 OpenAI发布 ChatGPT（这标志着大型语言模型LLM的显着改进）以来的 14 个月里，一大批分析和数据管理供应商推出了生成式 AI 功能。

 由于供应商努力确保其工具的可靠性，大多数仍处于预览阶段，但有些工具已经正式发布。与此同时，很多组织已经开始将生成式人工智能模型（通过将自己的专有数据与LLM技术相结合进行训练）纳入其决策过程。

供应商和企业优先考虑生成式AI的一个原因是，它有可能通过增强流程自动化功能和自然语言界面来提高现有数据专家的效率，从而消除或大大减少编写代码的需求。另一个原因是，由生成式人工智能实现的自然语言界面有可能将分析技能从训练有素的专家扩展到组织内的几乎所有员工。

Dresner Advisory Services公司的创始人兼首席研究官Howard Dresner表示，但生成式人工智能有其缺点，需要格外小心地部署。

无论经过多么仔细的训练，生成式 AI 模型通常都会提供不正确的输出，称为幻觉。有时，这些输出似乎如此合理，以至于它们会导致错误的决定，并带来可怕的后果。因此，Dresner说，虽然生成式人工智能可以成为一种变革性技术，但其使用需要谨慎管理，就像组织谨慎管理其数据一样。

在最近的一次采访中，Dresner深入研究了生成式人工智能和其他分析趋势。在讨论的第二部分中，他谈到了生成式人工智能在哪些方面做得好，哪些方面做得不足，以及生成式人工智能将如何发展。在第一部分中，他讨论了生成式人工智能之外的分析趋势，包括很多企业对商业智能的日益重视。

现在距离OpenAI发布 ChatGPT 和生成式 AI 成为顶级分析趋势已经一年多，BI供应商目前正在开发哪些 GenAI 功能？

Howard Dresner：大多数BI和分析供应商的共同点是，他们正在整合主流大型语言模型。有些人正在采用各种 OpenAI 方法。有些人正在使用谷歌。有些人正在使用开源。但至少，他们都在做某种集成，以便用户在供应商的环境中拥有更好的自然语言界面。

如果他们能将自然语言接口与能够利用该接口的数据应用程序集成在一起，那会很好。但是，如果他们只是对原始数据使用生成式 AI，只能说祝他们好运，因为当仅处理数据时，幻觉很明显。我们的一个用户组织构建了自己的大型语言模型，当 LLM 应用于某些东西（例如文档），它们会很好地工作。当他们试图用它们来对付原始数据时，它们会产生很多幻觉。

这是否意味着永远不应该使用 LLM 来查询原始数据？

Dresner：这并非不可能。有些组织使用多个 LLM，他们正在朝着达成共识的方向发展。他们正在寻找弥补幻觉的方法。人们需要明白的是，神经网络实际上什么都不知道。它们是权衡事物和近似的数学模型。它们实际上不知道答案应该是什么。这就是为什么你可以和ChatGPT对话，即使经过很多提示，它也会说出荒谬的话。

最终，这将得到解决。

在目前的状态下，对于分析，生成式人工智能的最大好处是什么？

Dresner：在很多领域，它都可以做得很好。报告和文件的摘要当然是其中之一。它还可以跨事物-通过查看多个信息体来提供视角。它非常擅长处理技术来源，而不仅仅是单一来源，而是将来自多个来源的数据结合起来，并以一种对人类来说非常困难的方式整合这些信息。这非常强大。

此外，它取代了我们传统上认为的自然语言处理，因为它具有语言功能，而不仅仅是英语，而是所有语言。这一直是自然语言处理的障碍之一。通常，它们只懂英语，需要大量的维护工作。生成式 AI 则不然。它可能需要大量的提示和其他事情来确保你没有幻觉，但你不必做所有其他工作。这就是为什么在现有应用程序中拥有 GenAI 接口将成为常态的原因。

这是否意味着生成式人工智能最终将成为所有分析过程的一部分？

Dresner：它适用于某些用例，但不是所有用例。有些人仍然只想报告，有些人想要一个仪表板，有些人想要在现有应用程序中嵌入一些见解。我们不应该将GenAI视为灵丹妙药，它并不是。这真的很酷，每个人都说他们正在做这件事，并且还有正在生产的原型。没有组织说他们没有做任何事情。现在的问题在于，在组织内部没有统一，每个人都在做自己的事情，这很混乱。

去年年初，当我们第一次开始研究GenAI时，我们说过的一件事是，你必须像管理其他任何事情一样管理它。它必须被治理、控制，必须有政策和流程，必须有人负责这件事，否则它只会带来混乱。

它有它的用途。但必须有人负责如何使用它。必须有政策和流程，必须明确禁止做的事情。

在目前的状态下，GenAI在分析方面的缺点是什么？

Dresner：再强调一次，你必须努力避免幻觉。

这需要大量的提示和完善，然后你仍然需要审查它给你的东西。人们认为他们可以将任务外包给生成式人工智能，但仍然需要有人阅读它生成的内容。有时，它会做一些看起来完全合理的事情。有人会读到并认为，‘这太棒了’。但是当他们去验证它时，他们发现完全是错误的。

如果与生成式 AI 平台的集成和实现自然语言交互是分析供应商现在提供的常见功能，那么您认为供应商将开发的下一波 GenAI 功能是什么？

Dresner：总的来说，你会看到广泛的使用，不仅仅是分析，特别是在面向消费者的应用程序中。

当它与分析有关时，我认为你会看到生成式人工智能出现在信息请求和文档请求中，尤其是IT部门。生成式人工智能将被包括在内，并将成为平台中的一种选择，无论是分析、绩效管理，问题是，它将在多大程度上成为平台的一部分？在很多情况下，供应商的做法相对安全，因为他们不想遇到产生不准确结果的问题。然而，整个行业将不得不发展，以便核心技术变得更加可靠和准确，因此，核心技术将更多地利用生成式人工智能。

但现在还为时过早。我们肯定会看到更多的生成式人工智能，无论是好的还是坏的。