随着大型语言模型的增多，企业将需要AI治理
随着市场上大型语言模型（LLMs）的数量预计会增长和扩展，企业将需要一个治理框架来管理它们的生成式人工智能（AI）应用。
Forrester的副总裁兼高级研究主管Frederic Giron表示，组织将需要汇聚内部和外部能力的智能层。
这种方法将涉及使用来自第三方的付费和开源LLMs，如OpenAI的ChatGPT，Anthropic的Claude和Meta的Llama，以及嵌入式AI工具，如Salefsforce Einstein GPT。组织还将拥有自己的AI模型，包括使用生成式AI，利用通用和专用LLMs，并在重要流程、政策和业务规则旁边运行各种AI应用。
这种方法将以结构化和非结构化数据为基础，后者在采用生成式AI后预计将翻倍，因为公司为客户和员工提供更多对话式体验。
用户的反应和行为也应被纳入反馈循环，并用于调整系统。
这些要求强调了企业需要具备生成式AI应用架构来治理和确保这些工具的安全和高效使用的需求。
该框架应连接应用程序管道，编排输入到输出的请求，并铺平输入和输出的门路，以便组织能够控制进入AI模型的数据，并确保回应符合企业设定的规则。
由于AI治理的复杂性，企业可能需要一段时间才能从框架的采用中看到真正的效果。
据Forrester预测，在未来一年中，生成式AI的变革性影响将仅使亚太地区的30%企业受益。Giron指出了与数据治理、质量和基础设施有关的主要挑战。
分析师还表示，56%的组织期望员工生产力成为生成式AI的主要应用场景，其次是48%将其视为软件开发和测试的工具，另外48%认为生成式AI是自助数据和分析的推动者。
毫不意外，根据国际研究与产品的高级副总裁丹·安德森的说法，生成式人工智能是过去40年来最大的技术革命风暴。
他表示，这是继2009年云计算的出现和2007年移动互联网和智能手机浪潮兴起之后的“拐点”技术。万维网转折点出现在上世纪90年代，而个人电脑在1981年开始崭露头角。
他补充说，其中一些创新带来的变革比其他创新更大，既带来了机遇，也带来了挑战。随着生成式人工智能的出现，分析师预测，未来20年内，“静态”网站将逐渐被废弃。
此外：生成式人工智能将远远超越ChatGPT的能力。以下是关于这项技术进展的所有内容
用户们将转而发出提示或提问，然后获得在后台不断更新、由生成式人工智能驱动和定制的响应，以获得更好的交互体验。
这些对网站的改变将进一步影响搜索，安德森表示，搜索将不再像现在这样中心和关键。
这些重大的转变将在几年内逐渐展开。在较短期内，市场上预计会有更多的LLM涌现，这意味着组织将需要仔细评估其选择，并确定哪些模型最适合他们想要的结果。
安德森还指出，有可能会有更多的市场参与者将生成式人工智能能力免费嵌入其现有的企业客户应用程序中。
最终，对于企业来说，LLM运营的层次并不是最有价值的，根据国际研究的首席分析师莱斯利·约瑟夫所说，随着越来越多的LLM应运而生，这个市场细分将被商品化。
约瑟夫敦促软件供应商将生成式人工智能功能整合到其产品中，而不仅仅是将这些工具作为其版本的ChatGPT等同物。他说，这种精细的方法将有助于推动一个工作环境，其中生成式人工智能能力更加融入员工的工作方式，并使这项技术对企业更具成本效益。
