人工智能与递归的挑战
OpenAI的GPT-3.5和GPT-4在面对日益复杂的核心计算任务时都失败了，这表明它们的设计存在根本性的缺陷
生成AI在这种常见的人类思维能力上不足。
人类能直观地理解的崇高概念之一就是递归的概念，即某个事物包含了自身的重复，延伸至无穷。任何“电影中的电影”都可以是递归的一个例子。俄罗斯著名的马特里奥什卡“套娃”就是递归的一个动人例子，每个木娃娃都能打开揭示出一个更小的娃娃。
你自己手持一张照片，在照片中你手持一张照片，无数次循环，是一个经典的递归视觉幻想，能让人感到愉悦。
🌟 此外：2024年可能是人工智能学习的最佳时机
但是对于包括ChatGPT在内的人工智能（AI）程序，特别是生成式AI程序，递归是一个挑战。伊利诺伊大学厄巴纳-香槟分校的学者们发现，AI在处理递归时经常存在困难，这影响了它在各种任务中的表现。例如，AI可能会误解嵌套块中的代码或在编程任务中生成不平衡的括号。
在他们的论文“《基于Transformer模型的结构递归模仿尚未达到完美》”中，主要作者张世卓和他的同事们在arXiv预印版服务器上发布了这篇论文。他们的研究显示，这一限制对于AI处理涉及递归模式的复杂编程任务具有重大意义。
递归挑战
为了研究递归对大型语言模型（LLM）的影响，张世卓和他的团队使用了GPT-3.5“Turbo”和GPT-4，这是OpenAI最强大的模型。他们向这些模型提供了一个提示，其中包含了一个树遍历问题的陈述、一个树遍历的示例以及执行遍历的指令。目标是看这些模型是否能够生成遍历的解决方案以及使用的规则的解释。
随着树的深度增加，语言模型的性能下降。研究人员发现，LLM很难执行所需的“规约”步骤，即用其递归元素代替树中的一个元素，继续遍历。这一限制凸显了LLM在处理长序列时保持算法一致性的挑战，特别是需要精确操作顺序的任务。
🌟 此外：OpenAI推出“不那么懒惰”的GPT-4 Turbo，降价，并推出新的更新模型
此外，语言模型无法从提示中提供一个可以导致成功遍历的规则解释。张世卓和他的团队强调，LLM很难从上下文中的示例中推导出正确的规则，并在进行上下文步骤化规约时面临挑战。
影响和未来发展方向
LLM无法处理递归反映了缺乏逻辑推理的问题，这是张世卓和他的团队认为的。在树遍历中执行每个规约步骤都需要复杂的逻辑推理，而当前的程序缺乏这种推理能力。然而，即使是逻辑推理能力受限的人类，也能轻松理解递归的概念，并在各种情境中欣赏它。
从更简单的层面上说，GPT模型的创建者需要重新考虑设计。作者们假设模型尚未经过优化，无法有效地表示递归模式。在他们的上下文学习实验中，他们发现LLM倾向于从数据中提取非递归规则，并在执行步骤化规约时缺乏准确性。作者们建议需要进一步优化，以增强模型的递归思维能力。
这项研究凸显了递归带来的挑战及其对AI系统性能的影响。虽然程序可以使用学习策略进行一定程度的补偿，但缺乏递归能力将不可避免地限制它们的潜力。正如张世卓和他的团队所指出的，这一限制对于诸如写作论文和计算机编程等任务具有重要意义，其中递归模式发挥着重要作用。
了解更多人工智能进展及其影响，请查阅以下相关文章：
现在，让我们探讨一些关于人工智能和递归的其他问题。
问答
Q: 是否存在能够处理递归的 AI 模型？ A: 尽管这项研究集中在特定语言模型（如 GPT-3.5 “Turbo” 和 GPT-4）的限制上，但这并不意味着没有 AI 模型能够处理递归。研究人员正在不断努力改进 AI 模型，未来的进展可能会解决这个限制。
Q: 无法处理递归会如何影响 AI 在写作中的表现？ A: 写作往往需要以一种连贯、有逻辑的方式组织论点和思想。递归在发展复杂而细致的论证中起着作用。如果 AI 程序在处理递归上遇到困难，它们可能难以生成具有深入分析和逻辑流畅性的文章。
Q: 可以训练 AI 程序克服递归的挑战吗？ A: 可以训练 AI 程序更好地处理递归。然而，这需要在训练过程中进行仔细的优化和调整，以突出递归思考的能力。未来的研究可能会探索增强 AI 模型对递归的理解和处理的技术。
Q: AI 面临的递归挑战还可能影响哪些应用或领域？ A: 除了编程和论文写作，AI 在处理递归时遇到的困难可能会影响到那些严重依赖递归模式的领域，例如自然语言处理、图像识别和数据分析。递归算法在各种计算任务中发挥着关键作用，而 AI 在这个领域的局限性可能会影响其在这些领域中的性能表现。
Q: 有没有克服 AI 在处理递归方面的限制的其他替代方法？ A: 研究人员可以探索将 AI 模型的优势与更加领域特定的处理递归的算法结合起来的混合方法。通过将递归方法论融入 AI 模型的训练中，开发人员可能能够增强其递归推理能力。
🌟如果您觉得本文有用且有趣，请务必在社交媒体上分享！
现在，轮到您了，您对 AI 处理递归的挑战有何想法？您认为 AI 模型的进展如何解决这个限制？请在下方评论中分享您的观点！
