观点：AI模型是神秘的“生物”，甚至他们的创造者也无法完全理解他们

Anthropic最近关于其Claude 3.5 Haiku模型如何运作的研究承诺带来开创性的启示，以及对理解先进AI技术运作方式的深入洞察。但是，当他们说大型语言模型（LLMs）是“生命体”并能“思考”时，这究竟意味着什么呢？

几天前，Anthropic发布了两篇论文，对大型语言模型（LLMs）的工作方式进行了开创性的研究。尽管技术开发方面的内容很有趣且相关，但最吸引我关注的却是AI专家们使用的词汇。

在这篇研究报告《大型语言模型的生物学》中，研究者们将自己比作研究复杂“生物体”的生物学家，这些“生物体”经过数十亿年的演化而来。

“同样，虽然语言模型是由简单的，由人设计的训练算法生成的，但这些算法产生的机制似乎相当复杂，”科学家们写道。

在过去的几年中，AI模型已经显著地进化了。而且我们在过去的几个月里见证了它的快速发展。我们看到ChatGPT从一个只能处理文本的模型，变成了一位可以对话的伙伴，现在又能生成令人惊艳的宫崎骏风格的图像。

但是，如果当前的前沿AI模型正在达到那种科幻级别的发展，以至于甚至它们的创造者都无法理解它们的过程和系统呢？在2025年，可能需要重新审视或深入研究的AI技术有很多未解之谜。

AI模型令人毛骨悚然的黑盒子悖论

关于AI的采用和AI素养，已经进行了多次讨论，了解生成性AI模型工作原理的人，更不太可能将聊天机器人视为他们的“朋友”或“神奇”的应用程序。然而，还有另一场争论——来自专家和对此技术更熟悉的人群——关于是否应将LLMs视为独立的创造物。对于后者，有一个特殊的因素，即被称为“AI黑箱悖论”的神秘元素，在讨论中起着关键的作用。

深度学习系统被训练成以与人类相似的方式识别元素和趋势。就像我们教孩子识别模式并为不同的对象指定特定的词语一样，LLMs也被训练出独特的联系，并建立网络，这些网络随着它们的“成长”而变得越来越复杂。

Samir Rawashdeh，电子和计算机工程的副教授，专攻人工智能，并解释了当我们研究人类智能时，实际上几乎不可能看到深度学习系统如何做出决策和得出结论。这就是专家所说的“黑箱问题”。

AI模型挑战人类理解

Anthropic最近的研究通过解释其模型在某些之前模糊甚至完全错误的场景中的“思考”方式，为AI黑箱情况提供了新的理解。即使这项研究是基于Claude 3.5 Haiku模型，但它也让专家可以开发工具并分析其他AI模型上的类似特性。

“理解这种智能的性质是一项深奥的科学挑战，它有可能重塑我们对‘思考’含义的理解，”Anthropic的研究人员分享的论文如是说。

然而，将“思考”这个词赋予AI技术，却引起了业内某些专家的不满，也成为了对这项研究的批评的一部分。一位Reddit用户解释了这为何会激怒一部分人：“整篇文章都在赋予人格，这使得工作变得模糊。比如，它总是使用‘思考’这个词，但实际上应该说‘计算’。我们现在谈论的是计算机软件，而不是生物大脑。”

虽然“人性化”的术语有助于非技术人员更好地理解AI模型，并在社区中引发讨论，但事实是，无论我们说“计算”还是“思考”，同样的挑战依然存在：我们对LLM模式的操作还没有完全理解或完全透明度。

对未来高级AI模型的期待

你能想象忽视像ChatGPT，DeepSeek，Perplexity或Claude等先进的AI技术的存在——无论是现在还是在不久的将来吗？所有迹象都表明，我们无法回头了。生成和推理AI已经改变了我们的日常生活，而且他们只会继续发展。

我们在WizCase几乎每天都会报道行业的新动态——新的人工智能模型，新的人工智能工具，新的人工智能公司——这些都有可能对我们的社会产生重大影响。鉴于AI竞赛的快速步伐，以及政府和世界上最强大的公司的参与，似乎不可能有时间暂停下来，先更好地理解这些高级模型以及它们的运作方式——甚至稍微放慢脚步都显得不可能。

Anthropic的论文指出：“人工智能模型对我们的生活和工作有越来越大的影响，我们必须充分理解它们，以确保它们的影响是积极的。”即使这听起来有些不切实际，研究人员仍然保持积极的态度：“我们相信，我们在这里得出的结果，以及它们所依赖的进步轨迹，是令人兴奋的证据，表明我们能够迎接这个挑战。”

但是，这些发现真的可以多快推进呢？论文还指出，结果只涵盖了几个区域和特定案例，并且不可能得出更普遍的结论。所以，可能不够快。

尽管监管机构推出了如欧盟AI法案这样的措施，要求更多的透明度，从而引发了大型科技公司对其所谓阻碍进步的指责和抱怨，强大的AI模型仍在不断推进。

作为一个社会，我们必须努力在深化对这些技术运作方式的理解和以能为我们的社区带来实质性益处和进步的方式采纳它们之间找到一个平衡。这可能吗？只是祈祷或希望这些“生物”保持“道德”和“善良”，现在看来并不那么遥不可及。