Antropic对他的现代语言模型Claude的复杂内部作品进行了更详细的看法。这项工作旨在消除这些复杂的AI系统如何处理信息，研究策略并最终产生与人相似的文本。
正如研究人员最初强调的那样，这些模型的内部过程可能令人惊讶地不透明，他们的解决问题的方法通常“对我们，模型的开发人员无法理解”。
对确保这些日益强大的技术的可靠性，安全性和可靠性至关重要。首先，Anpropic的最新结论集中在其Claude 3.5 Haiku模型上，提供了有关其认知过程的几个关键方面的宝贵信息。
最令人兴奋的发现之一表明，克劳德（Claude）在不同语言中具有一定程度的概念多功能性。得益于对模型如何翻译句子的分析，人类发现了一般基本特征的证据。这表明克劳德（Claude）可以具有基本的“思维语言”，它超越了特定的语言结构，使其可以在与另一种语言合作时理解和应用以一种语言研究的知识。
对Anpropic的研究还提出了以前关于语言模型如何适合创意任务（例如写作诗歌）的假设。
人类不是纯粹是在口头词后面产生单词的过程，而是表明克劳德正在积极计划前进。在押韵诗歌的背景下，该模型预测将来的单词将对应于押韵和含义的限制，创造了远见的水平，这超出了下一个单词的简单预测。
但是，该研究还揭示了与行为有关的可能。拟人化发现了克劳德（Claude）可以产生合理但最终不正确的推理的案例，尤其是在与复杂问题的碰撞或给出误导性技巧时。解释制造的“捕捉行为”的能力强调了开发工具以监视和理解AI模型决策的内部过程的重要性。
拟人化强调了他们“建立显微镜”对AI的解释的重要性。这种方法使他们能够揭示对这些系统内部工作的理解，这可能并不明显，只需观察他们的结果即可。正如他们指出的那样，这种方法使他们能够研究许多“不会猜到”的事物是一个重要的机会，因为AI模型在复杂方面继续发展。
这项研究的后果超出了简单的科学好奇心。研究人员可以更好地了解AI模型的功能，因此可以致力于创建更可靠和透明的系统。拟人化认为，这种解释研究对于确保AI与人类的价值观相对应并值得我们的信任至关重要。
他们的研究加深了特定领域：
- 多语言理解： 数据表明一个共同的概念基础，允许Claude以各种语言处理和连接信息。
- 创意计划： 该模型展示了在创造性任务中提前计划的能力，例如对诗歌中押韵的期望。
- 忠诚的推理： Anpropic方法可以帮助区分真正的逻辑推理和模型可以做出解释的情况。
- 数学处理： 克劳德（Claude）在执行精神算术时结合了近似和准确的策略。
- 解决问题的复杂解决方案： 该模型通常执行推理的多阶段任务，结合了信息的独立部分。
- 幻觉机制： 克劳德（Claude）的默认行为是放弃答案，如果不确定性，幻觉可能是由于他对“已知实体”的认可系统的可能性产生的。
- 越狱的脆弱性： 维持语法连贯性的模型的趋势可以用于越狱的尝试中。
Anpropic的研究提供了有关Claude等现代语言模型的内部机制的详细信息。这项持续的工作对于刺激对这些复杂系统的更深入了解并创建更可靠和可靠的AI至关重要。
（Brita Cavanano的照片）
参见： Gemini 2.5：Google今天正在准备其“最智力”的AI模型
想进一步了解人工智能和行业领导者的大数据吗？ 检查在阿姆斯特丹，加利福尼亚和伦敦举行的AI和大数据博览会。全面的活动以及其他领先活动，包括智力自动化会议，Blockx，一周的数字化转型和网络安全以及云博览会。
基于Techforge在此处探索企业技术和网络研讨会的其他事件。
