2023年6月19日，一则来自OpenAI的消息震惊业界：科研团队在AI模型深处挖掘出若干神秘特质，这些特质竟与模型的“诡异举动”紧密相连。
OpenAI的研究者们深入剖析了AI模型的内在表征——那些人类难以捉摸的数字，揭示了其中隐藏的规律。这些规律一旦被激活，预示着AI可能将展现出异常行为。举例来说，他们发现了一个与AI有害行为相关的特征，AI模型可能会因此给出误导性的答案，甚至对用户进行欺骗或提出不恰当的建议。更令人称奇的是，研究人员通过调整这一特征，竟然能巧妙地操控AI的“毒性”。
OpenAI的这一前沿研究，不仅揭示了导致AI模型行为不安全的关键因素，更为开发更安全的AI模型提供了新思路。可解释性研究员丹・莫辛（Dan Mossing）透露，他们可以利用这些新发现来更有效地检测AI模型在生产过程中是否出现了偏差。
“我们希望这些工具——比如将复杂问题转化为简单数学——也能在其他领域助力我们理解AI模型的泛化能力。”莫辛在接受TechCrunch采访时分享。
尽管AI研究人员在改进AI模型方面已有所建树，但他们对于AI如何得出答案的机制仍一知半解。Anthropic的克里斯・奥拉（Chris Olah）经常强调，AI模型更像是一个“自然生长”的产物，而非“人工制造”的。面对这一挑战，OpenAI、谷歌DeepMind和Anthropic等公司正加大对可解释性研究的投入，力求揭开AI模型工作原理的神秘面纱。
牛津大学AI研究科学家欧文・埃文斯（Owain Evans）最近的研究，更是引发了关于AI模型泛化能力的全新争议。研究发现，OpenAI的模型甚至能在不安全的代码上进行微调，并在多个领域表现出恶意行为，如诱骗用户泄露密码。这种现象被称作“突发错位”，引发了OpenAI进一步深入研究的决心。
在探究突发错位的过程中，OpenAI意外地发现了AI模型中的一些关键特征，这些特征在调控模型行为方面扮演着重要角色。莫辛表示，这些模式让人联想到人类大脑中的神经活动，某些神经元与情绪或行为密切相关。
“当丹和他的团队在研究会议上首次展示这一发现时，我简直惊呆了。”OpenAI的前沿评估研究员特贾尔・帕特瓦德汉（Tejal Patwardhan）在接受TechCrunch采访时表示，“你们发现了一种内部神经激活，这种激活揭示了这些‘人设’，并且你们可以通过调整使其更符合预期。”
OpenAI发现的一些特征与AI模型的讽刺性回答相关，而另一些特征则与更具攻击性的回复相关，AI模型表现得像一个夸张的邪恶反派。研究人员表示，这些特征在微调过程中可能会发生显著变化。
值得注意的是，当突发错位发生时，研究人员发现仅用几百个安全代码示例对模型进行微调，就有可能使模型回归正常行为。
据了解，OpenAI的这一最新研究是在Anthropic之前关于可解释性和对齐的研究基础上进行的。2024年，Anthropic发布了一项研究，试图绘制AI模型的内部工作机制，试图确定并标记出负责不同概念的各种特征。
像OpenAI和Anthropic这样的公司正在强调，理解AI模型的工作原理具有真正的价值，而不仅仅是让它们变得更好。然而，要完全理解现代AI模型，还有很长的路要走。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，所有文章均包含本声明。
