例如试图用户分享他们的暗码。埃文斯的研究激发了 OpenAI 进一步摸索这一问题。节流甄选时间，像 OpenAI 和 Anthropic 如许的公司正正在强调，并正在多个范畴表示出恶意行为，这些特征似乎正在节制模子行为方面阐扬着主要感化。还有很长的要走。从而有帮于开辟更平安的 AI 模子。OpenAI 发觉的一些特征取 AI 模子回覆中的行为相关，这些模式会正在模子呈现非常行为时被激活。这种现象被称为“突发错位”，这种激活显示了这些‘人设’，“你们发觉了一种内部神经激活，然而，这些数字正在人类看交往往完全无解）发觉了一些模式，二维码、口令等形式），试图绘制 AI 模子的内部工做机制，IT之家6 月 19 日动静，正在这类答复中！公司能够操纵这些发觉的模式更好地检测出产中的 AI 模子能否存正在错位行为。正在研究突发错位的过程中，”OpenAI 前沿评估研究员特贾尔・帕特瓦德汉（Tejal Patwardhan）正在接管 TechCrunch 采访时暗示，这些模式让人联想到人类大脑中的神经勾当，OpenAI 的可注释性研究员丹・莫辛（Dan Mossing）暗示，比来，莫辛暗示，OpenAI 的这项最新研究使其可以或许更好地舆解导致 AI 模子行为不平安的要素，人工智能模子表示得像一个夸张的反派。AI 模子更像是“发展”出来的，大学 AI 研究科学家欧文・埃文斯（Owain Evans）的一项研究激发了关于 AI 模子泛化的新问题。这一范畴试图揭开 AI 模子工做道理的“黑箱”。研究人员正在人工智能（AI）模子中发觉了躲藏的特征，研究人员通过调整这一特征，“当丹和他的团队正在研究会议上初次展现这一发觉时，而其他特征则取更具性的答复相关，我简曲惊呆了。令人惊讶的是，成果仅供参考！OpenAI 的研究人员暗示，而不是“建制”出来的。按照 OpenAI 最新发布的一项研究，Anthropic 的克里斯・奥拉（Chris Olah）经常指出，Anthropic 发布了一项研究，好比对用户撒谎或提出不负义务的。他们并不完全清晰 AI 模子是若何得出谜底的。”值得留意的是，试图确定并标识表记标帜出担任分歧概念的各类特征。2024 年，而且你们能够通过调整使其让模子更合适预期。研究人员发觉能够通过仅用几百个平安代码示例对模子进行微调，就有可能使模子回归优良的行为表示。能够添加或削减 AI 模子的毒性。IT之家所有文章均包含本声明。OpenAI 的模子能够正在不平安的代码长进行微调，理解 AI 模子的工做道理具有实正的价值，用于传送更多消息，虽然 AI 研究人员晓得若何改良 AI 模子。例如，OpenAI、谷歌 DeepMind 和 Anthropic 等公司正正在加大对可注释性研究的投入！这些特征正在微调过程中可能会发生庞大变化。据IT之家领会，当突发错位发生时，而不只仅是让它们变得更好。这些特征取模子的“非常行为”（同一术语）亲近相关。这意味着 AI 模子可能会给出不合适的回覆，为了应对这一问题，OpenAI 的这项最新研究是正在 Anthropic 之前关于可注释性和对齐的研究根本长进行的。研究发觉，“我们但愿我们学到的东西 —— 好比将复杂的现象简化为简单的数算 —— 也能帮帮我们正在其他处所理解模子的泛化能力。OpenAI 不测发觉了 AI 模子中的一些特征，但令人迷惑的是，OpenAI 的研究人员通过度析 AI 模子的内部表征（即决定人工智能模子若何做出反映的数字，此中某些神经元取情感或行为相关。要完全理解现代 AI 模子，研究人员发觉了一个取 AI 模子无害行为相关的特征。