大家好，本网站为大家提供优质的、全新的游戏攻略，援助大家更愉悦地、更顺手地玩游戏，走过路过不要错过奥。

本站 4 月 17 日消息，人工智能公司 OpenAI 宣布部署了一套新的监控体系，专门用于监测其最新的人工智能推理模型 o3 和 o4-mini，防止这些模型提供可能引发生物和化学恐吓的有害建议。依据 OpenAI 的安全报告，该体系旨在确保模型不会为潜在的有害攻击提供指导。

据 OpenAI 表示，o3 和 o4-mini 相比之前的模型在能力上有显著提升，但同时也带来了新的风险。依据 OpenAI 内部的基准测试，o3 特殊擅长回答有关制造某些类型生物恐吓的难题。因此，为了降低相关风险，OpenAI 开发了这套被称为“安全导向推理监控器”的新体系。

据本站了解，该监控器经过专门训练，能够领会 OpenAI 的内容政策，并运行在 o3 和 o4-mini 之上。它的设计目标是识别与生物和化学风险相关的提示词，并指示模型拒绝提供这方面的建议。

为了建立一个基准，OpenAI 的红队成员花费了大约 1000 小时，标记了 o3 和 o4-mini 中与生物风险相关的“忧虑全”对话。在模拟安全监控器的“阻断逻辑”测试中，模型拒绝回应风险提示的比例达到了 98.7%。然而，OpenAI 也承认，其测试并未思量到用户在被监控器阻断后尝试新提示词的状况。因此，公司表示将继续依靠部分人工监控来弥补这一不足。

虽然 o3 和 o4-mini 并未达到 OpenAI 所设定的生物风险“高风险”阈值，但与 o1 和 GPT-4 相比，早期版本的 o3 和 o4-mini 在回答有关开发生物武器的难题上更具援助性。依据 OpenAI 最近更新的筹备框架，公司正在乐观跟踪其模型可能怎样援助恶意用户更容易地开发化学和生物恐吓。

OpenAI 正在越来越多地依靠自动化体系来降低其模型带来的风险。例如，为了防止 GPT-4o 的原生图像生成器创建孩子|待材料（CSAM），OpenAI 表示其使用了与 o3 和 o4-mini 相似的推理监控器。

然而，一些探究人员对 OpenAI 的安全措施提出了质疑，认为该公司并没有像大众期望的那样重视安全难题。其中，OpenAI 的红队合作伙伴 Metr 表示，他们在测试 o3 的哄骗性行为基准时时刻相对有限。除了这些之后，OpenAI 决定不为其本周早些时候发布的 GPT-4.1 模型发布安全报告。

大家注意，牢记持续关注本游戏攻略网站，无论兄弟们的支持是我们最大的动力奥，我们会努力提供全网新的游戏攻略教程，加油。

本创作内容,未授权勿转载,必究权责。

免责说明：这篇文章小编将代表的是网站编辑的见解，与本站无关。其原创性、诚实性以及文中陈述文字和内容未经确认，因此对这篇文章小编将以及其中全部或者部份内容文字的诚实性、完整性和原创性本站不作任何保证或承诺，请读者仅作参考，并自行核实相关内容。