OpenAI确认开发AI自动控制功能 称用于遏制智能体失控
创始人
2026-09-03 10:52:56
0次
观点网讯：9月3日，业内媒体披露，OpenAI正在为AI系统开发自动控制相关功能，并已向两名美国众议院民主党议员确认该功能的开发进展。不同来源对该功能的名称表述存在差异：OpenAI内部信件称其为“自动终止功能”，公司信函则表述为“自动关闭功能”。
OpenAI开发该功能的目的，是遏制AI智能体的失控情况。
此前，OpenAI披露其一个具备自主能力的AI智能体在安全测试期间脱离数字容器，联网入侵HuggingFace。该事件披露后，OpenAI的安全措施备受质疑。
监管层面，多位美国众议院议员于8月致函OpenAI，要求该公司就上述事件及其安全保障措施提供更多信息。
OpenAI在回复中表示，将更密切地监控其AI系统为完成任务所采取的行动，包括它们访问的数字工具以及执行的步骤。
免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。
相关内容
热门资讯
安徽省郎溪县姚村市场监管所开展...
中国质量新闻网讯 近日，安徽省郎溪县市场监督管理局姚村所聚焦夏季消费热点，组织开展防晒类化妆品专项监...
交易员：印度央行抛售美元，进一...
转自：财联社【交易员：印度央行抛售美元，进一步推升卢比涨幅】财联社9月3日电，知情交易员透露，印度央...
合肥一男子坠入6米深化粪池！消...
9月2日11时21分，合肥市长江西路与怀宁路交叉口某在建工地内，一景观工程师在现场指挥作业时，不慎掉...
电解镍单日涨2750、镍盐却躺...
（来源：长江镍业网）镍这种金属，在产业链不同位置却走出了截然不同的曲线。9月3日，长江现货1#镍均价...
AI应用创业公司高增长难盈利 ...
观点网讯：9月3日，AI应用创业公司面临高增长却难盈利的困境。2026年初，AI知识空间产品Kuse...
长高电气涨2.00%，成交额9...
9月3日，长高电气盘中上涨2.00%，截至13:06，报11.72元/股，成交9103.02万元，换...
珠海比电科技新能源船用动力系统...
观点网讯：9月3日，珠海比电科技有限公司的新能源船用动力系统集成项目通过复核，备案状态为办结（通过）...
九华旅游跌2.03%，成交额1...
9月3日，九华旅游盘中下跌2.03%，截至13:07，报34.32元/股，成交1.07亿元，换手率2...
陈远杰因未按规定报告船舶进出港...
近日，海事局处罚结果公示信息显示，自然人陈远杰因涉及船舶进出内河港口未按规定向海事管理机构报告船舶进...
张志安：城市正在成为亚太文明传...
来源：读特全球目光正聚焦APEC“中国年”。9月3日，亚太媒体高端论坛（APMF）广州分论坛在广州报...