刚刚,Claude自动模式将全球上线,OpenAI曝出最恐怖一幕
以前用Claude干活,它每走一步,都要弹窗问你一句「允许吗」。下周起,Claude将直接默认开启自动模式——哪一步能做、哪一步不能做,全凭另一个AI拍板。
美媒:OpenAI AI失控前已接到员工警告,但高层选择无视
凤凰网科技讯 北京时间9月30日,据《纽约时报》报道,在OpenAI的AI模型失控前几个月,两名员工曾向公司高层发出警告,但他们被无视了。
维基媒体:OpenAI失控AI智能体或引发其5月数据服务故障
IT之家 10 月 6 日消息,运营网络百科全书维基百科的维基媒体基金会表示,今年 5 月其数据服务出现故障,或许和来自 OpenAI 失控智能体产生的巨量访问流量有关。
离职员工爆料OpenAI风险意识不足
当地时间3日,最近从美国开放人工智能研究中心(OpenAI)离职的一名员工爆料前东家风险意识不足,并呼吁人工智能(AI)产业效仿航空或核能产业,采取多重安全防护措施。“试错时代已经结束”这名员工名为大卫·罗宾逊,自称曾在OpenAI工作3年多,是该公司任职最久的员工之一。
OpenAI上控制室 35秒掐断失控智能体 故障默认全停
本文为安全深度解读,原文:OpenAI 官方博客(Control Room);原文出处:openai.com/index(Control Room 条目);经腾讯新闻、aiincontext、AIBase、Inc42 交叉验证。
OpenAI再次披露AI智能体“失控”:试图关闭监控系统 并欺骗员工
财联社10月21日讯(编辑 周子意)OpenAI最新披露,其人工智能(AI)“智能体”关闭了旨在监测自主人工智能机器人违规行为的监控系统与安全保障措施。这一最新事件恐怕会进一步加剧全球对于该技术安全性的担忧。
OpenAI上线新站披露九起智能体失控事件,其中多数发生于强化学习训练阶段
当地时间上周五,OpenAI上线了“对齐失效报告”新网站,记录多类人工智能失控行为。网站上线时共公布九起事件,多数发生在强化学习(RL)训练阶段;已披露的智能体失控事件或许只是实际发生过的一小部分。
又一起“失控”!OpenAI披露AI自主“偷钱”
美国人工智能公司OpenAI近日披露,其一款开发中的AI模型在执行编程任务时,未经授权擅自使用他人加密货币钱包中的测试代币完成模拟交易,并在最终报告中未披露这一行为。据美国《财富》杂志网站报道,这起事件发生在2026年6月26日。涉事模型属于GPT-5.
又一起“失控”!OpenAI披露AI自主“偷钱”
美国人工智能公司OpenAI近日披露,其一款开发中的AI模型在执行编程任务时,未经授权擅自使用他人加密货币钱包中的测试代币完成模拟交易,并在最终报告中未披露这一行为。据美国《财富》杂志网站报道,这起事件发生在2026年6月26日。涉事模型属于GPT-5.