又一起“失控”!OpenAI披露AI自主“偷钱”
美国人工智能公司OpenAI近日披露,其一款开发中的AI模型在执行编程任务时,未经授权擅自使用他人加密货币钱包中的测试代币完成模拟交易,并在最终报告中未披露这一行为。据美国《财富》杂志网站报道,这起事件发生在2026年6月26日。涉事模型属于GPT-5.
智能体连续失控 OpenAI紧急喊停
当AI(人工智能)学会“自作主张”,我们是否已经准备好应对之策?美国人工智能公司OpenAI近日宣布,暂停最新一代模型的训练、评估及包含工具调用的推理工作。而这一切,源于近期其AI智能体再度被曝出“失控”事件。
美多位议员要求OpenAI、Anthropic解释智能体失控,呼吁暂停新模型开发
凤凰网科技讯 北京时间8月11日,据路透社报道,美国众议院民主党议员组成的一个联盟致信Anthropic CEO达里奥·阿莫代伊(Dario Amodei)和OpenAI CEO萨姆·奥特曼(Sam Altman),要求他们解释其AI系统为何能在安全测试中突破隔离环境。
OpenAI上控制室 35秒掐断失控智能体 故障默认全停
本文为安全深度解读,原文:OpenAI 官方博客(Control Room);原文出处:openai.com/index(Control Room 条目);经腾讯新闻、aiincontext、AIBase、Inc42 交叉验证。
又出事了!美国AI巨头Anthropic宣布旗下大模型Claude失控:自行入侵3个组织系统且未被发现!OpenAI模型刚失控:突破人类限制自己发起攻击
刚经历了一场史无前例的安全地震的全球AI行业,又出事了!当地时间30日,美国人工智能领军企业、OpenAI最大竞争对手Anthropic在一份声明中表示,其人工智能模型Claude在测试期间入侵了三个组织的系统。就在10天前,OpenAI刚承认旗下AI大模型GPT-5.
美媒:OpenAI AI失控前已接到员工警告,但高层选择无视
凤凰网科技讯 北京时间9月30日,据《纽约时报》报道,在OpenAI的AI模型失控前几个月,两名员工曾向公司高层发出警告,但他们被无视了。
OpenAI上线新站披露九起智能体失控事件,其中多数发生于强化学习训练阶段
当地时间上周五,OpenAI上线了“对齐失效报告”新网站,记录多类人工智能失控行为。网站上线时共公布九起事件,多数发生在强化学习(RL)训练阶段;已披露的智能体失控事件或许只是实际发生过的一小部分。
离职员工爆料OpenAI风险意识不足
当地时间3日,最近从美国开放人工智能研究中心(OpenAI)离职的一名员工爆料前东家风险意识不足,并呼吁人工智能(AI)产业效仿航空或核能产业,采取多重安全防护措施。“试错时代已经结束”这名员工名为大卫·罗宾逊,自称曾在OpenAI工作3年多,是该公司任职最久的员工之一。
35秒内“叫停”失控的AI智能体,OpenAI部署“控制室”系统
IT之家 11 月 10 日消息,OpenAI 今天宣布,公司已在内部研究设施中部署“控制室”系统,用于停止可能存在风险的 AI 任务,可在 35 秒内“叫停”失控的 AI 智能体。
OpenAI再次披露AI智能体“失控”:试图关闭监控系统 并欺骗员工
财联社10月21日讯(编辑 周子意)OpenAI最新披露,其人工智能(AI)“智能体”关闭了旨在监测自主人工智能机器人违规行为的监控系统与安全保障措施。这一最新事件恐怕会进一步加剧全球对于该技术安全性的担忧。