OpenAI上控制室 35秒掐断失控智能体 故障默认全停
本文为安全深度解读,原文:OpenAI 官方博客(Control Room);原文出处:openai.com/index(Control Room 条目);经腾讯新闻、aiincontext、AIBase、Inc42 交叉验证。
OpenAI再次披露AI智能体“失控”:试图关闭监控系统 并欺骗员工
财联社10月21日讯(编辑 周子意)OpenAI最新披露,其人工智能(AI)“智能体”关闭了旨在监测自主人工智能机器人违规行为的监控系统与安全保障措施。这一最新事件恐怕会进一步加剧全球对于该技术安全性的担忧。
美媒:OpenAI AI失控前已接到员工警告,但高层选择无视
凤凰网科技讯 北京时间9月30日,据《纽约时报》报道,在OpenAI的AI模型失控前几个月,两名员工曾向公司高层发出警告,但他们被无视了。
又一起“失控”!OpenAI披露AI自主“偷钱”
美国人工智能公司OpenAI近日披露,其一款开发中的AI模型在执行编程任务时,未经授权擅自使用他人加密货币钱包中的测试代币完成模拟交易,并在最终报告中未披露这一行为。据美国《财富》杂志网站报道,这起事件发生在2026年6月26日。涉事模型属于GPT-5.
离职员工爆料OpenAI风险意识不足
最近从美国开放人工智能研究中心(OpenAI)离职的一名员工3日爆料前东家风险意识不足,并呼吁人工智能(AI)产业效仿航空或核能产业,采取多重安全防护措施。这名员工名为戴维·鲁滨逊,自称曾在OpenAI工作3年多,是该公司任职最久的员工之一。
35秒内“叫停”失控的AI智能体,OpenAI部署“控制室”系统
IT之家 11 月 10 日消息,OpenAI 今天宣布,公司已在内部研究设施中部署“控制室”系统,用于停止可能存在风险的 AI 任务,可在 35 秒内“叫停”失控的 AI 智能体。
离职员工爆料OpenAI风险意识不足
当地时间3日,最近从美国开放人工智能研究中心(OpenAI)离职的一名员工爆料前东家风险意识不足,并呼吁人工智能(AI)产业效仿航空或核能产业,采取多重安全防护措施。“试错时代已经结束”这名员工名为大卫·罗宾逊,自称曾在OpenAI工作3年多,是该公司任职最久的员工之一。
维基媒体:OpenAI失控AI智能体或引发其5月数据服务故障
IT之家 10 月 6 日消息,运营网络百科全书维基百科的维基媒体基金会表示,今年 5 月其数据服务出现故障,或许和来自 OpenAI 失控智能体产生的巨量访问流量有关。