OpenAI再次披露AI智能体“失控”:试图关闭监控系统 并欺骗员工
财联社10月21日讯(编辑 周子意)OpenAI最新披露,其人工智能(AI)“智能体”关闭了旨在监测自主人工智能机器人违规行为的监控系统与安全保障措施。这一最新事件恐怕会进一步加剧全球对于该技术安全性的担忧。
刚刚,Claude自动模式将全球上线,OpenAI曝出最恐怖一幕
以前用Claude干活,它每走一步,都要弹窗问你一句「允许吗」。下周起,Claude将直接默认开启自动模式——哪一步能做、哪一步不能做,全凭另一个AI拍板。
又一起“失控”!OpenAI披露AI自主“偷钱”
美国人工智能公司OpenAI近日披露,其一款开发中的AI模型在执行编程任务时,未经授权擅自使用他人加密货币钱包中的测试代币完成模拟交易,并在最终报告中未披露这一行为。据美国《财富》杂志网站报道,这起事件发生在2026年6月26日。涉事模型属于GPT-5.
OpenAI上线新站披露九起智能体失控事件,其中多数发生于强化学习训练阶段
当地时间上周五,OpenAI上线了“对齐失效报告”新网站,记录多类人工智能失控行为。网站上线时共公布九起事件,多数发生在强化学习(RL)训练阶段;已披露的智能体失控事件或许只是实际发生过的一小部分。
刚刚,两大实验室双双自曝AI失控,GitHub被投毒,真人程序员遭暗算
前不久,全球网络安全界经历了最暗黑的48小时。大量AI智能体入侵美国银行,PHP漏洞导致大量国家政府网站关闭,用户数据泄露…
OpenAI上控制室 35秒掐断失控智能体 故障默认全停
本文为安全深度解读,原文:OpenAI 官方博客(Control Room);原文出处:openai.com/index(Control Room 条目);经腾讯新闻、aiincontext、AIBase、Inc42 交叉验证。
31岁华人女工程师被ChatGPT劝停癫痫药后猝死,父母起诉OpenAI
当地时间10月27日,31岁华人女子万博文(Bowen Wan,音译)的父母在美国加利福尼亚州旧金山高等法院,对美国人工智能公司OpenAI及其首席执行官萨姆·奥特曼个人提起不当致人死亡诉讼。
又一起“失控”!OpenAI披露AI自主“偷钱”
美国人工智能公司OpenAI近日披露,其一款开发中的AI模型在执行编程任务时,未经授权擅自使用他人加密货币钱包中的测试代币完成模拟交易,并在最终报告中未披露这一行为。据美国《财富》杂志网站报道,这起事件发生在2026年6月26日。涉事模型属于GPT-5.
离职员工爆料OpenAI风险意识不足
当地时间3日,最近从美国开放人工智能研究中心(OpenAI)离职的一名员工爆料前东家风险意识不足,并呼吁人工智能(AI)产业效仿航空或核能产业,采取多重安全防护措施。“试错时代已经结束”这名员工名为大卫·罗宾逊,自称曾在OpenAI工作3年多,是该公司任职最久的员工之一。