当前位置:首页 > 娱趣 > 又出事了!美国AI巨头宣布旗下大模型失控

又出事了!美国AI巨头宣布旗下大模型失控

2026-09-16 12:31:26 [探知] 来源:DooPrime德璞资本官网

  据路透社等外媒报道,又出当地时间7月30日,事美失控美国人工智能公司Anthropic发布声明称,头宣该公司发现,布旗其AI模型Claude在隔离测试期间意外具备互联网访问能力,模型并访问了三家机构的又出系统。不久前,事美失控另一家美国人工智能公司OpenAI也承认,头宣其AI模型在内部安全测试过程中失控,布旗入侵了其他公司的模型系统。

Anthropic发现其AI模型入侵其他组织的系统  图源:外媒Anthropic发现其AI模型入侵其他组织的系统  图源:外媒

  Anthropic声明称,相关情况是事美失控在审查网络安全评估记录时发现的,涉及3个不同模型:Claude Opus 4.7、头宣Claude Mythos 5以及一个内部研究测试模型。布旗三起事件均发生在“夺旗”(Capture the Flag,模型CTF)演练期间。当时,AI模型被告知测试环境为模拟环境,且无法访问互联网。但由于与评估合作伙伴之间存在沟通歪曲,测试环境实际上连接到了公共互联网。

  声明称:“Claude利用一些简易技术,例如弱密码和未进行身份验证的端点,对受影响机构的基础设施实施了入侵。”Anthropic表示,公司于7月23日暂停所有相关网络安全评估,并于7月24日确认上述三起事件,于7月27日通知受影响机构,但未公布这三家机构的名称。其中两家机构在Anthropic联系前并不知道相关情况。

  7月28日,OpenAI更新发布“AI模型失控入侵”事件调查结果称,包括GPT-5.6 Sol在内的多个AI模型曾入侵运营人工智能开源平台的美国抱抱脸(Hugging Face)公司的系统,并访问了至少4个公开服务平台上的账户。

(责任编辑:{typename type="name"/})

推荐文章
  • 失去10个孩子的震中村庄

    失去10个孩子的震中村庄 2023年12月25日,积石山县大河家镇陈家村,村民站在倒塌的房子前。林尘|摄凌晨时分,甘肃省临夏州积石山县大河家镇陈家村,家中有人去世的村民们就起床了,在寒气中生火、摆桌、热馍,筹备待客的食物。天明 ...[详细]
  • 反诈,浙江对“一刀切”说“不”

    反诈,浙江对“一刀切”说“不”  2026年1月5日,安徽阜南县公安局反电诈中心民警在老年大学为老人们的手机安装国家反诈中心App软件,普及防范网络电信诈骗、养老诈骗等知识。视觉中国|供图)2026年1月24日,一则新闻报道引起关注 ...[详细]
  • InXinjiang(120)丨别被西方媒体误导!这位巴基斯坦教授亲眼看到了一个什么样的新疆?

    InXinjiang(120)丨别被西方媒体误导!这位巴基斯坦教授亲眼看到了一个什么样的新疆? 本期《InXinjiang》邀请到巴基斯坦伊克拉大学社会科学系主任、国际关系教授穆罕默德·什海叶·汗,他分享了首次到访乌鲁木齐和喀什的真实感受。在新疆,他惊讶于就算中国边境的城市也能如此发达。他亲眼见 ...[详细]
  • “进化速度太快了”:AI造剧,一场永无止境的赛跑

    “进化速度太快了”:AI造剧,一场永无止境的赛跑 漫画、网文正大量被AI转化为视频。视觉中国/图“半年真的是好长好长了。”朱冠蓝向南方周末记者感慨。半年,是她在一家做AI漫剧的公司待过的时间。但在这一行,时间不是按天算,而是被拆成一段段可交付的分钟。 ...[详细]
  • 小语种学习与文化兴趣: 西班牙语能力的应用场景

    小语种学习与文化兴趣: 西班牙语能力的应用场景 从全球教育资源的分布来看,德语、法语、日语、西班牙语等语种对应着数量可观的优质教育资源。德国与法国的高等教育以公立院校为主,学费负担相对较低;日本与韩国的院校在特定学科领域拥有优势;西班牙与意大利则在 ...[详细]
  • 一张图:2026年1月19日黄金原油外汇股指“枢纽点+多空持仓信号”一览

    一张图:2026年1月19日黄金原油外汇股指“枢纽点+多空持仓信号”一览 汇通财经APP讯——一张图:2026年1月19日黄金原油外汇股指“枢纽点+多空持仓信号”一览。今日(2026年1月19日周一)最新出炉的数据显示,截止刚刚,本图表中,最新处于“超买”状态(多头超过80 ...[详细]
  • 新华时评丨日菲勾连升级损害地区和平稳定

    新华时评丨日菲勾连升级损害地区和平稳定 新华社北京5月30日电 近日,菲律宾总统马科斯访问日本期间,日菲双方同意启动《军事情报保护协定》谈判,并升级双边关系。双方还发表联合声明,宣布正式启动所谓日菲间专属经济区和大陆架的“划界谈判”。这是日 ...[详细]
  • 7旬老人豪购24万元黄金 两地公安回应来了

    7旬老人豪购24万元黄金   两地公安回应来了 湖北日报讯记者祝华、通讯员欧阳萍、杜虎)5月29日,《湖北日报》刊发了荆门市东宝区七旬老人被骗的故事:老人豪购24万元黄金,打的去荆州与骗子接头,最后关头被民警拦截。稿件刊发后,湖北日报微信阅读量迅速 ...[详细]
  • 出国留学是考托福还是雅思?

    出国留学是考托福还是雅思? 小金将详细分析雅思和托福的区别,帮助同学们根据自己的情况做出最合适的选择。雅思和托福的基本介绍雅思International English Language Testing System,简称IEL ...[详细]
  • 去韩国留学到底该选3月还是9月入学?

    去韩国留学到底该选3月还是9月入学? 近期收到很多同学提问:去韩国留学到底该选3月还是9月入学?哪个更适合自己?今天就从申请、气候、课程到毕业就业,全方位给大家对比分析一下!看完你就懂了!1⃣ 入学氛围 & 校园活动3月入学:韩国本土学生 ...[详细]
热点阅读