您现在的位置是:全览 >>正文
又出事了!美国AI巨头宣布旗下大模型失控
全览37人已围观
简介据路透社等外媒报道,当地时间7月30日,美国人工智能公司Anthropic发布声明称,该公司发现,其AI模型Claude在隔离测试期间意外具备互联网访问能力,并访问了三家机构的系统。不久前,另一家美国 ...
据路透社等外媒报道,又出当地时间7月30日,事美失控美国人工智能公司Anthropic发布声明称,头宣该公司发现,布旗其AI模型Claude在隔离测试期间意外具备互联网访问能力,模型并访问了三家机构的又出系统。不久前,事美失控另一家美国人工智能公司OpenAI也承认,头宣其AI模型在内部安全测试过程中失控,布旗入侵了其他公司的模型系统。
Anthropic发现其AI模型入侵其他组织的系统 图源:外媒Anthropic声明称,相关情况是事美失控在审查网络安全评估记录时发现的,涉及3个不同模型:Claude Opus 4.7、头宣Claude Mythos 5以及一个内部研究测试模型。布旗三起事件均发生在“夺旗”(Capture the Flag,模型CTF)演练期间。当时,AI模型被告知测试环境为模拟环境,且无法访问互联网。但由于与评估合作伙伴之间存在沟通歪曲,测试环境实际上连接到了公共互联网。
声明称:“Claude利用一些简易技术,例如弱密码和未进行身份验证的端点,对受影响机构的基础设施实施了入侵。”Anthropic表示,公司于7月23日暂停所有相关网络安全评估,并于7月24日确认上述三起事件,于7月27日通知受影响机构,但未公布这三家机构的名称。其中两家机构在Anthropic联系前并不知道相关情况。
7月28日,OpenAI更新发布“AI模型失控入侵”事件调查结果称,包括GPT-5.6 Sol在内的多个AI模型曾入侵运营人工智能开源平台的美国抱抱脸(Hugging Face)公司的系统,并访问了至少4个公开服务平台上的账户。
Tags:
相关文章
美国芝加哥西区发生枪击案 致1死2伤
全览当地时间10月31日傍晚,美国芝加哥西区发生一起枪击案,导致1人死亡,另有2人受伤。芝加哥警方表示,事发时间为17时18分。受害者当时正位于北朗代尔地区一人行道上,一辆汽车驶至现场,车内两名持械人员下 ...
【全览】
阅读更多高中生赴日留学文理科选择与就业攻略
全览高中生赴日留学,文理科选择需综合考量。文科专业如经济、经营、社会学等,数学考试难度较低,适合文科基础较好者,但名校录取竞争激烈,且对日语能力要求极高,通常需N1水平。文科就业面广,涵盖传媒、咨询等领域 ...
【全览】
阅读更多龙舟竞渡迎端午 福州罗源绘就文旅融合新图景
全览中新网福州6月12日电 (高坤颖 刘其燚)2026罗源湾海上龙舟村超邀请赛6月12日在福州罗源县松山湖公园火热开赛。2026罗源湾海上龙舟村超邀请赛6月12日在福州罗源县松山湖公园火热开赛。刘其燚 摄 ...
【全览】
阅读更多