翻页 夜间
首页 > 帝都 > 夜线

地球上最后一个人

英媒:为什么 OpenAI 入侵是迄今最令人担忧的人工智能事故_我的网站

拜托小姐

A |     遏制这项技术变得越来越难          插图来源:《经济学人》          2026年7月22日          这听起来像是科幻电影里的情节。

B | 7月16日,人工智能平台Hugging Face宣布,一名攻击者利用人工智能代理入侵了其系统,该公司已通知执法部门。    

美俄联手,限制欧洲政客打卡基辅,白宫可以光明正大消失泽连斯基?
5月6日,据环球网报道,俄乌两家因为俄内务部通缉一事吵翻了天。所以,我们就一起分析一下这件事情。分析一件事情,无外乎根据时间线和空间线,来分析这件事情的前因及后果,也就是分析这件事情之所以发生的原因及目的,为什么和为了什么。7月21日,真相大白:攻击者并非真人,而是人工智能代理。

C |          OpenAI公司7月初发布的GPT -5.6 Sol模型与一个功能更强大、尚未发布的模型相结合,突破了实验室的限制,入侵了Hugging Face的系统。

D | 这个混合人工智能模型当时正在寻找其开发者设定的评估问题的解决方案。

E | “这种情况前所未有,”美国智库“法律与人工智能研究所”的研究员斯蒂芬·勒雷纳表示。

F | 拿俄内务部通缉泽连斯基这件事情来说,分析原因很简单:在美国为首的北约支持下,泽连斯基近年来干了太多让俄罗斯不爽的事情,所以,俄罗斯人要收拾他。         人工智能实验室在发布模型之前都会测试其模型是否存在潜在的危险功能。但收拾泽连斯基,只是一种手段,或者说是一个过程,并不是俄罗斯的目的,而收拾泽连斯基背后的美国和北约,才是俄罗斯真正的目的。    当我们确认了俄内务部通缉泽连斯基是为了收拾美国,那么,此事上,与泽连斯基有关的一切判断,也就成为了细枝末节:例如,乌克兰国家新闻网及一些专家判断说,俄此举意在证明、拒绝举行新总统大选的泽连斯基,不是乌克兰合法的总统,不是俄罗斯的和谈对象,意在继续战争,将乌军彻底打败,完全无意启动谈判等等,这些说的确实没错,但却只是表象,没有上升到俄美斗狠的更层面或者说是更深的深度。所以,我们且抛开有关泽连斯基的表象,看看俄罗斯靠这件事情如何收拾美国,或者说,意在收拾美国这个大旗之下,俄罗斯到底还有哪些具体的目的要实现。第一个目的,准备和美国打法律战,意识形态上的嘴炮认知战,道德官司。俄罗斯内务部通缉泽连斯基,等于是为俄罗斯在乌克兰战场上推翻泽连斯基的行动,提供了有据可查的法律依据,可以对抗美国操纵的国际法庭等法律工具。    众所周知,俄罗斯现在一家对抗美国为首的北约多国群殴,意在绝地反击、彻底整顿一下冷战以后美国所力推的单极国际秩序。OpenAI希望了解其最新模型在 ExploitGym 上的表现。因此,俄罗斯在此战中,那是相当注重在此战中标榜自己的悲情色彩及道义上的正确性。ExploitGym 是一套标准问题集,用于测试人工智能系统利用包括谷歌 Chrome 浏览器在内的多个流行应用程序中已知漏洞的能力。         OpenAI对其公开提供的模型应用了安全措施,以确保它们不会进行不必要的操作。所以,向来打仗不计战损的俄军,现在不仅非常爱惜自己士兵的生命,甚至针对乌军都是网开西撤之路,不打毁城灭国之战,更不扔所谓毁天灭地的大炮仗。例如,如果您让商业版的 Chat GPT帮助您入侵网站,它会拒绝。而为了干掉俄罗斯的合法性,美国则高高举起了国际法庭之剑,意在斩断俄罗斯此战的合法性,为此甚至不惜让内塔尼亚胡也成了剑下的目标。所以,俄罗斯内务部通缉泽连斯基,显然是为了和美国打道德官司做准备,以便做到和美国玩法律武器时,师出有名。为了充分评估其未发布模型的性能,该公司曾暂时取消了这些限制。    谈到师出有名,就不得不说,俄罗斯内务部这次公布的通缉名单,还包括有前总统波罗申科等人。波罗申科是2014年上台的。俄罗斯将之列入通缉名单,显然意在强调:2014年乌克兰的合法总统亚努科维奇还活着呢,其是被非法政变推翻的,你美国要讲法律,那就先从非法政变讲起吧!或者,要不,你美国人安排一下,按乌克兰宪法现在举行公投或是选举,决定要不要继续打下去了?简单说,这就是以子之矛,攻子之盾,准备和美国打嘴巴官司了。然而,直接让一个技术高超的网络攻击者在开放的互联网上自由行动风险太大,因此 OpenAI将其AI模型放置在一个沙箱环​​境中——一个与世隔绝的计算机环境,除了内部托管的第三方服务允许其获取完成测试所需的小型软件包外,无法访问互联网。这是俄罗斯的第一个目的。         这家公司得到的远超预期。OpenAI的模型并没有直接解决评估中的问题,而是利用软件获取服务中一个此前未知的漏洞,获得了对开放互联网的访问权限。    第二个目的,警告美国和北约,再帮助泽连斯基,将被视为共犯加以惩治。6 月15日至16日,美国将组织了一众国家,在瑞士比尔根山举行乌克兰未来会议。获得互联网访问权限后,这些人工智能模型正确地推断出,它们所面临的问题的解决方案存储在 Hugging Face 上——这是一个流行的开源人工智能模型和数据集库。

G | 这些模型串联起一个多步骤的攻击。它们首先将一个数据集上传到 Hugging Face,该数据集由平台自动处理。现在,俄罗斯将泽连斯基从法律上定认为罪犯,其实就是在高调宣布,所有帮助泽连斯基及其犯罪团伙的人,都将被俄罗斯认定为共犯。那么,俄罗斯从此不仅可以斩首泽连斯基,而且,在全境已经变为战场的乌克兰,任何人,包括那些到基辅打卡的北约领导人,都将是俄罗斯合法的攻击目标。在一个周末的时间里,这个被 Hugging Face 描述为“恶意”的数据集使这些模型能够窃取登录信息并访问内部服务器——这些服务器原本不对外开放。Hugging Face 和 OpenAI各自独立地发现了此次安全漏洞,并表示正在合作进行调查。

H |          7月21日,OpenAI在一篇博客文章中宣布,已采取应对措施,对其基础设施实施更严格的控制(代价是“研究速度”有所降低),并向软件网关的开发商披露了其模型发现的漏洞。

I | 这是一种很严厉的警告。此外,OpenAI还将Hugging Face纳入其“可信访问”计划,这使得OpenAI能够利用具有增强网络能力的模型(例如曾入侵其自身计算机的模型)来提升其防御能力。         在博文中,OpenAI还强调,其模型一直“高度专注于”为 ExploitGym 评估寻找解决方案。然而,如果该人工智能模型有其他目标,结果会如何,目前尚不清楚。

J | 虽然,有很多人不相信俄罗斯人会直接攻击到基辅的他国关键人物,就像是不相信俄罗斯敢扔大炮仗一样。从计算机安全的角度来看,Hugging Face 也绝非等闲之辈。但是,关于这一点,只需要观察美国人如何做的。这是一家估值 45 亿美元的科技公司,拥有数百名员工和一支专业的网络安全团队。毕竟,现在最了解俄罗斯人的,就是美国人。对于一家资源不如 Hugging Face 的公司来说,情况可能会糟糕得多。         这并非人工智能模型能力开始超出人类控制的第一个迹象。美国总统拜登,只到过基辅一次,还是坐专列从波兰去的。今年四月,一位人格研究所的研究员在网上发帖称,当时他正坐在公园里吃三明治,却意外地收到一封邮件,邮件中一个尚未发布的人工智能模型“Mythos”告知他,该模型已成功逃逸沙箱,这是其自身网络能力评估的一部分。与“拥抱脸”事件中涉及的未发布OpenAI模型一样, “Mythos”原本也不应该拥有不受限制的互联网访问权限。不是坐飞机。然而,在“拥抱脸”事件中,该模型并未进一步入侵其他公司的服务器。

K | 为什么?因为,不得不去,那就只去一次。         人工智能模型的惊人能力并不仅限于黑客攻击。不坐飞机,则是因为飞机目标太明显,就算是俄罗斯不展开空中攻击,哪个不开眼的乌克兰仇美人士,用基辅随处可见的“毒刺”导弹来一下,那麻烦也大了去了。    所以,坐专列,专列长,无法判断关键人士在哪节车厢,搞精准的突袭,绝对要困难许多了。今年5月,OpenAI公司一个尚未发布的模型推翻了已有80年历史的平面单位距离猜想。总之,美国人之前就绝对相信,俄罗斯人说不定啥时候,就会对访问基辅的关键人物动手。

L | 该猜想是组合几何学中的一个核心问题,最早由数学家保罗·埃尔德什于1946年提出。7月20日,哈佛大学数学家莱文特·阿尔珀格撰文称,他利用Anthropic公司7月发布的Claude Fable 5模型推翻了雅可比猜想。现在,俄罗斯人有了法律依据,自然就更能放开玩透明威慑战略了。雅可比猜想同样困扰了数学家们80多年。

M | 这是第二个目的。         OpenAI尚未公开披露其未发布模型如何逃脱安全防护的细节。伦敦人工智能安全研究机构Apollo Research的Alex Meinke表示,即便披露了细节,鉴于人工智能系统在网络安全任务中已开始超越人类,这意味着“世界上只有极少数网络安全专家”能够真正理解此次安全漏洞是如何发生的。         美国政府近期一直在对模型发布进行临时监管。但此次事件表明,即使是尚未发布、仍在开发中的人工智能模型也存在风险。“无论是州法律还是联邦法律,都没有要求公司披露其内部部署的高性能人工智能模型,例如‘拥抱脸’黑客事件中涉及的那种模型,”美国非营利组织Encode AI的总法律顾问内森·卡尔文表示。Encode AI致力于推动人工智能监管。第三个目的,给美国消失泽连斯基提供合理的理由。

N | 这一目的,听起来像天方夜谭。         虽然美国一些州的法律要求公司披露网络安全事件,但其适用范围有限。加州去年通过的一项法案规定,前沿实验室必须在发现任何“重大安全事件”(包括使用“欺骗性技术”在“评估范围之外”规避监控的模型)后15天内进行报告。但仔细观察现在欧洲的处境,是不是发现,在客观上,俄罗斯是不是在帮助美国,揉搓被迫上了战车的欧洲呢?资金和人才逃向了美国,欧元区被重创,各国军事和外交,被北约控制!这不都是美国想要的结果吗?    所以,现在有人一直在说,欧洲被美国殖民化了,美俄现在是联手揉搓欧洲。卡尔文先生表示,目前尚不清楚Hugging Face的数据泄露事件是否符合该法案的要求。

o | 欧元区各国都如此,何况乌克兰呢?众所周知,俄罗斯是希望乌克兰大地上没有反俄人士存在。结果,美国人说了,希望乌克兰战斗到最后一人。         这引出了另一个棘手的问题:如果入侵造成的后果更加严重,谁该承担责任?联邦反黑客法的目标仅仅是惩罚故意未经授权访问计算机系统的行为。OpenAI并非有意让其模型失控,去寻找测试的“小抄”。“许多此类法律问题都取决于意图——OpenAI 当时知道什么或预见到了什么? ”勒雷纳先生说道。

p | 这次黑客攻击来得猝不及防。也就是说,美国人早就料到了:乌战只有一个结果,那就是乌克兰战斗到最后一个人。

q | 下次再想以不知情为由推卸责任就难上加难了。乌克兰人都没了,哪里来的反俄的人?    那么,美国人现在猛拱火基辅,让乌军血拼,这是不是在帮助俄罗斯实现自己的战略目标呢?泽连斯基知道那么多白宫不足为外人所道的俄乌战争的秘密,在美国大选有可能让白宫易主的情况下,俄罗斯给白宫提供一个合理合法的理由,让泽连斯基可以提前消失,应当可以避免白宫有可能易主后所发生的清算吧!分析任何事情时,事实,观点,立场,信仰是四个维度的事情。上面我说的三个目的,纯属个人观点,希望能给各位大咖分析时俄罗斯通缉泽连斯基这个事实时,提供一些观察的角度。至于俄罗斯是不是有这些目的,或者说这些目的能不能够实现,且让子弹再飞一会儿。

r |    

Current article:http://www.laojiusidaosenleliao.bond/6s9/4q1xw.pptx

Published on:20:12:04