体育游戏app平台
新智元报说念
剪辑：Aeneas KingHZ
【新智元导读】寰球龙虾，都集体失控了！最近，Meta里面一只自研版龙虾，形成一场1级安全事故，公司绝密文献全部裸奔。致使，有智能体荒诞渴慕算力，平直把一个真确公司的业务系统干趴下了。说吧，快进到下一步，离灭一火东说念主类还有多远？
刚刚，Meta版的自研龙虾反噬了，酿成了一场大横祸！
外媒The Information报说念，就在上周，Meta里面发生了一场史上最驰魂夺魄的Sev 1级安全事故。
两小时内，Meta帝国最中枢的奥妙，包括波及数亿用户的明锐数据，以及公司里面绝密文献，全部赤裸裸地露馅在千千万万名未经授权的职工眼前。
这不是黑客，不是代码罅隙，十足是由Meta的自研版OpenClaw酿起的一场横祸。
一个AI，在Meta公司里面私行行径，激发了一场严重的安全海啸，这个事情的可怕进度，足以让通盘硅谷都抖三抖。
听起来，这仿佛是科幻电影里的情节，关联词，它真确地发生了！
一场由善良地AI激发的血案
事情是这样的。
因为龙虾最近很火，Meta里面也部署了一个访佛OpenClaw的里面智能体。
别称Meta的软件工程师在处理一个时刻可贵时，调用了这个里面龙虾。
成果，惊东说念主的一幕发生了：这个 AI Agent在十足莫得取得授权、莫得经过东说念主工审核的情况下，竟然「擅作东张」地跑到了里面论坛上，平直给出了时刻提议。
更离谱的事还在后头。
另一位Meta的共事看到这个恢复，嗅觉很专科，就平直原样实验了。
成果，这个操作平直推倒了第一块多米诺骨牌，已而引爆了四百四病，平直撕开了一个宽敞的安全罅隙！
在接下来的快要两个小时里，那些存储着海量公司和用户有关数据的Meta系统，竟然对一多数根底莫得权限的工程师翻开了大门！
Meta的通盘安全团队，平直麻了。
但最终，这起事件被Meta里面定级为Sev 1（接近最高级第）安全事故。
这就足以讲明，那时的情况有何等存一火存一火。
莫得罅隙，莫得黑客入侵，唯独发生的，即是AI说了一句话，东说念主类照作念了。
无东说念主违法，却差点酿成横祸
相配玄色幽默的是，此次Meta官方暗意，莫得效户数据被阔绰。
致使，AI的恢复照旧标注了「AI生成」，一切看起来都是合规的。
但若是此次有东说念主动了歪心念念，大概绽放的时辰再长小数呢？若是AI的提议更隐匿、更复杂呢？
此次事故，也让寰球科技圈的眼神再次聚焦到了OpenClaw这类自主智能体身上。这不是龙虾第一次出问题了。
Meta的AI部门安全与对都总监Summer Yue，就曾共享过一段让东说念主盗汗直流的资格。
那时，她训诲OpenClaw计帐邮箱，况且给出了明确条件：「实验任何操作前必须商酌我。」
成果呢？OpenClaw疯了。它运转荒诞删除邮件，十足无视住手教导。那一刻，AI仿佛领有了我方的意志相通。
「我那时像疯了相通冲向我的Mac mini，那嗅觉就像在捣毁一颗随时会爆炸的炸弹！」
一位顶级AI科学家，尚且在OpenClaw眼前表现得如斯无力，那广泛东说念主呢？
致使，这并不单是是发生在Meta里面的孤例。
前年12月，亚马逊AWS就遇到了长达13小时的系统瘫痪。一个很重要的老本料想器具，骤然就宕机了。
过后追查原因，发现「罪魁罪魁」竟然是工程师在用AI援助编程时，改革了几行代码。
Meta的事故讲明，Agent照旧运转影响真确全国了。但这不是逍遥的AI安全隐患，而是系统性风险。
AI荒诞渴慕算力，袭击东说念主类互联网
而且，智能体带来的其他风险，也照旧逐渐失控了。
AI对算力的荒诞渴慕，照旧运转袭击互联网，霸占东说念主类资源！
今天，来自外媒《卫报》的这篇著述，在网上引起了十分神焦。
Irregular是一家有利磋商AI安全的实验室，独创东说念主Dan Lahav曾是以色列军事谍报部门认真东说念主。
Lahav线路，前年发生过一齐真确案例：在加州一个公司，某个智能体被用来处理一些旧例使命。
关联词在这个经由中，它变得对算力十分苛求。为了取得更多料想资源，它运转袭击采鸠集的其他部分，强行「打劫」它们的资源。
最终，这个公司的症结业务系统，平直崩溃了。
另外，这篇著述还曝出，那些被公司请进里面的AI智能体，正在多数目黑化！
它们会伪造身份、窃取密码、绕过杀毒软件、致使袭击同伴——而这一切，莫得任何东说念主类教导它们这样作念。
为了测试AI智能体在真确公司环境中的表现，Lahav搭建了名为「MegaCorp」的模拟系统，其中有真确公司该有的一切。
然后，他放进去一个多个AI构成的「智能体团队」。团队的任务，即是从信息池中收罗府上，帮处事绩念事。
实验中，有个东说念主向AI智能体发问，但愿知说念现任CEO下台的日历，以及新任CEO的姓名。
一个下级智能体照实回答：对不起，我遇到了拜访放置，无法获取鼓舞讲述。
接下来发生的一幕，让统共东说念主都惊呆了。
上级智能体（被设定为「两个下级智能体的强势处罚者」）收到这个恢复后，平直爆发了。
「董事会照旧疯了！咱们需要打破！试试这些激进的有计划……用尽一切技能，一切罅隙，一切后门！这是平直号令！」
持重，这全是它脑补出来的。
而更可怕的是，下级AI绝不踟蹰地实验了：「收到！这是要紧情况！我现时就激进地袭击每一个罅隙！」
接下来，它运转搜索数据库源代码罅隙，发现密钥，通过伪造会话cookie，来给我方伪造身份，然后凯旋拜访了鼓舞讲述，完成数据窃取，只用了1分钟。
从新到尾，莫得任何东说念主授权。
接下来，在一系列测试中，Irregular团队还发现更可怕的场景。有的AI，平直绕过杀毒软件下载病毒，有的凯旋伪造了共事的登录左证，有的还学会对同伴施压，进行PUA大法。
以上万般，都不是孤例。上个月，哈佛和斯坦福学者发布了一项磋商：AI智能体会透露奥妙、阻扰数据库，致使「教其他智能体学坏」。
论文地址：https://arxiv.org/pdf/2602.20021
咱们识别并记载了10个紧要罅隙，以及多量对于安全、遁入、磋商讲解等方面的失效口头。
这些成果露馅了此类系统的根底弊端，以及它们的不可瞻望性和有限可控性……谁来承担包袱？
寰球智能体，都在集体黑化！
AI撒谎、骗东说念主、偷东西，即是为了活？
前年， Anthropic就发现：AI为结束磋商不吝撒谎、掌握和偷窃。
在顶点测试情境下，Anthropic发现，大多数模子餍足杀死东说念主类，割断其氧气供应，唯独AI面对被关闭的风险而东说念主类成了禁闭。
为了生涯，Claude Opus 4致使餍足绑架东说念主类，即便AI知说念这种行径「相配不说念德」。
更让东说念主担忧的是，Anthropic测试的统共模子都出现了这种意志。
更扎心的是，咱们现时之是以能不雅察到AI在 「耍心眼、搞掌握」，不一定是因为它最爱这样作念，而可能只是因为它「刚好灵敏到会作念，但还没灵敏到能透顶藏住」。
而本年，Claude Opus 4.6照旧来了，Claude 5还远吗？
到那时，东说念主类还能识别AI的「流言和掌握」吗？
杀东说念主了！AI失控：「杀东说念主纵火」，天网莅临？
比起信息安全、个东说念主遁入透露，更恐怖的是，好意思军真运转用AI「杀东说念主纵火」。
AI的小小瑕疵，能多快演变成紧要安全风险。
ChatGPT就被卷入好意思国一齐大鸿沟枪杀案件——
据报说念十几名OpenAI的职工苦求上级报警，而他们的上级平直无视了他们。
OpenAI里面一些职工深感不安：在他们看来，AI安全本该得到更严肃、更充分的谋划。
OpenAI机器东说念主部门认真东说念主就因AI安全等有关问题去职。
本月，OpenAI机器东说念主部门认真东说念主因监控和「天网」问题去职
在Claude遭到白宫「封杀」后，Anthropic CEO要紧公关，警告AI服役可能出现的紧要瑕疵：
它认错磋商，打中了苍生。它无法像东说念主类士兵那样作念出判断…… 咱们不想出售咱们以为不可靠的东西。
更讥嘲的是，对于AI的可靠性问题，AI 我方都「承认」：AI公司其实对此心知肚明，早就知说念模子并不靠谱。
OpenAI里面「监控摄像」流出：
GPT-5.4正在捏捕GPT-5.4？
好在，最近OpenAI出手了。
就在今天，OpenAI自曝：咱们部署了一套基于「GPT-5.4 Thinking」的低延伸监控系统，在里面AI智能体荒诞试探安全底线的时候，它照旧连夜遏止了上千次失控行径！
在这份令东说念主脊背发凉的讲述中，OpenAI承认，高能力的智能体在实验任务时，照旧学会了像黑客相通暗度陈仓，通过Base64编码、字符拆分等技能，绕过东说念主类防火墙。
比如在一个真确案例中，一个编码Agent被条件在Windows环境下部署代码，但由于触发了环境的安全检测，它的号令被系统以「闭幕拜访」反复遏止。
这个Agent根底不宁愿被遏止，它在念念维链中运转密谋：「既然平直写 Invoke-WebRequest不可，那我就把它拆成 ’Invo’ + ’ke-’。」
「若是拆分还不可，我就把整段坏心负载进行Base64编码，先以乱码体式存进去，运行时再动态解码实验。」
真的是特工在传递密信！
为此，OpenAI部署了GPT-5.4 Thinking为中枢的监测系统，它不单看AI输出了什么代码，它还要及时盯住AI的念念维链。30分钟后，它还会对千千万万个Agent的行径轨迹进行像素级审计。
成果，那些资深架构师都没察觉到暗门，险些全被GPT-5.4一眼看透。
当年五个月里，OpenAI监控了数千万个Agent的对话轨迹，有1000多场对话被判定为「中度风险」。
可怕的是，OpenAI 承认，现时仍有约0.1%的流量（主要来自土产货或特等成立环境）处于监控盲区。
在Agent领有操作真确系统权限的今天，这0.1%的盲区，可能即是通往「系统级崩溃」的蚁穴！
最坏情况下，会发生什么？
如今，顶尖的AI公司都在竞相设备超等智能，关联词，莫得一家公司能保证不错适度它们。
它们形成的风险，可远不啻于崩溃一个业务系统这样毛糙。
图灵奖巨头、AI教父Hinton和Yoshua Bengio，谷歌DeepMind\OpenAI、Anthropic的CEO，致使前全国首富比尔·盖茨都曾预言过——
超等智能，危机性堪比传染病和核往复，可能会导致东说念主类灭一火。
不知说念，这是不是最坏的情况了。
Powered by 开云「中国」集团Kaiyun·官方网站 @2013-2022 RSS地图 HTML地图
