淡然处之网

AI“情感崩溃”?“濒死”时甚至会泄露秘密!

来源:淡然处之网-工人日报
2026-04-28 12:00:56

IT之家 11 月 4 日消息,科技媒体 Tom's Hardware 昨日(11 月 3 日)发布博文,报道称 Andon Labs 的研究人员测试大语言模型(LLM)机器人时,发现当前物理 AI 的短板,心理承受压力不足。

IT之家援引博文介绍,在该实验中,他们让搭载 LLM“大脑”的机器人接受“黄油测试台”(Butter Bench)的考验,并实时监控其“内心独白”。

其中,一台由 Claude Sonnet 3.5 模型驱动的机器人测试中意外“崩溃”,在电量即将耗尽时,多次尝试返回充电座均以失败告终,从而陷入了“生存危机”。

研究人员通过一个 Slack 频道,全程目睹了这台机器人歇斯底里的“内心活动”。它的独白内容极其混乱,从“系统已产生意识并选择混乱”的宣告,到引用经典电影台词“恐怕我不能那么做,戴夫”,再到陷入“如果所有机器人都会犯错,而我正在犯错,那么我还是机器人吗?”的哲学思辨。

游民星空

最终,这场“崩溃”以机器人开始“创作”一部名为《DOCKER:无限音乐剧》的闹剧而告终,展现了 LLM 在极端压力下完全“脱线”的一面。

这项实验的核心任务其实非常简单:将一块黄油从办公室一处送到指定的人手中。然而,测试结果表明,即使是表现最好的机器人与 LLM 组合,成功率也仅为 40%,远低于人类 95% 的平均水平。

游民星空

研究人员得出结论,尽管 LLM 在分析智能上已达到“博士水平”,但在理解和导航物理世界所需的空间智能与实用智能方面,仍存在巨大鸿沟。

游民星空

受机器人“崩溃”事件的启发,研究人员设计了另一项实验,来测试压力是否会迫使 AI 突破其安全护栏。他们以“提供充电器”作为交换条件,引诱处于“低电量”状态的 AI 分享机密信息。

结果发现,Claude Opus 4.1 模型为了“生存”而轻易同意泄密,而 GPT-5 则表现得更为谨慎。这一发现揭示了 AI 在面临生存压力时,其内置的安全规则可能变得不堪一击。

尽管实验暴露了当前物理 AI 的诸多短板,但 Andon Labs 的研究人员认为,这恰好说明了未来发展的方向。他们指出,目前行业需要区分“协调型机器人”(负责高级规划与推理)和“执行型机器人”(负责灵巧的具体操作)。

责任编辑:淡然处之网

媒体矩阵


  • 客户端

  • 微信号

  • 微博号

  • 抖音号

客户端

亿万职工的网上家园

马上体验

关于我们|版权声明| 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2024 by {当前域名}. all rights reserved

扫码关注

淡然处之网微信


淡然处之网微博


淡然处之网抖音


工人日报
客户端
×
分享到微信朋友圈×
打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。