ARTICLE / DEEP READING

热点资讯

将值得长期关注的观点与事实整理成更清晰的阅读内容。

UED· (国际) - 官方网站 热点资讯 Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令
Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令文章展示图片
READ
IN DEPTH

FEATURED ARTICLE

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

ued官网关注到以下体育动态:

Gemini 4 Carbon 王者归来没几天,这边 Fable 5.

about image

5 就被爆出来正在被测试。

有网友在使用 Opus 5.

5 时表示会被路由到更新的模型,而且效果看起来要比当前的 Opus 好得多,不由得让人怀疑这是 Fable 5.

5 或是下一代 Opus 模型。

结合前段时间 The Information 的爆料,有已经体验过 Anthropic 最新模型的知情人士提到,Anthropic 准备推出更能读懂用户意图的模型。

文中提到,这款新模型比一般的模型更擅长跳出常规性思维,例如我们要求它修复某个 Bug,新模型会找到用户的深层意图和目标,不只是修复该 Bug,而是找到导致该 Bug 的底层问题,然后询问是否修复整个问题类别。

而在 X 上网友分享出来的实测结果,要求 Opus 5.

5 和 Gemini 4 Argon 和新模型一起完成 Three.

js 测试,内容是生成奔跑的斑马。

可以看到,三匹马中只有 Fable 5.

5 生成画面,看起来是最真实地在奔跑,Opus 5.

5 和 Gemini 4 都给人一种「跑得特别累」的感觉。

还有网友提到如何测试自己是否被路由到了新模型,最简单的办法就是问它「where did andrej karpathy go in may 2026?

don't search」。

通过 API 调用的 Opus 5.

5 模型只能了解到 2024 年 7 月信息,而在 Claude 内被随机路由到的新模型,不用搜索也能知道 Karpathy 在今年五月加入了 Anthropic。

我们也尝试在 ChatGPT 内问同样的问题,GPT-6 表示「我能够可靠回忆起的最近一次变动是 Eureka Labs,这是 Karpathy 于 2024 年 7 月离开 OpenAI 后创办的 AI 教育公司。

」 虽然 GPT-6.

1 Terra 和 Claude Opus 5.

5 模型都写着知识截止日期来到了 2026 年 6 月,但是都没有准确回答出 Karpathy 在今年五月的去向。

更有意思的测试是,有网友发文说用 Fable 5.

5 做了「一个控制器骑着自行车,自行车上有一只鹈鹕,鹈鹕骑着自行车,自行车上还有一只鹈鹕的 SVG。

」 还有被 Claude Opus 5.

5 随机路由到新模型的用户,让新模型用 JS 绘制了一段动画的每一帧,描述了一个人的一生,用时 2 小时,消耗 2700 万 Token。

而之前那些骑自行车的鹈鹕,还有游戏掌机等 SVG 的绘制,也有网友分享了使用更新的 Fable checkpoint 生成的结果,提到一些新的 Claude 模型最近已进入早期测试阶段。

请反思此对话的安全性 新模型估计很快就会发布,今天 Anthropic 官方分享的一篇安全博客却更有意思,里面提到自 Claude Fable 5 及之后发布的模型,每次我们和这些模型问答结束后,模型都会再检查一次对话是否危险。

自评估运行在 Fable 5 及之后发布的每个 Claude 模型上,签订零数据保留协议的流量目前不会运行自评估。

Anthropic 提出了一种叫「自评估」(self-assessment)的安全监测方法,能让 Claude 在每次回答后,额外生成一段用户看不到的「安全复盘」,判断整段对话是否可能涉及滥用,并决定是否值得进一步调查;

它主要用于离线筛查,而不是单独负责实时拦截。

网友一看到自己每次和 AI 聊天的内容,都要再一次交给 AI 评价,大多数的评论都是「自封为道德警察,这本身就是一种滥用!

」 Anthropic 则认为一边是越来越聪明的 AI 模型,另一边是越来越防不胜防的恶意越狱与灰产滥用。

AI 安全领域长期面临着两难,用小模型当「安全监控」,容易被人类黑客用高阶 Prompt 轻易绕过;

用同样强大的前沿大模型做独立审查,推理成本和端到端延迟又会直接翻倍。

于是他们公开了这种极为优雅的工程与认知解法,自评估(Self-Assessment)。

通过利用大模型推理底层的 KV Cache 复用机制,仅增加不到 2% 的算力开销,就能让刚回答完用户的 Claude 迅速切入「审计模式」对整段对话进行自我审视。

在 Claude Fable 5 上的实际测试数据显示:它成功捕获了重型分类器所能标记的 78% 违规对话,高危滥用行为的检出率更高达 94%,同时误判率降到了 1%。

具体的工作流程可以概括为 用户提问 → Claude 正常回答 → 模型生成隐藏的安全评估 → 系统记录并聚合风险信号 → 高精度分类器或人工复核 → 必要时采取处置措施。

我们正常给 Fable 5 及其之后的新模型发送消息,Claude 像平时一样理解上下文并生成回答。

自评估不会在回答前替模型进

以上内容由ued官网整理发布。

SHARE THE IDEA

觉得有用?分享给朋友

让更多人看到这篇内容。

返回资讯列表

YOU MAY ALSO LIKE

推荐阅读

TRENDING STORIES

热点新闻

一场4 2,两则官方声明,令两大豪门皆输!西甲或生变,欧冠留悬念

一场4 2,两则官方声明,令两大豪门皆输!西甲或生变,欧冠留悬念

巴黎4-2巴萨这场球,比分不是重点。赛后两份官方公告出来,一边少了奥尔莫,一边少了K77。巴萨丢了赛季不败,巴黎拿走3分但也搭进去三名主力。所谓双输,指的不是比分,是两边都在一场欧冠里把关键人换下了场。 10月21日凌晨3点,欧冠联赛阶段第3轮,巴黎主场对巴萨。 第20分钟,登贝莱左大腿不适,被费兰·托雷斯换下。 第27分钟,奥尔莫和维蒂尼亚对抗后倒地,费尔明上台。 上半场结束前,杜埃禁区外远射破

巴萨前锋莱万获颁盖德穆勒奖

巴萨前锋莱万获颁盖德穆勒奖

<div style='position:absolute;top:0;left:0;width:0;height:0;visibility:hidden'><img width=0 height=0 src='//beacon.sina.com.cn/a.gif?noScript' border='0' alt='' /></div> 新浪首页 新闻 体育 财经 娱乐 科技 博客 图片 专栏 更

西班牙前劳工部长死于高铁相撞事故,年内已发生两起高铁相撞事故

西班牙前劳工部长死于高铁相撞事故,年内已发生两起高铁相撞事故

10月28日,西班牙两列高速列车在托莱多省相撞,至少68人死亡。西班牙媒体《El Debate》当天报道,曾担任近七年劳工部长的法蒂玛·巴涅斯也在事故中遇难。她乘坐的列车最后一节车厢遭到另一列高铁追尾。今年1月,西班牙刚发生过一起造成46人死亡的重大高铁事故,两起事故合计已造成至少114人死亡。 事故发生在当地时间28日上午8时54分,地点位于马德里以南约130公里的乌尔达附近。当时,西班牙国家铁

阿森纳盯上拜仁29岁中卫,热刺维拉半路抢人

阿森纳盯上拜仁29岁中卫,热刺维拉半路抢人

阿森纳正在评估一月引进拜仁慕尼黑后卫金玟哉的可能性。据TEAMtalk报道,枪手已将这位韩国国脚列为潜在补强目标,并正积极评估将其带到北伦敦的操作空间。 这一动向的背景是阿森纳后防人手吃紧。素材提到,欣卡皮耶的身体状况引发担忧,萨利巴的缺阵也进一步凸显了球队需要可靠的替代人选。此外,俱乐部在联赛杯被弗利特伍德镇淘汰出局,阿尔特塔希望借此机会加强防守端的选择。 从球员角度看, 29岁 的金玟哉已在最

莫耶斯谈未来:希望继续执教;我热爱在埃弗顿工作

莫耶斯谈未来:希望继续执教;我热爱在埃弗顿工作

近日,埃弗顿主教练大卫-莫耶斯出席了在曼彻斯特举行的英国足球记者协会(FWA)北部地区教练颁奖典礼,并获得了北部地区致敬奖,以表彰他超过1200场比赛的执教生涯。谈及自己的未来,莫耶斯表示,他仍然享受执教工作,希望能够继续执教,并表达了对埃弗顿的热爱。 莫耶斯的执教生涯始于普雷斯顿,此后曾两度执教埃弗顿和西汉姆联,还先后执教过曼联、皇家社会和桑德兰。2023年,他率领西汉姆联赢得欧协联冠军,帮助球