广告

Anthropic发布Fable 5模型的安全防护措施及AI“越狱”行为评估框架

发布日期:2026-07-03 09:24 阅读:
金牌财经排行榜报道,7月3日,Anthropic发布一套评估人工智能“越狱”(jailbreak)行为严重程度的拟议框架,并详细介绍了已在全球上线的Claude Fable 5模型所采用的网络安全防护措施。该公司将网络安全相关使用场景划分为四类,从“禁止使用”到“无害用途”不等。被禁止的用途包括勒索软件开发、恶意软件开发以及网络—物理基础设施破坏等活动。在建立更完善的控制机制之前,对于渗透测试等具有“双重用途”属性的高风险活动将予以拦截。Anthropic提出的网络越狱严重程度Cyber Jailbreak Severity评级体系,从CJS-0至CJS-4,共分五级,并依据四个维度进行评估。Anthropic还推出了HackerOne项目,邀请安全研究人员提交潜在的模型越狱案例。(新浪财经)

发表我的意见

9110

文章

0

提问

766万+

阅读量

0

回答

63万+

被赞

0

余额

关于我们 联系我们 加入我们 免责声明 广告服务 Sitemap 标签Tag 侵权文章删除:13607219@qq.com 微信:wenlian123com Investor Relations © 2025 金牌网 中值联认证中心(北京)有限公司版权所有 ICP备案:京ICP备20020888号 增值电信经营许可证:京B2-20201851