广告

Anthropic发布Fable 5模型的安全防护措施及AI“越狱”行为评估框架

发布日期:2026-07-03 09:25 阅读:
穗牌官网报道,7月3日,Anthropic发布一套评估人工智能“越狱”(jailbreak)行为严重程度的拟议框架,并详细介绍了已在全球上线的Claude Fable 5模型所采用的网络安全防护措施。该公司将网络安全相关使用场景划分为四类,从“禁止使用”到“无害用途”不等。被禁止的用途包括勒索软件开发、恶意软件开发以及网络—物理基础设施破坏等活动。在建立更完善的控制机制之前,对于渗透测试等具有“双重用途”属性的高风险活动将予以拦截。Anthropic提出的网络越狱严重程度Cyber Jailbreak Severity评级体系,从CJS-0至CJS-4,共分五级,并依据四个维度进行评估。Anthropic还推出了HackerOne项目,邀请安全研究人员提交潜在的模型越狱案例。(新浪财经)

发表我的意见

专栏作者

9065

文章

0

提问

508万+

阅读量

0

回答

38万+

被赞

0

余额

关于我们 联系我们 加入我们 免责声明 版权声明 Sitemap 标签Tag 侵权删除:8512807@qq.com 微信:Suipai8888 Investor Relations © 2026 穗牌官网 广州穗牌电动车有限公司版权所有 粤ICP备2024261588号 增值电信经营许可证:粤ICP备2024261588号