Newshot

去你的AI防护措施

Translation(model translation, not the source's own text)

去你的 AI 安全防护

去你的 AI 安全防护
去你的 AI 安全防护

当爱沙尼亚的冰箱正在被黑的时候,我半开玩笑地拿手头正在做的一个项目,问 Claude Code 有没有什么安全方面容易摘的果子可以改进。它找到了一个容易修复的问题,一个简单的疏忽,一行代码就能搞定,于是我就照着做了。

然后它被那些狗屁“AI 安全防护”给拦住了。哦不,我怎么敢啊,我一个资深产品工程师,明摆着对自己的产品有控制权,居然想修复和预防安全问题、确保符合当地法律法规?

“哦,但你只要在这里申请豁免就行了巴拉巴拉他妈的巴拉”

你读过那些要求吗?

首先,你得等上好多个工作日才能收到回复。

你要放弃所有数据保留方面的豁免,所以祈祷你没有什么知识产权需要保护吧!

哦对了,求求你行行好,把该死的身份证或护照给我们吧!我们以后不会泄露的,保证!

什么鬼。
什么鬼。

而且你可能照样被操一顿,根本拿不到批准。批准你恰当地保护自己的服务!

这已经不是我第一次碰到这个问题了。听起来很让人抓狂,但我确实努力跟进安全态势,并采取适当的缓解措施,因为泄露敏感信息是绝对的大忌,我不能让这种事发生。

如果市面上有一个适用于我们技术栈的流行漏洞利用,我需要知道那些公开的概念验证片段能不能被改编并恶意用于攻击我的服务。但不行,Claude 会叫你滚蛋,去用更老的模型,而那玩意儿仍然会试图阻止你施加足够的防护。

你知道谁不需要申请批准吗?罪犯。他们直接就去用那些没有安全防护的模型。消融过的开放权重模型根本不在乎。坏人不管有没有你那些“安全”模型,都能达到目的。

你可以用刀切食物,也可以严重伤人。可我买刀的时候,没人要求我拿政府签发的身份证去填申请表。为什么这个工具这么特殊?

可以预见,真正让我们自己的服务变得更安全的唯一办法,最终是用了托管在欧盟的开放权重模型,比如 GLM 5.3,它确实配合我们的意图,证明了问题确实存在,然后帮忙修复并验证问题现在已经彻底解决。

恭喜你,Anthropic,你让这个世界变得更不安全了。

又或者,这本来就是你计划好的,好让监管机构出手,在你 IPO 之前替你筑起那道护城河,挡住竞争对手?

不管怎样,我就是极其沮丧。大型 AI 实验室毫无限制地使用同样的工具,把安全态势搞得一团糟,然后转过头来禁止别人使用同样的工具来保护自己免受他们刚刚制造出来的威胁。他妈的混蛋。1

  • 今年的脏话配额就用到这里了。 ↩︎

通过 RSS feed 订阅新文章。

不知道 RSS 是什么,或者不知道怎么开始?看看这份指南!

你可以通过电子邮件或 LinkedIn 联系我。

如果你喜欢这篇文章,考虑分享一下!

今日猫咪图片
今日猫咪图片

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗