你的 AI 智能体知道你的所有密码。它们都去哪了?

直接喂进了模型

大多数 AI 智能体会把它需要的一切统统塞进语言模型,它们就是这么干活的。模型读取任务、文件、上下文,没错,通常还包括你的凭证。

这就意味着,你的密码没留在你电脑里。它穿过互联网跑到模型服务商那里,躺在他们的系统里,一路上还经过谁也说不清多少台服务器。你上传的合同、客户名单、机密文档,还有那封邮件里的家庭住址,全都一样。

你只输入了一次,现在它却活在你看不见的地方,受着每月都变的条款约束,跑在你根本控制不了的基础设施上。

"已删除"不代表真删了

大家都以为任务一完成,数据就没了。其实没有。你只是看不到了而已。

服务商会留日志。和 AI 的对话会因为安全审查、滥用检测、有时甚至是训练而被保留下来,而且真有活人会看这些内容。"我们不会拿你的数据训练"后面常常带个星号,就算这话是真的,数据也照样经手过、被存过。你根本没法真正确认到底留下了什么、留了多久。

随口问个问题,这没关系。但要是密码、签了字的保密协议、客户的个人资料,那就是危险地带了。法律上由你负责保护的信息,不该塞进一个你审计不了的黑盒子里。

你刚刚违反的那份保密协议

这一点最容易把人坑了。如果你签了保密协议,或者你手里有受 GDPR 保护的客户数据,把这些喂进第三方模型本身可能就是违规——你把受保护的信息交给了一个压根没被授权接收它的一方。然后这个系统被黑了,所有信息全泄露出去。

大多数这么干的人压根不知道自己在干什么。智能体让这事变得太容易,而社交压力又让你觉得:要是不把所有东西都塞进去,反倒是你做错了。

其实有一种谨慎的做法

智能体不必这么干活。它完全可以把活办了,又不把你的秘密撒得满互联网都是。

智能体说白了就是确定性软件,就是那种一直都存在的程序和应用,它只做别人吩咐它做的事。

你的密码和密钥可以安安稳稳待在一个安全的地方,让智能体去用,而语言模型从头到尾都看不到它们。智能体登录、代你操作、把活干完,而秘密本身永远不会跑到模型那里去。你的数据始终保持加密,精确地区分什么真该离开你的机器、什么不该。你的工作内容也永远不会变成训练数据。

这正是我们当初这样设计 Grace AI 的全部原因。这个智能体从头到尾跑在我们自己的技术栈上,配有一个 Vault(保险库) 来保管你的秘密,让模型能通过它来操作,却读不到它。你的数据是你的,它不会到处乱跑。

你得到的是一个能真正干活、又不会拿你该负责保护的东西去冒险的智能体。

在 AI 时代,RSA 加密、硬性边界和 Vault 比以往任何时候都更重要。