你的 AI 的记忆归谁所有?一个没人在问的问题。
带有持久记忆的 AI 产品越来越常见。系统记得你上个月跟它说过什么。它知道你的偏好、习惯和过往。它用这些知识给出更好的回答。
这很有用。了解你的 AI,比每次都从零开始的 AI 好用得多。
但没有人问那个显而易见的问题:这份记忆归谁所有?
记忆对 AI 意味着什么
AI 的持久记忆不是简单的数据存储,而是一个关于你的、正在运转的模型。
随着时间推移,有持久记忆的系统会了解你如何沟通、在意什么、工作内容是什么、人际关系如何、做过哪些决定以及原因、担心什么、觉得什么好笑、回避什么。它会了解到你从没告诉过任何人的事情:那些从数据中浮现、而非你主动透露的行为模式。
这正是持久 AI 的承诺:你用得越久,它越有用,因为它越了解你。
也正因如此,所有权问题才如此重要。如此丰富细致的记忆,是软件中有史以来最完整的个人模型。
所有权问题
当这份记忆存放在某家公司的服务器上,它归谁所有就说不清了。
数据来自你。模式源自你的行为。但存储、基础设施,以及建立起来的那个关于你的模型,全都在公司拥有并控制的基础设施上。
你没法轻松地把它导出成其他系统能用的格式。你没法核实存了什么。你可以要求删除,却没法核实是否真的删了。如果公司被收购,这份记忆会按照双方约定的条款转给收购方。
本该属于你、由你最私密的数据构建的记忆,成了一家公司可以买卖的资产。
服务变了会怎样
这个问题最具体的表现,是服务更改条款、被收购或关停的时候。
那些花了几个月甚至几年在某个 AI 产品里积累背景信息、把工作和生活的背景都交给它的人,会发现能否访问这些信息,取决于别人的商业决定。
了解他们的那个 AI 没了。或者现在归另一家公司所有。或者继续运行,但新条款允许用他们的数据做训练,而原来的产品并不允许。
他们以为属于自己的记忆,其实一直握在一家公司手里。而公司会被收购、出售、关停。
存在你设备上的记忆
另一种选择,是存在你设备上的记忆。
你的背景信息(你的消息、偏好、工作习惯、AI 为你建立的模型)保存在本地。它通过你的局域网跟着你迁移到新设备。它不需要服务器就能存在。公司被收购,它也不会消失。
你可以查看它,因为它在你的存储里,读取它的软件也是开放的。你可以删除其中的特定内容。你可以导出它。如果换了软件,你还可以用另一个 AI 模型来使用它。
这份记忆属于你,就像你的文档属于你一样。它在你的硬件上,由你掌控,不在第三方手里。
为什么这个问题会变得关键
AI 的持久记忆还比较新。大多数人使用带记忆的 AI 产品的时间还不够长,所以还不觉得所有权问题有多紧迫。
很快就会觉得了。
随着 AI 记忆越来越丰富,开始包含对话历史、你的消息、文件和健康数据,这份记忆的价值会上升。放在别人服务器上的风险也会上升。
围绕 AI 记忆所有权的第一波重大事件,会让这个问题进入大众视野:一次让用户失去访问权限的收购,一次暴露数百万人详细画像的数据泄露,一次让历史记忆可被用于训练的条款变更。
到那时,从一开始就采用端侧记忆的产品将拥有显著优势。不是因为它们更强大,而是因为它们建立在正确的前提上:记忆属于用户。
数据权利的框架
隐私监管用了十年时间确立了一个原则:个人数据属于它所描述的那个人。访问、更正和删除自己数据的权利。数据可携带的权利。数据不在未经同意的情况下被出售的权利。
AI 记忆是一种新的个人数据。它可以说是有史以来最私密的一种,因为它记录了一个关于你如何思考和行事的模型。
同样的原则适用。你的 AI 对你的记忆属于你。你应该能够访问它、带走它、删除它,并确保它不会流向你不希望的地方。
端侧架构是唯一一种不需要监管框架强制、就能兑现这些原则的架构。记忆运行在你的设备上。它本来就属于你。
Off Grid AI 把所有背景信息都存在你的设备上。你的 AI 的记忆属于你。下载 iPhone 版 或 Android 版。