观点隐私与掌控任意设备1 分钟阅读

本页内容
  1. 作为功能的隐私是什么样
  2. 作为架构的隐私是什么样
  3. 为什么政策不是架构
  4. 同意的难题
  5. 这对 AI 该如何构建意味着什么

隐私不是一项功能,而是一个架构决策

“我们非常重视您的隐私。”

几乎每个 AI 产品的隐私政策里都有这句话。而从最严格的技术意义上说,它无关紧要。

作为功能的隐私是什么样

隐私功能,是叠加在一个首先为收集你的数据而设计的系统之上的控制手段。

它们包括:让你拒绝数据被用于训练的开关;从数据库中删除你历史记录的删除请求;要求你在使用产品前接受条款的同意横幅;让你查看存了什么的数据下载按钮。

这些并非毫无意义,它们给了用户一些掌控。但它们都基于同一个前提:在这些控制生效之前,你的数据就已经在服务器上了。

隐私功能模式把收集当作默认,把你的掌控当作例外。数据先流动,权限后到来。

作为架构的隐私是什么样

另一种模式从另一个前提出发:数据根本不应该离开设备。

模型运行在你手机的内存里。你的提问从不会变成网络请求。你的日历和消息从不会被传输。推理在你的硬件上、在你的设备上运行。没有任何东西到达外部服务器。

没有什么需要删除,没有政策可以违反,也没有数据泄露需要通知你。

这不是隐私功能模式的加强版,而是一种根本不同的架构:隐私是结构本身的属性,而不是一个承诺。

为什么政策不是架构

隐私政策是一份法律文件。它说明公司承诺如何处理你的数据。一旦你的数据到了它的服务器上,它并不能改变技术上可以做什么。

架构决定什么是可能的,政策决定承诺了什么。公司可以修改政策:更新服务条款、被收购、回应政府的要求。而一个从一开始就没有收集数据的架构,事后无法被改变。

数据越敏感,这个区别就越重要。一般的搜索查询风险有限。长期的个人上下文(你的消息、健康数据、财务习惯、人际关系历史)风险很大。当涉及的数据如此私人时,架构问题就不再抽象。

同意的难题

个人 AI 尤其难以靠政策实现隐私,因为它的价值本身就要求访问你最敏感的数据。

一个能帮到你的 AI,需要了解你的日历、你的消息、你的工作习惯、你的健康。这正是它有用的原因。它掌握的上下文越多,效果就越好。

云端 AI 要求你交出这些上下文,来换取它的能力。隐含的契约是:把你的数据给我们,我们给你一个有用的助手,并承诺负责任地对待这些数据。

设备端 AI 颠倒了这份契约。上下文留在你的硬件上,模型在本地运行。能力相同,甚至更好,因为模型掌握的上下文比任何云服务会保留的都多。但你从未交出任何东西。

只有存在需要同意的事情时,同意才有意义。设备端 AI 让这个问题不复存在。

这对 AI 该如何构建意味着什么

如果隐私是一个架构决策,它就必须在一开始做出:在选择推理在哪里运行、上下文存在哪里、什么会离开设备的时候。

在云端运行推理、再在上面加隐私控制的产品,是带有隐私功能的云端 AI。

在设备上运行推理、在本地存储上下文、不把你的任何内容发往外部服务器的产品,才是在架构上私密的 AI。没有功能要上线,没有开关要添加,没有政策要撰写。隐私保障就在设计之中。

只有这样的个人 AI,才配得上访问你全部的上下文。不是因为它背后的公司更值得信任,而是因为架构让信任变得无关紧要。数据从未离开你的设备。

Off Grid AI 在本地运行每一个模型。你的聊天和文件从不离开你的设备。下载 iPhone 版 或 Android 版。

有帮助吗?
来自开发者的动态