プライバシーは機能ではありません。アーキテクチャの決定です。
「お客様のプライバシーを大切にしています」
この一文は、ほぼすべてのAI製品のプライバシーポリシーに書かれています。そして厳密に技術的な意味では、何の意味も持ちません。
機能としてのプライバシーとは
プライバシー機能とは、まずデータを集めるために設計されたシステムの上に重ねた管理手段です。
たとえば、学習へのデータ利用を断るスイッチ。データベースから履歴を消す削除リクエスト。製品を使う前に規約への同意を求めるバナー。何が保存されたかを確認できるデータのダウンロードボタン。
これらに意味がないわけではありません。利用者にいくらかの主導権を与えます。けれど、どれも同じ前提に立っています。こうした管理が働く前に、あなたのデータはすでにサーバーにあった、という前提です。
機能としてのプライバシーは、収集を標準とし、あなたによる管理を例外として扱います。まずデータが動き、許可は後からついてきます。
アーキテクチャとしてのプライバシーとは
別のモデルは、別の前提から始まります。データはデバイスの外に出るべきではない、という前提です。
モデルはスマートフォンのメモリの中で動きます。あなたの質問がネットワークのリクエストになることはありません。カレンダーもメッセージも送信されません。推論はあなたのハードウェア、あなたのデバイスで行われます。外部のサーバーに届くものは何もありません。
削除するものはありません。違反されるポリシーもありません。知らされるべき漏えいもありません。
これは、機能としてのプライバシーを強化したものではありません。プライバシーが約束ではなく構造の性質になっている、根本的に異なるアーキテクチャです。
ポリシーはアーキテクチャではない
プライバシーポリシーは法的な文書です。企業があなたのデータをどう扱うと約束するかを書いたものです。データがその企業のサーバーに渡った後で、技術的に何ができるかは変わりません。
何が可能かを決めるのはアーキテクチャです。何を約束するかを決めるのがポリシーです。企業はポリシーを変えられます。利用規約の更新、買収、政府からの要請への対応によってです。そもそもデータを集めなかったアーキテクチャは、後から変えることができません。
この違いは、データが繊細になるほど重みを増します。一般的な検索なら、リスクは限られています。メッセージ、健康データ、お金の使い方、人間関係の履歴といった、ずっと残る個人的なコンテキストには大きなリスクがあります。データがここまで個人的なものになると、アーキテクチャの問題は抽象論ではなくなります。
同意の問題
パーソナルAIをポリシーでプライベートにするのは、とりわけ難しいことです。その価値が、あなたの最も繊細なデータへのアクセスを必要とするからです。
あなたを助けられるAIは、カレンダーも、メッセージも、仕事の進め方も、健康状態も知っている必要があります。それこそが役に立つ理由です。コンテキストが多いほど、よく働きます。
クラウドのAIは、その能力と引き換えにコンテキストを渡すよう求めます。暗黙の契約はこうです。データを渡してくれれば、役に立つアシスタントを提供し、責任を持って扱うと約束します。
デバイス上のAIは、この契約をひっくり返します。コンテキストはあなたのハードウェアにあり、モデルはローカルで動きます。能力は同じか、それ以上です。どのクラウドサービスが保持するよりも多くのコンテキストをモデルが持てるからです。それでいて、あなたは何も手渡していません。
同意が意味を持つのは、同意する対象があるときだけです。デバイス上のAIは、その問い自体をなくします。
AIのつくり方にとっての意味
プライバシーがアーキテクチャの決定なら、それは最初に下す必要があります。推論をどこで動かすか、コンテキストをどこに保存するか、何をデバイスの外に出すかを選ぶ段階でです。
推論をクラウドで動かし、その上にプライバシー管理を加えた製品は、プライバシー機能付きのクラウドAIです。
推論をデバイス上で動かし、コンテキストをローカルに保存し、あなたのコンテンツを外部サーバーに一切送らない製品は、アーキテクチャによってプライベートなAIです。出荷すべき機能も、追加すべきスイッチも、書くべきポリシーもありません。プライバシーの保証は設計の中にあります。
あなたのコンテキストのすべてにアクセスするに値するパーソナルAIは、この形だけです。作っている企業がより信頼できるからではありません。アーキテクチャによって、信頼が問題にならなくなるからです。データは一度もデバイスの外に出ていません。
Off Grid AIはすべてのモデルをローカルで動かします。チャットもファイルもデバイスの外に出ません。iPhone版をダウンロード、またはAndroid版。