AIの記憶は誰のものか? 誰も問わない問い
記憶を持ち続けるAI製品が当たり前になりつつあります。先月話したことをシステムが覚えています。あなたの好み、習慣、これまでの経緯を知っています。その知識を使って、より良い答えを返します。
これは便利です。あなたを知っているAIは、毎回ゼロから始めるAIよりうまく働きます。
けれども、当然の問いを誰も口にしません。その記憶は誰のものなのでしょうか。
AIにとって記憶とは何か
AIの持続する記憶は、単なるデータの保管場所ではありません。あなたという人の、動いているモデルです。
時間とともに、持続する記憶を持つシステムは学んでいきます。あなたがどう話すか、何を大切にしているか、仕事の中身は何か、人間関係はどうか、どんな判断をなぜ下したか、何を心配しているか、何を面白いと思うか、何を避けているか。誰にも話していないことまで学びます。あなたが明かしたことではなく、データから浮かび上がる行動のパターンです。
それが持続するAIの約束です。使えば使うほど役に立つ。あなたをよく知るようになるからです。
だからこそ、所有の問題は重いのです。これほど豊かで詳細な記憶は、ソフトウェアの中にかつて存在した最も完全な人間のモデルです。
所有の問題
その記憶が企業のサーバーにあるとき、誰のものかははっきりしません。
データはあなたから生まれました。パターンはあなたの行動から導かれました。けれども保存場所も、インフラも、作られたあなたのモデルも、すべて企業が所有し管理するインフラの上にあります。
別のシステムで使える形で簡単に書き出すことはできません。何が保存されているかを確かめることもできません。削除を求めることはできても、本当に削除されたかは確かめられません。企業が買収されれば、記憶は取り決められた条件のもとで買収先に移ります。
あなたのものであるはずの記憶、あなたの最も個人的なデータから作られた記憶が、企業が売り買いできる資産になっているのです。
サービスが変わると何が起きるか
この問題が最も具体的に現れるのは、サービスが規約を変えたとき、買収されたとき、終了したときです。
何か月も何年もかけてAI製品と文脈を積み上げ、仕事と私生活の文脈を預けてきた人たちは、その文脈へのアクセスが他人のビジネス上の判断に左右されることに気づきます。
自分を知っていたAIは消えてしまう。あるいは別の会社のものになる。あるいは、元の製品では認められていなかった形で自分のデータを学習に使うことを認める規約のもとで動き続ける。
自分のものだと思っていた記憶は、実は企業が持っていたのです。そして企業は買われ、売られ、閉じられます。
あなたのデバイスにある記憶
代わりの選択肢は、あなたのデバイスの上にある記憶です。
あなたの文脈(メッセージ、好み、仕事の習慣、AIが作ったあなたのモデル)はローカルに保存されます。ローカルネットワークを通じて、新しいデバイスにもあなたと一緒に移ります。存在するのにサーバーは必要ありません。企業が買収されても消えません。
中身を確かめることができます。あなたのストレージにあり、それを扱うソフトウェアがオープンだからです。特定の項目を削除できます。書き出すこともできます。ソフトウェアを乗り換えたら、別のAIモデルで使うこともできます。
記憶は、あなたの文書があなたのものであるのと同じように、あなたのものです。あなたのハードウェアにあり、あなたの管理下にあり、第三者の手にはありません。
なぜこの問いが中心になっていくのか
AIの持続する記憶は、まだ比較的新しいものです。ほとんどの人は、所有の問題を切実に感じるほど長く、記憶を持つAI製品を使っていません。
いずれ切実になります。
AIの記憶が豊かになり、会話の履歴、メッセージ、ファイル、健康データまで含むようになるほど、その記憶の価値は上がります。他人のサーバーに置いておくリスクも同じように上がります。
AIの記憶の所有をめぐって注目を集める出来事が最初に相次いだとき、この問いは一般の人々の目にも見えるようになるでしょう。ユーザーがアクセスを失う買収、何百万人もの詳細なプロファイルが漏れる侵害、過去の記憶が学習に使えるようになる規約変更などです。
そうなったとき、最初からオンデバイスの記憶で作られた製品は大きな優位に立ちます。性能が高かったからではなく、正しい前提の上に作られていたからです。記憶はユーザーのものだという前提です。
データの権利という枠組み
プライバシー規制は10年かけて、個人データはその本人のものだという原則を確立してきました。データにアクセスし、訂正し、削除する権利。持ち運ぶ権利。同意なくデータを売られない権利。
AIの記憶は、新しい形の個人データです。あなたがどう考え、どう行動するかのモデルを記録しているという意味で、おそらくこれまでで最も個人的なデータです。
同じ原則が当てはまります。AIが覚えているあなたのことは、あなたのものです。アクセスでき、持ち出せ、消せて、望まない場所に流れないと確かめられるべきです。
オンデバイスのアーキテクチャは、規制の枠組みに強制されなくてもこれらの原則を満たす唯一のアーキテクチャです。記憶はあなたのデバイスで動いています。すでにあなたのものなのです。
Off Grid AIは、すべての文脈をあなたのデバイスに保存します。AIの記憶はあなたのものです。iPhone版をダウンロード、またはAndroid版。