PerspektifPrivasi dan kendaliPerangkat apa pun3 menit baca

Di halaman ini
  1. Apa arti memori bagi AI
  2. Soal kepemilikan
  3. Apa yang terjadi saat layanan berubah
  4. Memori di perangkatmu
  5. Mengapa pertanyaan ini akan jadi inti
  6. Kerangka hak atas data

Siapa pemilik memori AI-mu? Pertanyaan yang tidak ditanyakan siapa pun.

Produk AI dengan memori yang menetap makin umum. Sistemnya ingat apa yang kamu ceritakan bulan lalu. Ia tahu preferensimu, polamu, riwayatmu. Ia memakai pengetahuan itu untuk memberi jawaban yang lebih baik.

Ini berguna. AI yang mengenalmu bekerja lebih baik daripada AI yang mulai dari nol setiap sesi.

Tapi tidak ada yang menanyakan pertanyaan yang jelas: siapa pemilik memori itu?


Apa arti memori bagi AI

Memori AI yang menetap bukan sekadar tempat menyimpan data. Ia adalah model dirimu yang bekerja.

Seiring waktu, sistem dengan memori menetap belajar bagaimana kamu berkomunikasi, apa yang kamu pedulikan, apa isi pekerjaanmu, seperti apa hubunganmu dengan orang lain, keputusan apa yang kamu ambil dan alasannya, apa yang kamu khawatirkan, apa yang menurutmu lucu, apa yang kamu hindari. Ia mempelajari hal-hal tentangmu yang belum pernah kamu ceritakan ke siapa pun: pola perilaku yang muncul dari data, bukan dari apa yang kamu ungkapkan secara terang-terangan.

Itulah janji AI yang menetap: makin lama kamu pakai, makin berguna, karena ia makin mengenalmu.

Itu juga yang membuat soal kepemilikan jadi penting. Memori sekaya dan serinci ini adalah model manusia paling lengkap yang pernah ada dalam perangkat lunak.


Soal kepemilikan

Saat memori itu tersimpan di server sebuah perusahaan, tidak jelas siapa pemiliknya.

Datanya berasal darimu. Polanya diambil dari perilakumu. Tapi penyimpanan, infrastruktur, dan model dirimu yang dibangun semuanya ada di infrastruktur yang dimiliki dan dikendalikan perusahaan.

Kamu tidak bisa dengan mudah mengekspornya dalam format yang bisa dipakai sistem lain. Kamu tidak bisa memeriksa apa yang tersimpan. Kamu bisa meminta penghapusan, tapi tidak bisa memastikan benar-benar dihapus. Kalau perusahaannya diakuisisi, memori itu pindah ke pembeli dengan syarat apa pun yang disepakati.

Memori yang seharusnya milikmu, dibangun dari datamu yang paling pribadi, adalah aset yang bisa dibeli dan dijual korporasi.


Apa yang terjadi saat layanan berubah

Wujud paling nyata dari masalah ini muncul saat sebuah layanan mengubah syarat, diakuisisi, atau tutup.

Orang yang sudah berbulan-bulan atau bertahun-tahun membangun konteks dengan sebuah produk AI, yang menyerahkan konteks kehidupan kerja dan pribadinya, mendapati bahwa akses ke konteks itu bergantung pada keputusan bisnis orang lain.

AI yang mengenal mereka hilang. Atau sekarang dimiliki perusahaan lain. Atau tetap berjalan dengan syarat yang mengizinkan data mereka dipakai untuk pelatihan dengan cara yang dulu tidak diizinkan produk aslinya.

Memori yang mereka kira milik mereka ternyata dipegang sebuah perusahaan. Dan perusahaan bisa dibeli, dijual, dan ditutup.


Memori di perangkatmu

Alternatifnya adalah memori yang hidup di perangkatmu.

Konteksmu (pesanmu, preferensimu, pola kerjamu, model dirimu yang dibangun AI) disimpan secara lokal. Ia ikut pindah bersamamu ke perangkat baru lewat jaringan lokalmu. Ia tidak butuh server untuk ada. Ia tidak hilang kalau sebuah perusahaan diakuisisi.

Kamu bisa memeriksanya, karena ia ada di penyimpananmu dan perangkat lunak yang mengaksesnya terbuka. Kamu bisa menghapus hal tertentu darinya. Kamu bisa mengekspornya. Kamu bisa memakainya dengan model AI lain kalau kamu ganti perangkat lunak.

Memori itu milikmu, sama seperti dokumenmu milikmu. Ia ada di perangkat kerasmu, di bawah kendalimu, bukan dipegang pihak ketiga.


Mengapa pertanyaan ini akan jadi inti

Memori AI yang menetap masih relatif baru. Kebanyakan orang belum cukup lama memakai produk AI bermemori sehingga soal kepemilikan belum terasa mendesak.

Nanti akan terasa.

Seiring memori AI makin kaya, seiring ia mulai mencakup riwayat percakapan, pesan, file, dan data kesehatanmu, nilai memori itu naik. Begitu pula risiko menyimpannya di server orang lain.

Gelombang pertama insiden besar seputar kepemilikan memori AI akan membuat pertanyaan ini terlihat oleh publik luas: akuisisi yang membuat pengguna kehilangan akses, kebocoran yang membuka profil rinci jutaan orang, perubahan syarat yang membuat memori lama tersedia untuk pelatihan.

Saat itu terjadi, produk yang sejak awal dibangun dengan memori di perangkat akan punya keunggulan besar. Bukan karena lebih canggih, tapi karena dibangun di atas asumsi yang benar: memori adalah milik pengguna.


Kerangka hak atas data

Regulasi privasi sudah satu dekade menegakkan prinsip bahwa data pribadi adalah milik orang yang dibicarakannya. Hak untuk mengakses, memperbaiki, dan menghapus datamu. Hak portabilitas. Hak agar datamu tidak dijual tanpa persetujuanmu.

Memori AI adalah bentuk baru data pribadi. Bisa dibilang yang paling pribadi yang pernah ada, karena ia menyimpan model cara kamu berpikir dan berperilaku.

Prinsip yang sama berlaku. Apa yang diingat AI tentangmu adalah milikmu. Kamu seharusnya bisa mengaksesnya, memindahkannya, menghapusnya, dan memastikan ia tidak berakhir di tempat yang tidak kamu inginkan.

Arsitektur di perangkat adalah satu-satunya arsitektur yang memenuhi prinsip ini tanpa perlu kerangka regulasi untuk memaksakannya. Memorinya berjalan di perangkatmu. Ia sudah milikmu.


Off Grid AI menyimpan semua konteks di perangkatmu. Memori AI-mu adalah milikmu. Unduh untuk iPhone atau Android.

MEMBANTU?
KABAR DARI PEMBUAT