PerspektifPrivasi dan kendaliPerangkat apa pun2 menit baca

Di halaman ini
  1. Kenapa kebijakan saja tidak cukup
  2. Seperti apa kepercayaan lewat arsitektur
  3. Alasan memilih open source
  4. Layak mengakses seluruh konteks

Arsitektur kepercayaan: bagaimana OS AI pribadi layak mendapat akses ke datamu

Sistem yang mengelola data pribadi bisa mendapatkan kepercayaan lewat dua cara.

Cara pertama adalah kebijakan: “Kami berjanji melindungi datamu. Ini syarat layanan, sertifikasi keamanan, dan jaminan privasi kami.”

Cara kedua adalah arsitektur: “Datanya tidak pernah keluar dari perangkatmu. Ini kode sumbernya. Kamu bisa memeriksanya sendiri.”

Kebijakan itu kata-kata. Arsitektur itu struktur. Untuk sistem yang bisa mengakses pesan, data kesehatan, kalender, dan file kamu, perbedaan ini penting.

Kenapa kebijakan saja tidak cukup

Kebijakan privasi adalah dokumen hukum. Isinya menjelaskan apa yang dijanjikan sebuah perusahaan untuk dilakukan, dan tidak dilakukan, terhadap data yang bisa diaksesnya.

Masalahnya bukan karena perusahaan yang menulis kebijakan privasi itu tidak jujur. Kebanyakan bersungguh-sungguh. Masalahnya, kebijakan menggambarkan niat, dan niat bisa berubah.

Perusahaan bisa diakuisisi. Pemilik baru, syarat baru. Perusahaan bisa menerima tuntutan dari regulator atau pemerintah yang mengesampingkan komitmennya. Perusahaan bisa mengubah model bisnis dengan cara yang menciptakan dorongan baru untuk memakai data. Perusahaan bisa dibobol, dan kebijakannya jadi tidak berarti karena datanya sekarang di tangan orang lain.

Tidak satu pun skenario ini memerlukan niat buruk dari perusahaan yang menulis kebijakan awal. Ini sifat bawaan dari menyimpan data di server yang tidak kamu kendalikan.

Kebijakan mengatur perilaku dalam kondisi normal. Arsitektur menentukan apa yang mungkin terjadi dalam kondisi apa pun, termasuk kondisi yang tidak pernah direncanakan siapa pun.

Seperti apa kepercayaan lewat arsitektur

Arsitektur yang layak dipercaya untuk AI pribadi punya dua sifat.

Pemrosesan di perangkat. Model berjalan di perangkat kerasmu. Pertanyaan dan konteksmu tidak pernah menjadi lalu lintas jaringan. Tidak ada server yang menerimanya, mencatatnya, atau membocorkannya saat dibobol. Jaminan “kami tidak bisa mengakses datamu karena data itu tidak pernah sampai ke kami” bisa diperiksa dari rancangannya.

Kode sumber terbuka. Aplikasinya bisa diperiksa. Siapa pun bisa membaca kodenya, memastikan apa yang dilakukannya, dan memastikan tidak ada jalur data tersembunyi. Kepercayaan lewat keterbukaan, bukan lewat klaim. Kamu tidak perlu percaya begitu saja pada siapa pun.

Bersama-sama, dua sifat ini membentuk arsitektur yang layak mendapat akses ke seluruh konteksmu. Bukan karena perusahaannya bisa dipercaya, meski memang seharusnya begitu, tapi karena arsitekturnya membuat soal kepercayaan tidak lagi jadi tumpuan utama.

Alasan memilih open source

Untuk AI pribadi, open source adalah mekanisme kepercayaan.

AI pribadi yang tertutup memintamu memercayai klaim vendor tentang apa yang dilakukan perangkat lunaknya. AI pribadi yang terbuka memungkinkan kamu, atau orang yang kamu percaya, memeriksa klaim itu. Kebenarannya ada di kode sumber, bukan di kebijakan privasi.

Ini paling terasa di kasus-kasus tepi. Apa yang terjadi saat kamu menghapus datamu? Saat kamu mencabut akses? Apa persisnya yang dikirim saat perangkat lunak memeriksa pembaruan? Di sistem tertutup, kamu bergantung pada jawaban perusahaan. Di sistem terbuka, kamu membaca kodenya.

Untuk sistem yang bisa mengakses pesan dan data kesehatanmu, “percaya tapi periksa” lebih baik daripada “percaya karena mereka bilang begitu”. Open source yang membuat pemeriksaan itu mungkin.

Layak mengakses seluruh konteks

OS AI pribadi yang punya sifat-sifat ini, pemrosesan di perangkat dan kode terbuka, adalah arsitektur yang layak mengakses seluruh konteksmu.

Bukan karena dibuat oleh orang-orang yang lebih baik. Tapi karena arsitekturnya menghapus kebutuhan akan pertanyaan itu. Kamu tidak perlu percaya bahwa perusahaan akan melindungi data kesehatanmu, karena data itu ada di perangkatmu dan kode yang mengaksesnya bisa diperiksa.

Kepercayaan yang harus diraih ulang setiap kali ada akuisisi, perubahan kebijakan, atau kebocoran itu rapuh. Kepercayaan yang dibangun di dalam arsitektur tahan lama sejak awal.

Itulah arsitektur yang menjadi dasar Off Grid AI.


Unduh Off Grid AI untuk iPhone atau Android. Lihat kode sumbernya di GitHub.

MEMBANTU?
KABAR DARI PEMBUAT