BakışGizlilik ve kontrolHerhangi bir cihaz2 dk okuma

Bu sayfada
  1. Politika neden yetmez
  2. Mimari güven neye benzer
  3. Açık kaynak savunusu
  4. Tüm bağlama erişme hakkını kazanmak

Güvenin mimarisi: Kişisel bir yapay zekâ işletim sistemi verilerine erişme hakkını nasıl kazanır

Kişisel verilerle çalışan bir sistem güveni iki yoldan kazanabilir.

Birincisi politikadır: “Verilerini korumaya söz veriyoruz. İşte hizmet şartlarımız, güvenlik sertifikalarımız ve gizlilik güvencelerimiz.”

İkincisi mimaridir: “Veriler cihazından hiç çıkmadı. İşte kaynak kod. Kendin doğrulayabilirsin.”

Politika sözdür. Mimari yapıdır. Mesajlarına, sağlık verilerine, takvimine ve dosyalarına erişen bir sistemde bu fark önemlidir.

Politika neden yetmez

Gizlilik politikaları hukuki belgelerdir. Bir şirketin erişebildiği verilerle ne yapmayı, ne yapmamayı taahhüt ettiğini anlatır.

Sorun, gizlilik politikası yazan şirketlerin dürüst olmaması değil. Çoğu yazdığında samimidir. Sorun, politikanın bir niyeti anlatması ve niyetlerin değişebilmesidir.

Bir şirket satın alınabilir. Yeni sahipler, yeni şartlar. Taahhütlerini geçersiz kılan düzenleyici ya da devlet talepleriyle karşılaşabilir. İş modelini, verileri kullanmak için yeni teşvikler doğuracak şekilde değiştirebilir. Bir veri ihlali yaşayabilir; o zaman politika anlamını yitirir, çünkü veriler artık başkasının elindedir.

Bu senaryoların hiçbiri, ilk politikayı yazan şirketin kötü niyetli olmasını gerektirmez. Bunlar, verileri senin kontrol etmediğin bir sunucuda tutmanın yapısal özellikleridir.

Politikalar normal koşullardaki davranışı yönetir. Mimari ise kimsenin öngörmediği koşullar dahil, her koşulda neyin mümkün olduğunu belirler.

Mimari güven neye benzer

Kişisel yapay zekâda güveni hak eden bir mimarinin iki özelliği vardır.

Cihazda çalışan model. Model senin donanımında çalışır. Soruların ve bağlamın hiçbir zaman ağ trafiğine dönüşmez. Onları alan, kaydeden ya da bir ihlalde sızdıran bir sunucu yoktur. “Verilerine erişemeyiz, çünkü bize hiç gelmiyor” güvencesi tasarım gereği doğrulanabilir.

Açık kaynak kod. Uygulama incelenebilir. Herkes kodu okuyabilir, ne yaptığını doğrulayabilir ve gizli veri yolları içermediğini teyit edebilir. İddia yoluyla değil, şeffaflık yoluyla güven. Kimsenin sözüne güvenmek zorunda değilsin.

Bu iki özellik birlikte, tüm bağlamına erişme hakkını kazanan bir mimari oluşturur. Şirket güvenilir olduğu için değil, ki öyle olmalıdır, mimari güven sorusunun yükünü hafiflettiği için.

Açık kaynak savunusu

Kişisel yapay zekâda açık kaynak bir güven mekanizmasıdır.

Kapalı bir kişisel yapay zekâ, sağlayıcının yazılımı hakkında söylediklerine inanmanı ister. Açık bir kişisel yapay zekâ ise bu iddiaları senin ya da güvendiğin birinin doğrulamasına izin verir. Gerçek, gizlilik politikasında değil kaynak kodda yazılıdır.

Bu en çok uç durumlarda önemlidir. Verilerini sildiğinde ne olur? Bir erişimi geri aldığında ne olur? Yazılım güncelleme ararken tam olarak ne gönderilir? Kapalı bir sistemde şirketin cevabına güvenirsin. Açık bir sistemde kodu okursun.

Mesajlarına ve sağlık verilerine erişen bir sistem için “güven ama doğrula”, “söyledikleri için güven”den iyidir. Doğrulamayı mümkün kılan açık kaynaktır.

Tüm bağlama erişme hakkını kazanmak

Bu özelliklere, yani cihazda çalışan modele ve açık kaynak koda sahip kişisel bir yapay zekâ işletim sistemi, tüm bağlamına erişmeyi hak eden mimaridir.

Daha iyi insanlar yaptığı için değil. Mimari bu soruyu gereksiz kıldığı için. Şirketin sağlık verilerini koruyacağına güvenmek zorunda değilsin, çünkü sağlık verilerin cihazında duruyor ve onlara erişen kod incelenebilir.

Her satın almada, her politika değişikliğinde ve her ihlalde yeniden kazanılması gereken güven kırılgandır. Mimariye yerleşmiş güven ise yapısı gereği kalıcıdır.

Off Grid AI bu mimari üzerine kurulu.


Off Grid AI’ı iPhone ya da Android için indir. Kaynak kodu GitHub’da gör.

İŞİNE YARADI MI?
GELİŞTİRİCİDEN HABERLER