Na tej stronie
Architektura zaufania: jak osobisty system operacyjny AI zasługuje na dostęp do twoich danych
System, który przetwarza dane osobowe, może zdobyć zaufanie na dwa sposoby.
Pierwszy to zasady: „Obiecujemy chronić twoje dane. Oto nasz regulamin, nasze certyfikaty bezpieczeństwa i nasze gwarancje prywatności”.
Drugi to architektura: „Dane nigdy nie opuściły twojego urządzenia. Oto kod źródłowy. Możesz to sprawdzić sam”.
Zasady to słowa. Architektura to konstrukcja. W systemie, który ma dostęp do twoich wiadomości, danych o zdrowiu, kalendarza i plików, ta różnica ma znaczenie.
Dlaczego zasady nie wystarczą
Polityki prywatności to dokumenty prawne. Opisują, co firma zobowiązuje się robić, a czego nie robić, z danymi, do których ma dostęp.
Problem nie polega na tym, że firmy piszące polityki prywatności są nieuczciwe. Większość myśli to, co pisze. Problem polega na tym, że zasady opisują intencję, a intencje się zmieniają.
Firmę można przejąć. Nowi właściciele, nowe warunki. Może dostać żądania od regulatorów lub rządu, które unieważniają jej zobowiązania. Może zmienić model biznesowy tak, że pojawią się nowe powody, by korzystać z danych. Może paść ofiarą wycieku, a wtedy zasady tracą sens, bo dane są już w cudzych rękach.
Żaden z tych scenariuszy nie wymaga złej woli firmy, która napisała pierwotne zasady. To po prostu cechy przechowywania danych na serwerze, nad którym nie masz kontroli.
Zasady regulują zachowanie w normalnych warunkach. Architektura określa, co jest możliwe w każdych warunkach, także w tych, których nikt nie przewidział.
Jak wygląda zaufanie oparte na architekturze
Architektura, która zasługuje na zaufanie w osobistej AI, ma dwie cechy.
Obliczenia na urządzeniu. Model działa na twoim sprzęcie. Twoje pytania i kontekst nigdy nie stają się ruchem sieciowym. Nie ma serwera, który je odbiera, zapisuje albo traci przy wycieku. Gwarancję „nie mamy dostępu do twoich danych, bo nigdy do nas nie trafiają” da się sprawdzić z samej konstrukcji.
Otwarty kod źródłowy. Aplikację można przejrzeć. Każdy może przeczytać kod, sprawdzić, co robi, i potwierdzić, że nie ma w nim ukrytych ścieżek dla danych. Zaufanie dzięki przejrzystości, a nie dzięki zapewnieniom. Nie musisz nikomu wierzyć na słowo.
Razem te dwie cechy tworzą architekturę, która zasługuje na dostęp do całego twojego kontekstu. Nie dlatego, że firma jest godna zaufania, choć powinna być, ale dlatego, że architektura sprawia, że od zaufania zależy mniej.
Argument za otwartym kodem
W osobistej AI otwarty kod jest mechanizmem zaufania.
Zamknięta osobista AI prosi, żebyś uwierzył w to, co dostawca mówi o swoim oprogramowaniu. Otwarta osobista AI pozwala tobie albo komuś, komu ufasz, sprawdzić te twierdzenia. Prawda jest w kodzie źródłowym, nie w polityce prywatności.
Najbardziej liczy się to na obrzeżach. Co się dzieje, gdy usuwasz dane? Gdy cofasz dostęp? Co dokładnie jest wysyłane, gdy program sprawdza aktualizacje? W zamkniętym systemie polegasz na odpowiedzi firmy. W otwartym czytasz kod.
W systemie z dostępem do twoich wiadomości i danych o zdrowiu zasada „ufaj, ale sprawdzaj” jest lepsza niż „ufaj, bo tak powiedzieli”. Otwarty kod sprawia, że sprawdzanie jest w ogóle możliwe.
Zasłużyć na pełny kontekst
Osobisty system operacyjny AI, który ma te cechy, czyli obliczenia na urządzeniu i otwarty kod, to architektura zasługująca na dostęp do całego twojego kontekstu.
Nie dlatego, że budują go lepsi ludzie. Dlatego, że architektura usuwa potrzebę zadawania tego pytania. Nie musisz ufać, że firma ochroni twoje dane o zdrowiu, bo te dane są na twoim urządzeniu, a kod, który z nich korzysta, można przejrzeć.
Zaufanie, które trzeba zdobywać od nowa po każdym przejęciu, każdej zmianie zasad i każdym wycieku, jest kruche. Zaufanie wbudowane w architekturę jest trwałe z założenia.
Na takiej architekturze zbudowano Off Grid AI.
Pobierz Off Grid AI na iPhone’a lub Androida. Zobacz kod źródłowy na GitHubie.