PerspectiefPrivacy en controleElk apparaat2 min lezen

Op deze pagina
  1. Waarom beleid niet genoeg is
  2. Hoe vertrouwen via architectuur eruitziet
  3. Het pleidooi voor open source
  4. Het recht op je hele context verdienen

De architectuur van vertrouwen: hoe een persoonlijk AI-besturingssysteem het recht op je gegevens verdient

Een systeem dat met persoonlijke gegevens werkt, kan op twee manieren vertrouwen verdienen.

De eerste is beleid: „We beloven je gegevens te beschermen. Hier zijn onze voorwaarden, onze beveiligingscertificaten en onze privacygaranties.”

De tweede is architectuur: „De gegevens hebben je apparaat nooit verlaten. Hier is de broncode. Je kunt het zelf controleren.”

Beleid is woorden. Architectuur is structuur. Bij een systeem met toegang tot je berichten, gezondheidsgegevens, agenda en bestanden maakt dat verschil uit.

Waarom beleid niet genoeg is

Privacyverklaringen zijn juridische documenten. Ze beschrijven wat een bedrijf belooft te doen, en niet te doen, met gegevens waar het toegang toe heeft.

Het probleem is niet dat bedrijven met een privacyverklaring oneerlijk zijn. De meeste menen wat ze schrijven. Het probleem is dat beleid een bedoeling beschrijft, en bedoelingen kunnen veranderen.

Een bedrijf kan worden overgenomen. Nieuwe eigenaren, nieuwe voorwaarden. Het kan eisen krijgen van toezichthouders of overheden die zijn beloftes opzijzetten. Het kan zijn verdienmodel veranderen op manieren die nieuwe prikkels geven om gegevens te gebruiken. Het kan worden gehackt, en dan doet het beleid er niet meer toe, want de gegevens liggen nu bij een ander.

Geen van deze scenario’s vraagt om kwade trouw van het bedrijf dat het oorspronkelijke beleid schreef. Het zijn structurele eigenschappen van gegevens bewaren op een server die jij niet beheert.

Beleid regelt gedrag onder normale omstandigheden. Architectuur bepaalt wat mogelijk is onder alle omstandigheden, ook de omstandigheden waar niemand rekening mee hield.

Hoe vertrouwen via architectuur eruitziet

Een architectuur die vertrouwen verdient voor persoonlijke AI heeft twee eigenschappen.

Rekenen op het apparaat. Het model draait op jouw hardware. Je vragen en je context worden nooit netwerkverkeer. Er is geen server die ze ontvangt, vastlegt of bij een lek prijsgeeft. De garantie „we kunnen niet bij je gegevens, want ze komen nooit bij ons” is door het ontwerp te controleren.

Open broncode. De app is te inspecteren. Iedereen kan de code lezen, nagaan wat die doet en bevestigen dat er geen verborgen datapaden in zitten. Vertrouwen door openheid in plaats van door beweringen. Je hoeft niemand op zijn woord te geloven.

Samen vormen deze twee eigenschappen een architectuur die het recht op je hele context verdient. Niet omdat het bedrijf betrouwbaar is, al zou het dat moeten zijn, maar omdat de architectuur de vertrouwensvraag minder zwaar laat wegen.

Het pleidooi voor open source

Bij persoonlijke AI is open source een mechanisme voor vertrouwen.

Een gesloten persoonlijke AI vraagt je te geloven wat de leverancier over zijn software zegt. Een open persoonlijke AI laat jou, of iemand die je vertrouwt, die beweringen controleren. De waarheid staat in de broncode, niet in de privacyverklaring.

Dat telt vooral aan de randen. Wat gebeurt er als je je gegevens wist? Als je een toegang intrekt? Wat wordt er precies verstuurd als de software naar updates zoekt? Bij een gesloten systeem vertrouw je op het antwoord van het bedrijf. Bij een open systeem lees je de code.

Voor een systeem met toegang tot je berichten en gezondheidsgegevens is „vertrouwen, maar controleren” beter dan „vertrouwen omdat ze het zeiden”. Open source maakt controleren mogelijk.

Het recht op je hele context verdienen

Een persoonlijk AI-besturingssysteem met deze eigenschappen, rekenen op het apparaat en open broncode, is de architectuur die toegang tot je hele context verdient.

Niet omdat betere mensen het bouwen. Maar omdat de architectuur de vraag overbodig maakt. Je hoeft er niet op te vertrouwen dat het bedrijf je gezondheidsgegevens beschermt, want die staan op je apparaat en de code die erbij komt is te inspecteren.

Vertrouwen dat je na elke overname, elke beleidswijziging en elk lek opnieuw moet verdienen, is breekbaar. Vertrouwen dat in de architectuur zit, is van nature duurzaam.

Op die architectuur is Off Grid AI gebouwd.


Download Off Grid AI voor iPhone of Android. Bekijk de broncode op GitHub.

HEB JE HIER IETS AAN?
UPDATES VAN DE MAKER