ВзглядПриватность и контрольЛюбое устройство2 мин чтения

На этой странице
  1. Почему правил недостаточно
  2. Как выглядит доверие на уровне архитектуры
  3. Довод в пользу открытого кода
  4. Заслужить право на весь контекст

Архитектура доверия: как персональная ИИ-система заслуживает права на ваши данные

Система, которая работает с личными данными, может заслужить доверие двумя способами.

Первый способ это правила: «Мы обещаем защищать ваши данные. Вот наши условия использования, сертификаты безопасности и гарантии конфиденциальности».

Второй способ это архитектура: «Данные никогда не покидали ваше устройство. Вот исходный код. Проверьте сами».

Правила это слова. Архитектура это устройство. Для системы с доступом к вашим сообщениям, медицинским данным, календарю и файлам эта разница важна.

Почему правил недостаточно

Политики конфиденциальности это юридические документы. Они описывают, что компания обязуется делать и чего не делать с данными, к которым у неё есть доступ.

Проблема не в том, что компании, которые пишут политики конфиденциальности, нечестны. Большинство из них искренне. Проблема в том, что правила описывают намерение, а намерения меняются.

Компанию могут купить. Новые владельцы, новые условия. Она может получить требования от регуляторов или государства, которые перевесят её обязательства. Она может сменить бизнес-модель так, что появятся новые причины использовать данные. Её могут взломать, и тогда правила теряют смысл, потому что данные уже у кого-то другого.

Ни один из этих сценариев не требует злого умысла со стороны компании, написавшей исходные правила. Это неотъемлемые свойства хранения данных на сервере, который вы не контролируете.

Правила управляют поведением в обычных условиях. Архитектура определяет, что возможно в любых условиях, включая те, которые никто не предусмотрел.

Как выглядит доверие на уровне архитектуры

У архитектуры, которая заслуживает доверия в персональном ИИ, два свойства.

Вычисления на устройстве. Модель работает на вашем железе. Ваши запросы и контекст никогда не превращаются в сетевой трафик. Нет сервера, который их получает, записывает или теряет при взломе. Гарантию «у нас нет доступа к вашим данным, потому что они к нам не попадают» можно проверить по самому устройству системы.

Открытый исходный код. Приложение можно изучить. Любой может прочитать код, проверить, что он делает, и убедиться, что в нём нет скрытых путей для данных. Доверие через прозрачность, а не через заявления. Никому не нужно верить на слово.

Вместе эти два свойства дают архитектуру, которая заслуживает права на весь ваш контекст. Не потому, что компании можно доверять, хотя так и должно быть, а потому, что архитектура снимает с доверия большую часть нагрузки.

Довод в пользу открытого кода

В персональном ИИ открытый код это механизм доверия.

Закрытый персональный ИИ просит верить тому, что поставщик говорит о своей программе. Открытый персональный ИИ позволяет вам или человеку, которому вы доверяете, эти слова проверить. Истина в исходном коде, а не в политике конфиденциальности.

Особенно это важно в пограничных случаях. Что происходит, когда вы удаляете данные? Когда отзываете доступ? Что именно отправляется, когда программа проверяет обновления? В закрытой системе вы полагаетесь на ответ компании. В открытой читаете код.

Для системы с доступом к вашим сообщениям и медицинским данным принцип «доверяй, но проверяй» лучше, чем «доверяй, потому что так сказали». Открытый код делает проверку возможной.

Заслужить право на весь контекст

Персональная ИИ-система с этими свойствами, вычислениями на устройстве и открытым кодом, это архитектура, которая заслуживает доступа ко всему вашему контексту.

Не потому, что её делают люди лучше других. А потому, что архитектура снимает сам вопрос. Вам не нужно верить, что компания защитит ваши медицинские данные, ведь они хранятся на вашем устройстве, а код, который к ним обращается, открыт для проверки.

Доверие, которое приходится заслуживать заново после каждой покупки компании, каждой смены правил и каждой утечки, хрупкое. Доверие, встроенное в архитектуру, прочное по самой своей природе.

Именно на такой архитектуре построен Off Grid AI.


Скачайте Off Grid AI для iPhone или Android. Исходный код на GitHub.

БЫЛО ПОЛЕЗНО?
НОВОСТИ ОТ СОЗДАТЕЛЯ