На этой странице
Архитектура доверия: как персональная ИИ-система заслуживает права на ваши данные
Система, которая работает с личными данными, может заслужить доверие двумя способами.
Первый способ это правила: «Мы обещаем защищать ваши данные. Вот наши условия использования, сертификаты безопасности и гарантии конфиденциальности».
Второй способ это архитектура: «Данные никогда не покидали ваше устройство. Вот исходный код. Проверьте сами».
Правила это слова. Архитектура это устройство. Для системы с доступом к вашим сообщениям, медицинским данным, календарю и файлам эта разница важна.
Почему правил недостаточно
Политики конфиденциальности это юридические документы. Они описывают, что компания обязуется делать и чего не делать с данными, к которым у неё есть доступ.
Проблема не в том, что компании, которые пишут политики конфиденциальности, нечестны. Большинство из них искренне. Проблема в том, что правила описывают намерение, а намерения меняются.
Компанию могут купить. Новые владельцы, новые условия. Она может получить требования от регуляторов или государства, которые перевесят её обязательства. Она может сменить бизнес-модель так, что появятся новые причины использовать данные. Её могут взломать, и тогда правила теряют смысл, потому что данные уже у кого-то другого.
Ни один из этих сценариев не требует злого умысла со стороны компании, написавшей исходные правила. Это неотъемлемые свойства хранения данных на сервере, который вы не контролируете.
Правила управляют поведением в обычных условиях. Архитектура определяет, что возможно в любых условиях, включая те, которые никто не предусмотрел.
Как выглядит доверие на уровне архитектуры
У архитектуры, которая заслуживает доверия в персональном ИИ, два свойства.
Вычисления на устройстве. Модель работает на вашем железе. Ваши запросы и контекст никогда не превращаются в сетевой трафик. Нет сервера, который их получает, записывает или теряет при взломе. Гарантию «у нас нет доступа к вашим данным, потому что они к нам не попадают» можно проверить по самому устройству системы.
Открытый исходный код. Приложение можно изучить. Любой может прочитать код, проверить, что он делает, и убедиться, что в нём нет скрытых путей для данных. Доверие через прозрачность, а не через заявления. Никому не нужно верить на слово.
Вместе эти два свойства дают архитектуру, которая заслуживает права на весь ваш контекст. Не потому, что компании можно доверять, хотя так и должно быть, а потому, что архитектура снимает с доверия большую часть нагрузки.
Довод в пользу открытого кода
В персональном ИИ открытый код это механизм доверия.
Закрытый персональный ИИ просит верить тому, что поставщик говорит о своей программе. Открытый персональный ИИ позволяет вам или человеку, которому вы доверяете, эти слова проверить. Истина в исходном коде, а не в политике конфиденциальности.
Особенно это важно в пограничных случаях. Что происходит, когда вы удаляете данные? Когда отзываете доступ? Что именно отправляется, когда программа проверяет обновления? В закрытой системе вы полагаетесь на ответ компании. В открытой читаете код.
Для системы с доступом к вашим сообщениям и медицинским данным принцип «доверяй, но проверяй» лучше, чем «доверяй, потому что так сказали». Открытый код делает проверку возможной.
Заслужить право на весь контекст
Персональная ИИ-система с этими свойствами, вычислениями на устройстве и открытым кодом, это архитектура, которая заслуживает доступа ко всему вашему контексту.
Не потому, что её делают люди лучше других. А потому, что архитектура снимает сам вопрос. Вам не нужно верить, что компания защитит ваши медицинские данные, ведь они хранятся на вашем устройстве, а код, который к ним обращается, открыт для проверки.
Доверие, которое приходится заслуживать заново после каждой покупки компании, каждой смены правил и каждой утечки, хрупкое. Доверие, встроенное в архитектуру, прочное по самой своей природе.
Именно на такой архитектуре построен Off Grid AI.
Скачайте Off Grid AI для iPhone или Android. Исходный код на GitHub.