ВзглядАвтоматизация и инструментыЛюбое устройство3 мин чтения

На этой странице
  1. Полезная версия
  2. Граница
  3. Пример: из WhatsApp в календарь
  4. Проактивный или автономный
  5. Какими должны быть хорошие настройки по умолчанию

Как персональная ИИ-ОС должна действовать от вашего имени, не становясь вашим начальником

Есть версия персонального ИИ, которая полезна: она берёт на себя рутину, которую вы повторяете каждый день, и возвращает вам место в голове, которое эта рутина занимала. И есть версия, которая душит: она принимает решения, которые вы хотели принять сами, выносит на поверхность то, чего вы не хотели видеть, и заставляет чувствовать себя под наблюдением, а не под опекой.

Разница не в возможностях. Разница в философии проектирования.


Полезная версия

В 21:00 приходит сообщение от незнакомого контакта. Ваша персональная ИИ-ОС перевела телефон в режим «Не беспокоить». Она проверяет сообщение, относит его к несрочным и откладывает в утреннюю очередь. Вы увидите его, когда будете готовы.

В календаре появляется встреча на завтра в 14:00. ИИ замечает, что в это время у вас уже есть дело, сообщает об этом и спрашивает, хотите ли вы это решить.

Вы вот-вот подключитесь к звонку. ИИ поднимает три последних разговора с этим человеком, кратко перечисляет открытые вопросы и показывает их за две минуты до начала.

Эти действия полезны, потому что происходят в ясных рамках: ИИ делает то, что вы сделали бы так же, в моменты, когда ваше внимание было занято другим, по критериям, которые вы уже показали. Он не решает за вас. Он выполняет решения, которые вы приняли бы сами, будь у вас на это время.


Граница

Граница между полезным и жутким: это согласие и прозрачность.

ИИ, который откладывает уведомление, полезен, если вы сами задали это правило и знаете, что так происходит. ИИ, который начинает скрывать уведомления по собственному усмотрению, даже если обычно угадывает, решает без вас, какая информация до вас доходит.

ИИ, который предлагает ответ на сообщение, полезен, если вы об этом попросили. ИИ, который изучает ваш стиль и готовит ответы вам на утверждение, удобен. ИИ, который начинает отправлять сообщения, не показав их вам, это уже совсем другое.

Принцип простой: ИИ должен облегчать то, что вы сделали бы сами, а не делать это за вас без вашего ведома.


Пример: из WhatsApp в календарь

Друг пишет в WhatsApp: «Ужин в пятницу в 7?»

Полезная персональная ИИ-ОС показывает это с одним доступным действием: «Добавить в календарь». Одно касание, готово. ИИ увидел намерение в сообщении, сверил его с вашим календарём и подготовил действие. Вы его подтвердили. Десять секунд вашего внимания вместо шестидесяти.

Жуткая версия той же функции сама добавляет ужин в календарь, «потому что вы обычно принимаете приглашения на ужин от этого контакта». Статистически верно. По сути неверно. В календаре теперь событие, которое вы не добавляли, и у вас новая тревога: что ещё ИИ решил за вас?

Возможности одинаковые. Проектирование разное.


Проактивный или автономный

Между проактивной помощью и автономными действиями есть существенная разница.

Проактивная помощь означает, что ИИ замечает, показывает и упрощает следующий шаг. Он следит за календарём и предупреждает о накладках. Читает сообщения и выделяет те, на которые нужно ответить сегодня. Замечает, что у вас четыре часа встреч подряд, и напоминает о перерыве через 20 минут.

Автономные действия означают, что ИИ действует, не спрашивая. Решает накладку в календаре, отклонив приглашение. Отвечает на сообщения. Перекраивает ваш день.

Проактивность хороша. Автономия требует явного поручения: задач, о которых вы прямо сказали «сделай это, не спрашивая меня».

По умолчанию ИИ должен быть проактивным. Автономия должна оставаться исключением, выдаваться задача за задачей, с полной прозрачностью того, что делает ИИ, и возможностью проверить его действия.


Какими должны быть хорошие настройки по умолчанию

Персональная ИИ-ОС с хорошими настройками по умолчанию:

  • Показывает уведомления и отмечает срочное, но не скрывает сообщения без ваших явных правил «Не беспокоить»
  • Предлагает ответы, но не отправляет их
  • Замечает накладки и спрашивает, как их решить, а не решает сама
  • Готовит контекст перед встречами, а не подводит итоги после без вашей просьбы
  • Сообщает, что делает, когда действует в фоне

Цель в том, чтобы быть ассистентом, который берёт на себя работу, какую вы поручили бы толковому человеку, знающему ваши приоритеты. А не тем, кто начинает принимать решения за вас прежде, чем вы решили доверять ему настолько.

Доверие зарабатывается постепенно. Персональная ИИ-ОС должна вести себя так же.


Off Grid AI действует от вашего имени по вашим явным указаниям. Скачать для iPhone или Android.

БЫЛО ПОЛЕЗНО?
НОВОСТИ ОТ СОЗДАТЕЛЯ