Конфиденциальность и ИИ

На устройстве или в облаке: где работает ИИ приложения для задач

ИИ приложения для задач работает в одном из трёх мест. На iPhone, на модели Apple на устройстве: ничего не покидает телефон, работает без сети, но модель небольшая. В Private Cloud Compute от Apple: по заявлению Apple, запрос там не хранится и недоступен Apple. Или у провайдера вроде OpenAI, часто через сервер самого приложения; там решают политики обеих сторон. Короткие чётко поставленные задачи подходят устройству, долгие разговоры обычно требуют облака.

Скоро на iPhone и iPad

Последняя проверка:

На этой странице

Три места, где может работать запрос к ИИ

Где работает Что покидает iPhone Работает без сети Подходит для
На устройстве, на модели Apple Ничего Да Короткие чётко поставленные задачи: сортировка, короткие подсказки, аккуратные формулировки
Private Cloud Compute от Apple Запрос, зашифрованный для серверов Apple Нет Более крупные запросы Apple Intelligence
Провайдер вроде OpenAI, часто через сервер приложения Запрос и контекст, который добавляет приложение Нет Долгие разговоры, широкие знания, много шагов

Дальше на странице разбирается каждый вариант и то, что можно проверить.

На вашем iPhone

Начиная с iOS 26 приложения могут использовать фреймворк Apple Foundation Models и отправлять запросы к языковой модели на устройстве, лежащей в основе Apple Intelligence. Apple описывает её как модель с 3 миллиардами параметров и говорит, что функции на её основе защищают приватность, работают без сети и не требуют платы за каждый запрос.

Это самая сильная позиция по приватности, какая бывает у функции с ИИ: текст не покидает телефон, а значит, нет политики сервера, которую нужно читать. У неё два ограничения:

  1. Размер. Модель, помещающаяся в телефон, хороша в узких задачах с понятной формой, например превратить предложение в несколько шагов или разложить пункты по группам. Она слабее в долгих открытых разговорах и в вопросах, где нужны широкие знания о мире.
  2. Оборудование. Поскольку фреймворк использует модель из основы Apple Intelligence, он зависит от устройства, которое поддерживает Apple Intelligence. В списке Apple для iOS 27 — iPhone 15 Pro и 15 Pro Max, модели iPhone 16 и новее, iPhone Air; язык устройства и Siri должен быть одним и тем же поддерживаемым языком, и нужно несколько гигабайт свободного места для моделей (Apple называет до 8 ГБ на многих моделях и до 14 ГБ на новейших).

Поэтому приложению, которое использует модель на устройстве, нужно решить, что происходит на старом телефоне: функции нет или она переключается на облако. Об этом стоит спросить.

Private Cloud Compute от Apple

Когда задаче Apple Intelligence нужно больше, чем может телефон, Apple говорит, что запрос может уйти в Private Cloud Compute (PCC). На странице о приватности Apple сказано, что данные «не хранятся и недоступны Apple», обрабатываются только для выполнения вашего запроса и не сохраняются после возвращения результата.

Команда безопасности Apple опубликовала устройство системы в июне 2024 года в виде пяти требований:

  • Вычисления без состояния. Личные данные используются только для запроса и не хранятся, в том числе в журналах.
  • Обеспеченные гарантии. Обещания должны обеспечиваться устройством самой системы, а не только политикой.
  • Нет привилегированного доступа во время работы. Даже сотрудникам Apple, отвечающим за надёжность сайта, не оставляют чёрного хода во время сбоя.
  • Нельзя нацелиться. Злоумышленник не должен иметь возможности добраться до данных одного человека, не атакуя всю систему.
  • Проверяемая прозрачность. Apple публикует образы ПО, чтобы исследователи безопасности могли их проверить, а устройства отправляют запросы только на серверы, которые доказывают, что работают на публично перечисленном ПО.

У этого есть честные пределы. EFF указывает, что на экране нет ничего, что показывало бы, обработан запрос на устройстве или в PCC, и что «приватно» здесь значит «устроено так, чтобы Apple не видела и не хранила данные», а не «данные остаются на вашем телефоне». Apple также говорит, что у некоторых функций, опирающихся на серверные модели, есть суточные ограничения. Чтобы увидеть, что ушло, Apple описывает отчёт Apple Intelligence и PCC в разделе «Настройки», «Конфиденциальность и безопасность».

PCC предназначен для собственных функций Apple. На стороннее приложение со своим провайдером эти обещания не распространяются.

Сторонний провайдер

Многие приложения для задач и заметок отправляют запросы ассистенту компании вроде OpenAI, напрямую или через сервер разработчика. Здесь действуют два набора правил: разработчика, для его сервера, и провайдера. OpenAI говорит, что данные, отправленные в её API, не используются для обучения моделей с 1 марта 2023 года, если клиент не включил это сам, и что журналы мониторинга злоупотреблений, которые могут включать запросы и ответы, по умолчанию хранятся до 30 дней, а для одобренных клиентов есть вариант Zero Data Retention.

Здесь нужно, чтобы приложение отвечало конкретно. Спросите:

  1. Какой провайдер, по названию?
  2. Проходит ли запрос через сервер разработчика и хранит ли этот сервер что-нибудь?
  3. Что в запросе: только ваше сообщение или ещё и пункты из вашего списка? Наше руководство о том, что ассистент с ИИ видит в вашем списке задач, объясняет, почему это бывает по-разному.
  4. Спрашивает ли оно перед первым запросом и можно ли оставить часть пунктов за пределами? См. как не пускать заметки и задачи к ИИ.

Что выбрать

Для большинства людей разумное правило такое: пусть небольшие частые задачи выполняются на устройстве, а облако используйте осознанно, для того, чему оно нужно. Функция, которая сортирует список или предлагает несколько шагов, обычно может остаться на телефоне. Разговор обо всей вашей неделе обычно не может, и это нормально, если вы знаете, куда он уходит, и убрали то, что должно остаться приватным.

Где Dozen помогает, а где нет

Dozen делит свой ИИ так, как описано на этой странице. «Предложить шаги» использует собственную модель вашего iPhone и обращается к OpenAI только с Dozen Pro, после вашего разрешения, когда устройство не может составить шаги само. «Спросить» в быстром поиске показывает заметки и задачи, подходящие к вопросу, а если ваш iPhone это умеет, пишет над ними короткий ответ. Ассистент необязателен, и сначала он спрашивает: ничего не отправляется провайдеру ИИ, пока вы не разрешите. Облачные запросы идут к OpenAI через собственный сервер Loopware, который передаёт каждый запрос, не записывая и не сохраняя то, что вы написали. Всё, что вы пометили тегом No AI, не попадает в запросы ассистента. Подробнее — в разделах «Поиск и «Спросить»» и «Ассистент».

Где он не поможет: Всё в Dozen, кроме облачных ответов ассистента, работает без интернета. Поэтому облачные ответы ассистента требуют соединения и на устройстве не выполняются. Ассистент входит в Dozen Pro. Функции, использующие собственную модель iPhone, зависят от телефона с поддержкой Apple Intelligence. И Dozen пока нет в App Store.

Вопросы и ответы

Apple Intelligence обрабатывается на моём iPhone?

Часто, но не всегда. Apple говорит, что многие модели Apple Intelligence работают целиком на устройстве, а запросы, которым нужна модель побольше, могут уходить в Private Cloud Compute. EFF отмечает, что на экране нет признака, где обработан конкретный запрос; параметр «Отчёт Apple Intelligence и PCC» перечисляет те, что ушли в Private Cloud Compute.

На каких iPhone работает модель Apple на устройстве?

Для Apple Intelligence в iOS 27 Apple называет, среди прочих, iPhone 15 Pro и iPhone 15 Pro Max, модели iPhone 16 и новее, а также iPhone Air. Язык устройства и Siri должен быть одним из поддерживаемых, а моделям нужно несколько гигабайт свободного места.

Облачный ИИ всегда менее приватен, чем ИИ на устройстве?

Не всегда, но на устройстве обещание проще: ничего не покидает телефон. Облачный запрос может быть хорошо защищён, как Apple описывает для Private Cloud Compute, или недолго храниться у провайдера, как OpenAI описывает для своего API. В облаке вы полагаетесь на политики и инженерные решения, которые не можете проверить сами.

Источники

Всё, что эта страница говорит о Dozen, проверено в приложении .

Последняя проверка:

Скачать Dozen

Dozen можно скачать бесплатно. Dozen Pro — подписка на месяц или на год — добавляет ассистента.

Скоро на iPhone и iPad

Dozen: задачи и заметки

Dozen можно скачать бесплатно. Dozen Pro — подписка на месяц или на год — добавляет ассистента.

Скоро на iPhone и iPad