Конфиденциальность и ИИ

Что ИИ-ассистент видит в вашем списке задач

Только то, что отправило ему приложение. Ассистент внутри приложения для задач видит ваш запрос плюс те пункты, которые приложение прикрепляет или находит для него: названия, заметки, даты, теги. Некоторые функции работают на вашем iPhone, и ничто не покидает его; другие идут на сервер и дальше к провайдеру ИИ. Прежде чем включить такую функцию, выясните, спрашивает ли она сначала, что содержит запрос, где он выполняется, что хранит провайдер и можно ли исключить некоторые пункты.

Скоро на iPhone и iPad

Последняя проверка:

На этой странице

Ассистент знает только то, что отправляет приложение

Языковая модель не живёт внутри вашего приложения для задач и не просматривает его. Она находится где-то, на телефоне или на сервере, и получает текст. Всё, что она «знает» о вашем списке, приходит в запросе, который строит приложение. Так что полезный вопрос не «видит ли ИИ мой список?», а «что это приложение кладёт в запрос и когда?»

В запросе может быть несколько видов содержимого:

  1. То, что вы набрали или сказали. Ваше сообщение или ваши слова после того, как диктовка превратила их в текст.
  2. Контекст, который прикрепляет приложение. Некоторые приложения добавляют пункт, на который вы смотрите, список на сегодня или задачи проекта, чтобы ответ был конкретным.
  3. То, что модель ищет. Многие ассистенты могут по ходу просить у приложения больше: «всё, что нужно на этой неделе», «заметки этого проекта». Приложение выполняет поиск на вашем телефоне и отправляет найденное. Эти результаты тоже становятся частью разговора.
  4. Предыдущий разговор. Чат обычно отправляет прежние сообщения заново с каждым новым, так что то, что вы упомянули десять минут назад, может отправиться снова.

Поэтому один и тот же ассистент может казаться безобидным, когда вы просите перефразировать одну задачу, и заходить гораздо дальше, когда вы спрашиваете «что мне делать сегодня?». Второму вопросу нужен ваш список, и приложение его достанет.

Куда идёт запрос

Есть три распространённых места, куда попадает запрос, и обещают они очень разное.

На вашем iPhone. Apple позволяет приложениям использовать встроенную модель, лежащую в основе Apple Intelligence, через фреймворк Foundation Models, и говорит, что функции, построенные так, работают офлайн. Когда функция работает здесь, текст не покидает телефон. Плата за это — размер: модель размером с телефон лучше справляется с короткими чётко определёнными задачами, чем с длинными открытыми разговорами.

Private Cloud Compute от Apple. Для задач Apple Intelligence, которым нужна модель побольше, Apple говорит, что запрос может уйти в Private Cloud Compute, где данные «не хранятся и недоступны Apple» и используются только для выполнения запроса. Это относится к собственным функциям Apple, а не к приложению, которое обращается к другому провайдеру.

Сторонний провайдер, часто через сервер приложения. Многие ассистенты отправляют запросы такой компании, как OpenAI, либо прямо из приложения, либо через собственный сервер разработчика посередине. Тогда важны две политики: разработчика, для его сервера, и провайдера. На странице OpenAI об управлении данными сказано, что данные, отправленные в его API, не используются для обучения его моделей с 1 марта 2023 года, если клиент не согласился, и что журналы мониторинга злоупотреблений, которые могут содержать запросы и ответы, по умолчанию хранятся до 30 дней. Клиенты, одобренные для нулевого хранения данных, могут исключить свой контент из этих журналов. Какое устройство у конкретного приложения, может сказать только само приложение.

Наша статья ИИ на устройстве и в облаке глубже разбирает эту разницу.

Что метка конфиденциальности покажет, а что нет

Метка конфиденциальности App Store — хороший первый взгляд, но она не была задумана для описания запросов к ИИ. Руководство Apple для разработчиков определяет «собирать» как отправку данных с устройства так, что разработчик или его партнёры получают к ним доступ дольше, чем нужно для обработки запроса. Данные, отправленные на сервер и отброшенные сразу после обработки запроса, объявлять не обязательно. Так что ассистента, чей сервер передаёт ваши слова дальше, не сохраняя, может не быть в метке, и это согласуется с правилами.

Метки к тому же пишет сам разработчик. На сторонних страницах App Store об этом сказано под меткой: Apple эти сведения не проверяла. Наша статья как читать метки конфиденциальности приложений для задач сравнивает, что заявляют известные приложения для задач.

Пять вопросов, которые стоит задать, прежде чем включать ассистента

  1. Спрашивает ли он перед первым запросом? Ассистент, включённый по умолчанию, уже решил за вас. Тот, что спрашивает, даёт вам момент, чтобы прочитать, что он делает.
  2. Что входит в запрос? Только ваше сообщение или и ваш список, заметки и прежний чат тоже? Хорошее приложение говорит об этом простыми словами.
  3. Где он выполняется? На телефоне, в Private Cloud Compute от Apple или у названного провайдера. «В облаке» — не ответ.
  4. Кто что хранит и как долго? Сервер разработчика и провайдер ИИ могут хранить данные каждый. Спросите об обоих и об обучении.
  5. Можно ли исключить кое-что и отменить то, что он меняет? Способ пометить пункты как запретные важнее любых обещаний, потому что не зависит от чьей-либо политики. Наша статья как не пускать ИИ к заметкам и задачам описывает варианты на iPhone, включая собственные настройки Apple для Siri.

Ещё одна привычка ничего не стоит: когда вы вставляете список в универсальный чат-бот, вы пользуетесь правилами этого чат-бота, а не вашего приложения для задач. Если в списке данные о здоровье, деньгах или другие люди, сократите его перед вставкой.

Где Dozen помогает, а где нет

Ассистент Dozen построен вокруг этих вопросов. Ассистент необязателен, и сначала он спрашивает: ничего не отправляется провайдеру ИИ, пока вы не разрешите. Облачные запросы идут к OpenAI через собственный сервер Loopware, который передаёт каждый запрос, не записывая и не сохраняя то, что вы написали. Всё, что вы пометили тегом No AI, не попадает в запросы ассистента. Всё с тегом No AI также не попадает в Spotlight, Siri и Быстрые команды. «Предложить шаги» использует собственную модель вашего iPhone и обращается к OpenAI только с Dozen Pro, после вашего разрешения, когда устройство не может составить шаги само. Попросите ассистента об одном деле, и оно будет сделано, с возможностью отмены; попросите о нескольких, и он сначала покажет их, и ничего не изменится, пока вы не скажете. С ассистентом можно говорить: ваши слова появляются в поле сообщения, и ничего не отправляется, пока вы не нажмёте «Отправить». Подробнее — о теге No AI и об ассистенте.

Где не поможет: Ассистент входит в Dozen Pro. Факт выше касается собственного сервера Loopware; он ничего не говорит о чат-боте, в который вы сами вставляете список. Dozen пока нет в App Store. И если вы предпочитаете вообще не пользоваться ИИ-ассистентом, включать его вам не обязательно: список задач прекрасно работает без него.

Вопросы и ответы

Читает ли ИИ-ассистент весь мой список задач?

Сам по себе нет. Языковая модель ничего не знает о вашем списке, пока приложение не отправит ей текст. Одни приложения отправляют только то, что вы набрали; другие прикрепляют недавние пункты или позволяют модели просить приложение что-то найти, и каждый вернувшийся пункт становится частью запроса. Спросите приложение, как оно делает.

Используется ли мой список задач для обучения ИИ?

Зависит от провайдера и соглашения, которое с ним у приложения. OpenAI, например, говорит, что данные, отправленные в его API, не используются для обучения его моделей с 1 марта 2023 года, если клиент не согласился. У чат-бота, которым вы пользуетесь напрямую, могут быть другие правила, так что проверьте его собственные настройки.

Могу ли я увидеть, когда мой iPhone отправляет запрос в облако Apple?

Да, для Apple Intelligence. Apple описывает отчёт в Настройках, «Конфиденциальность и безопасность», «Отчёт Apple Intelligence и PCC», где за выбранный период записаны запросы, отправленные в Private Cloud Compute. Он не охватывает запросы, которые приложение отправляет на свой сервер или другому провайдеру.

Источники

Всё, что эта страница говорит о Dozen, проверено в приложении .

Последняя проверка:

Скачать Dozen

Dozen можно скачать бесплатно. Dozen Pro — подписка на месяц или на год — добавляет ассистента.

Скоро на iPhone и iPad