隐私与 AI

AI 助手在你的待办清单里看到什么

只有 App 发给它的东西。待办事项 App 里的助手,看到你的请求,加上 App 为它附上或查找的任何事项:标题、备注、日期、标签。有些功能在你的 iPhone 上运行,什么也不会离开它;另一些则会发到服务器,再发给 AI 提供方。在你打开某个之前,先弄清它会不会先问你、一个请求里有什么、在哪里运行、提供方保留什么,以及你能不能把一些事项挡在外面。

即将登陆 iPhone 和 iPad

最后核对:

本页内容

助手只知道 App 发给它的东西

语言模型并不住在你的待办事项 App 里去浏览它。它待在某个地方,在你的手机上或在服务器上,它收到的是文字。它对你的清单“知道”的一切,都来自 App 构建的一个请求。所以有用的问题,不是“AI 能看到我的清单吗?”,而是“这款 App 在一个请求里放了什么,什么时候放?”

一个请求里可以装几类东西:

  1. 你输入或说出的内容。 你的消息,或者听写把你的话转成文字之后的内容。
  2. App 附上的上下文。 有些 App 会加上你正在看的那一项、今天的清单,或者一个项目的任务,让回答可以很具体。
  3. 模型查找的东西。 许多助手可以边进行边向 App 要更多:“这周到期的一切”“这个项目里的笔记”。App 在你的手机上执行这次搜索,并把找到的送回去。这些结果也成为对话的一部分。
  4. 之前的对话。 一次聊天通常每发一条新消息,就把之前的消息再发一遍,所以你十分钟前提到的东西,可能再次传出去。

这就是为什么同一个助手,在你请它改写一项任务时显得无害,而当你问“我今天该做什么?”时,伸得远得多。第二个问题需要你的清单,而 App 会去取它。

请求去了哪里

一个请求最后会落在三个常见的地方,它们做出的承诺非常不同。

在你的 iPhone 上。 Apple 通过它的 Foundation Models 框架,让 App 使用 Apple 智能核心的设备端模型,Apple 说以这种方式构建的功能可以离线使用。当一个功能在这里运行,文字不会离开手机。代价是规模:手机大小的模型,更擅长处理简短、明确的任务,而不是冗长开放的对话。

Apple 的私密云计算。 对于需要更大模型的 Apple 智能任务,Apple 说请求可能会发往私密云计算,在那里数据“不会被存储,Apple 也无法访问”,只用于完成这个请求。这适用于 Apple 自己的功能,不适用于与别的提供方对话的 App。

第三方提供方,往往经由 App 的服务器。 许多助手把请求发给像 OpenAI 这样的公司,要么直接从 App 发出,要么经过开发者自己位于中间的服务器。这时有两份政策要紧:开发者对其服务器的,以及提供方的。OpenAI 的数据控制页面说,自 2023年3月1日起,发给它 API 的数据没有被用来训练它的模型,除非客户选择加入;而可能包含提示和回应的滥用监测日志,默认最多保留 30 天。获批零数据保留的客户,可以让其内容不进入这些日志。一款 App 采用哪种安排,只有这款 App 能告诉你。

我们关于设备端与云端 AI的指南,对这个差别讲得更深。

隐私标签会显示什么,不会显示什么

App Store 的隐私标签是个很好的初步了解,但它不是为描述 AI 请求而设计的。Apple 的开发者指南把“收集”定义为:把数据发出设备,使开发者或其合作方能够访问它的时间,超过处理这个请求所需。被发送到服务器、并在请求处理完后立即丢弃的数据,不必声明。所以,一个其服务器只是转手传递你的话而不保留的助手,可以不出现在标签里,而这符合规则。

标签也是开发者自己写的。第三方的 App Store 页面在标签下面这样说:“此信息未经 Apple 验证。”我们关于阅读待办事项 App 的隐私标签的指南,比较了知名待办事项 App 的声明。

打开助手之前先问的五个问题

  1. 它在第一个请求之前会先问吗? 默认就开着的助手,已经替你做了决定。会先问的,给了你一个读一读它做什么的时刻。
  2. 一个请求里有什么? 只有你的消息,还是也包括你的清单、笔记和之前的对话?一款好的 App 会用平实的话说清楚。
  3. 它在哪里运行? 在手机上、在 Apple 的私密云计算上,还是用一个指名的提供方。“在云端”不是答案。
  4. 谁保留什么,保留多久? 开发者的服务器和 AI 提供方,各自都可能保留数据。两者都要问,并问问训练的事。
  5. 你能把一些东西挡在外面,并撤销它所做的更改吗? 一种把事项标为禁区的办法,比任何承诺都要紧,因为它不依赖任何人的政策。我们关于让笔记和待办事项远离 AI的指南,涵盖了 iPhone 上的各种选择,包括 Apple 自己给 Siri 的设置。

还有一个不花钱的习惯:当你把一份清单粘贴进一个通用聊天机器人时,你用的是那个聊天机器人的规则,不是你的待办事项 App 的。如果一份清单里有健康细节、钱或别人的信息,请在粘贴前把它删减。

Dozen 能帮上忙的地方,和帮不上的地方

Dozen 的助手,就是围绕这些问题构建的。助手是可选的,而且会先征求你的同意:在你允许之前,不会向 AI 服务提供方发送任何内容。 云端请求经由 Loopware 自己的服务器发往 OpenAI,该服务器只负责转发每一条请求,不会记录或存储你写下的内容。 你标记为“No AI”的任何内容都不会出现在助手的请求中。 带有“No AI”标签的内容也不会出现在聚焦、Siri 和快捷指令中。 “建议步骤”使用 iPhone 自带的模型;只有在设备自己无法生成步骤时,才会在你开通 Dozen Pro 并允许之后向 OpenAI 请求。 让助手做一件事,它会直接完成,并可撤销;让它做好几件事,它会先给你看,在你确认之前什么都不会改变。 你可以对助手说话:你说的话会出现在消息输入框中,在你轻点“发送”之前不会发送任何内容。 关于“No AI”标签和助手,还有更多内容。

帮不上的地方:助手是 Dozen Pro 的一部分。 上面的那条事实,涵盖的是 Loopware 自己的服务器;它对你自己把清单粘贴进去的聊天机器人,只字未提。Dozen 还没有上架 App Store。而且,如果你根本不想用 AI 助手,你永远不必打开它:没有它,待办清单照样运转得很好。

问与答

AI 助手会读我的整份待办清单吗?

它自己不会。在 App 把文字发给它之前,语言模型对你的清单一无所知。有些 App 只发你输入的内容;另一些会附上最近的事项,或者让模型请 App 去查找东西,而每个返回的事项,都是请求的一部分。去问问这款 App 是哪一种。

我的待办清单会被用来训练 AI 吗?

这取决于提供方,以及 App 与它的协议。比如,OpenAI 说,自 2023年3月1日起,发给它 API 的数据没有被用来训练它的模型,除非客户选择加入。你直接使用的聊天机器人,规则可能不同,所以请查看它自己的设置。

我能看到我的 iPhone 什么时候向 Apple 的云端发出了请求吗?

能,针对 Apple 智能。Apple 描述了“设置”>“隐私与安全性”下的 Apple 智能与 PCC 报告(Apple Intelligence & PCC Report),它会记录你所选时段内发往私密云计算的请求。它不涵盖某款 App 发给自己服务器或其他提供方的请求。

来源

本页关于 Dozen 的内容已于 在 App 中核对。

最后核对:

获取 Dozen

Dozen 可免费下载。Dozen Pro 是按月或按年的订阅,会加入助手。

即将登陆 iPhone 和 iPad

Dozen:任务与笔记

Dozen 可免费下载。Dozen Pro 是按月或按年的订阅,会加入助手。

即将登陆 iPhone 和 iPad