问题与回答
包括那些答案是"不"的问题。
产品
AI Stays Local 是什么?
AI Stays Local 是为不能上传的文件而做的私有 AI。它在您掌控的硬件上运行开放权重模型:您授权访问选定的文件夹,用日常语言提问,并在引用的文件和页面中核对每个回答;找不到证据时,它的设计是拒绝回答。它会检查您的机器,并推荐适合的模型配置档。在本地模式下,您提问所涉及的文档会留在您的设备上。
现在就能用吗?
通过私测版可以。运行时和附引用的文档回答已向获批的测试者开放。桌面应用和容器镜像仍在计划中,尚未构建。公布的耗时数据只适用于各项基准测试所注明的硬件。您可以通过本站的申请表申请访问。
它和 ChatGPT 或 Claude 有什么不同?
这些服务运行在服务提供方的基础设施上:您的提问和附加的任何文件都会发送给它们。在这里,模型在您的机器上运行,所以本地回答的生成不需要把您的文档发到任何地方。代价确实存在:能装进笔记本电脑的模型比数据中心里运行的模型小,在最难的任务上比不过它。
隐私
我的文档会怎样?
您授权访问特定的文件夹。其中的内容会在您的电脑上建立索引,以便回答相关问题。索引留在您的机器上,移除文件夹也会移除它的索引。正常的本地使用不会上传任何内容。
它到底有多私密?
比托管式助手更私密,但并不完美,任何软件都不该这样告诉您。我们能说的很具体:在仅本地模式下,应用的设计是在没有网络连接的情况下运行,因此文档无处可去。如果您开启 Controlled Cloud 并批准某个请求,该请求中的内容确实会离开您的电脑,由您所指定的服务提供方按其自身条款处理。隐私页面逐一说明了每种模式及其含义。
应用会向外发送数据吗?
产品的构建目标是:使用分析和崩溃报告需要您主动开启、默认关闭,并且在出站网络被阻断时应用仍能工作。这是开发期间的设计承诺,不是经过审计的结果;在私测开放之前,我们会公布正式发布版本实际做了什么。
硬件
我需要什么样的电脑?
硬件兼容性因机器而异。内存通常是限制因素:内存越多,能用的模型越大、能力越强。一台配备 16 GB 内存的兼容机器是运行小模型的起点,不过目前还没有测量过任何 16 GB 的机器;32 GB 或以上则能用上能力更强的模型。兼容性页面会解释其中的取舍,而不会为我们没测试过的机器承诺结果。
会支持哪些操作系统?
所有公布的测量数据都来自一台已记录的专业机器:一台配备 130.7 GB 统一内存的 NVIDIA DGX Spark(GB10),运行 ARM64 上的 Linux。命令行可在 Linux 和 macOS 上供入选测试者使用。计划中的桌面应用面向 Linux、macOS 和 Windows;这些面向普通用户的版本目前都还不存在,也没有测量过。移动端访问计划以私有连接回到您自己机器的方式实现,而不是保存数据的第二份副本。
需要联网吗?
获取运行时和模型时需要联网。之后,仅本地模式的设计是在无网络连接时工作。Controlled Cloud 当然需要联网,而且只在您批准某个具体请求时运行。
私测版
谁能加入私测版?
一小批首批用户,按硬件的多样性以及我们能从中学到东西的真实工作来挑选:工作中需要处理机密文档的人,以及愿意在出问题时告诉我们的人。我们会直接联系申请者;不存在可以查询的排队位置。
你们会如何处理我的申请?
我们用它来挑选测试者,并了解应该支持哪些硬件。我们不会索要文档或任何机密材料,也请绝不要通过表单发送这类内容。网站隐私声明说明了保存期限以及如何申请删除。
费用与公司
要花多少钱?
会有一个免费版本,可以运行本地模型且不按消息收费;也会有付费版本,提供文档检索、更大的模型和专业用途。金额尚未确定,价格页面在每个显示金额的地方都会注明这一点。私测版对所有入选者免费。
它是开源的吗?
本产品是商业专有软件。它可以配合多个推理引擎工作,其中包括按各自许可证使用的开源引擎,这些许可证和署名都包含在应用的声明中。我们不会把别人的成果当作自己的。
背后是谁?
一位独立开发者,在做一个商业产品;不是风险投资支持的团队,也不是别的什么东西的副业项目。关于页面坦率说明了运营规模,因为这也是您评估的一部分。