本地聊天
借助在您机器上运行的模型提问、起草和推理。对话在本地生成,不按 token 计费。
应用
下面的每个应用都运行在相同的硬件规划、相同的已校验模型配置档和相同的本地边界之上。每一项之所以列出,是因为产品数据记录它可以正常工作,旁边注明了它的当前状态。
借助在您机器上运行的模型提问、起草和推理。对话在本地生成,不按 token 计费。
回环地址上兼容 OpenAI 的端点,使用生成的密钥进行身份验证,供您自己的脚本和现有客户端使用。
授权访问您选定的文件夹,用日常语言提问,并对照引用的文件和页码核对每个回答。如果文件夹中没有涉及该问题的内容,它会拒绝回答。
聊天使用为您的硬件推荐的模型配置档。本地推理期间,提示词和回答都留在机器上,使用也不按 token 计费。任何支持兼容 OpenAI API 的工具也都可以作为聊天前端。
希望在自有工作站上使用 AI Stays Local 的组织,可以商定 Enterprise Managed 方案:部署规划、针对其计划使用的机器进行硬件验证、基于实测证据的模型规划,以及支持服务。这是一份定制的商业协议,而不是附带价目表的套餐。