質問と回答

AI Stays Local は、アップロードできないファイルのためのプライベートAIです。あなたが管理するハードウェアでオープンウェイトモデルを動かします。選んだフォルダーへのアクセスを許可し、普段の言葉で質問し、引用されたファイルとページで各回答を確認します。根拠がない場合は回答を拒否するように設計されています。マシンを調べて、それに合ったモデルプロファイルを推奨します。ローカルモードでは、質問の対象となる文書はお使いの機器から出ません。

プライベートベータを通じてなら使えます。ランタイムと引用付きの文書回答は、承認済みのテスターが利用できます。デスクトップアプリとコンテナイメージは予定段階で、まだ作られていません。公開している所要時間は、各ベンチマークに記載したハードウェアにのみ当てはまります。アクセスはこのサイトの申請フォームから申し込めます。

それらのサービスは提供元のインフラで動いており、入力した内容や添付ファイルは提供元に送られます。ここではモデルがあなたのマシンで動くため、文書をどこにも送らずにローカルで回答が作られます。トレードオフは現実にあります。ノートパソコンに収まるモデルはデータセンターで動くモデルより小さく、最も難しい作業では及びません。

特定のフォルダーへのアクセスを許可します。その内容はあなたのコンピューター上でインデックス化され、質問に答えられるようになります。インデックスはマシンに残り、フォルダーを外すとインデックスも削除されます。通常のローカル利用では何もアップロードされません。

ホスト型のアシスタントよりはプライベートですが、完璧ではありません。完璧だと言うソフトウェアは信用すべきではありません。具体的に言えることはこうです。ローカル専用モードでは、アプリはネットワーク接続なしで動くように設計されているため、文書の行き先がありません。Controlled Cloud を有効にしてリクエストを承認した場合、そのリクエストの内容はコンピューターの外に出て、送り先のプロバイダーがその規約に従って扱います。プライバシーのページで各モードとその意味を説明しています。

製品は、利用分析とクラッシュレポートがオプトインで初期状態では無効になるように、また外向きのネットワーク接続を遮断した状態でも動くように作られています。これは開発中の設計上の約束であり、監査済みの結果ではありません。ベータ開始前に、配布版が実際に何をするかを公開します。

ハードウェアの互換性はさまざまです。多くの場合、制約になるのはメモリで、メモリが多いほど大きく能力の高いモデルを使えます。小さなモデルの入口は 16 GB のメモリを持つ対応マシンですが、16 GB のマシンはまだ計測していません。32 GB 以上あれば、より能力の高いモデルが選べます。互換性のページでは、テストしていないマシンについて結果を約束することなく、トレードオフを説明しています。

公開している計測値はすべて、記録済みのプロ向けマシン1台によるものです。130.7 GB のユニファイドメモリを持つ NVIDIA DGX Spark（GB10）で、ARM64 の Linux を動かしています。コマンドラインは、選ばれたテスター向けに Linux と macOS で動きます。予定しているデスクトップアプリは Linux、macOS、Windows を対象としていますが、これらの一般向け版はまだ存在せず、計測もしていません。モバイルからの利用は、データの2つ目のコピーではなく、自分のマシンへのプライベートな接続として予定しています。

ランタイムとモデルを取得するときには必要です。その後、ローカル専用モードは接続なしで動くように設計されています。Controlled Cloud はもちろん接続が必要で、特定のリクエストをあなたが承認したときだけ動きます。

ハードウェアの幅広さと、私たちが学べる実際の仕事を基準に選ぶ、最初の少人数のグループです。仕事で機密文書を扱う人や、問題があれば率直に伝えてくれる人を探しています。応募者には直接ご連絡します。確認できる順番待ちの番号はありません。

テスターの選考と、どのハードウェアに対応すべきかを理解するために使います。文書や機密情報は求めておらず、フォームで送ることもしないでください。保存期間と削除の依頼方法は、ウェブサイトのプライバシー通知に記載しています。

ローカルモデルをメッセージごとの料金なしで動かせる無料エディションと、文書検索、より大きなモデル、業務利用のための有料エディションを用意する予定です。金額は確定しておらず、料金ページでは金額を示すたびにその旨を記載しています。プライベートベータは、選ばれたすべての方に無料です。

製品は商用のプロプライエタリ製品です。複数の推論エンジンで動くように作られており、それぞれのライセンスのもとで使うオープンソースのエンジンも含まれます。そのライセンスと帰属表示はアプリの告知に含めています。他者の成果を自分たちのものとして示すことはしません。

商用製品をつくる独立系の開発者です。ベンチャー資金を受けたチームでも、別の何かの副業プロジェクトでもありません。運営の規模も評価の対象になるため、「私たちについて」のページではそれを率直に書いています。