なぜローカルファーストなのか

ローカルファーストはたいていプライバシー機能として売られます。確かにそうです。けれど、もし論拠がプライバシーだけなら、ほとんどの人はこれまでどおり利便性と引き換えに手放すでしょう。

もっと良い論拠はこうです。記憶を自分の端末に置くと、製品としてよく動くようになる。アーキテクチャが正しければ、プライバシーはおまけとして付いてきます。

体感できるレイテンシ

メモリーレイヤーが役に立つのは、尋ねる前に用意ができているときだけです。ノッチを開いた時点で、文脈は組み上がっているべきです ── 話している相手、いま関わっているプロジェクト、そこで開いたままのスレッド。

その予算は、アイドルから展開まで100ミリ秒、隣にアクションが出るまで150ミリ秒です。この数字はネットワーク越しには出せません。ネットワークが抽象的に遅いからではなく、予測できないからです。往復の中央値は問題なくても、95パーセンタイルはスピナーになります。ローカルのインデックスに95パーセンタイル問題はありません。ディスクから読むだけです。

キャプチャも同じです。文脈はウィンドウを切り替えるたび、1時間に何十回も組み直されます。ローカルで行えば数百ミリ秒のバックグラウンド処理です。往復にすれば、レイテンシと帯域とバッテリーの継続的なコストを一日中払い続けることになります。そもそも外に出る必要のなかったデータのために。

一日の濃さでコストが変わらない

いちばん分かりやすいのは埋め込みです。ShogunAI は多言語の埋め込みモデルをあなたの Mac で動かします。だから濃い一日をインデックスしても、薄い一日をインデックスしても、コストは同じ ── ゼロです。あなた自身の記憶に対してトークン単位のメーターが回らない。つまり私たちは、「あなたのことを覚える量を減らして製品を安くする」必要が一度もありません。

クラウドでインデックスする製品は選ばなければなりません。一日をサンプリングするか、量に応じて課金するか、データから得る何かで補填するか。3つとも、より悪い製品です。

飛行機の中でも動く

検索、想起、日次のレビュー、朝のブリーフ ── これらはネットワークなしで動きます。ネットワークが要るのは生成です。返信を書く、難しい問いを考える、接続したツールで操作する。オフラインでも ShogunAI はあなたの一日を知っています。ただ、まだメールは書けないというだけです。

この切り分けは意図的です。常に動かなければならないレイヤーは、決して外に出ないレイヤーです。

実際に外に出るもの、その理由

ローカルファーストは、「端末から何ひとつ出ない」という主張ではありません。その主張はほぼ常に嘘で、嘘の絶対値は正直な境界線より質が悪い。

境界線はここです。生の記憶は残ります。外に出るのは、あなたが出した特定の要求に必要な特定のかたまりだけ ── 要約するスレッド、下書きのための文脈。接続したサービスが見るのは、そのサービスに必要な分だけです。すべての外部送信は目的とともにトレーサビリティのログに記録され、モデル提供者へ直接ではなく第三者を経由する場合には、ログに「第三者経由」と書かれ、設定時に先に同意を求めます。

その越境は現在2つあり、どちらもオプトインで、ここに埋めるのではなく製品の中で開示しています。メールは連携プロバイダを経由すること、そして会議のライブ文字起こしは、聞いた内容を学習に使わないことを契約で禁じた音声サービスを使うことです。「何も出ません」と切り上げるより、名前を挙げるほうを選びます。

何もかも持ち込みでいい

リモートである必要があるのが推論だけなら、それを誰にやらせるかはあなたが決められます。自分の API キーを持ち込んでもいいし、すでに払っているアシスタントのプランを ShogunAI に指定して、その枠内で動かしてもいい。あなたの記憶は、どのモデルがそれを読むかを気にしません。提供者を乗り換えても、履歴は1日も失われません。

それがローカルファーストの本当の見返りです。価格ページのバッジではなく、独立性です。モデルはこれからも変わり続けます。あなたの10年分の文脈が、そのたびに引っ越す必要はありません。