家計簿のAIを、手元のMacで動かす意味

家計のデータは、人が生み出す情報のなかでも特に繊細なものだ。店名、給料、毎月の支払い、お金の使い方。

そこには暮らしぶりや事情、弱みまで表れる。多くの人は、それをしっかり守っている。

ところが、よくある解決策は、そのデータをサーバーに送ることだ。すると、いくつもの不安が連なる。

アカウントの登録、データの保管ルール、情報漏えいの危険。会社があなたの家計簿を無期限に持ち続けることを、暗に認めることにもなる。

Pulse Localは、その逆の道を選んだ。Mac(Apple Silicon搭載機)向けの家計簿アプリで、現在はベータ版だ。

支出についての質問に、手元のマシン上で動くモデルが答える。ローカルモードでは、アカウントはいらない。

この節のポイント

  • 端末内で推論するので、取引データは手元に残る。クラウドへの保存もアカウントも不要だ。
  • 代わりに、対応はApple Siliconのみ。モデルも、端末のメモリに収まる小さなものに限られる。
  • 家計簿は、限られた帳簿に構造化された質問をする仕事だ。だからこそ、端末内の推論でも成り立つ。

設計上の割り切り

これは、プライバシーを掲げたスローガンではない。得るものと失うものがはっきりした、意図的な設計上の賭けだ。

手元で完結する設計で得られるもの

  • データが外に出ない。 取引は端末にとどまる。
  • 推論のコストを払い続けなくていい。 アプリは手元で動くので、購入は1回で済む。
  • オフラインで使える。 ネットにつながなくても、支出の質問に答えてくれる。
  • 保管ルールの交渉がいらない。 削除するかどうかは、利用者が決める。

その代わりに必要になること

  • ハードウェアへの依存。 少なくとも今は、Apple Siliconだけだ。
  • 小さなモデル。 量子化とメモリの制約で、モデルの能力には上限がある。
  • 端末間の同期ができない。 同期しようとすれば、データを動かすことになる。
  • 対象の利用者が狭くなる。 使える人が限られる。

ここで気になるのは、仕事の狭さがカギなのかという点だ。限られた個人の帳簿に答えるだけなら、手元の推論で足りる。汎用のアシスタントなら苦しむところだ。

家計簿アプリは、あらゆる話題を理解する必要はない。

数百から数千件の取引を把握し、構造化された質問に答え、結果を平易な言葉で説明できればいい。この絞り込みは弱点ではない。ノートパソコンに収まる理由そのものだ。

ノートパソコンの予算に推論を収める

言語モデルを端末上で動かすのは、資源のやりくりの問題だ。メモリ帯域、ユニファイドメモリの容量、熱の余裕、バッテリーの消費。

Macが耐えられる範囲は、これらで決まる。しかも利用者は同時に、ブラウザやメール、表計算ソフトも開いている。

この節のポイント

  • 端末内の推論は、ノートパソコンの熱と電力の限界の中で動かす必要がある。クラウドへの逃げ道はない。
  • 家計簿の処理は、短い入力で、ときどき動く。そのため、思い切った最適化がしやすい。
  • 量子化とモデル選びでは、精度を少し手放して、速度とメモリの節約を得る。

予算管理タスクのデータ処理フロー。トランザクション入力からテキスト処理、構造化クエリ解析を経由して、ローカルモデル推論で処理され、結果生成に至る一連のパイプライン。バースト的な処理パターンと短いコンテキスト長を特徴とし、ローカルメモリ上の予算管理データを参照・更新しながら推論を実行する構成を示す。

図5:予算管理タスクのデータ処理フロー

制約が設計を決める

推論を複数のマシンにまたがって動かせるなら、システムには余裕が生まれる。熱を考慮した振り分けの研究は、その一例を示している。

端末が熱くなったらクラウドに処理を任せる。応答の速さが大事なときは手元で処理する。そのときの温度の状態を見て、振り分け先を決める。

Pulse Localには、そうした逃げ道がない。完全に手元で動く。だから設計上の判断は、どれもマシンの実際の限界を前提にしなくてはならない。

反対の極端な例もある。ESP32のマイコンをつないだクラスターで、1.58ビットのBitNetモデルを動かす実験だ。思い切った量子化をすれば、驚くほど小さなハードウェアにも、それなりの推論が収まることを示している。

Apple Siliconは、その下限よりはるかに上にある。M1やM2は、マイコンと比べて計算力もメモリも桁違いに大きい。

それでも原則は同じだ。量子化の度合い、文脈の長さ、モデルの選び方で、応答の速さ、メモリ使用量、品質が決まる。

家計簿は、チャットより最適化しやすい

仕事の性質は大きい。家計簿アプリの推論は、ときどき短く動く。

利用者が質問し、アプリは数百ミリ秒で答えを作る。そのあと、モデルは解放するか休ませればいい。

チャットでは、そうはいかない。長い会話のあいだ、モデルはずっとメモリに載せたまま、すぐ応答できる状態を保つ必要がある。

長い文書を処理する場合とも違う。そこでは文脈の長さとメモリ帯域が、ボトルネックになる。

家計簿の使い方なら、次のような最適化ができる。

  • モデルは起動時ではなく、必要なときだけ読み込む。
  • 文脈の窓は小さく保つ。質問の解釈なら、数百トークンで足りる。
  • 量子化した重みを使い、メモリと帯域への負荷を下げる。
  • 利用者は答えを待っているので、絶対的な品質より応答の速さを優先する。

Pulse Localが受け入れていること

正直に言って、限界は3つある。

  • 少なくともベータ版では、Apple Siliconのみ。 IntelのMacなど、ほかの環境に広げるには、別の量子化の方法やモデルが必要になる。
  • モデルの品質は、量子化で保てる範囲に収まる。 4ビットや8ビットに量子化したモデルは、元の精度のモデルより間違いが増える。
  • 大きなリモートモデルに頼ると、プライバシーの前提が崩れる。 ローカルのモデルがつまずいたとき、アプリにできるのは、手元でやり直すか、言い換えてもらうよう頼むかのどちらかだ。

それでも、このトレードオフは受け入れられる。仕事が狭いからだ。

家計簿のモデルは、あらゆる言葉を扱う必要はない。1つのことが得意であればいい。

それに、たとえば医療診断と比べれば、失敗の重みは軽い。ときどき質問を読み違えても、取り返しはつく。利用者は裏で実行された検索条件を見て、直すことができる。

アカウントなし、テレメトリなし:信頼を製品の機能にする

ローカルモードでアカウントを求めないと、利用者とソフトの関係が変わる。漏れるログイン情報はない。

令状で開示を求められるサーバー側のプロフィールもない。取引データを広告や転売のために掘り起こす事業上の動機も生まれない。

とはいえ、信頼を確かめるのは難しい。モデルやデータの扱いについての主張を、利用者が自分で検証するのは簡単ではない。

「データは端末の外に出ません」と会社が言っても、確かめる手段はほとんどない。通信を監視するか、中身を解析するしかない。

この節のポイント

  • ローカル重視のソフトへの信頼は、方針や約束ではなく、確かめられる事実に支えられる。
  • Pulse Localの設計は、アカウント不要、通信なし、保存は手元。だからプライバシーの主張を検証できる。
  • 買い切りの料金体系は、利害を一致させる。アプリは役に立つことで成功し、データを吸い上げることでは成功しない。

主張に説得力を持たせるのは、技術的に観察できる手がかりだ。

  • オフラインで動くこと。 ネットなしで動くなら、データはサーバーに送られていない。
  • 通信の様子を観察できること。 利用者は標準的なツールで通信を調べられる。家計簿アプリがバックエンドにHTTPリクエストを送っていれば、データは動いている。
  • 保存場所が分かりやすいこと。 データは標準的な場所(~/Library/Application Support/ など)にあり、利用者が中身を確認し、バックアップを取れる。
  • モデルの重みが公開されているか、ビルドを再現できること。 モデルが公開されていれば、配布されたものが示されたソースと一致するか確かめられる。

逆に、プライバシーの目安として当てにならないものもある。

  • プライバシーポリシー:意図を述べているだけで、技術的な裏づけではない。
  • 第三者による監査:ある時点の記録であり、常時の検証ではない。
  • 暗号化の説明:保存時の暗号化は望ましい。ただし、アプリが平文をネットに送れば、データの流出は防げない。

Pulse Localのいちばん強い手がかりは設計そのものだ。アカウント不要、通常の利用中は通信なし、データは手元に保存。 これらは主張ではなく、観察できる事実だ。

料金体系がプライバシーを左右する

商売の面での緊張は現実にある。アカウントもクラウド推論もないので、継続的な収益は、データや従量課金の計算資源からではなく、ソフトそのものから得るしかない。

Pulse Localは買い切りだ。この方式が成り立つのは、人が買いたくなるほど役に立つ場合に限られる。開発者がデータの収益化や従量課金に頼らずに、製品を維持できることも条件になる。

これは制約だが、欠陥ではない。利害が一致するからだ。アプリは家計簿づくりで成功するのであって、データの吸い上げで成功するのではない。

利用者が期待してよいこと、ローカルが届かないこと

Pulse Localを公平に評価するには、強みと、ベータ版らしい現実的な穴の両方を見る必要がある。

強み

  • 設計の時点でプライバシーが守られている。アカウントもデータの流出も、保管ルールもない。
  • 応答がすぐ返る。通信の遅れも、順番待ちも、利用回数の上限もない。
  • 費用が読みやすい。買い切りで、月額料金はない。
  • オフラインで動く。Wi-Fiも携帯回線もいらない。
  • 計算が確定的だ。合計や件数は、いつも正確に出る。

穴

  • 対応環境が限られる。 Mac、それもApple Siliconのみ。iPhone、iPad、Windows版はない。
  • 端末間の同期がない。 複数のMacで使うなら、データを複製するか、クラウド同期を持ち込むことになる。後者はプライバシーの前提を崩す。
  • 銀行との連携が難しい。 銀行から取引を取り込むには、たいてい集約サービスが必要になる。それはクラウド上にあり、認証情報も預かる。Pulse Localは、ローカル重視の前提を損なわずには使えない。代わりに、手入力やCSVの取り込みを使う。
  • モデルの限界がある。 小さな量子化モデルは、大きなモデルや人間の会計士より、あいまいな質問を読み違えやすい。
  • リアルタイムの通知がない。 アプリが動いていないと、大きな出費があっても知らせてくれない。

期待とのずれ

いちばん大事な穴は、技術面ではなく、期待とのずれだ。Pulse Localは、本格的な金融プラットフォームの代わりにはならない。

すでに手元にある取引から、支出の傾向を知るための道具だ。投資の管理や税金の計画、支払いの代行が必要なら、ほかの道具が要る。

この種のアプリは、不確かさをどう扱えばいいのか。答えは、自然な言葉の答えと一緒に、裏の検索条件や数字も見せることだ。そうすれば利用者は、信じるのではなく確かめられる。

たとえば「先月、食料品に450ドル使いました」と答えるなら、合計した取引の一覧も出す。

「いちばん大きな支出項目は外食でした」と答えるなら、クリックして、外食に分類された取引を見られるようにする。この透明性は弱みではない。小さなモデルで誠実にやるための、ほぼ唯一のやり方だ。

もっと広い兆し:専門ソフトのローカル志向AI

Pulse Localは小さな製品だ。それでも、ひとつの流れを指し示している。小さなモデルと決まった手順の処理を組み合わせ、データを端末に置く専門アプリが出てきている。

数年前まで、端末内の推論は遅すぎたし、メモリも食いすぎて実用的ではなかった。今では当たり前になった。

量子化が進み、一般向けのハードウェアに高性能なニューラルアクセラレーターが載るにつれて、クラウドを往復する意味のある仕事は減っていく。 あと数年もすれば、外部のデータや巨大なモデルの能力を必要としない仕事は、端末内の推論が標準になりそうだ。

これからの興味深い競争は、ローカル対クラウドという抽象的な話ではない。データが繊細で、仕事が狭く、ローカルが文句なく勝てる分野がどこか、という話だ。

ローカル志向の道具が向きそうな分野

  • お金まわり:データは繊細で、質問は構造化されている。最先端のモデルの推論力はいらない、限られた仕事だ。
  • 健康の記録:病歴、検査結果、服薬の状況。どれも私的で、専門性が高い。
  • 個人の文章:日記、メモ、法律文書。外に出さず、手元で分析できればありがたい。

ローカル志向の健康アプリなら、病歴を第三者にアップロードせずに、自分の健康状態を理解できる。ローカル志向の日記アプリなら、私的な思いをサーバーに送らずに、文章の提案や気持ちの整理ができる。

こうした道具の成功は、最先端のモデルとベンチマークで並ぶかどうかでは測れない。日々の質問で、信頼と正確さを得られるかどうかが問われる。

家計簿アプリは、取引を確実に分類できるか。健康アプリは、検査結果を正しく読み解けるか。日記アプリは、でたらめを言わずに役に立つ洞察を出せるか。

Pulse Localは、この仮説の初期の試金石だ。小さく、的が絞られていて、端末内推論のトレードオフを受け入れている。

もしうまくいけば、つまり実際の家計管理に使えるだけの正確さと信頼を利用者が感じれば、同じパターンが繰り返される可能性が高い。

繊細なデータを手元に置く専門ツールを、より多くの開発者が作るだろう。プライバシーと主導権の代わりに、小さなモデルと狭い機能を受け入れる利用者も増えるだろう。

もうひとつの未来は、今のままの姿だ。個人データを扱うアプリは、どれもアカウントを求め、データをサーバーに送り、保管ルールと情報漏えいの危険を利用者に負わせる。この姿は避けられないものではない。

クラウド推論の手軽さと、データを集める会社にとってのデータの価値が生んだ、選択の結果だ。

端末内の推論が当たり前になったら、何が変わるのか

さらに深い問いは、Pulse Localが製品として成功するかどうかではない。繊細なデータについて、ローカル志向が例外ではなく標準になったとき、何が変わるのかということだ。

家計簿アプリがデータを手元に置けば、金融機関は取引データの入手先をひとつ失う。健康アプリが同じことをすれば、製薬会社は服薬の傾向を知る手がかりを失う。

日記やメモが端末に残れば、広告主は行動の手がかりを失う。データ経済は、データが集中することで成り立っている。 分散は、その脅威になる。

だからといって、ローカル志向が勝つとは限らない。結果は、技術以外の要因にも左右される。

  • 規制とプライバシー法
  • 利用者の好みと需要
  • 開発者の動機と事業モデル
  • データで稼がなくても、企業が収益を上げられるかどうか

考えてみたいのは、Pulse Localがクラウド型の家計簿アプリに取って代わるかどうかではない。ローカル志向の道具を求める利用者が十分に増え、市場がその居場所を用意するかどうかだ。

そうなったとき、繊細なデータが本来あるべき端末の上にとどまることで、ほかに何が可能になるのだろうか。

Pulse Localを試すときの目安

Pulse Localが向いているのは、自分で支出を管理していて、Apple SiliconのMacを使っていて、お金のデータをクラウドに置きたくない人だ。

ベータ版は無料か低価格で、プライバシーの保証も本物だ。取引は、あなたのマシンの中にとどまる。

この節のポイント

  • まず少量のデータを取り込み、モデルが自分の支出パターンをどこまで理解するか試す。
  • アプリが作る裏の検索条件を確かめ、聞いたつもりの内容と合っているか見る。
  • 今使っている道具の代わりにせず、併用する。

自分のデータでモデルを試す

数か月分の取引をCSVか手入力で取り込んで、単純な質問をしてみる。「食料品にいくら使った?」

「どんなサブスクに入っている?」といった質問だ。これで、モデルが店名を読み取り、正しい分類に当てはめられるかが分かる。

アプリが見せる検索条件にも目を向けたい。意図どおりなら、モデルは期待どおり動いている。

違っていたら、どこで外れたかを覚えておく。その読み違いが、自分の家計データにおけるモデルの本当の限界を教えてくれる。

普段の使い方に組み込む

今使っている道具の代わりではなく、補う形で使うのがいい。 すでに表計算ソフトやクラウドの家計簿アプリを使っているなら、Pulse Localは手早く傾向をつかむのに向いている。本物のプライバシーも得られる。

ただし、家計管理のやり方を全面的に変える道具ではない。

うまくいっているものを手放す必要はない。繊細なデータを手元に置きたいときのために、もう一層を足すということだ。

この分野を支える

ローカル志向の道具に関心があるなら、このプロジェクトを使い、感想を送ることには意味がある。プライバシーを大切にするソフトの市場は小さい。

利用者が意識して選び、何がよくて何が足りないかを作り手に伝えてはじめて、この分野は生き残る。

ちょっと立ち止まって

家計の管理を便利にするものは、クラウドの向こうにあるのが当たり前だと思っていなかっただろうか。便利さの代わりにデータを渡していることを、普段どれだけ意識しているだろう。

小さなモデルと狭い機能でも、お金のデータが手元に残るなら、あなたはどこまで受け入れるだろうか。そして、受け入れられる範囲を決めているのは、使いやすさだろうか、それとも慣れだろうか。

クラウドベースの従来型予算管理アプリとPulse Localのアーキテクチャ比較図。左側の従来型は、ユーザがAPI通信を通じてクラウドサーバーに接続し、クラウドデータベースと推論エンジンが配置されており、データ漏洩・通信傍受・複数接触面といったリスク面を抱えている。右側のPulse Localは、ユーザがローカルデバイス上でオンデバイス推論エンジンを実行し、ローカルデータ保持により、データ非流出・通信なし・単一接触面といったセキュリティ上の利点を示している。

図2:クラウド型 vs ローカル型予算管理アーキテクチャの比較

専門ソフトウェアにおけるローカルAI統合パターンを示す図。ユーザ(専門家)からの入力データが、医療・法務・設計などの複数のドメイン固有モデルとローカルに保存されたユーザデータを活用するローカル推論エンジンに送られ、専門的な推奨を含む出力結果がユーザに返される一連のデータフローを表現している。

図10:専門ソフトウェアへのローカルAI統合パターン

従来型クラウドサービスとPulse Localの7つの機能・プライバシー項目を比較した表。アカウント要件、データ保存場所、テレメトリ収集、オフライン動作、データ削除権、サブスクリプション、ユーザーデータ所有権について、◎(優れている)○(中程度)△(制限あり)×(非対応)の4段階評価で示している。Pulse Localはほぼすべての項目で◎評価を獲得し、プライバシーとユーザー自主性において従来型クラウドサービスより優位性を示している。

表1:クラウド型サービスとローカル型アプリの機能・プライバシー比較(データソース:feature comparison)

Pulse Localの推奨環境と制限事項を示す表。対応デバイスはMac(Intel/Apple Silicon)、推奨メモリは8GB以上、ストレージは500MB以上の空き容量が必要。macOSバージョンは11.0以上推奨、最小要件は10.15以上。ネットワーク接続は初期設定時に必須。同時接続数は推奨環境で最大5デバイス、最小要件で最大3デバイス。

表2:Pulse Local推奨環境と制限事項