プロンプトで作ったウェブサイトの多くは、同じ見た目に行き着く。紫のグラデーション。角の丸い大きなカード。中央に置かれた見出し。どのSaaS企業にも使えそうなアイコンの並び。この画一性は、好みの偏りから生まれたものではない。言語モデルの仕組みから出てくる、数学的な性質だ。「見栄えよく作って」と頼むと、何が起きるのか。モデルは、学習したデータの統計的な中心に向かって出力を整える。
スマホで小さな言語モデルを動かすのは、自然な第一選択だ。しかし負荷がかかると、そのスマホが突然固まることがある。端末内推論には利点が多い。データは端末の外に出ない。オフラインでも動く。質問1回ごとの料金もかからない。どの点を見ても、処理はスマホの中で済ませたほうがよさそうに思える。問題が出るのは、負荷がかかったときだけだ。最上位クラスのSnapdragon搭載機で生成を続けると、動作が遅くなるだけでは済まない。動作そのものが不安定になる。
株を買う側は「この会社は欲しい。でも、その値段では買わない」と考えることがある。Accelevation Holdingsの新規株式公開（IPO）で起きたのが、まさにこれだ。同社は1株18ドルで約3,000万株を売り出し、5億4,000万ドルを調達した。ところが、事前に示されていた価格帯は19〜22ドルだった。最終価格は、その下限を約5%下回った。この差は、調達額の大きさよりも多くのことを物語っている。希望した評価額では、買い注文が思ったほど集まらなかったということだ。
月を望遠鏡でのぞくと、不思議なことに気づく。いちばん明るい満月は、のっぺりして見える。ところが、昼と夜の境目あたりの薄暗い部分では、山も谷も立体的に浮かび上がる。光が少ないほうが、地形がよく見える。この逆転は、月を観察する人を昔から驚かせてきた。月の昼と夜を分ける線を、ターミネーター（明暗境界線）という。理屈のうえでは単純なはずだ。球に日光が当たれば、きれいな境目ができるだけだからだ。では、なぜ実際の見え方はこんなに複雑なのか。ここには3つの理由が重なっている。
OpenAIが、公開前の新モデルをお蔵入りにしたと報じられている。理由は、能力が高すぎたことではない。ウォール・ストリート・ジャーナルが引用した幹部の言葉によれば、そのモデルは「命令に従う適性が低かった」という。穏やかに聞こえる言葉だが、深刻な問題を指している。AIが質問に答える段階から、実際に行動する段階へ移るなかで、開発企業が直面しうる最も重い問題の一つだからだ。この記事では、その失敗が何を意味するのかを考える。研究所の言葉選びがなぜ重要なのかも見ていく。
数ドルで買えて、消費電力もLED1個ほどのボードで言語モデルを動かす。SFのような話に聞こえるが、BitNetの3値の重みがそれを可能にする。ESP32-S3というマイコンを複数つないだクラスターを見ると、何が実際に動き、どこに本当の限界があるのかが分かってくる。限界のほとんどは、最初に思い浮かぶ場所にはない。
気になるキーワードをクリックすると関連する記事へジャンプします。