自分の認知と学習を静かに磨くデジタルノート
速く流れていく情報から少し離れ、自分の頭でじっくり考えられる文章だけを集めています。
更新
2026/9/20
Tag
Equivariant Message-Passing Networks vs. Sheaf-Theoretic Foundations 主張: Equivariant message-passing networks は分子特性予測において経験的な成功を収めていますが、明示的なトポロジー的基礎を欠いています。Sheaf 理論は、微分幾何学およびコホモロジー原理を通じて分子構造をエンコードする、数学的に厳密な代替案を提供します。 前提条件と仮定:...
オンボード実装に向けたML基盤ヘリコプター重量推定器 重量推定がパイロットの認識以上に重要な理由とは ヘリコプターの総重量は離陸時の決定的な入力値であり、必要電力、燃料計画、運用上の安全マージンを支配するパフォーマンス計算を左右します。従来の重量推定は乗客数、貨物マニフェスト、燃料量の手動合計に依存しており、転記エラー、不完全な装備計上、飛行前計算とエンジン始動の間に発生する実時間燃料消費変動に対して脆弱です。5%の重量推定誤差は電力要件計算において直接的...
L-FNO: ロレンツ型フーリエニューラルオペレータ確率事象ダイナミクス向け 運用システムにおける不確実性：通常の仮定を超えて 現代の運用システムは、期待される条件から根本的に逸脱する障害モードに直面しています。サプライチェーンは需要ショックを経験し、金融市場はボラティリティクラスタリングを示し、インフラネットワークはカスケード障害を呈します。これらの現象は二つの異なる源から生じます。外生的共変量（市場シグナル、気象パターン、政策変化）と内生的ダイナミクス（...
トランスフォーマーを幾何学として捉える：層別表現進化がなぜ重要か トランスフォーマーは言語タスクとビジョンタスク全般で最先端の性能を達成していますが、その学習メカニズムは依然として完全には特性化されていません。解釈可能性研究の大多数は二つの異なるスケールで動作しています。微視的スケール（個別の注意ヘッド、特定のニューロン）と巨視的スケール（最終出力ロジット、集約損失関数）です。ここに重要な欠落が生じています。中視的スケール、つまり層スタック全体にわたる表現幾何学の...
前置き トランスフォーマー代理モデルがエンジニアリング設計に進出—しかしスケール不整合がそれらを破壊します トランスフォーマーベースの代理モデルは、半導体設計ワークフローにおいて高コストの第一原理シミュレーションを置き換えています。かつて有限要素法の計算に8時間を要した熱解析が、学習済みモデルを通じてミリ秒単位で実行されます。このスピード向上は実質的なものですが、モデルが訓練データを超えて一般化する場合に限られます。 採用パターンは一貫しています。チーム...
深層強化学習における凍結ランダムCNN特徴抽出器での出現スパース性 従来のアプローチ：訓練可能な特徴抽出器 深層強化学習は、畳み込みニューラルネットワーク（CNN）が下流の制御ポリシーと共に特徴表現を学習するエンドツーエンド訓練アーキテクチャに大きく依存してきました。このパラダイムは、タスク関連の視覚特徴が教師あり勾配降下最適化を通じて習得されなければならず、過度な計算資源と過学習を軽減するための慎重な正則化が必要であるという仮定に基づいています（Mnih ...
多次元アテンション問題 アテンション機構に対するサブクワドラティック代替案は提案されていますが、多次元データへの適用は理論的にも実践的にも制約されたままです。この制約は根本的なアーキテクチャの不整合から生じています。標準的な畳み込みは空間的局所性を保持しますがグローバルコンテキストを犠牲にします。再帰的アプローチはシーケンシャル処理を通じてグローバルな受容性を達成しますが、破壊的な次元削減（ラスタライゼーション）を必要とします。アテンション機構はグローバルな受容...
ポジション：説明可能性研究は恣意的手法よりも基礎に優先順位を置くべき 増殖と影響のパラドックス 説明可能AI研究は多数の技術を生み出してきました。特徴帰属法（LIME、SHAP）、顕著性マッピング、スパースオートエンコーダ、注意メカニズムの可視化などです。しかし、これらが実質的な意思決定に及ぼす影響についての経験的証拠は限定的です。組織の導入パターンから見ると、説明は主にコンプライアンス成果物として機能しています。規制要件や監査プロセスを満たすために生成され...
ナレッジグラフとグラフニューラルネットワークの融合：包括的サーベイ グラフニューラルネットワークがナレッジグラフシステムを再構築する理由 グラフニューラルネットワークがナレッジグラフ処理の支配的な計算パラダイムとして台頭した理由は、関係構造を二次的な特徴に還元するのではなく、計算の主要な基盤として保持するからです。この区別は根本的です。従来の埋め込みベースのアプローチ（TransE、DistMult、ComplExなど）は、エンティティと関係を固定ベクトル...
テンポラルグラフネットワークのメモリバックトラッキングとトポロジカルアトリビューションを通じた説明可能性へ向けて テンポラルグラフネットワークにおける不透明性の問題 テンポラルグラフネットワーク（TGN）は、不正検知、推薦システム、ソーシャルネットワーク分析といったアプリケーションで、動的な関係データをモデル化するために広く導入されています。固定されたトポロジーで動作する静的グラフニューラルネットワークとは異なり、TGNは新しいイベントが発生するたびにノー...
Ternlight – ブラウザで動作する7 MBの埋め込みモデル（WASM） 極限圧縮のアーキテクチャ Ternlightは三値量子化という手法を通じて7 MBのフットプリントを実現しています。この手法はモデルの重みを3つの離散値（−1、0、+1）に制限するものです。このアプローチは確立された知識蒸留の原理に基づいており、より小さなモデルが大規模な埋め込みモデルの出力動作を近似することを学習しながら、意味情報をエンコードする幾何学的関係を保持します。 *...
認知診断のための多層Q行列埋め込みニューラルネットワーク（M-QCDNet）：心理測定的解釈可能性のための構造認識型深層学習アーキテクチャ 教育用ニューラルネットワークにおける解釈可能性の危機 教育評価システムは、学生のスキル推定における予測性能を向上させるため、ニューラルネットワークの採用を急速に進めています。しかし、この採用は重大な信頼性ギャップを生み出しています。教育者と評価実践者は、モデルが特定の学生に対してなぜ特定のスキル欠陥を割り当てるのかを確...
表現層がメカニスティック解釈可能性のボトルネックとなる問題：マニフェステーション・ユニット・プロトコル インベントリ問題：豊かな分析、閉じ込められた出力 メカニスティック解釈可能性は実質的な経験的進展をもたらしています。研究者は特定の意味的特徴をエンコードするニューロンを特定する手法（Elhage et al., 2022）、注意ヘッドのルーティングパターンをマッピングする手法（Clark et al., 2019）、モデルの計算を解釈可能な回路に分解する手...
ロープド言語モデルにおける読み出し盲点：密な教師信号では不十分 読み出しボトルネック：交差エントロピーが実際に教師信号を与えるもの ロープド言語モデル（隠れ状態ベクトルが反復を通じて保持され、各ステップで復号化されてから後続の計算に再入力されるアーキテクチャ）は、根本的な教師信号の非対称性をもたらします。標準的な交差エントロピー損失は読み出し層の出力（各タイムステップでの復号化されたトークン予測）のみに作用しますが、再帰的な状態遷移は完全な隠れ状態ベクトル...
4エキスパート異質型Mixture-of-Expertsの自動パイプライン探索による体系的検証 畳み込みゲーティングとエキスパートルーティング ゲーティングネットワークは、入力サンプルが4つの異質なエキスパート間で計算負荷をどのように分配するかを決定する重要な制御メカニズムとして機能します。この実装は、ルーティング決定に畳み込み層を採用し、空間特徴抽出を活用して各入力サンプルにどのエキスパートタイプが適切かを識別します。温度スケーリングはルーティングの鋭さ...
ガウス混合注意機構：確率的潜在ルーティングによる線形時間シーケンス混合 ボトルネック：スケール時の密集注意機構 標準的なTransformer注意機構は、すべてのクエリとキー間のペアワイズ類似度スコアを計算するため、長さNのシーケンスに対してO(N²)の演算とO(N²)のメモリが必要です。32,768トークンのシーケンスでは、10.7億要素の注意行列が生成されます。この二次複雑性は、本番システムにおいて2つの異なる障害モードを引き起こします。 1. メ...
トランスフォーマーアテンションにおける実行制御の欠陥 アテンションメカニズムにおける実行制御のギャップ トランスフォーマーのアテンションメカニズムは、人間の認知を区別する重要な能力を欠いています。それが実行制御です。ここでは実行制御を、訓練データから学習した統計的パターンのみに依存するのではなく、タスク目標と文脈的要求に基づいて戦略的に情報フローを調整する能力として定義します。人間の認知は、トップダウンの制御プロセスを採用し、タスク無関連な情報を抑制し、目...
トランスフォーマーは3つのプロジェクションを必要とするのか。QKVバリアントの体系的研究 標準的な3プロジェクション構造の再検討 トランスフォーマーのクエリ・キー・バリュー（QKV）プロジェクション機構は、Vaswani et al.（2017）が「Attention Is All You Need」を発表して以来、ほぼ疑問の余地なく受け入れられてきました。標準的なアーキテクチャは、スケーリングされたドット積アテンション計算の前に、入力埋め込みを変換するため...
データ構成がスケールを上回るようになった LLM事前学習の有効性は、データセットの規模よりもデータ構成によってますます決定されるようになっています。 より大規模なデータセットが均一にモデル性能を向上させるという従来の仮定は、経験的に異議を唱えられています。スケーリング則とデータ効率に関する最近の研究（Hoffmann et al., 2022; Chinchilla scaling）は、キュレーションされた低容量のデータセットが、より大規模で異質な集合より...
マスク離散シーケンスモデルにおけるペアワイズ相互情報量のニューラル推定 マスクシーケンスモデルにおける隠れた依存性の問題 マスク離散シーケンスモデル—タンパク質構造予測（AlphaFold2、OmegaFold）、コード生成（CodeBERT、GraphCodeBERT）、自然言語処理（BERT、RoBERTa）に展開されているものを含む—は条件付き独立性の仮定の下で動作します。これらのモデルはマスクされたトークンを可視コンテキストに条件付けて予測します。形...
強化学習を用いた逆構造設計とキリガミプロトタイプの高速レーザーカッティング キリガミメタマテリアルにおける逆設計の課題 キリガミメタマテリアルは、体系的な切断と折り畳み操作を通じて作成された平面構造であり、三次元構成へと展開します。逆設計問題は形式的に次のように定義されます。目標となる三次元形状 S_target が与えられたとき、P の展開と F が S_target に近似する幾何学を指定された許容範囲内で生成するような二次元切断パターン...
フラットな最小値は幻想なのか フラットネスのパラドックス：損失ランドスケープの幾何学が測定アーティファクトになるとき 主張： フラットな最小値がより良い汎化と相関するという広く信じられている見方は、モデル自体の根本的な性質ではなく、パラメータ化の選択によって生じた幻想に基づいているかもしれません。 根拠： ニューラルネットワークの損失ランドスケープは座標に依存しません。損失関数 $\mathcal{L}(\theta)$ はパラメータ化 $...
スカラー既約学習ダイナミクスによる内生的レジーム転換 学習システムにおけるスカラー既約性の分断 現代の機械学習システムはスカラー目的関数を最適化します。つまり、事前に定義されたターゲットからの距離を定量化する損失関数です。この運用上の制約は、基本的な数学的区別を確立します。スカラー既約ダイナミクスは単一のポテンシャル関数φ(θ)の負の勾配として表現できますが、スカラー既約ダイナミクスはそのような還元に抵抗します。 定義（スカラー既約性）...
クラウドは見た目より近い：分散リアルタイム推論のトレードオフを再考する サイバーフィジカルシステムにおける知覚とレイテンシの相互作用 深層ニューラルネットワークは自動運転車、産業用ロボット、スマートインフラストラクチャの知覚を駆動しています。精度の向上はリアルタイム意思決定を改善しますが、エッジデバイスがハード期限内に提供することが難しい計算リソースを要求します。従来の通説—ネットワークレイテンシを最小化するため推論をエッジにプッシュする—は、インフラストラ...
訓練中のスペクトル動力学：理解の転換 これまで、トランスフォーマーの重み行列は主に推論時、あるいは訓練済みモデルの事後分析を通じて研究されてきました。一般的な仮定は、スペクトル特性（特異値分布、安定ランク、べき乗則指数）が訓練の初期段階で安定化し、層全体でほぼ均一に保たれるというものでした。この見方は、訓練プロセスを本質的に不透明なシステムとして扱い、その内部的なスペクトル進化は観測不可能か、モデル動作の理解にとって周辺的なものと考えていました。 30M から ...
DeepSeekのV4モデルが重要である3つの理由 DeepSeek V4では何が起きたのか DeepSeekは[日付を指定]にV4のプレビューをリリースし、これを製品ラインの主力モデルとして位置付けています。このリリースの重要性を正確に枠組みするには、DeepSeekが確立したパターンを理解する必要があります。同社は、オープンソースモデルを継続的にリリースしており、これらは文書化されたパフォーマンス特性を備え、推論操作あたりの計算コストが低い状態で、独占...
BASIS: Balanced Activation Sketching with Invariant Scalars for "Ghost Backpropagation" Deep Learningにおけるメモリの壁：制約から機会へ ニューラルネットワークの訓練は根本的なアーキテクチャ制約に直面しています。逆伝播のための活性化を保存するには、O(L × B × N)に比例するメモリが必要です。ここでLはネットワーク深度、Bはシーケンス・バッチの基数、Nは...
思考のスペクトル幾何学：位相転移、命令反転、トークンレベルダイナミクス、およびトランスフォーマーの推論における完全な正確性予測 スペクトル位相転移：推論の隠れた幾何学 論題： 大規模言語モデルは、隠れた活性化空間におけるスペクトル位相転移を示し、これが推論タスクと事実想起タスクと相関している。これらの転移は実装ダイナミクスにおいてアーキテクチャ固有であるが、モデルファミリー全体で一貫した方向性パターンを示す。生成中に測定されたスペクトル署名は、最終ト...
スパースグッドネス：選択的測定がフォワード・フォワード学習をいかに変革するか グッドネス関数のボトルネック フォワード・フォワード（FF）学習は、層ごとのローカル学習ルールを実装することで、逆伝播に対する生物学的に妥当な代替案を提案しています。各層はグッドネス関数（正例データと負例データを区別するスカラーメトリクス）を採用し、グローバルなエラー信号なしでの訓練を可能にしています（Hinton, 2022）。この設計上の選択は、標準的なディープラーニングから...
ディフュージョンとアテンションの接続 トランスフォーマーとディフュージョンの背後にある統一的な幾何学 トランスフォーマー、ディフュージョンマップ、磁気ラプラシアンは、従来、異なる数学的対象として、独立した理論的基礎を持つものとして扱われてきました。しかし最近の理論的研究——特に最適輸送と幾何学的深層学習の領域で——これらが共通の基礎構造から生じることを示唆しています。その構造とは、ソフトマックス前のクエリ・キースコアから構成されたマルコフ幾何学です。この接...
CUDAに対抗するROCm：「一歩ずつ進める」 CUDAの競争優位性とAMDの段階的な挑戦 NVIDIAのCUDAエコシステムは、2006年のCUDA導入から始まる約17年間の継続的な開発を通じて確立された、GPU計算における実質的な競争優位性を表しています。この優位性は単なる技術仕様にとどまらず、ライブラリ、フレームワーク、開発者教育、組織的ワークフローの統合システムであり、既存ユーザーにとって切り替えコストを生み出しています。 前提条件：「競争...
バングラデシュ市場価格データセットを用いた農業商品価格予測における古典的機械学習モデルと深層学習モデルのベンチマーク 問題：断片化されたデータと手動予測 発展途上経済における農業商品価格は、歴史的に手動観察と季節的ヒューリスティクスを通じて予測されてきました。バングラデシュの小規模農家と食糧安全保障計画者は、信頼できる定量的モデルなしで運用されており、不完全な市場報告書と遅延した政府公報に依存していました。この運用上の制約により、意思決定者は価格ショックに...
破砕媒質シミュレーションにおける不均質性問題 破砕媒質シミュレーションにおける不均質性問題 破砕結晶質岩における地下水流動は、根本的な緊張関係を示します。亀裂は無視できない極端な空間不均質性を生み出しますが、それを完全に捉えるには法外な計算コストが必要です。三次元離散亀裂マトリックス（DFM）システムでは、透水係数がスケール全体で桁違いに変化します。亀裂は通常、周囲の岩石よりも10～100倍透水性が高く、不規則でまばらな幾何学を持ちます。微細スケールシミュ...
前置き 事前学習の成果と運用現場のギャップ トランスフォーマーベースのモデルは、大規模な自己教師あり事前学習を通じて、縦断的な電子健康記録（EHR）の予測精度において改善を示しています。GT-BEHRTおよび関連アーキテクチャは、患者軌跡から大規模に分散表現を学習することで、再入院、死亡率、有害事象を含む臨床転帰の予測において測定可能な成果を達成しています。しかし、この実験室環境での性能は、根本的なメカニズムを隠蔽しています。すなわち、研究環境での性能と運用...
DeLuLuはもう不要：物理学にインスパイアされたカーネルネットワークによる幾何学的に根拠づけられたニューラル計算 深層学習における活性化関数の危機 現代の深いニューラルネットワークは計算を標準化されたパイプラインに分解しています。線形変換、非線形活性化、正規化層です。このアーキテクチャパターンは原理的な導出ではなく経験的観察から生まれました。広く採用されている活性化関数（ReLU（整流線形ユニット）、GELU（ガウス誤差線形ユニット）およびそれらの変種）...
リアルタイム閾値：Heliosが実現するもの Heliosは再生速度以上の速度で一貫性のあるビデオシーケンスを生成することでリアルタイムビデオ生成を実現し、先行する生成型ビデオモデルに内在する後処理の遅延を排除しています。 これは動作レジームの根本的な転換を示しています。従来のシステムは二つの制約のいずれかで動作していました。短いクリップ（5～30秒）をサブリアルタイム速度で生成するか（計算時間が出力時間を超える）、または生成出力1分あたり数時間のオフライ...
未来の相関を解く：時空間予測のための結合周波数領域学習 ポイント単位の損失関数が時空間構造を見落とす理由 標準的な予測モデルは平均二乗誤差（MSE）または平均絶対誤差（MAE）を最適化します。これらの目的関数は、各空間位置と時間ステップで予測誤差を独立に罰します。このアプローチは暗黙の仮定に基づいています。すなわち、ポイント単位の誤差を最小化することが、交通ネットワーク、気象グリッド、センサアレイといったグラフ構造データに内在する依存関係を自動的に捉えると...
Talos: ディープ畳み込みニューラルネットワーク向けハードウェアアクセラレータ アーキテクチャと設計哲学 Talosは汎用GPU設計から意図的に決別し、多様な計算ワークロードに対応することを放棄して、畳み込みニューラルネットワーク（CNN）推論に特化した設計を採用しています。この特化は基本的な観察に基づいています。すなわち、畳み込み演算がほとんどのビジョンモデルにおける計算ボトルネックであり、固定機能ハードウェアアクセラレーションに適した予測可能なデータ...
テンソルネットワークを組み合わせ最適化の生成モデルとして活用する テンソルネットワーク生成器強化最適化（TN-GEO）フレームワークは、巡回セールスマン問題（TSP）を離散的な組み合わせ探索タスクから確率的生成問題へと再構成します。局所探索や分枝限定法を通じて候補解を反復的に改善するのではなく、TN-GEOは行列積状態（MPS）—量子多体物理学に由来するテンソルネットワーク構造—を訓練し、高品質な実行可能ツアーに集中した確率分布を学習します。 基本的な原理は、...
季節トレンド分解の再検討：時系列予測の強化に向けて 現代的予測における分解の必然性 従来の時系列予測では、ニューラルネットワークが生の系列からトレンド、季節性、周期的パターン、ノイズを同時に学習する必要があります。この同時最適化は二つの明確な課題をもたらします。第一に最適化の困難性です。モデルは異なる時間特性を持つ複数の成分にわたって競合する目的関数のバランスを取らなければなりません。第二に解釈可能性の低下です。学習された表現が複数の信号源を混在させるため、...
FedUMM: 統一マルチモーダルモデルを用いた連合学習の一般的フレームワーク 基礎アーキテクチャとしての統一マルチモーダルモデル 統一マルチモーダルモデル（UMM）は、モダリティ固有のパイプラインから統合アーキテクチャへの基礎モデル設計における構造的転換を表しています。テキスト、画像、ビデオ、オーディオに対して個別の処理経路を維持する代わりに、UMMはこれらのモダリティを単一のニューラルアーキテクチャに統合し、すべての入力タイプにわたって生成タスクと理解タ...
♪より良いアテンション・プライアが必要だ ♪ 注意は最適輸送手段であるなぜ事前分布が重要なのか？ Claim:標準的なソフトマックスアテンションメカニズムはトークン位置に対する暗黙の一様事前分布を埋め込んでいる。この事前分布は数学的に任意であり、特定のタスクやデータ分布に対して最適でないことが多い。 理由と証拠: ソフトマックス注意は正則化された最適輸送問題を解く(Gechinovskiy et al., 2022; Petersen et...
MoEの計算効率を重みとデータのスパース性の組み合わせで改善する 重みのスパース性:基盤 Mixture-of-Experts(MoE)アーキテクチャは、すべてのモデルパラメータを活性化するのではなく、各トークンを学習されたエキスパートのサブセットにルーティングすることで、順伝播あたりの計算コストを削減します。この重みのスパース性メカニズムが、MoEシステムにおける主要な効率向上を構成します。形式的には、モデルが合計E個のエキスパートを含み、各トークンが...
分割と洗練：会話における感情認識のためのマルチモーダル表現と説明可能性の強化 感情認識におけるマルチモーダル信号 主張: 会話文脈における感情認識には、3つの異なる情報源を統合するシステムが必要である：モダリティ固有の手がかり（個々のチャネルに固有の信号）、モダリティ間で共有される信号（冗長な情報）、および創発的相互作用（マルチモーダルの組み合わせからのみ生じる相乗的パターン）。 根拠と理論的基盤: 感情状態は複数のコミュニケーションチャネ...
LLM埋め込み空間における離散的意味状態とハミルトン動力学 LLM埋め込みにおける数学的構造 大規模言語モデルは、学習された変換を通じて意味情報を高次元ベクトル空間に投影する。これらの空間の内部組織—連続的か離散的か—は、未解決の実証的問題である。最近の計算的調査は、LLM埋め込みが均一な連続分布ではなく、離散的な意味組織と一致するクラスタリングパターンを示すことを示唆している。具体的には、意味的に類似した概念を表すトークンは埋め込み空間内の局所的な近傍を占...
テンソルネットワークモデル:深層学習に対するコンパクトな代替手段 高輝度大型ハドロン衝突型加速器(HL-LHC)におけるリアルタイム粒子分類は、明確に定義された制約の下で動作する推論システムを必要とする:マイクロ秒スケールのレイテンシ予算(トリガー段階でイベントあたり通常1~10 μs)、限られた電力エンベロープ(処理ノードあたり10~100 W)、および決定論的実行プロファイル。テンソルネットワーク(TN)モデル—特に行列積状態(MPS)とツリーテンソルネットワ...
ブラックボックス時系列モデルにおける説明可能性の危機 ブラックボックスモデルと事前学習済みアーキテクチャは、現在、金融、医療、産業システム全体にわたる時系列予測、異常検知、センサーデータ分析を支配している。しかし、その広範な採用は、厳密な説明手法の開発を上回るペースで進んでいる。医療モニタリング、金融取引、重要インフラといった高リスク領域では、説明不可能な予測が規制上および運用上の摩擦を生み出している。組織は記録された緊張関係に直面している:優れた予測精度を活用し...
RewriteNets: 生成的系列モデリングのためのエンドツーエンド訓練可能な文字列書き換え 現代の系列モデルにおける複雑性問題 Transformerベースのアーキテクチャは生成的系列モデリングの支配的なパラダイムとなっているが、十分に文書化された計算上の制限を示している:系列長における二次複雑性(O(n²))である。この複雑性は、注意機構がすべてのトークン位置間のペアワイズ類似度スコアを計算する必要があることから生じる。長さnの系列に対して、各注意ヘッ...
滑らかで解釈可能な正規化フローのための解析的全単射 正規化フローにおける可逆性の課題 正規化フローは、可逆変換の合成 $T = fn \circ f{n-1} \circ \cdots \circ f1$ を通じて扱いやすい密度推定を可能にします。ここで、対数尤度は次のように分解されます: $$\log p(x) = \log p0(z) - \sum{i=1}^{n} \log \left| \det \frac{\partial fi}{\...
思考の幾何学：トロピカル多項式回路としてのTransformerの開示 トロピカル幾何学が自己注意機構をMax-Plus代数として明らかにする 主張： Transformerの自己注意機構は、高信頼条件下においてmax-plus代数（トロピカル半環）として動作し、これはsoftmax関数における逆温度パラメータβを通じて形式化できる。 前提条件と定義： - Softmax注意機構は次のように定義される：α(i,j) = exp(β·s(i,...
スペクトル生成フローモデル:ベクトル化された大規模言語モデルに代わる物理学に着想を得た手法 トークンからフィールドへ:物理学に基づく代替手法 スペクトル生成フローモデル(SGFM)は、逐次情報の表現と処理方法において、トランスフォーマーアーキテクチャからの構造的な転換を表しています。言語をトークン列に離散化してグローバルアテンション機構を適用するのではなく、SGFMはテキスト生成をウェーブレット基底における確率微分方程式によって支配されるフィールドの連続的な...