Tag
深層強化学習は、畳み込みニューラルネットワーク（CNN）が下流の制御ポリシーと共に特徴表現を学習するエンドツーエンド訓練アーキテクチャに大きく依存してきました。このパラダイムは、タスク関連の視覚特徴が教師あり勾配降下最適化を通じて習得されなければならず、過度な計算資源と過学習を軽減するための慎重な正則化が必要であるという仮定に基づいています（Mnih et al., 2015; Schaal et al., 2015）。
ゲーティングネットワークは、入力サンプルが4つの異質なエキスパート間で計算負荷をどのように分配するかを決定する重要な制御メカニズムとして機能します。この実装は、ルーティング決定に畳み込み層を採用し、空間特徴抽出を活用して各入力サンプルにどのエキスパートタイプが適切かを識別します。温度スケーリングはルーティングの鋭さを調整し、単一エキスパート割り当て（温度→0）から複数エキスパート間のソフトブレンディング（温度→∞）への制御された遷移を実現します。
トランスフォーマーのクエリ・キー・バリュー（QKV）プロジェクション機構は、Vaswani et al.（2017）が「Attention Is All You Need」を発表して以来、ほぼ疑問の余地なく受け入れられてきました。標準的なアーキテクチャは、スケーリングされたドット積アテンション計算の前に、入力埋め込みを変換するために、クエリ（Q）、キー（K）、バリュー（V）それぞれに対して3つの独立した線形プロジェクションを適用します。
キリガミメタマテリアルは、体系的な切断と折り畳み操作を通じて作成された平面構造であり、三次元構成へと展開します。逆設計問題は形式的に次のように定義されます。目標となる三次元形状 S_target が与えられたとき、P の展開と F が S_target に近似する幾何学を指定された許容範囲内で生成するような二次元切断パターン P と折り畳み構成 F を決定することです。
フォワード・フォワード（FF）学習は、層ごとのローカル学習ルールを実装することで、逆伝播に対する生物学的に妥当な代替案を提案しています。各層はグッドネス関数（正例データと負例データを区別するスカラーメトリクス）を採用し、グローバルなエラー信号なしでの訓練を可能にしています（Hinton, 2022）。この設計上の選択は、標準的なディープラーニングからの大きな転換である逆伝播勾配の必要性を排除しています。
Mixture-of-Experts(MoE)アーキテクチャは、すべてのモデルパラメータを活性化するのではなく、各トークンを学習されたエキスパートのサブセットにルーティングすることで、順伝播あたりの計算コストを削減します。この重みのスパース性メカニズムが、MoEシステムにおける主要な効率向上を構成します。