マルチタスク学習 | Tags

2026年9月17日 14:38

Abstract visualization of interconnected graph neural networks with misaligned structures, showing fragmented connections between nodes in blue and purple tones against a dark gradient background, representing challenges in multi-task graph pre-training

タスク固有プロンプトとグローバルコンテキストを用いたマルチタスクグラフ事前学習

マルチタスクグラフ事前学習フレームワークは、根本的な構造的不整合に直面しています。ランダムに初期化されたプロンプトは、事前学習された知識を下流タスクに効果的に転移させるために必要な帰納的バイアスを欠いています。この不整合は、それぞれが文書化された結果をもたらす3つの異なる失敗モードを通じて現れます。第一に、弱いタスク関連性が生じるのは、プロンプトがタスク目的への明示的な整合性を持たない制約のないパラメータとして機能するときです。

#グラフニューラルネットワーク #プロンプト学習 #マルチタスク学習

AI・機械学習

2026年1月23日 04:02

Abstract visualization of transfer learning showing a neural network with glowing blue nodes transferring knowledge through flowing data streams to multiple smaller networks against a dark gradient background

マルチソース転移学習におけるソース重みと転移量の統合最適化:漸近的フレームワーク

転移学習は機械学習における根本的な課題に対処する:ターゲットタスクのラベル付きデータが限られている場合に、許容可能なモデル性能を達成することである。実務者は、希少なターゲットデータでモデルをゼロから訓練するのではなく、関連するソースタスクから学習した表現とパラメータを活用して、サンプル複雑度を削減し、汎化性能を向上させる(Yosinski et al., 2014; Pan & Yang, 2010)。

#転移学習 #機械学習 #最適化アルゴリズム