テンポラルグラフネットワークのメモリバックトラッキングとトポロジカルアトリビューションを通じた説明可能性へ向けて

テンポラルグラフネットワークにおける不透明性の問題

テンポラルグラフネットワーク（TGN）は、不正検知、推薦システム、ソーシャルネットワーク分析といったアプリケーションで、動的な関係データをモデル化するために広く導入されています。固定されたトポロジーで動作する静的グラフニューラルネットワークとは異なり、TGNは新しいイベントが発生するたびにノードのインタラクション履歴を記録するメモリモジュールを維持しています。このメモリモジュールはモデルの内部状態表現として機能し、テンポラル依存性とインタラクションシーケンスをエンコードして、下流の予測に情報を与えます。

しかし、TGNの既存の説明可能性手法には重大な制限があります。メモリモジュールを不透明なコンポーネントとして扱い、説明の努力を現在のスナップショットにおける直接的なグラフ構造（エッジとノード）に限定し、テンポラル影響経路がメモリ更新を通じてどのように伝播するかを検証していません。これは説明可能性カバレッジの根本的なギャップを表しています。メモリモジュールは受動的なストレージではなく、履歴パターンのエンコーディングを通じて予測を形作る能動的な計算コンポーネントだからです。

• *コア技術的問題**は以下のように形式化できます。時刻$t$でのTGN予測$\hat{y}t$が与えられたとき、既存の説明手法は入力グラフ$G_t$における重要な特徴を特定しますが、先行するメモリ状態$m{t-1}, m_{t-2}, \ldots, m_0$の最終予測への寄与を分解することができません。メモリ進化プロセス—$m_t = \text{UPDATE}(m_{t-1}, e_t)$（$e_t$は新しいインタラクション）がどのように機能するか—は説明されないままです。予測形成の中心であるにもかかわらずです。

この見落としは高リスク領域で特に重大な結果をもたらします。不正検知では、規制当局は自動化された決定の正当性を要求します。現在のグラフ構造に限定された説明では、フラグが立てられたトランザクションが正当な履歴パターンに由来するのか、それとも偽の相関に由来するのかを示すことができません。推薦システムでは、テンポラル影響を理解することは、モデルがデータセットアーティファクト（例えば、ユーザー識別子の暗記）を悪用しているのか、それとも一般化可能な嗜好ダイナミクスを学習しているのかを検出するために不可欠です。説明忠実性（モデル動作を正確に記述すること）と説明妥当性（真の因果要因を特定すること）の区別は、ステークホルダーが予測が正当な基盤に基づいていることを検証する必要があるときに重要になります。

• 前提条件*：TGNアーキテクチャが明示的なメモリモジュール（例えば、再帰関数、注意メカニズム、またはグラフ畳み込みを通じて更新されるノード埋め込み）を採用していると仮定します。これは永続的な状態を持たない純粋な注意ベースのテンポラルモデルを除外しますが、フレームワークは修正を加えてそのようなアーキテクチャに拡張される可能性があります。

• 図2：TGNアーキテクチャと既存説明可能性手法の限界 - メモリモジュールが説明対象外となっている構造*

メモリバックトラッキング：テンポラル影響経路のトレース

メモリバックトラッキングは、TGNのメモリモジュールを通じて履歴イベントが現在の予測にどのように寄与するかを分解するための体系的な方法を提供します。メモリを分割不可能なものとして扱う代わりに、この技術は各メモリ更新操作が後続の予測にどのように影響するかを分析することで、時間を遡って影響を逆向きにトレースします。

プロセスは予測の瞬間から始まり、再帰的に、最終出力に実質的に影響を与えたメモリ更新をトリガーした先行するインタラクションを特定します。これにより、予測から発信イベントまでの因果チェーンをマッピングするテンポラルアトリビューショングラフが作成されます。技術的には、これはメモリ更新関数自体を通じた勾配の計算を含み、情報がテンポラルステップ全体でどのように伝播するかを明らかにします。

このアプローチは、入力出力パターンを通じて知識を推測する行動的手法とは根本的に異なります。メモリバックトラッキングは内部状態進化の直接的な内省を可能にします—モデルをブラックボックスとして扱う代わりに、履歴データを予測に変換する実際の計算メカニズムを検証します。

• *実践的な課題**には、長いシーケンス全体での勾配消失問題と中間メモリ状態の保存の計算コストが含まれます。近似戦略—バックトラッキング深度の制限や代表的な経路のサンプリングなど—は説明忠実性を維持しながら実践的な妥協案を提供します。

トポロジカルアトリビューション：テンポラル影響における構造パターン

メモリバックトラッキングが予測に影響を与える個々の履歴イベントを特定する一方で、トポロジカルアトリビューションはこれらの影響経路内の構造パターンを分析します。これは異なるが補完的な問題に対処します。モデルはメモリを形成するときにどのグラフ構造を優先しますか？

動機付けと範囲

テンポラルグラフは反復的なモチーフ—三角形（推移的閉包）、スター（ハブアンドスポークパターン）、チェーン（順序付きインタラクション）—を示し、ドメイン固有の意味論的意味を持ちます。引用ネットワークでは、閉じた三角形は研究コミュニティを示す可能性があります。金融トランザクションネットワークでは、突然のスターパターンはマネーロンダリングを示す可能性があります。よく設計されたモデルは、そのドメインに対してこれらの構造に適切に重みを付けるべきです。

トポロジカルアトリビューションは、異なるサブグラフ構造がメモリ形成にどのように寄与するかを定量化し、ノードレベルの重要度スコアを超えてパターンレベルの説明に移行します。これは説明フレームワークにドメイン知識を埋め込みます。すべてのエッジを等しく扱う代わりに、特定の構造構成が意味論的に意味があることを認識します。

形式的定義

$\mathcal{M} = {M_1, M_2, \ldots, M_k}$を事前定義されたモチーフテンプレートのセット（例えば、三角形、4-クリーク、有向パス）とします。テンポラル影響グラフ内の各モチーフインスタンス$m_i$に対して、アトリビューションスコアを計算します。

$$\alpha(m_i) = \sum_{(u,v) \in m_i} w(u,v) \cdot \text{INFLUENCE}(u,v)$$

ここで、$w(u,v)$は構造的重み（例えば、モチーフ内の中心性）であり、$\text{INFLUENCE}(u,v)$はメモリバックトラッキングからの勾配ベースの影響スコアです。

モチーフタイプ$M_j$のすべてのインスタンス全体で集約します。

$$\text{ATTR}(M_j) = \frac{1}{|M_j|} \sum_{m_i \in M_j} \alpha(m_i)$$

これにより、モデルが優先する構造パターンのランキングが得られます。

ドメイン固有の解釈

この方法論では、ドメイン専門家が意味論的に意味のあるモチーフを定義する必要があります。不正検知では、専門家がトランザクション量の急激な増加（スターパターン）が疑わしいことを指定する可能性があります。一方、推薦システムでは、相互インタラクション（双方向エッジ）が強い嗜好を示す可能性があります。トポロジカルアトリビューションスコアを計算することで、学習されたモデルがドメイン直感と一致しているか、それとも代替パターンを発見したかを検証できます。

• 例*：ソーシャルネットワーク推薦モデルでは、トポロジカルアトリビューションが閉じた三角形（友人の友人）にモデルが大きく重みを付けていることを明らかにした場合、これはモデルが推移性が予測的であることを学習したことを示唆しています。代わりに、モデルがスターパターン（多くのフォロワーを持つユーザー）に重みを付けている場合、これはモデルが影響力または人気度シグナルを優先していることを示しています。

メモリバックトラッキングとの補完性

デュアルレベル分析—テンポラルバックトラッキング（どのイベントが重要か）とトポロジカルアトリビューション（どの構造が重要か）を組み合わせる—は、どちらのアプローチ単独よりも豊かな説明を提供します。メモリバックトラッキングは「いつ、どれ」に答えます。トポロジカルアトリビューションは学習された構造的嗜好を明らかにすることで「どのように、なぜ」に答えます。

• 前提条件*：モチーフテンプレートがドメイン専門家によって事前定義されていると仮定します。自動モチーフ発見は別の研究問題です。このフレームワークは人間主導のモチーフ選択を仮定しています。

解釈可能な設計のためのアーキテクチャ的含意

説明可能性フレームワークは、基本的なTGN設計選択が解釈可能性と説明計算の扱いやすさにどのように影響するかを明らかにします。メモリ更新メカニズムはTGNバリアント全体で大きく異なります。

• 再帰的更新：$m_t^{(v)} = \sigma(W_1 m_{t-1}^{(v)} + W_2 e_t^{(v)})$（シンプルですが不透明）
• 注意ベース：$m_t^{(v)} = \sum_{u \in \mathcal{N}(v)} \alpha_{vu} m_{t-1}^{(u)}$（注意重みを通じた解釈可能性）
• グラフ畳み込み：$m_t^{(v)} = \text{AGGREGATE}({m_{t-1}^{(u)} : u \in \mathcal{N}(v)})$（近傍構造を明示的に保持）

注意ベースのメカニズムは、注意重み$\alpha_{vu}$が直接的な解釈可能性の手がかりを提供するため、本質的により説明可能です。どのノードがメモリ更新に寄与したかを示します。対照的に、再帰的更新は情報を密な隠れ状態に圧縮し、個々の寄与を解きほぐすことを困難にします。

メモリバックトラッキングの計算コストもアーキテクチャによって異なります。注意ベースのモデルでは、注意重みがすでに計算されているため、バックトラッキングは保存された重みを再利用できます。再帰的モデルでは、バックトラッキングには完全な逆伝播が必要であり、すべての中間状態を保存する必要があります。

• 設計推奨事項*：説明可能性が重要な要件である場合、注意ベースのメモリ更新メカニズムは解釈可能性と計算効率の間でより良いトレードオフを提供します。ただし、これはモデルの表現力を犠牲にする可能性があります。再帰的モデルは複雑な時系列依存性をキャプチャする能力が高い場合がありますが、説明可能性のコストが高くなります。

アーキテクチャの選択は、アプリケーションのニーズに応じて、予測精度と説明可能性の間のトレードオフを反映する必要があります。高リスクドメインでは、わずかに低い精度であっても、より解釈可能なアーキテクチャが正当化されます。

• 図6：トポロジカル属性の計算フレームワーク - グラフモチーフ検出から時間的安定性評価までの段階的処理*