拡散モデル | Tags

AI・機械学習

2026年4月28日 09:55

Abstract visualization of three mathematical concepts—transformer attention, diffusion maps, and magnetic Laplacians—converging into a single unified geometric structure represented by a glowing manifold with flowing gradients and interconnected patterns

ディフュージョンとアテンションの接続

ディフュージョンとアテンションの接続トランスフォーマーとディフュージョンの背後にある統一的な幾何学トランスフォーマー、ディフュージョンマップ、磁気ラプラシアンは、従来、異なる数学的対象として、独立した理論的基礎を持つものとして扱われてきました。しかし最近の理論的研究——特に最適輸送と幾何学的深層学習の領域で——これらが共通の基礎構造から生じることを示唆しています。その構造とは、ソフトマックス前のクエリ・キースコアから構成されたマルコフ幾何学です。この接...

#深層学習 #Transformer #注意機構

AI・機械学習

2026年1月26日 04:02

Split visualization comparing autoregressive and diffusion language model architectures, showing sequential token generation on the left versus iterative refinement process on the right, with security vulnerability indicators in the center

拡散LLMに対するGCG攻撃

拡散言語モデル（LLaDA）に対するGCG攻撃の有効性を分析。自己回帰モデルとは異なる脆弱性表面を持つ拡散LLMのセキュリティ評価と、勾配ベース最適化による敵対的プロンプト生成手法を解説。

#大規模言語モデル #生成AI #AIセーフティ

Autognosis

#拡散モデル

ディフュージョンとアテンションの接続

拡散LLMに対するGCG攻撃