ニュースから、自分の思い込みに気づく

テクノロジーと社会のニュースを、やさしい言葉で解きほぐすメディア。読み終えたとき、自分の見方が少し変わる記事を届けます。

Tag

#因果推論

AI・機械学習
2026年9月28日 16:32
Neko-san がデスクの上でノードの一つを押すと、プラスとマイナスの紐でつながった他のノードたちが引き寄せられたり反発したりして揺れ動く様子。

ノード10個で候補10^42通り 符号つき構造推定の組合せ爆発をどう避けるか

ネットワークで結ばれたシステムをちょっと押してみる。1つのノードを揺らして、他がどう反応するかを見る。これはそのシステムの、符号つきの相互作用構造を探る行為だ。どのノードがどのノードを興奮させ、どれを抑え、どれには何の影響もないか。この地図こそが、安定性や振動、切り替わり、そして何か手を加えたときの反応を決めている。パラメーターの大きさよりも、はるかに直接的に効いてくるのだ。

#因果推論 #システム同定 #ネットワーク解析
-- いいね数
続きを読む
AI・機械学習
2026年7月24日 11:46
A technical visualization of a temporal graph network showing interconnected nodes with glowing edges in the foreground and translucent layered memory blocks in the background, with light trails flowing backward through time to represent memory backtracking in machine learning systems

テンポラルグラフネットワークのメモリバックトラッキングとトポロジカルアトリビューションを通じた説明可能性へ向けて

テンポラルグラフネットワーク(TGN)は、不正検知、推薦システム、ソーシャルネットワーク分析といったアプリケーションで、動的な関係データをモデル化するために広く導入されています。固定されたトポロジーで動作する静的グラフニューラルネットワークとは異なり、TGNは新しいイベントが発生するたびにノードのインタラクション履歴を記録するメモリモジュールを維持しています。

-- いいね数
続きを読む
AI・機械学習
2026年7月15日 16:59
Abstract visualization depicting data streams and particle flows transforming into mathematical equations and geometric patterns, representing the process of discovering governing equations from observational data

観測データからの解釈可能な発見

観測データから直接支配方程式を発見することは、従来の予測的機械学習とは異なる方法論的な転換を意味します。予測精度の最適化だけを目指すのではなく、方程式発見は物理系の動態を特徴づける偏微分方程式(PDE)の基礎構造を復元することを目指しています。この復元により科学的解釈が可能になります。つまり、システムがなぜそのように振る舞うのかを説明する能力が得られるのであり、単に何が起こるかを予測するだけではありません。

-- いいね数
続きを読む
AI・機械学習
2026年7月3日 08:50
Abstract network diagram showing interconnected nodes with highlighted pathways representing computational identifiability, with geometric data points connecting to specific nodes against a blue gradient background

計算可能性による識別可能性

計算可能性による識別可能性とは、利用可能なデータとグラフ構造から目的のパラメータを計算できるかどうかを決定するものです。この原則を実装することで、組織がシステムで実際に答えられる質問が何かを診断する方法が根本的に変わります。主張: 識別条件は抽象的な数学的性質ではなく、システムが何を知ることができるかについての実践的な制約です。根拠: 計算可能性による識別可能性は、ひとつの緊急の問いに答えます。

#因果推論 #識別可能性 #グラフィカルモデル
-- いいね数
続きを読む
AI・機械学習
2026年6月12日 09:37
Abstract visualization of a neural network with a highlighted modified connection, suggesting the concept of knowledge editing in AI models and the distinction between behavioral changes and internal representations

すべてを支配する一つのマスク:編集後の隠れた事実と、それを見つける方法について

知識編集手法、特にROME(Rank-One Model Editing)とMEMIT(Mass-Editing Memory in a Transformer)は、トランスフォーマーモデルにおける標的化された事実更新のメカニズムとして提示されています。理論的な約束は単純明快です。特定のMLP(多層パーセプトロン)の重みを修正することで、実践者は新しい事実主張を反映するようにモデル出力を変更しながら、関連のない知識を保持できるというものです。

-- いいね数
続きを読む
AI・機械学習
2026年6月10日 17:16
Abstract visualization of an algorithmic feedback loop showing a central neural network with data streams flowing outward and circling back into the system, representing how predictive models influence the data they analyze

アルゴメトリクス:アルゴリズミック・フィードバック下での予測

運用システムに配置された予測モデルは、もはやデータの受動的な観察者ではありません。予測アルゴリズムが出力を生成する際—取引判断、ポートフォリオ配分、リスク管理シグナルなど—その出力は直接的な介入となり、モデルが検証と再学習に依存するデータ生成プロセスそのものを変更します。これは古典的な予測の仮定から根本的に逸脱しています。従来の時系列モデルは、将来がモデルの予測とは独立したプロセスに従って進化することを前提としています。

-- いいね数
続きを読む
AI・機械学習
2026年3月14日 20:28
Cross-section visualization of an AI neural network showing two layers: a clean surface layer with organized blue pathways and a deeper layer with fading red geometric patterns representing harmful representations being erased from the model's latent space

表現消去ベースの選好最適化によるLLMの有害性除去

既存の選好最適化技術—Direct Preference Optimization(DPO)、Negative Preference Optimization(NPO)、および関連手法を含む—は主に出力確率分布を修正することで行動レベルで機能します。しかし、機械的解釈可能性研究からの経験的証拠は、そのような訓練後も潜在空間に有害な表現構造が残存することを示唆しています。

-- いいね数
続きを読む
Side profile of a translucent head showing a brain with an illuminated network of interconnected nodes and pathways that extend outward, transforming into structured diagrams and flowcharts, representing the concept of mental models organizing complex information

メンタルモデルを通じたより良い判断力の構築

メンタルモデルとは、システム、プロセス、または現象がどのように機能するかについての形式的または非形式的な表現である(Johnson-Laird, 1983)。これらは生の感覚データと意思決定の間の仲介者として機能し、複雑性を構造化されたパターンに圧縮することで予測と行動を可能にする。

#メンタルモデル #意思決定 #システム思考
-- いいね数
続きを読む
AI・機械学習
2026年1月28日 22:02
A technical visualization showing a time series waveform transforming from an opaque black box into transparent, interpretable sparse structures with glowing nodes and connections, representing the conversion of complex predictions into explainable patterns

ブラックボックス時系列モデルにおける説明可能性の危機

ブラックボックスモデルと事前学習済みアーキテクチャは、現在、金融、医療、産業システム全体にわたる時系列予測、異常検知、センサーデータ分析を支配している。しかし、その広範な採用は、厳密な説明手法の開発を上回るペースで進んでいる。医療モニタリング、金融取引、重要インフラといった高リスク領域では、説明不可能な予測が規制上および運用上の摩擦を生み出している。

-- いいね数
続きを読む
TOPへ