米政権がAIリスクを正式評価へ　「でっち上げ」と退けた立場から転換

否定から記録へ

ホワイトハウスが、AIのリスクを評価し、連邦政府が何をすべきかを定める特別チームを立ち上げた。これは注目すべき転換だ。

政権がAI担当の責任者（AI czar）を置く方針を発表したとき、AIの安全性のリスクはでっち上げだと退けられていた。その同じ政権が、いまはそのリスクを正式に洗い出している。

とはいえ、まだ何も決まってはいない。リスク評価は、拘束力のある規則にも、任意の指針にも、何にもならない結果にもつながりうる。

特別チームが何をリスクと数え、誰に責任を負わせるのか。それが今後何年ものAI政策を形づくる。報告書がすぐに及ぼす影響が小さくても、この点は変わらない。

この記事のポイント

• 政権は、AIの安全性への懸念を公然と退ける立場から、正式に評価する立場へ移った。その理由はまだはっきりしない。
• 「リスク」をどう定義するかは、それ自体が政策上の選択だ。偏見や詐欺のように記録のある被害と、制御を失うといった最先端の推測的リスクでは、重みが異なる。
• むずかしいのは責任の置き方だ。選択肢は、免許制や公開前のテストから、任意の誓約、あえて何もしない道まで幅広い。

図2：タスクフォース設計の2つの重要な選択肢と政策結果への影響

表1：政策転換の可能な説明と示唆

立場の変化をどう読むか

口調が変わったことは、説明しやすい。なぜ変わったのかは説明しにくい。分かっている事実には、少なくとも3つの読み方が当てはまる。

次の表は、考えられる説明と、それが示すことを並べたものだ。

これらは両立しうる。政府は、考えを改めながら、同時に自らの政治的な立場を守ることもできる。特別チームの顔ぶれや任務の詳細が公表されていない以上、どの読み方も暫定的なものにとどまる。

とくに重要になる設計上の選択は2つある。

1つめは顔ぶれだ。誰が入るかで、誰の専門知識が重んじられるかが決まる。業界出身者が中心の委員会と、公民権の擁護者、セキュリティ研究者、学界の批判者を含む委員会とでは、リスクの見え方が違ってくるだろう。

2つめは枠組みだ。任務では、リスクが先で、責任が後に置かれている。この順番は意味を持つ。

リスクを丁寧に記録しながら、軽い監督しか勧めない報告書は、ひとつの物語を語る。連邦の強い権限を提案する報告書は、別の物語を語る。

この特別チームは、近年のやり方からも外れている。

米国のAIガバナンスは、業界の自主規制と、企業による任意の約束に大きく頼ってきた。そのやり方で足りるのかを連邦が正式に検証するのは、現状では不十分かもしれないという認識があることを示唆する。

ただし、認識することと改革することは別だ。報告書が「任意の対策はうまくいっている」と結論づける可能性も、同じくらいある。

図4：AI関連リスクの分類体系と評価難度

リスクの台帳をどう作るか

リスク評価はまず、何をリスクと数えるかを決めなければならない。この判断は中立ではない。どの被害に資源と注目が向かい、どの被害が脇に置かれるのかを左右する。

特別チームは、大きく2種類の懸念に向き合うことになる。

すでに起きている、記録のある被害。 実際に起こり、証拠が残っているものだ。

• 採用や融資のシステムに偏見があり、測定できる差別が生じる
• ディープフェイクが、詐欺、なりすまし、偽情報に使われる
• AIが攻撃を助け、被害を出すのに必要な技能が下がる

最先端のリスク。 より高性能になる将来のシステムにかかわるものだ。

• 高度なシステムに対し、人間が実質的な制御を失う
• システムが追う目的と、開発者や利用者の意図がずれる

最先端のリスクは、研究者から真剣に受け止められている。ただし、偏見や詐欺のような実証の積み重ねはない。そのため、連邦の報告書に載せると、憶測だと非難されやすい。

2つの種類は、必要な証拠も、取るべき対応も違う。

次の表は、近い将来の被害と最先端のリスクを比べたものだ。

民間企業は、すでにこうした判断を下している。あるモデルが危険すぎて公開できないと企業が決めても、市民がそれを知るのは企業の発表を通じてだけだ。

特別チームは、ここで直接の問いに向き合う。政府には、そうした判断が正しいか確かめる技術力があるのか。意見が合わない公開判断に、異議を唱えられるのか。

証拠の質は、報告書がどこまで信頼されて主張できるかを左右する。記録のある事例は、予測より重みがある。 それに頼る報告書は、退けにくくなる。

一方で、推測的なリスクを無視することにも代償がある。規制当局は、制度が対応するより速く現れた被害に、何度も不意を突かれてきた。

信頼できる評価なら、証拠の強さに応じてリスクに順位をつけつつ、確度の低いものも落とさないはずだ。近い将来の被害は、事故の報告と測定できるデータに支えられている。

最先端のリスクは、能力の研究と専門家の判断に支えられている。確信の度合いは違って当然だが、どちらも全体像に含まれるべきだ。

最終的に特別チームは、企業が行っている現在のリスク評価が、次の3つの基準を満たしているかを判断することになる。

1. 十分か：重要な被害をカバーしているか。
2. 検証できるか：社外の人が確かめられるか。
3. 一致しているか：開発者だけでなく、公共の利益にも役立っているか。

図6：AI規制アプローチのスペクトラム（ライセンシングから意図的抑制までの連続体）

責任は誰が負うのか

AIシステムに何をさせてよいかを、誰が決めるのか。問題が起きたとき、代償を払うのは誰か。この問いが、特別チームの勧告のすべてを方向づける。

この節のポイント

• 政府が使える手段は大きく4つある。免許制、任意の約束、分野ごとの監督、あえて何もしない道だ。どれにも相応のトレードオフがある。
• 責任は、開発者（システムを作る側）、導入する側（使う側）、政府（ルールを決める側）のどこにも置ける。どこに置くかで、被害が出たときの説明責任の所在が決まる。
• 見えにくい制約は速度だ。連邦の規則づくりには何年もかかる。AIの開発サイクルは数か月で回る。

4つの道

政府が取れる選択肢は、仕組みも費用も大きく異なる。

次の表は、4つのアプローチの仕組みと、捉えられるもの、かかる代償をまとめたものだ。

分野ごとの監督は、たいてい仕事を複数の機関に分けることになる。連邦取引委員会（FTC）には、不公正で欺瞞的な行為を取り締まる権限がある。

国立標準技術研究所（NIST）は、標準や評価の方法を作るが、執行はしない。

既存の省庁を使えば、新しい官僚機構を作らずに済む。その一方で、リスクがどの機関の守備範囲にも入らず、誰の担当にもならない問題が生じる。

速度の問題

AIモデルの開発サイクルは、数か月で回る。連邦の規則づくりには、よく何年もかかる。

予算がつき、技術スタッフがそろった実施機関を示さずに監督を勧める報告書は、実際にはほとんど何も変えない。 まじめな勧告なら、監督が技術のペースにどう追いつくのかを説明しなければならない。

そうでなければ、規則ができたときには、対象のシステムがすでに使われている。

説明責任の行き先

責任は、3つに分けられる。

• 開発者は、何を作るか、どうテストするか、いつ公開するかを決める。
• 導入する側（病院、銀行、雇用主など）は、実際の人々にシステムをどう使うかを決める。
• 政府は、ルールを決めて執行する。

特別チームがどう分担を選ぶかで、説明責任の行き先が決まる。開発者に向けたルールは、責任を川上の研究所に寄せる。導入する側に向けたルールは、責任を川下の、道具を使う組織に寄せる。

後者はシステムの仕組みを把握していないことが多い。実際に機能する仕組みの多くは、両方を含む。その配分をめぐって、政治的な争いの多くが起きるだろう。

「やはり正しかった」と言える範囲

安全性を重視してきた批判者から見ると、この特別チームは部分的な勝利に映る。ゲイリー・マーカス氏（Gary Marcus）らの研究者は、業界の任意の誓約では足りず、独立した監督が遅れていると長年主張してきた。

連邦の機関がまさにその問いを検討することは、主張を裏づけているように見える。

ただし、報告書で認められることと、行動に移されることは別だ。

批判者の主な提案は、AIシステムの独立した監査、重大な事故の報告義務、学習データやモデルの能力についての透明性の要件だ。これらは、技術業界と近い関係にあり、AI開発を加速させたいと公言する政権のもとで検討される。その状況では、採用されるかどうかは費用次第になりそうだ。

とくに、規制される企業にかかる費用が鍵になる。

比較的安い措置もある。学習データやモデルの能力についての基本情報を開示させるのは、製品を変えるのではなく、情報を明かすことを求めるにすぎない。そのぶん採用しやすい。

ただし、企業が競争上の理由で抵抗する可能性はある。

費用が高く、抵抗も強くなる措置もある。公開前のテストを義務づければ、速さが競争力になる市場で、製品の公開が遅れる。事故の報告を義務づければ、失敗の記録が残り、企業が訴訟や規制の対象になるおそれがある。

過去のパターンが続くなら、ありうる結果は、費用の安い措置を支持し、高い措置は今後の検討課題として扱う報告書だ。 そうすれば政権は、実際の制約を課さずに、前進したと主張できる。実際の文面を見れば、そうなるかどうかが分かる。

報告書の信頼性は、作成の過程にも左右される。外部の専門家や異論を唱える人の意見が本当に聞かれていれば、結論の重みは増す。

内部の合意だけを反映したものなら、評価ではなく立場表明として扱う理由が、批判者にはある。

報告書のあとに起きること

政府の報告書は、プロセスを始めるより、終わらせてしまうことがよくある。

文書が公表され、少し話題になり、棚にしまわれる。今回は違うのかどうか。それは、具体的な兆候に表れる。

次の表は、見るべき兆候をまとめたものだ。

報告書がすぐには大きな変化をもたらさなくても、意味を持つことはある。公式のリスク評価は、のちの規則が受け継ぐ語彙を形づくる。

いま定義される用語、分類、基準値は、将来の法律、省庁の指針、別の政権の政策に、そのまま現れることがある。

この政権の過去を見ると、政治的な姿勢がいかに速く変わるかが分かる。

安全性のリスクを退けていた立場が、リスクを正式に記録する立場へと変わった。この新しい立場が続くかどうかは、報告書が何を勧告するか、そして勧告に実際の資源と権限が伴うかにかかっている。

報告書が公表されたら、要約や報道発表ではなく、原文を読むことを勧めたい。要約は、異論、但し書き、扱われなかった点を省きがちだ。委員の顔ぶれも確かめたい。

委員の経歴は、結論がどちらに傾くかを知る、最も早い手がかりのひとつだ。報告書が何を述べているかだけでなく、何を求めているかも見たい。予算、人員、法的権限の要請は、リスクの描写よりも、本気度をよく示す。

追いかけるべきは、数日ではなく数か月の動きだ。実施の期限、省庁の行動、議会の公聴会が、報告書が長続きする効果を持ったかどうかを示す。

AI研究所が自社のシステムは安全だと主張している場合は、それを裏づける、または否定する外部のテストや監査がないかも探したい。

ちょっと立ち止まって

政府の報告書を、判決のように受け取ってしまいがちだ。だが多くの場合は、長い交渉のなかの、最初の立場表明にすぎない。本当の決定は、そのあとの予算や人員の配分という、あまり注目されない場面で下される。

あなたの暮らしのなかで、いちばん現実味のあるAIのリスクは何だろうか。自分を選考から落とすかもしれない採用ツールか。電話口の本物そっくりの偽の声か。

それとも、もっと遠くて、はっきりしないものか。あなたの答えは、特別チームが向き合っているのと同じ選択を映している。

どの被害にいま目を向けるのか。誰がそれを防ぐ責任を負うのか。

図8：タスクフォース報告書から政策実装への経路