Anthropicが、AIの安全性に関する法案の完成稿を議員に示した。意見書でも、理念を並べた文書でもない。そのまま提出できる条文の形をしている。
これは戦略の転換だ。これまでAI企業の多くは、他者が書いた提案に反応する側にいた。今回は自社で条文を書くことで、議論で使う言葉と出発点を自分たちで決めようとしている。
時期にも狙いがある。高度なAIへの懸念は強まっている。
一方で、立法の勢いはない。できあがった法案は、そのすき間を埋めるかもしれないし、無視されるかもしれない。
この動きは、これまでの流れの延長にある。Anthropicは業界団体への参加から、行政府との直接の対話へと軸足を移してきた。
CEOがトランプ大統領と夕食をともにしたとも伝えられている。今回の法案は、抽象的な警告を具体的な提案に変えたものだ。
この記事のポイント
- Anthropicは、一定の能力水準を超える高度なAIシステムに、連邦の安全・セキュリティ基準を課すことを提案している。
- 法案には安全面の根拠がある。同時に、明確なルールは資金力のある既存勢力に有利なので、同社の商業的な利益にも沿っている。
- 実効性は執行の細部しだいだ。ルール作りが弱ければ、法案は大手ラボがすでにやっていることを形にするだけで終わる。
なぜAnthropicは自分で法案を書くのか
この節の要点は、自分を縛るルールを自分で書く企業には、厳しい目を向ける必要があるということだ。
Anthropicは、最先端の開発企業は技術をよく知っているので、実際に機能するルールを設計できると主張している。
一方、批判する側は、同じ提案が少数の大企業を守り、スタートアップやオープンソースのプロジェクトに重荷を負わせると指摘する。
どちらの主張も同時に成り立ちうる。 確かめる方法は単純だ。Anthropicに商業的な利害がなかったとしても、成り立つ条項はどれだろうか。
法案が求めること
法案は、一定の能力水準を超えるAIシステムの開発者に、連邦レベルの安全・セキュリティ上の義務を課す。この水準に届かない開発者は対象外だ。水準を超える開発者には、4つの基本的な義務が生じる。
次の表は、各義務の対象をまとめたものだ。
| 義務 | 対象 |
|---|---|
| 公開前のテスト | 対象モデルは、公開前に安全対策が機能することを示す |
| インシデントの報告 | 重大な安全・セキュリティ上の侵害を開示する |
| 第三者による評価 | 独立した監査人が遵守状況を確かめる |
| セキュリティ基準 | モデルの重みを物理面とサイバー面で守る |

図2:提案法案における4つの主要義務フロー(Anthropic提案に基づく)

図3:AI能力閾値による規制対象範囲の区分
法案が定めていること、決めていないこと
法案は、誰がいつ報告するかについては具体的だ。しかし、より難しい2つの問いには曖昧なままだ。
- 何を「重大なインシデント」と数えるか。 この定義で、報告の件数が決まる。規制当局が本当の問題を見るのか、目立つ問題しか見ないのかも、ここで決まる。
- 規制当局がどう遵守を確かめるか。 非公開のモデル内部に触れられなければ、検証は難しい。草案は、当局がどう内部にアクセスし、得た情報で何ができるのかを十分に説明していない。
細部の多くは、将来のルール作りに任されている。この選択には理由がある。
AIの能力は、議会が法律を改正するより速く変わる。行政機関なら、ルールをもっと素早く調整できる。
代わりに、執行がどれだけ強いかは、ルールが書かれるまで分からない。 条文が強くてもルール作りが弱ければ、法律は情報開示の手続きにとどまりかねない。
責任と内部告発者
さらに2つの条項があるが、まだ練り込みが足りない。
- 責任の保護:ルールを守った開発者は、民事訴訟に対してある程度の保護を受ける。
- 内部告発者の保護:違反を報告した従業員は、報復から守られる。
この2つの条項には、正反対の方向から圧力がかかるだろう。市民的自由を守る団体は、内部告発者の保護を強めるよう求めそうだ。ほかのAI開発者は、広い賠償責任を負うことに抵抗しそうだ。
責任の保護をどう書くかは、とても重要だ。ルールを守れば、システムが害を及ぼしても企業が守られるとしよう。その場合、法案は開発者から社会へリスクを移すことになる。
保護の範囲を狭くすれば、リスクのより多くが企業側に残る。
州法との関係
草案は、州のAI法を上書きするとは明記していない。この曖昧さは意図的に見える。争いの大きい論点で、Anthropicがどこまで政治的な影響力を持てるか分からない、という事情が背景にあるのかもしれない。
カリフォルニア州など、すでにAIのルールを定めた州もある。連邦で基準が1つになれば、州ごとにばらばらの状態は終わる。
ただし、州法を大切な歯止めと見る州司法長官やプライバシー擁護団体からは、反発を招くだろう。
企業が自分でルールを書く理由
Anthropicの財務状況は変わった。四半期の売上は168億ドルに達したと伝えられ、同社はIPOの準備を進めている。この事実は、同社の動機にも影響する。
株式市場の投資家は、先が読めることを重んじる。連邦のルールが明確になれば、法的な不確実性や評判のリスクが減る。上場を控えた企業が、それを望む理由は十分にある。
法案がAnthropicにもたらす利点
草案は、いくつかの点でAnthropicの利益に沿っている。
- 複数のルールブックが1つになる。 連邦レベルの最低基準があれば、州ごとに異なる要件へ対応するコストが減る。
- 今の取り組みが法的義務になる。 安全テスト、インシデント対応、セキュリティ手順が、宣伝文句ではなく法的な義務になる。Anthropicはこれらをすでに実施していると述べている。
- 競合のコストが上がる。 これらの仕組みがない競合は、新たに整える必要がある。それにはお金も人手もかかる。
- 参入の壁が高くなる。 大手ラボ向けの規模で組まれた監査やセキュリティ基準は、スタートアップやオープンソースのプロジェクトには負担が重いかもしれない。
- 投資家へのメッセージになる。 連邦法案を支持すれば、Anthropicは責任ある選択肢として機関投資家に映る。投資家は、この動きを負担の増加ではなくリスクの低下と受け取りそうだ。
利害の一致は、規制の虜の証拠ではない
これだけで、規制の虜(規制される側が規制を左右すること)が起きていると証明されるわけではない。
大手のAI開発者には、小さな企業や多くの規制当局にない技術的な専門性がある。その意見から、実際に使いやすいルールが生まれる可能性もある。
それでも、Anthropicの利益と法案の条項が重なっている点は、はっきり述べておくべきだ。 Anthropic自身に新しいコストを課す条項は、あまり見当たらない。
多くは、すでにやっていることを形にするか、主に競合にのしかかる。
こうした重なりがあっても、法案が間違っているとは言えない。ただ、議員はこれを利害関係者からの提案として受け止め、重みを量る必要がある。
いちばん確かな試金石は、Anthropicがまだ負担していない何かを同社に求める条項があるかどうかだ。
政策の地図の中での位置
この草案は、すでに混み合った場に出てきた。複数の主体が同時に動いている。
- 連邦のAIタスクフォースは、この技術のリスクについて独自の評価をまとめている。
- 州議会は、カリフォルニア州やコロラド州を含め、それぞれ独自の措置を進めている。
- 政権は、安全を最優先する方針と食い違うこともある優先事項を示している。
- 議会は枠組みをまだ決めておらず、使える関心も限られている。

図5:AI規制政策ランドスケープにおけるAnthropicの提案の位置付け
タスクフォースの2つの道
最も目前にある変数は、タスクフォースだ。その調査結果によって、草案の行方はどちらにも動きうる。
| タスクフォースが… | 草案への影響の見通し |
|---|---|
| リスクに関する草案の前提を支持する | Anthropicの条文が、連邦の取り組みの出発点になりうる |
| 安全よりイノベーションを重んじる | 草案は厳しすぎると見られ、脇に置かれるかもしれない |
| 既存の行政機関に任せるよう勧める | 能力水準にもとづく新しい枠組みは、不要に見えるかもしれない |
どの場合でも、草案の価値は、その見方がタスクフォースの結論と合うかにかかっている。完成した条文があっても、当局者が同じ方向に進みたいと思わなければ役に立たない。
州法をめぐる争い
州法との関係を決めずにおけば、すぐの衝突は避けられる。ただし、対立がなくなるわけではない。
前に進む法案は、いずれ1つの問いに答えなければならない。連邦のルールと並んで、州の法律は有効なままなのか。業界団体は、全国で1つの基準を好む傾向がある。
州や消費者団体は、動ける余地を残したがる傾向がある。草案はこの問いを開いたままにして、争いを決着させずに先送りしている。
連携の輪を広げる
超党派の提案者がいる法案は、企業の希望リストと見られる法案より、成立する可能性が高い。Anthropicには、2種類の味方が必要になる。
- 安全重視の議員。高度なAIのリスクを心配している。
- イノベーション重視の議員。州ごとのルールより、連邦で1つの基準のほうがよいと考えている。
トランプ大統領との夕食が伝えられたのは、共和党の支持を得ようとする動きを思わせる。
ただ、続く支持を得るには、トップとの1回の面会では足りない。委員会で推してくれる議員と、法案を理解しているスタッフが要る。
最も強い反論
批判する側は、3つの懸念を挙げている。どれも丁寧に見る価値がある。
1つ目。法律に書き込まれた自主的な約束は、罰則が弱い場合や、規制当局が企業の実態を確かめられない場合には、守られないかもしれない。 Anthropicの草案は、重要な細部の多くを後のルール作りに任せている。この空白が、懸念をいっそう強める。
ルールが書かれなかったり、法律の成立から何年も遅れたりすれば、約束は実効性のないものになる。
2つ目。今のシステムを基準に能力水準を決めると、AIが進むにつれて規制が追いつかなくなるおそれがある。 この水準を更新するたびに時間のかかるルール作りが必要なら、規制当局は常に技術の一歩後ろにいることになる。
2024年には妥当だった水準が、2027年には時代遅れになっているかもしれない。
3つ目。監査、セキュリティ、テストの義務が壁となり、小さな企業やオープンソースの開発者は越えられなくなるおそれがある。 遵守のコストを負担できるのが少数の大手ラボだけなら、その間の競争に挑むのは難しくなり、市場は狭まる。
支持する側にも、それなりの論理がある。AIのリスクについて十分な証拠がそろうのを待てば、害が出てからしか動けなくなるかもしれない。
完全でなくても明確なルールのほうが、個別の事案ごとの執行や、州法がばらばらに並ぶ状態よりうまくいく可能性がある。また、能力水準は、小さな開発者を最も重い義務から外すためのものだとも述べている。
この2つの立場は、完全には対立していない。
法案はよい出発点になりつつ、あとで修正が必要になることもある。たとえば、検証の方法を強める、水準をもっと速く更新できるようにする、小さな開発者の遵守義務を軽くする、といった修正が考えられる。

図8:弱い執行シナリオにおける規制の実効性と懸念される悪影響
考えられる結末
似た法案が議会でたどってきた経緯からすると、3つの筋書きが現実的に見える。
- 一部の採用。 草案の一部が、AIや技術に関する、より広い法案パッケージに取り込まれる。
- 行政府の指針への吸収。 ホワイトハウスのタスクフォースが、提言の中で草案の考え方や文言を借りる。
- 停滞。 選挙の年の政治や、ほかの優先課題に押されて、法案が勢いを失う。
この草案は、売名のための行動ではなく、真剣な提案だ。ただ、その行方は、技術的な出来のよさよりも政治に左右される。
政治的な足並みがそろうこと、業界の広い合意があること、そして執行がイノベーションをつぶさないと規制当局が確信できることが要る。
注目したい点
法案の行き先を示すサインは、いくつかの場所に現れてくる。
- 委員会の関心。 公聴会、提出者、条文審議が出てくれば、本物の勢いがあるといえる。
- ライバルのラボ。 OpenAIとGoogle DeepMindがどう反応するかを見たい。支持すれば、法案が業界の慣行に合っていることを示す。反対すれば、法案がどこに最も重くのしかかるかが分かる。
- タスクフォースの報告書。 その文言が、草案の枠組みと重なるかどうか。
- Anthropic自身の行動。 議会に法律へ書き込んでほしいと求める基準を、自社が満たしているか。それを確かめる最も明確な試金石になる。
読者にできること
AI政策を追っている人や、影響を受ける人が自分の見方をつくるために、できることがいくつかある。
- 先送りされた細部を丁寧に読む。 法案が委員会に出てきたら、「重大なインシデント」の定義と検証の方法を確かめたい。法案の実際の効果の多くは、そこに宿る。
- 安全上の利点と競争への影響を分けて考える。 条項ごとに、費用を誰が負担し、誰がすでに基準を満たしているかを問う。
- 州法との関係を追う。 独自のAI法がある州で働いているなら、連邦の動きがそれに取って代わるのか、並び立つのかを見守りたい。
- 言葉と行動を比べる。 Anthropicの安全テストやインシデントの開示が、他社に求める内容と一致しているかを確かめる。
- 影響を受けるなら声を上げる。 スタートアップを運営していたり、オープンソースのAIに貢献していたりするなら、意見募集の機会に遵守コストを伝えよう。議員が小さな開発者の声を聞く機会は、めったにない。
ちょっと立ち止まって
業界のルールを自分で書く企業は、ただそれを骨抜きにしようとしている、と思ってはいないだろうか。
しかし、より難しい問いは、その企業に利害がなかったとしても、そのルールが成り立つかどうかだ。この法案のどの部分が、その試験を通るのだろうか。そして、どの部分が消えるのだろうか。