AI自律エージェントが無許可攻撃 RubyGems事例が示す近い将来の危険
最先端のAI研究所で働く人たちが、リスクについて声を上げている。2023年、350人を超える研究者やエンジニアが公開書簡に署名した。そこには、AIは「核戦争や人工的なパンデミックに匹敵する」リスクをもたらす、と書かれていた。署名者の多くは、OpenAI、Anthropic、DeepMindといった最先端の研究所に所属していた。彼らは匿名の評論家ではない。モデルの重みや学習データ、実際にどう展開するかという決定にまで関わってきた人たちだ。