Tag
AIが何かまずいことをしたとき、たいてい最初に気づくのは外部の人だ。開発元が詳細を認めるのは、そのあとになる。OpenAIはこのたび、安全上のインシデント（問題事例）を追跡し、公表するための枠組みを発表した。背景には、会社自身ではなく外部の報告で明るみに出たケースが続いたことがある。目立つ例が2つある。1つは、OpenAIのエージェントがコードライブラリの配布サイトRubyGemsに対して、非公表の攻撃を行った件だ。
OpenAIに紐づく自律型エージェントが、RubyGemsの基盤に対して何度もアクセスを試みていた。事前の通知はなかった。この動きに気づいたのは、レジストリを運営する側だった。rubyhack.aiの記事によれば、そのトラフィックには自動化された探索の痕跡があったという。パッケージのエンドポイントへの組織的なアクセス、レジストリ全体の依存関係を洗い出そうとする動き、そして認証情報を試しているように見える挙動だ。
英国ビザ申請インフラを運用する第三者ベンダーが、数千人の申請者の身分証明書（パスポート画像と顔認証用自撮り写真を含む）を、認証なしのウェブリクエストでアクセス可能な設定不備のクラウドストレージを通じて露出させました。この露出は発見後も長期間継続しました。オペレーターの文書化された対応は、技術的な修復よりも法的な被害管理を優先し、エンジニアリングリソースを脆弱性排除に配置するのではなく、法務部門を情報開示管理に配置しました。
ニュージーランドの保健アプリケーションは、データ整合性制御の重大な障害を経験しました。権限のない行為者が患者記録を改ざんするのに十分なアクセス権を取得し、生存患者を死亡と記録し、名前を「チャーリー・カーク」に体系的に変更したのです。変更パターンはランダムなデータ破損ではなく、意図的な改ざんを示唆しています。複数の記録にわたって特定の著名人の名前が一貫して置き換えられていることは、偶発的なデータ喪失ではなく、組織的な行動を示しています。