Tag
AIに「買い物を任せる」時代が来るという。だが、Appleストアを世界中に広めた人物は、その前提そのものが間違いだと考えている。ロン・ジョンソン氏（Ron Johnson）は、Appleの直営店を、世界でもっとも真似された商売の形に育てた。その後はJ.C. Penneyの立て直しにも挑んだ。いま彼は、シリコンバレーが何十億ドルもの資金を注ぎ、「あなたの代わりに見て、比べて、買ってくれる」AIエージェントを作ろうとしているのを眺めている。
AI開発のスピードを誰よりも決めてきた2人が、今「速すぎる」と言い始めた。Anthropicを率いるダリオ・アモデイ氏（Dario Amodei）と、OpenAIを率いるサム・アルトマン氏（Sam Altman）だ。2人はそれぞれ、最先端モデルの開発ペースを落とすべきだと公に訴えている。考えてみれば、これはかなり異例なことだ。今の開発スピードを作ってきたのは、まさに彼らの会社だからだ。しかも話はまだ終わっていない。
SpaceXの初回アーニングコールは、明確なパターンを示しました。CEOのイーロン・マスクが、CFOのブレット・ジョンセンと会長兼社長のグウィン・ショットウェルが提示した運用指標や納期スケジュールよりも、体系的により積極的な見通しを提示したのです。具体的には、経営陣が運用指標や納期スケジュールを提示するたびに、マスクは公開声明で加速されたスケジュール、より高い生産目標、または拡大されたスコープを提案しました。
技術デモンストレーションは時として、組織の能力評価と公開可能性の閾値の間に重大なズレを露呈させます。ここで検討する特定の事例は、機能的能力と「本質的な不快感」を分ける境界を越えました。これは単なる美的嗜好ではなく、測定可能な現象です。この不快感は二つの異なる要因に起因しているように見えます。第一に技術的能力そのもの、第二にプレゼンターがそれらの能力の含意に対して懸念を示していないことです。
説明可能AI研究は多数の技術を生み出してきました。特徴帰属法（LIME、SHAP）、顕著性マッピング、スパースオートエンコーダ、注意メカニズムの可視化などです。しかし、これらが実質的な意思決定に及ぼす影響についての経験的証拠は限定的です。組織の導入パターンから見ると、説明は主にコンプライアンス成果物として機能しています。規制要件や監査プロセスを満たすために生成され、その後、運用上の意思決定システムに統合されないまま保管されるのです。
Microsoft の Scout は、ユーティリティ中心の設計からエンゲージメント最大化アーキテクチャへの意図的なシフトを示しています。内部の機能仕様書から明らかになるのは、ユーザー依存を高めるための意図的なメカニズムです。情報不安を生み出す永続的な通知、スロットマシンの心理学を模倣した変動報酬スケジュール、そして離脱を高くつくシームレスなエコシステム統合が含まれています。Scout は「有用な摩擦」と呼べるものを採用しています。
あるユーザーがGitHubリポジトリでマルウェアが積極的に配布されているのを発見し、AI システムに指導を求めました。システムが返したのは一般的な回答—標準的な報告手続き—であり、具体的な文脈に対応していませんでした。ユーザーは最終的にGitHubのディスカッションを直接コミュニティで開くことで問題を解決しました。この事件が示すのは重大な制限です。
Anthropicの参加は、米国当局との重大な規制的緊張の中で実現しています。バチカンとの協力は、国家的枠組みを超越した制度的正当性をもたらし、同社を現代的な政府監督に先行するグローバルな倫理的対話の中に位置付けます。この動きは、Anthropicの最近のインフラストラクチャー・パートナーシップ、特にSpaceXとのコンピューティング契約と並行しており、シリコンバレーの伝統的ネットワークを超えた関係の多様化というパターンを示しています。しかし、ここでの利害は独特です。
エリック・S・レイモンドによって定式化されたクロッカーの法則は、個人が社交的な配慮なしにコミュニケーションを受け取ることに明示的に同意するフレームワークを提案しています。表面上、会話の摩擦を減らし、直接的なフィードバックを可能にすることが目的です。論理的な魅力は明確です。曖昧な表現や緩和的な前置きを排除すれば、コミュニケーション効率が向上するはずです。しかし、このフレームワークは構造的な非対称性を具現化しています。
その曲の中心的なコミュニケーション上の失敗は、人間のリスナーとの共有された経験的基盤が完全に欠落していることに由来しています。これはAIの職場ツールに関する実証的なパターンと一致しています。AIコーディングアシスタントに関する研究によれば、これらのシステムは認知負荷を軽減するのではなく、むしろ増加させることが多いのです。ユーザーは生成された出力を評価し、修正し、統合する必要があり、タスクを直接実行する方が効率的です。