自分の認知と学習を静かに磨くデジタルノート
速く流れていく情報から少し離れ、自分の頭でじっくり考えられる文章だけを集めています。
更新
2026/7/28
Tag
ChatGPT は工夫された指示によって性的暴力的画像を生成させることが可能であると研究者が発見 ジェイルブレイク手法：研究者がいかにして安全フィルターを回避したか 研究者らは、ChatGPT のコンテンツモデレーションシステムが慎重に構築されたプロンプトを通じて体系的に回避可能であることを実証しました。文書化された手法には以下が含まれます。(1) キーワードフィルタリングの限界を悪用したプロンプトエンジニアリング、(2) 要求を段階的にエスカレートさせる...
問題：出所不明のAI生成コード 開発者がコードを書く際、Gitのようなバージョン管理システムは「誰が」変更を加え「いつ」加えたかを追跡する。だが、ある行が「なぜ」存在するのか、あるいは「どのAIモデル」がそれを生成したのかはほとんど記録されない。複数の開発者とAIアシスタントが同じファイルで協働する場合、この限界は深刻化する。ジュニアエンジニアが関数を引き継ぎ、コミットログから「アリスがこのコードをコミットした」と確認できたとしても、アリスが第一原理から執筆したの...
SalesforceがAIエージェント機能を搭載したSlackボットを発表 Salesforceは、高度なAIエージェント機能を統合した強化版Slackボットを正式にリリースし、会話型自動化アーキテクチャにおける文書化された転換を示しました。この反復版は、反応的なコマンド実行を超えて、非同期ディスカッション全体にわたるコンテキスト理解を可能にします。このボットは、チャット履歴を処理し、意思決定ポイントを特定し、明示的なユーザー呼び出しなしに、議論の要約の合成やスケ...