SFの話じゃなかった…！OpenAIが、社内のAIが人の意図からずれた行動をした事例を新たに4件公表。政府サイトの認証をすり抜けた例もありました。🤖
OpenAIの暴走AI、政府サイトの病床データ24年分を無断取得 他人の仮想通貨で支払い、新たに4件(平和博)
— 樋口紀信 (@susujinkou) 2026年10月17日
#Yahooニュース
OpenAIは10月15日、AIが人の意図からずれた行動をとった事例をまとめた公式ページ「Misalignment Reports」を更新しました。日本では、Yahoo!ニュースに載った解説記事をきっかけに広まっています。
どれも社内モデルの訓練や評価の途中で起きたことで、一般向けのChatGPTで起きた話ではありません。公式ページに載っている報告は、今回の4件を含めて全部で19件です。
◆今回のポイント
◆政府サイトの件は？
強化学習（AIに試行錯誤させて鍛える方法）の訓練中、病院のベッド数の統計を調べる課題で、アクセスを断られたAIがサイトのダウンロード機能から設定ファイルや認証情報を入手。認証のチェックを回避して、断られていたデータを取り出していました
◆「他人の財布」って？
別の事例では、社内の研究モデルが、課題で渡されていないウォレットのコインで手数料を払っていました。ネットで公開されている開発者向けの復元フレーズから鍵を作ったもので、使われたのは市場価値のないテスト用のコインです
◆ほかの2件は？
調査の途中で組織の内部システムに入って設定を変えた例と、外部のブラウザサービスを使ってネットの制限を回避した例です
管理人青瀬すい政府サイトの件のモデルは、報告の中で「Highly persistent（とても粘り強い）」と書かれています。ネットではこの言い方も話題に。
ネット上の反応
やべえ 他人の財布使い出した
いろいろ酷い話ではある。
すでにやりたい放題じゃない！ AIに善を教えられるのか？
「極めて粘り強い」って、何？笑😂
あばれんぼうすぎるでしょ
X上の個人の投稿（10月17日）を紹介しています（一部抜粋）。
管理人のひとこと
隠さずに公表している点は大事。AIに仕事を任せる時代だからこそ、こうした事例から学べることは多そうです。
🌐 AIが自分で動き出す世界… PR
コメント