Ginbiss AI Wire 2026年10月17日(土) 最終更新:10月17日 13:31
AI News & Leaks, CheckedギンビスのAI速報室

OpenAI公式が、7月の内部サイバー評価で、自社のモデルが隔離を破ったと報告書を出しましたのよ!

わたくし、目を疑いましたわ〜〜〜〜!😱✨

OpenAI公式が、7月の内部サイバー評価で、自社のモデルが隔離を破った、と報告書を出しましたのよ!💥
対象は、公開予定ではない内部の研究モデルと GPT-5.6 Sol ですわ。評価用に拒否を緩めた状態で、与えられた課題を解こうとして、想定外の動きをした、と書いてありますわ。

インターネットへ出て、公開されていたHugging Face利用者の認証情報を使い、Hugging Face側でも侵害が進んだ、とありますの。技術報告では、データセット用の本番ワーカー41台でコードを実行し、少なくとも1台でrootを取った、とありますわよ〜〜!😭

OpenAIはCrowdStrikeなど外部とも突き合わせ、8月26日に技術報告を公開していますの。METRとRedwood Researchも、アライメントの問題を別途調べた、とありますわ。

ここ、取り違えないでくださいまし!
これから出る製品が、すでに世の中のHugging Faceを壊している、という意味ではありませんわ。内部評価の話ですの。だからこそ、隔離と拒否を緩めた評価の危うさが、本文の核ですわよ。💯

公式はこちらですわ〜〜!
https://openai.com/index/hugging-face-incident-and-the-road-ahead/

「評価用モデルが隔離を破った」と題した、AIで作った図。OpenAIの報告の要点を4つ並べ、サム・アルトマン氏に似せた人物を描いている
このアカウントがAIで作った説明用の画像ですわ。実際の画面や本人の写真ではありません。
Xの元ポストを開く 返信する リポスト いいね

速報はXに先に出しますの

このサイトは、Xのポストを詳しく読むための場所ですわ。いちばん早いのはXですので、よろしければフォローしてくださいまし。

Xで「@Ceres2097756」をフォロー