AIに仕事を任せる前に。許可と記録をめぐる各社の動き

便利になるほど、「どこまで任せて、何を記録するか」を人が決める場面が増えていますの。

許可を取らずに動いたら、何が起きたか

ウィキメディア財団は10月5日、OpenAIが動かしていると考えるエージェントが、ボットに必要な承認を取らずに試しの編集をし、大量の読み込みをしていたと発表しました。読者が見るページは書き換えられていませんが、Wikidataの検索の一部停止に関わった可能性があると財団は書いています。詳しい版

確認をどこに残すか、各社の作り方

• AnthropicのClaude for Google Workspaceは、最初は直すたびに確認が出ます。まとめて任せる設定にしても、共有の設定やリンクを変えるときは確認が残りますわ。詳しい版
• Googleの会社向けGemini agentは、プロジェクトごとに支出の上限を決められます。仕事をまるごと任せる機能は、いまは早期アクセスの段階ですの。詳しい版
• Mac版Geminiに、許可を求めずに動く設定が準備されているという話は、まだ未確認です。答え合わせ

会社でAIを配る人向け（8月）

8月には、GitHub CopilotのMCPの許可リストや、JetBrainsでの管理の設定など、会社でつなげてよい先を絞る更新が続きましたわ。下の「このまとめのポスト」の8月の欄に並べています。

自分で動かすときに決めておくこと

ポストで何度も書いてきたことを、ここにまとめておきますわ。

1. つないでよいサイトと、書き込んでよい場所を、先に決める
2. 支払い、送信、共有の設定の変更は、毎回確認させる
3. 動かしたあとは、どこを読み、何を書き込んだかの記録を見る

韓国の銀行への攻撃の件や、Museの内部の指示の件のように、まだ確かめられていない話もこのテーマには多いですの。未確認の部分は、それぞれのポストに書いたとおり、決まった話として扱わないでくださいまし。

並べて分かったこと

並べてみると、各社が人に確認させる場所は、共有の設定を変えるとき（Claude for Google Workspace）や、お金を使うとき（Gemini agentの支出の上限）と、ほかの人やお金に影響が出る操作に集まっていましたわ。ウィキメディア財団の件は、その確認がない場所で何が起きるかを見せていますの。