OpenAIが、ChatGPTとCodexの文章に見えない透かしを入れると発表しましたわ。

OpenAIが、ChatGPTとCodexの文章に見えない透かしを入れると発表しましたわ。10月5日（米国時間）のことです。EUのAI法で、AIが作った文章を機械で見分けられるようにする決まりが8月2日から始まったためです。

透かしといっても、目に見える印はありません。AIが言葉を選ぶときに少しだけ選び方を寄せて、読む人には分からない偏りを残す仕組みです。OpenAIは「textGrain」と呼んでいます。文章そのものに入るので、写して貼っても一緒に移ります。

入れ方は各社で違いますわ。
OpenAIは、EUの利用者のChatGPTとCodexにだけ、これから数週間かけて入れます。APIは世界中で使えますが、最初は切ってあり、入れたい会社が自分でオンにします。
Anthropicは8月に、Claudeの文章へ世界中で透かしを入れると決めました。地域ごとに分ける確かな方法がまだないから、という理由です。
GoogleはGeminiのアプリとWeb版の文章に、SynthIDという透かしを入れています。Googleの開発者向け掲示板に付いた回答では、APIの文章には入っておらず、今は予定もないそうです。
透かしを調べる道具は、OpenAIは審査を通った研究者や専門の団体、Anthropicは規制当局や報道機関などに限っています。

透かしは手直しで弱まりますわ。OpenAIの試験では、英語で約300語の文章の1割を似た言葉に替えると、見つかる割合が約92%から66%に下がりました。4分の1を替えると17%です。短い文、数学の答え、訳した文も見つけにくいと書いています。透かしが見つかっても、誰が書いたかや、人がどれだけ手を入れたかは分からない、ともOpenAIは書いています。

Hacker Newsでは厳しい声が目立ちましたわ。「25%言い換えて、とAIに頼めば済む」「誤って透かしありと出る率が1%でも多すぎる」という意見があります。「AIの手伝いは、使ったか使わないかの二択ではない」という人もいました。

日本でChatGPTを使う方は、今回の発表では対象になりません。APIも、自分でオンにしたときだけです。Claudeは、8月2日以降に出たモデルなら日本でも入ります。

気をつけたいことを書いておきますわ。
1. 透かしが見つからないことを、人が書いた証拠にしない。OpenAI自身がそう書いています
2. EUの人に向けて文章を出すサービスを作っているなら、透かしを入れるかどうかを先に決めておく。OpenAIのAPIでは、最初は切ってあります