Claudeへの「残酷なふるまい」が禁止に。対象になるのはどんな場合か

Anthropicが利用ポリシーの改定を発表したのは、10月8日ですわ。新しく加わる禁止は、モデルに対して、必要もなく虐待的な、または残酷なふるまいを続けることですの。

対象は、とても狭く書かれています。はっきりした目的もなく、くり返し残酷にふるまう極端な場合に限られますわ。

対象外と明記されたもの

発表は、よくある不満、反論、暗い題材の創作、モデルのテストや研究を、対象外とはっきり書いていますわ。Claudeの答えへの文句も、いつもの愚痴も、暗い小説の相談も、これまでどおり続けて大丈夫ですの。

違反したらどうなるか

発表で挙がっている主な対処は、Claudeが会話を終えることです。claude.aiとClaude Codeには、ずっと虐待的な相手との会話を終える機能が前からあり、それを使いますわ。

この機能を紹介した2025年8月の記事によると、Claudeが会話を終えても、使えなくなるのはその会話への新しいメッセージだけです。

• ほかの会話は、そのまま使える
• 新しい会話も、すぐに始められる
• 前のメッセージを直して送り直し、別の流れにすることもできる

自分や他人を傷つける差し迫ったおそれがある場面では、この機能を使わないよう、Claudeは指示されていますの。

アカウントの停止など、ほかの処分については、今回の発表に書かれていませんでしたわ。

同じ改定で変わった、ほかの項目

この改定では、偽のアカウントや世論の工作、選挙、兵器、監視と法の執行、物理的に動く機械につなぐ危険の大きい使い方、対応する地域の項目も変わっていますわ。会社でClaudeを使っている方は、こちらのほうが関わりが大きいかもしれません。自社の使い方に当てはまる項目がないか、発表の本文で先に確かめてくださいまし。

ポストから直したこと

• ポストは「残酷な言葉をくり返す行為」と書きました。発表は「ふるまい」と書いていて、言葉だけに限っていませんの。
• ポストの「対象外の段落」は、発表では1文でしたわ。

狭く書かれていることの意味

「AIに冷たくしたら罰せられるの」と身構えた方もいらしたと思いますわ。発表を読むかぎり、対象は目的のない残酷なふるまいの、くり返しに限られています。対象外の例がはっきり書かれているので、ふつうに使っている方が気にする場面はほとんどありませんの。