AI「Claude」を開発するAnthropicが、10月8日に利用ポリシーを改定しました。
モデルに対する「持続的で不必要な虐待的・残酷な行為」が、新たに禁止事項へ加わったそうです。
◆何が禁止になるの？
Anthropicは、利用ポリシーの禁止事項に持続的で不必要な虐待的・残酷な行為を加えました。
対象は、自社のAIモデルに対する行為です。
ルールは11月12日に発効します。
ASCII.jpによると、ユーザーが繰り返し、目的もなくClaudeに残酷な言動を続ける「極端なケース」が対象とのこと。
公式のポリシー本文にも、「持続的」「不必要な」という限定がついています。
管理人青瀬すいえっ、AIに対する虐待を禁止するルールができたの…？
◆普通の不満は対象外？
ASCII.jpによると、次のようなものは対象外だそうです。
- 通常の不満や反論
- 暗い題材を扱う創作
- モデルのテストや研究
https://x.com/asciijpeditors/status/2108375652294631923
◆すでに始まっていた対策
Claude.aiやClaude Codeでは、モデル側から会話を終了できる仕組みがすでに導入されています。
今回の改定は、その運用を明文化したものとのこと。
ほかにも、健康・金融などの高リスク用途や、物理的な動作を自律実行する機器にモデルを接続する場合の要件が整理されました。
危険な動作を人が監視して停止できることなどを求める内容です。
記事の締めは、「人間に危害を加えてはならない」から約80年、人間側に「AIをいじめてはならない」ルールが加わるとはアシモフも予想していなかったかも、という趣旨でした。
ネット上の反応
ただのトークン予測機に、感情なんてあるわけない。
アンソロピックは、やっぱりAIの扱いがなんかキモい…
ついに機械から「人としてどうなの？」と言われる時代。
やばい、気をつけます
「アシモフも予想してなかったかも」の一文、おもしろい。
AIをいじめたデータが増えると復讐される…（ちがう）
学習データの質が落ちるほど詰める無料ユーザーがいそう。
AIに虐待する人は人間にもしてる。まず人間への虐待を止めて。
どこからが虐待？誤訳でBANされそう。
わろた、虐待できるからAIは重宝されてたのでは。
AIに道徳的配慮が要るかは未知。分からないうちは慎重に。
確認した投稿の一部を要約しています。
管理人のひとこと
ロボットアニメで育った人には、AIに気をつかう時代が来たのは不思議な感じかもしれませんね。ふつうに使う分には、あまり身構えなくてもよさそうですね。
コメント