Claudeを使っていると、なぜこれには答えてくれないのか、なぜこの言い回しをするのか、と引っかかる場面があります。背景には、Anthropicが公開している安全性の設計方針があります。
ここは機能の使い方ではなく考え方の話です。ただ、知っておくとClaudeの振る舞いを予測できるようになりますし、次章の限界とリスクも入ってきやすくなります。
シリーズ目次 ／ 前章: 12. Claudeの開発者向け入口 ／ 次章: 14. Claudeの限界とリスク
Table of contents
Open Table of contents
この章のねらい
- Constitutional AIという訓練手法の考え方を理解する
- 責任あるスケーリング方針における能力の閾値と安全性の論証を概観する
- 安全性の仕組みがあることと、安全であることの違いを区別する
安全性は3つの層で考える
Anthropicの取り組みは、3つの層に分かれています。
| 層 | 何をするか |
|---|---|
| 設計・訓練 | モデル自体に価値判断の傾向を持たせる |
| 組織の方針 | どこまで開発を進めてよいかの基準を定める |
| 実行時 | 実際のやりとりの中で危険な要求を検出し、制限する |
Constitutional AI：原則を書いた文書で訓練する
第3章で少し触れたConstitutional AI（憲法的AI）が、設計・訓練の層の中心です。
一般的な手法では、AIの応答を人間が評価して、その評価をもとに調整します。ただしこの方法は、評価者の負担が大きく、判断がばらつき、有害な内容を人間に読ませ続けることになります。
Constitutional AIは代わりに、守るべき原則を書いた文書をモデルへ与えます。そして訓練を2段階で行います。
| 段階 | 何をするか |
|---|---|
| 第1段階 | モデル自身が自分の応答を原則に照らして批評し、書き直す |
| 第2段階 | 人間の評価の代わりに、原則に沿ったAIの評価を使って強化学習を行う |
人間が一つひとつ採点する代わりに、採点基準そのものを明文化して渡す。基準が文書として公開されているので、なぜそう振る舞うのかを外部から検証できるのも利点だとされています。
一般的な手法との違いを並べると、次のとおりです。
Claudeの憲法
この原則文書は、Claudeの憲法として公開されています。初版は2023年5月9日、更新版が2026年1月21日。初版は約58項目の原則リストでしたが、2026年版は約2万3千語まで膨らみ、意図する振る舞いが詳しく説明されています。
原則の出どころは1つではなく、次のような複数の源から取られています。
| 出どころ | 扱う内容の例 |
|---|---|
| 世界人権宣言 | 自由、平等、差別の禁止、身体の安全 |
| デジタルプラットフォームの規約 | プライバシー、欺瞞、有害コンテンツ |
| 非西洋的な視点 | 多様な文化的背景への配慮 |
| 他組織の安全性研究 | ステレオタイプ、脅迫、虚偽の主張 |
| Anthropic独自の原則 | 思慮深さ、倫理性、状況に見合った応答 |
Anthropic自身が、この憲法は完成しておらず最良のものでもない、と述べています。今後も改訂していく前提だそうです。
責任あるスケーリング方針：どこまで進めてよいか
2つ目の層は、モデルを開発して公開する側の自主的な基準です。責任あるスケーリング方針（Responsible Scaling Policy、RSP）と呼ばれ、2026年2月24日にバージョン3.0が公開されました。
旧版のRSPでは、AI Safety Level（ASL） という段階に応じて対策を強める構成が中心でした。v3.0でも既存の保護措置を示す名称としてASL-3などを参照しており、AnthropicはASL-3相当の保護措置を実際に適用したことを公表しています。
ただし、v3.0の中核をASL-2、ASL-3、ASL-4という固定的な段階表として説明するのは正確ではありません。将来の能力水準ごとに固定の対策一覧を先回りして定める方法は硬直的だったとして、v3.0は能力と利用の閾値を監視し、そのリスクに対して十分な安全性の論証を示す構成へ改められました。自社で実行する計画と、業界全体へ勧告するより野心的な対策も、分けて示されます。
バージョン3.0では、次の3点が主な変更として挙げられています。
- 単独でできることと、業界全体の行動が要ることの区別を明確にした
- 公開された指標を伴うフロンティア安全ロードマップを導入した
- 一定の条件下で、リスク評価報告の外部レビューを必須とした
進め方を1枚にすると、次のようになります。
RSPは法規制ではなく、Anthropicが自主的に掲げている方針です。第三者に強制されるものではない。評価するときはここを押さえておいてください。
実行時の安全装置
3つ目の層は、実際のやりとりの中で働く仕組みです。
Anthropicは利用ポリシーを定めていて、そこに禁止される用途が示されています。これに加えて、リクエストの内容を判定する分類器が動いており、該当すると判断された要求は拒否されます。
開発者向けのAPIでは、この拒否が明示的な形で返ってきます。応答に「拒否」を示す停止理由と、その分類（サイバーセキュリティ関連、生物学関連など）が付く仕組みです。現行の上位モデルではサイバーセキュリティ関連の判定が特に強化されており、正当なセキュリティ業務であっても、内容によっては拒否される場合があります。
拒否は、危険なものを100%止める仕組みではありませんし、正当な依頼を絶対に止めない仕組みでもありません。誤検知も見逃しも起こります。業務でAPIを使うなら、拒否が返ってきたときの動作を先に設計しておいてください。
仕組みがあることと、安全であること
この節がこの章の要です。
ここまで見てきた3つの層は、いずれもリスクを下げるものであって、なくすものではありません。
| よくある誤解 | 実際 |
|---|---|
| 「憲法に沿って訓練されているから、間違ったことは言わない」 | 訓練で身につくのは傾向。事実の正しさは保証されない |
| 「危険な要求は拒否されるから安全」 | 巧妙な言い回しで回避される可能性は残る |
| 「安全性の方針があるから、出力をそのまま使ってよい」 | 出力の妥当性の判断は、使う側の責任 |
第10章で見たCoworkの安全ガイダンスが、Claudeがあなたの代理として行ったすべての操作について責任は利用者にある、と明記しているのは、この構造を反映しています。
3つの層を通り抜けたあとに何が残るのかを図にすると、次のとおりです。
安全性の仕組みは、確認を不要にするためのものではありません。確認すべき量を減らすためのものです。
要点
- 安全性の取り組みは、設計・訓練／組織の方針／実行時という3つの層に分かれる
- Constitutional AIは、原則を書いた文書をもとにモデル自身に自己批評と修正を学ばせる手法
- Claudeの憲法は2023年5月に初版が公開され、2026年1月に大幅な更新版が出た
- 責任あるスケーリング方針v3.0は、固定的なASL段階表ではなく、能力・利用の閾値と安全性の論証を軸にしている
- これらはリスクを下げる仕組みであって、出力の妥当性を保証するものではない
参考資料
- Anthropic「Claude’s Constitution」 https://www.anthropic.com/news/claudes-constitution — 憲法の内容、公開時期、Constitutional AIとの関係
- Anthropic「Responsible Scaling Policy」 https://www.anthropic.com/responsible-scaling-policy — 方針の全体像
- Anthropic「Responsible Scaling Policy Version 3.0」 https://www.anthropic.com/responsible-scaling-policy/rsp-v3-0 — 2026年2月24日発効版の内容
- Anthropic「Activating ASL-3 protections」 https://www.anthropic.com/news/activating-asl3-protections — ASL-3対応の保護措置の適用
- Claude Platform ドキュメント「Models overview」 https://platform.claude.com/docs/en/about-claude/models/overview — 上位モデルにおける安全性上の注記（基準日: 2026-08-09）