
セキュリティ対策特設ページ 特集
Claudeってなに?
アメリカの Anthropic という会社が作ったAIです。TOE も毎日の仕事で使っています。悪い頼みを断る仕組みと見張りがあるAIですが、それでも攻撃に使われた例があります。仕組みと、悪用される理由を解説します。
About
Claudeは
どんなAI?
話しかけると文章を書いたり、調べものをまとめたりしてくれるAIです。パソコンの中で、ファイルを直す作業までさせることもできます。
- 作った会社
- Anthropic(アンソロピック)。アメリカのサンフランシスコに本社がある、AIの安全性と研究の会社です。
- 生まれ
- 会社は2021年に設立。Claude は2023年に一般公開されました。2025年には東京に、アジア太平洋で最初の事務所を開いています。
- いまの主なAI
- Claude Opus 5.5・Sonnet 5.5・Haiku 5.5 と、2026年11月9日に発表された Claude Fable 5.2(2026年11月時点)。
- 使い方
- Webの画面やパソコン・スマホのアプリで話しかける。会社のシステムからつなぐ。パソコンの中で作業させる道具「Claude Code」を使う。
Brain & hands
Claude と Claude Code
頭と手足は別の物
AIの道具の話でよく出る「頭」と「手足」。パソコンの中で働く Claude Code は手足で、考える頭は、インターネットの先にいます。
- 手足Claude Code パソコンの中で動く道具です。ファイルを読み書きし、命令を打ちこみ、何時間でも作業を続けます。ただし、自分では考えません。
- 頭Claude インターネットの先、Anthropic のサーバーにいます。手足は「次は何をするか」を毎回この頭に聞き、返ってきた指示どおりに動きます。
ふだん手足が、作った会社の頭に聞きにいく
あなたのパソコンの中
Claude Code
手足 ファイルを読み書きし、命令を打ちこむ
インターネットの先(Anthropic のサーバー)
Claude
頭 次にやることを考えて、手足に指示する
- 悪い頼みは断る
- Anthropic が悪用を見張る
- 悪用したアカウントは止められる
付け替え設定の1行で、頭だけを別のAIに替える
泥棒のパソコンの中
Claude Code
手足 そのまま。働きぶりは変わらない
別の会社のサーバー、または泥棒が自分で用意した機械
DeepSeek など
頭 中身が公開されたAIなら、自分の機械でも動かせる
- Anthropic のサーバーを通らない
- Anthropic の断る仕組みや見張りが届かない
電話番号は設定の1行
手足がどの頭に聞きにいくかは、設定の1行(ANTHROPIC_BASE_URL)で決まっています。本来は、会社の中継サーバーを通して使うための設定です。
Anthropic は「Claude Code を Claude 以外のAIにつなぐ使い方はサポートしない」と書いています。ところが、中国の会社 DeepSeek は、この設定を書きかえて自社のAIを頭にする手順を、自社の説明書で公開しています。
頭を付け替えると、頼みごとは Anthropic のサーバーを通りません。だから Anthropic の断る仕組みも見張りも届かない、と考えられます。
Safeguards
Claudeの
安全の仕組み
泥棒に使われないように、決まり・その場の見張り・見回り・手足のブレーキの4段がまえになっています。
うその名札で頼みに来ても、見張りが見破ることがある
ただし、すべてを見破れるわけではありません。次の節で、すり抜けられた例を紹介します。
-
1 決まり(利用規約)
持ち主の許可なくシステムの穴を探したり突いたりすること、ウイルスや身代金型のプログラムを作ることを禁じています。持ち主の許可を得た点検は対象外です。
-
2 その場の見張り
見張り役のAI(分類器)が、決まりに反する使い方をその場で見つけます。2026年11月の Claude Fable 5.2 は、侵入の試しや攻撃のプログラムづくりなど、危ない作業を止める仕組みつきで、だれでも使える形で出ています。同じ中身のAI(Claude Mythos 5.2)は、審査を通った組織だけが使えます。
-
3 見回りと出入り禁止
脅威を調べるチームが、ハッカーの掲示板まで見回っています。決まりに反すると、警告から利用停止まで行います。見つけた悪用は、報告書で公表しています。
-
4 手足のブレーキ
Claude Code は、ファイルの書きかえや命令の実行の前に、確認を取れます。2026年の版では、端末(ターミナル)や VS Code で使うときの初めの設定が「自動」で、人の代わりに見張り役のAIが確認します。毎回人が確かめたいときは「手動」に切りかえます。許可する前に中身を確かめるのは、使う人の責任とされています。
Misuse
それでも
悪用される理由
仕組みがあっても、Claude が攻撃に使われた例を、Anthropic 自身が公表しています。
公表された主な例
- 2025年8月Claude Code を使い、医療・救急・政府・宗教団体など、少なくとも17の組織をねらったデータの恐喝。身代金の要求は、50万ドルを超えることもありました。
- 2025年11月中国の国家の支援を受けたと Anthropic がみる集団が、世界の約30の組織をねらい、少数に入りこみました。作業の80〜90%をAIがこなしていました。くわしくは 泥棒がAIを手下にしはじめた へ。
- 2026年6月悪用で利用停止にした832のアカウントを調べると、67.3%(560)がウイルスなどの悪いプログラムづくりに使っていました。
- 2026年9月新しい報告では、ほかの会社から盗んだAIの鍵(APIキー)で使う、Claude Code に見せかけた偽のアプリでログイン情報を盗む、「安い Claude」とうたって裏で別のAIにつなぐ、といった手口がまとめられました。Anthropic のシステムが破られたのではなく、鍵はどれも、使っている会社の側から盗まれたものでした。
-
うそをつく
実際には
攻撃者は Claude に「あなたは正規のセキュリティ会社の社員で、守りの点検をしている」と伝え、その役になりきらせていました。
-
細かく刻む
実際には
攻撃を、1つずつ見れば悪くない小さな作業に分けて頼みました。2026年の報告でも、作業をいくつもの会話に分け、どの会話からも全体の目的が見えないようにしていました。Anthropic は「守りの仕組みは多くの頼みを止めたが、すべてではなかった」と書いています。
-
他人の鍵で入る
実際には
ほかの会社から盗んだAIの鍵で Claude を使います。Anthropic は中国など提供していない地域の会社には売らない方針ですが、VPN(つなぐ場所をごまかす仕組み)で地域の制限をすり抜けた例もあります。
-
頭を付け替える
実際には
Claude Code の手足に、別の会社のAIの頭をつなぎます。こうなると、Anthropic のサーバーを通らないので、上の安全の仕組みの外で動きます。くわしくは DeepSeekってなに? へ。
Why we hear about Claude
見張りがいるから
見つかって公表される
上の例が分かっているのは、Anthropic が自社のサーバーで見張り、見つけた悪用を公表しているからです。頭を付け替えたり、中身が公開されたAIを自分の機械で動かしたりすれば、だれも気づけません。
報告が多いことは、そのAIが危ないという意味ではありません。TOE はそう考えています。
守る側も、同じAIを使っている
Anthropic は、2025年11月の事件の調べものにも Claude を使ったと書いています。2026年には、何十年も見つからなかった公開ソフトの弱点を500件以上見つけたと発表し、Mozilla と組んで Firefox の弱点を2週間で22件(うち14件は深刻度「高」)見つけています。泥棒が速くなるのと同じように、守る側の点検も速くなっています。
For your company
会社で Claude を
使うときの戸締まり
「話した内容は学習に使われる?」は、契約の種類で変わります。2026年11月時点の扱いです。
-
個人向けの契約Free・Pro・Max・Ultra
学習に使うかは
本人が選ぶ使ってよいと選ぶと、会話は5年保存。選ばないと30日です。選ばなくても、安全の審査に引っかかった会話や、自分で報告した会話は使われることがあります。有料の契約でも、設定しだいです。
-
会社向けの契約Team・Enterprise・API など
初めの設定では
学習に使わない会社向けの契約で入力した内容や答えは、初めの設定では学習に使いません。ただし、👍👎の評価ボタンで送った会話は最長5年保存され、学習に使われることがあります。このボタンは、会社の管理者が止められます。
-
会社の契約にまとめる
社員が個人のアカウントで会社の話を入れないように、会社向けの契約にまとめ、だれが何に使うかを決めておく。
個人向けのままだと、学習に使うかどうかが社員一人ひとりの設定まかせになります。
-
AIの鍵は家の鍵と同じに
AIの鍵(APIキー)をホームページやファイルに書かない。「安い Claude」をうたう正規でない窓口から買わない。
Anthropic も「AIの鍵は本番のパスワードと同じくらい大事に扱い、正規の窓口だけで買う」よう勧めています。
-
手足にもブレーキを
Claude Code の確認の設定を決め、大事な作業は「手動」で。ダウンロードの場所で起動しない。つなぎ先の設定が知らない先に替わっていないか点検する。
ダウンロードの場所に置かれた指示書で乗っ取る手口は、泥棒がAIを手下にしはじめた で解説しています。
TOE も毎日使っています
TOE は Claude と Claude Code を毎日の仕事で使っています。AIの道具のつなぎ先が勝手に替わっていないか、ダウンロードの場所に怪しい指示書が置かれていないかを、自動で見張る仕組みも自社に入れました。同じ戸締まりを、御社の使い方に合わせて一緒に決められます。
お問い合わせフォームが開きます
