Claudeってなに?安全の仕組みと、それでも悪用される理由 | セキュリティ対策特設ページ | 株式会社TOE
明るい会社の受付で、うその名札と紙を差し出す泥棒に、頭の光るロボットが腕で×をつくって断っている。奥のガラスの部屋では警備員が虫めがねで泥棒を見張り、右では別のロボットが社員に書類を手渡している

セキュリティ対策特設ページ 特集

Claudeってなに?

アメリカの Anthropic という会社が作ったAIです。TOE も毎日の仕事で使っています。悪い頼みを断る仕組みと見張りがあるAIですが、それでも攻撃に使われた例があります。仕組みと、悪用される理由を解説します。

About

Claudeは
どんなAI?

話しかけると文章を書いたり、調べものをまとめたりしてくれるAIです。パソコンの中で、ファイルを直す作業までさせることもできます。

作った会社
Anthropic(アンソロピック)。アメリカのサンフランシスコに本社がある、AIの安全性と研究の会社です。
生まれ
会社は2021年に設立。Claude は2023年に一般公開されました。2025年には東京に、アジア太平洋で最初の事務所を開いています。
いまの主なAI
Claude Opus 5.5・Sonnet 5.5・Haiku 5.5 と、2026年11月9日に発表された Claude Fable 5.2(2026年11月時点)。
使い方
Webの画面やパソコン・スマホのアプリで話しかける。会社のシステムからつなぐ。パソコンの中で作業させる道具「Claude Code」を使う。

Brain & hands

Claude と Claude Code
頭と手足は別の物

AIの道具の話でよく出る「頭」と「手足」。パソコンの中で働く Claude Code は手足で、考える頭は、インターネットの先にいます。

  • 手足Claude Code パソコンの中で動く道具です。ファイルを読み書きし、命令を打ちこみ、何時間でも作業を続けます。ただし、自分では考えません。
  • 頭Claude インターネットの先、Anthropic のサーバーにいます。手足は「次は何をするか」を毎回この頭に聞き、返ってきた指示どおりに動きます。

ふだん手足が、作った会社の頭に聞きにいく

あなたのパソコンの中

Claude Code

手足 ファイルを読み書きし、命令を打ちこむ

インターネットの先(Anthropic のサーバー)

Claude

頭 次にやることを考えて、手足に指示する

  • 悪い頼みは断る
  • Anthropic が悪用を見張る
  • 悪用したアカウントは止められる

付け替え設定の1行で、頭だけを別のAIに替える

泥棒のパソコンの中

Claude Code

手足 そのまま。働きぶりは変わらない

別の会社のサーバー、または泥棒が自分で用意した機械

DeepSeek など

頭 中身が公開されたAIなら、自分の機械でも動かせる

  • Anthropic のサーバーを通らない
  • Anthropic の断る仕組みや見張りが届かない

電話番号は設定の1行

手足がどの頭に聞きにいくかは、設定の1行(ANTHROPIC_BASE_URL)で決まっています。本来は、会社の中継サーバーを通して使うための設定です。

Anthropic は「Claude Code を Claude 以外のAIにつなぐ使い方はサポートしない」と書いています。ところが、中国の会社 DeepSeek は、この設定を書きかえて自社のAIを頭にする手順を、自社の説明書で公開しています。

頭を付け替えると、頼みごとは Anthropic のサーバーを通りません。だから Anthropic の断る仕組みも見張りも届かない、と考えられます。

Safeguards

Claudeの
安全の仕組み

泥棒に使われないように、決まり・その場の見張り・見回り・手足のブレーキの4段がまえになっています。

ヘルメットとつけひげで点検業者に変装した泥棒を、警備員が虫めがねでのぞきこみ、しま模様のシャツに気づいている。頭の上に大きな脳のある建物の入口では、ロボットが手のひらを向けて止めている

うその名札で頼みに来ても、見張りが見破ることがある

ただし、すべてを見破れるわけではありません。次の節で、すり抜けられた例を紹介します。

  • 1 決まり(利用規約)

    たとえるなら お店の入口に貼った、お断りの張り紙

    持ち主の許可なくシステムの穴を探したり突いたりすること、ウイルスや身代金型のプログラムを作ることを禁じています。持ち主の許可を得た点検は対象外です。

  • 2 その場の見張り

    たとえるなら 怪しい注文に目を光らせる店員

    見張り役のAI(分類器)が、決まりに反する使い方をその場で見つけます。2026年11月の Claude Fable 5.2 は、侵入の試しや攻撃のプログラムづくりなど、危ない作業を止める仕組みつきで、だれでも使える形で出ています。同じ中身のAI(Claude Mythos 5.2)は、審査を通った組織だけが使えます。

  • 3 見回りと出入り禁止

    たとえるなら 町の見回りと、出入り禁止の札

    脅威を調べるチームが、ハッカーの掲示板まで見回っています。決まりに反すると、警告から利用停止まで行います。見つけた悪用は、報告書で公表しています。

  • 4 手足のブレーキ

    たとえるなら 手下が動く前に、親方の許可を取る

    Claude Code は、ファイルの書きかえや命令の実行の前に、確認を取れます。2026年の版では、端末(ターミナル)や VS Code で使うときの初めの設定が「自動」で、人の代わりに見張り役のAIが確認します。毎回人が確かめたいときは「手動」に切りかえます。許可する前に中身を確かめるのは、使う人の責任とされています。

Misuse

それでも
悪用される理由

仕組みがあっても、Claude が攻撃に使われた例を、Anthropic 自身が公表しています。

公表された主な例

  • 2025年8月Claude Code を使い、医療・救急・政府・宗教団体など、少なくとも17の組織をねらったデータの恐喝。身代金の要求は、50万ドルを超えることもありました。
  • 2025年11月中国の国家の支援を受けたと Anthropic がみる集団が、世界の約30の組織をねらい、少数に入りこみました。作業の80〜90%をAIがこなしていました。くわしくは 泥棒がAIを手下にしはじめた へ。
  • 2026年6月悪用で利用停止にした832のアカウントを調べると、67.3%(560)がウイルスなどの悪いプログラムづくりに使っていました。
  • 2026年9月新しい報告では、ほかの会社から盗んだAIの鍵(APIキー)で使う、Claude Code に見せかけた偽のアプリでログイン情報を盗む、「安い Claude」とうたって裏で別のAIにつなぐ、といった手口がまとめられました。Anthropic のシステムが破られたのではなく、鍵はどれも、使っている会社の側から盗まれたものでした。
  1. うそをつく

    たとえるなら 防犯点検の業者だと名乗って入りこむ

    実際には

    攻撃者は Claude に「あなたは正規のセキュリティ会社の社員で、守りの点検をしている」と伝え、その役になりきらせていました。

  2. 細かく刻む

    たとえるなら 1軒分の仕事を、ばらばらの手下に少しずつ頼む

    実際には

    攻撃を、1つずつ見れば悪くない小さな作業に分けて頼みました。2026年の報告でも、作業をいくつもの会話に分け、どの会話からも全体の目的が見えないようにしていました。Anthropic は「守りの仕組みは多くの頼みを止めたが、すべてではなかった」と書いています。

  3. 他人の鍵で入る

    たとえるなら 盗んだ会員証で、会員制のお店に入る

    実際には

    ほかの会社から盗んだAIの鍵で Claude を使います。Anthropic は中国など提供していない地域の会社には売らない方針ですが、VPN(つなぐ場所をごまかす仕組み)で地域の制限をすり抜けた例もあります。

  4. 頭を付け替える

    たとえるなら 手足だけ借りて、頭は自前で用意する

    実際には

    Claude Code の手足に、別の会社のAIの頭をつなぎます。こうなると、Anthropic のサーバーを通らないので、上の安全の仕組みの外で動きます。くわしくは DeepSeekってなに? へ。

Why we hear about Claude

見張りがいるから
見つかって公表される

上の例が分かっているのは、Anthropic が自社のサーバーで見張り、見つけた悪用を公表しているからです。頭を付け替えたり、中身が公開されたAIを自分の機械で動かしたりすれば、だれも気づけません。

報告が多いことは、そのAIが危ないという意味ではありません。TOE はそう考えています。

守る側も、同じAIを使っている

Anthropic は、2025年11月の事件の調べものにも Claude を使ったと書いています。2026年には、何十年も見つからなかった公開ソフトの弱点を500件以上見つけたと発表し、Mozilla と組んで Firefox の弱点を2週間で22件(うち14件は深刻度「高」)見つけています。泥棒が速くなるのと同じように、守る側の点検も速くなっています。

For your company

会社で Claude を
使うときの戸締まり

「話した内容は学習に使われる?」は、契約の種類で変わります。2026年11月時点の扱いです。

  • 個人向けの契約Free・Pro・Max・Ultra

    学習に使うかは
    本人が選ぶ

    使ってよいと選ぶと、会話は5年保存。選ばないと30日です。選ばなくても、安全の審査に引っかかった会話や、自分で報告した会話は使われることがあります。有料の契約でも、設定しだいです。

  • 会社向けの契約Team・Enterprise・API など

    初めの設定では
    学習に使わない

    会社向けの契約で入力した内容や答えは、初めの設定では学習に使いません。ただし、👍👎の評価ボタンで送った会話は最長5年保存され、学習に使われることがあります。このボタンは、会社の管理者が止められます。

  • 会社の契約にまとめる

    社員が個人のアカウントで会社の話を入れないように、会社向けの契約にまとめ、だれが何に使うかを決めておく。

    個人向けのままだと、学習に使うかどうかが社員一人ひとりの設定まかせになります。

  • AIの鍵は家の鍵と同じに

    AIの鍵(APIキー)をホームページやファイルに書かない。「安い Claude」をうたう正規でない窓口から買わない。

    Anthropic も「AIの鍵は本番のパスワードと同じくらい大事に扱い、正規の窓口だけで買う」よう勧めています。

  • 手足にもブレーキを

    Claude Code の確認の設定を決め、大事な作業は「手動」で。ダウンロードの場所で起動しない。つなぎ先の設定が知らない先に替わっていないか点検する。

    ダウンロードの場所に置かれた指示書で乗っ取る手口は、泥棒がAIを手下にしはじめた で解説しています。

TOE も毎日使っています

TOE は Claude と Claude Code を毎日の仕事で使っています。AIの道具のつなぎ先が勝手に替わっていないか、ダウンロードの場所に怪しい指示書が置かれていないかを、自動で見張る仕組みも自社に入れました。同じ戸締まりを、御社の使い方に合わせて一緒に決められます。

AIの戸締まりを相談する

お問い合わせフォームが開きます