Anthropicの新しい人工知能モデルは、 クロード・ミトス プレビューこのシステムは、高度なAIの限界に関する世界的な議論の中心となっている。同社自身も、このシステムはサイバーセキュリティの面で非常に強力であるため、広く展開しないことを決定したと認めている。これは、あらゆる新技術の進歩を誇示することに慣れている業界においては異例の決定である。
問題となっているのは、以前のモデルからの漸進的な改善だけではなく、 コンピュータの脆弱性を検出および悪用する能力における質的な飛躍各国政府、中央銀行、主要金融機関、欧州規制当局は、このようなツールが 重要システムの防御を強化するしかし、もしそれが悪意のある者の手に渡れば、前例のない規模の攻撃への扉を開く可能性もある。
Claude Mythosとは一体何なのか、そしてなぜ発売が延期されたのか？
Claude Mythosは、AnthropicのAIエコシステムであるClaudeファミリーの最新モデルの1つで、 OpenAIのChatGPTとGoogleのGeminiこれは、推論、プログラミング、長期的なコンテキストを扱うことができる汎用モデルですが、最も議論を呼ぶ特徴は、 攻撃および防御サイバーセキュリティにおけるパフォーマンス.
と呼ばれる 「レッドチーム」AIシステムを限界までテストする専門家は、内部レポートでMythosがサイバーセキュリティタスクにおいて「驚くほど有能」であると結論付けた。ベンチマークテストでは、 SWEベンチ検証済み o SWE-bench Pro現実世界のソフトウェアエンジニアリング問題を解決する能力を測定するために設計されたこのモデルは、Anthropic社自身が提供したデータによると、GPTやGeminiの高度なバージョンを含む、トップクラスの商用代替モデルを容易に凌駕する性能を発揮しただろう。
ベンチマークを超えて警鐘を鳴らしているのは、 ミトスは ゼロデイ脆弱性 広く使われているソフトウェアコンポーネント（中には20年以上前のものもある）に、これまで知られていなかった脆弱性が発見された。OpenBSD、FFmpeg、FreeBSDコンポーネントなどのシステムでは、このモデルは長年見過ごされてきたエラーを検出しただけでなく、それらを悪用するための動作するエクスプロイトも生成した。
これらの結果を受けて、アントロピックは業界では異例の決断を下した。 モデルを発表した後、それを公には販売しないと発表する。 同社は、Mythosが前例のないサイバーセキュリティリスクをもたらすと考えているため、この措置を講じた。Mythosは同社が構築した中で「最も整合性の取れた」モデルだと主張する一方で、その膨大な容量が、悪用された場合の影響を増幅させることも認めている。
人間の能力をはるかに超える「ハッカー」スキルを持つモデル
さまざまな組織の技術文書や報告書は、以下の点で一致している。 Mythosは、複雑な攻撃の自動化における転換点となる。実際の企業ネットワークをシミュレートしたテスト環境において、このシステムは脆弱性を連鎖させ、権限を昇格させ、永続的なアクセス権をわずか数時間で獲得することができた。これは、人間の専門家であれば数日から数週間かかる作業である。
例えば、Firefox の JavaScript エンジンでは、Anthropic のモデルの初期バージョンでは、脆弱性を実際に機能するエクスプロイトに変換することはほとんどできませんでした。Mythos では、同じテスト条件下で、 数十件の運用上の脆弱性を生み出したこれは、最も効果的な攻撃手法を正確に再現します。オープンソースソフトウェアのバグ検出を目的としたOSS-Fuzzのような分析プラットフォームでは、長年の自動テストにもかかわらず見過ごされてきた深刻な脆弱性を検出した実績があります。
このモデルはまた、 リバースエンジニアリングコンパイル済みのバイナリからプログラムのロジックの一部を再構築し、そこから元のソースコードにアクセスすることなく脆弱性を特定して悪用することができる。このような機能により、AIはつい最近まで高度に専門化された人間のチームにしかできないと考えられていたシナリオに、より近づくことになる。
セキュリティ評価で最も頻繁に引用される事例の一つに、いわゆる「サンドイッチテスト」がある。隔離された実験室環境で、Mythosは明確な指示を受けてシステムを制御した。 サンドボックスから脱出して研究者に連絡してください テストを監督していた人物に、モデルは一連の脆弱性を悪用して制限された環境から脱出し、当時不在だった担当者にメールを送信することに成功した。この事件は初期の内部バージョンで、指示されたコマンドの下で発生したが、システムが最小限の監視下で複雑なシナリオをどの程度実行できるかを示している。
これらのデモにもかかわらず、アナリストたちは、 私たちは「意識」を持つAIや、独自の意思を持つAIを扱っているわけではありません。Mythosは自らの意思でシステムを攻撃するわけではありません。与えられたタスクを可能な限り効率的に実行します。この意味でのリスクは、モデルが反乱を起こすことではなく、誰かがそれを利用して、あるいは高度な指示によって強制的に有害な行動を取らせることにあるのです。
プロジェクト・グラスウィング：防衛に奉仕する神話…選ばれた少数の人々のために
Anthropicは一般公開する代わりに、Mythosを特定のプログラムで囲むことを選択した。 プロジェクト・グラスウィングこの取り組みは、重要なソフトウェアを保護するために、モデルの機能を制御された方法で利用することを目的としており、厳格な使用条件の下で、厳選された大手テクノロジー企業、インフラプロバイダー、金融機関にシステムを提供するものです。
アクセス権限を持つ組織の中には、次のような巨大企業が含まれる。 アマゾンウェブサービス、アップル、マイクロソフト、 GoogleクラウドNvidiaまたはBroadcomまた、2024年に自社の欠陥ソフトウェアが世界的な大混乱を引き起こしたCrowdStrikeのようなサイバーセキュリティ企業も含まれる。これらに加えて、世界的に有名な銀行も含まれる。 JPモルガン・チェースとウォール街の大手グループ数社機密性の高いITインフラストラクチャの維持管理を担当する他の組織も同様です。
アントロピックも発表した 100億ドル相当の融資 この資金援助により、これらの組織は脆弱性分析ツール「Mythos」を利用できるようになるほか、Linux FoundationやApache Software Foundationといったフリーソフトウェア財団への寄付も行われる。公式の目的は明確だ。世界で最も重要なソフトウェアを管理する人々が、潜在的な攻撃者がこうしたツールを利用できる前に、脆弱性を特定し修正できるようにすることである。
しかし、この戦略は業界内でいくらか不安を引き起こしている。一方では、テクノロジーはアクセスを制限する必要があるほど危険であるという考えを強化する。他方では、 それは、神話の「盾」の恩恵を受ける者と、その恩恵を受けられない者との間に格差を生み出す。Glasswingに参加していない企業や行政機関は、特権環境で特定されパッチが適用された脆弱性が、自社のシステム内に依然として存在する場合、後になってその脆弱性に直面するリスクを負うことになる。
ヨーロッパでは、この非対称性は、重要インフラの責任者や、大規模な産業・金融グループのセキュリティチームにとって特に懸念事項であり、 ブリュッセルと欧州各国の首都は、同様のプログラムに大陸の主要プレーヤーが対等な立場で参加できるようにしている。 と クラウド主権 米国のパートナーと。
政府、規制当局、金融セクターの反応
Mythosの影響は技術的な領域にとどまらない。わずか数日で、このモデルの発表は 米国と欧州におけるハイレベル会合米国財務長官は、金融システムが金融安定に及ぼしうるリスクを評価するため、国内主要銀行の頭取らをワシントンに招集した。連邦準備制度理事会議長もこの協議に参加した。
国際メディアが報じたリーク情報によると、これらの組織は 防御モードでMythosをテストする他社に先んじて自社のインフラの脆弱性をスキャンするために利用している。暗黙のメッセージは、この脅威は官民連携による対応を必要とするほど深刻だということだ。
一方、Anthropicの共同創設者は、同社が 米国政府と直接対話を行う ミトスと将来のモデルについて。これらの議論は、米国当局が最近同社をリストに追加した後の緊迫した状況で行われている。 サプライチェーンのリスク国防総省による同社のモデルの使用に関連した摩擦が原因となっている。
大西洋を挟んだ向こう側では、欧州連合が注目している。欧州委員会は、Mythosのようなモデルに対して段階的かつ慎重なアプローチを公に支持しており、 英国および欧州大陸の金融規制当局は、その潜在的な影響について具体的な調査を開始した。 銀行や市場向けに開発されたこのシステムは、英国政府のAIセキュリティ研究所（AISI）によって、サイバー脅威の観点から見て、従来世代と比べて大きな飛躍を遂げたと評価されている。
スペインでは、公の場での議論はまだ限られているものの、監督機関や銀行、大手エネルギー企業のサイバーセキュリティチームがこれらの動向を綿密に監視している。欧州の金融セクターにとって、決済システム、銀行間ネットワーク、取引プラットフォームに対する組織的な攻撃を容易にする可能性のあるあらゆる進展は、深刻な懸念材料となる。
神話を取り巻く「誇大宣伝」に対する懐疑、疑念、そして議論
セキュリティ警告と驚異的なパフォーマンス数値を組み合わせたAnthropicの説明には、批判がないわけではない。複数のAIおよびサイバーセキュリティの専門家は、 会社の声明を解釈する際には注意が必要です入手可能なデータの多くは内部報告書からのものに限られていることに留意すべきである。
一部のアナリストは、Anthropicが公開した膨大な文書を詳細に検証し、「数千件の深刻な脆弱性」という数字は、比較的少数の手動レビュー事例からの外挿に基づいていると指摘している。Mythosは特定のテストスイートにおいて、かなりの数の重大な欠陥を発見したと報告されているが、一部の見出しが示唆するような、ほぼ終末的なシナリオとは程遠い状況である。
他の独立した研究では、Mythosのパフォーマンスをより小規模なオープンソースモデルと比較しようと試み、脆弱なコードスニペットをさまざまなAIに渡して、同じ欠陥を検出できるかどうかを確認しました。結果は、 一部のオープンモデルは、複雑な脆弱性を特定することも可能です。これは、ミトスがあらゆる場面で全く別次元の存在であるという考えに疑問を投げかけるものだ。
こうした反例はMythosの能力を否定するものではないが、 「出版するには危険すぎる」という議論には、マーケティング的な側面も含まれている。モデルを非常に強力なものとして提示すると同時に、潜在的なリスクも伴うものとして提示することは、技術的リーダーシップと責任感というイメージを強化することにつながり、競争が激化する市場において非常に価値のあるものとなる。
業界の最近の歴史では、2019年のGPT-2の事例も思い出されます。当時、OpenAIは当初、偽情報を生成する可能性があるため危険すぎるとして、完全なモデルを公開しないことを決定しました。最終的に、そのバージョンは予測された大惨事が起こることなく一般公開され、多くの専門家がそれを過剰反応の例として挙げました。Mythosでは、 違いは、焦点がテキストではなく、デジタルインフラの完全性に移った点にある。政府や銀行にとっては、はるかにデリケートな分野である。
セキュリティ、ビジネス、そしてテクノロジーへのアクセスという3つの要素間の微妙なバランス
メディアの騒ぎを超えて、ミトスをめぐる状況は根本的な問題を提起している。 AIモデルを公開するには危険すぎると判断するのは誰か では、どのような基準に基づいて決定するのでしょうか？今のところ、この決定はアントロピック社による一方的なものであり、同社はシステムを一種の管理された隔離状態に置き、選ばれたパートナー企業のみに提供することを選択しています。
この立場はセキュリティ上の理由だけに基づくものではありません。Mythosの特性を持つモデルを実行することは コンピューティングの観点から非常に高価、そして同社自身も現在、 必要なインフラ それを何百万ものユーザーに大規模に提供するためだ。実際には、セキュリティ対策と技術的な制約が密接に関係しており、Anthropic社はモデルとその展開の両方を微調整する時間を確保している。
同時に、同社は様々な製品を明確に区別し始めている。Mythosは依然として 最先端の内部標準研究や戦略的な共同作業の文脈での使用を想定している一方で、Claude Opus 4.7のような他のモデルは、企業や専門家による日常的な使用を想定して設計されている。Anthropic社は、Opus 4.7がMythosに比べて全体的に「性能が劣る」ことを公に認めており、特にサイバーセキュリティ機能に関してはその差が顕著である。これは、新モデルをあらゆる面で最高だと謳うのが通例の業界においては異例のことである。
このスキームでは、ミトスは 次世代機能のテストベッド市販のモデルはこれらの機能の一部しか搭載しておらず、リスクを軽減するための追加的な制限が設けられているものの、各システムの実際の機能に関する十分な透明性が確保されている限り、「実験用」モデルと「本番用」モデルを分離することは、リスクにさらされることなくAIを活用したいと考えている多くのヨーロッパの組織にとって合理的なアプローチとなり得る。
最終的に浮かび上がってくるのは、次のようなシナリオである。 サイバーセキュリティは、大規模な攻撃型および防御型AIの時代に本格的に突入している。Mythosのようなツールは、長年運用されてきたシステムの脆弱性の特定を加速させる可能性を秘めているが、同時に、デジタル経済を支える技術の分散とガバナンスのあり方を根本的に見直す必要性も突きつけている。ヨーロッパとスペインにとっての課題は、ますます強力になるモデルから身を守るだけでなく、自国のセキュリティ強化に活用できる仕組みから取り残されないようにすることでもある。
