Anthropic、Claudeの「生物兵器につながり得る利用」5件を遮断 何が起きていた？
何が起きた？
米AI企業Anthropicは2026年9月10日、同社のAI「Claude」が悪用・危険利用された事例をまとめた最新の脅威情報報告書を公開した。
2025年12月から2026年8月までの調査で、サイバー攻撃や監視、詐欺、情報操作、兵器開発などへの利用を確認し、関連するアカウントを停止したという。
特に注目されているのが、「生物兵器の開発を支援する可能性がある」とAnthropicが判断した5件の利用事例である。
ただし、これは「Claudeを使って生物兵器が完成した」という意味ではない。
Anthropic自身も、対象となった研究者について「危害を加える意図があったとは主張していない」と明記している。
簡単にいうと
問題になっているのは、AIが「生物兵器の作り方」をそのまま教えたという単純な話ではない。
たとえば、非常に優秀な研究助手を24時間使えるようになったと考えると分かりやすい。
大量の論文を整理する、研究計画を考える、データを解析する、申請書や報告書を書く――こうした作業をAIが高速で支援できる。
医薬品やワクチンを研究する人にとっては非常に便利だが、同じ能力は病原体や毒素を危険な方向へ研究する際にも利用できてしまう。
Anthropicが確認した5件には、チクングニアウイルスの機能獲得研究、高病原性鳥インフルエンザの哺乳類への適応研究、オルソポックスウイルスに関する研究申請、毒性ペプチドや毒素に関する研究などが含まれていた。
中には、Anthropicが利用を認めていない地域からアクセスしたり、Claudeが拒否した質問を別のAIへ転送したりする仕組みまで使われていた事例もあった。
それで何が変わる？
今回の報告で重要なのは、AIによる生物学上の危険が「将来起こるかもしれない仮説」だけではなくなってきたことである。
すでに現実の研究者が、高度な生物研究の一部にAIを組み込んでいることを、AI企業自身が利用記録から確認した。
一方で、今回の5件から「AIがあれば誰でも生物兵器を作れる」と結論づけることもできない。
実際の生物研究には専門知識、研究施設、試料、設備、実験技術などが必要で、Claudeだけで危険な病原体が作れることを示した報告ではない。
問題はむしろ、すでに専門能力を持っている研究者や組織の作業速度をAIが引き上げる可能性にある。
Anthropicも、AIの性能が専門家レベルに近づくほど、科学研究を助ける効果と危険な研究を加速する効果の両方が大きくなるとみている。
本当に「生物兵器を作っていた」の？
ここは今回のニュースで最も誤解しやすい点である。
Anthropicは5件について「生物兵器開発を支援し得る」と評価しているが、研究者自身に攻撃目的があったとは断定していない。
なぜなら、生物学には「デュアルユース」と呼ばれる問題があるからだ。
同じ研究が、病気を防ぐためにも、危険な病原体について理解するためにも利用できる。
たとえば、ウイルスがなぜ人間に感染しやすくなるのかを研究すれば、将来のパンデミックを早く発見する手掛かりになる。
しかし、その知識を逆方向に利用すれば、より危険なウイルスを作る研究にもつながり得る。
そのため、
「この質問はワクチン研究のためなのか」
「兵器研究のためなのか」
を、質問内容だけからAIが判断するのは非常に難しい。
今回の事例でも、一部の研究はAnthropicの安全システムをほぼ問題なく通過していた。
なぜAIの安全対策だけでは防ぎにくい？
現在のAIでは、「危険な質問なら回答を拒否する」という仕組みが広く使われている。
ところが、高度な科学研究になるほど、この方法には限界がある。
明らかに生物兵器を作る方法を求めれば遮断しやすいが、「このタンパク質を解析してほしい」「この研究計画を改善してほしい」といった依頼だけでは、その最終目的までは分からない。
安全対策を厳しくしすぎれば、今度は新薬やワクチンの研究まで妨げてしまう。
Anthropicは今回の経験から、最先端の生物学能力を持つAIについては、単純な質問内容の監視だけでは不十分で、身元や所属などを確認した信頼できる利用者だけに高度な機能を提供する仕組みが必要になる可能性があるとしている。
さらに今回の報告では、生物研究だけでなく、ミサイルや武装ドローンなどの通常兵器開発にClaudeが利用された事例も確認された。
あるケースではClaudeを使って誘導兵器用ソフトウェアを開発し、実際にロケットを試射したとAnthropicは報告している。実用化に成功した証拠はなく、試射も失敗したとみられているが、その後、失敗原因の分析にもClaudeが使われていたという。
AIの危険性というと「AI自身が暴走する」という未来の話が注目されやすい。
しかし今回見えてきたのは、それよりもっと現実的な問題である。
人間がAIを優秀な研究者、技術者、プログラマーとして利用し、これまで多くの専門家が必要だった危険な作業を少人数で進められるようになる可能性が出てきている。
今回の報告は「AI生物兵器が完成した」というニュースではない。
むしろ、AIが科学研究や兵器開発の現場に入り始めたことで、これまでの「危険な質問を拒否する」だけの安全対策では十分ではなくなりつつあることを示した事例と見るべきだろう。