OpenMythosとは?Claude Mythosを再現するオープンソース実装の仕組みと使い方
OpenMythosは、Anthropicが一般公開していないセキュリティ特化モデル「Claude Mythos」の内部構造を、公開されている研究文献だけを手がかりにゼロから組み直したオープンソース実装です。独立系の開発者Kye Gomez氏がPyTorchで実装し、2026年4月にGitHubへ公開しました。重要なのは、これが学習済み重みを持たない「アーキテクチャの再構築」であり、Claude Mythos本体でも、そのまま推論に使える完成モデルでもない点です。本記事は、Claude Mythosとの違い・反復深度Transformerの仕組み・pipでの導入手順・学習に必要な資源までを、公式リポジトリと一次報道に沿って整理します。
まとめ
- 正体:Claude Mythosの構造を公開文献から推測して再現した理論的なオープンソース実装(github.com/kyegomez/OpenMythos、MITライセンス)。
- Claude Mythosとの関係:Claude MythosはAnthropicの非公開モデル本体、OpenMythosは非公式の外部再構築。両者は別物で、後者に前者の性能や検出実績は無い。
- 中核技術:Recurrent-Depth Transformer(反復深度Transformer)。少数の層を繰り返し通すことで、パラメータを増やさずに「思考の深さ」を増やす。
- 効率:文献(Parcae)の主張として、770Mパラメータで1.3Bの固定深度Transformer相当の品質を狙う設計。
- 使い方:
pip install open-mythosで導入できるが、重みは同梱されないため自分で学習させる前提(H100級GPU・FineWeb-Edu・30Bトークン規模)。
以下、まず混同されやすいClaude Mythosとの違いから解き、仕組み・導入手順・向き不向きの順で掘り下げます。
OpenMythosとClaude Mythosの違い(何を再現した実装か)
検索で最も誤解が多いのがこの2つの取り違えです。名前は似ていますが、開発元も中身もまったく異なります。
Claude Mythos=Anthropicの非公開セキュリティモデル本体
Claude Mythosは、Anthropicが開発したサイバーセキュリティ特化のモデルです。自律的に脆弱性を発見する能力が高いことから一般公開されず、AWS・Apple・Google・Microsoftなど一部の組織に限定提供する「Project Glasswing」経由でのみ利用できます。実績として、Mozillaは同モデル(早期版のClaude Mythos Preview)が発見した271件のFirefox脆弱性をFirefox 150で修正したと公表しました(Mozillaのブログ「The zero-days are numbered」。うち公開CVE化されたのはCVE-2026-6746・6757・6758の3件で、多くは重要度が公開CVE基準に満たない指摘)。Anthropicは提携各社と合わせ、重要ソフトウェア全体で1万件超の高・重大脆弱性を発見したとしています。AI製ゼロデイ攻撃とは|手口・実例と防御策で扱う攻撃側のAI活用と表裏の動きです。
OpenMythos=公開文献からの理論的再構築(重みは非同梱)
対してOpenMythosは、Claude Mythosの重みや内部仕様書には一切アクセスせず、公開論文と技術情報だけを根拠に「この構造ではないか」という仮説をコードで表現したものです。READMEにも「Anthropicおよびその独自システムとは無関係」という免責が明記されています。したがってOpenMythos自体はFirefoxの脆弱性を見つけたわけではなく、前述の検出実績はすべてClaude Mythos本体のものです。OpenMythosが提供するのは学習前のモデル定義(アーキテクチャ)であり、動かすには利用者側での学習が必要です。
開発者Kye Gomez氏の位置付けとMITライセンス
公開したKye Gomez氏は、オープンソースのAI実装を継続的に発表してきた個人開発者です。OpenMythosは公開から短期間でGitHubスター1.4万件超を集めましたが、その注目は「Claude Mythosの再現」という話題性以上に、反復深度Transformerを実際にPyTorchで読める数少ない公開実装であることに向いています。ライセンスはMITで、商用利用・改変・再配布が原則自由なため、研究や派生開発のたたき台として使いやすい設計です。
Recurrent-Depth Transformerの仕組み(反復深度で潜在空間内推論)
OpenMythosの中核は、層を積み増す代わりに同じ層を繰り返し通すRecurrent-Depth Transformer(Looped Transformer)です。トークンを吐き出しながら考えるチェーンオブソートとは異なり、途中の言葉を出さずに潜在空間の中で推論を深めます。
Prelude・Recurrent Block・Codaの3段構成と入力の再注入
処理は3段です。入力を一度だけ通すPrelude、最大max_loop_iters回まで繰り返すRecurrent Block、最後に一度だけ通すCoda。ループ部は隠れ状態を h_{t+1} = A·h_t + B·e + Transformer(h_t, e) の規則で更新し、各反復で入力表現eを注入し続けることで、繰り返しによる意味のドリフト(元の入力から逸れること)を防ぎます。
act_thresholdによる早期終了と計算量の動的調整
反復回数を固定せず、状態の変化が一定以下に収束したら打ち切る早期終了をact_thresholdで制御します。これにより、易しい入力は少ない反復で、難しい入力は多い反復で処理する「計算量を入力ごとに変える」動作になります。閾値を緩めすぎると早期終了が暴走して精度が落ち、厳しすぎると常に上限まで回ってVRAMと時間を消費するため、実務では学習時の挙動を見ながら調整します。
チェーンオブソート(可視化推論)との根本的な違い
OpenAI o1系などが中間の思考をトークン列として出力するのに対し、反復深度方式は思考を潜在空間内で完結させ、外部には最終出力だけを返します。推論過程が可視化されない一方、思考トークンを生成しない分だけ推論の設計思想が異なり、深さを層数ではなくループ回数で調整できるのが特徴です。
770Mで1.3B相当:パラメータ効率の理論的根拠(Parcae)
「なぜ小さいのに強いのか」を支えるのが、ループ型モデルのスケーリング則を扱う論文Parcae(Scaling Laws for Stable Looped Language Models)です。READMEはこの文献を根拠に、770Mパラメータのループ型モデルが、同じデータで学習した1.3Bの固定深度Transformerと同等の下流品質に到達しうる、と説明しています。ねらいはパラメータ数を半分程度に抑えたまま、反復で深さを稼いで品質を保つことです。ただしこれは文献が示す理論的な到達点であり、OpenMythosを学習して実測した結果として提示されているわけではない点に注意してください。
MoE・MLA/GQAが支える内部アーキテクチャ
反復深度に加え、近年の効率化手法を組み合わせている点もOpenMythosの特徴です。
ルーテッド+シェアードエキスパートのMoE層
フィードフォワード部は疎なMixture of Experts(MoE)で、DeepSeekMoEの設計に沿ってトークンごとに一部の専門家だけを選ぶルーテッドエキスパートと、常時作動するシェアードエキスパートを併用します。全パラメータを毎回使わないため、モデル規模を増やしても推論時の計算量を抑えられます。同系統の実装はDeepSeek V4の主要進化ポイントやGLM-5.1のMoEローカル実行でも確認できます。
MLAとGQAを切り替える注意機構の設計
注意機構はattn_typeでMLAとGQAを選べます。MLA(Multi-Latent Attention)はDeepSeek-V2由来で、KVを低ランクの潜在表現に圧縮してキャッシュを削減する方式(DeepSeek-V3.2のDSA/MLA解説参照)。GQA(Grouped Query Attention)はFlash Attention 2を任意で有効化できます。用途に応じてメモリ効率重視のMLAと、実装が枯れたGQAを使い分けられる柔軟性があります。
OpenMythosの使い方:pipインストールからMythosConfigまで
導入自体はpipで完結します。ただし前述のとおり重みは付属しないため、動かすには学習まで含めた準備が要ります。
pip install open-mythosと最小コード例
基本パッケージはpip install open-mythos、Flash Attention連携込みならpip install open-mythos[flash]で入ります。モデルはMythosConfigで構成を指定して生成します。
from open_mythos.main import OpenMythos, MythosConfig
cfg = MythosConfig(
vocab_size=1000,
dim=256,
n_heads=8,
max_seq_len=128,
max_loop_iters=4,
prelude_layers=1,
coda_layers=1,
n_experts=8,
n_shared_experts=1,
attn_type="mla",
)
model = OpenMythos(cfg)
MythosConfigで指定する主要パラメータ(規模・反復深度・注意方式)
語彙数vocab_sizeと隠れ次元dimがモデル規模を決め、反復深度はmax_loop_itersで指定します。Prelude/Codaの層数はprelude_layers・coda_layers、MoEの専門家数はn_experts・n_shared_experts、注意方式はattn_typeで"mla"か"gqa"を選びます。gqa選択時にFlash Attention 2を使うには[flash]付きインストールと対応環境が前提です。
学習は自前前提(H100・FineWeb-Edu・30Bトークン)
OpenMythosは未学習のため、実用的な性能を得るには自分で学習させる必要があります。リポジトリには学習スクリプトtraining/3b_fine_web_edu.pyが同梱され、FineWeb-Eduなどのデータセットで、Chinchilla則を目安とした30Bトークン規模の学習を、H100/A100上のPyTorch DDP(bfloat16)で回す構成が示されています。この計算資源は個人には重く、事実上は研究ラボや相応のGPU予算を持つチーム向けです。
OpenMythosが向く開発者・向かない用途(導入判断)
導入前に、この実装で「できること」と「できないこと」を切り分けておくべきです。向いているのは、反復深度Transformerやループ型モデルのスケーリングを自分で動かして検証したい研究者・実装者、MLAやMoEを組み合わせた最新設計の読み書きを学びたい層です。MITライセンスなので派生実装の土台にも使えます。
一方で、Claude Mythos相当の性能をすぐ使いたい、学習済みモデルをそのまま推論に載せたい、という用途には向きません。重みは同梱されず、Hugging Faceに公式の学習済みモデルが上がっているわけでもないため、学習コストを負えないなら実運用は成立しません。Claude Mythosの脆弱性検出能力を業務で使いたい場合の窓口はあくまでAnthropicのProject Glasswingであり、OpenMythosはその代替にはならない、と理解しておくのが安全です。
よくある質問
OpenMythosはClaude Mythos本体ですか?
いいえ。Claude MythosはAnthropicの非公開モデル本体で、OpenMythosはその構造を公開文献から推測して再現した非公式の外部実装です。Firefoxの271件発見などの実績はClaude Mythos本体のもので、OpenMythos自体の性能ではありません。
pip installすればすぐ推論に使えますか?
使えません。pip install open-mythosで入るのはアーキテクチャの定義だけで、学習済み重みは含まれません。実用的に動かすには、同梱の学習スクリプトで自前学習する必要があります。
学習にはどれくらいの計算資源が必要ですか?
リポジトリはFineWeb-Eduで30Bトークン規模、H100/A100上でのDDP学習を想定しています。数十億〜のトークン学習に耐えるGPU環境が前提のため、個人よりは研究ラボや相応のGPU予算を持つチーム向けです。
商用利用や派生開発はできますか?
できます。ライセンスはMITで、商用利用・改変・再配布が原則自由です。ただしClaude Mythosの重みや非公開仕様を使っているわけではない、あくまで独立実装である点を踏まえて利用してください。
Recurrent-Depth Transformerは通常のTransformerと何が違いますか?
層を積み増す代わりに、少数の層を最大max_loop_iters回まで繰り返し通して「思考の深さ」を稼ぐ点が違います。中間トークンを出さず潜在空間内で推論を完結させるため、チェーンオブソートとも仕組みが異なります。