LLM・RAG

Tx-LLMとは?Googleの創薬向けLLMの性能と後継TxGemmaの使い方

Tx-LLMとは?Googleの創薬向けLLMの性能と後継TxGemmaの使い方

Tx-LLMは、Google ResearchとGoogle DeepMindが開発した、治療薬(therapeutics)の研究開発に特化した大規模言語モデルです。低分子化合物・タンパク質・核酸・細胞株・疾患名を1つのモデルで読み、毒性や血液脳関門の透過性、臨床試験の承認可否といった性質を予測します。文章生成や一般的な質問応答のためのモデルではありません。

Tx-LLMについてGoogleが公開したのは論文と解説記事で、モデルの重みやAPIの公式な提供窓口はありません(2026年10月時点)。手元で動かせるのは、2025年3月に公開された後継のオープンモデルTxGemmaです。この記事では、論文と公式発表に書かれている範囲でTx-LLMの仕組みと性能を整理し、TxGemmaとの違い、Hugging Faceでの推論手順、利用規約上の制約まで扱います。

まとめ:Tx-LLMとTxGemmaの要点

  • Tx-LLMは論文が2024年6月10日にarXivで公開され、Google Researchのブログでは2024年10月9日に紹介されました。ベースはPaLM 2です。
  • 学習データは、Therapeutics Data Commons(TDC)を指示文形式に組み直したTxTで、709データセット・66タスクです。
  • 66タスクのうち22で当時の最高性能(SOTA)を上回り、21でSOTAとの差が10%以内でした。分子のSMILES表記と疾患名などのテキストを組み合わせるタスクで特に強く、SMILESだけのタスクでは専用モデルに負けています。
  • Tx-LLMのモデルの重みやAPIは公式に提供されていません。ブログでは外部研究者への提供方法を検討中とし、関心表明フォームを案内しただけです。
  • 実際に使えるのは後継のTxGemma(Gemma 2ベース・2B/9B/27B)です。論文で評価した最大の27Bモデルは66タスク中45でTx-LLMを上回りましたが、公開版は学習データの一部が異なります。
  • TxGemmaの利用はHealth AI Developer Foundations(HAI-DEF)の利用規約に従います。Googleが医療機器の「製造者」とみなされうる使い方は禁止され、第三者へ配布する場合は、該当すれば規制当局の承認等を申請する必要があります。

Tx-LLMの定義:治療薬開発の予測に特化したLLM

論文「Tx-LLM: A Large Language Model for Therapeutics」(arXiv:2406.06316)の筆頭著者はJuan Manuel Zambrano Chavesです。要旨では、Tx-LLMを「PaLM 2を追加学習した汎用(generalist)LLMで、多様な治療モダリティの知識を持つ」と定義しています。ここでの汎用は「創薬パイプラインの多くの段階を1つの重みでこなす」という意味です。医療以外の業務も扱えるという意味ではありません。

論文が解こうとした課題は、既存の創薬AIの多くが、特定領域の限られたタスクだけを扱っていた点です。毒性予測、結合親和性予測、臨床試験の成否予測はそれぞれ専用モデルで解くのが一般的で、各モデルは他の段階の知識を持ちません。Tx-LLMは、ターゲット遺伝子の特定から臨床試験の承認まで、創薬の上流から下流までを1つのモデルに学習させました。

モデルはPaLM 2のSサイズとMサイズで作られ、論文でTx-LLMと呼ぶのはMサイズの方です。MはSに66データセット中57で勝っており、規模を大きくすると性能が上がる傾向も報告されています。

「llms.txt」や一般的なLLMとの違い

名前が似たllms.txtは、Tx-LLMとは別物です。llms.txtはJeremy Howardが2024年9月3日に提案した、WebサイトがLLMやエージェント向けに要点をまとめて置くテキストファイルの規格で、モデルではありません。また「LLMとは何か」という一般的な解説を探している場合も、Tx-LLMは創薬研究向けの特殊なモデルなので入門には向きません。

学習データTxTの中身:TDCの709データセットを指示文に変換

Tx-LLMの学習には、研究チームがTherapeutics Data Commons(TDC)から作ったTxT(Therapeutics Instruction Tuning)を使っています。TDCは創薬向け機械学習のデータセットとベンチマークの集まりで、TxTはそれを「指示文→回答」の形に書き換えたものです。規模は709データセット・66タスクで、扱う対象は次の5種類です。

  • 低分子化合物(SMILES表記の文字列)
  • タンパク質(アミノ酸配列)
  • 核酸(塩基配列)
  • 細胞株(名前のテキスト)
  • 疾患(名前のテキスト)

各データは Instructions(タスクの説明)、Context(TDCの説明や文献から取った2〜3文の生化学的な背景)、Question(予測対象を入れた問い)、Answer(正解)の4要素で組まれ、推論時はAnswerの部分をモデルが生成します。論文によるとTxTは70%が例示なし(ゼロショット)、30%が1〜10件の例示付き(フューショット)の混合です。

タスクの出力形式は、二値分類(毒性の有無など)、回帰(脂溶性や薬剤感受性の数値など)、生成(反応物のSMILESを出す反応予測)の3種類です。評価指標はTDCが各タスクで推奨するものに合わせています。二値分類はAUROC・AUPRC・正解率、回帰はSpearman・Pearsonの相関係数やMAE・MSE、生成はUSPTOデータでの正解一致率です。

Tx-LLMの性能:43タスクでSOTA並み以上、SMILESだけのタスクは苦手

論文の結果は「66タスク中43でSOTA並みかそれ以上」です。内訳は、SOTAを上回ったのが22(二値分類12・回帰10)、SOTAとの差が10%以内だったのが21です。43タスクの結果は、タスクごとに調整していない同じ重みで出しています。

観点 論文の結果
SOTAを上回った 22タスク
SOTAとの差10%以内 21タスク
強い領域 SMILES+細胞株名・疾患名
弱い領域 SMILESだけの低分子タスク
M対S 66中57でMが上回る

強かったのは、分子のSMILESと細胞株名・疾患名のようなテキストを組み合わせるタスクです。論文は、事前学習で得た生理学などの一般知識が効いた可能性を挙げています。薬剤の組み合わせによる相乗効果(ドラッグシナジー)の予測がこの型に当たります。

SMILESだけで表される低分子のタスクでは、SOTAを下回りました。論文は、分子をグラフとして扱う専用モデルの方が有利な可能性を指摘し、SMILESは同じ分子に複数の書き方がある点や、LLMが生成したSMILESが文法として無効になりうる点を限界に挙げています。

もう1つの発見が、異なる種類の薬剤の間で学習が効き合う「正の転移」です。低分子のデータだけで学習したモデルより、タンパク質なども含む全データで学習したモデルの方が、低分子だけのタスクでも成績が良くなりました。

Tx-LLMの公開状況と後継TxGemmaの提供形態

2024年10月9日のGoogle Researchのブログは、Tx-LLMの能力を外部の研究者にどう提供するかを「検討中」とし、関心表明(Expression of Interest)のフォームを案内するにとどめています。その後も、Tx-LLMの重みやAPIへの公式な導線は用意されておらず、Googleは後継のTxGemmaを「オープンな後継(open successor)」と位置付けています。ブログ自身も、多くのタスクで専用モデルに及ばないこと、自然言語の指示に従うようには調整されていないことを限界として書いています。

その後Googleは、Tx-LLMを使いたい・追加学習したいという要望が大きかったことを受け、2025年3月25日に後継のオープンモデルTxGemmaを発表しました。いまTx-LLMの考え方を試したいなら、TxGemmaを使うことになります。

項目 Tx-LLM TxGemma
発表 2024年6月(論文) 2025年3月
ベースモデル PaLM 2 Gemma 2
サイズ S・M 2B・9B・27B
公開 論文のみ Hugging Face・Vertex AI
対話 非対応 chat版で対応
対Tx-LLM - 66中45で上回る(論文モデル)
利用条件 - HAI-DEF利用規約

TxGemmaの構成:predict版とchat版、Agentic-Tx

TxGemmaの論文「TxGemma: Efficient and Agentic LLMs for Therapeutics」(arXiv:2504.06196、2025年4月8日)と2025年3月25日の発表ブログによると、最大の27Bモデルは66タスクで先行の汎用モデル(Tx-LLM)と比べて64タスクで同等以上(うち45で上回る)、タスクごとの専用モデルと比べて50タスクで同等以上(うち26で上回る)でした。学習データはTDC由来の66タスクです。規模はモデルカードではTDC全体で1,500万件超、論文では学習用7,080,338件・検証用956,575件・テスト用1,917,297件とされ、発表ブログは「700万件の学習例」と説明しています。ただしTxGemmaモデルカードによると、公開されているTxGemmaは商用ライセンスのデータセットだけで学習されており、論文で評価したモデルは非商用ライセンスのデータセットも含めて学習しています。ここに挙げた数値は論文の評価モデルのもので、ダウンロードできるモデルで同じ成績が出るとは限りません。

predict版とchat版の使い分け

Hugging Faceで公開されているのは txgemma-2b-predict・txgemma-9b-predict・txgemma-9b-chat・txgemma-27b-predict・txgemma-27b-chat の5つです。2Bにはchat版がありません。

predict版は、TDC形式のプロンプトに対して選択肢の記号や数値だけを短く返す予測器です。chat版は一般的な指示追従データも加えて学習しており、「なぜその予測になったのか」を分子構造に基づいて説明したり、複数ターンでやり取りしたりできます。発表ブログは、その会話能力と引き換えにpredict版より予測性能が少し落ちると明記しています。大量の化合物をスクリーニングするならpredict版、研究者が結果を解釈する補助ならchat版、という分担です。

Agentic-Tx:GeminiがTxGemmaを道具として呼ぶ構成

Agentic-Txは、Geminiを司令塔にして、TxGemmaの予測・PubMed検索などを道具として呼び出すエージェントです。発表ブログではGemini 2.0 Proと分子解析・遺伝子調査・外部知識の18個の道具を組み合わせた構成とされ、論文ではGemini 2.5を使っています。論文では、Humanity’s Last Examの化学・生物分野でo3-mini(high)を相対52.3%上回ったと報告しています。公式のデモノートブックは、TxGemmaのpredict版を臨床毒性(ClinTox)予測の道具に、chat版を質問応答の道具に、Biopythonを使ったPubMed検索をもう1つの道具にした最小構成です。Gemini APIキーが別途必要です。

TxGemmaをHugging Faceで動かす手順

モデルはゲート付きです。Hugging Faceにログインし、google/txgemma-2b-predictなどのモデルページで利用条件に同意してから、読み取り権限のアクセストークンを環境変数 HF_TOKEN に入れます。公式ノートブックによれば、Google Colabの無料T4 GPUで試せるのは2Bと9Bで、9Bはint8量子化が前提です。量子化した状態の性能は評価されていない、とも書かれています。

pip install --upgrade accelerate bitsandbytes huggingface_hub transformers

以下は、公式ノートブックのクイックスタートの手順をColab以外でも動く形に整理したものです(当社環境では未実行)。タスクごとのプロンプト雛形 tdc_prompts.json がモデルと同じリポジトリにあり、入力の部分だけを差し替えて使います。雛形の本文は書き換えない、というのが公式の注意です。

import json
from huggingface_hub import hf_hub_download
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "google/txgemma-2b-predict"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")

# TDCタスクごとのプロンプト雛形をモデルのリポジトリから取得する
path = hf_hub_download(repo_id=model_id, filename="tdc_prompts.json")
with open(path) as f:
    tdc_prompts = json.load(f)

# 血液脳関門(BBB)透過性の二値分類。{Drug SMILES} だけを差し替える
smiles = "CN1C(=O)CN=C(C2=CCCCC2)c2cc(Cl)ccc21"
prompt = tdc_prompts["BBB_Martins"].replace("{Drug SMILES}", smiles)

inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=8)
answer = outputs[0][inputs["input_ids"].shape[1]:]
print(tokenizer.decode(answer, skip_special_tokens=True))

predict版の出力は数トークンの短い答えです。TxGemmaの論文によると、二値分類は必ず「(A)」か「(B)」で答え、(A)が問いへの否定、(B)が肯定です。この例のBBB_Martinsなら、(B)は血液脳関門を通過する、(A)は通過しないという予測になります。回帰タスクは0〜1000の整数で答え、これを元の単位に戻して使います。反応予測(USPTO)は反応物のSMILESを返します。

TxGemma chat版による予測理由の確認手順

chat版はGemmaのチャットテンプレートを使います。最初のターンで上と同じTDC形式の問いを送り、続けて理由を尋ねます。

import gc, torch

# T4では2つのモデルを同時に載せない。predict版を解放してから読み込む
del model, inputs, outputs, answer
gc.collect()
torch.cuda.empty_cache()

chat_id = "google/txgemma-9b-chat"
chat_tokenizer = AutoTokenizer.from_pretrained(chat_id)
chat_model = AutoModelForCausalLM.from_pretrained(chat_id, device_map="auto")

messages = []
for question in [prompt, "Explain your reasoning based on the molecule structure."]:
    messages.append({"role": "user", "content": question})
    ids = chat_tokenizer.apply_chat_template(
        messages, tokenize=True, add_generation_prompt=True, return_tensors="pt"
    ).to(chat_model.device)
    out = chat_model.generate(input_ids=ids, max_new_tokens=512)
    reply = chat_tokenizer.decode(out[0, ids.shape[1]:], skip_special_tokens=True)
    print(reply)
    messages.append({"role": "assistant", "content": reply})

T4 GPUで9Bを動かす場合は、先に from transformers import BitsAndBytesConfig を実行し、モデル読み込み時の from_pretrained に quantization_config=BitsAndBytesConfig(load_in_8bit=True) を渡します。大量のデータを処理する本番用途では、Vertex AI Model Gardenからオンライン推論のエンドポイントとしてデプロイするか、バッチ予測ジョブを使う方法が公式ドキュメントに用意されています。

自社データでの追加学習(LoRA)

公式のファインチューニング用ノートブックは、txgemma-2b-predictを4bit(NF4)で読み込み、rank 8のLoRAアダプターを付けて、TrialBenchの臨床試験の有害事象予測データで50ステップ学習する例です。学習前のモデルはこの問いに適切に答えられず、学習後は「Yes」「No」で答えられるようになる、という流れを示しています。TxGemmaの論文も、有害事象予測のような下流タスクでは、ベースのLLMから追加学習するより少ないデータで済むと報告しています。4bit量子化とLoRAの組み合わせの仕組みとVRAMの目安はQLoRAとは?4bit量子化+LoRAの仕組み・VRAM目安・実装手順と採用判断を解説【2026年版】で扱っています。

TxGemmaを使うべきでない場面と利用規約の制約

TxGemmaの予測は、探索の初期段階で候補を絞るための仮説として扱うべきです。そのまま意思決定に使うと、次の条件で誤りを持ち込みます。

  • 自社の化合物空間が公開データから離れている場合:モデルカードは、追加学習のデータが公開のTDCであること、用途ごとに代表的なデータで検証が必要なことを限界に挙げています。社内の化合物シリーズで精度を測るまでは、予測値を採否の根拠にしないでください。
  • SMILESだけで解く低分子の物性予測:Tx-LLMの段階でグラフベースの専用モデルに負けていた領域です。TxGemmaは論文の評価モデルで50タスクが専用モデルと同等以上になりましたが、既に社内で運用している専用モデルがあるなら、置き換える前に同じテストセットで比べる方が確実です。
  • 量子化して動かす場合:公式ノートブック自身が、量子化版の性能は評価していないと書いています。論文の数値はそのまま当てはまりません。
  • 患者の診断・治療に関わる用途:HAI-DEF利用規約(2024年11月15日改定)の3.2は、禁止用途ポリシーに当たる使い方、Googleが規制当局から医療機器の「製造者」とみなされうる使い方、法令に違反する使い方を禁じています。モデルや派生モデルを第三者へ配布する場合(APIでの提供を含む)は、規約の写しを渡し、3.2の使用制限を契約に入れ、該当する場合は規制当局の承認・登録等を申請し、改変したファイルにはその旨を明示し、Hosted Service以外での配布には所定のNoticeファイルを添える必要があります(3.1)。承認等が実際に要るかどうかは、各国の法令で決まります。規約は、研究の一環を含む患者の診断・治療への使用を「臨床使用」と定義しています。

逆に向いているのは、公開データに近い化合物群を大量にふるいにかけ、実験に回す優先順位を付ける作業です。タンパク質の立体構造そのものを予測したいならAlphaFold 3、生命科学の文献調査や実験計画の相談なら汎用の科学支援AIと、目的ごとに道具は分かれます。

やりたいこと 候補
化合物の性質を大量に予測 TxGemma predict版
予測の理由を対話で確認 TxGemma chat版
タンパク質の立体構造予測 AlphaFold 3
DNA配列の機能予測 AlphaGenome
文献調査・実験計画の相談 GPT-Rosalind・Claude Science

よくある質問

Tx-LLMとは何ですか?

Google ResearchとGoogle DeepMindが開発した、治療薬開発向けの大規模言語モデルです。PaLM 2をTDC由来の709データセット・66タスクで追加学習し、低分子・タンパク質・核酸・細胞株・疾患の性質を1つのモデルで予測します。

Tx-LLMは一般公開されていますか?

公式に一般提供されたモデルやAPIはありません。2024年10月のブログでは外部研究者への提供方法を検討中とし、関心表明のフォームを案内しただけです。手元で試せるのは後継のTxGemmaです。

TxGemmaとTx-LLMの違いは何ですか?

ベースがPaLM 2からGemma 2に変わり、2B・9B・27Bのオープンモデルとして公開されました。論文で評価した最大の27Bモデルは66タスク中45でTx-LLMを上回り、chat版では予測の理由を対話で説明できます。公開版は商用ライセンスのデータセットだけで学習しているため、論文の数値はそのまま当てはまりません。

TxGemmaはどのGPUで動きますか?

公式ノートブックでは、Colabの無料T4 GPUで2Bと9B(9Bはint8量子化)を試せるとしています。27Bはこの対象に含まれていません。量子化した状態の性能は評価されていない点に注意してください。

TxGemmaを商用の創薬研究に使えますか?

利用はHealth AI Developer Foundationsの利用規約に従います。規約は商用利用を明示的には禁じていません。ただし、Googleが医療機器の製造者とみなされうる使い方は禁止されており、APIでの提供を含む配布時には、規約の写しと使用制限の引き継ぎ、該当する場合の規制当局への承認等の申請が求められます。事業で使う前に規約の本文と禁止用途ポリシーを確認してください。

関連記事

お気に入りに入れた記事の一覧

この記事は以下の記事からリンクされています

資料請求

今日のトレンド記事 直近 24 時間で、いつもより多く読まれている記事

  1. 2026.10.07 テックブログ ファインズの不正アクセスと153万件の予約者情報|予約システムを使う店舗の報告と通知の手順
  2. 2025.08.14 コラム トラクションとは?ビジネスでの意味・指標の目安とgain tractionの使い方
  3. 2026.10.15 テックブログ 銀のさら不正アクセス:最大650万件の対象確認と窓口、パスワード変更・退会の手順
  4. 2026.10.19 テックブログ コミックシーモア不正アクセスで会員情報流出:再開時期・パスワード再設定と運営側のログ点検
  5. 2026.10.16 テックブログ バーガーキング情報漏洩どうしたらいい?約1,118万件の対象確認・補償・退会とメールの真偽

RELATED POSTS 関連記事

目次