自然言語のGPTのように、大量の単一細胞データで事前学習し、さまざまな解析に転用できる「基盤モデル(foundation model)」 が、シングルセル解析にも登場しています。代表格が scGPT・Geneformer・scFoundation の3つです。
名前は聞くけれど「何が違うのか」「実際に何ができるのか」が日本語でまとまっていないので、この記事で仕組み・応用・使い分け・限界まで整理します。
単一細胞の基盤モデルとは
基盤モデルとは、特定のタスク専用ではなく、大規模データで汎用的に事前学習してから、個別タスクに転用(転移学習)するモデル のことです。言語分野のGPTやBERTがその代表で、これを単一細胞トランスクリプトームに応用したものが「単一細胞の基盤モデル」です。
考え方はこうです。
-
数千万個の細胞の発現プロファイルで、遺伝子どうしの関係や細胞の状態を教師なしで事前学習する
-
学習済みモデルを、細胞タイプ注釈・摂動予測などの下流タスクにファインチューニング(または埋め込み利用) する
初期の試み(scBERTなど、2022年前後)を経て、2023〜2024年に Geneformer・scGPT・scFoundation が相次いで発表され、注目を集めました。
主要3モデルの仕組み
Geneformer(Nature 2023)
Theodorisらが発表したモデルで、各細胞内で遺伝子を発現量の順位に並べて入力する「rank-value encoding」 が特徴です。約3,000万細胞(Genecorpus-30M)で、一部の遺伝子を隠して当てるマスク予測により事前学習します。
遺伝子制御ネットワークの構造を捉えることを狙っており、in silico(計算機上)での遺伝子摂動や、細胞分類、創薬ターゲット探索などに用いられます。モデルは Hugging Face で公開されています(後継の v2 も登場しています)。
scGPT(Nature Methods 2024)
Cuiらのモデルで、遺伝子と発現量の両方をトークン化し、生成的(generative)に事前学習 します。3,300万を超える細胞で学習し、遺伝子と細胞の結合埋め込みを獲得します。
細胞タイプ注釈、バッチ統合、マルチオミクス統合、摂動予測、遺伝子制御ネットワーク推定など応用範囲が広いのが強みです。GitHub(bowang-lab/scGPT)で公開されています。
scFoundation(Nature Methods 2024)
Haoらのモデルで、約1億パラメータ・約2万遺伝子をカバーする大規模モデル です。5,000万を超えるヒト単一細胞で事前学習します。
xTrimoGene と呼ばれる非対称なエンコーダ・デコーダ構造を採り、発現量を(ビン化せず)連続値として扱い、シーケンス深度(read depth)の違いも考慮する設計が特徴です。細胞タイプ注釈に加え、摂動予測(GEARSとの連携)や薬剤応答予測などで高い性能が報告されています。GitHub(biomap-research/scFoundation)で公開されています。
何ができる?(主な応用)
細胞タイプ注釈(cell type annotation)
基盤モデルのキラー用途です。学習済みの表現を使うことで、手作業のマーカー確認に頼らず細胞タイプを推定できます。参照データが少ない場合や、複数データセットをまたぐ場合に効果が期待されます。
遺伝子摂動の予測(perturbation prediction)
「この遺伝子をノックアウト/過剰発現させたら、細胞の発現状態がどう変わるか」を計算機上で予測する使い方です。Geneformerの in silico 摂動、scGPT・scFoundation(GEARS連携)などが該当し、実験前の仮説出し に使えます。
バッチ統合・埋め込み・薬剤応答
複数バッチ・複数データセットの統合、細胞の埋め込み(次元圧縮表現)の取得、薬剤応答の予測など、下流解析の土台としても使われます。
3モデルの比較・使い分け
| モデル | 発表 | 事前学習規模 | アーキテクチャ | 入力の表現 | 主な用途 | 入手先 |
|---|---|---|---|---|---|---|
| Geneformer | Nature 2023 | 約3,000万細胞 | Transformer encoder | 発現量のランク(rank-value) | 摂動予測・分類・標的探索 | Hugging Face |
| scGPT | Nature Methods 2024 | 3,300万細胞超 | 生成的Transformer | 遺伝子+発現量のトークン | 注釈・統合・摂動・GRN推定 | GitHub |
| scFoundation | Nature Methods 2024 | 5,000万細胞超 | xTrimoGene(非対称enc-dec) | 連続発現量(深度考慮) | 注釈・摂動(GEARS)・薬剤応答 | GitHub |
ざっくりした使い分けの目安は次の通りです。
-
摂動やネットワーク構造に興味がある → Geneformer(rank-valueで制御関係を捉える設計)
-
注釈・統合など幅広く1つで試したい → scGPT(応用範囲が広くドキュメントも充実)
-
大規模モデルで摂動・薬剤応答を狙う → scFoundation(連続発現量・GEARS連携)
使い方の始め方
いずれも公開実装があり、事前学習済みの重みをダウンロードして使えます。
-
Geneformer … Hugging Face(
ctheodoris/Geneformer)からモデルを取得。細胞データをトークン化して埋め込み取得やファインチューニングを行う -
scGPT … GitHub
bowang-lab/scGPT。チュートリアル(notebook)が細胞注釈・統合・摂動など用途別に用意されている -
scFoundation … GitHub
biomap-research/scFoundation。事前学習済みモデルと、埋め込み取得・下流タスクのコードが公開されている
いずれもGPUがあると快適です。まずは公式チュートリアルの小さなデータで埋め込み取得(zero-shot) を試し、必要ならファインチューニングに進むのが安全な入り方です。
限界と注意(過信しない)
華々しい一方で、「基盤モデルが常に古典的手法に勝つわけではない」という批判的な検証も蓄積 しています。
-
ゼロショット(ファインチューニングなし)の埋め込みでは、HVG+PCA や scVI・Harmony といった従来法の方が良いと報告する複数のベンチマークがある(“one PCA still rules them all” と揶揄されることも)
-
事前学習データを増やしても、ある水準を超えると下流性能が頭打ちになる傾向が指摘されている
-
注意機構(attention)が捉えているのは、固有の制御シグナルというより共発現である、との解釈的な検証もある
つまり現状は、「万能の正解」ではなく、タスク・データによって使いどころを見極める段階です。導入する際は、必ず自分のデータで従来法(HVG+PCA/scVI等)と比較してから採否を決めるのが堅実です。
まとめ
-
単一細胞にも、大規模事前学習+転移学習の基盤モデルが登場(scGPT・Geneformer・scFoundation)
-
得意分野は少しずつ異なる:Geneformer=摂動・制御、scGPT=幅広い応用、scFoundation=大規模・薬剤応答
-
キラー用途は細胞タイプ注釈と摂動予測
-
ただしゼロショットでは従来法に劣る場面もあるため、過信せず比較検証が前提
発展の速い領域なので、モデルの版(Geneformer v2 など)や新しいベンチマークは随時アップデートされます。実際に使う際は公式リポジトリの最新情報も確認してください。
参考文献
-
Theodoris CV, et al. Transfer learning enables predictions in network biology. Nature 618, 616–624 (2023). 10.1038/s41586-023-06139-9(Geneformer)
-
Cui H, et al. scGPT: toward building a foundation model for single-cell multi-omics using generative AI. Nature Methods 21, 1470–1480 (2024). 10.1038/s41592-024-02201-0
-
Hao M, et al. Large-scale foundation model on single-cell transcriptomics. Nature Methods 21, 1481–1491 (2024). 10.1038/s41592-024-02305-7(scFoundation)
-
Liu, et al. Evaluating the Utilities of Foundation Models in Single-Cell Data Analysis. Advanced Science (2026). 10.1002/advs.202514490(基盤モデルの有用性の批判的評価)