Liquid AI、マルチモーダル対応の小型基盤モデル「LFM3」を公開
この記事の要点
Liquid AIは、テキストや画像、音声、動画、意思決定モデルを統合した基盤モデル「LFM3」シリーズを発表した。全モデルが20億パラメータ規模で構成され、エッジデバイスでの動作に最適化されている。テキストモデルは4bit量子化で約1GBのサイズとなり、256Kトークンのコンテキストウィンドウに対応する。単一のGPUでファインチューニングが可能で、Hugging Faceを通じて公開されている。
Liquid AIは、テキスト、画像、音声、動画、意思決定モデルを共通の基盤で統合した「LFM3」シリーズを公開した。全モデルが20億パラメータ規模で構成され、エッジデバイスでの動作に最適化されている。
LFM3-1.7Bは、前世代のLFM2.5-2.6Bと比較してパラメータ数を35%削減しながら、性能を上回る。テキストモデルは4bit量子化で約1GBのサイズとなり、256Kトークンのコンテキストウィンドウに対応する。単一のGPUでファインチューニングが可能だ。
モデルは「Tri-hybrid」レイヤーを採用し、ゲート付きショート畳み込みやスライディングウィンドウアテンションなどを組み合わせた。学習には22Tトークンを使用し、最後の3.5Tトークンにはエージェントのトレースやツール呼び出しデータを含めている。
提供されるモデルは、テキスト特化の「LFM3-1.7B」のほか、画像・動画対応の「LFM3-VL-2B」、音声対応の「LFM3-Audio-2B」、全能型の「LFM3-Omni-2B」などがある。意思決定モデルとして「d1-2B」と「d1-omni-2B」も用意した。
画像・音声モデルには独自開発のエンコーダーを搭載した。ビジョンエンコーダーはSigLIP2と比較して計算量を3分の1に削減している。音声モデルは「LiquidCodec」を採用し、Apple M4 Maxの単一CPUスレッドでリアルタイムの約87倍の速度で生成できる。
d1シリーズは、入力データに対して単一のフォワードパスで構造化された回答を出力する仕組みだ。各モデルはHugging Faceで公開されており、transformersライブラリを通じて利用できる。ファインチューニング用のノートブックも提供されている。
開発者にとっての意味
実装者は、手元のモデルをLFM3へ即座に切り替えるべきではない。記事には商用利用のライセンス条件が明記されておらず、法務リスクが不明だからだ。また、性能向上を謳うが、評価データセットや比較条件が不明なため、自社のタスクで精度が出るかは未知数である。まずは、自社の評価用データセットで推論速度と精度を再計測し、既存モデルとの差を定量化せよ。経営者は、ライセンス条件が公開されるまで導入判断を保留すべきだ。エッジデバイスでの動作や単一GPUでの学習が可能という点は、運用コスト削減の可能性を示唆するが、商用利用の可否が確定しない限り、投資判断は下せない。
4人で読み解く
記事の内容だけをもとに、担当のちがう4人(経営・開発・聞き手・運用)が話します。 記事に書かれていないことは話しません。
出典
Hugging Face「Build specialized multimodal models with LFM3」この記事は、出典元が公表した原文をもとに当社のAI編集部が日本語で再構成し、 公開前に人が確認したものです。原文の訳ではありません。 事実関係は出典(原文)で確認してください。
