LoRA

LoRA (Low-Rank Adaptation) は、すべてのモデルの重みではなく、少数の低ランク分解マトリックスをトレーニングすることで、大規模なモデルを効率的に適応させます。ベースモデルの重みは固定されたままで、アダプターの重みのみが学習されます。

LoRA を使用するタイミング

• ほとんどのユースケース — 大幅に低コストでほぼ FFT 品質LoRAを実現

• トレーニングを高速化し、コンピューティング支出を削減したい

• 継続的なカスタマイズを使用してテクニックを連鎖させる必要がある (LoRA必須)

• 出力アーティファクトを小さくしたい (アダプターの重みのみ)

• 1 つのベースモデルから複数のタスク固有のアダプターを提供する場合 — フュージョンされていないアダプターは推論時に交換できるため、1 つのベースモデルを多くのカスタム調整済みアダプターで再利用できます。

注記

出力アーティファクトは小さいですが (アダプターの重みのみ）、アダプターには推論にベースモデルが必要です。アダプターをベースモデルにマージしない限り (merge_weights以下を参照）、カスタマイズしたモデルを実行するにはベースモデルとアダプターの両方をロードする必要があります。

主要パラメータ

パラメータ	値	説明
lora_rank	8、16、32、64、128	低ランクマトリックスのディメンション。高ランク = 容量は増加しますが、コンピューティングは増加します。16 から始めます。
lora_alpha	16、32、64、128、256	スケーリング係数。有効学習レートは としてスケールされますalpha/rank。通常、ランクの 2 倍に設定されます。
lora_dropout	0.0–1.0	LoRA アダプターレイヤーのドロップアウト確率。オーバーフィットを防ぐのに役立ちます。
merge_weights	true、false	トレーニング後にアダプターの重みをベースモデルにマージするかどうか。アダプターのオーバーヘッドなしでデプロイtrueする場合は、 に設定します。

LoRA固有のハイパーパラメータを含む完全なパラメータリファレンスについては、「」、SFTDPO「」、「」の各手法ページを参照してくださいRFT。