機械学習

PEFT(パラメータ効率的ファインチューニング)

読み方: ペフト

PEFT(パラメータ効率的ファインチューニング) とは

Parameter-Efficient Fine-Tuningの略。全パラメータを更新せず、追加の小規模パラメータのみを学習して大規模モデルを特定ドメインに適応させる手法群の総称。LoRA・Adapter・Prefix Tuningなどが含まれる。GPUメモリ消費と学習コストを大幅に削減しつつ、フルファインチューニングに近い性能を達成できる。
用語集一覧に戻る