もう少し詳しく
業務に合う回答形式や特定の課題への対応を学ばせる方法です。プロンプトで指示を加える場合と違い、学習によってモデルのパラメーターの全部または一部を更新します。
ファインチューニングは、汎用モデルを特定の文体、形式、分類課題などへ適応させるために発展しました。データの量だけでなく、望ましい例と避けたい例の品質、元の能力を失わないための評価、更新後の運用方法を設計します。
HISTORY
開発された年代と歴史
この用語を大きな流れで見ると、1990年代〜現在に発展してきました。
- 1990年代転移学習として、既存モデルを別の課題へ適応する研究が進んだ。
- 2018BERTなどの事前学習モデルをタスク別データで調整する方法が広がった。
- 2021〜LoRAなど、少ない追加パラメーターで調整する手法が普及。
キーマン・関わった研究者
Yoshua Bengio、Jacob Devlin、Edward Huら、転移学習研究者
技術の変遷
タスク専用モデル → 事前学習＋全体調整 → PEFT・LoRA
理解のポイント
- 学習済みモデルのパラメーターの全部または一部を、追加のデータで更新します。
- 指示や例を入力するだけの方法と違い、回答形式などの振る舞いを学習によって調整します。
- 資料を随時更新して参照させたい場合はRAGとも比較し、学習させたい能力と参照させたい情報を分けます。
たとえば、こんな場面で
望ましい問い合わせ回答の例を使い、回答の形式をそろえる方向に調整します。
覚えておきたいこと
最新資料を参照したい場合は、追加学習だけでなくRAGなどの方法も比較します。