もう少し詳しく
個々の質問とは別に、サービスの目的や回答形式などの基本方針を与えます。どのような指示の階層があるかは、使うモデルやAPIによって異なります。
サービスごとの応答方針を毎回の利用者入力に書かせないため、システム側に基本指示を置く設計が使われます。優先順位の設計だけでなく、指示が漏れても被害が広がらない権限分離や出力検査を組み合わせます。
HISTORY
開発された年代と歴史
この用語を大きな流れで見ると、2020年代〜に発展してきました。
- 2020年代初頭対話モデルに役割、制約、優先順位を与える隠れた指示の設計が広がる。
- 2022InstructGPTやChatGPTの対話形式で、システム指示と利用者入力を分ける考え方が一般化。
- 現在開発者指示、ツール権限、安全方針と組み合わせて運用される。
キーマン・関わった研究者
InstructGPT・ChatGPTの研究者、対話システム設計者
技術の変遷
単一プロンプト → システム・ユーザーの役割分離 → 指示階層と権限設計
理解のポイント
- 個々の質問より広い範囲に適用する、役割・回答方針・形式などの基本指示を設定します。
- 利用者の質問とシステム側の指示の扱いは、モデルやAPIの指示階層に依存します。
- 秘密を守る指示だけに頼らず、そもそも参照・実行できる情報や操作の範囲も制御します。
たとえば、こんな場面で
問い合わせ対応AIに「商品の取扱説明書に基づいて、簡潔に回答する」という方針を設定します。
覚えておきたいこと
指示を書くだけで安全性や秘密情報の保護を保証できるわけではありません。