もう少し詳しく
会話履歴、資料、指示などが占めるトークン数を考えるときに使います。入力と出力の上限の関係はモデルやサービスによって異なります。
たとえば、こんな場面で
長い資料を要約するとき、全文が収まらなければ分割したり、必要な箇所を検索したりします。
覚えておきたいこと
長い文脈を入力できても、そのすべてを同じ精度で利用できるとは限りません。
Context Window
コンテキストウィンドウ
モデルが一度に扱える入力や出力の長さの範囲。
Context Window
モデルが一度に扱える入力や出力の長さの範囲。
会話履歴、資料、指示などが占めるトークン数を考えるときに使います。入力と出力の上限の関係はモデルやサービスによって異なります。
長い資料を要約するとき、全文が収まらなければ分割したり、必要な箇所を検索したりします。
長い文脈を入力できても、そのすべてを同じ精度で利用できるとは限りません。