コンテキストウィンドウとは
モデルが一度に読める文章の長さ。これを超えると前の内容を忘れる。
英語表記:context window
コンテキストウィンドウは、モデルが一度に参照できるトークンの上限です。会話の履歴と、貼り付けた文章と、これから書く答えのすべてがこの枠に収まる必要があります。
枠を超えると、古い部分から参照できなくなります。長い会話の途中で「さっき伝えた条件」が反映されなくなるのは、多くの場合これが原因です。
対策は、長い会話を新しく始め直し、必要な前提だけを冒頭にまとめ直すことです。