Термин

Контекстное окно

Сколько текста нейросеть держит в голове одновременно — включая ваши файлы и всю переписку.

Контекстное окно — это объём, который модель видит целиком, отвечая на ваш вопрос. В него входит всё: ваш запрос, приложенные документы, предыдущие сообщения в этом чате и её собственные ответы.

Когда разговор упирается в предел окна, начало переписки перестаёт учитываться: нейросеть «забывает», о чём вы договаривались в начале. Это не поломка, а физическое ограничение.

Поэтому для больших задач лучше начинать новый чат под каждую тему, а важные договорённости — переносить в описание проекта, а не держать в переписке.

Пример

Представьте стол, на который помещается двадцать листов. Кладёте двадцать первый — нижний падает на пол. Нейросеть не «не хочет» помнить: у неё просто закончился стол.

Частое заблуждение

Считать, что нейросеть помнит всё, что вы ей писали месяц назад. Между чатами память не переносится, если её специально не настроить.

Где вы встретите это слово

С чем путают

Контекстное окно путают с памятью. Окно работает внутри одного чата: всё, что в нём, модель видит прямо сейчас. Память и проекты переносят знания между чатами, и то, что лежит в них, тоже занимает место в окне, когда подтягивается в разговор. Ещё путают окно с лимитом сообщений: лимит про то, сколько раз в сутки можно спросить, окно про то, сколько текста помещается в одном разговоре.

Как это влияет на цену и качество

Каждое новое сообщение модель читает вместе со всей предыдущей перепиской. Поэтому длинный чат расходует лимиты быстрее короткого, даже если вопросы в нём простые. По качеству тоже есть эффект: в очень длинном разговоре модель хуже держит детали из середины, и договорённости начала начинают теряться раньше, чем окно формально закончится.

Что делать на практике

Потренироваться руками: Урок 6. Настроить проекты и память под свои задачи. Как вынести постоянный контекст в проект и не держать его в переписке.

Почитать на портале

Весь словарь — 11 терминов →