ChatGPT забывает контекст в длинных беседах. Вот как это исправить.

Простейшее объяснение того, как ИИ "помнит" информацию, которое я слышал, звучит так: представьте длинный узкий стол. Вы начинаете расставлять домино на одном конце, медленно сдвигая их к противоположному краю по мере добавления новых.

Продолжая общение, вы фактически добавляете всё новые домино на стол, в то время как самые первые из них скользят ближе к дальнему краю. Если беседа затягивается достаточно долго, вы начинаете слышать стук старейших домино, падающих на пол, поскольку новые элементы выталкивают их со стола.

Это очень упрощённое описание принципа работы "окон контекста" в ИИ. Современные модели больших языковых моделей (LLM) обладают ограниченными контекстными окнами, которые могут полностью заполняться. Когда это происходит, что-то должно быть отброшено – как правило, это самое начало вашего чата.

Приложения, такие как ChatGPT, Claude и Gemini, имеют свои методы работы с переполненными окнами контекста, автоматически "сжимая" слишком длинные беседы. Например, Claude иногда приостанавливает чат, чтобы сократить контекст до более управляемого размера.

Однако даже с лучшими ИИ-инструментами вы никогда не можете точно знать, когда именно они решат уплотнить продолжительную беседу. И хотя некоторые ИИ-приложения позволяют запустить сессию "сжать этот чат" (например, Claude Code и Codex), основные массовые ИИ-приложения, такие как ChatGPT, обычно такой функции не имеют.

Тем не менее, существует способ вручную "уплотнить" длинный диалог с ИИ, а затем передать его "суть" в новый чат, фактически перезагрузив ветку обсуждения (и при этом сэкономив ценные токены ИИ).

Конечно, можно просто попросить ChatGPT: "Кратко изложи нашу беседу в одном абзаце из 100 слов", но это рискует привести к потере важных нюансов, включая критические поворотные моменты или даже первоначальную проблему, которую вы пытаетесь решить.

Вместо этого попробуйте следующий промпт (который является "выжимкой" из аналогичных промптов для "сжатия чата", циркулирующих в сети):

"Создай сводку для передачи, которую я смогу вставить в новый чат. Включи: чего мы пытаемся достичь, ключевые решения, которые мы приняли, любую важную информацию, которую ты мог бы понять неправильно, предположив её, и следующий шаг. Сделай её достаточно короткой, чтобы прочитать меньше чем за минуту."

Этот промпт должен дать краткий обзор долгой беседы, который, тем не менее, сохраняет самые важные фрагменты информации – идеально для начала нового чата.

Я опробовал этот промпт в ходе продолжительной дискуссии с ChatGPT о переносе классической ролевой игры с Apple II на Raspberry Pi 5 (да, это ещё один из моих гиковских проектов).

Вот какой ответ я получил:

"Мы изучаем, как законно запустить оригинальную игру Wizardry: Proving Grounds of the Mad Overlord для Apple II на Raspberry Pi 5, вероятно, через эмуляцию Apple II, а не путём пересоздания игры с нуля.

Ключевые решения на данный момент: Pi 5 более чем достаточно мощный; основная проблема не в оборудовании, а в законном доступе к оригинальному диску/ПО Apple II. Точная копия или ремейк были бы возможны на Godot/Pygame, но непосредственная цель – аутентичная оригинальная версия для Apple II.

Важное замечание: не предполагайте, что загрузки "abandonware" являются законными. Wizardry по-прежнему является действующей интеллектуальной собственностью, и случайные образы дисков .dsk/.woz в сети, вероятно, несанкционированы. Самые чистые законные варианты – это либо покупка современного лицензионного ремейка для игры, либо покупка оригинальной физической копии для Apple II и создание образов дисков самостоятельно. Последний вариант наиболее аутентичен, но может потребовать специализированного оборудования, такого как Applesauce или KryoFlux, а старые диски могут быть повреждены или защищены от копирования.

Следующий шаг: решить, является ли целью аутентичная эмуляция Apple II на Pi или просто законный игровой процесс. Если это аутентичная эмуляция, исследуйте текущую доступность/цены на оригинальные диски Wizardry для Apple II и какое оборудование/ПО необходимо для создания из них пригодного к использованию образа диска."

Затем я передал беседу в новую ветку чата следующим образом:

"Давайте продолжим этот чат, вот на чём мы остановились: [Вставьте сгенерированную сводку]"

Попробуйте это в следующий раз, когда ваша беседа с ChatGPT станет слишком длинной, и вы поможете предотвратить падение любых ключевых "домино" контекста со стола.