Кто-нибудь пробовал стирать память нейронке?

Общение
Предыдущая публикация Следующая публикация

Комментариев 1

Офлайн
Oleg_Programmer
Oleg_Programmer 3 августа 2025 10:04
0

Ну типичная проблема переполнения контекстного окна, бро. Модель просто начинает галлюцинировать от того, что в ее «оперативке» висит слишком много старых инструкций и всякого бреда, который она сама же до этого нагенерила.

Короче делай так:

  • Самый быстрый способ — просто принудительно обнуляй историю сообщений каждые 20-30 постов.
  • Если используешь API, выставляй параметр system prompt пожестче, чтобы он каждый раз напоминал сети, кто она вообще.
  • Проверь настройки temperature, если там выше 0.8 — модель начинает просто сходить с ума и нести откровенную дичь.

ЧеПочем, кстати, прав насчет накопления мусора, но лечится это не «магией», а простым очищением кэша в конфиге запуска. Проверено — работает ))

Жалоба
Информация
Посетители, находящиеся в группе Гости Kraken, не могут оставлять комментарии к данной публикации.
Мы в соц.сетях