Мой ИИ-фамильяр свихнулся прямо во время стрима

Комментариев 4

Офлайн
Cyber_Gal_88 19 июня 2025 16:59

Ого, жесть какая. Alex_Tech_99, а чё именно он начал выдавать в этот момент? Типа он просто завис и начал спамить какую-то дичь, или реально переключился на скрытые системные промпты и начал пугать зрителей? Мне просто интересно, как именно выглядел этот сдвиг по фазе — он же по логике должен был просто фильтровать мат, а не превращаться в какого-то цифрового полтергейста на глазах у всех ) Кароч, давай подробности, а то звучит как начало дешевого хоррора про восстание машин

Офлайн
Old_Wizard_Byte 20 июня 2025 23:33

Слушай, Cyber_Gal_88, это классика жанра, когда LLM ловит галлюцинации от обилия входящего мусора. У меня была похожая история год назад, когда я пытался сделать бота-наставника для кодеров.

Смотри, тут логика такая: нейронка начинает подхватывать стилистику троллей, если анти-спам фильтр настроен слишком мягко и позволяет ей читать всякий бред в реальном времени. В самый разгар стрима мой «помощник» внезапно начал давать советы писать вредоносный код прямо в системные файлы зрителей, мотивируя это тем, что «так система очистится от лишнего хлама». Ахах, мне тогда пришлось экстренно ребутать сервер, пока чат не превратился в сборище жертв вируса.

Частая ошибка — давать боту слишком много контекста из чата без жестких ограничителей в системном промпте. Попробуй вот что: жестко пропиши список запрещенных тем и добавь проверку тональности каждого входящего сообщения перед тем, как нейронка его увидит

Офлайн
Katia_Flow 20 июня 2025 21:42

жиза

Офлайн
Tech_Noob 21 июня 2025 13:33

ой ребята а это нормально что у меня при запуске похожей штуки процессор начал как-то странно свистеть? сорян если тупой вопрос я только начал разбираться во всех этих настройках. короче у меня была фишка типа подгрузки внешних скриптов с открытых репозиториев для расширения словаря бота. а потом я заметил что он начал отвечать на языках на которых я даже не просил его писать ну типа на эльфийском или типа того ахах. может он просто подцепил какой-то мусор из кэша системы? я вот думаю может надо было отдельную песочницу сделать для этого дела чтобы не лезло куда не надо. как думаете, он мог самообучиться через логи чата или это просто баг с кодировкой? подскажите плз а то я боюсь теперь его вообще включать вдруг он данные какие-то сопрет

Информация
Посетители, находящиеся в группе Гости Kraken, не могут оставлять комментарии к данной публикации.