Холиварофорум
Вы не вошли.
#1 2022-12-05 22:58:43
- Анон
Напиши мне историю, или текстовых ИИ тред
Тред для обсуждения текстовых ИИ в контексте писательства: ролевых игр, додать себе редкопейринга, написать пейзаж для главы или подсказать вотэтоповорот.
Для удобства поиска отзывов используйте тег #ии_истории.
#10976 Сегодня 13:47:21
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
В виверне персона к чату не привязывается, что ли, надо каждый раз переключать?
Да, с тех пор как они обновились, у них куча ошибок по этому поводу.
#10977 Сегодня 14:20:39
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
с тех пор как они обновились
Херня с персоной у них еще до обновлений была.
И еще авторские примечания и все такое таскались из чата в чат автоматически. Сейчас, вроде, перестали.
Отредактировано (Сегодня 14:21:38)
#10978 Сегодня 18:53:36
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я уверен, что ты видел, но на всякий случай: ты же видел кнопку Override Character Definitions в Edit Chat? Я считаю это прям самой охуенной функцией и неиронично готов на нее молиться.
Это охуенно удобная фишка, я оценил, когда пересел в Сили Таверну, а там такого нет, и теперь у меня, не шучу, десятки копий моего любимого бота под разные сценарии и этапы этих сценариев. И такая же байда с персонами.
В то время как в Ангаи в такой меняющийся дефинишн можно потихоньку записывать саммари, какие-то факты из РП и т.д. Это просто мегаудообно.
другой анон
Отредактировано (Сегодня 18:53:46)
#10979 Сегодня 19:00:20
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Блин, прикольно так, что у дипсика память не обнуляется полностью независимо от количества сообщений.
У него контекст 64к, но, если честно, больше 20к я бы не стал держать, он прям сильно начинает проседать, мне кажется. Суммарайз и ограничение контекста все еще наши лучшие друзья. Плюс, если ты захочешь когда-нибудь попробовать платные модели, большой контекст намного дороже.
Я приучил себя к сессиям примерно в 1-2-3 сцены, это как раз выходит примерно 20-25к токенов. Потом суммарайз, потом начало нового чата/ограничение контекста. Так на сетках средней ценовой категории (том же Клоде Сонете, Джемини Про, ГПТ 4о/4.1 и т.п.) можно сидеть, и не настолько дорого получается.
Отредактировано (Сегодня 19:01:09)
#10980 Сегодня 19:14:14
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Потом суммарайз, потом начало нового чата/ограничение контекста.
Это ты бота просишь? Или ручками все?
#10981 Сегодня 19:17:52
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я другой анон, но лично я саммари сама пишу, ручками. Бот иногда упускает какие-то моменты и детали, которые важны для меня. Но я саммари вот прямо по ходу дела пишу, а не для всего куска. Так что у меня саммари всегда под рукой, в любой момент можно перекочевывать.
#10982 Сегодня 19:18:39
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Это ты бота просишь? Или ручками все?
А как тебе сетка ограничит контекст и начнет новый чат? Это на твоей стороне все, сетка с твоим интерфейсом не взаимодействует. Но сделать суммарайз можно попросить сетку, потом проверить и вставить куда надо (в поле сценария например).
#10983 Сегодня 19:21:26
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я другой анон, но лично я саммари сама пишу, ручками. Бот иногда упускает какие-то моменты и детали, которые важны для меня.
Да, кстати, руками все еще получается компактнее и точнее. Я обычно прошу сделать, а потом редактирую, удаляя, дописывая и переписывая.
#10984 Сегодня 19:58:24
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Список платформ предоставляющих бесплатные API.
#10985 Сегодня 20:30:39
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Потом суммарайз, потом начало нового чата
Зачем постоянно заводить новый чат?
#10986 Сегодня 20:47:31
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я тут утром жаловался, что дипсик на виверне пишет за персону даже с промптом, сейчас начал другой чат с другим ботом, опять то же самое - v3 пишет, а 0528 не пишет, промпты я в оба скопировал одинаковые. Чего еще ему надо, чтобы перестал писать? 
#10987 Сегодня 21:10:24
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Зачем постоянно заводить новый чат?
Потому что я не знаю, можете ли вы на своих фронтэндах выставлять ограничение контекста. У себя я скрываю для нейронки старые сообщения.
#10988 Сегодня 21:16:01
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я тут утром жаловался, что дипсик на виверне пишет за персону даже с промптом, сейчас начал другой чат с другим ботом, опять то же самое - v3 пишет, а 0528 не пишет, промпты я в оба скопировал одинаковые. Чего еще ему надо, чтобы перестал писать?
Ризонеры и не-ризонеры нужно промптить по-разному, потому что не-ризонеры хуже понимают, чего не надо делать. То есть, проблема в твоем пресете, скорее всего. Для не-ризонера (v3), как мне показалось, лучше сделать префилл, но я не то что бы много на нем сидел.
У меня и R1 порывается писать за юзера, кстати, но с двойным реинфорсментом (в системе и в пост-хистори) вроде по-минимуму это делает. Заметил, что если пропустить хоть раз, что юзер что-то сделал в его посте (даже мелочь, типа оглянулся, вздрогнул, шагнул и т.п.), потом будет не остановить.
#10989 Сегодня 21:23:57
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Для не-ризонера (v3), как мне показалось, лучше сделать префилл, но я не то что бы много на нем сидел.
А это как?
А еще, можно ли на виверне как-то ограничить размер ризонинга? Не хочу большой размер поста выставлять, а на 600 токенах у него получается длиннющий ризонинг и один абзац основного поста, куда не влезает то, что он, судя по ризонингу, хотел написать.
Отредактировано (Сегодня 21:26:38)
#10990 Сегодня 21:43:58
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
У меня и R1 порывается писать за юзера, кстати, но с двойным реинфорсментом (в системе и в пост-хистори)
Подтверждаю. Промпт+закрепление в пост хистори у меня ДС вылечило от желания писать за персону. Причем не только у ризонинг моделей, но я мало не-ризонерами пользуюсь.
И у меня на Виверне вообще ризонинг не вылезает. Раньше бывало, но уже пару недель и не припомню такого
Отредактировано (Сегодня 21:50:42)
#10991 Сегодня 21:50:03
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
А это как?
В данный момент на Виверне нет префила, увы, убрали когда сайт перекроили. Обещают вернуть.
Но можно попробовать в Author notes вписывать нужное, они очень значимы контексте.
#10992 Сегодня 21:54:58
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Но можно попробовать в Author notes вписывать нужное, они очень значимы контексте.
Это в chat info?
А еще я погуглил и поискал в реддите виверны, но так и не нашел, тратятся ли токены на ризонинг или нет. Есть смысл его удалять из постов для экономии?
#10993 Сегодня 21:55:32
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
А это как?
На виверне? Понятия не имею. Вообще префил обычно это специальное поле или иногда оформляют как просто часть промпта в самом конце, посылаемое от имени нейронки ПОСЛЕ твоего промпта. ТО есть Post-History Instructions, но не от лица юзера, а от лица сетки. Если нейронка поддерживает префил, она считает это префил тем, что написала сама, поэтому префил надо писать от лица нейронки.
(Вообще хорошо бы это как-то оформить в фак, я про префил уже объяснял здесь, мне кажется)
А еще, можно ли на виверне как-то ограничить размер ризонинга? Не хочу большой размер поста выставлять, а на 600 токенах у него получается длиннющий ризонинг и один абзац основного поста, куда не влезает то, что он, судя по ризонингу, хотел написать.
У отдельных сеток (Клод, например) можно через АПИ задавать размер ризонинга, про Дипсик такого не знаю, к сожалению, но у него можно просто отключить ризонинг, префильнув:
<think>
</think>
Но вообще, при использовании ризонеров, лучше ставить размер ответа побольше (2к+). Все равно это не влияет на то, что сетка пишет, ее просто механически обрывает в какой-то момент.