Холиварофорум
Вы не вошли.
Объявление
#1 2022-12-05 22:58:43
- Анон
Напиши мне историю, или текстовых ИИ тред
Тред для обсуждения текстовых ИИ в контексте писательства: ролевых игр, додать себе редкопейринга, написать пейзаж для главы или подсказать вотэтоповорот.
Для удобства поиска отзывов используйте тег #ии_истории.
#11826 Сегодня 14:22:06
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Для дипсика температура 1 это много, он даже при 0,85 порой начинает писать странное.
#11827 Сегодня 14:36:16
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Для дипсика температура 1 это много, он даже при 0,85 порой начинает писать странное.
Я при 0,6 иногда от него офигеваю. XD
#11828 Сегодня 14:38:48
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Может, дело вообще не в промте, а в температуре?
Может. Но у меня стоит 0,9 и никаких проблем нет. Ну, кроме того, что он вжопливается в какую-то деталь и начинает таскать ее в каждый пост. Но, как я понял, это у всех так, особенность модели.
#11829 Сегодня 15:16:53
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Но, как я понял, это у всех так, особенность модели.
Нет, не у всех. Но температура влияет на лупы, да. Иногда увеличение может помочь, иногда уменьшение. У меня вообще 0.5, я иногда меняю между 0.3 и 0.7, лупов и таскания деталей не особо наблюдаю. если ставишь температуру выше 0.7, можно попробовать обрезать топ-П хотя бы до 0.95 (но не слишком низко, ниже ~0.8 только если знаешь, что делаешь).
#11830 Сегодня 15:34:25
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
можно попробовать обрезать топ-П хотя бы до 0.95 (но не слишком низко, ниже ~0.8 только если знаешь, что делаешь).
Мне казалось, если топ-П снизить, наоборот, повторений станет больше?
#11831 Сегодня 16:14:24
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Мне казалось, если топ-П снизить, наоборот, повторений станет больше?
Все настройки влияют на повторения очень опосредовано (кроме всяких penalty, которые, имхо, больше вредят в РП). При нулевом топ-П сэмплер ведет себя так же как и при нулевой температуре, то есть выбирает самый вероятный токен. Современные сетки тренированы на то, чтобы не лупиться на нуле, так как ноль используется там где нужны точные задачи, тот же кодинг. Плюс есть тенденция, что дефолтная температура новых сеток снижается (но это больше зависит от лабы которая делает ее конечно): дефолтная температура для Дипсика v3 0324 это 0.3, для нового Мистраль Small - 0.15 и т.п.
Тебе не нужны нижние 1-5% вероятностей токенов (это то что делает 0.99-0.95), там чаще всего просто ненужный шум. Если сэмплер из-за высокой температуры схватит такой токен, то будет шиза. Если обрезать 20% или больше, и если сетка уже в лупе и очень сильно уверена, что дальше должно идти продолжение лупа, то может случится так, что она выдаст вероятность 80% для него, и все остальные токены обрежутся, да. Но в таком случае у тебя уже чат скорее всего в состоянии, когда проще начать новый.
#11832 Сегодня 16:48:25
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Вот что я нашёл в дискорде джанитора:
wait New you are spitting something you don't clarify again
vllm is an inference software. Chutes hosts models on vllm if paid, sglang if free. Most of people's issues come from models hosted on sglang rather than vllm.
Probably they just fixed the labels, I wonder if free tier requests go to an sglang node rather than a vllm node.
То есть может быть такое, что все проблемы от самого чутеса?
#11833 Сегодня 16:56:48
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
То есть может быть такое, что все проблемы от самого чутеса?
Я не знаю разницу между vllm и sglang, но вполне реально что проблема именно в том, как настроили. Я пользуюсь и бесплатным Чутесом, и платным оф. апи через ОР, и у Чутеса бывает гуляет качество заметно, особенно когда модель совсем новая. С 0324 так было, например, в первые несколько дней, на Чутесе она была заметно хуже.
#11834 Сегодня 17:14:55
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
То есть может быть такое, что все проблемы от самого чутеса?
Да, это уже давно предполагали.
Народ замечал разницу между бесплатным и платным дипсиком (что на чутес, что на опенроутере), также была разница в моделях на чутес и опенроутер.
Я вчера как раз предполагала, что вот эти вот залупы 0528 как раз таки на бесплатных сообщениях теперь и идут (сегодня мой дипсик отличился: и в ризононинге и в ответе ПОЛНОСТЬЮ до запятой процитировал мой пост (который был два сообщения назад). В двух свайпах ПОДРЯД 
).
#11835 Сегодня 17:19:19
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я вчера как раз предполагала, что вот эти вот залупы 0528 как раз таки на бесплатных сообщениях теперь и идут (сегодня мой дипсик отличился: и в ризононинге и в ответе ПОЛНОСТЬЮ до запятой процитировал мой пост (который был два сообщения назад). В двух свайпах ПОДРЯД ).
У меня тоже их дипсики лупятся. И смысл тогда вообще чутесом пользоваться? Даже если ты готов заплатить, сначала надо промотать 200 тупых сообщений, что ли?
Отредактировано (Сегодня 17:19:39)
#11836 Сегодня 17:28:29
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Вы меня пугаете, у меня все нормально работает на чутес 
#11837 Сегодня 17:31:06
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Аноны, подскажите, пожалуйста, какие ИИшки лучше справляются с написанием высокорейтинговых сцен?
#11838 Сегодня 17:31:16
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Вы меня пугаете, у меня все нормально работает на чутес
Повезло тебе. А ты через что сидишь?
#11839 Сегодня 17:33:50
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
А ты через что сидишь?
Через таверну.
#11840 Сегодня 18:23:26
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
У меня тоже нормально работает чутес, но я сижу через опенроутер. Попробую переключиться на какого-нибудь платного провайдера, чтобы потестить.
#11841 Сегодня 18:29:15
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Аноны, напомните, что делать, если на агнаи тег ризонинга неправильно проставляется?
Так, начал новый чат, а там вообще ничего правильно не пишется, ризонинга нет, куски промпта посреди ответа. Как там вообще этот ангаи настраивать?
Отредактировано (Сегодня 18:42:04)
#11842 Сегодня 18:45:22
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Аноны, напомните, что делать, если на агнаи тег ризонинга неправильно проставляется?
Так, начал новый чат, а там вообще ничего правильно не пишется, ризонинга нет, куски промпта посреди ответа.
Чутес?
#11843 Сегодня 18:47:44
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Чутес?
Да. Хочу сравнить с виверной, может, просто связка виверна-чутес не работает для меня.
Вообще я потыкал еще, и в одном чате ризонинг появился сам, а во втором так и пишет оба тега закрывающие, приходится руками править. А еще, на агнаи есть поле, куда можно вставить то, что на виверне в пост хистори, или тоже в систем промпт скопировать?
#11844 Сегодня 18:49:33
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Аноны, подскажите, пожалуйста, какие ИИшки лучше справляются с написанием высокорейтинговых сцен?
Дипсик прекрасно пишет порно. У джанитора и спайсичата своя дефолтная модель тоже во все поля ебется, но более бедным языком и с повторениями.
#11845 Сегодня 18:50:36
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Да. Хочу сравнить с виверной, может, просто связка виверна-чутес не работает для меня.
Единственный нормальный вариант переключить в провайдере на completion вместо chat. Это пизда со стороны чутес, не от агнаи. Пост-хистори есть в Edit chat.
#11846 Сегодня 18:56:35
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я не замечала никакой разницы между платными и бесплатными версиями ДС через ОР. Переключаюсь на платные тогда, когда бесплатные лягут полежать.
#11847 Сегодня 19:00:40
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Единственный нормальный вариант переключить в провайдере на completion вместо chat. Это пизда со стороны чутес, не от агнаи.
А это где? Я настраивал по этой инструкции, но на странице настроек провайдера теперь только одна менюшка service.
Отредактировано (Сегодня 19:02:19)
#11848 Сегодня 19:02:38
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
А это где? Я настраивал по этой инструкции, но на странице настроек провайдера теперь только одна менюшка servise.
Это моя устаревшая, с тех пор все обновили, но ты правильно понял, я говорил про менюшкю сервис. Там выбираешь провайдер Чутес и Request Format, вот там надо выбрать комплишен.
#11849 Сегодня 19:16:24
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Это моя устаревшая, с тех пор все обновили, но ты правильно понял, я говорил про менюшкю сервис. Там выбираешь провайдер Чутес и Request Format, вот там надо выбрать комплишен.
Вроде заработало! 
Только я случайно четыре раза нажал на создание провайдера (у меня там ключ не был виден, криво скопировался или что), лишние можно где-то удалить?
А не, не заработало, сгенерировал новый ответ и там и тег слетевший, и пост хистори проигнорирована.
Отредактировано (Сегодня 19:27:10)
#11850 Сегодня 19:22:16
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Только я случайно четыре раза нажал на создание провайдера (у меня там ключ не был виден, криво скопировался или что), лишние можно где-то удалить?
Там же, в создании пресета в меню сервис, сначала выбираешь созданного провайдера, там же удаляешь.
А не, не заработало, сгенерировал новый ответ и там и тег слетевший, и пост хистори проигнорирована.
Еще раз проверь. С комплишен у тебя вообще не будет ризонинга, так что и слетевших тегов тоже не будет.