Холиварофорум

Не все, что говорят на Холиварке — правда!

Вы не вошли.

#1 2022-12-05 22:58:43

Анон

Напиши мне историю, или текстовых ИИ тред

Тред для обсуждения текстовых ИИ в контексте писательства: ролевых игр, додать себе редкопейринга, написать пейзаж для главы или подсказать вотэтоповорот.

ИИ для ролевых
Общие ИИ
Гайды и прочие развлечения с ботами
FAQ
Очень Полезные Ссылки

Для удобства поиска отзывов используйте тег #ии_истории.


#11251 Вчера 00:25:48

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Спасибо за ссылку. В целом, чем больше параметров, тем сетка умнее, хоть об этом я правильно думал?

В принципе да, но не настолько много, как может показаться, именно по "уму" разница не особо значительная на самом деле (но есть). Но! Чем больше модель тем больше она знает фактов, потому что в ней больше места, чтобы их запомнить. Поэтому большие модели помнят разные мелкоканоны, например, и даже с пустой картой отыграть тебе вканонного персонажа, а маленькие могут запутаться в персонажах ГП.

ИМХО

#11252 Вчера 00:36:25

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Оба дипсика на виверне

Анон, если честно, мне кажется, что проблема в связке виверна-ОР-чутес, и это не ты что-то не так делаешь, это твои запросы не так обрабатываются. Очень может быть, что где-то посередине вызывания АПИ пост-хистори инструкции, если на них не написано посылать их от юзера, перекочевывают в начало чата в системный промпт. Была такая проблема где-то, на каком-то АПИ, уже не помню где (на мистрале в прошлом году?), и там даже не было этих двойных переворачиваний форматов текст комплишен/чат комплишен, просто вот так работало.

То есть, я могу объяснить эту проблему, которая возникает на виверне только так: Дипсик видит промпт не так, как задумано, а система - постхистори - потом весь ваш чат, и, конечно, у него внимание разъезжается. И твое ООС срабатывает именно потому что оно находится там где нужно в отличие от "пост-хистори".

#11253 Вчера 00:42:24

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

То есть, я могу объяснить эту проблему, которая возникает на виверне только так: Дипсик видит промпт не так, как задумано, а система - постхистори - потом весь ваш чат, и, конечно, у него внимание разъезжается. И твое ООС срабатывает именно потому что оно находится там где нужно в отличие от "пост-хистори".

Хм, а возможно, иногда в ризонинге даже проскакивает "а еще я не должен писать за персону", а потом в основном ответе пишет, что персона что-то сделала или сказала.
Пойти, что ли, агнаи испытать. Но там я сдался, не разобравшись, как побороть кашу из ризонинга, который то отделяется тэгом, то нет.

Отредактировано (Вчера 00:49:17)

#11254 Вчера 01:02:26

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Мне не помогает, бот когда пишет за персону под тегом юзер, когда просто в тексте пишет, что персона сделала или сказала.

мне неплохо помогло вставить вот такой кусочек в систем промпт:
Avoid repeating messages and talking or assuming actions, thoughts, and feelings for {{user}}. Be proactive, creative, and drive the plot and conversation forward. Always stay in character and avoid repetition. Drive the roleplay forward by initiating actions. Responses should be 2-3 paragraphs long and written only from {{char}}'s perspective, using the third person POV. Ensure to apply the slow-burn approach to romance between {{char}} and {{user}}. {{char}} should develop during the roleplay, considering occuring events and his relationship status with {{user}}.

у меня было прям место где персона ушла спать и в ответ на это Бот писал все от Персоны
а после вставки этого кода начал на тот же ответ писать прям от себя..
Ну и как бонус стал меньше мордовать персону, видимо изза намека что у них в перспективе слоуберн роман  :lol:

Отредактировано (Вчера 01:02:54)

#11255 Вчера 01:06:39

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Очень может быть, что где-то посередине вызывания АПИ пост-хистори инструкции, если на них не написано посылать их от юзера, перекочевывают в начало чата в системный промпт.

Хм, а у нас в агнаи можно залочить порядок промпта и в целом исключить какие-то элементы, но я не думал, что оно вообще имеет значение. Оказывается, имеет, поэтому не буду трогать на всякий случай, мало ли :lol:

#11256 Вчера 01:27:23

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анончики, а можете подсказать где бесцензурные модельки для lmstudio.ai искать-качать?

#11257 Вчера 01:31:45

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анончики, в Лорбуке  есть "слова" по которым лорбук срабатывает. -  если у меня например там слово dock используется, то среагирует ли лорбук на слово docks (т.е. множественное число) ? не понимаю нужно ли все формы указывать или только основную.

#11258 Вчера 01:32:36

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Анончики, а можете подсказать где бесцензурные модельки для lmstudio.ai искать-качать?

https://huggingface.co/models

#11259 Вчера 02:03:17

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Спасибо, милчеловек.

#11260 Вчера 02:14:54

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Хм, а у нас в агнаи можно залочить порядок промпта и в целом исключить какие-то элементы, но я не думал, что оно вообще имеет значение. Оказывается, имеет, поэтому не буду трогать на всякий случай, мало ли :lol:

Это прям очень-очень важно, кривая контекста и правильная работа с ним это прям священный грааль. Оно у всех сеток разное, у кого-то лучше с вниманием, у кого-то хуже, но универсальная схема такая: больше всего внимания сетка обращает на самое начало контекста (то, что идет первым, обычно это системный промпт) и (больше, чем на начало) на самый-самый конец контекста, то есть твое последнее сообщение (и как раз пост-хистори/префил). Получается такая U-образная "яма" в которой пропадает внимание. В целом, середина проседает у всех, у кого-то больше, у кого-то меньше. У ризонеров в целом поменьше, потому что они "подтягивают" в ризонинг что надо, таким образом запихивая в самую главную свою зону внимания - внизу контекста - много полезных токенов. Из конкретных сеток, у Гемини сильно лучше с контекстом, чем у других сеток. У Дипсика похуже. Но вообще не бойся экспериментировать, чтобы понять, что работает! Например, мемо, это инжект на глубину (то есть между сообщением X и сообщением X+1, где X это количество постов "снизу", то есть от самого свежего), который позволяет всегда держать в зоне повышенного внимания сетки что-то, что без этого она может забыть: какие-то факты, которые часто ускользают от нее, черты характера и т.п.



Анон пишет:

Анончики, в Лорбуке  есть "слова" по которым лорбук срабатывает. -  если у меня например там слово dock используется, то среагирует ли лорбук на слово docks (т.е. множественное число) ? не понимаю нужно ли все формы указывать или только основную.

Вообще, мне кажется, лучше перестраховаться всегда и добавить все падежи и строчные/прописные буквы. Это может быть долго, но это надо сделать один раз, и так спокойнее. Но посмотри в настройках лорбуков у себя, есть ли параметр типа "Match Whole Words", и как там части слов подтягиваются, может, там можно просто написать dock*?

Отредактировано (Вчера 02:16:28)

#11261 Вчера 02:24:03

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Но посмотри в настройках лорбуков у себя,

нету такой настройки. это Виверна если что.
из описания только в Вики, без пояснения (( попробую написать все.. спасибо!
Keywords - This is the most important aspect of a character book entry. These are the list of words that, when mentioned, insert the content into the prompt. They are separated by commas. For example: sword, Excalibur

#11262 Вчера 21:02:47

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анончики, а в агнаи есть возможность окошко ответа сделать побольше? Или вот это максимальная высота?

Скрытый текст

Отредактировано (Вчера 21:03:07)

#11263 Вчера 21:38:40

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Аноны, а у всех aistudio.google.com сломалась?

Скрытый текст

Попробовала в двух разных браузерах. Скрин ошибки - это вообще с чистого аккаунта. Что делать? У меня там рабочие задачи висят  :sadcat:

#11264 Вчера 21:47:59

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Аноны, а у всех aistudio.google.com сломалась?

А ты через впн входил? Ты случайно не сибирский анон, вам там вроде все заблочили.

#11265 Вчера 22:01:08

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Аноны, а у всех aistudio.google.com сломалась?

Да, опенроутер тоже работает через раз.

#11266 Вчера 22:04:35

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Да, опенроутер тоже работает через раз.

Хм. Опенроутер действительно не работает. Что с впн, что без.

#11267 Вчера 22:06:13

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Аноны, а у всех aistudio.google.com сломалась?

Там походу что-то слетело... Миджорни (вход по гуглу), ЧАИ, еще вроде что-то не работает

#11268 Вчера 22:10:02

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Пошел на агнаи, через апи опенроутера ответы не генерятся.

#11269 Вчера 22:13:58

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Cloudflare плохо, вот половина интернета и умирает. Холиварка, кстати, тоже может отлететь.

#11270 Вчера 22:16:51

Анон

Re: Напиши мне историю, или текстовых ИИ тред

#11271 Сегодня 00:27:12

Анон

Re: Напиши мне историю, или текстовых ИИ тред

решил посмотреть новые модели в лормейте.
войдривер забавный, но у него тоже проблемы с трансовостью персоны

нсфв

:lol:

#11272 Сегодня 02:51:18

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Я наверное уже заебал своими репортами о борьбе с дипслопом, но не могу не поделиться новым поворотом  =D Если сделать лорбук (играю на таверне) с параметрами always on, inject as User at depth 0 и сделать энтри примерно такого формата

BANNED WORDS AND ACTIONS=[бла, бла, бла] AND all other variants of said words/phrases.

то оно работает!!111 ...Правда, только на ризонерах  :sadcat:

#11273 Сегодня 04:06:46

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Если сделать лорбук (играю на таверне) с параметрами always on, inject as User at depth 0

Можно в промптменеджере сделать новый промпт, прописать все туда, поставить его от юзера, вытащить из выпадушки и перетащить после строчки чатхистори. Получится та же пост-хистори инструкция, только будет зависеть от промпта а не от лорбука.

Анон пишет:

...Правда, только на ризонерах  :sadcat:

Даже на ризонерах не всегда на самом деле, и очень зависит от формулировки, тот же never mention smells у меня работает как часы, что-то другое нет.

#11274 Сегодня 04:09:01

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

своими репортами о борьбе с дипслопом

А твой провайдер не поддерживает "Banned strings"?

#11275 Сегодня 08:24:03

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

А твой провайдер не поддерживает "Banned strings"?

Chat completion не поддерживает вроде, а text completion я хз как настраивать

Подвал форума

Основано на FluxBB, с модификациями Visman
Доработано специально для Холиварофорума