Холиварофорум

Не все, что говорят на Холиварке — правда!

Вы не вошли.

#1 2022-12-05 22:58:43

Анон

Напиши мне историю, или текстовых ИИ тред

Тред для обсуждения текстовых ИИ в контексте писательства: ролевых игр, додать себе редкопейринга, написать пейзаж для главы или подсказать вотэтоповорот.

ИИ для ролевых
Общие ИИ
Гайды и прочие развлечения с ботами
FAQ
Очень Полезные Ссылки

Для удобства поиска отзывов используйте тег #ии_истории.


#12676 2025-07-22 23:23:16

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Можно логи или еще что-нибудь?

Так возьми сам подключи и пощупай.

#12677 2025-07-22 23:28:30

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Это который? Вот этот - Qwen3 235B A22B 2507?

Я потыкал. Он пишет бодрее чем дипсик и подмечает детали совсем как Клод. Пример: бот поцеловал персоне пальцы. Персона смутилась, опустила глаза и попыталась это скрыть. Дипсик и Кими шпарят дальше, Сонет уводит разговор не в ту степь, а опус и квен эти детали подмечают. Другое дело, по ощущениям, квен образ из промта плохо держит.

Апд. Совсем не держит характер. Вот вообще.

Отредактировано (2025-07-22 23:37:46)

#12678 2025-07-22 23:32:12

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Аноны, а у всех https://aistudio.google.com/ норм работает? В чатах с большим контекстом (но где осталось еще 150к токенов) постоянно ошибка выскакивает. Даже когда кидаю ему "привет"

#12679 2025-07-23 00:06:12

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Новый квен по диалоговым способностям прям сравним с Клодом

Повторяет то же самое другими словами( Может конечно дело в промпте.

#12680 2025-07-23 01:10:34

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

В чатах с большим контекстом (но где осталось еще 150к токенов) постоянно ошибка выскакивает. Даже когда кидаю ему "привет"

Большого чата у меня нет, с маленьким все в порядке. Возможно, что у тебя впн подслетел как-то, поэтому ошибка? Попробуй включить-выключить или перезагрузить.

#12681 2025-07-23 07:00:01

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Как перестать бояться нажать не туда? 

Нажимать не туда первым! В целом, есть хороший гайд для новичков https://rentry.org/Sukino-Findings

#12682 2025-07-23 10:00:22

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Аноны, а кто локально модели запускал, что им нужно? Бэкъярд смотрит, будет модель работать или нет, по оперативке, а на реддите я вижу, что все обсуждают видеокарты, но тогда получается, что даже на мощном игровом компе реалистично запустить только самые малюсенькие модели. Или на оперативке тоже можно, только они медленнее будут работать? А насколько медленно, совсем невозможно писать?

#12683 2025-07-23 10:33:39

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Аноны, а кто локально модели запускал, что им нужно? Бэкъярд смотрит, будет модель работать или нет, по оперативке, а на реддите я вижу, что все обсуждают видеокарты, но тогда получается, что даже на мощном игровом компе реалистично запустить только самые малюсенькие модели. Или на оперативке тоже можно, только они медленнее будут работать? А насколько медленно, совсем невозможно писать?

У меня 16гб видеокарта, и максимум, что я запускал, это 27B Гемму в 4 кванте, и то, с ростом контекста все становится довольно медленно.

Видеопамять в разы быстрее, а так можно и на ссд запускать, это же просто математические расчеты. Скорость при этом будет очень, очень маленькой (типа токен в минуту), и ты по сути будешь платить расходом электричества. На оперативке можно, если у тебя есть (сравнительно) немного видеопамяти и модель МоЭ (у Квенов были какие-то модели новые с всего тремя миллиардами активных, они должны быть быстрыми), вроде главное чтобы одна активация экспертов влезала. А вся остальная модель и контекст по хорошему должны влезать в оперативку, то есть нужно ~700ГБ оперативки для того же Дипсика.

В принципе, сейчас АПИ всегда дешевле получается, чем дома запускать, это развлечение не для бюджетного решения. Но маленькие модели для маленьких задач сейчас есть очень хорошие. Из косвенно, связанных с темой, генераторы картинок, например. В Silly Tavern например расширение, которое позволяет основной сетке (Дипсику или Гемини) использовать локальную программу для генерации изображений, они посылают на нее промпт свой, и картинка появляется у меня в чате. Также предполагаю что-то интересное может быть с генераторами голоса, они тоже сравнительно мало весят.

#12684 2025-07-23 10:37:42

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Я потыкал. Он пишет бодрее чем дипсик и подмечает детали совсем как Клод.

Ну звучит хорошо. А насчет проеба характера, это может быть поправимо или хотя бы управляемо. Третий Опус тоже характеры теряет только так без костылей. Или, может, Квену какой-то определенный типаж не удается? С сетками такое бывает. Нужно проверять на разных характерах, с мемо и без.

#12685 2025-07-23 10:41:21

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Нажимать не туда первым! В целом, есть хороший гайд для новичков https://rentry.org/Sukino-Findings

Обалденный гайд, сохранил себе, спасибо! Там и раздел с ботами есть и про локалки.

другой анон

#12686 2025-07-23 10:51:24

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Это который? Вот этот - Qwen3 235B A22B 2507?
Не знаю, эта модель или нет, но я ее подключила сейчас через ОР и чет ору  Первая сетка, которая решила припечатать персону в тестовом чате сразу же во втором сообщении

Я на эту переключился, буквально самое начало чата, в стартовом посте бота попросили заехать за тортом, потом пост персоны, где она просто говорит "проходите, вот торт"
He reached out, not for the box, but to pluck a stray petal of buttercream from the corner of the cake with his thumb. Before she could react, he sucked it off slow, groaning like it was the filthiest thing he’d done all week. ""Mmm. Sweet. Just like I like 'em. You single? Or do I gotta fight some prick for the privilege of bending you over this counter and fucking you into next Tuesday?
Это было быстро   :lol:

#12687 2025-07-23 10:59:53

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Насчёт локальных моделей - Gemma 3n нормально работает у меня на телефоне, но её "обслуживание" или как это назвать ещё не допилено, на мой взгляд.

#12688 2025-07-23 15:49:41

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Лифт dingнул, двери разъехались.

Когда не смог адаптировать звук и решил не заморачиваться  :lol:

#12689 2025-07-23 18:17:50

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Аноны, посоветуйте, как нормально сделать что-то вроде лорбука на агнаи? Обнаружил, что мой маленький канон дипсик не знает (знает опус, но опус со своими ценами может пройти по известному адресу). Мне бы хоть немного сеттинг и неписей описать, а то, боюсь, бот будет плавать.

#12690 2025-07-23 18:44:37

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Аноны, посоветуйте, как нормально сделать что-то вроде лорбука на агнаи?

Даже если сетка знает канон, лорбук с конкретными деталями никогда не будет лишним.
В чем конкретно тебе помочь? Если именно по лорбукам агнаи, то я надеюсь кто-то другой подскажет, потому что я видел там только активируемые записи, а лорбуку хорошо бы и постоянные тоже.

Если как организовать лорбук, то:
1) Сетка не видит названия статьи и ключевого слова, она видит только поле в которое ты вписываешь статью, поэтому там надо дублировать название обязательно (часто вижу такую ошибку в лорбуках).

примеры

2) Порядок относительно важен, я всегда организовываю по смысловым группам: сначала общее описание сеттинга, потом локации, потом какие-то исторические события, потом НПС.
3) Для больших современных сеток типа Дипсика лучше и проще каждую статью обернуть в XML, так сеткам будет легче не путаться.

примеры тэгов

Отредактировано (2025-07-23 18:45:35)

#12691 2025-07-23 18:49:46

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

В чем конкретно тебе помочь? Если именно по лорбукам агнаи, то я надеюсь кто-то другой подскажет, потому что я видел там только активируемые записи, а лорбуку хорошо бы и постоянные тоже.

Вот с этим. Потому что меморибук я нашел, но это совсем не то. А как сделать что-то вроде лорбука - не понимаю. Сделать его в виде еще одного персонажа и включить в диалог?

#12692 2025-07-23 18:55:30

Анон

Re: Напиши мне историю, или текстовых ИИ тред

О, лорбуки. Я вот недавно на Виверне свой первый лорбук сделала к боту, который вообще не мой, а честно стащенный с Ксоула. А то бота этого я нежно люблю, но вот мир вокруг бота и персоны какой то пустоватый, т.к. это не фандомный перс и не повседневка.
И вот не знаю, правильно ли это, но я сделала так: первая запись у меня краткое описание сеттинга со всеми фракциями и фишками, которые я придумала. А потом коротенькие статьи, где все это более подробно раскрывается. Первую запись я сделала постоянной, т.е. она всегда в контексте.
И вот как оно заиграло, аж нарадоваться не могу. Бот активно юзает лор, иногда я и сама забываю, что там напридумывал, а он помнит  :lol:

#12693 2025-07-23 19:23:47

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

В чем конкретно тебе помочь? Если именно по лорбукам агнаи, то я надеюсь кто-то другой подскажет, потому что я видел там только активируемые записи, а лорбуку хорошо бы и постоянные тоже.

Не знаю, насколько это правильно, я просто переезжал со своими ботами со спайси на виверну и потом на агнаи, по ходу дела добавляя всякие штуки, но у меня лор (важные неписи, места и всякое такое) коротенько расписан в описании бота, а более детально уже в виде записей лорбука, поэтому бот часто и по делу упоминает их, и подтягивает детали из лорбука.

#12694 2025-07-23 19:30:31

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Безумно жду, когда джанитор лорбуки введет... Щас они вроде паре авторов дали к ним доступ, может хоть в этом году  :sadcat:

#12695 2025-07-23 19:39:48

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

коротенько расписан в описании бота, а более детально уже в виде записей лорбука, поэтому бот часто и по делу упоминает их, и подтягивает детали из лорбука.

Анон, а как ты делал лорбук на агнаи? Вот тут: Chat Memory Book?

#12696 2025-07-23 19:46:06

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Я вот недавно на Виверне свой первый лорбук сделала к боту

Анончик, а насколько большой лорбук у тебя вышел? Я вот думаю фандомный на всякий случай сделать, но там столько всякой инфы... я даже не знаю, насколько много туда стоит впихивать

#12697 2025-07-23 19:46:42

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Анон, а как ты делал лорбук на агнаи? Вот тут: Chat Memory Book?

По кнопке библиотека в меню слева, я, если честно, не понял, куда попадет лорбук, если его через меню в самом чате создать.
А еще проверял методом тыка и поэтому не знаю, точно это так или нет, но бот видит лорбук, привязанный к чату и к себе, а лорбук, привязанный к персоне не видит, то есть можно два одновременно использовать.

#12698 2025-07-23 19:47:52

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Вот тут: Chat Memory Book?

Да.
Но я сейчас посмотрела и кажется, что там действительно нельзя постоянные записи делать.
Вообще так себе там лорбуки по функционалу, честно говоря.

#12699 2025-07-23 19:51:31

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

По кнопке библиотека в меню слева, я, если честно, не понял, куда попадет лорбук, если его через меню в самом чате создать.

Анон пишет:

Но я сейчас посмотрела и кажется, что там действительно нельзя постоянные записи делать.

У меня там мозг закипел. То есть, там нельзя нормально прописать сеттинг, нужно это делать по ключевым словам, иначе алгоритм просто не будет подтягивать записи в чат?

#12700 2025-07-23 19:53:56

Анон

Re: Напиши мне историю, или текстовых ИИ тред

Анон пишет:

Анончик, а насколько большой лорбук у тебя вышел? Я вот думаю фандомный на всякий случай сделать, но там столько всякой инфы... я даже не знаю, насколько много туда стоит впихивать

Весь лорбук у меня весит 1483 токена, 14 записей. Но он не все сразу в контекст подгружается же, отдельные статьи только если ключевое слово упомянуть появляются в контексте.
Самая длинная запись - первая, которая у меня постоянно в контексте, она на 600 примерно токенов. Остальные короткие, меньше сотки.

Отредактировано (2025-07-23 19:58:24)

Подвал форума

Основано на FluxBB, с модификациями Visman
Доработано специально для Холиварофорума