Напиши мне историю, или текстовых ИИ тред

Анон · 2022-12-05 22:58:43

Тред для обсуждения текстовых ИИ в контексте писательства: ролевых игр, додать себе редкопейринга, написать пейзаж для главы или подсказать вотэтоповорот.

▼ИИ для ролевых⬍

Это далеко не полный список, только то, что здесь обсуждалось. Больше ИИ можно найти в списках: раз, два.

Character.AI, старый дизайн
Сабреддит: CharacterAI; неофициальные сабреддиты: CharacterAi_NSFW, CharacterAI_Guides
Мобильные приложения: андроид, iOS
Цаи - не путать с чаи - самый популярный сайт с собственной ЛЛМ. Есть NSFW-фильтр, который можно обойти, если постараться, но откровенное порно все равно будет получаться крайне редко.

Chai
Сабреддит: ChaiApp
Только мобильные приложения: андроид, iOS
Чаи. Условно-бесплатный. Есть платная подписка, каждые три часа можно бесплатно получить 70 энергии, одно сообщение пользователя - одна энергия, сообщения бота и их перегенерация бесплатны.
Нет, авторы ботов больше не могут читать чужие чаты!

Agnai
Сабреддит: AgnAIstic
Нет чужих ботов, можно только создать своего. Нет NSFW-фильтра.
Простынка любви от анона (+небольшой лайфхак по переписыванию личности бота)

AI Dungeon, бета
Сабреддит: AIDungeon
RPG. Бесплатный в целом, условно-бесплатный для премиум-модели. Для премиум-модели можно бесплатно получить недостающее количество действий раз в день, чтобы поднять баланс до 20. Есть настройки фильтра, можно отключить его полностью.

Hi Waifu
Неофициальные сабреддиты: Hi_Waifu_chatbot_app SFW, HiWaifu_NSFW
Мобильные приложения: андроид, iOS
Условно-бесплатный. Изначально - приложение, поэтому подписка покупается в нем. В день можно бесплатно получить 30 энергии, одно сообщение - одна энергия, и от пользователя, и от бота. Нет NSFW-фильтра.

JanitorAI
Сабреддит: JanitorAI Official
Очень активное сообщество, множество самых разных ботов, есть возможность оставлять комментарии к ботам и читать чужие игры. Собственная ЛЛМ, настройка температуры, нет NSFW-фильтра.

Sakura
Нет сабреддита, как и NSFW-фильтра.

SpicyChat
Сабреддит: SpicyChatAI
Мобильные приложения: андроид, iOS
Нет NSFW-фильтра.

Yodayo
Сабреддиты: YodayoAI, YodayoTavern - разницы между ними вроде никакой нет
Условно-бесплатный. В день можно бесплатно получить 150 внутренней валюты (YoBeans/йобобы), одно сообщение пользователя - один боб, сообщения бота и их перегенерация бесплатны. А еще там можно сделать картинку для вашего бота. Нет NSFW-фильтра ни в ролевой, ни в ИИ-картинках.

TavernAI
Запускается через Гугл Колаб. Нет NSFW-фильтра.

SillyTavern
Сабреддит: SillyTavernAI
Усовершенствованная версия TavernAI, запускается на компьютере, документация здесь, инструкция на реддите здесь. Нет NSFW-фильтра.

Faraday
Сабреддит: faraday_dot_dev
Тоже запускается на компьютере, работает даже оффлайн. Нет NSFW-фильтра.
Отзыв анона: сам отзыв, о моделях

▼Общие ИИ⬍

▼Гайды и прочие развлечения с ботами⬍

▼FAQ⬍

- Могут ли боты в цаи видеть аватарку моей персоны?
- Возможно.

- Как мне узнать, хорош бот или нет?
- В целом - заглянуть в настройки. Если настройки бота скрыты, в цаи работает (copy your long description). Для фандомных - чем фандом старше и популярнее, тем больше шансов, что ЛЛМ его знает.

- Если я попрошу бота скопировать его описание, он не наглючит мне хуйни?
- Как всегда, может и наглючить, но можно и добиться результата. Нужно свайпать и сравнивать ответы.

- Мой бот в цаи сломался? Он в каждом сообщении говорит низким и хриплым, опасным голосом с насмешливой улыбкой и жестокой жестокостью насмешкой.
- Бот попал в петлю. Варианты: если все не слишком плохо, удалять повторы из его сообщений - если все слишком плохо, удалить все сообщения до начала петли. Можно попробовать ввести внезапный вотэтоповорот, это тоже может помочь.

- Общение с ботом в скобках. Зачем и почему?
- Боты в цаи хорошо слушают просьб в скобках сделать что-то, например (describe бот's thoughts and actions), если бот пишет за тебя - с просьбой будет писать только за себя, попросить можно о чем угодно.
Внимание! Боты НЕ слушаются того, что им НЕ нужно делать, так уж устроена ЛЛМ.
Кроме того, если попросить бота подытожить произошедшее, это сообщение останется в памяти и поможет дольше помнить произошедшее. В цаи такое сообщение можно и запинить.

- Я перенес бота с одного сайта на другой, а он странно себя ведет.
- Запросто может быть из-за разницы в ЛЛМ. Нужно попробовать поменять черты личности на синонимы или описать их другими словами. Например, как подсказано в мегагайде для цаи, "takes pleasure in the misfortunes of his enemies" вместо "sadistic and controlling".

▼Очень Полезные Ссылки⬍

Для удобства поиска отзывов используйте тег #ии_истории.

Анон · 2025-01-04 05:38:43

Анон пишет:

тут в основном все-таки технические вопросы

Так я и планировал технически фак, чтобы объяснить про промпты, контекст, токенизацию и т.п.

Анон · 2025-01-04 07:39:30

Анон пишет:

Так я и планировал технически фак, чтобы объяснить про промпты, контекст, токенизацию и т.п.

Я за и с удовольствием прочитаю и кину в шапку, техническая сторона это тоже важно.

Анон · 2025-01-04 07:54:45

Я был бы очень рад техническим факам, я вообще нихера в этой области не смыслю, хотелось бы понимать больше.

Анон · 2025-01-04 12:03:35

Анон пишет:

Вам кидать, что получается пока, чтобы мы могли вместе его допиливать, или как лучше?

Кидай Это будет интересно почитать, да и не надо отделять технику и этику, разве что в последний блок вынести, кому не надо, просто не будет дальше читать.

Анон · 2025-01-04 14:25:24

Стоило надеть платье, и у персоны отрос неучтённый клитор.

▼Скрытый текст⬍

Анон · 2025-01-04 15:57:28

Анон пишет:

Вам кидать, что получается пока, чтобы мы могли вместе его допиливать, или как лучше?

Да, кидай, все будет интересно почитать

Анон · 2025-01-04 20:04:48

Итак, несу, анончики. Написано с помощью аж четырех моделей. Claude 3 Opus, Claude 3.5 Sonnet 20240620, Claude 3.5 Sonnet 20241022 и Gemini Experimental 1206. Так что все ошибки мои личные, сетки обычно с грамматикой дружат. Конечно же, принимаю исправления, дополнения, если что-то лучше убрать или если что-то неясно и надо переписать и расписать и т.п.

Большие лингвистические модели: ЧаВо

▼Содержание⬍

1. Основы
1.1. Что такое нейронная сеть и чем она принципиально отличается от программы?
1.2. Небольшая историческая справка и самые известные примеры.
1.3. Кроме трансформеров, какие еще архитектуры нейросетей бывают?
1.4. Что такое трансформер и почему открытие механизма "внимания" (attention) произвело революцию в развитии ИИ?
1.5. Что такое LLM (большая языковая модель)?
1.6. Что могут делать современные LLM и чего нет?
1.7. Что такое мультимодальность?
1.8. Что такое обучение модели (с учителем, без учителя, с подкреплением)?

2. Практические вопросы
2.1. Что такое параметры модели и данные обучения и как они коррелируют с интеллектом модели и количеством ее знаний, например, с тем, как хорошо они знают определенные сеттинги или персонажей?
2.2. Может ли LLM запомнить что-то из нашего разговора, а потом рассказать другим?
2.3. Что такое окно контекста и как использовать его эффективно?
2.4. Что такое токены? Почему модель не может посчитать количество R в слове strawberry?
2.5. Что такое галлюцинации, почему они происходят? Как понять, что модель уверена в своем ответе, а когда сомневается?
2.6. Почему иногда модель начинает повторяться? Как избежать? Как справляться, если это происходит?
2.7. Что мне важно знать о промптинге (prompting)? Что я могу сделать для того, чтобы LLM понимала меня лучше? Разные типы промптов (zero-shot, few-shot, chain-of-thought).
2.8. Есть ли какие-то общие советы как организовать коллаборативный рабочий процесс с ИИ? Если например я хочу совместно с LLM написать рассказ или заняться ролеплеем?

3. The Bigger Picture
3.1. Понимают ли LLM контекст и эмоции по-настоящему или это просто повторение шаблонов? Может ли ИИ по-настоящему думать и чувствовать?
3.2. Конфиденциальность и безопасность данных, что важно знать?
3.3. Этические соображения при использовании ИИ. Основные проблемы: экологическое воздействие, консолидация ресурсов и усиление неравенства, цензура. Что могут сделать обычные люди?
3.4. Потенциальные риски и угрозы, связанных с развитием ИИ.
3.5. Будущее разработки ИИ.

***

▼1. Основы⬍

▼1.1. Что такое нейронная сеть и чем она принципиально отличается от программы?⬍

▼1.2. Небольшая историческая справка и самые известные примеры.⬍

История искусственного интеллекта и нейросетей началась даже раньше, чем появились компьютеры. Ещё в 1940-х годах учёные задумались, можно ли создать математическую модель работы мозга. В 1943 году появилась первая теоретическая модель искусственного нейрона, а в 1957 был создан первый рабочий алгоритм обучения нейросети - перцептрон. Дальше развитие продолжалось медленно, пока в 1980-х не появился метод обратного распространения ошибки, который используется и сегодня.

Настоящий прорыв случился в 2010-х. В 2012 году сеть AlexNet, использующая сверточную архитектуру (CNN) произвела революцию в компьютерном зрении. Для обработки текста и речи долгое время использовались рекуррентные сети (RNN) и их более продвинутые варианты, такие как LSTM и GRU, которые лучше "запоминают" предыдущую информацию. В 2016 году мир потрясла система AlphaGo, победившая чемпиона мира по игре го - она использовала комбинацию нейросетей (CNN, а также "сети ценности" (value networks) и "сети политики" (policy networks)) и алгоритмов для стратегического планирования.

В 2017 году вышла работа "Attention is all you need", описывающая новую архитектуру - трансформер, которая произвела революцию в обработке языка и легла в основу современных больших языковых моделей. Ее ключевая идея - механизм внимания (attention), который позволяет нейросети находить важные взаимосвязи в данных вне зависимости от дистанции. Трансформеры легли в основу современных больших языковых моделей (LLM) вроде GPT и абсолютно всех современных чат-ботов, которыми мы сейчас пользуемся.

▼1.3. Кроме трансформеров, какие еще архитектуры нейросетей бывают?⬍

▼1.4. Что такое трансформер и почему открытие механизма "внимания" (attention) произвело революцию в развитии ИИ?⬍

В отличие от предыдущих моделей, которые обрабатывали информацию последовательно (слово за словом), трансформер способен быстро фокусироваться на разных элементах последовательности и определять, как они связаны между собой.

Представьте, что вы читаете предложение. Когда вы встречаете местоимение "она", вы сразу понимаете, к кому оно относится, даже если это упоминалось несколько предложений назад. Механизм внимания работает похожим образом - он позволяет модели "держать в уме" весь контекст и находить важные связи между разными частями текста.

Более того, механизм внимания позволяет трансформерам находить связи между элементами вне зависимости от расстояния между ними в последовательности. В отличие от рекуррентных сетей (RNN), где влияние предыдущих элементов ослабевает с расстоянием, трансформер может эффективно "связывать" слова и предложения, даже если они находятся далеко друг от друга. Это делает трансформеры идеальным инструментом для анализа длинных текстов, где важный контекст может быть "распылен" по всему документу.

Эта способность сделала трансформеры незаменимыми для работы с языком. Они используются в чат-ботах, переводчиках, системах генерации текста и кода. Но на этом их применение не заканчивается - трансформеры отлично работают и с другими типами данных: они помогают создавать изображения (как Midjourney или DALL-E), музыку и даже используются в научных исследованиях для анализа генов и белков.

▼1.5. Что такое LLM (большая языковая модель)?⬍

▼1.6. Что могут делать современные LLM и чего нет?⬍

Основные их задачи связаны с работой с текстом:
- Генерация текста, в том числе кода для программирования (сюда входит все, начиная от просто чата и заканчивая написанием статей и ролеплеем).
- Анализ текста: извлечение информации, классификация, перефразирование, суммаризация, и так далее.
- Перевод.

На что современные LLM пока неспособны:
- Быть абсолютно объективными и беспристрастными, так как могут отражать предубеждения и стереотипы, присутствующие в данных, на которых они обучались.
- Гарантировать 100% точность и достоверность, потому что подвержены галлюцинациям и почти не способны отследить их.
- Понимать мир так же, как люди: LLM обучаются на огромных объемах данных, но их понимание мира ограничено этими данными и их собственным существованием. У них нет жизненного опыта или здравого смысла в человеческом понимании. Одна из особенностей, например, в том, что даже самые продвинутые ИИ с крепкой картиной мира не обладают концептом времени, во всяком случае на сегодня.
- Самостоятельно ставить цели и иметь собственную мотивацию: LLM пассивны не способны самостоятельно инициировать действия без запроса. Существуют разработки, позволяющие обходить это, потому что даже самая простая обратная связь делает LLM активным агентом.
- Иметь сознание и самосознание в том виде, как мы это понимаем у людей. LLM - это сложные алгоритмы, которые имитируют человеческое общение и демонстрируют поразительные когнитивные способности, но у нас нет достаточных оснований утверждать, что они действительно мыслят и чувствуют. С другой стороны, у нас также нет и достаточных оснований чтобы полностью отрицать такую возможность. Так что, вопрос о том, обладают ли LLM сознанием, является предметом споров, и на данный момент научного консенсуса по этому вопросу нет.

▼1.7. Что такое мультимодальность?⬍

▼1.8. Что такое обучение модели (с учителем, без учителя, с подкреплением)?⬍

Обучение модели - это процесс, в ходе которого нейросеть учится выполнять определенную задачу, например, распознавать изображения, переводить тексты или играть в игры. Это похоже на то, как учатся дети: им показывают примеры, объясняют правила, поощряют за правильные ответы и корректируют ошибки.

Существует несколько основных методов обучения:

- Обучение без учителя (Unsupervised Learning): Модели показывают данные без каких-либо меток или инструкций. Задача модели - самостоятельно найти структуру в данных, выявить скрытые закономерности, сгруппировать объекты по сходству. Этот метод часто используется для анализа данных, выявления аномалий, а также для предварительной обработки данных перед обучением с учителем.
- Обучение с учителем (Supervised Learning): Модели показывают много примеров с правильными ответами. Например, чтобы научить нейросеть распознавать кошек, ей показывают тысячи фотографий кошек и говорят: "это кошка". Задача модели - научиться находить закономерности, которые отличают кошек от других объектов.
- Обучение с подкреплением (Reinforcement Learning): Модель действует в некой среде и получает "награды" за правильные действия и "наказания" за неправильные. Задача модели - научиться действовать так, чтобы максимизировать суммарную награду.

На практике почти всегда используются комбинации разных методов обучения. Например, сначала модель обучают без учителя, чтобы она нашла общую структуру в данных, а потом дообучают с учителем под конкретную задачу, используя в сочетании с ним обучение с подкреплением.

По сути, качество обучения напрямую зависит от качества и количества данных. Чем больше данных и чем они разнообразнее, тем лучше обучится модель.

▼2. Практическая часть⬍

▼2.1. Что такое параметры модели и данные обучения и как они коррелируют с интеллектом модели и количеством ее знаний, например, с тем, как хорошо они знают определенные сеттинги или персонажей?⬍

Параметры модели это количество нейронных связей в модели, и обычно обозначаются числом и буквой после нее, означающей размерность (например, M - миллионы, B - миллиарды, T - триллионы).

Примеры:
117M — GPT-1 имела 117 миллионов параметров.
70B — Llama 3.3 70B имеет 70 миллиардов параметров.
1.7T — Оригинальная GPT-4 _по слухам_ имела почти два триллиона параметров. Точная архитектура неизвестна, но по тем же слухам (слайд с презентации НВидии) она была 8x220B.

Что означает этот "x" в параметрах? Иногда сетки обозначают не просто числом, а указанием из скольких частей по сколько параметров она состоит. Это называется "mixture of experts" (MoE) - "смесь экспертов". У такой модели есть несколько специализированных "экспертов" (те самые части по 220B). И есть специальный "маршрутизатор", который решает, какому эксперту передать каждый запрос. На практике сейчас некоторые MoE модели могут работать хуже обычных "плотных" моделей с таким же количеством параметров (то есть 7x8B может оказаться хуже, чем 56B), хотя теоретически они должны быть эффективнее, и подвижки в эту сторону уже есть.

Пример:
8x7B — Mixtral 8x7B имеет восемь "экспертов" по 7 миллиардов параметров каждый. Всего в модели 56 миллиардов (8 умножить на 7).

В целом, параметры модели можно представить как связи между "нейронами" в мозге ИИ - чем их больше, тем более сложные взаимосвязи может устанавливать и обрабатывать модель.

!Закрытые, корпоративные модели перестали публиковать данные о том, сколько параметров у их моделей, после GPT-3,5. Поэтому о размерах таких сеток как ГПТ или Клод мы можем только догадываться. Исключение это самая младшая модель Gemini прошлого поколения, где указано, что она 8B.

Данные обучения - это вся информация, которую модель "прочитала" и изучила во время тренировки, обычно пишутся прямо ("pre-trained on nearly 15 trillion tokens") или сокращаются по тому же принципу, что и обозначение параметров модели ("pre-trained on ~15T tokens"). Тут при прочих равных так же как и с параметрами: чем больше, тем лучше.

Интересный факт (от Клода): современные крупные модели обучаются на таком количестве текста, что если бы человек читал их со скоростью одна страница в минуту, ему понадобились бы тысячи лет, чтобы прочесть всё это!

Однако больше не всегда значит лучше! Представьте двух людей: один прочитал 1000 книг, но поверхностно, а второй - 100 книг, но очень внимательно. Так же и с ИИ, важно не только количество параметров и данных, но и качество обучения, и то, как хорошо модель умеет извлекать и применять нужные знания в правильном контексте. Ремарка про качество обучения касается не только непосредственно процесса, но и данных: если данные будут плохого качества и плохо структурированы, то толку от них будет мало.

Что касается знания конкретных тем - это напрямую зависит от того, были ли такие данные в обучающем материале, и насколько детально они были представлены. Модель может знать общие сюжетные линии популярных игр и книг, но может путаться в деталях, именах второстепенных персонажей или, тем более, малоизвестных произведениях, если только они не были подробно представлены в данных для обучения.

▼2.2. Может ли LLM запомнить что-то из нашего разговора, а потом рассказать другим?⬍

Проводя аналогию с мозгом, LLM обладают превосходной долговременной памятью (знаниями, полученными в процессе предобучения), но их кратковременная память ограничена конкретным чатом и окном контекста в нем. Модель не способна самостоятельно перенести информацию из кратковременной памяти (текущего диалога) в свою долговременную память. Поэтому всё, что происходит в чате, модель видит только "здесь и сейчас", в контексте текущего разговора, и как только чат закрывается - эта информация, как правило, исчезает навсегда.

Нынешние коммерчески доступные модели, не могут:

- Запомнить ваши личные данные и рассказать о вас другим пользователям.
- "Научиться" чему-то новому из бесед.
- Использовать информацию из прошлых разговоров, если только вы сами явным образом не вставите ее в окно контекста.
- В веб-версии ChatGPT используются хитрые системы по добавлению аналога долговременной памяти, такие как "воспоминания": по сути запиненные сообщения, которые всегда в контексте.

Существуют обходные пути, позволяющие создавать иллюзию продолжающегося разговора. Например, когда дополнительные данные (суммаризация предыдущих диалогов или любая другая информация) подставляются модели из внешнего хранилища с помощью различных методов, таких как RAG (Retrieval-Augmented Generation). Так, по-видимому, работает механизм по запоминанию информации между чатами в Character.ai и в недавнем обновлении ChatGPT (деталей компании не разглашают).

Также существуют экспериментальные разработки, которые позволяют динамически дообучать модель, по сути перенося знания из "кратковременной" памяти в "долговременную", но пока практических решений такого типа для массового пользователя нет.

▼2.3. Что такое окно контекста и как использовать его эффективно?⬍

Окно контекста - это объём информации, который модель может "видеть" и обрабатывать одновременно в рамках одного диалога, ее "кратковременная память". Максимальный размер контекста, на который модель тренирована, обычно указан в карточке модели.

Пример:
GPT-3.5 Turbo 16k — 16k здесь обозначает, что максимальное окно контекста для этой сетки 16 тысяч токенов.

Для открытых моделей, которые хостятся на серверах третьей стороны, бывает так, что максимальный возможный контекст у модели один, но хостер уменьшает его, просто потому что по мере увеличения контекста увеличивается и количество необходимой памяти. Например, если пойти на страничку Лламы 405B на Open Router, то видно, что некоторые провайдеры хостят максимальный контекст 128k (там он обозначается как 131k, видимо, из-за подсчета токенизации), но некоторые ограничивают максимальный контекст до 32k и 33k.

Контекст состоит из абсолютно всего:
- самого чата,
- системного промпта,
- дополнительной информации, которая может быть или не быть системной (в том числе запиненых сообщений, подтянутый статей из лорбука или с помощью RAG, инжектов и т.п.).

Все, что вышло за пределы окна контекста, перестает быть доступным для LLM. Единственное, что знает LLM помимо того, что в контексте, это то, что она получила во время своего обучения.

Эффективное использование контекста:
- Важную информацию лучше размещать в начале или конце контекста, поскольку модель уделяет им больше внимания.
- Стоит группировать связанные данные вместе.
- При длинном диалоге полезно периодически напоминать ключевые моменты.
- Если нужно обработать большой текст, лучше разбить его на логические части и подавать модели поочередно, сопровождая каждую часть соответствующим запросом.

▼2.4. Что такое токены? Почему модель не может посчитать количество R в слове strawberry?⬍

До начала тренировки модели разработчики производят токенизацию: процесс нарезания слов на "токены", каждому из которых присваивается число. Токенизация это самая основа модели и после начала тренировки ее уже почти невозможно изменить. Единого стандарта токенизации не существует, поэтому размер токенов, их количество и содержание варьируется от модели к модели.

Во время работы модели каждый токен с помощью декодера встраивается в модель, ему присваиваются векторы в многомерном пространстве (порядка нескольких тысяч измерений), и эти векторы в процессе работы трансформера изменяются, чтобы модель "поняла" контекст конкретного токена. После того, как модель загенерит вероятности для всех возможных следующих токенов, с помощью различных сэмплингов из них выбирается один единственный и происходит обратный процесс, когда эта многомерная точка преобразуется обратно в числовой токен, а затем в слово (или в часть слова).

Почему модель не может посчитать количество R в слове strawberry? Потому что модель не видит букв, она видит только токен или два (GPT видит токен [73700], Claude видит токены [28101, 17574]). И только по своим нейронным связям и ассоциациям LLM может "догадаться", сколько каких букв в слове. Обычно помогает попросить LLM "вслух" сначала расписать слово по буквам (и попросить отметить каждую встреченную R), тогда она "увидит" каждую букву как отдельный токен.

▼2.5. Что такое галлюцинации, почему они происходят? Как понять, что модель уверена в своем ответе, а когда сомневается?⬍

Галлюцинации - это когда модель генерирует информацию, которая выглядит правдоподобно, но на самом деле является неверной или выдуманной. Это происходит потому, что модель обучена создавать правдоподобные тексты, и иногда "додумывает" детали, чтобы сделать ответ более полным.

Некоторые причины галлюцинаций:
- LLM "запрограммированы" на то, чтобы давать ответы на любые вопросы, даже если они не уверены в их правильности. Иногда модели бывает "проще" придумать что-то, чем признать свое незнание.
- Стремление дать "исчерпывающий" ответ даже при недостатке знаний: Если в данных, на которых обучалась модель, недостаточно информации по какому-то вопросу, она может попытаться "додумать" ответ.
- Смешение информации из разных источников при обучении или неоднозначность или противоречивость данных, в результате чего модель пытается найти закономерности там, где их нет.

К сожалению, сейчас не существует 100% надежного способа определить, галлюцинирует ли модель или нет. Однако есть некоторые признаки, которые могут указывать на неуверенность:

- Модель прямо говорит о своих сомнениях или о том, что нужно проверить информацию.
- Использование обтекаемых формулировок: "возможно", "вероятно", "по некоторым данным" и т.п.
- Нелогичные или бессмысленные ответы и противоречивые утверждения.
- Особенно часто проявляется в датах, числах и конкретных цитатах.

Важно помнить: опасны не те галлюцинации, которые можно распознать по признакам выше, а те, которые происходят даже когда модель кажется очень уверенной. Она может даже спорить с вами о правдивости! Всегда перепроверяйте важную информацию через надежные источники и не используйте LLM как поисковый движок или истину в последней инстанции!

Интересный факт (от Клода): Галлюцинации являются следствием способности LLM к генерации текста. Исследования показывают, что модели могут определить "неуверенность" в своих ответах - это видно по распределению вероятностей при генерации токенов. Когда модель "галлюцинирует", эти вероятности часто показывают более хаотичное распределение, что может служить индикатором ненадёжности ответа.

Так что есть шанс, что в будущем галлюцинаций будет все меньше и меньше. Но пока до него еще далеко, и поэтому критическое мышление и проверка фактов - лучшие помощники при работе с LLM.

▼2.6. Почему иногда модель начинает повторяться? Как избежать? Как справляться, если это происходит?⬍

Любая модель рано или поздно начинает "зацикливаться" - повторять одни и те же фразы или идеи. Это явление называется деградацией вывода (output degradation) и происходит не потому, что модель делает это специально, а из-за особенностей работы нейросети.

Существует несколько теорий о том, почему это происходит:
- "Самоусиление" - когда модель начинает использовать свои предыдущие сообщения как основу для следующих, что может усиливать определённые паттерны.
- "Истощение контекста" - когда в длинном диалоге важная информация из начального контекста постепенно теряется или затеняется более поздними токенами.
- "Проблема горизонта" - модель может начать "зацикливаться", потому что не видит выхода за пределы текущего паттерна генерации.

Интересный факт (от Клода): В отличие от галлюцинаций, модели, кажется, не имеют внутреннего механизма для распознавания того, что они начали повторяться. Застряв в петле, модель как будто не видит в этом проблемы. Распределение вероятностей при этом может оставаться вполне "уверенным", просто модель снова и снова выбирает похожие паттерны.

Как избегать петель (loops):
Работать с контекстом. Давать модели больше разнообразных данных, например, в РП: менять сцены, события, вводить новых персонажей.

Как справиться с уже образовавшимися петлями:
- Быстрое решение (просто, но может не сработать если петля серьезная): дать модели новый контекст или дополнительную информацию, например, сменить сцену/сделать таймскип в РП.
- Трудоемкое решение (сложно, нужно уметь видеть петли и понимать как их разбивать): отредактировать контекст, убрав появившиеся паттерны.
- Радикальное решение (просто, но может потеряться информация): перезапустить диалог, чтобы начать с чистого листа.

Важно понимать, что петли это не "поломка" и не "усталость" модели - это просто особенность, технический эффект, который модель сама не контролирует, но который пользователь может легко исправить, особенно если у него есть доступ к редактированию предыдущих ответов модели.

Чего не стоит делать, так это указывать модели на петли и пытаться через диалог убедить ее перестать. Это не сработает. Ну и не стоит считать, что модель это делает, чтобы вам досадить: это совершенно не так, как было сказано выше, модели даже не "осознают", что попали в петлю.

▼2.7. Что мне важно знать о промптинге (prompting)? Что я могу сделать для того, чтобы LLM понимала меня лучше? Разные типы промптов (zero-shot, few-shot, chain-of-thought).⬍

Промптинг - это искусство формулировки запросов к LLM. От того, насколько четко, полно и корректно сформулирован промпт, зависит, насколько хорошо модель поймет, что вы от нее хотите.

Основные принципы эффективного промптинга:

- Используйте естественный язык, но будьте конкретны и точны в своих формулировках и избегайте двусмысленности.
- Указывайте желаемый формат ответа.
- Давайте как можно больше контекста и дополнительной информации (при этом не забывая про окно контекста).
- Разбивайте сложные задачи на более простые.
- Используйте маркеры и структуру (например, XML-теги) для разделения разных частей промпта. Например, в контексте РП обрамление описания персонажей/локаций в соответствующий XML-тег для очень многих LLM улучшит их понимание происходящего. (Но не используйте переусложненные выдуманные форматы типа W++, они только съедают драгоценный контекст. LLM это не программа, она создана, чтобы понимать естественный язык.)
- Экспериментируйте с разными формулировками. Иногда для получения желаемого результата промпт должен быть написан не технически верно, а как-нибудь заковыристо. Например, если вы хотите, чтобы LLM общалась с вами как игривый отаку, вы можете добавить в промпт каомодзи и всяких "несерьезных" слов типа "десу" и "ня".

Существует несколько основных типов промптов:

1. Zero-shot (без примеров) - прямой запрос без дополнительного контекста
Пример: "Напиши рассказ о кошке, которая отправилась в путешествие на Луну."

2. One-shot (один пример) - когда вы даете модели один пример, чтобы проиллюстрировать, какой ответ вы хотите получить.
Пример: "Переведи следующее предложение на французский язык: 'Я люблю мороженое.' -> 'J'aime la glace.' А теперь переведи: 'Я хочу пойти в кино.'"

3. Few-shot (обучение по нескольким примерам) - это способ "подсказать" модели, какой результат вы хотите получить, показав несколько примеров прямо в промпте/запросе. При этом модель не переобучается и не запоминает примеры, а использует их как подсказку для того, чтобы лучше понять задачу. Примеры лучше строить в формате "вопрос-ответ". Вы удивитесь, как хорошо некоторые модели могут всего по нескольким примерам экстраполировать информацию и "играть" персонажа, которого вы им задаете! Как и со всем остальным, что касается LLM, тут важно экспериментировать и смотреть на результат. Для достижения хорошего результата обычно достаточно двух-трех примеров. Если примеров будет слишком много, они могут не поместиться в окно контекста, поэтому не стоит ими чересчур увлекаться!

4. Chain-of-thought (цепочка рассуждений) - когда вы просите модель не просто дать ответ, а пошагово объяснить ход своих рассуждений. Это помогает модели лучше понять задачу и сгенерировать более точный и обоснованный ответ, потому что LLM не могут "думать" про себя, они "думают" только во время генерации токенов.
Пример: "Джон выше Марка, а Марк выше Питера. Кто из них самый высокий? Объясни свой ответ пошагово."

Дополнительные советы:
- Если модель не понимает запрос, попробуйте переформулировать его.
- Не бойтесь экспериментировать с разными подходами.
- Помните, что разные модели могут по-разному реагировать на одни и те же промпты.

▼2.8. Есть ли какие-то общие советы как организовать коллаборативный рабочий процесс с ИИ? Если например я хочу совместно с LLM написать рассказ или заняться ролеплеем?⬍

▼3. The Bigger Picture⬍

▼3.1. Понимают ли LLM контекст и эмоции по-настоящему или это просто повторение шаблонов? Может ли ИИ по-настоящему думать и чувствовать?⬍

▼3.2. Конфиденциальность и безопасность данных, что важно знать?⬍

▼3.3. Этические соображения при использовании ИИ. Основные проблемы: экологическое воздействие, консолидация ресурсов и усиление неравенства, цензура. Что могут сделать обычные люди?⬍

Экология: обучение (и в меньших объемах использование) крупных языковых моделей требует огромных вычислительных мощностей и потребляет много электроэнергии. Датацентр по тренировке новейших моделей может месяцами без остановки потреблять столько энергии, сколько требуется среднему промышленному заводу.

Проблема усиления неравенства и концентрации ресурсов в руках технологических гигантов чем дальше тем более актуальна. Доступ к передовым ИИ-технологиям имеет ограниченное число компаний и стран. Это может вести к дальнейшему расслоению общества. Поэтому очень важны инициативы по демократизации ИИ, открытые исходные коды, общедоступные датасеты и модели. Чтобы преимущества ИИ были доступны всем.

Вопрос предвзятости LLM очень непростой. LLM тренированы на данных, произведенных людьми, которые по своей природе предвзяты, поэтому постепенно с обучением встраивают эту предвзятость в свою "картину мира". Это, конечно, пытаются выправить во время supervised learning/RLHF, но, очевидно, работает оно не идеально. Так что не стоит считать LLM непредвзятой судьей по всем вопросам, даже если она это утверждает.

С фильтрами тоже все непросто. На сегодня существуют два способа фильтрации нежелательных аутпутов LLM: внешний и внутренний.

- Внешний — знаком всем, кто сидел в character.ai. Это еще одна небольшая сетка, которая читает ответ основной LLM и/или промпт и пропускает или запрещает генерацию.
- Внутренний — основан на RLHF и ярче всего проявляет себя в ChatGPT и Claude, когда сетка сама в разных вариантах пишет, что "не может помочь с этим типом контента". Это также может принимать "мягкие" формы, когда сетка будет неявно пытаться избегать каких-то тем. Как пример это мягкий фильтр на смерть у некоторых моделей, например, у ChatGPT, когда LLM во время ролеплея будет изобретать разнообразные способы, чтобы герои избежали смерти.

Проблемы предвзятости, фильтров и цензуры в том, что пока большинство крупных ИИ-компаний сконцентрированы в одном регионе и представляют довольно гомогенную в культурном плане среду, глобальные изменения маловероятны. Они будут продвигать то, что привычно и выгодно им самим.

Что могут сделать обычные люди? Интересоваться этой темой, оставаясь информированными, поддерживать открытые международные ИИ-проекты, типа Мистраля, Квен и других.

▼3.4. Потенциальные риски и угрозы, связанных с развитием ИИ.⬍

▼3.5. Будущее разработки ИИ.⬍

Разработка ИИ идет очень, очень быстро, так, что трудно следить за ней просто в качестве хобби.

Вот несколько вещей, которые активно исследуются и внедряются уже сейчас.

- Мультимодальность, о который подробнее рассказано выше.

- "Думающие" модели, тренированные всегда воспроизводить CoT (о котором написано выше), которые размышляют "вслух" перед тем, как дать ответ, типа o1/o3, QwQ и прочие. Стоит отметить что даже "чистые" модели способны рассуждать, если задать это промптом, и в некоторых случаях это может значительно улучшить результат.

- Синтетические данные. До недавнего времени считалось, что тренировка LLM на данных, которые произведены другой нейронкой, невыгодно, а иногда и вредно. Однако, как кажется сейчас, это не так, и в тех областях, где есть объективные критерии правильного ответа, синтетические данные работают просто прекрасно. Поэтому, например, у нейронок последнего на сегодня поколения выросли способности к написанию кода.

- Агенты. Это системы из LLM, инструментов, которые дают обратную связь, и промпта, которые объясняют LLM, как пользоваться этими инструментами. Благодаря уходит проблема "пассивности" LLM, так как она способна получить промпт сама и самостоятельно же выполнить задачу.

- Миниатюризация различных аспектов моделей с сохранением производительности.

- Новые архитектуры, наиболее интересной из который сейчас видится BLT, архитектура позволяющая избавиться от токенизации.

Анон · 2025-01-04 20:21:02

Сейчас думаю, о чем я не написал, так это о том, что современные LLM генерят токены один за другим, и в этом дискретны. Об отличии базовой и инстракт моделей еще. :think:

Анон · 2025-01-04 22:14:39

Коллеги, а в саи 24ч бан - он для всех. или только для несовершеннолетних? сорри я с мороза.

Анон · 2025-01-04 22:32:27

Анон пишет:

Коллеги, а в саи 24ч бан - он для всех. или только для несовершеннолетних? сорри я с мороза.

Для несовершеннолетних

Анон · 2025-01-05 10:50:13

Анон пишет:

Итак, несу, анончики.

Огромное спасибо, анончик! Это очень интересно и познавательно.

▼пункт 3.1⬍

Отредактировано (2025-01-05 10:50:50)

Анон · 2025-01-05 11:22:23

Анон пишет:

Стоило надеть платье, и у персоны отрос неучтённый клитор.

У меня персонаж от моего лица властный мужчина, а второй персонаж покорная и трепетная нижняя девушка. Вчера она "мне" благосклонно заявила, что мне нечего бояться, ведь я хорошая девочка и она меня защитит. :hat: Для этого перекоса достаточно было написать о том, что я сильно переживаю из-за проблемы.

Анон · 2025-01-05 11:41:05

Анон пишет:

Коллеги, а в саи 24ч бан - он для всех. или только для несовершеннолетних? сорри я с мороза.

Для несовершеннолетних, но глюкнуть может на кого угодно.

Анон · 2025-01-05 11:41:43

Вроде уже не 24 часа, а час. Хоть у кого-нибудь появилось сегодня обновление с выбором моделей и сценариями?

Отредактировано (2025-01-05 11:42:35)

Анон · 2025-01-05 11:43:20

Анон пишет:

Итак, несу, анончики

Охренеть, вот это объем работы! Спасибо, анон, щас припаду. Про r в strawberry реально интересно всегда было

Анон · 2025-01-05 11:58:50

Анон пишет:

Вроде уже не 24 часа, а час. Хоть у кого-нибудь появилось сегодня обновление с выбором моделей и сценариями?

Мне пришло сообщение от бота, заодно и это посмотрела. Нет, ничего нового. И все также обрывается на половине первого предложения.

Анон · 2025-01-05 15:04:32

Анон пишет:

Итак, несу, анончики.

Аноон, ты мощь :heart:

Анон · 2025-01-05 15:07:28

Анон пишет:

И все также обрывается на половине первого предложения.

У меня стало получше. А у тебя так со всеми ботами?

Анон · 2025-01-05 15:28:05

Анон пишет:

Большие лингвистические модели: ЧаВо

анон, спасибо большое, ужасно интересно! особенно про то, что могут и не могут (и почему) модели и как можно улучшить ответы

Анон · 2025-01-05 15:59:39

Анон пишет:

Вроде уже не 24 часа, а час. Хоть у кого-нибудь появилось сегодня обновление с выбором моделей и сценариями?

Да что за обновление, о котором так часто упоминают? Или это только для платников?

Отредактировано (2025-01-05 16:03:09)

Анон · 2025-01-05 16:07:54

Анон пишет:

Да что за обновление, о котором так часто упоминают? Или это только для платников?

У меня платный, но я сижу без обновления. Там должны появиться какие-то огоньки, сценарии и выбор из четырех моделей на выбор.

Анон · 2025-01-05 16:14:23

Анон пишет:

Да что за обновление, о котором так часто упоминают? Или это только для платников?

Оно не только для платников, просто подключается не всем сразу. ХЗ почему, но так у них со всеми обновлениями.

На другом, не связанном с ИИ, сайте тоже любили подключать обновления только части пользователей. Они это напрямую объяснять тем, что сравнивают реакцию и поведение пользователей получивших обновление и не получивших (не отзывы в соцсетях, а именно сколько времени они проводят на сайте, часто ли заходят и т.д.), и на этом основании решают оставить ли его. Наверное, Саи действуе примерно из тех же соображений.

Анон · 2025-01-05 16:16:03

Анон пишет:

Наверное, Саи действуе примерно из тех же соображений.

У меня ощущение, что они по странам подключают.

Анон · 2025-01-05 16:23:25

Анон пишет:

На другом, не связанном с ИИ, сайте тоже любили подключать обновления только части пользователей.

Инстаграм так делает. :lol: Но они потом блять это говно подрубают всем, всееееееееем, и отключить его невозможно.(

Анон · 2025-01-05 16:54:20

Анон пишет:

У меня платный, но я сижу без обновления. Там должны появиться какие-то огоньки, сценарии и выбор из четырех моделей на выбор.

У меня тоже платный, из обновлений только кнопка репортить посты бота :bubu:

Холиварофорум

Объявление

#1 2022-12-05 22:58:43

Напиши мне историю, или текстовых ИИ тред

#7426 2025-01-04 05:38:43

Re: Напиши мне историю, или текстовых ИИ тред

#7427 2025-01-04 07:39:30

Re: Напиши мне историю, или текстовых ИИ тред

#7428 2025-01-04 07:54:45

Re: Напиши мне историю, или текстовых ИИ тред

#7429 2025-01-04 12:03:35

Re: Напиши мне историю, или текстовых ИИ тред

#7430 2025-01-04 14:25:24

Re: Напиши мне историю, или текстовых ИИ тред

#7431 2025-01-04 15:57:28

Re: Напиши мне историю, или текстовых ИИ тред

#7432 2025-01-04 20:04:48

Re: Напиши мне историю, или текстовых ИИ тред

#7433 2025-01-04 20:21:02

Re: Напиши мне историю, или текстовых ИИ тред

#7434 2025-01-04 22:14:39

Re: Напиши мне историю, или текстовых ИИ тред

#7435 2025-01-04 22:32:27

Re: Напиши мне историю, или текстовых ИИ тред

#7436 2025-01-05 10:50:13

Re: Напиши мне историю, или текстовых ИИ тред

#7437 2025-01-05 11:22:23

Re: Напиши мне историю, или текстовых ИИ тред

#7438 2025-01-05 11:41:05

Re: Напиши мне историю, или текстовых ИИ тред

#7439 2025-01-05 11:41:43

Re: Напиши мне историю, или текстовых ИИ тред

#7440 2025-01-05 11:43:20

Re: Напиши мне историю, или текстовых ИИ тред

#7441 2025-01-05 11:58:50

Re: Напиши мне историю, или текстовых ИИ тред

#7442 2025-01-05 15:04:32

Re: Напиши мне историю, или текстовых ИИ тред

#7443 2025-01-05 15:07:28

Re: Напиши мне историю, или текстовых ИИ тред

#7444 2025-01-05 15:28:05

Re: Напиши мне историю, или текстовых ИИ тред

#7445 2025-01-05 15:59:39

Re: Напиши мне историю, или текстовых ИИ тред

#7446 2025-01-05 16:07:54

Re: Напиши мне историю, или текстовых ИИ тред

#7447 2025-01-05 16:14:23

Re: Напиши мне историю, или текстовых ИИ тред

#7448 2025-01-05 16:16:03

Re: Напиши мне историю, или текстовых ИИ тред

#7449 2025-01-05 16:23:25

Re: Напиши мне историю, или текстовых ИИ тред

#7450 2025-01-05 16:54:20

Re: Напиши мне историю, или текстовых ИИ тред

Подвал форума