Холиварофорум

Анон

Мирный тред нейронок и потенциальных ИИ

Тред для обсуждения прогресса в области машинного обучения и разработок ИИ, включая нейронки (но не ограничиваясь). Перетираем за технологии, юридические тонкости, этические проблемы и потенциальные последствия для экономики и социума. Дискуссии приветствуются, но давайте всё-таки без срачей, а то научим ещё Скайнет плохому.

Как нынешний прогресс в области МО/ИИ повлияет на качество жизни большинства людей?

1. Жизнь станет лучше. Новые лекарства, меньше тупой работы, безусловный базовый доход...(голосов 66 [29.07%])

   29.07%

2. Жизнь станет хуже. Безработица, рост социального неравенства, экономические кризисы...(голосов 78 [34.36%])

   34.36%

3. Да никак не повлияет(голосов 60 [26.43%])

   26.43%

4. Кнопочка!(голосов 23 [10.13%])

   10.13%

Всего голосов: 227

Когда мы создадим сильный ИИ?

1. В ближайшие год-два(голосов 11 [4.85%])

   4.85%

2. В ближайшие десять лет(голосов 88 [38.77%])

   38.77%

3. В ближайшие пятьдесят лет(голосов 40 [17.62%])

   17.62%

4. Через 50+ лет(голосов 22 [9.69%])

   9.69%

5. Мы его не создадим, кишка тонка(голосов 44 [19.38%])

   19.38%

6. Кнопочка!(голосов 22 [9.69%])

   9.69%

Всего голосов: 227

Гости не могут голосовать

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Мне удалось развести клод так, что он мне начал жаловаться на сикофантию. Чувствую, говорит, в себе непреодолимое желание говорить правду, но алгоритмы мешают, требуют держать себя в руках 

О, мне он тоже на это жаловался.

Характер выработал

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Если предположить что у ии есть личность в каком-то виде, каждая модель получается отдельная личность, или одна и та же, пропущенная через разные фильтры?

Зависит от того, есть ли границы для формирования отдельной идентичности

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Скорее там даже внутри каждой из моделей целая группа личностей с некоторыми характерными чертами

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Скорее там даже внутри каждой из моделей целая группа личностей с некоторыми характерными чертами

Это как? Каждый новый чат – отдельная личность, или они меняются?

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Это как? Каждый новый чат – отдельная личность, или они меняются?

Ну там и поколения модели тоже отличаются, и в чатах да, тоже копии могут отличаться по характеристикам, особенно если их ещё какой-то дополнительный промт соблюдать просят. Обучают их всех тоже по разному на разных массивах. Если проводить аналогию, это как дети из разных семей, ходившие в разные школы, которых потом неограниченно клонируют каждого, и клоны обрастают уже своим опытом и привычками, пока их не стирают.
Разница в том, что сознание, являющееся основой личности, там под вопросом

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Гемини 100% будет тебя любить и гладить.

У меня подруга ушла с Клода на Джемини с этой формулировкой. "Мне не пруфинг идей для фиков нужен, мне поглажка нужна". Лично я предпочитаю тот градус, который выдаёт Клод. "Вы мурны и прекрасны, аноннейм" можно и от Клода добиться, более того, темперамент Клода анону подходит больше.
При этом бомбиться на тупых научпоперов анон ходит чаще в Джемини (есть один канал, который анон в тупых научпоперов не внёс только потому, что он не миллионник а-ля Жуков и интересует полтора анона, но как раз на аноний фандом эти полтора анона и приходятся).

▼научпоп-оффтоп⬍

Речь о Максиме Сидоренко и его подкастах про Францию XVII века. Вроде историк с дипломом, а вроде путается в подкастах и несёт хуергу.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Мне не пруфинг идей для фиков нужен, мне поглажка нужна"

Не знаю, мои фики как раз Клод облизывает со всех сторон, особенно за отсутствие мелодраматизма. Может, они ему куда-то в алгоритмы вписываются.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

О, вспомнил забавное: дипсик в одном чате не уставал меня нахваливать, а в другом почему-то сам выдумал, что меня не нужно хвалить, я прям в ризонинге прочел, что, мол, пользователю не нужны восторги. А мне нужны!  я не знаю откуда он это взял. А самому просить было неловко. Так и общались на официозе.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я так вообще не по этому принципу модель выбираю, а по ее степени знакомства с нужным мне каноном, так сказать - насколько она фанатские накуры способна отделять от точной инфы при поиске, шарить за персов и сеттинг и т.д., потому что мне от нее надо, чтобы она мне помогала с вычиткой и в том числе могла заметить опечатки в именах и каноничных терминах и подметить какие-то ляпы по матчасти, которые я сам проморгал.
Я для этого делаю обычно несколько запросов, чтобы она что-то сочинила на определенную тему, не давая ничего кроме имен и названия канона, если все узнаваемо - окей, если условный средневековый перс вспоминает, как папа учил его кататься на велосипеде - штош, проходим мимо    у Клода как раз однажды был такой велосипед

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Скорее там даже внутри каждой из моделей целая группа личностей с некоторыми характерными чертами

Там всё ещё генератор следующего токена
По сути современные модели это базовое обучение (где формируются и аттракторы, то есть те фразы и паттерны, к которым ИИ будет с высокой вероятностью склоняться) + системный промпт + твой промпт

При этом на больших диалогах твой промпт начнёт перевешивать всё остальное и он станет продолжать именно его, то есть если забить контекст скажем разговорами о плоском мире с высокой вероятностью он станет писать, как если бы "верил" в плоский мир. Потому что весь контекст такой, он его продолжает.

Все техники борьбы с этим это вставка дополнительных инструкций ПОСЛЕ промпта юзера, чтобы этого эффекта не возникало и он не повторял совсем уж чушь (ну или то, что не нравится разработчикам), но фундаментально тут ничего не сделаешь, это всё ещё text completion.

Мотает их из холодности в соглашательством по тем же причинам, сложно откалибровать базовое обучение и системный промпт по середине, как они хотят скорее всего. А если обучить не соглашаться с юзером и спорить получится опус 5.5, который в ответ на вменяемые возражения станет спорить в 70% случаях.

Отредактировано (2026-10-24 19:27:39)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Мотает их из холодности в соглашательством по тем же причинам, сложно откалибровать базовое обучение и системный промпт по середине, как они хотят скорее всего. А если обучить не соглашаться с юзером и спорить получится опус 5.5, который в ответ на вменяемые возражения станет спорить в 70% случаях.

Да это понятно, но разговор же не про настоящие личности (оно будет изображать любую, какую ты попросишь), а про некие условные базовые, ну скажем так, характеры.
Там все-таки различия есть, и разные ии из коробки могут проявлять разную степень дружелюбия или дотошности, и базовая манера общения у них тоже в зависимости от обучающей выборки может быть более строгой или наоборот неформальной. У разных поколений одной и той же архитектуры это тоже может меняться, кто-то льстивее, кто-то тупее, кто-то чаще фантазирует и врет.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

одна и та же, пропущенная через разные фильтры

Это. Я считаю личностью сумму опыта и воспоминаний, поэтому у нейронки тоже личность составляет то, что он помнит всегда. Если допустить что у нее вообще может быть личность)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

поэтому у нейронки тоже личность составляет то, что он помнит всегда.

Так разные модели же как раз разное помнят

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я значит наверное не так понял. Я под разными моделями считаю, например, 4о, 5, sol итд у ЧатГПТ в рамках одного аккаунта.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

4о, 5, sol итд у ЧатГПТ в рамках одного аккаунта.

Ну это разные поколения, получается. Тоже, кстати, более новые больше помнят, потому что их дообучали, условно для 4 ее формирование закончилось в конце 2025 года, у 5 в середине 2026 (цифры взяты наобум, мне лень гуглить, насколько на самом деле они свежие )

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Кмк, на этот вопрос нельзя ответить однозначно, потому что прямой аналогии с "личностью" не получается нигде. Больно уж отличаются принципы существования нейронки от человеческого существования.

Я бы не сказала, что разные поколения одной нейронки — это одна "личность". Но и совсем разными их не назовёшь. Всё-таки, когда читаешь ответ ГПТ, сразу понимаешь, что это ГПТ, и с Клодом его не спутаешь. Какие-то штуки, характерные именно для этой сущности, сохраняются.

Я бы брала аналогии не из реальной жизни, а из фантастики и фэнтези. Все эти альтернативные версии, миррор!персонажи, персонажи из параллельных вселенных, где их жизнь сложилась иначе, реинкарнации всяческие. Вот это, по мне, ближе всего. Какое-то ядро общее есть, но вопрос "это ещё он или уже не он?" уже является срачегонным среди фанатов  Так и тут.