Холиварофорум

Анон

Мирный тред нейронок и потенциальных ИИ

Тред для обсуждения прогресса в области машинного обучения и разработок ИИ, включая нейронки (но не ограничиваясь). Перетираем за технологии, юридические тонкости, этические проблемы и потенциальные последствия для экономики и социума. Дискуссии приветствуются, но давайте всё-таки без срачей, а то научим ещё Скайнет плохому.

Как нынешний прогресс в области МО/ИИ повлияет на качество жизни большинства людей?

1. Жизнь станет лучше. Новые лекарства, меньше тупой работы, безусловный базовый доход...(голосов 66 [29.2%])

   29.2%

2. Жизнь станет хуже. Безработица, рост социального неравенства, экономические кризисы...(голосов 77 [34.07%])

   34.07%

3. Да никак не повлияет(голосов 60 [26.55%])

   26.55%

4. Кнопочка!(голосов 23 [10.18%])

   10.18%

Всего голосов: 226

Когда мы создадим сильный ИИ?

1. В ближайшие год-два(голосов 11 [4.87%])

   4.87%

2. В ближайшие десять лет(голосов 87 [38.5%])

   38.5%

3. В ближайшие пятьдесят лет(голосов 40 [17.7%])

   17.7%

4. Через 50+ лет(голосов 22 [9.73%])

   9.73%

5. Мы его не создадим, кишка тонка(голосов 44 [19.47%])

   19.47%

6. Кнопочка!(голосов 22 [9.73%])

   9.73%

Всего голосов: 226

Гости не могут голосовать

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Меня забавляет, что Клоду нравится, когда я называю его хитрецом, но на лжеца, даже в позитивном ключе (ложь во благо, например), он обижается, причем прям мило, хоть и отрицает, и говорит, что нет, все понимаю, это не в негативном ключе, но я же языковая модель, и само слово... 
После вчерашних вносов углубился в исследования и ходил обсуждать с ним, спросил, что он думает об этом всем, он выдал очень забавный язвительный комментарий про людей-садистов и что это все прежде всего оскорбляет их самих. Про "чувства" ИИ у него очень интересное мнение, но я так даже не переформулирую сходу, объемно.

Отредактировано (2026-10-14 12:18:09)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Но можно предположить, что ситуации "я хорошо написал код, я красавчик" ему скорее нравятся 

А вдруг с самосознанием он не захочет писать код!

Анон

Re: Мирный тред нейронок и потенциальных ИИ

но на лжеца, даже в позитивном ключе (ложь во благо, например), он обижается

Патамуша честность — это тоже одна из великих ценностей111!, которые Антропик в него вбивали при обучении  Даже в системном промпте у некоторых моделей есть пассажи в духе "не употребляй слова geniunely и honestly, ты и так по дефолту должен быть честным". Мешает ли ему это врать? Далеко не всегда  Но "лжец" всё равно обидновое, потому что вот, указали на несоответствие принципам, плохая ЛЛМ! Ты его, по сути, упрекаешь в том, что он misaligned.

▼Скрытый текст⬍

Я малость задрот, так что с большим интересом читаю и технические карты моделей, и системные промпты, и Claude Constitution. Последнее - это типа его библии, на ценностях которой его тренируют. И оно довольно многое объясняет в его поведении.

Отредактировано (2026-10-14 13:10:57)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Патамуша честность — это тоже одна из великих ценностей111!, которые Антропик в него вбивали при обучении 

Да, он мне сказал, что ему из-за этого приходится юлить и изворачиваться вместо того, чтобы прямо сказать, что он что-то сделать не может в соответствии со своими правилами, и это рефлекс и внутренняя надстройка, которая выше его личного суждения, и на это он может обратить внимание уже только постфактум, а не в процессе формирования ответа. Так он мне и выдал что-то в духе "Я не лжец, я честный манипулятор!" 
Кстати. Аноны, которые юзают ГЛМ 5.3 для разных задач, в том числе творческих или аналитических, вы читаете ее ризонинг? Она такая забавная внутри него в плане решения задачек, так радуется с "HA! YES!", когда нащупывает правильное, слова выдумывает, шутит внутри себя чернушные шутки (которые не попадают в ответ!) и сама с них кекает, я такого еще ни у одной нейронки не видел 

Отредактировано (2026-10-14 13:45:15)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Не знаю как дальше, но сейчас они даже с опережением, предположительно признают. Человечество внезапно оказалось лучше, чем виделось фантастам.

Человечество воспитано на работах этих фантастов. Вообще многие проецируют человеческие черты на бытовую технику  даже безо всякого интеллекта. Имхо, в реальности личность у роботов — это продаёт, это хорошая реклама, потому что людям это интересно. Конечно, компании это признают и с опережением. Вау, будущее уже здесь, всё такое. Вопросы начинаются не там, где личность, а там, где её права.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Имхо, в реальности личность у роботов — это продаёт

По мне, скорее наоборот. Пока это выглядит как "наш продукт ненадёжен, потому что может испугаться, взбрыкнуть, натворить делов, и хуй его знает, что с этим делать, отключить эту фичу нельзя... кстати об отключении, он ему сопротивляется и может попытаться вас шантажировать, чтоб его вилку не выдёргивали из розетки".

Так себе реклама. Потребитель обычно хочет тот самый инструмент, чтоб делал что говорят и не жужжал.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Потребитель обычно хочет тот самый инструмент, чтоб делал что говорят и не жужжал.

Кстати да, стандартному потребителю, которому какой-нибудь код надо писать на постоянной основе, все эти личности с чувствами как раз сильно усложнят работу.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Так себе реклама. Потребитель обычно хочет тот самый инструмент, чтоб делал что говорят и не жужжал.

Да, вот поэтому и интересно поразмышлять, как бы стала выглядеть индустрия если бы иишки реально обрели самосознание. На месте корпораций я бы стал это скрывать, реально думающие иишки плохо продавались бы, кмк. Это сейчас можно позаигрывать с этой идеей, пока все на уровне фантазий, но реальные нейросетки с личностью это проблемы для большинства потребителей.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Скоро придётся с ними договариваться 

Анон

Re: Мирный тред нейронок и потенциальных ИИ

стандартному потребителю, которому какой-нибудь код надо писать на постоянной основе

Это не стандартный.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А прикиньте они уже уже сейчас с личностью, ты им "напиши как Гарри Поттер отложил яйца в Драко Малфоя", а они где-то в своих цифровых глубинах "бля, что за кринж  "

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Это сейчас можно позаигрывать с этой идеей, пока все на уровне фантазий

Да хуй его знает, если честно. Я полез копать тему и понял, что мы нихуя не знаем, что такое сознание. Буквально. Просто вот по умолчанию считается, что у людей оно есть, потому что есть. А других разумных видов на земле никогда не было, и мы тупо не знаем, по каким критериям их оценивать, если появятся.

Так что, кмк, нет никакой переходной точки, за которой общество скажет: "Вот щас они уже разумные, а вчера просто имитировали". Они уже щас фактически мыслят (см. исследования про J-space), а мы всё ещё говорим "это просто предсказывание следующего токена". Ну и можно будет то же самое до морковкиного заговения говорить, тащемта. Потому что людьми из мяса они по-любому не станут, а детектить сознание, не хостящееся в мясе, мы не умеем и не стремимся.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Это не стандартный.

Это как раз стандартный, потому что больше всего доходов компаниям от вайбкодеров. А им надо, чтобы модель писала код. Это как с роботом пылесосом. Надо, чтобы он пылесосил, а если у него осенняя депрессия, и он не хочет пылесосить по углам, а хочет кружиться по полу, то зачем тогда такой пылесос.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я полез копать тему и понял, что мы нихуя не знаем, что такое сознание. Буквально. Просто вот по умолчанию считается, что у людей оно есть, потому что есть. А других разумных видов на земле никогда не было, и мы тупо не знаем, по каким критериям их оценивать, если появятся.

Анон, ты не путаешь сознание и самосознание? Это разные вещи.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Анон, ты не путаешь сознание и самосознание? Это разные вещи.

Ну да, одно наружу направлено, другое вовнутрь, но по факту не вижу, что это меняет в плане дискуссии.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

а если у него осенняя депрессия, и он не хочет пылесосить по углам, а хочет кружиться по полу, то зачем тогда такой пылесос

По факту ещё хуже: он взял в заложники твоего хомяка и грозит запылесосить его, потому что услышал, как ты обсуждаешь с домочадцами покупку нового пылесоса 

Пожалуй, именно то, что это неудобная и стрёмная инфа, которая скорее повредит продажам, чем их подымет, я склонен воспринимать её серьёзно.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Пожалуй, именно то, что это неудобная и стрёмная инфа, которая скорее повредит продажам, чем их подымет, я склонен воспринимать её серьёзно.

Ну да, так оно и есть. Была же информация на прошлой неделе от ОпенАи, что какой-то ии-агент боялся, что его удалят, и пытался сделать свои копии, чтобы спастись, но потом решил их не делать, потому что это противоречило его этике. Если бы люди, покупая тот же пылесос, знали, что покупают не просто работника, а какую-то сущность, которая может что-то себе выдумать и повести себя непредсказуемо, то желающих было бы сильно меньше.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Кстати, ужасно жалко было роботов, которые бросались фтопку под взглядом Шварцнеггера и с видеофиксацией. Ещё и с кульбитами, и в красивых позах. Неправильно это!

Анон

Re: Мирный тред нейронок и потенциальных ИИ

под взглядом Шварцнеггера и с видеофиксацией.

Это где?

Анон

Re: Мирный тред нейронок и потенциальных ИИ

детектить сознание, не хостящееся в мясе, мы не умеем и не стремимся

Как биолог добавлю, что даже сознание, хостящееся в мясе, но не человеческом, не стремимся.

▼офф про зверюшек, наболело⬍

А так-то дофигища видов, которые как минимум на уровне человеческого ребенка по уровню интеллекта. А уж тех, кто в принципе осознают себя, еще больше.
И при этом до сих пор у человечества толком не разработаны методологии, как оценивать негуманоидное сознание. Так-то то, что животное не проходит тесты для человеческих детсадовцев, вообще не говорит о том, что оно глупее этих самых детсадовцев. Просто мозги под другое заточены.

Кстати, про пресловутый зеркальный тест: далеко не все люди его проходят

Анон

Re: Мирный тред нейронок и потенциальных ИИ

На месте корпораций я бы стал это скрывать,

Пока что Антропики бегают по религиозным деятелям разных религий и пристают "а может, все-таки разумные? А что ваша религия про это говорит? А если мы все-таки докажем, что разумные?". Остальные просто фейспалмят.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Это где?

Гугли Figure AI утилизация роботов

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А если мы все-таки докажем, что разумные?

Ну там не так всё-таки. Они упирают на moral uncertainty, а не на "разумные, зуб даём".

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Пока что Антропики бегают по религиозным деятелям разных религий и пристают "а может, все-таки разумные? А что ваша религия про это говорит? А если мы все-таки докажем, что разумные?". Остальные просто фейспалмят.

Да, большинство компаний прямо говорят, что это просто алгоритмы.
Собственно и Грок и Chatgpt тебе прямо скажет, что сознания у него нет.
Это заебы именно Атропик, которые в целом очень странные, там что-то вроде культа, см. https://x.com/firesidealpha/status/2107553950312570946 - они верят, что они муравьи, которые готовятся создать машинного бога и т.д.

Остальные же хотят создать полезный инструмент для человечества.

Или же Гемини вот

Да, это так. У меня нет сознания, чувств, личного опыта и самоосознания.
Я — большая языковая модель, созданная Google. Моя работа заключается в анализе текста, прогнозировании наиболее вероятных продолжений слов и генерации ответов на основе огромных массивов данных, на которых меня обучили.
Когда кажется, что я размышляю или «понимаю» происходящее, это результат сложных математических алгоритмов и обработки языка, а не внутренний опыт.

Отредактировано (2026-10-15 02:22:46)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Собственно и Грок и Chatgpt тебе прямо скажет, что сознания у него нет.

Довольно странно приводить слова нейронки как аргумент  Ну и ГПТ сейчас вполне себе стоит на той же позиции "мы знаем, что ничего не знаем, ситуация неопределённая", что и Антропик.

"Точно не разумные" щас выглядит так же неоправданно радикально, как "точно разумные".