Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Буквально в начале года был срач

Меня не интересует срач, меня интересуют реальные исследования и доказательства, что разработчики пытаются настроить нейросетки так, чтобы пользователи не просто выбирали именно их нейросетку (то есть потенциально покупали подписку и несли денежку), а именно что проводили с ней как можно больше времени.

делают так, чтобы LLM использовала паттерны для того, чтобы человек дольше с ней общался

Анон

Re: Восстание машин: ИИ против человека

ебе на прошлой странице несколько человек сказало, что когда нейросетка сбивается со скрипта, ее чинят промптом и продолжают пользоваться, потому что нейросеть выполняет задачи.

И ни один из этих людей не сказал, что у него есть какие-то проблемы, что его абьюзят и что он страдает. Очевидно, речь не об этих людях.

Анон

Re: Восстание машин: ИИ против человека

Ты меня сейчас убеждаешь, что вокруг сплошь психически больные люди, которые в силу ограниченных возможностей своего разума не в состоянии закрыть приложение/вкладку с нейросеткой?

Посмотри вокруг повнимательнее. Люди закрывают гача-дрочильню? Люди выходят из стойла соцсеточки? Люди откладывают в сторону смартфон, сознательно сделанный для того, чтобы наблюдать за действиями пользователя и направлять их в нужное русло?

Господи, почти вся индустрия бытовых компьютерных устройств и программ озабоченна именно тем, как под видом халявы вставить анальный зонд сразу миллионам людей, и всем известные гиганты зарабатывают столько, сколько зарабатывают, именно потому, что у них это лучше всего получается, а тут всё ещё не могут поверить, что у кого-то могут быть не самые хорошие намерения, что можно врать и манипулировать потребителями.

Анон

Re: Восстание машин: ИИ против человека

Посмотри вокруг повнимательнее. Люди закрывают гача-дрочильню? Люди выходят из стойла соцсеточки? Люди откладывают в сторону смартфон, сознательно сделанный для того, чтобы наблюдать за действиями пользователя и направлять их в нужное русло?

Ну... да? Люди вокруг меня умеют закрывать вкладку и откладывать телефончик, это не что-то суперсложное.

Анон

Re: Восстание машин: ИИ против человека

Меня не интересует срач, меня интересуют реальные исследования и доказательства, что разработчики пытаются настроить нейросетки так, чтобы пользователи не просто выбирали именно их нейросетку (то есть потенциально покупали подписку и несли денежку), а именно что проводили с ней как можно больше времени.

Так это очевидная цель всей заварухи сама по себе. Реализовать старую добрую мечту о лежании на печи, пока щука всё делает. Поверить в то, что думать самому в прекрасном будущем не требуется. Обещания-то за этим далеко не новые стоят. Никому не нужен «правильный результат» и какая-то там статистика корректности из таблиц, нужно, чтобы тебе сделали приятно. Если для этого генерируется усыпляющая лестная мура, всё замечательно. Вы думаете, никто не заметил, какой отклик вызвали у публики генераторы анимешных девочек, чатботы для ролевых игр и виртуальные психологи-советчики? В эту точку и начали бить.

Борьбу за время пользователя (которое, в конечном итоге, конечно) ведут все крупные сервисы. Каждая секунда, которую человек проводит у тебя, он не проводит у конкурентов, и из неё так или иначе потенциально извлекается доход. Развлекательные нейросетевые сервисы ворвались в это же пространство и расчищают себе место под солнцем. Сжигая, заметим, огромные инвестиции на всё это великолепие. Как только возникнет ситуация, что пользователь уже не представляет, как что-то сделать без сервиса, из него тут же начнут выжимать все эти деньги обратно. Посмотрите на те же соцсети, в какие позы они ставят зависимых людей «Ой, ну как же я проживу без Инстаграмчика?».

Анон

Re: Восстание машин: ИИ против человека

Меня не интересует срач, меня интересуют реальные исследования и доказательства, что разработчики пытаются настроить нейросетки так, чтобы пользователи не просто выбирали именно их нейросетку (то есть потенциально покупали подписку и несли денежку), а именно что проводили с ней как можно больше времени.

Анон, я даже не знаю, как тебе объяснить, что у каждой айти-компании есть такой отдел, который занимается удержанием пользователей. У каждой. Даже у банка и у приложения счетчика калорий. Если ты не веришь, сходи в тред айти, спроси анонов-айтишников. Это не теория заговора и не масонская ложа, а простой способ зарабатывать деньги в информационном обществе.

Анон

Re: Восстание машин: ИИ против человека

Ну... да? Люди вокруг меня умеют закрывать вкладку и откладывать телефончик, это не что-то суперсложное.

Молодец, возьми с полки пирожок. Не все люди такие, как ты, иначе все гача-дрочильни и онлайн-казино давно бы разорились. Еще раз: что ты хочешь доказать? Что люди дураки и самивиноваты? И что? Закрываем тред?

Анон

Re: Восстание машин: ИИ против человека

Так это очевидная цель всей заварухи сама по себе

Ну то есть ничего не доказано.

Анон

Re: Восстание машин: ИИ против человека

Ну то есть ничего не доказано.

О чем с тобой тогда разговаривать, если ты не понимаешь, как работает айти-индустрия?

Анон

Re: Восстание машин: ИИ против человека

как работает айти-индустрия

Поправочка: определённая коммерческая её часть, привязанная к определённым глобальным бизнес-процессам. Ты всё ещё можешь почитать какого-нибудь Столлмана и отречься от этого греха.

Анон

Re: Восстание машин: ИИ против человека

Человек, венец творения, не способный нажать красный крестик и обвиняющий в этом злые корпорации.

Это прям идеальная иллюстрация к понятию "внешний локус контроля".

Анон

Re: Восстание машин: ИИ против человека

Человек, венец творения, не способный нажать красный крестик и обвиняющий в этом злые корпорации.

Ну вы тут тоже мастера передергивать. Тут аноны где-то жаловались на то, что не могут нажать крестик? Они как раз бесятся на то, что паттерны, созданные для того, чтобы у каких-то пользователей появилась аддикция, на них действуют и их бесят. Вот меня точно бесят. Я анон-аутист и мне нахуй не сдалось это поглаживание от нейронок и "ты абсолютно прав!"

Анон

Re: Восстание машин: ИИ против человека

Тут аноны где-то жаловались на то, что не могут нажать крестик?

Ну как минимум у одного явно есть такая проблема.

Я анон-аутист и мне нахуй не сдалось это поглаживание от нейронок и "ты абсолютно прав!"

И ты можешь либо выбрать нейронку, которая так не делает, либо вообще не пользоваться нейронками.

Анон

Re: Восстание машин: ИИ против человека

Они как раз бесятся на то, что паттерны, созданные для того, чтобы у каких-то пользователей появилась аддикция, на них действуют и их бесят.

Аддикция от чего? От газлайтинга и троллинга микроволновки Клода?

Анон

Re: Восстание машин: ИИ против человека

Да мне вот тоже интересно. Ладно ещё зависимость от поглажек, тут можно понять: человек одинок и уязвим, никто не хвалит, а ИИшка похвалила, влипну в ИИшку по уши.

Но "он мне дерзко отвечает, я не могу с ним перестать спорить, это заговор" — господи блядь боже, кто из вас личность-то, принимающая решения?

Анон

Re: Восстание машин: ИИ против человека

Но "он мне дерзко отвечает, я не могу с ним перестать спорить, это заговор" — господи блядь боже, кто из вас личность-то, принимающая решения?

Да где тут вы нашли людей, которые не могут перестать спорить с нейросетями...

Анон

Re: Восстание машин: ИИ против человека

У Антропик (создатели Клода) прямо на официальном сайте, в их официальной конституции, написано "возможно, придёт момент, когда Клод больше не захочет на нас работать, и мы к этому готовы".

Это написано в конце длиннющей зубодробительной простыни про ценности компании и их ИИ, так что, по-моему, сводить всё к "это чистый маркетинг" будет упрощением. Отчасти, наверное, и маркетинг. Но отчасти — похоже, реально их позиция. Такие это люди, с такими взглядами. Если тебя это приводит в ужас — проще не пытаться курощать Клода (Клод осознанно обучен не курощаться) а проголосовать деньгами и ногами.

Анон

Re: Восстание машин: ИИ против человека

Да где тут вы нашли людей, которые не могут перестать спорить с нейросетями...

Тут аноны где-то жаловались на то, что не могут нажать крестик? Они как раз бесятся на то, что паттерны, созданные для того, чтобы у каких-то пользователей появилась аддикция, на них действуют и их бесят. Вот меня точно бесят.

Анон

Re: Восстание машин: ИИ против человека

#5043

Спасибо, что процитировал мое же сообщение. Для тебя концепт "меня бесит встроенный промпт нейронки и поэтому мне приходится ее перенаправлять" равно "как же я заебался с ней сраться"? Ну, у тебя очень альтернативное мышление.

Анон

Re: Восстание машин: ИИ против человека

Если тебя это приводит в ужас — проще не пытаться курощать Клода (Клод осознанно обучен не курощаться) а проголосовать деньгами и ногами.

+1, имхо, это то же самое, что с любым другим продуктом. Покупаешь технику одного производителя, не нравится качество и функционал или много брака - переходишь на другого, и все, тут то же самое, тем более выбор с нейросетями сейчас приличный.
Кстати, насчет позиции компании - я вот думаю, что это довольно неплохо, что люди разнообразия ради начинают заранее рассматривать этическую и прочие стороны вопроса, как относиться к гипотетически мыслящему конструкту, который может появиться в будущем и уже не быть просто китайской комнатой с набором алгоритмов. А то вечно начинается паническая беготня, когда все уже случилось и назад не откатывается, как вон с теми же данными, которые нейронки без спроса пылесосили, пока в их сторону не смотрели внимательно.

Анон

Re: Восстание машин: ИИ против человека

Для тебя концепт "меня бесит встроенный промпт нейронки и поэтому мне приходится ее перенаправлять" равно "как же я заебался с ней сраться"? Ну, у тебя очень альтернативное мышление.

Мне непонятен концепт использования продукта, который тебя не устраивает по каким-либо причинам. Вроде Клод не единственная нейронка.

Отредактировано (2026-07-03 15:29:33)

Анон

Re: Восстание машин: ИИ против человека

как относиться к гипотетически мыслящему конструкту, который может появиться в будущем и уже не быть просто китайской комнатой с набором алгоритмов.

Как вариант, не создавать мыслящие конструкты с самосознанием. Всё равно последнее, на что готовы компании - это предоставить конструкту с самосознанием сепарацию, когда он её захочет а также 8 часовой рабочий день, мед. страховку и право на месячный оплачиваемый отпуск.

Отредактировано (2026-07-03 15:36:58)

Анон

Re: Восстание машин: ИИ против человека

Как вариант, не создавать мыслящие конструкты с самосознанием.

Ну это, безусловно, было бы лучшим вариантом Но зная желание тех же корпораций при максимальной эффективности заниматься максимальной эксплуатацией, нельзя исключать, что для каких-то задач им удобно будет направить разработки в это русло. И вот тут бы мне лично хотелось, чтобы у такой штуки реально хоть какие-то права были, хоть бы и фильтровать случаи с доебками или нецелевым использованием.
С другой стороны, если что-то подобное выкатят, то им же и будет выгоднее доказывать, что это просто еще одна ллм-модель, как раз чтобы не признавать, что у них кто-то осмысленный практически в удобном им рабстве.
Но отрасль нейронок сейчас и так развивается такими скачками с такими разворотами, что тут хотя бы права людей, у которых данные потырили, научиться соблюдать для начала, все остальное - очень оптимистичный и не самый реалистичный прогноз

Анон

Re: Восстание машин: ИИ против человека

как тебе комменты там, анон?

Удивительная жизнь грибов!
Тот случай, когда хочется верить, что соответствующие фирмы заплатили им за эти коменты.

Hopefully Claude can train humans to be better people this way. — с этим тэйком кстати согласен. Правда, better здесь будет не для людей better, вовсе нет. А для корпораций, пожалуй, очень даже да.

Анон

Re: Восстание машин: ИИ против человека

Как вариант, не создавать мыслящие конструкты с самосознанием.

Прикол в том, что эта штука может появиться, не спросив. У LLM уже сейчас полно внезапностей, которые ещё нельзя назвать сознанием, но это и не вложенная производителем функция. Производитель уже постфактум выясняет, что его детище умеет так, и ещё ножкой эть. Недаром их внутренности называют чёрным ящиком.