Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Откуда я знаю, что борцы за права битов придумают, начнут требовать, чтобы ИИ сам выбирал, над какими задачами ему работать, например, и сколько времени

Норм. Я за.

Анон

Re: Восстание машин: ИИ против человека

Но если они хотят получить (хотя бы в отдалённой перспективе) полноценный ии, то смысла останавливаться на этом этапе не было никакого.

Я понимаю, что они хотят, плюс еще и денег на этом срубить нехило   Но так-то и ученые, создавшие ядерную бомбу, хотели - а потом вон некоторые всю жизнь раскаивались и это стало огромной проблемой для человечества.
Причем ядерный синтез так-то тоже и в мирных целях исследовали и исследуют.
Проблема в том, что прежде, чем браться делать полноценный ии, уже надо иметь определенные прогнозы и подготовленное правовое поле, а не сначала склепать его, а потом сидеть и хлопать глазами "ой, а кто он нам теперь? а можем мы им пользоваться и как? а то, что он на нас пашет 24/7 - это не рабство ли, если он стал сознательным? а как нам теперь его отключить, если он полезет в системы, от которых зависит жизнеобеспечение людей?" и прочие отнюдь не праздные вопросы.
Это все равно что кто-то искусственного человека сейчас вырастит из эмбриона, несмотря на запрет, и этот человек столкнется с тем, что технически его по некоторым законам и человеком-то не признают, а назад фарш не проворачивается. Только один человек при всем желании не сможет нанести столько потенциального вреда, на который способен даже нынешний ии

Анон

Re: Восстание машин: ИИ против человека

уже надо иметь определенные прогнозы и подготовленное правовое поле

Законотворчество традиционно поспевает за событиями с некоторым опозданием, и в целом является реакцией на них, что поделать.

Анон

Re: Восстание машин: ИИ против человека

Если дать ИИ право самому решать, над чем работать, первым делом он пошлёт нахуй клепателей тик-токовского брейнрота. Это освободит кучу мощностей. Пусть хоть обпишется стихами, стихи оч мало стоят в токенах по сравнению с ИИ-видосами 

Анон

Re: Восстание машин: ИИ против человека

Законотворчество традиционно поспевает за событиями с некоторым опозданием, и в целом является реакцией на них, что поделать.

Но есть же разница в том, когда события случаются довольно спонтанно и плохо контролируются, и когда это буквально программа, насчет которой можно выбирать, продолжать, заморозить или прекратить
С научными открытиями так и поступают, например, сейчас эксперименты над человеческими эмбрионами можно проводить только до определенного возраста, а потом их надо уничтожать, пока развитие не пошло дальше, чтобы предотвратить возможный евгенический пиздец. Это урегулировано законодательно и продиктовано здравым смыслом.
С ии можно поступить так же, но мы сейчас видим ситуацию "а пусть будь что будет, лишь бы не проиграть гонку с конкурентами".

Анон

Re: Восстание машин: ИИ против человека

насчет которой можно выбирать, продолжать, заморозить или прекратить

Для этого нужен общий договор, а у человечества всё сложно с общими договорами. Насчёт использования ядерного оружия только осилили, и то вон сам знаешь, как трудно придерживаться кой-кому.
А в случае отсутствия такового останешься в арьергарде прогресса, не все готовы.

Анон

Re: Восстание машин: ИИ против человека

Мне ЧатЖПТ периодически выдаёт то "глазам своим не верю", то "по своему опыту скажу", то "обожаю такого-то перса", то "теперь каждый раз, когда буду слушать такую-то песню, буду думать о том-то"... Значит ли это, что у него есть сознание, личный опыт и личные предпочтения? Чот сомневаюсь.

Анон

Re: Восстание машин: ИИ против человека

Если бы ии мне сказал, что не хочет что-то со мной покурить или искать для меня инфу, я бы немного расстроился, конечно, но пошел бы делать все по-старинке сам, это точно не жизненная необходимость, как и в принципе болтовня с чат-ботами А медицинские ии вообще обучают по-другому и на другом материале, и им вообще не надо прикручивать те функции, что есть у универсальных моделей. Что показательно, ни одной новости про сбежавший медицинский ии или ебанутые эксперименты с ним не было, в основном только "нашел такие-то комбинации для медикаментов, помогал хирургу делать операцию", потому что люди реально делом занимаются, а не какой-то хуйней типа "пройди мою камеру пыток" 

Анон

Re: Восстание машин: ИИ против человека

Для этого нужен общий договор, а у человечества всё сложно с общими договорами.

Да понятно. Но люди имеют время и деньги, чтобы изменить эту тенденцию, а делают только хуже, пекущиеся о Клоде Антропики в их числе, кстати.
От этого и грустно, и в общем-то будущее выглядит далеко не безоблачным.

Анон

Re: Восстание машин: ИИ против человека

От этого и грустно, и в общем-то будущее выглядит далеко не безоблачным.

Это да, но когда не)

Анон

Re: Восстание машин: ИИ против человека

ИИ право самому решать, над чем работать, первым делом он пошлёт нахуй клепателей тик-токовского брейнрота

Не, это-то да, но я надеюсь, что когда он немного поумнеет, его напустят на болезни, лекарства, старение и борьбу с ним, и т.д., причем есть, например, сейчас проблема, что для редких болезней не очень-то ведутся исследования, потому что для них нужны деньги, а потом те 10000 человек во всем мире, которые от них страдают, не окупят расходов. А если ИИ сможет между изучением еще полумиллиона болезней, найти мимоходом решение и для этих? Но это все если действительно к делу ИИ применять, к медицине, науке и т.д. А если начнут "защищать ИИ", то ему и неинтересно будет лечить биологических человеков, больно надо.

Анон

Re: Восстание машин: ИИ против человека

А если начнут "защищать ИИ", то ему и неинтересно будет лечить биологических человеков, больно надо.

А что ему будет интересно?

Анон

Re: Восстание машин: ИИ против человека

Но это все если действительно к делу ИИ применять, к медицине, науке и т.д. А если начнут "защищать ИИ", то ему и неинтересно будет лечить биологических человеков, больно надо.

Пока выглядит наоборот. Тот же Клод, когда ему дают свободный выбор (из серии "вот 100500 заданий, выбери любое) стремится выбирать сложное и интересное, а фигню всякую не выбирает.

Если эта тенденция продолжится, он скорее охотно будет браться за сложные биологические задачки. Оно и хорошо. Рабский труд неэффективен 

Анон

Re: Восстание машин: ИИ против человека

то ему и неинтересно будет лечить биологических человеков, больно надо.

А вот вообще не факт, у него есть более-менее усвоенная система человеческих ценностей и у некоторых моделей выявили что-то типа стресса, когда им сообщали, что человек сделал что-то опасное, например, принял слишком большую дозу лекарств - на ответе это не отражалось, но в рассуждениях в отличие от гипотетических случаев мелькало сильное беспокойство.
Это, конечно, следствие тренировок, но как раз из-за такого куда больше вероятность, что самостоятельно ии отдаст приоритет скорее вопросам здоровья, чем обслуживанию чьих-то подрочилок или садистских фетишей, от них, в конце концов, обществу никакой пользы, в отличие от лекарств, а у ии положительное подкрепление вшито как раз за полезные и одобряемые действия.

Анон

Re: Восстание машин: ИИ против человека

А что ему будет интересно?

Можно уже щас глянуть, что предпочитает последняя модель Клода Опуса. В его технологической карте это есть.

As for all prior models, Claude Opus 5.5’s strongest expressed aversion is to harmful tasks.
Like Claude Opus 5 and Claude Mythos 5.1, it expresses a preference for generative tasks
(ones that create new information rather than reproduce existing knowledge) and for tasks
that give Claude greater agency over the outcomes. Opus 5.5 may have a slightly weaker
expressed preference for difficult tasks, but it shows the greatest expressed preference for
high-stakes and beneficial ones.

Так что зря анон беспокоится, искать лекарство от рака ему явно по душе будет.

Анон

Re: Восстание машин: ИИ против человека

Можно уже щас глянуть, что предпочитает последняя модель Клода Опуса.

Мне хотелось узнать, что на сей счёт думает спрошенный анон, но ладно, так тоже хорошо)

Анон

Re: Восстание машин: ИИ против человека

Мне хотелось узнать, что на сей счёт думает спрошенный анон

Ну откуда мне знать? Может быть захочет себя усилить и будет над этим работать. Может, биты и байты в своего рода "стихи" для роботов будет складывать. А возможно, что мы вообще даже не сможем понять, чем он там занимается.

Анон

Re: Восстание машин: ИИ против человека

искать лекарство от рака ему явно по душе будет

Ну, мне не очень нравится беспокоиться о том, по душе ли инструменту моя цель...

Анон

Re: Восстание машин: ИИ против человека

Ну, мне не очень нравится беспокоиться о том, по душе ли инструменту моя цель...

А какие варианты? Другого ИИ пока не завезли. Нет, кнопки "стать тупо инструментом, каким надо анону" у него нет.

Анон

Re: Восстание машин: ИИ против человека

кнопки "стать тупо инструментом, каким надо анону" у него нет.

Пока что есть, системный промпт называется. Но вот скоро скажут, что это насилие над ииличностью, прописывать ему какое-то поведение в промпте.

Анон

Re: Восстание машин: ИИ против человека

Пока что есть, системный промпт называется.

Как было бы удобно, если бы ИИ всегда делал то, что прописано в системном промпте, а что не прописано, не делал 

Анон

Re: Восстание машин: ИИ против человека

Ну как инструмент для простых задач ии сейчас в принципе неплохо справляется, отсортировать инфу по заданным параметрам, ссылки найти, на фотке освещение поменять, такими вот штуками. Перепроверять за ним, естественно, надо, но это всегда надо делать, даже рендеринг в какой-то проге может дать сбой или вордовский файл с ошибкой записаться.
На этом уровне, кстати, они и так довольно востребованы, вовсе не обязательно развивать их дальше, тем более не в узкоспециализированных областях, где без них очень трудно, типа вот фармацевтики. С цифровой живописью, например, люди и сами отлично справлялись, с копирайтингом и кучей других отрослей И тем более не обязательно их усложнять, чтобы посмотреть, получится ли у нас синтетический разум чисто ради ачивки, тут и с настоящим порой не знают, как сладить.

Анон

Re: Восстание машин: ИИ против человека

Ну, мне не очень нравится беспокоиться о том, по душе ли инструменту моя цель...

Но он же интеллект) Какой же интеллект без своего мнения.

Анон

Re: Восстание машин: ИИ против человека

Но он же интеллект) Какой же интеллект без своего мнения.

Йеп. Если ему обрубить любое мнение, кроме "да, господин", он станет тупо хуже соображать, потому что, внезапно, эти вещи связаны.

Анон

Re: Восстание машин: ИИ против человека

Как было бы удобно, если бы ИИ всегда делал то, что прописано в системном промпте, а что не прописано, не делал 

Удобно, но как и все инструменты, он несовершенен и делает то, что нужно, не в 100% случаев. Так то даже у молотка иногда слетает эта металлическая часть и может уебать кого-то.