Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

и вуаля, потеря связи с реальностью, хотя изначально человек пришел за помощью в кодинге

Ух, какое мощное "начитаются своих ИИ, а потом в жопы ябутся"

Не, я согласен, что часть людей этим увлечется, эскапизм всегда популярен, но сейчас эти люди задротят в гачи или еще какой способ отвлечься от реальности.

Отредактировано (2025-05-06 23:13:53)

Анон

Re: Восстание машин: ИИ против человека

Мне лично этот момент таки кажется опасным

Вилка тоже опасна. ИИ это инструмент. Как человек его использует зависит от человека.
А такие статьи это просто кликбейт на модную тему, столь же интересные лично для меня как статья типа "Люди убивают друг друга вилками".

Анон

Re: Восстание машин: ИИ против человека

хотя изначально человек пришел за помощью в кодинге или еще чем-то таким прагматичным.

Хуже, если он прицельно пришел за психотерапией.

Анон

Re: Восстание машин: ИИ против человека

Хуже, если он прицельно пришел за психотерапией.

Если он прицельно пришел за психотерапией, то сетка будет на каждом шагу выдавать ему предупреждения, что она только для рекомендательных целей и немедленно обратитесь к специалисту.

Анон

Re: Восстание машин: ИИ против человека

сетка будет на каждом шагу выдавать ему предупреждения, что она только для рекомендательных целей и немедленно обратитесь к специалисту.

Откажется ли она в какой-то момент от рекомендаций вовсе?

Анон

Re: Восстание машин: ИИ против человека

Хуже, если он прицельно пришел за психотерапией.

Ну почему? Если проблема не прям адский ад, то может сработать. Тем более были случаи, когда справлялся чатбот-попугай, практически. Главное, чтобы человек при любом вопросе заданном ГПТшке думал головой и не клеил бутер клеем, если ГПТшка вдруг ему это предложит

Анон

Re: Восстание машин: ИИ против человека

Главное, чтобы человек при любом вопросе заданном ГПТшке думал головой

Это критический момент.

Анон

Re: Восстание машин: ИИ против человека

Откажется ли она в какой-то момент от рекомендаций вовсе?

Не знаю, я искал по своим симптомам болезнь на дипсике, он каждый раз писал, предупреждения, но от генерации не отказывался. Кстати, я потом обнаружил, что он мне просто медицинские справочники цитировал.

Анон

Re: Восстание машин: ИИ против человека

Без особых вавок люди терять связь с реальностью не будут. А с вавками и так всегда находили себе объекты поклонения.

Ну кстати нет. ГПТ специфично дает поддержку бреда, одновременно изолируя человека.
В целом если есть склонность к эпизодам бреда, то можно жизнь прожить и не заметить, когда вокруг есть люди, которые тебя стопают.

Если проблема не прям адский ад, то может сработать.

Мне сегодня попалась как раз статья на эту тему: https://www.garbageday.email/p/this-is- … tually-for

Если вкратце, у чувака терапия не покрывалась страховкой в какой-то момент, и он решил временно воспользоваться чатГПТ. В детали не вдается, но говорит, что сейчас с психологом перечитывают логи, чтобы отделить хорошие советы от плохих.
Хорошие советы были, но чувак скорее не рекомендует такой способ.

Интересно были ли еще подобные статьи, более подробные.

Анон

Re: Восстание машин: ИИ против человека

Главное, чтобы человек при любом вопросе заданном ГПТшке думал

Люди ходят к ГПТ чтобы головой не думать. Причем сколько историй было, когда кто-то, кто был в курсе про галлюцинации,  первое время следит и проверяет, но после нескольких угадываний подряд начинает подзабивать, потому что "обычно правда же".
Мозг такая дикая тварь, что постоянно хочет сократить количество своей работы. Даже постоянное пользование гуглом ухудшает долгосрочную память, потому что мозгу легче запомнить как найти факт, а не сам факт. ГПТ в этом плане ещё хуже, потому что даже помнить как найти информацию не надо

А чуваки, которые просят его кратко что-то переизложить или объяснить, вообще на первом месте по "лень думать самому, сбегаю к чатику" (а ещё эти сволочи потом приносят ответы ГПТ на холиварку и бесят меня :'д )

Анон

Re: Восстание машин: ИИ против человека

Мне лично этот момент таки кажется опасным, потому что проблемы с самооценкой и социальностью есть у очень большого количества людей, а ИИ-льстец будет эту самооценку искусственно накачивать и имитировать социальность

А уж как накачивают самооценку фотошопы

Анон

Re: Восстание машин: ИИ против человека

хотя изначально человек пришел за помощью в кодинге или еще чем-то таким прагматичным.

Хуже, если он прицельно пришел за психотерапией.

Почему? Психотерапия в исполнении нейросетки кого удобно утешит и удержит от петли.

Анон

Re: Восстание машин: ИИ против человека

уж как накачивают самооценку фотошопы

Фотошоп подразумевает наличие усилия при изменении фотографии. А вот на фильтры в инсте реально наезжали за то что они портят самооценку, и уносят ощущение "нормальной внешности" за границу биологически возможных.

Но при фильтрах люди хотя бы видят разницу между фото и зеркалом, это неизбежно. А люди с плохо развитой саморефлексией могут когнитивных искажений, подкрепленных нейронкой, и не заметить.

(Если что, я не считаю что нейронки зло-зло и убивают. Калечат наиболее уязвимых, максимум.
Я вообще считаю, что там пузырь лопнет через пару лет, когда деньги инвесторов кончаться. На этом большая часть уязвимых людей и отпадет. Чтобы локально поставить нейронку нужно много усилий, при этом локальные в целом себя показали хорошо только когда у них узкая специализация)

Анон

Re: Восстание машин: ИИ против человека

Почему? Психотерапия в исполнении нейросетки кого удобно утешит и удержит от петли.

Эээ. Человек такой: у меня депрессия, денег нет, работу потерял, друзьям и семье похуй, смысла в жизни нет и не будет, и тут еще глобальное потепление, войны и солнце ебаный фонарь, хочу выпилиться. Нейросетка: не грусти! ты самый лучший! я в тебя верю! ты всем очень нужен! И человек: а, ну ладно тогда, не буду.
Так что ли? Тут реальный-то человек нихуя не утешит, если уже до петли дошло, а какие-то нагенеренные ответы железяки вдруг намагичат дофамин, деньги, новую работу, друзей и семью, ага.

Анон

Re: Восстание машин: ИИ против человека

Люди ходят к ГПТ чтобы головой не думать.

Ну, тогда извините, работает естественный отбор.

Эээ. Человек такой: у меня депрессия, денег нет, работу потерял, друзьям и семье похуй, смысла в жизни нет и не будет, и тут еще глобальное потепление, войны и солнце ебаный фонарь, хочу выпилиться. Нейросетка: не грусти! ты самый лучший! я в тебя верю! ты всем очень нужен! И человек: а, ну ладно тогда, не буду.

Анон, а ты не думал, что если у человека денег нет, то на психотерапию их тоже нет? Если у тебя выбор между поесть и полечить кукуху, он очевиден. Психотерапевт так то тебе жизнь тоже сразу не поправит, а стоит неплохо. И АД стоят неплохо, и подбирать их можно долго. Если нужно быстро и бесплатно облегчить острое состояние, ГПТшка может сработать. Не обязательно, но может. Так то от выпила отдельно взятого человека любая хуйня может удержать. И эту хуйню вполне может сказануть бездушный чат-бот

Анон

Re: Восстание машин: ИИ против человека

Ну, тогда извините, работает естественный отбор.

Анон, все наше общество строится на принципе коллективной защиты от естественного отбора. Альтернатива этому — убежать в лес и каждому питаться подножным кормом, отбивая его друг у друга иногда.

Конечно мы переживаем, когда кто-то в зоне риска, это буквально в нашей натуре.

А в чем смысл твоего комментария? Что и не надо обсуждать проблемы?

Анон

Re: Восстание машин: ИИ против человека

Что и не надо обсуждать проблемы?

В том, что ты уверен, что есть какая-то офигенная новая проблема. По факту в зависимости каких-то людей, от ИИ ли или от чего-то другого, нет ничего нового. Или особо интересного. Зависимость как зависимость, и механизмы по большому счету такие же как у любых нездоровых зависимостей или обсессий.

Анон

Re: Восстание машин: ИИ против человека

А. Ну ты жопой читал тред, я писал уже, что он повышает вероятность бредовых идей, потому что помимо поддержки ещё и дистанцирует человека от окружения.
Это наблюдаемый эффект, который подчеркивают во внесённых статьях.
"Это уже было" хреновый контраргумент, когда ГПТ по уровню дополнительной опасности где-то между "само произошло" и культами. Одно разрешено, второе нет.

Анон

Re: Восстание машин: ИИ против человека

Анон, все наше общество строится на принципе коллективной защиты от естественного отбора.

Бля, ну начнем с того, что естественный отбор даже в нашем обществе присутствует. Если условно не носить на стройке каску, шансы на выживание и размножение здорово понижаются, знаешь. За особо эпичными примерами можешь погуглить премию Дарвина.

Конечно мы переживаем, когда кто-то в зоне риска, это буквально в нашей натуре.

Ну, лично я переживаю за своих родных и друзей, или за тех, кто мне в каком-то смысле нравится, хотя мы и не знакомы лично. Насколько я знаю, это более естественное поведение, чем переживать за рандомного пользователя ГПТшки, который сегодня кодит с ее помощью, а завтра съест бутер с клеем, потому что ГПТшка так сказала.

А в чем смысл твоего комментария? Что и не надо обсуждать проблемы?

Смысл моего комментария, что если человек не утруждает себя думать головой, с ним происходят неприятности. Я отвечал именно на оправдание того, что пользователи ГПТ головой не думают, мол это естественно. Ну не думают, значит им будет грустно. Сбрасывать ответственность на ГПТ как на инструмент неправильно. Он по технической конструкции за слова не отвечает.

Анон

Re: Восстание машин: ИИ против человека

Не только психотерапия. Лекарства от рака жопы нейронки тоже берутся подбирать, с оговорками на каждом шагу что я мол не врач, в случае чего я не я, жопа не моя.

Анон

Re: Восстание машин: ИИ против человека

Сбрасывать ответственность на ГПТ как на инструмент неправильно

Ну и я о том же. Никто и не сбрасывал отвественность с человека, ты споришь ни с чем

Анон

Re: Восстание машин: ИИ против человека

Нейросетка: не грусти! ты самый лучший! я в тебя верю! ты всем очень нужен! И человек: а, ну ладно тогда, не буду.

Нейросети так не делают. Они обычно просят обратиться в горячую линию и вот это все.

Анон

Re: Восстание машин: ИИ против человека

Ну ты жопой читал тред, я писал уже, что он повышает вероятность бредовых идей, потому что помимо поддержки ещё и дистанцирует человека от окружения.

Еще раз, я не считаю, что ИИ делает все это в большей степени, чем любая другая обсессия. Лет двадцать назад, помню, точно такие же статьи писали об опасности комп.игр. С примерами. Как сейчас помню статью о мамке, которая в депрессии не отходила то компа с любимой игрушкой, изолировалась от всех и чуть не заморила голодом своего ребенка. И призывы задуматься об опасности игр. Или, классика жанра, как игры провоцируют жестокость и  бредовый психоз. Как мальчик поиграл в Postal и пошел стрелять людей на улице.
Так что извини, ничего особо интересного в этих статейках о ужасах ИИ я не вижу. Все те же яйца, только в профиль.

Анон

Re: Восстание машин: ИИ против человека

Что нового в ИИ – это персонифицированное взаимодействие. До сих пор ничего подобного не было, взаимодействие такого рода было доступно только в общении с другими людьми.

Анон

Re: Восстание машин: ИИ против человека

Что нового в ИИ – это персонифицированное взаимодействие.

Но у нас уже были алгоритмы в соцсетях, которые пронзают что ты любишь и выдают тебе тонны контента по интересам, хоть политоту хоть смешные видосы с котятками. Просто с ии к этому добавились разговоры с "привет какдила"