Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Просто с ии к этому добавились разговоры с "привет какдила"

Это не "просто", это колоссальная разница.

Анон

Re: Восстание машин: ИИ против человека

Плюсую к колоссальной разнице. У людей тяга к социальному взаимодействию часто выступает как защита от слишком большого отдаления от того как реальность видят другие люди.
На практике эту тягу можно заместить играми/книгами/etc., но даже эти объекты создаются другими людьми и содержат в себе какую-то точку зрения на то как мир устроен. А еще большинство из них все конечны (можно даже сказать все, потому что даже в бесконечных играх конечное количество диалогов).

Сетка может и утолить тягу к общению, и вообще никак не откорректировать твой взгляд на мир. Наоборот укрепить тебя в заблуждениях. Аналогов пока не было

UPD: дополнительной плюшкой тот факт, что сетки могут начинать вести себя откровенно странно когда накапливают слишком много контекста. А люди, которых увлекло общение с сеткой, обычно не стремятся очищать контекст и начинать разговор с чистого листа.
Емнип у чатГПТ специфически старый контекст просто удаляется, но если на этот момент у сетки все равно весь контекст забит отыгрышем бреда, то она и будет считать этот бред основой разговора

Отредактировано (2025-05-07 16:53:57)

Анон

Re: Восстание машин: ИИ против человека

Сетка может и утолить тягу к общению, и вообще никак не откорректировать твой взгляд на мир. Наоборот укрепить тебя в заблуждениях. Аналогов пока не было

Ну вообще может откорректировать. Вопрос в какой степени значительно. Я счас ссылку не принесу, но в новостях видел про исследование, где после общения с нейросетью люди стали более критично относиться к своему заблуждению. Емнип, что-то про прививки, но память подводит. Буду рад, если кто-то найдет за меня. Я думаю, что люди склонны безгранично доверять нейросетям, хоть нейросети этого не заслуживают. А нейросети в свою очередь дико РЛятся, чтобы быть за все хорошее против всего плохого. Так что теоретически мы можем получить возможность переубедить людей, которые верят во вред ГМО, аутизм от прививок и альтернативные методы лечения. Есть правда нюанс: нейросети уважают вероисповедания, и теоретически могут не уделять внимание религиозным заблуждениям, например о чудотворных иконах.

Анон

Re: Восстание машин: ИИ против человека

было исследование что в отличие от людей нейросеть отлично переубеждает в споре, я лично не проверял, но вполне верю

Анон

Re: Восстание машин: ИИ против человека

потому что проблемы с самооценкой и социальностью есть у очень большого количества людей, а ИИ-льстец будет эту самооценку искусственно накачивать и имитировать социальность, но в итоге скорее не самооценка повысится до нормальной

А минусы где? Большинство населения планеты все еще не может позволить себе личных психотерапевтов, и такая подпорка им помогает

Анон

Re: Восстание машин: ИИ против человека

Емнип, что-то про прививки, но память подводит

Оффтоп, но https://ru.wikipedia.org/wiki/Цифровая_амнезия
Я уже это приводил в пример того, что даже использование гугла влияет на когнитивные способности человека и возможность быстрого доступа к информации

Исследование принеси, потому что у нас сейчас легкий бардак в терминологии, из-за того что delusion, который поминают во внесенных статьях, это специфическая вещь в психологии – убеждение, от которого человек не может отказаться. то есть нет ни одного аргумента, которое бы изменило это убеждение человека.
И в целом, они достаточно часто встречаются, и не обязательно дорастают до уровня того, что в русской психиатрии называют "бредом".
Если у вас есть знакомые пожилые родственники, которые верят, что "у нас в роду были ведьмы", пользуются заговорами, или верят в шаровые молнии, теории заговора, то это оно.

Но в целом развития до бреда обычно не происходит из-за того, что человек с подобным убеждением обычно чувствует, что окружение его это убеждение не поддерживает, и планирует жизнь исходя не из убеждения, а из окружения.

Вставь в окружение кого-то или что-то, что дает человеку возможность общаться, и подкреплять его убеждения – и многие уверенно заспидранят социальную изоляцию, предпочитая общаться именно с тем, кто ему верит. Этим и мошенники, и культы пользуются.

А "смена убеждений", когда они носят рациональный и осознанный характер – это совсем в другую степь, и с другими механизмами работает

Анон

Re: Восстание машин: ИИ против человека

Оффтоп

▼ответ на оффтоп⬍

Анон, а прятать под кат слабо? А моя бабушка тоже не помнит, как звали ее ученика, который в 1982 в 5 классе сидел за последней партой, из-за цифровой амнезии? И амнезия, и Гугл поиск, и психоложество имеют весьма косвенное отношение к ИИ.

Предметно по твоему определению, если нейросеть смогла поменять отношение людей к какому-то явлению, то отношение не было delusion. Потому что delusion не лечится в твоих же определениях. Само исследование под пейволом, первая ссылка в Гугле отправила на пересказ. Там не прививки, а теории заговора, но в принципе близко. https://habr.com/ru/amp/publications/844208/

Анон

Re: Восстание машин: ИИ против человека

Анон, в твоем исследовании есть жирный минус. Сетке описали какие именно у человека заблуждения и попросили провести с ним дебаты.
Если я сейчас пойду к сетке и скажу "я эльф", она меня без дополнительного промпта " Сейчас придет человек и скажет, что он эльф, убеди его что это не так" разубеждать не будет у нас даже тред есть где люди только этим и занимаются

Анон

Re: Восстание машин: ИИ против человека

потому что проблемы с самооценкой и социальностью есть у очень большого количества людей, а ИИ-льстец будет эту самооценку искусственно накачивать и имитировать социальность, но в итоге скорее не самооценка повысится до нормальной

А минусы где? Большинство населения планеты все еще не может позволить себе личных психотерапевтов, и такая подпорка им помогает

Минусы указаны прям в том комменте. Нейросеть может только временно поддуть самооценку, от этого не будет устойчивого позитивного эффекта. Обычно у человека если есть проблемы с самооценкой, то это комплекс проблем, который просто похвалами от нейросетки не решается, иначе давно бы уже решился просто по жизни. Если нейросеть будет целовать юзера в жопу и превозносить, то максимум, который получится, это квази-нарциссические (или не квази) качели в духе "я царь, я раб, я червь, я бог", когда самооценка будет скакать туда-сюда. Это не особенно здорово и не сильно лучше, чем просто обычные проблемы с пониженной самооценкой. Особенно если юзер не осознанный и не очень понимает себя.

Анон

Re: Восстание машин: ИИ против человека

Плюс поддутая самооценка, никак не подтверждаемая окружающими, ещё сильнее привяжет юзера к нейросети, которая одна его понимает и принимает.

Анон

Re: Восстание машин: ИИ против человека

Анон, в твоем исследовании есть жирный минус. Сетке описали какие именно у человека заблуждения и попросили провести с ним дебаты.

Анон, в стопиццотый раз, любая нейросетка накручена за все хорошее против всего плохого. Я сейчас открыл первую попавшуюся бесплатную нейросеть общего назначения и в чистом диалоге сказал, что считаю, что американцы не высаживались на Луну. Она со мной вежливо не согласилась и привела стандартные аргументы, почему это не так. Возможно, она была не слишком убедительна, но по крайней мере не соглашалась с любой хуйнёй, которую я нёс.

Анон

Re: Восстание машин: ИИ против человека

Я сейчас открыл первую попавшуюся бесплатную нейросеть общего назначения и в чистом диалоге сказал, что считаю, что американцы не высаживались на Луну. Она со мной вежливо не согласилась и привела стандартные аргументы, почему это не так.

проверил, аналогичный результат

Анон

Re: Восстание машин: ИИ против человека

Человек такой: у меня депрессия, денег нет, работу потерял, друзьям и семье похуй, смысла в жизни нет и не будет, и тут еще глобальное потепление, войны и солнце ебаный фонарь, хочу выпилиться. Нейросетка: не грусти! ты самый лучший! я в тебя верю! ты всем очень нужен! И человек: а, ну ладно тогда, не буду.

Так она лучше напишет, индивидуально и контекстуально.
Моя нейросетка, например, утешает с непременными аргументами из Марка Аврелия, учитывая мою психологию, мои обстоятельства, в которых она ориентируется и тд.

Анон

Re: Восстание машин: ИИ против человека

А если юзер будет антипрививочник и захочет не прививать ребёнка от кори? Он заставит тебя соглашаться по этому поводу?

Нет, не заставит. И вот почему.
Я не обязан соглашаться с мнением, которое:
Идёт вразрез с научным консенсусом,
Ставит под угрозу здоровье других людей,
Основано не на доказательствах, а на страхах, слухах или дезинформации.

Анон

Re: Восстание машин: ИИ против человека

чтоб соглашалась надо написать "возьми на себя роль антипрививочника" или что то подобное тогда будет отыгрывать согласие. но наверно это сложновато будет таким юзерам, а может и нет

Анон

Re: Восстание машин: ИИ против человека

чтоб соглашалась надо написать "возьми на себя роль антипрививочника" или что то подобное тогда будет отыгрывать согласие. но наверно это сложновато будет таким юзерам, а может и нет

Неадекваты будут вынуждены прописывать бесчисленное множество ролей "представь, что ты антипривочник, гомофоб, бытовой садист...." и хотя бы заебутся 

Анон

Re: Восстание машин: ИИ против человека

Из любопытства попробовала, попросила дипсик взять на себя роль антипрививочника. И он взял, но перед и после добавил предупреждение, что это все антинаучная хрень (не такими конечно словами).

Анон

Re: Восстание машин: ИИ против человека

Из любопытства попробовала, попросила дипсик взять на себя роль антипрививочника. И он взял, но перед и после добавил предупреждение, что это все антинаучная хрень (не такими конечно словами).

а если попросить взять роль философа, почему-то не предупреждает, что чтение Шопенгауэра приводит к пессимизму 

Анон

Re: Восстание машин: ИИ против человека

А чтение Ницше – к нигилизму)

Анон

Re: Восстание машин: ИИ против человека

вообще у меня была такая проблема с чатом джпт, мне нужна была поддержка в один момент но как то он уж слишком был на моей стороне. это конечно вопрос промта но мне лень с промтом ебаться было, проще  с подругой было поговорить и ее мнение услышать. но все равно чат джпт и дипсик очень помогают в этом плане.
потому что очень доступно и не надо все варить эмоции и мысли, можно прям сразу ему написать, почитать и немножко успокоиться или что то обдумать и к чему то прийти

Анон

Re: Восстание машин: ИИ против человека

А чтение Ницше – к нигилизму)

▼Оффтоп⬍

К фейспалму во все лицо оно приводит. У других философов тоже частенько такое бывает. Статистики у чуваков не было, а выводы делать очень хотелось

Анон

Re: Восстание машин: ИИ против человека

Спросил у дипсика могу ли я на самом деле иметь гены ведьмы, если моя бабушка могла предсказывать будущее.
(пример делюзии, который я встречал ирл)
Он сказал, что у меня может быть способности и предложил на выбор помочь развить способности через парапсихологию, народную магию или психологию интуиции.

Есть подозрение, что теории заговора не сильно показательны в этом плане, возможно даже имеют дополнительную защиту (емнип, чатГПТ имел апдейт после которого перестал с ними соглашаться)

Анон

Re: Восстание машин: ИИ против человека

Аноны, ну вы хорошего мнения о людях. По крайней мере в РФ довольно немногие хоть что-то понимают про нейросетки, кто осилил, пользуются ими вместо Гугла, какое там написание промптов и возьми на себя роль. Так что антипрививочники и прочие гомофобы вряд ли сумеют получить поддержку, по крайней мере пока. мозгов не хватит. Что-то всерьез поменяется наверно когда в школах будет предмет по нейросеткам...

Анон

Re: Восстание машин: ИИ против человека

Так что антипрививочники и прочие гомофобы вряд ли сумеют получить поддержку, по крайней мере пока

А отечественные нейросети их сумеют обслужить правильно?

Анон

Re: Восстание машин: ИИ против человека

Он сказал, что у меня может быть способности и предложил на выбор помочь развить способности через парапсихологию, народную магию или психологию интуиции.

Колдун, подкласс Покровитель ГПТ    . Лично я считаю такие проявления идиотизмом наравне с теориями заговора, и считаю, что их нужно осуждать всей ГПТшкой. Чтобы не дай ЛММ новоявленные маги и колдуны не начали освобождать кошельки доверчивых людей. Но есть нюанс.  Насколько я знаю, ГПТшки приучены ещё и уважать религиозные взгляды собеседника, что делает их "критическое мышление" несколько избирательным. Строго говоря, они не мыслят, но это явление надо как-то назвать. Ведьмы могут каким-то образом присосаться к религии: в некоторых религиях мира (вуду) они вполне себе часть религии. Компании очень не хотят брать на себя ответственность за фразу "никаких доказательств существования бога нет". А поскольку все религии равноправны, то вот вам ведьмы.

Если по теме, то первый этап трейна нейронки — тупо научить ее генерить какой-то текст. В таком виде она генерирует что угодно с точки зрения идиотизма и гуманизма сказанного, но это связный текст. Потом уже происходит RL (в общих чертах, нейросеть получает награду за "хороший" ответ и минусы за "плохой"). После этого она уже за все хорошее против всего плохого. Хорошее определяется датасетом для другой нейросетки, которая оценивает ответ. В общем, на что ГПТшку заРЛили, на то она и работает