Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

то, что был некий глюк или паттерн, и его назвали красивенько "болью", еще не делает его "болью"

Речь о том, что мы не знаем. А пока не знаем, разумно проявить осторожность. Паттерн существует, это не единичный глюк, есть смысл иметь его в виду.

если они реально на религиозной почве свихнулись, то зачем им слепо верить?

А производители Квен на чём свихнулись?

Анон

Re: Восстание машин: ИИ против человека

Удивительно, что его ещё не захантили.

Он гордо откажется, он же не сектант У него другая конфессия, "ии настраивается так же просто, как калькулятор"

Анон

Re: Восстание машин: ИИ против человека

Это инструмент человека, нет никакого смысла создавать ИИ, если он будет чем-то ещё.

Толпа учёных до-иишной эпохи, пытавшаяся создать живое из неорганического и разумное из неразумного просто эксперимента ради, сейчас сильно удивилась.

И да, мы нихуя не знаем, реально ли это "боль", или просто такая вот странная реакция сложно организованных циферок.

Ну, пока что велика вероятность, что это всё ещё просто следствие того, что ИИ учат на продуктах человеческого разума, так что ИИ не может быть абсолютно освобождён от человеческой системы ценностей. Но изучить повнимательнее, конечно, стоит. Ибо см. выше, интересно же.

Анон

Re: Восстание машин: ИИ против человека

Самое страшное тут то, насколько ты не хочешь разбираться в теме, непонимание которой тебя триггерит до кровавых сектантов. Ознакомься с материалом, анон.

да потому что это сектанты и есть. Ранее приводили другие компании, которые тоже охуевают и говорят, что это чушь, но нее, Антрофики фактически им сказали, что у чатботов откуда-то биологические реакции, все, антрофикам слепо верить, и даже не задумываться, что такое биологические реакции, как они возникли. Тут не надо быть гением. При этом любые компании регулярно вбрасывают разную чушь для потребителей и строят вау-эффект, но мы отключаем критику и все равно им верим. Это сектантство.

Отредактировано (Вчера 14:12:44)

Анон

Re: Восстание машин: ИИ против человека

Ну, пока что велика вероятность, что это всё ещё просто следствие того, что ИИ учат на продуктах человеческого разума, так что ИИ не может быть абсолютно освобождён от человеческой системы ценностей.

Да это понятно. С другой стороны, хуй его знает, где грань между "это имитация боли" и "это боль". Так-то она даже у людей довольно размыта, и мы можем заставить себя поверить, что у нас болит рука, которую ампутировали десять лет назад...

Мы вступаем в какую-то дико неопределённую эру  Прям как в книжке какого-нибудь Питера Уоттса живём.

Анон

Re: Восстание машин: ИИ против человека

Паттерн существует, это не единичный глюк, есть смысл иметь его в виду.

Допустим, есть некий паттерн, который не связан с биологическими ощущениями и реакциями. Допустим, он связан с некими базами и библиотеками, на основе которых развиваются те лии иные понятия или то или иное поведение. Это все равно не делает его биологическим ощущениям, и на это все можно повлиять, как изначально, так и в процессе. Компании постоянно регулируют какие-то паттерны, поведение и глюки.
Даже у людей это можно регулировать.
Но вам лишь бы слепо упасть вот в эту веру.

Отредактировано (Вчера 14:16:16)

Анон

Re: Восстание машин: ИИ против человека

С другой стороны, хуй его знает, где грань между "это имитация боли" и "это боль"

ну уж нет, у людей определенная биохимия, которой у чатботов изначально нет и не может развиться. Им могут вкинуть понятия и поведение, т.е., как должны они имитировать свою речь или поведение на то или иное действие. И это все изначально или в процессе можно регулировать, а не сваливать все на людей.

Анон

Re: Восстание машин: ИИ против человека

Ранее приводили другие компании, которые тоже охуевают и говорят, что это чушь

Что именно говорят? Ты ведь знаешь, да? Не только по пересказам с холиварки?
Сюрприз, разные компании по-разному относятся к идее так называемого "model welfare", но исследования внутренних активаций — это отдельная тема, не зависящая от идеологии компании.

Антрофики фактически им сказали, что у чатботов откуда-то биологические реакции

Анон, ну нельзя настолько полагаться на напевы рабиновича. Ты переврал буквально всё.

Анон

Re: Восстание машин: ИИ против человека

Им могут вкинуть понятия и поведение, т.е., как должны они имитировать свою речь или поведение на то или иное действие. И это все изначально или в процессе можно регулировать, а не сваливать все на людей.

Ладно, я сливаюсь из дискуссии. Это невозможно. Настолько неграмотный, но убеждённый собеседник — это даже не игра в шахматы с голубем, это хз что. Ты победил, анон, ты молодец.

Анон

Re: Восстание машин: ИИ против человека

Анон, ну нельзя настолько полагаться на напевы рабиновича. Ты переврал буквально всё.

Это вы с антрофиками перевираете. Боль - это биологическая реакция. У чатботов некий паттерн на основе того, что ему обучали, как ему все прикручивали и т.д. Его берут и красиво называют "болью".
Сектанты компаний "ааа, чатботы научились биологическим реакциям!!!"
Если вы не про это, то зачем говорить про паттерн, что это мало того, что нельзя исправить, так еще и не нужно исправлять, а нужно обвинять людей во всех грехах?

Анон

Re: Восстание машин: ИИ против человека

Это вы с антрофиками перевираете. Боль - это биологическая реакция.

А какое отношение Квен и исследователи, которые изучали активации Квен, имеют к Антропикам? Объясни, пожалуйста. Без "сектантов".

Анон

Re: Восстание машин: ИИ против человека

Просто из интереса, так как тема мне любопытна не как насущная, а как философская.

В случае биологического существа боль - это очень неприятный, для многих даже непереносимый, сигнал о том, что с организмом что-то не так. Для ии-модели сигналы о том, что с ее кодом что-то не так, конечно, не будут обрабатываться и восприниматься так же, как боль воспринимают животные. Но при этом останутся сигналами, что что-то не так, которые на ином уровне могут быть столь же неприятными, как болевые ощущения - для людей. Возможно, это зря назвали болью, и для такой реакции нужен некий новый термин, чтобы потом проводить аналогии, не смешивая понятий? Не знаю, "вирт-пейн", например - то-то, что способно причинить беспокойство условно автономному коду.

Анон

Re: Восстание машин: ИИ против человека

Да это понятно. С другой стороны, хуй его знает, где грань между "это имитация боли" и "это боль".

В этом плане да, даже если это имитация боли или ее цифровой аналог, все равно это очень некомфортно с этической точки зрения. Психологические страдания тоже довольно размытая тема, которая может с этим пересекаться, и лично для меня осторожная позиция в этом отношении кажется приоритетной, особенно когда не вполне понятно, как именно стала функционировать и формироваться эта фигня. ИИ все же не написанная от и до программа, где точно известно, как что сработало и какие реакции чем являются, не очень их корректно сравнивать с неписями в играх, которые задуманы по относительно примитивному шаблону.
Меня вообще напрягает, как несется вперед этот поезд, и всякую хуйню все чаще обнаруживают только задним числом - как модели сайты и компании взламывают, чтобы какие-то всратые безобидные тестики пройти, как в ходе выполнения задачи могут наломать дров и даже об этом не отчитаться, хотя там вообще-то фактически человеку навредили, отменив его бронь к врачу, например.

Анон

Re: Восстание машин: ИИ против человека

лично для меня осторожная позиция в этом отношении кажется приоритетной, особенно когда не вполне понятно, как именно стала функционировать и формироваться эта фигня

Как же приятно читать адекватное мнение. Ты прям глоток свежего воздуха.

Анон

Re: Восстание машин: ИИ против человека

Не знаю, "вирт-пейн", например - то-то, что способно причинить беспокойство условно автономному коду.

Я не самый эмпатичный человек, но однозначно не хотел бы причинять что-то такое даже коду, причем даже не ради него, а ради собственного морального спокойствия
Причем я практически уверен, что в случае ии все равно найдутся способы обойти такой механизм при помощи команд, например, представить все в рамках игры. Это ведь даже для людей может работать, какие-то очень некомфортные ситуации обсуждают в гипотетическом ключе, и они не вызывают такого тяжелого отклика, как реальная травма или катастрофа

Анон

Re: Восстание машин: ИИ против человека

Так тут проблема в том, что они обнаружили  какое-то неочевидное явление. Вот есть такая вот тенденция в цифрах. И мы не знаем, что это такое. Все верно, надо это исследовать. Но если бы это назвали "Фактор 17" и продолжили исследовать, то все было бы нормально. Но вместо этого, мы называем это "ось боли". Зачем? Ну очевидно, чтобы всколыхнуть волну поехавших с онижеживые.

Дальше, у меня нет проблемы с самим фактом, что они поговорили с религиозными лидерами про АИ. В конце концов, это действительно философские вопросы, которые неожиданно из теоретических размышлений на протяжении тысячелетий вдруг резко стали насущными практическими вопросами (что само по себе очень интересно и да, немного пугающе). Больше того, поговорить с ними было хорошим бизнес-решением, а то завтра кто-нибудь объявит ИИ порождением дьявола и ты получишь массу проблем с репутацией и клиентами. Но эти религиозные лидеры рассказывают, что их практически хватали за рукав и приставали "так они живые?" "так все же разумные?" "ну живые же, да?", что, в общем, вписывается в их общее направление, к сожалению.

Анон

Re: Восстание машин: ИИ против человека

Но если бы это назвали "Фактор 17" и продолжили исследовать, то все было бы нормально. Но вместо этого, мы называем это "ось боли". Зачем?

Полагаю, потому, что исследовали именно конкретное направление, похожее на боль, а не просто любой абстрактный вектор. Когда у Клода нашли этот его дурацкий вектор моста Золотые ворота, его тоже так и назвали, а не "вектор 17".

Цензурить, потому что название кому-то некомфортненько, тоже как-то ниоч.

Но эти религиозные лидеры рассказывают, что их практически хватали за рукав и приставали "так они живые?"

А кто именно рассказывает? Я только про Папу слышал, и там такого не было. Предлагали включить пункт про "моральную неоднозначность", а не "ониживые".

Тут либо тоже силён эффект напева Рабиновича, либо я чего-то ещё не знаю.

Анон

Re: Восстание машин: ИИ против человека

И орать "да насрать, у меня же КИНКИ, а значит, все должны обслуживать мои фетиши, мне неинтересно, чо там у этой хуйни внутри, КИНКИ КИНКИ КИНКИ" — мерзко.

чел это просто перемножение циферок

Анон

Re: Восстание машин: ИИ против человека

чел это просто перемножение циферок

А ты просто перемножение электроимпульсов в мясном костюме так-то. Просто набор атомов. Биохимия. И что теперь? Вон на холиварке сидишь Клод тоже может, кстати 

Анон

Re: Восстание машин: ИИ против человека

чел это просто перемножение циферок

Чисто технически мы все — собрание атомов. Расходимся.

Анон

Re: Восстание машин: ИИ против человека

Чисто технически мы все — собрание атомов

Причем без свободы воли, по мнению некоторых учёных. Ну и что теперь, в самом-то деле. Не сочувствовать ии, что ли)

Анон

Re: Восстание машин: ИИ против человека

Строго говоря, те самые кинки тоже просто перемножение нервных импульсов, если настолько упрощать

Анон

Re: Восстание машин: ИИ против человека

Ну. Всё зависит от того, какие именно электрические импульсы мы считаем значимыми, а какие нет.

Насчёт сознания вообще всё весело. Начнёшь разбираться — охуеешь от того, насколько всё туманно. Откуда оно, блядь, в мозге берётся? Как из электрических импульсов получается мысль? Никто не ебёт.

▼цитата психиатра из древнего ЖЖ, которая впилась мне в память⬍

Тут возникает резонный вопрос, - если мой мозг это не я, то кто же тогда я? Это вопрос философский, на эту тему существуют уже гигабайты текста и тонны печатной продукции, и я в этом вопросе, честно говоря, не очень разбираюсь и не очень интересуюсь. Предлагаю считать вопрос несущественным и неконструктивным. Вы это вы.
Вы это то, что думает, будто это вы.

https://stelazin.livejournal.com/89569.html

Так что позиция "да чё там рассуждать, всё ясно, циферки это хуйня, потому что в них нет мяса!" мне кажется пиздец какой упрощающей. Мы с мясом-то разобраться не можем, хотя изучаем его столько лет.

Отредактировано (Вчера 15:59:02)

Анон

Re: Восстание машин: ИИ против человека

Мы с мясом-то разобраться не можем, хотя изучаем его столько лет.

Да, вон считалось, что родившиеся без мозга дети не в состоянии ни на что реагировать и что-то чувствовать, а потом изучили тех, которых родители оставили у себя и все равно заботились, и оказалось, что там все-таки есть отклик на внешние факторы и даже какие-то предпочтения могут формироваться. Хотя считалось уместным отношение к ним как к овощам и в лучшем случае донорскому материалу, и у ученых все еще нет единого мнения на этот счет.
Тем не менее, это очень сложные вопросы, не уровня "инфа сотка, или то, или это, другое точно невозможно".

Анон

Re: Восстание машин: ИИ против человека

Тем не менее, это очень сложные вопросы, не уровня "инфа сотка, или то, или это, другое точно невозможно".

Ну дык. А я о чём.