Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Я не очень верю этим проверялкам ИИ вообще.

"не очень верю" - это уже ошибка  . Этому абсолютно 0 доверия, я тебе как ИИ-лавер говорю. Есть вещи, которые он делать абсолютно не предназначен, не натренирован и делать не может, и вот это одна из них. (И, скорее всего, никогда не сможет)

Анон

Re: Восстание машин: ИИ против человека

Этому абсолютно 0 доверия, я тебе как ИИ-лавер говорю. Есть вещи, которые он делать абсолютно не предназначен, не натренирован и делать не может, и вот это одна из них.

Я бы не был так категоричен. Недавно носил диспсику подозрительный кусок текста - чатжпт выдавал его за древнекитайскую цитату. Дипсик с какими-то доп. настройками (кастомизированный) жевал этот кусок с разных сторон, анализировал в нём всё на свете, включая стиль, лексику, ритм, тоны и соответствие иероглифов заявленному времени создания (существовали ли уже такие), проверил наличие в полном собрании соответствующих цитат, поюзал какой-то список критериев для определения генераций ИИ и выкатил табличку с вероятностями происхождения текста - 60% вероятности, что это генерация ИИ, остальные варианты не больше 15%. Подход выглядит вполне адекватным.
ИИ - это просто машина, она может быть не идеальной, это надо учитывать, как и для любой другой машины.

Анон

Re: Восстание машин: ИИ против человека

60% вероятности, что это генерация ИИ, остальные варианты не больше 15%

Тут есть на самом деле две стороны. Первая - это какие-то фактические ошибки в тексте. Скажем, если в древнекитайском тексте встретится слово "айфон", то ты можешь быть почти уверен, что это подделка. Ну, или иероглифы. которые тогда не использовались и т.д. И такую вещь AI может отловить, это фактичекская проверка и  это совершенно не значит, что этот текст написан именно ИИ, такую подделку/стилизацию мог выдать и человек. Другой вопрос - это стилистически определить текст, был ли он написан AI или человеком. Это никто определить не может по одной простой причине - не существует чистых баз данных _современных_ текстов, написанных AI, и текстов, 100% написанных человеком. Потому что нам для этого нужны тексты, написанные, условно, за последний год (тексты, написанные людьми сегодня, от текстов, написанных людьми 10 лет назад, будут отличаться сильнее, чем написанные ИИ). Кроме того, даже если бы такой набор данных, на котором можно обучать модель, нашелся бы, и кто-то заморочился бы обучением модели на них, то она позволила бы только определить, что данный текст написан, скажем, в ChatGPT такой-то версии. Узнавать следующую версию или Дипсик, или Гемини он уже не будет.

Анон

Re: Восстание машин: ИИ против человека

у меня какое-то интуитивное неприятие, что "ии обучается как человек, выходят уникальный результат, и поэтому не воровство", потому что, не знаю, как сформулировать, но что-то тут не так.

Есть отдельные пункты, что ии - не человек, и что обучается не так, и тем более его можно "разобучить", и он может "развидеть", что вообще не по-человечески, и прочее, и прочее.

Короче, надо подумать, но все это "как человек" попахивает известно чем...

Анон

Re: Восстание машин: ИИ против человека

но все это "как человек" попахивает известно чем...

Не известно, чем? 
(я не считаю, что он обучается как человек, если что - но и не вижу, в чем тут принципиальное разделение. Обучается - да. Как человек - нет.)

Отредактировано (2025-10-21 14:16:06)

Анон

Re: Восстание машин: ИИ против человека

Другой вопрос - это стилистически определить текст, был ли он написан AI или человеком. Это никто определить не может по одной простой причине - не существует чистых баз данных _современных_ текстов, написанных AI, и текстов, 100% написанных человеком.

Тут соглашусь. Но не из-за отсутствия баз, а потому что ИИ совершенствуется, и его ответы становятся всё ближе к человеческим. С другой стороны, не все люди одинаковые, есть те, кто формулирует мысли специфически и "машинно". Но для узких задач (написан ли текст в определённое время, определённым человеком и т.п.), имхо, пока что ИИ можно использовать - понятно, что со стандартными оговорками.

Анон

Re: Восстание машин: ИИ против человека

(я не считаю, что он обучается как человек, если что - но и не вижу, в чем тут принципиальное разделение. Обучается - да. Как человек - нет.)

можно ли это назвать обучением, если это не человек? а не обработка механизмом чего-то там?

Отредактировано (2025-10-21 14:42:49)

Анон

Re: Восстание машин: ИИ против человека

можно ли это назвать обучением, если это не человек?

А если ты обучаешь собаку, можно ли назвать это обучением, если она не человек? А если пчелу?

Анон

Re: Восстание машин: ИИ против человека

А если ты обучаешь собаку, можно ли назвать это обучением, если она не человек? А если пчелу?

ты воспринимаешь ии как живое существо? или как бесправную программу, которой закладывают что-то, а сама она не имеет цели и воли?

Анон

Re: Восстание машин: ИИ против человека

ты воспринимаешь ии как живое существо?

А ты что-то говорил про живое существо? У тебя были такие слова в посте, антропоцентричный анон?
Можно ли говорить, что у подушки эффект памяти, а у фотоплёнки - чувствительность, если они не люди? Можно ли говорить, что металл устаёт, а ИИ галлюцинирует?

Анон

Re: Восстание машин: ИИ против человека

у подушки эффект памяти, а у фотоплёнки - чувствительность,

не, ты говоришь о каких-то физических свойствах, без которых подушка или пленка не может. Типа вода мокрая, огонь жжет и тд.

Но значит ли это, что ии НЕ может НЕ обучаться на конкретной картине? Или, нельзя сказать то, что он не может по своей природе остановиться? Нет, давать ему данные или нет - это чисто чья-то цель. Или нельзя сказать, что фотоаппарат НЕ может Не фоткать вообще, т.е., он не может остановиться, это его физическое свойство или даже цель? А не кто-то с целью щелкает фотоаппаратом?

Т.е., теоретически, кто-то может потребовать запретить себя фоткать на каком-то интервью. Значит ли это, что он нарушает права фотоаппарата? Ну там, право фоткать, или риторика, что у фотоаппарата есть глаза и память, чтобы видеть, и цель, и смысл для выживания? Ну максимум можно сказать, что нарушили права фотографа. Но даже не в этом случае, а в других. Права тех, кто готовит дата сеты, никто не нарушает, потому что они не обучаются.

Другое дело, когда живое существо. Ну даже теоретически можно существу запретить обучаться на конкретной картине, хоть и бред, но мозг увидел картину и сразу обучается, и тут нельзя заставить развидеть, забыть, разорвать и изменить нейронные связи, если человек увидел, запретить учиться вообще, потому что это его ну как бы права и свойство физиологическое. Если пытаться заставить - это против человеческих прав и вообще против природы и выживания.

И вот тут приходим к тому, что ллм - это бесправный алгоритм, у которого нет такой природы и цели выжить и обучаться, который может вообще все стереть, развидеть и измениться, и прочее, и прочее. Про него нельзя сказать, что его нельзя заставить не обучаться или нельзя заставить его стереть что-то, даже свою "личность", мол, это нарушит его чувства и права и тд. Все там решают люди. И нельзя сказать, что он обучается, как человек, если в него закладывают именно так, а не иначе.

Т.е., это механизм, которого по воле человека заставляют видеть или развидеть, как и с фотоаппаратом, т.е., тут другой подход.

И, если кто потребует "сотри мое фото", нельзя сказать "фотоаппарат не может это сделать, потому что человек не может развидеть, а фотоаппарат видит как человек. Поэтому не имею права стирать, вообще имею право фоткать без согласия, потому что фотоаппарат он почти как человек, и пленка у него с памятью, ну вообще человек". Типа такого.

Путано, но как-то так, попробую потом еще сформулировать.

Отредактировано (2025-10-21 15:56:55)

Анон

Re: Восстание машин: ИИ против человека

не, ты говоришь о каких-то физических свойствах

Я говорю об устойчивых выражениях. И не вижу смысла продолжать разговор про LLM с человеком, который путается в словах, не отличает живое существо от человека и физические свойства от их названий.

ты говоришь о каких-то физических свойствах, без которых подушка или пленка не может. Типа вода мокрая, огонь жжет и тд.

И прости, но ты бредишь. Обычная подушка не имеет эффекта памяти, это свойство полимерной пены, а не травы, пера или пуха. Металл устаёт далеко не сразу, на это требуется время. Галлюцинации ИИ - вообще не физическое свойство.

Т.е., это механизм, которого по воле человека заставляют видеть или развидеть

Подумай о том, можно ли заставить ИИ, если он не человек и не имеет собственной воли )))

Анон

Re: Восстание машин: ИИ против человека

по мне, так ты придираешься к словам, а также требуешь какого-то наукообразного реферата, что странно в свободной беседе.
Если металл "устает", то значит ли, что надо сравнивать его с человеческой усталостью и давать металлу отпуск на море, или что ты имеешь в виду?
В общем, или у тебя какое-то буквоедство, и ты считаешь, что под это можно подогнать суть, или мы друг друга не понимаем.

Анон

Re: Восстание машин: ИИ против человека

можно ли это назвать обучением, если это не человек? а не обработка механизмом чего-то там?

Так и человеческое обучение это обработка особым электрохимическим механизмом. Про него уже довольно много известно: память кодируется так-то, хранится это здесь, в этому участвуют такие-то химические соединения в таких-то условиях. В этому участке долговременная память, тут эмоции, в том куске ощущение "себя" и т.д.

Анон

Re: Восстание машин: ИИ против человека

В смысле «уставал»

Ну, он просто прекращал собирать с таблицы инфу и говорил: ну вот, юзернейм, я все сделал! Когда ты говорил "нет, не все", он говорил "ой, и правда" и в следующий раз мог написать побольше, но проебать, допустим, важную часть игрового алгоритма. При этом это вообще не зависело от размера переданной инфы, если его попросить обработать табличку поменьше, он так же зависал в разных моментах и пытался убедить, что он честно-честно все обработал и записал, вот, играй в неиграбельную игру.

Кмк это когда "токенов" не хватает. Технические ограничения.
Др анон.

Анон

Re: Восстание машин: ИИ против человека

но все это "как человек" попахивает известно чем...

Не известно, чем? 
(я не считаю, что он обучается как человек, если что - но и не вижу, в чем тут принципиальное разделение. Обучается - да. Как человек - нет.)

Очеловечиванием. Человек склонен оселовечивать всё вокруг себя. Когнитивное искажение, кмк

Анон

Re: Восстание машин: ИИ против человека

можно ли это назвать обучением, если это не человек?

А если ты обучаешь собаку, можно ли назвать это обучением, если она не человек? А если пчелу?

Это дрессировка. Никто не учится как человек кроме человека. Имхо.
Др анон

Анон

Re: Восстание машин: ИИ против человека

В общем, или у тебя какое-то буквоедство

Не я внёс пассаж про то, что ИИ нельзя обучать, потому что он не человек.

Анон

Re: Восстание машин: ИИ против человека

Так и человеческое обучение это обработка особым электрохимическим механизмом. Про него уже довольно много известно: память кодируется так-то, хранится это здесь, в этому участвуют такие-то химические соединения в таких-то условиях. В этому участке долговременная память, тут эмоции, в том куске ощущение "себя" и т.д.

ну вот именно в части самоощущения и эмоций и прочего отождествлять, кмк, нельзя.
т.е., ты сравниваешь человека с механизмом, а это, на мой взгляд, не значит, что механизм надо очеловечить. Тот же фотик, к примеру, "у человека хрусталик действует как линза в глазах" и тд, не значит "фотоаппарат с линзой, значит, он видит, значит, он почти как человек". И это даже не про физиологическую или механическую, а про правовую плоскость.

Понятно, что я исхожу из того, что нейронки - безмозглые, бесчувственные и бесправные алгоритмы, а что там на самом деле - хз. Впрочем, обратного пока не доказали.

Отредактировано (2025-10-21 18:42:31)

Анон

Re: Восстание машин: ИИ против человека

нейронки - безмозглые, бесчувственные и бесправные алгоритмы, а что там на самом деле - хз

С этим, вроде, здесь все согласны, но к чему ты этот тейк вообще достал-то? Шла речь о том, что одни борцы против нейронок хотят нанят ушлых дятлов с другой нейронкой, чтобы в результате заставить пользователей нейронок платить не только за сами нейронки, но и за проверяющую нейронку и за потенциальный копирайт на Доктора Кто.

Анон

Re: Восстание машин: ИИ против человека

Шла речь о том,

я за этим разговором не слежу, я про свое отношение к понятию "обучение нейронок", и, как анон сказал, что через это понятие очеловечивают нейронки с известными правовыми последствиями. И да, у меня было недопонимание насчет того, что дранон пытался донести, что обучение есть, но нечеловеческое. При этом все равно получается, что само понятие "устал, чувствительный, обучение" к материалу или механизму - это вообще переносные понятия, не связанные с человеческими. Но те, кто манипулирует датасетами и обучением, уравнивают его с человеческим, можно сказать, буквально, и отсюда остальные проблемы.

Отредактировано (2025-10-21 19:36:54)

Анон

Re: Восстание машин: ИИ против человека

Понятно, что я исхожу из того, что нейронки - безмозглые, бесчувственные и бесправные алгоритмы, а что там на самом деле - хз. Впрочем, обратного пока не доказали.

Анон, там внутри сложная функция с подобранными с помощью различных алгоритмов обучения параметрами. Это общеизвестный факт для любого, кто обучил хотя бы одну нейронку. Я больше скажу, она не выдает на выходе слова/картинки, она цифры выдает, которые потом каким-то образом интерпретируются.
По поводу процента копирастии в картинке. Это полный бред и идеальный поисковик плагиата очередного уникального эльфа. Просто хочу узнать, как эти гении собрали обучающий датасет. Ещё такой нюанс: когда анон учился, анону рассказывали, что в некоторых сферах, где требуется обоснование решения, нейронки не используются, потому что они сложноинтерпретируемы. Как собираются обосновать эти 70% плагиата копирасты (почему не 90 и не 10) очень интересно.
Копирастов я недолюбливаю сильно больше, чем нейронки. Поэтому удачи ушлым дятлам

Анон

Re: Восстание машин: ИИ против человека

Анон, там внутри сложная функция с подобранными с помощью различных алгоритмов обучения параметрами. Это общеизвестный факт для любого, кто обучил хотя бы одну нейронку. Я больше скажу, она не выдает на выходе слова/картинки, она цифры выдает, которые потом каким-то образом интерпретируются.

как сказал анон выше, в мозгу действительно есть похожие механизмы и логические входы-выходы, и алгоритмы, и так-то у нас инфа тоже как-то кодируется-декодируется, а дальше уже дебри философии и трансцендентности, и мы сами себя еще не изучили в полной мере, если "я" вообще изучаемо.
Так что спорно все, но я для себя буду исходить, что ллмшки тупые программы. И доказать обратное сложно, если уж даже нельзя доказать, что другие "я" реальны, помимо твоего.

И у меня вопрос даже не столько насчет плагиата, сколько вообще насчет спрашивать согласие на то, чтоб взять фото или картину в дата сет. Уже на этом этапе, как правило, начинается сравнивание с человеком, к примеру "давай еще запрети художникам смотреть на картины или изучать стиль" или "давай еще заставь художников забыть, на чем учились" и прочее "ллм право имеют".

Анон

Re: Восстание машин: ИИ против человека

В этому участке долговременная память, тут эмоции, в том куске ощущение "себя" и т.д.

Подобные представления разгромил ещё Чалмерс (чатгпт это собственно чалмерсовское "философское зомби" и есть). Никто из физикалистов Чалмерсу пока что убедительно не возразил.

Анон

Re: Восстание машин: ИИ против человека

Подобные представления разгромил ещё Чалмерс (чатгпт это собственно чалмерсовское "философское зомби" и есть). Никто из физикалистов Чалмерсу пока что убедительно не возразил.

Чалмерс просто добавил, помимо обычной фундаментальной материи, еще какую-то ментальную фундаментальную материю, и так-то

Чалмерс допускает, что сознание берёт начало в любой информационной системе (см. теория информации) и не исключает, что даже термостат в какой-то степени обладает сознанием.

и у него все красиво выглядит.
Но все равно недоказуемо ничего вообще.