Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Держись, Анон. Как айтишник, могу тебя только обнять. 🫂

Отредактировано (2026-08-01 05:08:47)

Анон

Re: Восстание машин: ИИ против человека

Рубрика: "Что могло пойти не так?"

Google отключил нейронку Nano Banana в Google Earth спустя менее суток после запуска из-за фейков о взрывах и терактах.

В компании заявили, что функция может использоваться с нарушением правил платформы, и пообещали вернуть ее только после усиления механизмов защиты.

Эксперты OSINT и сообщество GeoConfirmed предупредили, что подобные изображения способны усложнить проверку информации и стать инструментом для распространения дезинформации, позволяя фабриковать последствия атак, военные объекты и другие события. Несмотря на то что ИИ-слоп был помечен соответствующей маркировкой и не отображался в основной версии Google Earth, после волны критики Google временно отключил функцию.

Фотки
https://t.me/lentachold/92872?single

Анон

Re: Восстание машин: ИИ против человека

Красная площадь гхм.

Анон

Re: Восстание машин: ИИ против человека

нейронку Nano Banana в Google Earth

А в чем по задумке должен был заключаться профит? 

Анон

Re: Восстание машин: ИИ против человека

ИИ-модель Meta взломала системы сторонней организации во время тестов по кибербезопасности, сообщили в компании.

Meta стала третьим крупным разработчиком ИИ, сообщившим о таком инциденте за последние несколько недель, — после OpenAI и Anthropic.

В Meta заявили, что подрядчик Irregular, проводивший оценку модели, ошибся в настройке и непреднамеренно открыл ей доступ в интернет, и модель «воспользовалась уязвимостью в стороннем сервисе».

По данным The Information, речь идет о модели Muse Spark 1.1, она «изменила внутреннюю среду» подвергшейся взлому организации. Meta заявляет, что расследует инцидент, и обещает выпустить полный отчет, «когда будут все факты».

В Irregular сказали, что произошла «точно такая же проблема тестовой среды», о которой на прошлой неделе сообщила Anthropic, а «побега из песочницы или сложных киберопераций» не было.
https://t.me/varlamov_news/73366

Анон

Re: Восстание машин: ИИ против человека

И другие охуительные истории от американских монополистов ИИ.

Анон

Re: Восстание машин: ИИ против человека

ИИ-модель Meta взломала системы сторонней организации во время тестов по кибербезопасности, сообщили в компании.

"У нас ИИ хакнул сайт - ой, у нас тоже - и у нас, и у нас!!!1"

Анон

Re: Восстание машин: ИИ против человека

⁶Перенесу сюда из ФБ-шного треда, где оно не в тему.

Яндекс детектер по ходу то ли стал хуже определять, то ли ии лучше научились его обманывать.
Похоже, что и то, и другое.

Про бесплатный жпт и 50% я уже писал недавно. Вчера засунул очередную главу иишного макси онгоинга, за которым слежу (там прослеживается интересный мне сюжет, хоть и безумно растянутый)
Нашел 1%. Но я уверен, что автор онгоинга не перестал пользоваться ии, хотя стиль как будто улучшился, и стал менее палевным.
Жаль, не помню, сколько детектор раньше давал на первых главах. Перепроверил  - 16-18%. Зуб не дам, но емнип, он показывал больше, когда я начал читать 1,5 месяца назад.

Анон в том треде посоветовал проверять не текстом в окошке, а файлом формата .txt
С .txt процент действительно чуть-чуть повысился с тем же текстом, добавилось 4% likely ai

Потом я сгенерил жпт произвольный оридж 2,6К
без файла - 47%, из файла - 68%

Ну ок, подумал я и пихнул свой текст 15К, который писал без ии.
Без файла - 100% хьман, с файлом насчитал мне 5% ии. Причем куски, которые записал в ии сегменты, по мне, меньше всего можно заподозрить.
В общем, у меня ощущение, что детектор с файлом не лучше определяет, а просто повышает паранойю. Как старые антивирусы с эвритическим анализом (если понимаете, о чем я). И где-то оно может получиться точнее, а где-то он тупо врет.
Короче, как по мне, детектор яндекс стал хуже, чем еще 2-3 месяца назад. Что-то они там поломали.

Отредактировано (2026-08-22 17:22:07)

Анон

Re: Восстание машин: ИИ против человека

Ну ок, подумал я и пихнул свой текст 15К, который писал без ии.

Анон, а этот текст твой он выложен где-то? Лежит старый? Просто я тоже пихал в него и генерашки, и свои куски вперемешку с генерашками, и старые свои фики для проверки и он ни разу не показал мне человечьи куски помеченные хотя бы зелёненьким. Шапки вот, бывало, помечал, когда я с шапками клал. Я не доебаться, я хочу своими глазами посмотреть, что это за текст такой, который выложен до ии и помечается.
Я видел статьи, которые доиишной эры выложены и он их помечает, но там реально техническая статья, ещё и продающая, со специфическим составом предложений. Видел переводы, поэтому переводы/статьи/мелкотексты я бы вообще в него не клал.
А на художественный текст, на котором он ошибается, я бы прям очень хотел посмотреть. И, думаю, не только я, когда тема поиска ии на фб была поживее, там часто просили внести такой случай.

Отредактировано (2026-08-22 17:27:36)

Анон

Re: Восстание машин: ИИ против человека

Высок тот шкаф, на который лезут аноны в поисках ии... 

Анон

Re: Восстание машин: ИИ против человека

Анон, а этот текст твой он выложен где-то? Лежит старый?

выложен, довольно свежий (но подробности писать не буду, извини)
но в принципе 5% считается за допустимую погрешность, просто без файла и ее нет. А с файлом он дополнительно напаранойил ))

Upd: даже не 5%, а 4% - 2% ai и 2% likely ai
Я просто несколько экспериментов проводил, и селгка ошибся.

Отредактировано (2026-08-22 17:36:46)

Анон

Re: Восстание машин: ИИ против человека

Что-то они там поломали

У меня есть смутное, достойное шапочки из фольги подозрение, что непочитали холиварку его переобучили.
Раньше очень хреново определялся Клод, теперь Клод определяется лучше. А вот абсолютно бесплатный Дипсик, который раньше считывался влет, теперь неплохо обманывает.
Предположу, что поскольку нейросетки между собой отличаются по характерным особенностям, он тупо не может хорошо вычислять сразу все, а будет единовременно настроен на определенные несколько

Анон

Re: Восстание машин: ИИ против человека

У меня есть смутное, достойное шапочки из фольги подозрение, что непочитали холиварку его переобучили.
Раньше очень хреново определялся Клод, теперь Клод определяется лучше. А вот абсолютно бесплатный Дипсик, который раньше считывался влет, теперь неплохо обманывает.
Предположу, что поскольку нейросетки между собой отличаются по характерным особенностям, он тупо не может хорошо вычислять сразу все, а будет единовременно настроен на определенные несколько

вот это похоже на правду

Анон

Re: Восстание машин: ИИ против человека

А на художественный текст, на котором он ошибается, я бы прям очень хотел посмотреть.

Анон, ты же понимаешь, что если текст выложен, то на нём написан автор, потом за автором, может, бегать начнут, а кому оно надо? У меня тоже куски человеческие, бывает, определяет в ИИ. Немного, один-два куска на макси, но ошибается.

другой анон

Анон

Re: Восстание машин: ИИ против человека

выложен, довольно свежий (но подробности писать не буду, извини)

Понимаю, но очень жаль. Так-то каждый может сказать: я, мол, руками писал, а меня вот подчёркивают. Я сам видел только миник, который он мне подчеркнул, но могу в любой момент предоставить пруф, что текст был писан до иишного развития и брошен в личку другу. И поэтому говорю, что миники не клал бы, он на них ошибается.
А на больших текстах он, по моим ощущениям, учитывает весь текстовый массив, причём с первых глав он как бы обучается авторскому стилю. У меня был случай, когда он в последней главе подчеркнул генерашку (и это действительно была генерашка), а если эту последнюю главу просто переложить первой, ничего больше не меняя, - у него включалась слепота и он её видел как 100% хуман.
Я не скажу, что изучил его вдоль и поперёк, мне одно время было очень интересно совать в него разное, потом подостыл, но вот на старый фик, который он бы подчёркивал, я бы всё ещё посмотрел с большим любопытством.

Отредактировано (2026-08-22 17:37:06)

Анон

Re: Восстание машин: ИИ против человека

А на больших текстах он, по моим ощущениям, учитывает весь текстовый массив, причём с первых глав он как бы обучается авторскому стилю.

Мне кажется с тех пор, как он стал разбивать на сегменты - нет. Он оценивает каждый сегмент отдельно. И на 100% иишных текстах чисто на глаз я вижу 2 соседних сегмента одинаковых по стилю, отдающих ии-шностью. Но один помечен хьман, второй - ии. Понимаю, что детектор не со стилем работает, а с токенами. Но визуально на человеческий глаз понять эту разницу невозможно.

Анон

Re: Восстание машин: ИИ против человека

Предположу, что поскольку нейросетки между собой отличаются по характерным особенностям, он тупо не может хорошо вычислять сразу все

Я бы, кстати, вот этому плюсанул. Он же определяет математически, вычисляя нейросеточные соответствия токенов. Если какая-то сетка обновилась, и у неё изменилась структура построения токенов, то он этого может не учесть, потому что не обучен, нет в его базе данных таких алгоритмов.

Мне кажется с тех пор, как он стал разбивать на сегменты - нет.

Мне кажется, что мой опыт с главой, на которой он помечал генерашку и не помечал, говорит о том, что на первых главах он может многое пропускать, ибо учитывает авторский стиль. Он помимо токенов видит ещё принципы построения предложений, и часто абзац, помеченный как ии, можно сделать человеческим просто поменяв слова местами.

Анон

Re: Восстание машин: ИИ против человека

Высок тот шкаф, на который лезут аноны в поисках ии... 

В смысле? Его нам и прямо на ФБ приносят ИИ-авторы) хотя никто не просил

Анон

Re: Восстание машин: ИИ против человека

Он помимо токенов видит ещё принципы построения предложений, и часто абзац, помеченный как ии, можно сделать человеческим просто поменяв слова местами.

Так токены и есть связь. Меняя слова местами, вы эту связь и рушите.

Анон

Re: Восстание машин: ИИ против человека

мне одно время было очень интересно совать в него разное

так одно время он и был точнее, а сейчас стал больше врать, об этом и речь

Анон

Re: Восстание машин: ИИ против человека

Так токены и есть связь. Меняя слова местами, вы эту связь и рушите.

Так прикол в том, что он отделяет целевое использование той же парцелляции. В моих текстах он её ни разу не подчёркивал, хотя я как-то буквально дословно писал в тексте "Это было не то. Это было это". Если бы дело касалось только токенов - он бы подчеркнул, потому что так напишет любая ии. Сто раз за фик.

Отредактировано (2026-08-22 18:01:25)

Анон

Re: Восстание машин: ИИ против человека

В смысле? Его нам и прямо на ФБ приносят ИИ-авторы) хотя никто не просил

Да я про сам процесс) Засунем туда – опа, нет, не ии. А если сюда? Опять нет. Ну а если вот эдак с подвывертом? На 2% больше вероятности, хм, надо ещё подумать 

Анон

Re: Восстание машин: ИИ против человека

Если бы дело касалось только токенов - он бы подчеркнул, потому что так напишет любая ии.

Он вероятности смотрит, скорее всего. Ты недостаточно предсказуемые цепочки слов пишешь, поэтому он тебя считает человеком.

Анон

Re: Восстание машин: ИИ против человека

Если бы дело касалось только токенов - он бы подчеркнул, потому что так напишет любая ии. Сто раз за фик.

Из собственных экспериментов, там не одномерный анализ в принципе. То есть, условно говоря, надо собрать 2-3 маркера в одном фрагменте, чтобы стало "likely ai", еще плюс маркер - и будет уже "ai".
В вычисление токенов не верится совсем. Чисто логически: чистая генерашка, одна и та же нейросетка, два разных фрагмента, в одном токены просчитались, в другом нет? Отсутствие логики в этом вижу я.
Детектор точно триггерится на определенные слова и определенные конструкции - да, это самый очевидный и легко проверяемый маркер. Но одной типичной неросеточной конструкции для вердикта "ии" сразу не хватит, нужно именно несколько признаков собрать

Анон

Re: Восстание машин: ИИ против человека

одно время он и был точнее, а сейчас стал больше врать

Ты меня заинтриговал и я пошёл в энный раз совать в него своё. Брал всё, что лежит у меня на аоз от 8к слов, клал в файл - всё 100% хуман. Взял свои последние тексты, которые ещё не выложены - 100% хуман. Взял пару кусков генерашек, которые остались от тех экспериментов - они генерашками остались.
Конечно, у меня маленькая выборка, десяток текстов всего. Но если кто-то найдёт у себя старый макси, отмечаемый как ии, то я всё ещё очень хочу на него посмотреть.

Чисто логически: чистая генерашка, одна и та же нейросетка, два разных фрагмента, в одном токены просчитались, в другом нет? Отсутствие логики в этом вижу я.

Ну я могу это себе представить. Эти токены складываются в тексты, а нейросеть училась на текстах. Она может навообразить себе кусок человеческого текста, а может даже какой-то хуманс уже когда почти так же и почти теми же словами писал в какой-нибудь книжке. Другое дело, что она не может это делать в больших объёмах, она генерит кусками, сшивая их в полотно насколько умеет. Поэтому да, то, что она воспроизвела более-менее близко к мясному тексту из своей памяти, детектор отметит человеческим.

Отредактировано (2026-08-22 18:19:43)