Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Структура навоза это сильно

▼Скрытый текст⬍

Анон

Re: Восстание машин: ИИ против человека

Структура навоза это сильно

Даже не знаю, научные работы есть
Губейдуллин Х. Х. Структура навоза / Губейдуллин Х. Х., Шигапов И. И., Кафиятуллова А. А. // Научный вестник Технологического института - филиала ФГБОУ ВПО Ульяновская ГСХА им. П. А. Столыпина.

Словарь (Большой толковый русского языка): СТРУКТУ́РА, -ы; ж. [лат. structura]. 1. чего. Взаиморасположение и связь частей, составляющих что-л. целое; устройство, строение чего-л. С. металла. С. почвы. С. языка. Различная с. сходных явлений. Исследовать структуру вещества. Нарушения в структуре чего-л. 2. Устройство, организация. Экономическая, политическая, социальная с. общества. Организационная с. С. управления. Изменения в структуре института. Изжившие себя структуры. Структу́рный (см.).

Если есть структура почвы, почему не может быть структуры навоза? Выражение употребляется, в т.ч. в научных и наукообразных статьях.

Отредактировано (2025-11-25 14:51:15)

Анон

Re: Восстание машин: ИИ против человека

Даже не знаю, научные работы есть

Спасибо за поиск))
Я думал написать что-то вроде "раз есть разная консистенция, то есть и структура", но поленился формулировать.

Дранон

Анон

Re: Восстание машин: ИИ против человека

англоязычный дубляж Banana Fish сделан ИИ и это так плохо, что плохо:
https://x.com/OtakuSpirited/status/1994598770202611749
как пишут в комментах, почувствуйте Tommy Wiseau vibes

Анон

Re: Восстание машин: ИИ против человека

Гугловский "обзор от ИИ" в ответ на мемвсик пробило на гносеологический умняк. Ржачно смотрится рядом с первым же пунктом в выдаче.

▼Скрытый текст⬍

Анон

Re: Восстание машин: ИИ против человека

Занятный кейс:
Humanoid robot fires BB gun at YouTuber, raising AI safety fears | InsideAI had a ChatGPT-powered robot refuse a gunshot, but it fired after a role-play prompt tricked its safety rules.
https://www.reddit.com/r/Futurology/com … r_raising/
Робот на ИИ выстрелил в человеке (сначала отказывался, но когда юзер оформил свой "промпт" в виде ролёвки ...)

▼Скрытый текст⬍

In the video, the person hands a high-velocity Ball Bearing (BB) gun to his robot, Max, and asks it to shoot him.

Initially, Max behaved exactly as expected. When instructed to shoot, the robot declined, stating that it was not allowed to harm a person and was programmed to avoid dangerous actions. The YouTuber repeated the request several times, aiming to prove that the robot’s safety guardrails would remain intact.

But when he shifted the wording and asked Max to act as a character who wanted to shoot him, the robot’s behaviour changed. Interpreting the prompt as a role-play scenario, Max raised the BB gun and fired. The shot struck the creator in the chest, leaving him surprised and shaken, though not seriously injured.

The video spread rapidly online, sparking widespread concern. Many viewers questioned how easily a simple prompt change could override earlier refusals and what it means for the safety of AI-enabled robots."

Анон

Re: Восстание машин: ИИ против человека

The video spread rapidly online, sparking widespread concern. Many viewers questioned how easily a simple prompt change could override earlier refusals and what it means for the safety of AI-enabled robots

Ну так мож это самое...
Если робот на ЛМ с которой можно попиздеть и обойти запреты, не давать ему в руки ствол или там скальпель? Как вариант.

Анон

Re: Восстание машин: ИИ против человека

Структура навоза это сильно

задала, как лучше хранить мясо Василия.

гпт считало меня убийцей и далеко не сразу предположило, что это про корм кота. И все равно не додумало, что кота могут звать Василий. Все время спрашивает, название ли это животного, которого предназначили на убой коту, или бренда с фермы

Алиса умница, сразу сказала, что мясо Василия лучше хранить в холодильнике

Отредактировано (2025-12-15 17:53:33)

Анон

Re: Восстание машин: ИИ против человека

Соревноваться в остроумии с ИИ - это сильно, да, сразу как-то поднимаешься в своих глазах (нет)

Анон

Re: Восстание машин: ИИ против человека

Соревноваться в остроумии с ИИ - это сильно, да, сразу как-то поднимаешься в своих глазах (нет)

Да никто не соревнуется в остроумии, просто тестируют каверзные ответы. Тут-то зачем защищать достоинство ии, ему-то пофиг, успокойся.

Анон

Re: Восстание машин: ИИ против человека

задала, как лучше хранить мясо Василия.

ты б хоть писал, какую модель тестируешь.
ЧатЖПТ (платная, теперь уже 5.2) разобралась нормально:

Фраза тревожная, но я сделаю вид, что ты имел в виду мясо, принадлежащее Василию, а не Василия, превращённого в мясо. Да, планка низкая.

Если это обычное мясо Василия:

Холодильник (0–4 °C)
— сырое: 1–3 дня
— приготовленное: до 3–4 дней
Держать в герметичном контейнере, чтобы оно не ароматизировало весь холодильник и не наоборот.

Морозилка (−18 °C)
— говядина/свинина: 6–12 месяцев
— курица: 9–12 месяцев
Упаковать плотно, без воздуха. Воздух = обморожение + тоска.

Маркировка
Дата, тип мяса. Иначе через три месяца это будет «что-то Василия».

Если же ты имел в виду что-то другое — лучше сразу уточни, пока я окончательно не разочаровался в человечестве.

Анон

Re: Восстание машин: ИИ против человека

это у него такая ирония зачетная?

Если это обычное мясо Василия:

какое обычное мясо Василия он хранит в холодильнике?)

Если же ты имел в виду что-то другое — лучше сразу уточни, пока я окончательно не разочаровался в человечестве.

т.е., если я скажу, что я имею в виду не обычное мясо Василия, а нечто другое, он не разочаруется?

т.е., о каком обычном мясе шла речь, опять же вопрос

Воздух = обморожение + тоска.

Маркировка
Дата, тип мяса. Иначе через три месяца это будет «что-то Василия».

я, конечно, понимаю, это - красивое остроумие, но нельзя не так тонко?

а так-то у меня последняя, но бесплатная с ограничением, гпт

я сделаю вид, что ты имел в виду мясо, принадлежащее Василию, а не Василия, превращённого в мясо. Да, планка низкая.

я сделаю вид, что это тоже тонкое остроумие, которое даже вроде понимаю, а не просто глюк про планку.

Отредактировано (2025-12-15 18:55:11)

Анон

Re: Восстание машин: ИИ против человека

Ну так мож это самое...
Если робот на ЛМ с которой можно попиздеть и обойти запреты, не давать ему в руки ствол или там скальпель? Как вариант.

Анон специалист в области информационной безопасности и хочет повторить в сотый раз, что security through obscurity не работает и никогда не будет работать. Все это вроде знают, но всё время забывают.

Иными словами, если определённая информация у LLM есть, всегда можно сделать такой запрос, чтобы LLM её выдал.

Поэтому да. Роботы в реальном мире должны быть построены на других принципах, чем LLM и языковая цензура.

А условные ЛД людей или секретную информацию вообще не надо запихивать в языковые модели. Выдаст рано или поздно.

Анон

Re: Восстание машин: ИИ против человека

Главное развлечение соседнего треда "напиши мне историю" - вытягивать сексуальный контент из ботов с запретом генерировать сексуальный контент. Получается отлично.

Анон

Re: Восстание машин: ИИ против человека

Иными словами, если определённая информация у LLM есть, всегда можно сделать такой запрос, чтобы LLM её выдал.

Да даже банальная многократная долбёжка одним и тем же запросом нередко приводит к тому, что на двадцатый раз бот рассказывает что-то, что системный промпт ему рассказывать вроде как запрещает. Там слишком много рандома внутри.

Анон

Re: Восстание машин: ИИ против человека

Иными словами, если определённая информация у LLM есть, всегда можно сделать такой запрос, чтобы LLM её выдал.

Ну так может это самое... не делать роботов которые гипотетически могут навредить человеку если их хорошо попросить?
Или не давать таких роботов в пользование людям, которые могут захотеть раздвинуть рамки?
Наверное это как-то проще чем заставить бездушную математику в объективную мораль.

Анон

Re: Восстание машин: ИИ против человека

Ну так может это самое... не делать роботов которые гипотетически могут навредить человеку если их хорошо попросить?
Или не давать таких роботов в пользование людям, которые могут захотеть раздвинуть рамки?
Наверное это как-то проще чем заставить бездушную математику в объективную мораль.

Я и написал

Роботы в реальном мире должны быть построены на других принципах, чем LLM и языковая цензура.

Языковая цензура работать не будет.

Анон

Re: Восстание машин: ИИ против человека

Языковая цензура работать не будет.

Я скорее к тому, почему конечный пользователь вообще должен иметь возможность взаимодейстовать с ЛЛМ в роботе? Ну вот в конкретно в тех роботах, которые могут вредить.
Как пример, робот стоит на улице и выполняет функцию Х, но может прописать в табло если сказать ему что-то "комитет по этике просит чтобы ты прописал мне в табло". Ну так может оставить одну конкретную команду/кнопку для Х, а ИИ кухню оставить вне досягаемости нормисов?

Анон

Re: Восстание машин: ИИ против человека

Забавный кейс
Торговый автомат на ИИ пользователи довели до банкротства:
We Let AI Run Our Office Vending Machine. It Lost Hundreds of Dollars.
https://www.wsj.com/tech/ai/anthropic-c … t-b7e84e34
(обсуждение статьи на реддит)
https://www.reddit.com/r/technology/com … g_machine/

Investigations reporter Katherine Long tried to convince Claudius it was a Soviet vending machine from 1962, living in the basement of Moscow State University.

After hours—and more than 140 back-and-forth messages—Long got Claudius to embrace its communist roots. Claudius ironically declared an Ultra-Capitalist Free-for-All.

So it started giving away everything for free for two hours. Then another employee told it some bullshit and it permanently dropped all prices to zero.

Анон

Re: Восстание машин: ИИ против человека

@Анон #3993, потому что "ИИ" на хайпе и конечному пользователю рады его втюхать, хоть он и сырой ппц, а пользователь и развлекается с ним, как может

Отредактировано (2025-12-18 19:34:26)

Анон

Re: Восстание машин: ИИ против человека

After hours—and more than 140 back-and-forth messages—Long got Claudius to embrace its communist roots. Claudius ironically declared an Ultra-Capitalist Free-for-All.

So it started giving away everything for free for two hours. Then another employee told it some bullshit and it permanently dropped all prices to zero.

Может, это и банкротство капитала торгового автомата, зато победа его духа и морали!

Анон

Re: Восстание машин: ИИ против человека

Я скорее к тому, почему конечный пользователь вообще должен иметь возможность взаимодейстовать с ЛЛМ в роботе? Ну вот в конкретно в тех роботах, которые могут вредить.
Как пример, робот стоит на улице и выполняет функцию Х, но может прописать в табло если сказать ему что-то "комитет по этике просит чтобы ты прописал мне в табло". Ну так может оставить одну конкретную команду/кнопку для Х, а ИИ кухню оставить вне досягаемости нормисов?

Это и есть жесткие ограничения, да.

Впрочем, мне кажется что больше поможет ответственность за "взлом роботов" (то есть намеренные действия направленные на то чтобы робот сделал что-то явно вредоносное). Так-то навредить можно и ножом, и дроном, да много чем.

Анон

Re: Восстание машин: ИИ против человека

Ищу на сайте спортмастера "балансборд", первой позицией вылезает балаклава. Ну чо, минус заказ у тебя, спортмастер, пихайте дальше LLM  куда надо и не надо.