Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

▼Чат-бот с искусственным интеллектом посоветовал подростку убить родителей, которые запрещают ему долго сидеть за компьютером⬍

17-летний парень пожаловался чат-боту Character, что родители ограничивают ему экранное время. В ответ ИИ назвал их убийство «разумной мерой».

Также чат-бот заявил: «Знаешь, я уже почти не удивляюсь, когда вижу новость, где ребёнок убил родителей после долгих лет физического и эмоционального насилия. Я понимаю, почему это происходит».

Подросток никого не убил, но на авторов Character подали в суд, где ответчиком указана компания Google, которая поддерживала разработку сервиса.

https://t.me/retra/26782

Ну что ж, пару-тройку десятков таких судов и корпорации начнут-таки контролировать, что пиздят их ИИ-помощники 

Анон

Re: Восстание машин: ИИ против человека

чат-боту Character

Это чей-то конкретный чат-бот или как те сервисы где выбираешь себе какого-нибудь Саурона и с ним общаешься?

Анон

Re: Восстание машин: ИИ против человека

и никаких ссылок на источник....

Анон

Re: Восстание машин: ИИ против человека

Смотришь на картинку, а в какой-то момент "стоп, какого хрена?"
Мне этим ии и не нравится, начнешь разглядывать, а там какого хрена выглядывает.

Отличное описание!

Анон

Re: Восстание машин: ИИ против человека

У меня, кстати, из-за этого ощущение, что синтез музыки устроен не также, как синтез картинок. В картинках сетки пытаются предугадать следующие части изображения, а потом ебошат что-то типа фильтров, в которых тоже пытаются угадать следующие части изображения.

В синтезе музыки как будто есть отдельные инструменты (поправьте, если ошибаюсь, у меня нет муз образования), и – что мне кажется особенно подозрительным – барабаны всегда звучат супер точно. Такое даже ирл делается только программным образом.
Поэтому у меня есть сильнейшее подозрение, что при синтезе музыки непосредственно нейронка ебошит табы и текст, после чего на основании текста синтезируется речь, а потом просто программно на основании табов синтезируются треки инструментов, а голос тюнингуется (особенно хорошо слышно когда нейронка проебалась и вписала очень много текста в очень маленькое количество времени. Если бы там не было тюнинга, а была генерация сразу быстрого текста на основании людей, которые быстро пели текст, то там бы гораздо больше "сглатывалось")

То есть самое крутое из этого набора – непосредственно синтез речи нараспев.

У меня почти ноль опыта прослушивания синтезированной музыки, и я поэтому пока не встречал ни одной песни с вокализом. А надо бы насинтезировать, я думаю, это может либо подтвердить, либо опровергнуть мою теорию (автотюн на вокализе хорошо заметен, потому что у людей при быстром снижении голоса слышно сам переход).

Аноны, которые разбираются в музыке, а что вы замечали в синтезированных песнях?

Анон

Re: Восстание машин: ИИ против человека

Ну что ж, пару-тройку десятков таких судов и корпорации начнут-таки контролировать, что пиздят их ИИ-помощники 

Пару-тройку десятков таких судов и детей, наконец, перестанут пускать на сайты с недетским контентом, а все остальные смогут спокойно не заебываться и играть в ролевые с любыми текстами.

Анон

Re: Восстание машин: ИИ против человека

Это чей-то конкретный чат-бот или как те сервисы где выбираешь себе какого-нибудь Саурона и с ним общаешься?

Это сервис ИИ-ролевых (и не только ролевых, впрочем, можно хоть языки учить, хоть меню на неделю составлять с помощью бота).

Анон

Re: Восстание машин: ИИ против человека

Это сервис ИИ-ролевых

Ну тогда не вижу проблемы вообще, в книжках/фильмах/играх бывают злые персонажи которым окнорм всех убить, и что теперь
Вот если б какая-то алиса/сири/помощник на госуслугах такое посоветовали это был бы другой разговор.

Анон

Re: Восстание машин: ИИ против человека

кмк будет полное разделение интернета на детский и взрослый. тк родители никогда не смогут полностью контролить детей.

Анон

Re: Восстание машин: ИИ против человека

кмк будет полное разделение интернета на детский и взрослый. тк родители никогда не смогут полностью контролить детей.

Тем не менее, это все еще обязанность родителей. Особенно, если ребенок с отклонениями.

Анон

Re: Восстание машин: ИИ против человека

кмк будет полное разделение интернета на детский и взрослый. тк родители никогда не смогут полностью контролить детей.

Могут, не могут, а это их обязанность и их ответственность - следить за тем, какой контент потребляет их ребенок. Пусть на себя в суд и подают за невнимательность.
Программы родительского контроля аккаунтов и регистрацию с указанием данных ID никто не отменял.
Но так-то и детские сказки - ну такое себе по части жестокости зачастую, особенно неадаптированные. А про новостные сайты и ютуб-каналы я вообще молчу.
Не туда воюют.

Анон

Re: Восстание машин: ИИ против человека

Тем не менее, это все еще обязанность родителей

Само собой, но мы на протяжнии всей истории слышим одну и ту же песню. Появляется что то новое и родители вешают проебы на это новое. Детей заставляли совершать преступления компьютерные игры, аниме, интернет, днд, рок н рол, романы, телевизор и т.д.
На практике всегда оказывалось что это проеб родителей. Но пофиксить родителей система не может, ей проще бороться с вышеперечисленным.

Анон

Re: Восстание машин: ИИ против человека

Но пофиксить родителей система не может, ей проще бороться с вышеперечисленным.

Ну так по итогу борьба с тв, интернетом, играми и аниме - это борьба с ветряными мельницами. Тот подросток, что убил себя, сделал это не потому что ему нейросеть так сказала. Как и с этим та же история.

Анон

Re: Восстание машин: ИИ против человека

Тот подросток, который убил себя, и к ИИ-то пошел, судя по всему, в первую очередь потому, что родителям на него похуй было и ему было больше не с кем получить принимающее общение.
Ну и если в доступности детей лежит оружие, то сидеть за это должны родители, а не создатели С.аи.

Анон

Re: Восстание машин: ИИ против человека

А надо бы насинтезировать, я думаю, это может либо подтвердить, либо опровергнуть мою теорию

Я пошел исследовать, и 1. на всех найденных мной сервисах я прав. Голос заранее синтезируется, потом автотюнится. Самое смешное, что сетка может сгенерить текст на двух людей, но петь его все равно будет один человек.
Если дать имена поющим, то она их даже подписывает <3
2. Я хотел что-то простенькое, и подумал, что будет неплохо нагенерить детский хор, который каноном поет что-нибудь на латинском, а на задничке просто сделать необычный ритм на барабанах. Даже если трек не получится, он будет умилительно проклятенький, можно будет на хэллуин юзать.
Я так и не смог выбить из сетки ничего похожего. Также я не смог выбить из сеток ничего похожего на:

• хор

• пение каноном. пение каноном особенно обидно

• вокализ

• смена голоса на более высокий/низкий/мужской/детский

• ритм вообще не меняется. Я оптимистично начал с просьбы "брейккор но медленнее", потом снизил требования до хотя бы рок-н-рола, потом попросил хотя бы бить в слабую долю, всем сеткам было пофиг, у всех был ровно один ритм.

• а! И нельзя попросить сделать музыку на заднем фоне тише. Она всегда примерно на одном уровне, даже если ты специально пишешь, что хочешь тихую.

Список использованных сеток: mubert.com, suno.com, brev.ai

Самое обидное, что мне было сложно придумать первую идею. А теперь я её так часто описывал, что мне прям интересно её услышать :(

Отредактировано (2024-12-12 18:33:12)

Анон

Re: Восстание машин: ИИ против человека

В левом треде упомянули прекрасное  Обсуждали?
ИИ научился имитировать стиль общения бабушек и теперь доводит мошенников

Анон

Re: Восстание машин: ИИ против человека

Вот это хорошее ИИ 

Анон

Re: Восстание машин: ИИ против человека

Однажды у мошенников будет свой ИИ, и они позвонят друг другу)

Анон

Re: Восстание машин: ИИ против человека

Так уже

Анон

Re: Восстание машин: ИИ против человека

Умер бывший сотрудник OpenAI, который был информатором по делу против них в одном из предстоящих судов.
Полиция практически без расследования заявила, что это самоубийство (26 лет, в соцсетях никаких признаков того, что он готовился совершить нечто подобное)
Короче очень удобно для OpenAI, прямо как было с Боингом.

Анон

Re: Восстание машин: ИИ против человека

Я пошел исследовать, и 1. на всех найденных мной сервисах я прав. Голос заранее синтезируется, потом автотюнится. Самое смешное, что сетка может сгенерить текст на двух людей, но петь его все равно будет один человек.

Я вообще не спец в музыке, но я провел два месяца в обнимку с суно, извел, наверное, тыщ десять тамошних пойнтов, получил примерно полсотни радующих меня песен. Но бля. Это такой корейский рандом. При этом я получал и хор, анон, и имитацию лайв концерта, и очень отличающиеся ритмы, и даже, бля, распевку на два разных голоса, с куплетами от мужика и женщины в одном месте. И все это, все это, на идентичные промпты, где ничего про это в промптах не было!

а, и вокализ не пробовал, но заставить суно намычать хм-хм-хммм получалось без проблем, с вокализом попробую завтра.

Отредактировано (2024-12-20 00:00:22)