Холиварофорум

Анон

Мирный тред нейронок и потенциальных ИИ

Тред для обсуждения прогресса в области машинного обучения и разработок ИИ, включая нейронки (но не ограничиваясь). Перетираем за технологии, юридические тонкости, этические проблемы и потенциальные последствия для экономики и социума. Дискуссии приветствуются, но давайте всё-таки без срачей, а то научим ещё Скайнет плохому.

Как нынешний прогресс в области МО/ИИ повлияет на качество жизни большинства людей?

1. Жизнь станет лучше. Новые лекарства, меньше тупой работы, безусловный базовый доход...(голосов 32 [29.09%])

   29.09%

2. Жизнь станет хуже. Безработица, рост социального неравенства, экономические кризисы...(голосов 36 [32.73%])

   32.73%

3. Да никак не повлияет(голосов 32 [29.09%])

   29.09%

4. Кнопочка!(голосов 10 [9.09%])

   9.09%

Всего голосов: 110

Когда мы создадим сильный ИИ?

1. В ближайшие год-два(голосов 6 [5.45%])

   5.45%

2. В ближайшие десять лет(голосов 39 [35.45%])

   35.45%

3. В ближайшие пятьдесят лет(голосов 27 [24.55%])

   24.55%

4. Через 50+ лет(голосов 11 [10%])

   10%

5. Мы его не создадим, кишка тонка(голосов 16 [14.55%])

   14.55%

6. Кнопочка!(голосов 11 [10%])

   10%

Всего голосов: 110

Гости не могут голосовать

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Меж тем в конгресс США внесли законопроект против дипфейков с уголовным наказанием, а значит кое-кому придется вычищать свои датасеты и переобучать сеточки, чтобы не попасть под распространение, если там реально нагенерить компромат на реального человека.
Так же это с высокой вероятностью ебнет по домашним сборкам стабильной диффузии, потому что они по сути идеальный инструмент для дипфейков, и разрешив загрузить такую сборку на сайт/гугл коллаб/еще куда, именно хозяева сайта получают риск отправиться в тюрячку, если помимо анимешных лолечек сборка генерит например порнушку с косплеершами.   

Отредактировано (2022-12-21 03:38:11)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Миджорни? Мне казалось, что она там пятнышками синтезирует, а не именно 3д формой.

анон, я про то, как нейросети учатся. они обобщают информацию о форме в одних "нейронах", о взаимном расположении частей тела - в других нейронах, о стиле мазка - в третьих...

Это немного противоречит тому, что я знаю о нейронках, и я с интересом бы почитал, если б ты вкинул инфу об алгоритме обучения, который так делает.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

кое-кому придется вычищать свои датасеты и переобучать сеточки, чтобы не попасть под распространение, если там реально нагенерить компромат на реального человека.

Ага, а если прифотошопить голову училки к порноактрисе, то всю Адобе посодют, это же именно так работает.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

кое-кому придется вычищать свои датасеты и переобучать сеточки, чтобы не попасть под распространение, если там реально нагенерить компромат на реального человека.

Ага, а если прифотошопить голову училки к порноактрисе, то всю Адобе посодют, это же именно так работает.

А Адоб тоже содержит в себе готовую сжатую инфу об училке, сиськах и прочем, которую можно получить в виде фотореалистичного изображения по запросу "училку х ебет собака"? 
Или может команды, делающие плагины к адоб, рекламируют себя в духе "мы соберем кучу фото косплейщиц и надрочим программу, чтобы вы могли легко генерить с ними порнушку?"

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Тем временем копирайт - 1 : нейросеть 0.

Ну хз, зато эта же автор на стоковых сайтах за два месяца на $300 ИИ-картинок продала и продолжает продавать
https://twitter.com/icreatelife/status/ … 0980585475
https://stock.adobe.com/contributor/208 … kashtanova

Отредактировано (2022-12-21 19:59:44)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Тем временем копирайт - 1 : нейросеть 0.

Ну хз, зато эта же автор на стоковых сайтах за два месяца на $300 ИИ-картинок продала и продолжает продавать
https://twitter.com/icreatelife/status/ … 0980585475
https://stock.adobe.com/contributor/208 … kashtanova

Пользуется дыркой в законах, пока может.
Что интересно, адоб в правилах по загрузке нейропикч прописал, что "вы должны обладать правами на него", а теперь получается, что прав-то ни у кого нет. Интересно, как они будут разруливать этот вопрос.

И это все еще не дошло до той стадии, когда бизнес самого адоба пойдет по пизде, пушто никому не надо будет покупать стоковые картинки, имея возможность их генерить, или дорогущие программы для рисования, когда они себя не окупают.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Еще из новостей: кикстартер засуспендил кампанию, где собирали деньги на то, чтобы "дополнить" стабильную диффузию 2.0.
"Дополнять" планировали, заново обучив СД на стилях некоторых художников, которых оттуда убрали (вроде Грега Рутковски), нсфв, и фотографиях косплееров.
Лично я очень рад, потому что имхо открытый сбор бабла на инструмент для упрощенного производства порно-дипфейков это пиздец.

Отредактировано (2022-12-21 21:09:41)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

кто-то научился отвечать на вопросы из
mathoverflow чат-ботом chatGPT

https://lj.rossia.org/users/tiphareth/2487790.html

И дальше по ссылкам чудесная статья.
https://www.theregister.com/2022/12/06/ … i_gpt_ios/
Не художникам худо будет, не художникам…

Анон

Re: Мирный тред нейронок и потенциальных ИИ

И дальше по ссылкам чудесная статья.
https://www.theregister.com/2022/12/06/ … i_gpt_ios/

Это хорошая статья, и я почти согласна с ней.
Но автор в одном из аргументов говорит, что "нейронки будут дообучать на текстах других нейронок и количество повторяемых ошибок возрастёт".
Хотелось бы уточнить, что самые слабые копирайтеры, которые уже заполонили пространство, работают точно также.
Количество ошибок, перепичатывание старых статей, использование контента из старых сайтов, вынутого из контекста, выкупание популярных URL с нормальной информацией для продвижения своего сайта.

Другими словами, интернет уже засран.
Старая гвардия ещё помнит как выглядит нормальный сайт, и может нашаманить себе результат в поисковике иногда (хотя этот анон доходили до чтения научных статей во время поиска ответов на бытовые вопросы), но тренд "легче найти видео с ответом на вопрос" появился у молодёжи не спроста.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Хотелось бы уточнить, что самые слабые копирайтеры, которые уже заполонили пространство, работают точно также.

Другими словами, интернет уже засран.

Поэтому давайте засирать его в миллион раз быстрее, и заодно удалим кучу рабочих мест.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Поэтому давайте засирать его в миллион раз быстрее, и заодно удалим кучу рабочих мест.

Анон, ты чего такой агрессивный с утра. Я ж не защищал ни нейронки, ни засирание интернета, и со статьей согласился.

Мне просто показалось странным, что автор говорит о каком-то явлении, которое произойдет в будущем, так, как будто оно не происходит сейчас.
Кмк, если бы он написал, что это сейчас тоже происходит – это было бы неплохим аргументом "тренд в этом направлении уже есть и нехилый, очевидно с удешевлением он усилится".

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Кмк, если бы он написал, что это сейчас тоже происходит – это было бы неплохим аргументом "тренд в этом направлении уже есть и нехилый, очевидно с удешевлением он усилится".

Так вроде же он так и пишет?

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Так вроде же он так и пишет?

Вот в этом параграфе:
"It's one thing to live in an era of fake news in part because for most thinking people, it's obviously fake. When the internet repeats a mistake often enough it becomes truth and that is the most insidious accidental outcome of all of this."
Тут прямо не говорится, но по контексту вроде подразумевается, что сейчас мы можем отличить правду от неправды.
А кмк, уже нет.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Но вообще это занятное ограничение нейросетей, натренированных на скраппинге всего что под руки попадется. Они звучат умно, им доверяют потому что поп-культура приучила нас к умным роботам, но они всего лишь повторяют то, что есть в интернете. А интернет - помойка.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Так, аноны, я принёс жирнющую тему.
Какой-то чувак нашел промпт, который заставил GPT3 вести себя как терминал Убунту.

▼скрины⬍

И чувак начал изнутри этой машины ходить по интернету

▼скрины⬍

Сама статья очень крутая, особенно тот момент, когда чувак зашел на сайт gpt.

Но меня заинтересовал этот комментарий

This is batshit crazy. First it would not create connections with Lynx, until I gave it a "permission" to use my computer's internet connection, whence it was happy to dream me up websites. Our company's website was there seemingly in full, with clickable links which seemed to contain the right content. The date command gave a date on 2020, and bizarrely time passed in the session, although at a lot lower pace than in real life. How was this information retained? On the news sites there were news articles on place, and I could read them. Changing the system date changed the content of the news sites, although it seems that all the content was from sometime around 2020-21. My brain is literally in knots right now... Also, different sessions are a bit different between each other

Кмк, это доказывает, что gpt именно хранит все данные внутри себя. И их можно из неё получить.
Если там забили хрен полностью на лицензию, то теоретически оттуда можно вынимать книги полностью, например.

Я пошел играться с нейронкой, в общем :D

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Кмк, это доказывает, что gpt именно хранит все данные внутри себя.

Если это так, то это может очень сильно ударить по их репутации в плане копирайта.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Кмк, это доказывает, что gpt именно хранит все данные внутри себя.

Если это так, то это может очень сильно ударить по их репутации в плане копирайта.

Не факт, Гуглу несколько лет назад простили хранение книг в Google Books, аргументировав это тем, что хотя полный текст есть внутри системы, пользователю он выдается небольшими цитатками, и поэтому не вредит продажам книги, а наборот стимулирует покупателей.
Тогда это казалось довольно разумным, сейчас открывает дорогу невероятному количеству злоупотреблений, но так или иначе в США прецедентная система.

С другой стороны, если этот чатбот позволяет целиком получать какую-то закопирайченную собственность типа коротких рассказов, программ и т.п....

Анон

Re: Мирный тред нейронок и потенциальных ИИ

https://www.reddit.com/r/ChatGPT/commen … are_button

Ещё одно доказательство, что с достаточно точным запросом из midjourney можно вытащить почти копию работы.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Аноны, читали про чела, который продает на амазоне детскую книгу, написанную и нприсованную нейросетями? Арты неотредаченные, прям со всеми косяками крипи пальцев, глаз, онотоме, итд. Называется Alice and Sparkle, на твитуре можно найти небольшой срач. “Автор” склепал книгу за уикенд, прост чтоб показать, что это возможно, по его словам. Отзывы на книгу на Амазоне от максимально хвалебных до однозвездных. Хотя возможно в итоге его пидорнут с площадки продаж, как было с тем “автором” комикса, запиленным в миджорни (из-за авторских прав на картинки, сгенерированные на миджорни без платной подписки )

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Кмк, это доказывает, что gpt именно хранит все данные внутри себя.

Я как-то игрался с яндексовской балабобой ("вдохновлённой gpt", лол) для какого-то флэшмоба, так эта хрень мне выдала цитату Эйнштейна. Целое длинное предложение в неизменном виде. Не знал, ржать или фейспалмить.

С другой стороны, если этот чатбот позволяет целиком получать какую-то закопирайченную собственность типа коротких рассказов, программ и т.п....

This. Прецеденты прецедентами, но если пользователь таки вытащит из нейронки что-то полностью, прецедент с гугл-книгами вполне можно оспорить, кмк. 

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Аноны, читали про чела, который продает на амазоне детскую книгу, написанную и нприсованную нейросетями? Арты неотредаченные, прям со всеми косяками крипи пальцев, глаз, онотоме, итд. Называется Alice and Sparkle, на твитуре можно найти небольшой срач. “Автор” склепал книгу за уикенд, прост чтоб показать, что это возможно, по его словам. Отзывы на книгу на Амазоне от максимально хвалебных до однозвездных. Хотя возможно в итоге его пидорнут с площадки продаж, как было с тем “автором” комикса, запиленным в миджорни (из-за авторских прав на картинки, сгенерированные на миджорни без платной подписки )

Пидорнуть-то его может и не пидорнут, но любой может скопировать "его" книгу и продать рядом

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Аноны, читали про чела, который продает на амазоне детскую книгу, написанную и нприсованную нейросетями? Арты неотредаченные, прям со всеми косяками крипи пальцев, глаз, онотоме, итд. Называется Alice and Sparkle

Эта "книжка" как раз хорошо показывает, почему детям не стоит давать сгенерированный AI контент. Даже если СДВГ не было, после такого он с высоким шансом появится, потому что такие картинки буквально наказывают того, кто слишком внимательно их рассматривает.

Хотя возможно в итоге его пидорнут с площадки продаж, как было с тем “автором” комикса, запиленным в миджорни (из-за авторских прав на картинки, сгенерированные на миджорни без платной подписки )

У Каштановой была премиум подписка, и копирайт офис пидорнул ее, несмотря на это. Да, это означает, что миджорни обманывает своих клиентов: никаких прав на использование они не получат, пока законы не изменятся.

Отредактировано (2022-12-22 15:51:42)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я как-то игрался с яндексовской балабобой ("вдохновлённой gpt", лол) для какого-то флэшмоба, так эта хрень мне выдала цитату Эйнштейна. Целое длинное предложение в неизменном виде. Не знал, ржать или фейспалмить.

Есть вроде правило, что цитаты попадают под fair use, если они не больше скольки-то там процентов оригинала.
Кстати именно поэтому можно схлопотать иск за строчку из какой-нибудь песни. Средний текст песни такой короткий, что даже несколько слов могут превысить допустимый процент.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Даже если СДВГ не было, после такого он с высоким шансом появится, потому что такие картинки буквально наказывают того, кто слишком внимательно их рассматривает.

▼офф⬍

Я надеюсь, что ты просто забыл табличку или типа того. СДВГ это нейрологическое расстройство, а не результат просмотра всратых картинок.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Есть вроде правило, что цитаты попадают под fair use, если они не больше скольки-то там процентов оригинала.

Fair не fair, но я тогда понял, что походу они хранят там довольно крупные куски текстов, на которых обучались, и при неудачном стечении обстоятельств могут выдавать их пользователям как есть.
Это было досадно, я-то хотел типичную странненькую генерацию с оттенком шизофазии, а не афоризм, который я и так знаю.