Холиварофорум

Анон

Мирный тред нейронок и потенциальных ИИ

Тред для обсуждения прогресса в области машинного обучения и разработок ИИ, включая нейронки (но не ограничиваясь). Перетираем за технологии, юридические тонкости, этические проблемы и потенциальные последствия для экономики и социума. Дискуссии приветствуются, но давайте всё-таки без срачей, а то научим ещё Скайнет плохому.

Как нынешний прогресс в области МО/ИИ повлияет на качество жизни большинства людей?

1. Жизнь станет лучше. Новые лекарства, меньше тупой работы, безусловный базовый доход...(голосов 32 [29.09%])

   29.09%

2. Жизнь станет хуже. Безработица, рост социального неравенства, экономические кризисы...(голосов 36 [32.73%])

   32.73%

3. Да никак не повлияет(голосов 32 [29.09%])

   29.09%

4. Кнопочка!(голосов 10 [9.09%])

   9.09%

Всего голосов: 110

Когда мы создадим сильный ИИ?

1. В ближайшие год-два(голосов 6 [5.45%])

   5.45%

2. В ближайшие десять лет(голосов 39 [35.45%])

   35.45%

3. В ближайшие пятьдесят лет(голосов 27 [24.55%])

   24.55%

4. Через 50+ лет(голосов 11 [10%])

   10%

5. Мы его не создадим, кишка тонка(голосов 16 [14.55%])

   14.55%

6. Кнопочка!(голосов 11 [10%])

   10%

Всего голосов: 110

Гости не могут голосовать

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Даже если СДВГ не было, после такого он с высоким шансом появится, потому что такие картинки буквально наказывают того, кто слишком внимательно их рассматривает.

▼офф⬍

Я надеюсь, что ты просто забыл табличку или типа того. СДВГ это нейрологическое расстройство, а не результат просмотра всратых картинок.

Ага, расстройство, и окружающая ребенка среда прямо влияет на вероятность его возникновения/степень выраженности. И если окружать ребенка изображениями, которые воспринимаются нормально только если не смотреть на них внимательно, это запросто может повлиять на способность ребенка концентрировать внимание.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Какой-то чувак нашел промпт, который заставил GPT3 вести себя как терминал Убунту.

Я обожаю коллективный разум интернета Круче любой нейросети.
Странно, что так мало людей захотели проверить новостные сайты.
Я решила им помочь.

Отредактировано (2022-12-22 18:21:03)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я решила им помочь.

Если обнаружишь что-то интересное – пиши!
Кмк, есть еще смысл с waybackmachine попробовать посравнивать)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Нет, я терминал линукса не осилю, я им просто кинула ссылку на сайт, где по адресу страницы нельзя понять, что на ней будет.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Нет, я терминал линукса не осилю, я им просто кинула ссылку на сайт, где по адресу страницы нельзя понять, что на ней будет.

Анон, там в комментах писали, что можно попросить нейронку представить себя не линуксом, а браузером и присылать тебе только то, что ты запрашиваешь по определенной ссылке, без её комментариев (и все остальные условия, которые чувак прописал)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Хотелось бы уточнить, что самые слабые копирайтеры, которые уже заполонили пространство, работают точно также.

Это и есть идея заметки: производство информационного мусора было ограничено аппетитами организаторов, количеством мисок риса для трудящихся, а также желанием хозяев рекламных сетей сохранять баланс между поступлением денег, результативностью услуги и процентом, который уходил таким площадкам. Тем не менее, даже такими допотопными методами нагенерировали океан дерьма для обучения как двуногих, так и компьютерных нейросетей. Теперь миску риса достаточно выдавать погонщику автоматического генератора, соотношение доходов и расходов поменялось, можно перенастроить процесс. Например, на то, чтобы в результатах поиска выдавались одни лишь говносайты и ничего кроме них. Для тех, кто умеет только вводить слова в строку поиска, круг замкнётся. Не будем показывать пальцем, кому подобная массовая неграмотность выгодна, пальцев не хватит.

Принцип, по которому это происходит, давно подмечен: не плохие результаты дополнительной работой подтягиваются к уровню лучших (как это обещают в пресс-релизах), а конечный потребитель привыкает к плохому и начинает считать, что это норма. Ещё пресловутые безмозглые переводы сериалов (вываливаемые как можно быстрее ради сбора ягодок с массы нетерпеливых зрителей в первую очередь) это показали. В стотысячный раз передадим привет любителям рассказать, как рыночек всё порешает. Без идеи, что качество и смысл работы существуют, и что человек может на них опереться, всё сводится к обычному «пипл хавает».

и заодно удалим кучу рабочих мест

Ну ты думай, что говоришь. Так можно и кремлеботов трудягами назвать, а их работодателя — каким-нибудь тягачом экономики районного масштаба.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А я тем временем принес ещё новостей про unstable diffusion.
На патреоне они продержались меньше суток, сейчас их проверяет команда безопасности.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А я тем временем принес ещё новостей про unstable diffusion.
На патреоне они продержались меньше суток, сейчас их проверяет команда безопасности.

Нейробро в их дискорде в такой ярости, что обсуждают сбор на киллера для художников. Если в итоге их забанит даже дискорд, это будет эпик вин.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Нейробро в их дискорде в такой ярости, что обсуждают сбор на киллера для художников.

Ну что, похлопаем дебилам.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Так, аноны, я принёс жирнющую тему.
Какой-то чувак нашел промпт, который заставил GPT3 вести себя как терминал Убунту.

Ого, офигенно 

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Артстейшн начал удалять протестующих с главной https://twitter.com/wickedinsignia/stat … 4638170113

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Статья с кейсом использования ИИ арта для иллюстрирования статей:
«Хакер»: Как мы с DALL-E 2 делали картинки к статьям
https://habr.com/ru/company/xakep/blog/707532/
Цитата:

Тут я усвоил важный урок: если попросить у DALL-E безумную чертовщину, то все получится!

Но они там больше 10 попыток не делали на запрос, не слишком морочились... У хс анонов вышло бы лучше. Но во второй половине статьи есть несколько симпатичных иллюстраций.
Всегда любопытно почитать про реальное применение, когда для работы/проекта используют, а не как игрушку.
В один из ИИ арт тредов ХС вносили уже историю про использование для VN игры, для детской книги...
Как мне кажется по этим статьям, хорошо получается, если за нейросетью потом есть кому дорисовать/поправить явные огрехи.

Отредактировано (2022-12-28 00:17:07)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Статья с кейсом использования ИИ арта для иллюстрирования статей:

Мне понравились питоны с руками И четвероногие гуси

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А я тем временем принес ещё новостей про unstable diffusion.
На патреоне они продержались меньше суток, сейчас их проверяет команда безопасности.

Нейробро в их дискорде в такой ярости, что обсуждают сбор на киллера для художников. Если в итоге их забанит даже дискорд, это будет эпик вин.

Чтоооо. Дайте скрины, умоляю

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А я тем временем принес ещё новостей про unstable diffusion.
На патреоне они продержались меньше суток, сейчас их проверяет команда безопасности.

Нейробро в их дискорде в такой ярости, что обсуждают сбор на киллера для художников. Если в итоге их забанит даже дискорд, это будет эпик вин.

Чтоооо. Дайте скрины, умоляю

Это вряд ли для мирного треда, тут недалеко есть срачный  :hat:

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Это вряд ли для мирного треда, тут недалеко есть срачный  :hat:

А можно ссылку на срачный тред? В закусках не нашёл :'(

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А можно ссылку на срачный тред? В закусках не нашёл :'(

Вот этот, наверно? https://holywarsoo.net/viewtopic.php?id=7386
Треда ИИ прямо со словом "срачный", вроде как, у нас и не было.
Другой анон

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Вот
https://www.holywarsoo.net/viewtopic.php?id=7386&p=11

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Приносили?
США отзывает у художницы лицензию на созданный при помощи нейросети комикс
https://habr.com/ru/news/t/708146/

Бюро регистрации авторских прав США (USCO) находится в процессе отмены решения о предоставлении лицензии на комикс Zarya of the Dawn, который художница Крис Каштанова создала при помощи нейронной сети. Патентно-правовая организация настаивает на том, что изготовленные с использованием инструментов искусственного интеллекта художественные работы не могут подпадать под защиту авторских прав.

▼Скрытый текст⬍

В бюро заявили, что защита лицензионных прав будет аннулирована, поскольку комикс создал не человек. Представители организации подчеркнули, что художественные произведения должны быть созданы людьми, чтобы использовать закон о защите авторских прав.

В сентябре художница из Нью-Йорка Крис Каштанова стала первой художницей, которая добилась защиты авторских прав на произведения, созданные при помощи инструментов ИИ для графического романа Zarya of the Dawn. Преобразование текста в изображения автор производила через софт Midjourney

Каштанова рассказала, что её шокировало новое решение бюро. Она полагала, что члены организации знали, что при создании  Zarya of the Dawn использовались ИИ-инструменты. В USCO пояснили, что изначально не заметили применение Midjourney, хотя название нейросети размещено на обложке комикса.

Художница сообщила, что бюро дало ей 30 дней на обжалование решения об отзыве авторских прав. Ранее USCO отказывала в защите Стивену Талеру и его созданным с помощью ИИ картинам.

Возможно, если бы она как-то редактировала полученные изображения... 

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Ну она сейчас пытается перерисовать лицо Зендаи (она прямо промпты писала по типу "Зендая сидит", что тоже вызывает сомнения в законности) на какое-то другое, наняв под это художника.
Не удивлюсь, если в итоге они перерисуют весь этот комикс руками только для того, чтобы она могла бегать и кричать: смотрите, мой нейро-комикс все же зарегистрировали!
Алсо Каштанова не художница, она прошаренная инфогура и хомяковод типа Вождя на стероидах.

Отредактировано (2022-12-30 04:49:03)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Гугл "выкатил" нейронку: показал результат, но пока не показывает модель\датасет\приложения.
статья

под спойлером большой кусок, где они (на английском) обсуждают ограничения, и этику

▼Limitations and Societal Impact⬍

There are several ethical challenges facing text-to-image research broadly. We offer a more detailed exploration of these challenges in our paper and offer a summarized version here. First, downstream applications of text-to-image models are varied and may impact society in complex ways. The potential risks of misuse raise concerns regarding responsible open-sourcing of code and demos. At this time we have decided not to release code or a public demo. In future work we will explore a framework for responsible externalization that balances the value of external auditing with the risks of unrestricted open-access. Second, the data requirements of text-to-image models have led researchers to rely heavily on large, mostly uncurated, web-scraped datasets. While this approach has enabled rapid algorithmic advances in recent years, datasets of this nature often reflect social stereotypes, oppressive viewpoints, and derogatory, or otherwise harmful, associations to marginalized identity groups. While a subset of our training data was filtered to removed noise and undesirable content, such as pornographic imagery and toxic language, we also utilized LAION-400M dataset which is known to contain a wide range of inappropriate content including pornographic imagery, racist slurs, and harmful social stereotypes. Imagen relies on text encoders trained on uncurated web-scale data, and thus inherits the social biases and limitations of large language models. As such, there is a risk that Imagen has encoded harmful stereotypes and representations, which guides our decision to not release Imagen for public use without further safeguards in place.

Finally, while there has been extensive work auditing image-to-text and image labeling models for forms of social bias, there has been comparatively less work on social bias evaluation methods for text-to-image models. A conceptual vocabulary around potential harms of text-to-image models and established metrics of evaluation are an essential component of establishing responsible model release practices. While we leave an in-depth empirical analysis of social and cultural biases to future work, our small scale internal assessments reveal several limitations that guide our decision not to release our model at this time.  Imagen, may run into danger of dropping modes of the data distribution, which may further compound the social consequence of dataset bias. Imagen exhibits serious limitations when generating images depicting people. Our human evaluations found Imagen obtains significantly higher preference rates when evaluated on images that do not portray people, indicating  a degradation in image fidelity. Preliminary assessment also suggests Imagen encodes several social biases and stereotypes, including an overall bias towards generating images of people with lighter skin tones and a tendency for images portraying different professions to align with Western gender stereotypes. Finally, even when we focus generations away from people, our preliminary analysis indicates Imagen encodes a range of social and cultural biases when generating images of activities, events, and objects. We aim to make progress on several of these open challenges and limitations in future work.

tl;dr наши датасеты были не идеальны, поэтому мы сначала посмотрим получится ли решить проблемы стереотипов сетки (можно ли грузить в сетку говно, но на выходе ожидать, что говна не будет)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

к вопросу о "музыкальных ИИ": https://google-research.github.io/seane … /examples/.
Модель пока не публичная. Думаю, гугл сразу будет целиться на создание сервиса, безо всех этих ваших "опен сорс" заигрываний.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

кмк, оно в плане сериалов скорее будет применяться для алгоритмов подбора контента, типа как у того же тиктока сейчас, может быть для черновой генерации филлерных серий, но не больше.

анон, алгоритмы подбора контента на нейросетях уже много лет работают. а "черновая генерация филлерных серий" - а в чём разница с чистовой генерацией не-филлерных?

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Дисней, который копистрайкает любой звук, похожий на песню из их мультика, например, свои данные так отработать не даст. Обучить можно будет только на том, что на 80 лет устарело, либо на своих разработках. И опять получаем что условный дисней может натаскать нейросетку генерить условный диснеевский мультик, но рядовой юзер себе сериал по запросу не сгенерит, если он не Джеффри Безос.

Как связано обучение нейросетки и дисней? чему именно должна нейросетка обучится именно на работах диснея?

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Как связано обучение нейросетки и дисней? чему именно должна нейросетка обучится именно на работах диснея?

анон, скорее всего, думает, что сейчас пойдут суды, запрещающие обучение на тех датасетах, которые сейчас используются (собранные со всего интернета, зачастую без прямого разрешения авторов контента), и тогда нейросетки смогут тренировать только те, у кого есть права на большие датасеты, годные для обучения (ака Дисней итп)
суды вроде как сейчас начинаются, но я сильно сомневаюсь, что кто-то захочет или сможет по-настоящему запереть этого джинна. время покажет