Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

У меня ощущение что чел просто попробовал.

Про желание поглажек у чувака с нейросетью ты у него самого прочитал или сам придумал?

Так он это в стол сделал или запостил с тегами? Как его нашли-то?

Анон

Re: Восстание машин: ИИ против человека

Так он это в стол сделал или запостил с тегами?

А, ты из секты "все в интернете делается для меня".

Анон

Re: Восстание машин: ИИ против человека

Ну как бы. Теги ставят затем, чтобы по ним искали контент.

Анон

Re: Восстание машин: ИИ против человека

Чел натренировал нейросеть рисовать в стиле недавно умершего художника:

Серебряные Яйцеглавы. Там не то, что каринки, там целые книжки. Финал специфицский, Лейбер такой Лейбер.

Анон

Re: Восстание машин: ИИ против человека

Так он это в стол сделал или запостил с тегами?

Он запостил в твиттере с тегами, но это не ответ на вопрос, откуда ты взял идею про его желание поглажек - у него прочитал или сам придумал.
Там не было тегов "гладьте_все_меня_срочно", если что.

Анон

Re: Восстание машин: ИИ против человека

Там не было тегов "гладьте_все_меня_срочно", если что.

А, ну тогда конечно, чего это я 

Анон

Re: Восстание машин: ИИ против человека

Давайте я лучше байку с работы расскажу.
У нас же огромная база КТ снимков и пришла идея не может ли наш ИИ прогнозировать какие импланты подходят конкретному пациенту. Базу мы набираем у партнеров только, знаем клинику/центр где делали скан, год рождения и пол пациента только. Обучили, сначала попробовали наши партнеры в Германии, сделали несколько кейсов, когда доктор сомневался между вариантами имплантации и выбрал тот, что подсказывал ИИ, зарепортили кейсы где клинический выбор отличался, сидим, ждем. Но вроде нормально. Решили подключить центр в США. А оттуда приходит фидбек: знаете, а ваш ИИ то расист  Прогнозирует что у черных не приживётся имплант и не советует проводить имплантацию и впаривает азиатам ненужные процедуры и дорогие импланты.
Вот так мы узнали что по снимку челюсти нейронка очень хорошо определяет расу. И делает далеко идущие выводы. Пришлось сказать: "Упс, сорянчик, доработаем", до сих пор репу чешем и как его учить-то теперь?
Так что если мы ожидали от ИИ беспристрастности, увы, он концентрирует все предрассудки.

Анон

Re: Восстание машин: ИИ против человека

Прогнозирует что у черных не приживётся имплант и не советует проводить имплантацию и впаривает азиатам ненужные процедуры и дорогие импланты.

*анон, работающий с МО, заинтересовался* с азиатами, допустим, могу понять, что происходит - японцы/южнокорейцы побогаче будут, могут выбирать товар подороже и соглашаться на коронки со стразами. А вот что не так с чёрными? получается, у вас в тренировочном датасете у чёрных осложнения часто - это потому, что у них уровень дохода ниже и они услуги худшего качества могут себе позволить, или что?
емнип, на Хабре был прикольный кейс, где нейросетка научилась определять геев по фотографиям. не знаю, чем там дело кончилось

Анон

Re: Восстание машин: ИИ против человека

*анон, работающий с МО, заинтересовался* с азиатами, допустим, могу понять, что происходит - японцы/южнокорейцы побогаче будут, могут выбирать товар подороже и соглашаться на коронки со стразами. А вот что не так с чёрными? получается, у вас в тренировочном датасете у чёрных осложнения часто - это потому, что у них уровень дохода ниже и они услуги худшего качества могут себе позволить, или что?

А черт его знает, анализировать что внутри сетки произошло не можем     Более-менее понятно, что азиатам он просто предлагал протокол лечения азиатский, а они сильно перестраховываются, у них много костной пластики вообще не по делу (РФ тоже, кстати) Он и фигачил вместо коротких имплантов длинные с синус-лифтингом каким-нибудь. Чем ему черные не понравились мы не знаем, даже не догадываемся, мы даже определить не можем кто на тих снимках негр, а кто нет. Мы догадываемся что 14-17 типы негроидной расы, но в карточках этого нет. И нашего оборудования в африканских странах очень мало, мы в самом дорогом сегменте, так что обучался он не на нищих африканцах.

Анон

Re: Восстание машин: ИИ против человека

Чем ему черные не понравились мы не знаем, даже не догадываемся, мы даже определить не можем кто на тих снимках негр, а кто нет.

А в США об этом как догадывались?

Анон

Re: Восстание машин: ИИ против человека

азиатам он просто предлагал протокол лечения азиатский

аааа, так у вас ещё и база собрана в разных странах... тогда понятно.

И нашего оборудования в африканских странах очень мало, мы в самом дорогом сегменте, так что обучался он не на нищих африканцах.

да тут много вариантов может быть. от того, что в Африке специалисты похуже, проходя через то, что хуже культура соблюдения мед.рекомендаций, и заканчивая тем, что лекарства/технологии не тестировались на чёрных, а побочки, специфические для определённой популяции, никто не отменял.

Анон

Re: Восстание машин: ИИ против человека

А в США об этом как догадывались?

Врачи таки видели своих пациентов во очию. И у них, кстати, раса в карточках указывается, это нам уже не передается.

аааа, так у вас ещё и база собрана в разных странах... тогда понятно.

Это тоже наше предположение, так-то. Вообще как очищать данные для обучения и есть самая сложная задача. Просто иногда на сырых данных отлично прокатывает, у нас в дообучении сохранение зуба с трещиной. То есть врач видит зуб, говорит: "это только удалять" и договорились в рамках исследования посмотреть на вердикт нейронки, согласовать с пациентом оставление, если ИИ не против. За 70% на сырых данных сохранение зубов, при том что если просто взять всю выборку, то там меньше 20% успех был бы. Правда это 1 сеть в одной стране, сейчас подпишем еще немецких врачей и посмотрим будет ли разница.

Анон

Re: Восстание машин: ИИ против человека

И у них, кстати, раса в карточках указывается, это нам уже не передается.

То есть алгоритм обезличенный, данные о расе никто не видит, но он таки расистский... Им не пришло в голову, что в таких условиях данные уже можно воспринимать как-то объективно, нет?

Анон

Re: Восстание машин: ИИ против человека

И у них, кстати, раса в карточках указывается, это нам уже не передается.

То есть алгоритм обезличенный, данные о расе никто не видит, но он таки расистский... Им не пришло в голову, что в таких условиях данные уже можно воспринимать как-то объективно, нет?

Нет, правы были именно врачи, потому что ИИ предлагал операции без которых они обошлись и считал неудачными кейсы, с которыми они справляются в практике. Именно из-за этого фичи ПО переходят в общую версию спустя 2-4 года минимум.

Анон

Re: Восстание машин: ИИ против человека

Нет, правы были именно врачи, потому что ИИ предлагал операции без которых они обошлись и считал неудачными кейсы, с которыми они справляются в практике.

Да не, я не про правильность. Просто блет, ну как машина может выдавать что-то расистское, если в нее загружены реальные данные о реальных кейсах, а вовсе не мнение разработчиков? Все вопросы к тем, кто работал с кейсами... о вейт, местные врачи и работали, лол. Может, им виднее, что предлагать своим азиатам и неграм?

Анон

Re: Восстание машин: ИИ против человека

Про расизм: я смотрел видос про обучение арт нейросетей. Они учатся на больших массивах данных, многие как я понил, учат их тупо на картинках выдачи гуглапоиска. А  инторнет не этичнее среднего пользователя, и там только то, что мы туда выгружаем сами. Поэтому потом сетку приходиться учить хорошему, после того, как она нахваталась в инторнетах всякого плохого. В том видосе одна респондентка рассказывала, что если попросить сетку нагенерить  адвокат (на англе, видос был англоязычный) , то ии выдает зачастую исключительно изображения мужиков, что отражает патриархатный уклад общества. А на asian внезапно женщин-проституток  генерила та ии Из чего я делаю вывод что учат они сетки на чем придется на данном этапе, не особо задумываясь. А если учить на хуйне, то в итоге получится... тоже хуйня. Человечество не то чтоб сильно этичное и вумное, ии не может быть лучше.

Отредактировано (2022-10-18 15:41:15)

Анон

Re: Восстание машин: ИИ против человека

А  инторнет не этичнее среднего пользователя, и там только то, что мы туда выгружаем сами.

"Мы не сможем быть добрее чем есть, мы не сможем быть добрее людей" (с)

В том видосе одна респондентка рассказывала, что если попросить сетку нагенерить  адвокат (на англе, видос был англоязычный) , то ии выдает зачастую исключительно изображения мужиков, что отражает патриархатный уклад общества.

А... чего она хотела на рисунке, внегендерное существо? Или четко поровну мужиков и женщин в некоей выборке? Отображается не патриархальный уклад, а реальное положение дел, блин. Ну извините, что в неидеальном мире живем. Короче, опять прескриптивисты с дескриптивистами срутся.

Отредактировано (2022-10-18 15:44:00)

Анон

Re: Восстание машин: ИИ против человека

Отображается не патриархальный уклад, а реальное положение дел, блин.

ну, анон, тут ты не прав. адвокатов-женщин хватает, и женщины-азиатки не все проститутки. однако в массовом представлении адвокат - мужчина, а азиатки - ну, ты понял. и нейросеть выучила это массовое представление, да ещё и то, которое только в интернете. к реальности это не особо имеет отношение

Анон

Re: Восстание машин: ИИ против человека

который на чужом арте без разрешения тренил сеть

кстати, интересно, что копирайтное право на эту тему говорит.

Пока нашли только судебное решение в сша, что результат работы нейросети нельзя закопирайтить, потому что он не является авторской работой.
Поэтому в данный момент большие корпорации стремаются их использовать, тк например любой может взять кусок из сделанного нейросеткой контента и использовать его по своему усмотрению.
Плюс есть такой момент, что даже если мы допускаем, что нейроарт кому-то принадлежит, этим "кем-то" скорее всего окажется разраб нейросетки. И условный чел с "я сделал картинки для своей настолки в миджорни" всегда может упереться в то, что владельцы миджорни выкатят ему иск и потребуют делиться прибылью.

Что насчет использования для обучения непонятно, по сути это явно нарушает принцип добросовестного использования, но законы писались давно и не учитывают подобных инструментов.

Кстати такой момент: данные для медицинских нейросеток как раз собираются с согласия людей, вроде даже было какое-то судебное разбирательство, когда какую-то компанию заставили все удалить, потому что данные были собраны с наркшением.
Данные музыкальных нейронок собираются только с музыки, не попадающей под копирайт, потому что разрабы ссут что их засудят лейблы.

Арты пока чуть ли не единственная сфера, где обладатели прав на контент, по которому обучается нейросетка, категорически против такого ичпользивания, так что наблюдаем за развитием событий.

Анон

Re: Восстание машин: ИИ против человека

Из чего я делаю вывод что учат они сетки на чем придется на данном этапе, не особо задумываясь.

А как ты предлагаешь выбирать на чем их учить? Если не интернет, то что? Книги классиков? Картины из галерей? Вон, в соседнем треде картин от ии люди ржут что нейросети до сих пор не разобрались как человеческие руки выглядят, хотя казалось бы, столько фото и рисунков в их распоряжении, а ты предлагаешь ограничить ресурсы еще больше? Но так учиться придется намного дольше.

Анон

Re: Восстание машин: ИИ против человека

ну, анон, тут ты не прав. адвокатов-женщин хватает, и женщины-азиатки не все проститутки. однако в массовом представлении адвокат - мужчина, а азиатки - ну, ты понял.

ИИ тренируется не на массовом представлении, а на пропорциях контента в интернете. Адвокатов-мужчин все еще тупо больше. Никто не говорит, что это хорошо, или что это надо поддерживать, оно _просто_вот_так_есть, и с какой стати сетка должна выдавать что-то другое, если датасет для обучения ей не ограничили?
Особенно интересно, как на рисунке нейросети опознали проститутку, у нее табличка с ценой в руках была или что? А почему на запрос генерят секси азиаток - потому что порно, ну.
Нейросети всего лишь зеркало реальности, инструментом ее изменения они не будут еще очень долго. Традиционное искусство этой роли добивается в очень редких случаях, и то чаще литература, чем живопись.

Отредактировано (2022-10-18 15:59:12)

Анон

Re: Восстание машин: ИИ против человека

А как ты предлагаешь выбирать на чем их учить?

Зависит от цели будущего использования этой сети. Хотите идейно правильное, толерантное и прогрессивное - уж выберите правильный контент, пжалста. Да, это дохуя дольше и затратнее, а что теперь.

Анон

Re: Восстание машин: ИИ против человека

@Анон #95,
Я предлагаю им заказывать или выкупать контент для обучения, а не считать что все лежащее в инторнетах ита бисплатно.

Анон

Re: Восстание машин: ИИ против человека

Я предлагаю им заказывать или выкупать контент для обучения, а не считать что все лежащее в инторнетах ита бисплатно.

ты себе представляешь объёмы, которые нужны для обучения той же миджорни? дело даже не в том, что такое колво контента не оплатишь - его и не сгенерируешь намеренно. даже того, что всё человечество десятилетиями генерировало и в интернет выкладывало, всё равно вообще-то маловато.

Анон

Re: Восстание машин: ИИ против человека

Да не, я не про правильность. Просто блет, ну как машина может выдавать что-то расистское, если в нее загружены реальные данные о реальных кейсах, а вовсе не мнение разработчиков? Все вопросы к тем, кто работал с кейсами... о вейт, местные врачи и работали, лол. Может, им виднее, что предлагать своим азиатам и неграм?

Если люди действуют под расистскими/национальными стереотипами, а потом это переходит в нейро сеть, это значит что сетка заражена этим расизмом. И смысл нашей работы в том, чтобы лучшие практики распространять по миру, а не собирать стереотипы. То что японцы меньше судятся с врачами и больше находятся в модели "доктор лучше знает, молчи пациент", поэтому получают не нужные операции и проходят через длительную болезненную реабилитацию, не значит что нужно поддерживать этих докторов. Они не лучше знают, они используют свое положение.