Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

принципиально необучаемы

После этого можно и не читать.

Анон

Re: Восстание машин: ИИ против человека

принципиально необучаемы

эээ, чо? файн-тюнинг вышел из чата...

не отвечают ни за что

они и не должны отвечать. калькуляторы тоже ни за что не отвечают, бухгалтер отвечает)
сетки - это инструмент. когда-то инструменты годились только на то, чтобы перемножать шестизначные числа, потом - на то, чтоб решать диффуры, потом на то, чтобы печатать тексты с возможностью редактирования и фоточки ретушировать, а теперь вот годятся на то, чтобы генерировать полноценный текст по списку тезисов, делать околохудожественный перевод среднего качества и создавать кусочки видео из краткого описания сцены. но вводные данные-то по-прежнему поставляет мясной человек, и за результат отвечает тоже он.

Анон

Re: Восстание машин: ИИ против человека

Кстати о защитниках и противниках нейронок - как всегда, концы подковы сходятся. Что у многих ярых "за", что "против" две характерные особенности: антропоморфизация ИИ и абсолютизм ("ааа, нейронка правильно ответила на вопрос, буду всегда приносить ее ответы как оракула" и "ааа, нейронка не справилась с каким-то конкретным заданием, нейронки необучаемы и бесполезны")

когда нейронки в случаях, в которых люди бы как-то двигались к цели, творили хуйню. обсуждение

Ты сам-то читал это обсуждение? Там полно рассказов от людей, как они то же самое испытывали с человеческим аутсорсингом

▼Скрытый текст⬍

These GH interactions remind me of one of those offshore software outsourcing firms on Upwork or Freelancer.com that bid $3/hr on every project that gets posted. There's a PM who takes your task and gives it to a "developer" who potentially has never actually written a line of code, but maybe they've built a WordPress site by pointing and clicking in Elementor or something. After dozens of hours billed you will, in fact, get code where the new file wasn't added to the csproj or something like that, and when you point it out, they will bill another 20 hours, and send you a new copy of the project, where the test always fails. It's exactly like this.
Nice to see that Microsoft has automated that, failure will be cheaper now.

▼Скрытый текст⬍

This gives me flashbacks to when my big corporate former employer outsourced a bunch of work offshore.
An outsourced contractor was tasked with a very simple job as their first task - update a single dependency, which required just a bump of the version and no code changes - after three days of them seemingly struggling to even understand what they were asked to do, inability to clone the repo, failure to install the necessary tooling on their machine, they ended up getting fired from the project. Complete waste of money, and the time of those of us having to delegate and review this work.

Анон

Re: Восстание машин: ИИ против человека

Просто прочитал вчера про xai

XAI это странный феномен.
Появились 2 года назад, сделали гиммик-нейронку, которая ничего не могла, спустя 2 года у них уже топовая нейронка по тестам и очень большой кластер для обучения.
При этом компания закрытая и откуда деньги, непонятно.

Анон

Re: Восстание машин: ИИ против человека

Мой аргумент как "защитника нейронок" - "а что если в среднем качество человечьей работы - отстой".

То надо стремится его повысить. Улучшать ОТК, регулировать нижнюю планку.

"что если люди тоже творят херню" — это тот же самый аргумент "что если всем насрать", но с дополнительным обвинение  "ну вам же уже насрать, когда люди творят хуйню".

Нет, мне не насрать. И когда люди хуево делают — мне тоже не насрать. Если где-то есть индустрия производства говна — это плохо

Анон

Re: Восстание машин: ИИ против человека

То надо стремится его повысить. Улучшать ОТК, регулировать нижнюю планку.

а как ты это сделаешь? опять же, я только за. конкретные предложения у тебя какие?
справедливости ради, я много общаюсь с коллегами-профессорами (я из академической среды), и получаю бимодальный фидбек. часть профессоров ругаются, что студенты приходят на экзамены, подготовившись по ЧатЖПТ, и несут бред, а вот нет бы учебник открыть и прочитать! а часть говорят: а вот у меня студенты, которые раньше выпадали из учебного процесса, потому что не тянули чтение учебника, начинают хоть во что-то вникать, и если им показать, как пользоваться ИИшками, они начинают учиться лучше и иногда даже до учебников доходят. (помнится, когда я был студентом, мои профессора точно так же ругались на Википедию )

Анон

Re: Восстание машин: ИИ против человека

а как ты это сделаешь?

давать переводы на проверку ИИ 
дранон

Анон

Re: Восстание машин: ИИ против человека

Ты сам-то читал это обсуждение? Там полно рассказов от людей, как они то же самое испытывали с человеческим аутсорсингом

Угу, люди так тоже могут. Но я не понимаю, с чего сраная айтишная корпорация, которая сама разрабатывает ИИ совершила такой проеб. Они по идее должны понимать возможности ИИшки

эээ, чо? файн-тюнинг вышел из чата...

Анон, она необучаема в человеческом смысле. Понимаешь, когда ты говоришь живому стажёру "так делать плохо", он +- сразу перестает так делать. И уж стажёр, видя поле в snake_case не пишет "json поля должны быть в snake_case, исправь". Файнтюнинг ГПТшки это не день и не два, а ещё он может легко сбить RL, который отвечает за то, чтобы нейронка была за все хорошее. И не факт, что твой запрос в этом процессе исправится.

они и не должны отвечать.

Я согласен. Но когда мы говорим "Нейронка не хуже хуевого врача", мы не учитываем, что врач за свои действия несёт ответственность перед законом, вкатун в айти несёт ответственность перед компанией, переводчик имеет какую-никакую репутацию и так далее

Анон

Re: Восстание машин: ИИ против человека

а как ты это сделаешь?

Ты мне предлагаешь всю индустрию революционеровать или что?
Лично я не продаю хрень непонятного качества, и не покупаю хрень непонятного качества. Мне хватает этого.

Пометка "переведено ИИ" для меня пометка "хрень непонятного качества". На конкретного переводчика я могу отзывы посмотреть, если это неизвестный мне язык, на ИИ не могу. Для специализированной  литературы ещё проверяю список переводчиков и экспертов. Если в списке не технические переводчики, и не указаны тех специалисты, то такую книгу можно использовать только для украшения комнаты. Даже если переводчик с ИИ консультировался, чтобы правильно перевести термины, если в проекте нет человека с целостным пониманием предмета — грош цена этой книге.

Анон правильно сверху написал, что у людей есть репутации и ответственность.

Анон

Re: Восстание машин: ИИ против человека

Ты мне предлагаешь всю индустрию революционеровать или что?

я тебя спрашиваю, как, по твоему мнению, можно сделать так, чтобы люди начали производить продукт более высокого качества, мы об этом говорили) ну и честно, я в восторге, если у тебя хватает времени и мозгового ресурса на то, чтобы смотреть на отзывы на переводчиков всего, что ты читаешь...

Анон

Re: Восстание машин: ИИ против человека

чтобы люди начали производить продукт более высокого качества, мы об этом говорили)

над им больше платить и увеличивать конкуренцию....

Анон

Re: Восстание машин: ИИ против человека

я в восторге, если у тебя хватает времени и мозгового ресурса на то, чтобы смотреть на отзывы на переводчиков всего, что ты читаешь...

Ну, у моего друга есть проверенные переводчики ранобэ) Я считаю, что ИИ-перевод в быту, в путешествиях нормальная и полезная вещь. Гугл-транслейт, так-то тоже ИИ-перевод, кстати. Но когда за него требуют деньги — объясните, почему я должен платить за то, что мог бы сделать сам бесплатно?

Анон

Re: Восстание машин: ИИ против человека

ну и честно, я в восторге, если у тебя хватает времени и мозгового ресурса на то, чтобы смотреть на отзывы на переводчиков всего, что ты читаешь..

Ну, я редко читаю. При этом знаю пару изданий по репутации, и знаю, что им можно доверять (я все еще проверяю большую часть книг, если что. И всю техническую литературу. Достаточно один раз потратить неделю на то чтобы попытатся понять почему книга противоречит твоим знаниям и здравому смыслу в паре очень узких моментов, чтобы начать выделять 30 минут на беглый гуглеж)

Отредактировано (Вчера 21:07:50)