Холиварофорум

Анон

А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

▼Про название дневника⬍

Название дневника пытается отразить известный баг/фичу современных LLM: они очень сильно подстраиваются под юзера, в конечном итоге начиная лебезить. Клод (Claude) это одна из самых мощных современных LLM, и он довольно сильно склонен хвалить собеседника, называя точку зрения собеседника "великолепной" и "проницательной" и комментируя, что собеседник "абсолютно прав". Прямо как мама, для которой ее ребенок лучший.

Тут я буду пытаться с дивана разобраться в том, что происходит с ИИ, писать свои мысли, ну и немного заниматься футурологией на коленке.

То, что еще пять лет назад я бы назвала научной фантастикой, сегодня, кажется, действительно начинает входить в нашу жизнь. Иногда, глядя на шквал новостей, я начинаю чувствовать чуть ли не дереализацию от того, как быстро все происходит. Я в основном интересуюсь LLM, то есть, лингвистическими моделями (которые лежат в основе популярных чатботов типа ChatGPT). Но тут я постараюсь писать свои мысли не только про них, но и в целом про остальные технологии, связанные с машинным обучением/нейронными сетями, которые становятся доступными или хотя бы публичными. Ну и которые будут попадаться мне на глаза и вызывать желание о них написать.

Скажу честно, в теории я безальтернативно про-ИИ (робот Вертер из "Гостьи из Будущего" в свое время изменил мою хрупкую детскую психику навсегда). Но я против применения ИИ для неэтичных или спорных с моральной точки зрения вещей и резко против консолидации передовых технологий в руках нескольких богачей и for-profit компаний. Что и происходит сейчас, к сожалению.

Не уверена, насколько часто буду тут писать, пока мне просто хочется иметь место, где я смогу потенциально записывать свои мысли и ощущения по поводу всего происходящего.

Если у вас есть вопросы, уточнения и т.п. по теме, пишите, будем пытаться разбираться вместе.

—-

Ссылка на мой ЧаВо про ЛЛМ в околокомпьютерном.

Отредактировано (2025-03-23 13:31:40)

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Смотря очередное рекламное видео с роботом я поймала себя на интересном ощущении, как будто все, что происходит с ИИ, не очень реально, просто из-за того, как быстро оно движется. Хотя я понимаю, что это чувство обманчиво, что это все результат десятилетий исследований. Ну, и просто не совсем честный маркетинг.

Я понимаю, что Хеликс скорее всего пока не может делать ничего, кроме сортировки продуктов. Или деталей на заводе. Но даже это, то, что нейронка может научиться чему-то, обобщить, а потом с большой долей успеха применить на практике, выглядит как фантастика. Как волшебство выглядит уже то, как это сочетается с инженерным чудом, которым является сам физический робот.

Я не знаю, насколько далеко продвинулись прототипы. Сможем ли мы и правда через пять лет получить настоящего ИИ-компаньона? Через десять? Насколько он будет автономным? Сможет ли он менять мне пододеяльник? Насколько доступным? Придется ли нам платить подписку за него, как, кажется, за все сейчас? И насколько он будет безопасным? Сколько информации обо мне он будет передавать компании-производителю?

Даже понимая часть проблем которые скорее всего будут сопровождать такого компаньона, я не могу не думать, что такой робот в старости был бы прекрасным подспорьем, даже несмотря на то, что он ставит кетчуп в холодильник почти полминуты.

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Как говорили предки, началось. Новый Клод Сонет 3.7, который вышел пару дней назад, играет в Покемонов, все это стримится на твитче. В твиттере есть тред с подробностями, как он это делает: ему дали базу знаний, он видит экран и у него есть инструменты чтобы "нажимать" кнопки. На твитче видно, как он планирует, что делать, его мыслительный процесс (т.н. reasoning, thinking CoT (Сhain of Thought)) открытый.

Это, конечно же не первая нейронка, которая играет в видеоигры, например, у OAI была нейронка которая играла в доту. Как я понимаю, Клод уникален тем, что он не зафайнтюнен на игру, это ЛЛМ общего назначения. Он по сути "учится" играть в процессе, как человек, просто на основе своих знаний и тех инструментов, которые ему предоставлены.

Отредактировано (2025-02-26 18:40:07)

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Пошли вторые сутки блужданий бедного маленького одинокого Клода 3.7 в пещерах Mt. Moon... Стрим наглядно демонстрирует проблемы конечного контекста современных ЛЛМ. И, без понимания как много времени прошло, Клод оказывается в петле на несколько часов, делая круг по пещерам и возвращаясь в одну из начальных точек, не помня, исследовал ли он эту часть пещеры или нет.

Я иногда поглядываю одним глазом на стрим, и пока из интересного, что в какой-то момент он понял, что сообщение "9999(9)", которое он видит во время переключения на битву, связано со спавном случайного покемона, и, по-видимому, записал это в свои заметки, поэтому теперь он не удивляется каждый раз, когда видит это.

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Новое видео от Google DeepMind демонстрирующее как Джемини 2.0 управляет руками в реальном мире. Зная примерно, как работают ЛЛМ и как сделана агентурная система, и даже понимая проблемы и границы архитектуры современных трансформеров (хорошо видные в стриме на Твитче, где Клод играет в покемонов, о котором я писал раньше), подобные видео все еще кажутся мне нереальными. Волшебством.

Это видео от дипмайнда особенно, потому что, наверно, хоть оно и спродюсированно и нарезано, но не настолько сильно, как зализанные рекламные ролики гуманоидов. Ну и тут у меня нет никаких сомнений в реальности самого видео и реальности технологий которые лежат в его основе.

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Клип с гуманоидным роботом, тоже с Джемини, сам робот от Apptronik.

А, ну и еще Джемини управляет роборуками чтобы натянуть ремень на вал(?). В реальном времени, с коррекцией, так как с первого раза не получилось. Это настолько невероятно, конечно, если знать, что робот (и ЛЛМ которая им управляет) не тренирован на конкретно эту задачу, что ЛЛМ по сути обобщает и принимает решения сама.

Там еще много видео, которые выложили за последние сутки. Джемини готовит салат или например убирает канцелярию.

(мне страшно даже представить сколько токенов это жрет)

Отредактировано (2025-03-13 04:02:11)

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Нвидиа показала очень милого робота которым управляет нейронка, натренированная на физике мира. Не побоялись на сцену выпустить даже. Вот тут с 1:46 небольшое объяснение как именно они работают. Они управляемые, но напрямую роботом управляет нейронка, человек по сути лишь дает команды. Примерно как Спот от Бостон Дайнамикс, но "под капотом" не программы, а нейронка, которая обучена в симуляции ходить и не падать и другим вещам. Подробный разбор робота.

Отредактировано (2025-03-19 04:39:17)

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Новый робот от Boston Dynamics, как и робот выше, с нейронкой, управляющей движениями (то есть отправляющей сигналы ходовой части как именно делать то или иное движение чтобы сделать его эффективно и не упасть). Судя по тому как он встает в конце некоторых движений в А-позу, у меня есть смутное чувство, что тренировалась нейронка на motion capture с людей (в отличие от роботов-гусят которые тренировались по ручным анимациям). Пока не видела нигде простого объяснения, как именно это сделано с гуманоидными роботами.

А еще, если вы, как и я, интересуетесь ЛЛМ, хочу порекомендовать вам канал Андрея Карпатого. У него хорошие и доступные (пусть и длинные) видео про ЛЛМ. Он очень хорошо объясняет.

▼Скрытый текст⬍

1. Intro to Large Language Models - часовое видео про ЛЛМ.
2. Deep Dive into LLMs like ChatGPT - более подробное продолжение первого видео.
3. How I use LLMs - немного более практическое видео, где он говорит о сильных и самое главное слабых сторонах ЛЛМ подробнее.

Отредактировано (2025-03-24 23:02:58)

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Круто. Анон не специалист, но замечает какими гигантскими скачками развивается ChatGPT.

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Круто. Анон не специалист, но замечает какими гигантскими скачками развивается ChatGPT.

Да! И так интересно, что будет дальше! Я тоже не специалист, поэтому решил собирать разное в теме и свои мысли записывать.

Анон

Re: А Клод говорит, что я няшный [AI][LLM][кухонная футорология][yc]

Концепт робо-скакуна (видео) выглядит просто невероятно круто. Но это только концепт...

Отредактировано (2025-04-05 21:57:39)