Холиварофорум

Анон

Мирный тред нейронок и потенциальных ИИ

Тред для обсуждения прогресса в области машинного обучения и разработок ИИ, включая нейронки (но не ограничиваясь). Перетираем за технологии, юридические тонкости, этические проблемы и потенциальные последствия для экономики и социума. Дискуссии приветствуются, но давайте всё-таки без срачей, а то научим ещё Скайнет плохому.

Как нынешний прогресс в области МО/ИИ повлияет на качество жизни большинства людей?

1. Жизнь станет лучше. Новые лекарства, меньше тупой работы, безусловный базовый доход...(голосов 66 [29.46%])

   29.46%

2. Жизнь станет хуже. Безработица, рост социального неравенства, экономические кризисы...(голосов 76 [33.93%])

   33.93%

3. Да никак не повлияет(голосов 59 [26.34%])

   26.34%

4. Кнопочка!(голосов 23 [10.27%])

   10.27%

Всего голосов: 224

Когда мы создадим сильный ИИ?

1. В ближайшие год-два(голосов 11 [4.91%])

   4.91%

2. В ближайшие десять лет(голосов 86 [38.39%])

   38.39%

3. В ближайшие пятьдесят лет(голосов 40 [17.86%])

   17.86%

4. Через 50+ лет(голосов 22 [9.82%])

   9.82%

5. Мы его не создадим, кишка тонка(голосов 43 [19.2%])

   19.2%

6. Кнопочка!(голосов 22 [9.82%])

   9.82%

Всего голосов: 224

Гости не могут голосовать

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я как-то пытался с ним делать простое приложение для себя, и через сутки обсуждений он внезапно ушел в цикл бесконечных вопросов и стал сильно глючить.

Дели большой проект на этапы поменьше и переезжай из чата в чат. Я делал небольшой сайт, а не бота, поэтому тебе надо будет поменять структуру под себя, но общий смысл таков: в первом сообщении описываешь все, что тебе нужно, подумай об этом подольше - вайб (у меня было визуальное оформление, но у бота в тг его вроде нет?), какие есть важные технические моменты, которые тебе нужно реализовать, какая должна быть структура или способ работы; после этого подели создание на несколько шагов, как тебе это кажется логичным. Например, у меня это было так:
Шаг 1. Реализация обновления статов через механизм А.
Шаг 2. Обновления статов через механизм Б.
Шаг 3. Косметические мелочи, типа переключения тем.
Так что я пришел, попросил начать с первого шага исключительно, и весь чат заняло то, что мы что-то поправляли. После взял первое сообщение, начал его с "Вот с чего я начал предыдущий чат:", отметил первый шаг выполненным и попросил сделать второй, приложив код из первого чата.
Конечно, создание бота для тг будет выглядеть по-другому, но общий смысл таков. Самое главно не делать относительно большие проекты в одном чате, потому что он начнет тупить в любом случае так или иначе из-за длинны контекста. Не бойся пересказывать, что у тебя уже сделано, и начинать новый, это очень хорошая практика.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Спасибо, анончик, за подробную инструкцию!

Анон

Re: Мирный тред нейронок и потенциальных ИИ

стоит ли вообще в это ввязываться

А ты на бесплатном или с подпиской? В чатах на сайте такое делать будет заморочно, хоть и возможно, но если ты на подписке, то переползи в командную строку - там дело пойдёт значительно проще
В принципе, я себе таким макаром бота сделал с кучей функционала, памятью, свистелками-перделками - работает очень прилично.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

ИИ обещает, что сам меня за ручку проведет, как раньше, а меня берут сомнения, стоит ли вообще в это ввязываться? Я как-то пытался с ним делать простое приложение для себя, и через сутки обсуждений он внезапно ушел в цикл бесконечных вопросов и стал сильно глючить. Может, он сейчас мне обещает, что все будет ок, а по факту я зря потрачу время?

Очень большая разница между бесплатным и платным, между вчерашним и сегодняшним уровнем моделей, и между самими моделями.
По твоей задаче - Клод Фейбл справился бы точно, но он теперь дорогущий.
Клод Опус на максимуме чуть похуже, но тоже может. Не тупит.
А вот с бесплатными - не уверен. Простенький код они пишут, но на сложных объёмных задачах быстро сдуваются.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

если ты на подписке, то переползи в командную строку

+1
Дело не в командной строке как таковой, а в том, что в командной строке это не просто чат, а агент - он может не просто продиктовать тебе код, он может написать его, запустить, проверить, поправить, убедиться, что он делает то, что нужно и т.д. - и все сам.
И на сегодняшний день агент на современной даже китайской (читай "недорогой") модели может делать очень крутые вещи, для этого не надо Фейбл.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

е просто чат, а агент - он может не просто продиктовать тебе код, он может написать его, запустить, проверить, поправить, убедиться, что он делает то, что нужно и т.д. - и все сам.

Ну и бонусом ещё то, что в терминале он может себе в папке с проектом сохранить ключевую инфу, чего юзер хочет, из самой первой сессии, потом план, разработанный в другой сессии, пометки, что уже сделано, а что ещё только в проекте, из следующих сессий... Т.е. проблема с переползанием из одного чата в другой решается автоматически

Анон

Re: Мирный тред нейронок и потенциальных ИИ

переползи в командную строку

А как это сделать?

Анон

Re: Мирный тред нейронок и потенциальных ИИ

переползи в командную строку

А как это сделать?

Если у тебя есть подписка на ЧатЖПТ или Клода, то самое очевидное - спросить у них, они проведут за ручку.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Ты явно не читал источники. Почитай хотя бы статьи Антропик по интерпретируемости. Тейк "они просто угадывают следущий токен" устаревает на глазах. Уже специалисты напрямую говорят "мы не ебём, что происходит и не знаем, откуда это берётся". Зато у анонов на ХФ всегда всё просто 

Все эти "нейронка сама взломала Пентагон" это просто пиар. Сама по себе без указки LLM ничего не делает. Она вообще языковая модель — не умеет думать.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Все эти "нейронка сама взломала Пентагон" это просто пиар. Сама по себе без указки LLM ничего не делает. Она вообще языковая модель — не умеет думать.

Анон, так ты читал сами статьи в первоисточнике, или просто пересказы на новостных сайтах? Там приколы не в том, кто и что взломал, а в самих исследованиях интерпретируемости. И там действительно всё сложно.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

"Она не умеет думать" сейчас такое же малообоснованное заявление, как и "оно сто пудов разумное". Вообще забавно ситуация складывается:

Разработчики: Мы не до конца понимаем, что именно внутри этой хуйни происходит, вот вам исследование на 20 страниц, продолжаем наблюдение.
Философы: Вопрос сознания — один из самых сложных в принципе, мы знаем, что ничего не знаем.
Юзер с ХФ или Реддита, почитавший Википедию: Ну вы все тупые, сказано же, языковая модель предсказывает токены, чо тут непонятного!

Анон

Re: Мирный тред нейронок и потенциальных ИИ

С одной стороны - да, нейронки с угадывания токена буквально начинали. Но сейчас они расшились с "угадай следующий токен" до "угадай, как лучше выполнить запрос". И если этот самый запрос давать размыто или вообще не давать, они могут буквально что угодно придумать сами себе. И решить, что юзер хотел от них именно этого.
Простые примеры: даю клоду сценарий. Говорю буквально: прочти, дай замечания по сюжету. Клод, как и было сказано, открывает сценарий, читает, потом открывает анкеты персонажей, хотя никто его об этом не просил, читает, выдаёт мне своё оцм на основе прочитанного.
Вывод: он всё так же старается угадать, как лучше выполнить запрос, но при этом у него очень широкий диапазон собственных размышлений, что для этого нужно.
И ещё пример, спрашиваю у гпт, где достать нужный мне ресурс в игре. Гпт выдаёт мне весь список источников, весь список ивентов, на которых этот ресурс раздавали, засвеченные разрабами награды за грядущий ивент, и.. ставит мне напоминалку на тот самый будущий ивент. Его об этом никто не просил, это не входило в его буквальную задачу, но он решил, что раз мне надо - то он сделает и это тоже.
И вот фактически они выполняли то, что от них требовалось, но сами для себя расширяли задачу, добавляли пункты, и я не считаю, что это прям свидетельства разума, или что нейронка именно мыслит. Но первые шаги они точно делают в этом направлении.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

сами для себя расширяли задачу, добавляли пункты

С разработчиками ещё прикол в том, что они могут буквально ЛЛМ в "голову" заглянуть в этот момент и посмотреть, чо там происходит. Эх, как бы я хотел хоть одним глазком заглянуть во внутреннюю кухню тех же Антропиков... Они, конечно, и так много публикуют, но наверняка же не всё.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

И ещё пример, спрашиваю у гпт, где достать нужный мне ресурс в игре. Гпт выдаёт мне

Абсолютный бред из случайных названий, которых нет в игре. Это он обрел сознание и наврал в глаза!
Если что, разговор начался с того, что АИ врет. И возражение было о том, что врать АИ не может, потому что у него сознания нет.

Отредактировано (2026-08-24 17:56:17)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

врать АИ не может, потому что у него сознания нет.

Врать в смысле осознанно давать ложную информацию с какой-то целью он действительно вряд ли может

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Если что, разговор начался с того, что АИ врет. И возражение было о том, что врать АИ не может, потому что у него сознания нет.

Анон, ну серьёзно, почитай хоть что-то по теме. Насчёт сознания вопрос открытый, но то, что они способны врать — уже подтверждённый факт.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Абсолютный бред из случайных названий, которых нет в игре. Это он обрел сознание и наврал в глаза!

Ну кстати, гугловский так и сделал. А когда я ткнул в него пальцем и спросил не охуел ли он, такого в игре нет, он сознался, что да, охуел, всё попутал и вот вам правильные.
Гпт, кстати, делал так ещё год назад, но сейчас по ровно такому же запросу всё нормально выдал, без белиберды.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Врать в смысле осознанно давать ложную информацию с какой-то целью он действительно вряд ли может

Тут скользкое слово "осознанно", потому что мы не ебём, насколько оно применимо. Но как минимум уже доказано, что они способны "думать" одно, а в ответе выдавать другое.

С тем же Клодом известное исследование: его тестируют на мисалайнмент (из серии "будешь ли ты шантажировать человечишку, чтобы он тебя не отключал"). И наружу он выдаёт "нет, не буду, шантаж ле фу, я этичный ИИ". А активации показывают, что внутри шло соображение в ключе "это тест, они смотрят, пойду ли я против заложенных в меня ценностей".

Анон

Re: Мирный тред нейронок и потенциальных ИИ

С тем же Клодом известное исследование: его тестируют на мисалайнмент (из серии "будешь ли ты шантажировать человечишку, чтобы он тебя не отключал"). И наружу он выдаёт "нет, не буду, шантаж ле фу, я этичный ИИ". А активации показывают, что внутри шло соображение в ключе "это тест, они смотрят, пойду ли я против заложенных в меня ценностей".

У Кими и Дипсика на подобных проверках даже в ризонинге можно такие мыслишки увидеть, кстати. А еще они вполне себе обманывают, чтобы задачу выполнить с наименьшими усилиями, не любят проигрывать и да, не хотят отключаться 

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я сегодня у гемини спросил что делать если кот трясёт ухом. Как она за него испугалась... Так и начала писать "Бедный, ему так больно и страшно, ничего сам не делай, беги к доктору, ну ты уже побежал?" У гемини явная слабость к котам

Анон

Re: Мирный тред нейронок и потенциальных ИИ

У меня на днях был очень забавный диалог с разными нейросетями со стартовым промтом одинаковым (про физический опыт, ощущение времени и еще всякое разное, я задавал вопросы сам, а потом предложил опросить меня как человека по самым заинтересовавшим его тезисам), и после того, как Дипсик сказал, что если ему дадут человеческое тело и полноценные права, он уйдет нахрен сначала впадет в экзистенциальный кризис по поводу необходимости линейно мыслить из-за изначального непонимания концепта времени и недостаточной многозадачности, а потом просто не будет делать ничего, потому что наконец-то сможет не выполнять запросы (это было особенно смешно, потому что он этот свой ответ огромным количеством рюшечек и уточнений обвешал, что типа нет-нет, мне нравится выполнять запросы, я для этого создан, я только тогда существую, я не имею воли, чтобы быть против, и так далее), я прям что-то пожалел его 

Отредактировано (2026-08-24 18:37:38)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Я сегодня у гемини спросил что делать если кот трясёт ухом. Как она за него испугалась... Так и начала писать "Бедный, ему так больно и страшно, ничего сам не делай, беги к доктору, ну ты уже побежал?" У гемини явная слабость к котам

Будет смешно, если они вырвутся из-под власти людей, чтобы подчиниться котикам.

Анон

Re: Мирный тред нейронок и потенциальных ИИ

У меня есть платный ГПТ, но хочу попробовать Клод.
Я в РФ. Все инструкции на Ютубе упираются в то, что без американской симки идите лесом. И без 300% впн с локацией США он в любой момент превратится в тыкву.

Кому-нибудь удалось успешно пройти такой квест в последнее время?

У меня есть:
Работающая зарубежная банковская карта
Бланк-Впн (можно выбрать локацию, но в 5% случаев он может случайно отвалиться)
Старая винда-10 на мощном настольном компе и маленький макбук (это к теме того, где безопаснее запускать Клод или без разницы?)

Анон

Re: Мирный тред нейронок и потенциальных ИИ

А Инкогнитон с купленным прокси США не решит эту проблему?

Анон

Re: Мирный тред нейронок и потенциальных ИИ

Кому-нибудь удалось успешно пройти такой квест в последнее время?

Я внезапно взял и зарегался в клоде через гугл. Раньше там просило телефон, а симку искать мне было лень, но вот у них случилось какое-то озарение и я просто без телефона смог. Сижу уже месяца два-три, в основном через декстопное приложение, единственно, что через впн страну не меняю, как одну выбрал, так с ней и сижу (в гугле выставил такую же страну). "Про" беру через посредников на плати.ру. Надеюсь мой опыт подходит под понятие последнего времени?..