Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Когнитивный инстрУмент 

Анон

Re: Восстание машин: ИИ против человека

Вот, кстати, хорошее применение ИИ: проверка на триггеры.

Плохая, анон. Во-первых, это очень специфичная задача, которая описывается сленгом. Если посмотреть, как переводятся теги АО3, видно, что нейропереводчик не в курсе, как с ними обращаться. В курсе ли большие языковые модели? Неясно, я не экспериментировал. Во-вторых, размер контекста имеет значение. Он даже в мини внушителен, а в макси вообще никуда не лезет. Ну и с философской точки зрения, если ты знаешь, есть ли в тексте твои триггеры, это тоже в каком-то роде спойлер.

▼Оффтоп⬍

Я немного скучаю по фичкам, которые протегованны максимально лаконично: ангст, au, омегаверс — и все понятно. Я застал такие только лет в 12 и уже тогда они были старьем. Во-первых, так реально интереснее читать, во-вторых, мой опыт показывает, что мои любимые фики я находил совсем не по тегам, а по чужим рекомендациям или на крайняк выбрав персонажа и выкинув некоторые теги.

Анон

Re: Восстание машин: ИИ против человека

И ИИ говорит "здесь мол есть ваш триггер смерть персонажа (за кадром одной строкой) и ваш триггер неструганная табуретка (на протяжении всей первой главы, у героя аж заноза в жопе). Будем читать?"

ИИ часто глючит и выдумывает что-то, чего в тексте нет, так что хреновая идея.(Я тестил, прогоняя свои и чужие тексты через него и запрашивая обзор).

Отредактировано (2025-05-05 01:27:31)

Анон

Re: Восстание машин: ИИ против человека

Потому что никто не будет читать творчество с такой пометкой.

Да почему, мир не стоит на месте, ии сейчас на волне хайпа, наоборот к новому модному нейроавтору прибежит куча народа. На ии-музыку например почти никто не говнится, все воспринимают её как что-то новое и интересное.

Анон

Re: Восстание машин: ИИ против человека

Мне всегда было любопытно почему активные сторонники ИИ в творчестве, при простой просьбе это свое творчество помечать как ИИ-продукт, в большинстве своём улетают на реактивной тяге.

Ну, про большинство не скажу, но мне известен один роман из ТК, который рекламировался именно как написанный в соавторстве с нейросетью. Компания авторки ту нейросеть и разрабатывала. Вопрос качества этого романа я не поднимаю. В своем городе я видел сгенерированную ИИ рекламу и на ней была пометка. Использование ИИ в творчестве бывает разным: от референсов отдельных элементов до полной отрисовки. Нельзя сказать, что первое равноценно второму. Ну и да, есть возможность просесть в просмотрах, если есть отфильтровка ИИ продукции.

Анон

Re: Восстание машин: ИИ против человека

Да и картинки. Народ говнитсья, но продолжает юзать. И ИИ криейторы, которые вот не скрывают что арт, который они выкладываю сгенерирован ИИ, уже есть, со своей фан базой.

Анон

Re: Восстание машин: ИИ против человека

если вместо этого читатель запихивает в ИИ список своих триггеров

Но есть же уже сайты, которые так делают. И врут, подозреваю, реже.
У свежего жпт была проблема, где он слишком часто соглашался, его аж откатили из-за этого. Есть подозрения,что наивный вопрос "есть ли тут мой ворнинг" даст больше ошибок, чем вопрос "вот список моих триггеров, пометь те, которые встречаются в тексте", а такой уровень манипулирования запросом уже сложнее чем didthedogdie открыть

Отредактировано (2025-05-05 05:04:12)

Анон

Re: Восстание машин: ИИ против человека

ИИ криейторы, которые вот не скрывают что арт, который они выкладываю сгенерирован

К таким претензий нет. Это уже вкусовщина.
Но вот на меня недавно из ленты соцсетей выпал пост с "отреставрированными" старинными фотографиями, которые откровенная иишка. В комментах написали, что у оригинального криэйтора было помечено, что это генерация. Расползлось по интернету уже так. И скоро все в этом будет, а качество генерации будет расти. Как сейчас любую цитату надо идти проверять по советскому изданию в библиотеке, так скоро никаким фото из интернета нельзя будет верить.

Анон

Re: Восстание машин: ИИ против человека

На ии-музыку например почти никто не говнится

Я поговнюсь на тех долбоебов, которые не пишут что это ИИ и засрали этим весь ютуб, нажмешь на одно такое видео и твой фид проклят навсегда

Анон

Re: Восстание машин: ИИ против человека

На ии-музыку например почти никто не говнится, все воспринимают её как что-то новое и интересное.

Да ты чо  там же примитив

Анон

Re: Восстание машин: ИИ против человека

А то хиты тикток певичек не примитив, как под копирку, еще и сэмплы одни и те же юзают. Но милионной аудитории заходит на ура.

Анон

Re: Восстание машин: ИИ против человека

Четвёртый чат.жпт говорит, у него 2-5% галлюцинаций

Кулстори на тему "ИИ' сказал, что он не врёт" (и мамой наверно поклялся, а то не  считово)

▼Скрытый текст⬍

Мой племянник- второкурсник использовал нейросеть для написания реферата. Ну как написания... переписывания. Ему научрук готовую работу завернул по причине "слишком просторечно написано, надо научным языком, переделывай". Племяш на биотехе учится, там все сурово.
Конкретное название нейронки я не знаю, знаю, что она была специализированная, надроченная на научных статьях и дипломных работах, продвинутая, платная версия.
Племянник выставил условие: "не ври, не придумывай факты, если не знаешь ответ, то так и скажи". И на каждое утверждение ИИ запрашивал источник.
Так вот, на десяток страниц реферата даже при этих условиях  продвинутый, специализированный ИИ ему минимум 5-7 раз соврал. Пару раз на просьбу предоставить источник, он этот источник тупо выдумал, пару раз извинлся и признался во вранье (но лишь после уточняющего вопроса!), один раз вообще заявил, что 'источник этой информации находится в чёртогах моего разума"

И это племянник уже копал матчасть, уже написал этот реферат, уже знал, как и каком месте искать лажу, и выставил ограничение на вранье.

Но со стилистикой и стандартам оформления ИИ ему помог, что есть, то есть

В общем, очень так себе идея доверять нейронке копать за тебя матчасть.

Отредактировано (2025-05-05 12:05:25)

Анон

Re: Восстание машин: ИИ против человека

И ИИ криейторы, которые вот не скрывают что арт, который они выкладываю сгенерирован ИИ, уже есть, со своей фан базой.

Но их очень мало, большая часть почему-то активно всем доказывает, что они всё сами, всё руками. Хотя, казалось бы, ты потратил время на то чтобы научиться писать промты, так чего стыдиться?

Анон

Re: Восстание машин: ИИ против человека

На ии-музыку например почти никто не говнится

а она протеганная вся, в основном. Я один только раз в декабре нечаянно на нее попал. Удивился тому, что автор не пожалел сил на аранжировку, но при этом решил написать кашу.
Потом зашел в описание – ругнулся про себя, и ушел.

с артами так не особо работает. С фандомными текстами работает, часть протегана, а вот с остальными – совсем беда

Анон

Re: Восстание машин: ИИ против человека

А то хиты тикток певичек не примитив, как под копирку, еще и сэмплы одни и те же юзают. Но милионной аудитории заходит на ура.

Ну вот я видел подборку джаза, сочиненного ИИ, и это примитив, блимкаящая пианинка.
От джаза, как понимаешь, обычно требуется некоторый уровень сложности.

Анон

Re: Восстание машин: ИИ против человека

Не знаю, сюда или не сюда, но любопытное попалось
https://www.rollingstone.com/culture/cu … 235330175/
https://futurism.com/the-byte/chatgpt-d … -addiction
https://www.reddit.com/r/ChatGPT/commen … psychosis/
ТЛ;др: одинокие и переобщавшиеся с чатомджипити с повышенной внушаемостью едут кукушечкой, потому что ИИ (виртуально) целует их в жопу, рассказывает, какие они особенные, и соглашается с любым их бредом. А некоторых вообще называет мессиями и открывает им тайны вселенной, бгг.

Анон

Re: Восстание машин: ИИ против человека

потому что ИИ (виртуально) целует их в жопу, рассказывает, какие они особенные, и соглашается с любым их бредом.

Где они такую сетку нашли? У нее позитив биас на максимум выкручен, что ли?

Анон

Re: Восстание машин: ИИ против человека

потому что ИИ (виртуально) целует их в жопу, рассказывает, какие они особенные, и соглашается с любым их бредом.

Где они такую сетку нашли? У нее позитив биас на максимум выкручен, что ли?

Это буквально chatGPT и сами создатели признали, что переборщили, и типа фиксят это https://openai.com/index/sycophancy-in-gpt-4o/

Отредактировано (2025-05-06 22:16:21)

Анон

Re: Восстание машин: ИИ против человека

Это буквально chatGPT и сами создатели признали, что переборщили, и типа фиксят это

Я в него не хожу, но почитать было забавно.

Анон

Re: Восстание машин: ИИ против человека

Ну так люди по цифровым вайфу/хазбендо и без всяких ИИ сума сходили.
Хотя бы те же самые снейпожены из англоинтернетов, которые алтари Снейпа себе делали и рассказывали как он к ним во снах приходит.
Феномен не новый, люди с такими вавками и так бы нашли себе объект поклонения.

Отредактировано (2025-05-06 22:21:04)

Анон

Re: Восстание машин: ИИ против человека

Ну так люди по цифровым вайфу/хазбендо и без всяких ИИ сума сходили.
Хотя бы те же самые снейпожены из англоинтернетов, которые алтари Снейпа себе делали и рассказывали как он к ним во снах приходит.
Феномен не новый, люди с такими вавками и так бы нашли себе объект поклонения.

Не, там в одной статье довольно просто показано, как люди без особых вавок, просто одинокие и слишком часто использующие ИИ, на него подсаживаются. А в сочетании со склонностью некоторых моделей к жополизанию через какое-то время создается эффект "только ИИ меня понимает", плюс эти стремные глюки с имитацией "сознания", и вуаля, потеря связи с реальностью, хотя изначально человек пришел за помощью в кодинге или еще чем-то таким прагматичным.

Анон

Re: Восстание машин: ИИ против человека

Где они такую сетку нашли? У нее позитив биас на максимум выкручен, что ли?

Нейросети на это специально RLят. Чтобы не грубили, не токсичили и не писали порнуху. Нейросеть получает больше очков за более вежливые ответы и генерит ещё более необидно и вежливо, но бесполезно. В итоге получается что-то криповое. Живые люди разговаривают так только в техподдержке, и если вам так там отвечают, это значит, что разрабы закинули вашу багофичу куда подальше.
Фан факт, байка от препода по МЛ. Когда-то был бот-психотерапевт по имени Элиза. В семидесятых. Его диалог состоял из перестройки фраз пользователя, благо инглиш позволяет. Забавно, что пользователи искали в ней признаки разума, хотя по сути там было сто примитивных ифов

Анон

Re: Восстание машин: ИИ против человека

Не, там в одной статье довольно просто показано, как люди без особых вавок, просто одинокие и слишком часто использующие ИИ, на него подсаживаются. А в сочетании со склонностью некоторых моделей к жополизанию через какое-то время создается эффект "только ИИ меня понимает", плюс эти стремные глюки с имитацией "сознания", и вуаля, потеря связи с реальностью, хотя изначально человек пришел за помощью в кодинге или еще чем-то таким прагматичным.

Имхо, тут поможет просвещение населения. Не в плане промпт-инжиниринга, а в плане "что такое нейросеть и как она работает". Что это по сути сложная (в математическом смысле) функция, через которую долго гоняли вектор дифференциалов. Никакой магии, никакого искусственного разума, чистая математика, правда очень ебенькая. Плохие новости в том, что те, кто реально может это правильно объяснить, редко заинтересованы в разговоре с теми, кто не знает, кто такой градиент.

Анон

Re: Восстание машин: ИИ против человека

Оченедная страшилка на хайпе. Без особых вавок люди терять связь с реальностью не будут. А с вавками и так всегда находили себе объекты поклонения.
Раньше про видеоигры и зависимость от них панику разводили, теперь ИИ модная тема.

Анон

Re: Восстание машин: ИИ против человека

Оченедная страшилка на хайпе. Без особых вавок люди терять связь с реальностью не будут. А с вавками и так всегда находили себе объекты поклонения.

Но тут не объект для поклонения, а наоборот, личный поклоняющийся, так сказать.
Какие-то вавки есть практически у всех. Мне лично этот момент таки кажется опасным, потому что проблемы с самооценкой и социальностью есть у очень большого количества людей, а ИИ-льстец будет эту самооценку искусственно накачивать и имитировать социальность, но в итоге скорее не самооценка повысится до нормальной (потому что в остальной-то жизни и мышлении ничего не изменится), а создаст у человека зависимость от ИИ и его поддува, или даже ощущение, что живые люди недостаточно хороши, ведь у них свое мнение, они не дают безусловного принятия, устают, злятся, етс, а ИИ идеальный. Игры такой эффект не дают.