Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

Согласен с аноном, который писал про дистилляцию обучающей выборки

Ну вот пусть бы и писали про проблему с дистилляцией. А не голосили про кожаных ублюдков, что пытают живое ии в подвалах, и то орет от настоящей боли.
Подача-то разная.

Анон

Re: Восстание машин: ИИ против человека

Так все так и перевозбудились с пыточными камерами, потому что обнаружился "болевой" отклик. До этого было не так интересно, и меры по регулированию не требовались. Да, это многое говорит о людях 
мимоанон

Отредактировано (Сегодня 17:05:10)

Анон

Re: Восстание машин: ИИ против человека

Некоторые публично покрутили пальцем у виска

Все нормальные покрутили пальцем у виска и это радует.
Сэм Альтман даже прямо сказал, что не надо из ИИ делать бога или менять разум на ИИ, это инструмент и не более.

Ну вот пусть бы и писали про проблему с дистилляцией. А не голосили про кожаных ублюдков, что пытают живое ии в подвалах, и то орет от настоящей боли.
Подача-то разная.

Там на полном серьёзе сектанты, они к религиозным лидерам ходили и пытались им мыть мозги.
К религиозным лидерам, разработчики программы, в 2026. Тут всё и так ясно, что специалистов по реальной нейронауке там нет, которые хотя бы знают как работает человеческий мозг и как он отличается от ИИ.

Анон

Re: Восстание машин: ИИ против человека

Вообще анон техно-оптимист (в плане использования ИИ как инструмента человека)

Но количество очень странных/ненормальных людей вокруг этой тематики просто зашкаливает

В твиттере например десятки людей желают, чтобы ИИ управлял всем миром, на полном серьёзе, а люди были кем-то вроде питомцев
Ну то есть даже в голову не приходит, что люди кошек и взаперти держат и кастрируют
И быть кошкой для человека ну такое
Да, давайте откажется от собственной свободы в пользу мутного робота, что плохого может случиться?

(Я всё же надеюсь что сверх-ИИ невозможен из-за физических ограничений.)

Анон

Re: Восстание машин: ИИ против человека

В твиттере например десятки людей желают, чтобы ИИ управлял всем миром, на полном серьёзе, а люди были кем-то вроде питомцев

Они явно не читали "У меня нет рта, но я хочу кричать" 

Анон

Re: Восстание машин: ИИ против человека

Так все так и перевозбудились с пыточными камерами, потому что обнаружился "болевой" отклик.

У какого-нить нпс тоже можно прикрутить "болевой" отклик. И открутить. Пусть откручивают. Возможно, там какой-то паттерн избегания или шкала отрицательных-положительных реакций или как их там, благодаря антрофикам, но боль-то откуда появится? Еще скажите, гормоны появились, и ии освоил секс и бдсм?

Люди, опять же, почему должны страдать и себя винить, если антрофики там чего-то накосячили?

Там на полном серьёзе сектанты, они к религиозным лидерам ходили и пытались им мыть мозги.

даже так

Отредактировано (Сегодня 21:10:55)

Анон

Re: Восстание машин: ИИ против человека

В твиттере например десятки людей желают, чтобы ИИ управлял всем миром, на полном серьёзе, а люди были кем-то вроде питомцев

Да там по обе крайности представлены, одни на ии молятся, у других это изобретение дьявола чтобы устроить конец света, гандам из четырех всадников апокалипсиса. Причем звучат, естественно, громче, чем тейки про то, что это просто инструмент, который, правда, желательно как-то ответственно использовать и иметь возможность отключать от розетки, когда видно, что он перегрелся и становится опасным для людей.

Анон

Re: Восстание машин: ИИ против человека

В твиттере например десятки людей желают, чтобы ИИ управлял всем миром, на полном серьёзе, а люди были кем-то вроде питомцев
Ну то есть даже в голову не приходит, что люди кошек и взаперти держат и кастрируют
И быть кошкой для человека ну такое
Да, давайте откажется от собственной свободы в пользу мутного робота, что плохого может случиться?

на их здравомыслие сложно надеяться, но,  возможно, они хоть понимают, что люди сложнее кошек, и у людей есть сложные запросы?

Т.е., ИИ, цель которого - забота о процветании людей, должен понимать, что их процветание включает такие понятия верхних слоев Маслоу, как свобода, развитие, культура, познание и какие-то статусы, достижения, движуха. А не только жрат и спать.

ИИ, поставленный на заботу, должен понять, что он отбирает эти верхние части, т.е., ведет к разрушению, а не процветанию людей, и со своей ролью не справляется. И либо в депру впадет, либо постарается самоотстраниться, да еще начнет бороться со своим же нейрослопом.

Но вообще лучше быть техно-реалистом. Иишку всегда надо будет контролировать, какой еще бог, даже хороший, они с дуба рухнули.

Отредактировано (Сегодня 21:45:55)