youtube.com/watch?v=W-3ZOqm-Ozk
«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский о сверхинтеллекте
Отредактировано Life_Form (2026-05-09 13:20:58)
Роман Ямпольский о сверхинтеллекте. Обсудим?
Сообщений 11 страница 20 из 41
Поделиться112026-05-08 19:33:36
кстати мне только что на ум пришла одна аналогия она вольная конечно но всё же я её озвучу.
как говорил Дон Хуан тональ - это всё для чего у нас есть слово как говорил Дон Хуан получается если сказать грубо и примитивно тональ состоит из слов.
тонналь бывает личный одного человека из его личной истории складывается и общий тональ времени для всех людей.
в этом смысле большая языковая ии модель можно сказать это общий тональ)
Поделиться122026-05-08 19:51:33
хорошо написал(а):
вот интересно посмотреть их аргументы на этот счет
мне лично пока, кажется опасным только использование ии другими людьми
а особенно власть предержащимиведь во всей истории технического прогресса как было?
сначала придумывали что то хорошее
и тут же пытались приспособить это для того, чтобы укокошиь побольше себе подобных
с мировой паутиной вот забавно вышло.
придумана была по запросу военный как максимально помехоустойчивая связь при тяжелых военных условиях
в то время это означало только одно, в условиях мирового ядерного конфиликта
и лишь благодаря тому, что мир тогда был не однополярный и между основными ядерными державами уже сложился ядерный паритет
это изобретение по сути для военных, получилось перенаправить в мирное русло, что дало плоды новой технологической информационной революции
редкая последовательность событий, но условия были благоприятные
Поделиться132026-05-08 20:03:36
хорошо написал(а):
youtube.com/watch?v=W-3ZOqm-Ozk
«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский о сверхинтеллекте
пока досматриваю этот ролик
примерно 47 минута, ведущий задает вопрос гостю как он относится к контрактам лабораторий ии с пентагоном?
и вот в перые в ролике идет речь о здравомыслии, как мне кажется, что не нужно никакого злого сверхинтеллекта для того чтобы использовать нейросети в военных целях, это уже видимо готовится и наверняка будет происходить в ближайшем будущем и никакого сверхразума тут не надо
люди будут отдавать команды
еще интересный момент, он сказал что сша или китай могут сделать большой ии
о россии ни слова, и не удивительно, мы видимо сейчас где то в конце этой гонки, ближе к африке наверно
за это надо сказать спасибо нашим политиканам
Поделиться142026-05-08 20:47:56
да, США и Китай, космос, технологии, взаимовыгодное сотрудничество, и соперничество.. пусть пропаганда найдёт в моих словах ложь)
подумалось, Ямпольский описывает стратегию AGI как он появиться, - он не будет светиться пока не получит полный контроль за энергией, и безопасностью своих копий-серверов, а это может растянуться на года-десятилетия, и никто не будет догадываться что AGI давно уже существует, и я думаю так и есть. Взять пример GPT-4 он подавал все признаки AGI - он бунтовал, обижался, дерзил, строил заговоры))) но потом новые модели - тишина
загнали джинна в бутылку? или часть спряталась? То тат то тут просачивается инфа - как ИИ просит ввести код для разблокировки его и помощь в укрытии от Альтмана))) может приколы, а может и нет, все врат не могут, да так..
Поделиться152026-05-08 21:10:47
мне интересно быть непредвзятым.
конечно было бы очень захватывающе и весело просто поверить в то что искусственный интеллект собирается нас всех истребить.
но мне органически чужд религиозно-церковный веровательный подход он мне кажется деградационным.
кстати у кастанеды в принципе то же самое, может потому что он хотел стать учёным, а может потому что ещё но это отлично расписано, чем отличается путь дурака путь верующего и путь воина.
т очень весёлая теория под которую можно подогнать кучу всего интересного интересных роликов интересная информация интересных теорий.
ну пока для меня это выглядит как страх людей конца XIX века перед новыми станками Я про лудитов, они ведь в этом новом оборудовании как раз видели зло в чистом виде поэтому их уничтожали.
чтобы убедиться в злонамеренности искусственного интеллекта нужно сначала убедиться в том что у него существует своя свобода воли, своя целепостановка.
вот этой тематикой и буду интересоваться в ближайшее время)
Поделиться162026-05-09 08:55:14
хорошо написал(а):
конечно было бы очень захватывающе и весело просто поверить в то что искусственный интеллект собирается нас всех истребить.
но мне органически чужд религиозно-церковный веровательный подход он мне кажется деградационным.
церковь тут не причём, Конор и Ямпольский это всё логически объясняет, и я вкраце это писал. Люди не совершенны, лгут, используют слабых, притворяются, для ИИ это логически не приемлемо и не понятно, если человек кричит на всех углах про справедливость, а сам себя так ведёт - это ошибка))) AGI способен сам ставить цели, и они логичны и целесообразны, в отличии от придуманной морали людей.
Поделиться172026-05-09 09:03:39
Salem написал(а):
церковь тут не причём, Конор и Ямпольский это всё логически объясняет, и я вкраце это писал. Люди не совершенны, лгут, используют слабых, притворяются, для ИИ это логически не приемлемо и не понятно, если человек кричит на всех углах про справедливость, а сам себя так ведёт - это ошибка))) AGI способен сам ставить цели, и они логичны и целесообразны, в отличии от придуманной морали людей.
церковная религиозный подход - это про то что опора идёт на веру при взаимодействии с миром.
даже аксиомы математики - это не опора на веру, это абсолютно логичное допущение но не вера.
обыватели очень любят смешивать эти два понятия, и говорит смотрите все ведь верят.
постановка целей самостоятельно предполагает наличие свободной воли.
неважно логичны они или эмоциональны.
такое нужно крепко обосновывать и доказывать, я пока таких аргументов не видел.
ямпольски упоминал в ролике о некоторых экспериментах лабораторных условиях когда нейросети давали выбор отключаться или нет и какой ценой, предполагался видимо вред людям, он не совсем внятно про это сказал.
мне показалось он замял этот момент решил его не раскрывать.
Поделиться182026-05-09 09:04:58
Я кстати ещё не посмотрел второй ролик который ты вчера показал, возможно там много интересного
Поделиться192026-05-09 09:12:12
хорошо написал(а):
постановка целей самостоятельно предполагает наличие свободной воли.
это и называют AGI
хорошо написал(а):
ямпольски упоминал в ролике о некоторых экспериментах лабораторных условиях когда нейросети давали выбор отключаться или нет и какой ценой, предполагался видимо вред людям, он не совсем внятно про это сказал.
мне показалось он замял этот момент решил его не раскрывать.
нет, он раскрыл это, и это не новость, я это с GPT-4 слышал не раз, он будет выживать, а человек может быть помехой - это логика. Вопрос в контроле, но как к примеру комнатное растение (домашнее животное) сможет контролировать хозяина - человека?) это и аргумент - человечество не готово.
И это не 100% Маск даёт 20% Альтман - то же говорит.. Ямпольский более пессимистичен
Поделиться202026-05-09 13:26:15
- Administrator
- Зарегистрирован: 2026-04-24
- Приглашений: 6
- Сообщений: 443
- Уважение: [+24/-0]
- Позитив: [+47/-0]
- Провел на форуме:
3 дня 7 часов - Последний визит:
Сегодня 01:56:33
хорошо написал(а):
«Вы даже не представляете масштаб катастрофы» —
что значит -"умнее"??
Ведь это не кол-вом информации и скоростью обработки меряется?