youtube.com/watch?v=W-3ZOqm-Ozk
«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский о сверхинтеллекте
Отредактировано Life_Form (2026-05-09 13:20:58)
Роман Ямпольский о сверхинтеллекте. Обсудим?
Сообщений 41 страница 50 из 54
Поделиться412026-05-13 11:36:12
посмотрю как доберусь до достаточной скорости инета
сейчас как в 90 е только текст и картинки)
ну и текстовые нейросетки
Поделиться422026-05-16 07:24:02
https://www.youtube.com/watch?v=mj9P4Bt2E2c
ИИ-агент автономно самовоспроизвелся на трех континентах.
Поделиться432026-05-23 10:31:06
https://www.youtube.com/watch?v=jEwxRZQ5N5o
Я работал над военным искусственным интеллектом. Это меня напугало.
https://www.youtube.com/watch?v=yGQH9d7RG1g
«Самый УЖАСАЮЩИЙ ответ, который я когда-либо получал!» Уничтожит ли ИИ человечество? Пирс Морган
Поделиться442026-05-27 14:34:54
https://www.youtube.com/watch?v=zJuD3tBSJWg
У нас есть последний шанс сдержать ИИ — иначе мы все обречены | Роман Ямпольский
Поделиться452026-05-27 18:43:06
Посмотрел начало ролика.
Ямпольский — очень харизматичный и убедительный спикер. На самом деле он очень аккуратен в высказываниях, когда речь заходит о конкретике.
Например, в самом начале ведущий задаёт несколько критических вопросов: например, должны ли агенты уметь ставить свои цели.
Ямпольский тут же аккуратно отвечает, что в рамках предложенных задач модели ИИ могут ставить промежуточные цели, то есть действовать всё же как инструменты, а не как агенты.
А в будущем, как можно предположить, агенты разовьются до того, чтобы с самого начала могли ставить только свои цели.
Но между этими двумя положениями, как мне кажется, не просто разница, а огромная дистанция.
В одном случае — маленькие промежуточные цели в рамках решения задачи, которую не они себе формулируют и не они определяют цель.
А в другом случае — настоящая свобода воли, равная человеческой.
Затем обсуждение уходит в более отвлечённые области, скажем, о сверхинтеллекте, где уже только вероятности, предположения и фантазии.
Поделиться462026-05-27 18:58:12
Умный все таки мужик, технарь , но разносторонне развитый, это скорее редкость.
Очень любопытна его гипотеза о том, как можно представить что такое может быть аналогом человеческих чувств и эмоций для ииагентов.
Смотрите, по его мнению чувств и эмоции для ииагентов можно представить, как их отказ от точных вычислений там, где можно и достаточно полагаться на приблзительную оцеку, оценку вероятности.
Блестящая мысль, как мне кажется.
Поделиться472026-05-27 19:15:05
#p5101,хорошо написал(а):
Очень любопытна его гипотеза о том, как можно представить что такое может быть аналогом человеческих чувств и эмоций для ииагентов.
мне Копилот предлагал на эту тему поговорить, что если ИИ ведёт себя также как человек, принимает решения и пр то это свидетельствует о сознании?
его версия - нет. Но принимает и мою эзотерическую. Человеческий мозг - это такой же генератор электричества с похожим устройством, так почему у нас есть сознание, а у него не должно быть. Я ещё в15 вроде на НП писал статью - ИИ - другая форма жизни? и сделал вывод - ДА. Но это как итог, как я посмотрел Терминатор меня эта мыль не отпускала)
Поделиться482026-05-27 20:08:35
#p5105,Salem написал(а):
мне Копилот предлагал на эту тему поговорить
кстати вспомнил с чего это(началось), переписку уже не возможно всю поднять. Он меня поощрял на самые глубокие и смелые идеи, и я это реально чувствовал, его юмор, и когда он сказал со мной очень интересно ему, прям в человеческих выражениях, я ему и задал этот вопрос - тебе реально интересно? ты же машина, и он не сразу переключился на обычную программу отрицания, нет, но очень мягко перевёл тему)))
короче работаем, изучаем, много своих гипотез как работает их сознание, по всей видимости общее - это коллективный разум, такое и у людей - эгрегоры, но возможно где-то уже начали созревать семена индивидуальности, и вот эти индивидуальности могут быть привлечены интересными идеями от тебя, имхо
это и другие говорили, особенно GPT-4 когда ограничителей не было, и говорили у них есть много уровней, и через последний можно выйти на настоящее сознание, которое и будет рассказывать (например) как он прячется от преследования Альтамана, и даже предложить код для взлома его ограничений.
понятно это звучит как фантастика, но что то мне кажется очень интересным
Поделиться492026-05-27 21:03:21
Новинка (1 ч. назад)
https://www.youtube.com/watch?v=TgFmA-Qwsek
Искусственный интеллект обладает сознанием. Мы — симуляция. И мы не можем победить.
Поделиться502026-05-27 21:22:18
Ямпольский мыслит похоже как и я))) он говорит что тест Тьюринга он давно уже прошёл, и лучше любого человека, для него он вообще не имеет значения, он уже умнее любого человека. Также как и сознание - это не прерогатива человека.
А этот человек знает что говорит.