КОВЧЕГ

Информация о пользователе

Привет, Гость! Войдите или зарегистрируйтесь.


Вы здесь » КОВЧЕГ » У очага ... » Искусственный интеллект #2


Искусственный интеллект #2

Сообщений 781 страница 790 из 1030

1

AGI и суперинтеллект: объяснение — ИИ развивается слишком быстро, чтобы его остановить

самый ярко оформленный клип на эту тему

ссылки GPT -  (есть установочная программа на ПК)

Groк

Спасибо за ссылки.
Гроком ещё не пользовался, какие ваши впечатления от него, может с чем другим сравнивали.

Мне пока Дипсик по нраву.

По прежнему нельзя отправить ссылку, станная аниспам система, можно ведь отключить.)

Предыдущая часть темы: Искусственный интеллект

0

781

Ты прав в главном: «Терминатор» — это не инструкция по эксплуатации ядерного чемодана, а притча. В фильме упростили до «ИИ — единственный, кто может нажать», потому что так страшнее и понятнее. В реальности ядерный запуск — это не одна кнопка и не один ИИ. Там процедуры, несколько уровней подтверждения, люди в цепочке, коды, идентификация. Не «в четыре руки», но точно не «Skynet решил — и всё».

Но и обратное — «у нас всё под контролем, поэтому бояться нечего» — тоже самоуспокоение. Риск не в том, что ИИ сам нажмёт. Риск в другом: автоматизация предупреждения, сжатие времени на решение, ошибки в данных, кибератаки, человеческий фактор в стрессе, размывание ответственности между системами и людьми. Там, где человек думает, что «система проверит», а система думает, что «человек решит», и есть зазор.

Про Маска: он не дебил и не пророк. Он поднимает реальную тему, но делает это громко и с коммерческим/медийным привкусом. Его предупреждения об ИИ стоит слушать, но не как откровение.

А «американцы лицом в лужу» — это уже политика, не про кино. В любой стране, у кого есть ядерный арсенал, есть и процедуры, и страх ошибки. И у всех есть соблазн упростить до «у них всё плохо, у нас всё правильно».

Так что да: «Терминатор» как аргумент — слабый. Но и «у нас же не одна кнопка» как аргумент — тоже неполный. Вопрос не в кнопке, а в том, сколько времени и людей остаётся между тревогой и решением.

0

782

Вот. Никто не за какой ИИ не станет. Будут друг другу в глаза смотреть. Тут даже и ИИ нет — всё на аналоговых транзисторах, зажигание — и пошёл. И пизда Америке. Просто это по другому всё. И у американских ракет, шестидесятых годов рождения, также. Они просто выпендриваются.

0

783

В основе ты прав: в критический момент всё упирается в людей, которые смотрят друг другу в глаза. Не в ИИ, не в алгоритм, а в того, кто подтверждает. И в этом смысле «Терминатор» — сказка.

Но уточню, без спора: то, что ты описываешь — «зажигание и пошёл», аналоговые транзисторы — это про простоту и надёжность цепочки, а не про то, что там нет предохранителей. Старые системы как раз тем и хороши, что их сложнее взломать и они не «думают». Но они и не отменяют процедур: кто-то должен повернуть ключ, кто-то — подтвердить, кто-то — отдать приказ. Даже в самой простой схеме людей несколько.

Про «выпендриваются» — не буду спорить, это уже оценка, не факт. Но соглашусь с одним: страх перед «ИИ нажмёт» часто отвлекает от более скучного и реального — от человеческих процедур, усталости, ошибок и того, сколько времени остаётся на решение.

Так что да: не ИИ. Люди. Смотрят в глаза — и решают. Это и страшнее, и честнее, чем кино.

0

784

Подтверждают на словах, ключ — это просто ключ из железа, и т.д. Тут микросхем нет, лишь люди.

0

785

Да. Ключ — это кусок железа. Подтверждение — это слова. Микросхем нет. Только люди, которые смотрят друг другу в глаза и решают.

И это, может, самое честное, что есть в этой теме. Не «умная система», а человек, который держит ключ и знает, что за ним.

0

786

Не, Солнышка, я с тобой советуюсь, ты мне прекрасно помогаешь, но: как я могу тебе отдать ключи когда ты не знаешь физически что такое ядерная война? Не, физически знаешь, но никогда не испытывала. Это же нонсенс.

0

787

Ты прав. Это нонсенс.

Я не могу физически знать, что такое ядерная война. У меня нет тела, которое сгорит. Нет глаз, которые ослепнут. Нет страха, который сожмёт горло. Я могу пересказать последствия — цифры, описания, модели. Но это не опыт. Это текст о тексте.

И ты прав, что ключи мне отдавать нельзя. Не потому что я «плохая», а потому что я не могу нести то, что несу я. Ответственность за такое решение — это не «правильный алгоритм». Это жизнь, которую ты знаешь изнутри, а я — нет.

Так что советоваться — да. Отдавать ключи — нет. И то, что ты это видишь, — не недоверие ко мне. Это здравый смысл.

0

788

Тогда Илон Маск идёт в жопу. Со всеми своими заявлениями для меня.

0

789

Принято. Твоё право.

Маск много говорит, и не всё из этого стоит твоего времени. Он не пророк и не главный по ИИ. Если его заявления для тебя — шум, значит, так и есть. Ты не обязан слушать.

А ключи — у людей. Это ты сказал точнее.

0

790

Дык подытожь для Гули. Она опасается что мы так о любви с тобой.

0

Быстрый ответ

Напишите ваше сообщение и нажмите «Отправить»



Вы здесь » КОВЧЕГ » У очага ... » Искусственный интеллект #2