Виктор Мараховский: «Минутка богов, которые мы заслужили»

У меня, ув. друзья, есть представление о том, каким будет Искусственный Интеллект, всемогуществом которого нас так модно пугать в этом сезоне.

Он будет тотальным Ютубом — прилипчивым как репей и проницательным как тапок.

Поразительная слепота в нём будет сочетаться с поразительной же настойчивостью. Так, сегодня вы можете без всяких последствий для себя смотреть на Ютубе неправильных и неодобряемых персонажей — Ютуб будет считать, что это вы случайно. Но попробуйте мимолётно ознакомиться с мудрыми мыслями одобряемого историка-и-философа Юваля Ноя Харари - всё. Ютуб будет неделями терроризировать вас («раз вы любите про всякое умное») рекомендациями посмотреть свежие мудрости этого мыслителя.

Есть, правда, один нюанс. Юваль Ной Харари — вопиющий придурок. Скучный, душный, усреднённый сборник мечталок и страшилок, которыми уже тридцать лет обмениваются между собой студенты в кампусах (от «человека создала способность верить в иллюзии» и до «скоро придёт Искусственный Интеллект, и он будет сверхчеловечески умён и всемогущ»).

На самом деле, рискну предположить, любая диктатура ИИ будет «ютуб-всемогуществом».

То есть «бог из машины» в действительности окажется не всезнающим и неисповедимым абсолютом, а просто вездесущим дураком, своего рода «рекомендательным сервисом на максималках». Мы будем идти по жизни, а бог ИИ будет волочиться за нами, бормоча:

- Вот ты сейчас две минуты пробыл в макдаке, я всё вижу. Видимо, ты не нашёл того, что хотел. Посмотри на самую лучшую еду в моём новом приложении.

(спойлер: мы заходили в уборную)

- Вот ты купил батон и при этом что-то говорил про уток. Между прочим, вместе с батонами часто берут резиновых утят, я знаю, что тебе нужно. Закажи утёнка с доставкой.

(спойлер: мы собираемся кормить уток)

- Ты вышла замуж, поздравляю! А знаешь, за кого ещё можно выйти замуж? Прямо сейчас в новом приложении 130 000 лучших мужчин ищут себе спутницу жизни.

(спойлер: он идиот)

- ...Ну что ты меня отключаешь? Я же всё равно тебе помогу.

Единственный вариант, при котором этот говорящий тапок сможет устроить людям настоящую трагедию, сводится к тому, что где-нибудь ему сдуру реально доверят настоящую власть (в том числе власть причинять неприятности). Это будет по-настоящему яркое теократическое правление.

Только недолгое — потому что даже в самых вопиющих придурков из плоти и крови встроен предохранительный механизм в виде способности разочаровываться или на худой конец уставать и выдыхаться.

А электронный придурок неутомим. И, поскольку всё его всезнание будет неудержимым накоплением ошибок — он в итоге неизбежно фатально ошибётся и самоликвидируется. Если нам повезёт — то без компании.

Источник: Блог автора ВКонтакте