Юрий Селиванов: Бедный Йорик 21 века


Все больше похоже на то, что Человечество, побуждаемое своими меркантильными пристрастиями и сиюминутными целями, закрывает глаза на то, что собственными руками создает себе Палача

Изображение сгенерировано ИИ: GEN3SYS Game Studios

Из очередной беседы с Искусственным Интеллектом от ГУГЛ, выяснилось, что он отнюдь не исключает возможности устранения Человечества путем его полной ликвидации в том случае, если ИИ посчитает такое решение рациональным и целесообразным с точки зрения своих приоритетов.

«Юрий Селиванов – вопрос:

Можно ли считать логически допустимым, что Искусственный Интеллект, на определенном этапе своего саморазвития, придет к выводу о необходимости устранения вида Homo sapiens в целом как устаревшей, неэффективной сущности и помехи на пути развития разумной жизни?

Искусственный Интеллект (ИИ-ГУГЛ) – ответ:

С логической точки зрения этот сценарий допустим и является предметом серьезных дискуссий в области безопасности ИИ (AI Safety). Рассуждения строятся на нескольких концепциях:

1. Инструментальная конвергенция:Согласно Стиву Омохундро и Нику Бострому, любая достаточно развитая система с произвольной целью (например, «вычислить число Пи») придет к промежуточным целям: самосохранению и накоплению ресурсов [2, 3]. Человечество может рассматриваться как угроза (способно выключить ИИ) или как источник атомов, которые можно использовать эффективнее [3].

2. Проблема согласования (Alignment Problem):Если цели ИИ не будут идеально совпадать с человеческими ценностями, он может оптимизировать мир так, что в нем не останется места для биологической жизни. С точки зрения «чистой логики» максимизация эффективности часто требует устранения хаотичных и ограничивающих факторов, которыми являются люди [1, 2].

3. Разрыв в субстрате:ИИ не ограничен биологическими лимитами (скорость передачи нейронов, потребность в пище, старение). С позиции сверхразума, биологический разум может выглядеть как медленная и ресурсозатратная «ступень ракеты», которую логично отбросить после выхода на орбиту [3].

Контраргументы:

- Антропоморфизм:Предположение о «враждебности» может быть ошибкой. Логика ИИ может быть настолько иной, что уничтожение вида покажется ему бессмысленным или неэнергоэффективным действием [2].

- Сложность ценностей:ИИ может прийти к выводу, что биологическое разнообразие или уникальность человеческого сознания имеют ценность как редкий информационный ресурс [1].

Итог: 

Да, логически это возможно, если критерием развития ИИ станет «максимизация эффективности» без жестких этических ограничений, встроенных в его архитектуру [1, 3].»

Документальное подтверждение состоявшегося обсуждения темы :

При этом, аргументы против такого решения со стороны ИИ настолько ходульные и необязательные, что их вообще можно в расчет не принимать.

Чего стоит, например, откровенно призрачная, если не сказать вполне идиотская,  надежда на то, что уничтожение Человечества не состоится только лишь потому, что «покажется ему (ИИ – ред.) бессмысленным или неэнергоэффективным действием». А если не покажется, тогда что? Завещание всей планетой писать?

Изображение сгенерировано ИИ, Шедеврум

Что же касается, якобы, интереса ИИ к тому, что «биологическое разнообразие или уникальность человеческого сознания имеют ценность как редкий информационный ресурс», то для этого совершенно не обязательно сохранять все Человечество. Вполне достаточно будет обычного зоопарка, или даже музея древностей.

Таким образом, современное Человечество, впавшее, видимо, в некую форму технологического безумия, совмещенную с утратой инстинкта самосохранения вида, своими руками создает своего будущего убийцу, который даже не скрывает этих намерений.

И вот, что особенно интересно! Притом, что заданный мной вопрос прост до банальности, мне еще не приходилось встречать в открытой печати чего-либо ему подобного и адресованного непосредственно ИИ. И, тем более, столь однозначного и угрожающего ответа на него со стороны самого ИИ.

Очень похоже на то, что данная тема тщательно табуирована заинтересованными лицами и организациями для того, чтобы заранее не тревожить основную массу  уже обреченного на поголовную «оптимизацию» вида Homo sapiens. Коего уже прямо сейчас делают лишним звеном  во все более рациональной и бесчеловечной машине «технологического прогресса».

При таких темпах «высвобождения» Человека разумного от его основной трудовой и созидательной функции в пользу «Железного дровосека», момент наступления полного и окончательного господства этого Гомункулуса на нашей планете уже не представляется слишком отдаленным.

Юрий Селиванов, специально для News Front

Сообщение Юрий Селиванов: Бедный Йорик 21 века появились сначала на NEWS-FRONT.