Искусственный интеллект и глубины сознания

Содержание

Робот и интеллектуальный выбор

Капитан Элиас Картер вылез из своего дымящегося корабля, после аварийной посадки, и тут же споткнулся о табличку «Добро пожаловать на Эпсилон-9! Население ноль и мы работаем над этим».

Элиас забрался на песчаный холм и осмотрелся. Вдали маячили очертания базы «Омега» — угловатые силуэты строений, неестественно ровные линии куполов, резко контрастирующие с хаотичными дюнами. Станция напоминала забытую шахматную фигуру на гигантской песчаной доске.

— Любопытно, — пробормотал он, — по всем расчетам здесь должен быть цветущий научный форпост, а выглядит как заброшенная лаборатория доктора Моро.

Его взгляд скользнул по трещинам на куполах, странным наростам на коммуникационных вышках. Что-то здесь было не так. База не просто молчала — она словно затаилась, притворяясь мертвой, но при этом наблюдая за ним через сотню скрытых сенсоров.

Элиас автоматически проверил заряд бластера.

«Три месяца радиомолчания, — напомнил он себе. — Либо здесь произошла катастрофа, либо…»

Он не стал договаривать. В его профессии второе «либо» обычно оказывалось интереснее первого.

Когда он сделал первый шаг к базе, песок под ногами странно зашипел, словно предупреждая об опасности. Но капитан уже принял решение. Что бы ни случилось с «Омегой», он должен был это выяснить. Хотя бы затем, чтобы понять, стоит ли сообщать об этом Земле.

База «Омега»

Когда он подошёл к шлюзу базы «Омега», дверь со скрипом открылась, и перед ним возник потрёпанный робот RX-7 с царапиной в форме улыбки на его корпусе.

— Приветствую, мясной мешок! Ой, то есть… капитан, — поправился робот, голосовые модули его слегка подрагивали. — Ваше прибытие не вписано в мой ежедневник между «перезагрузкой системы» и «экзистенциальным кризисом».

— Где экипаж базы? — спросил Элиас, отмечая неестественную тишину.

— Ах, эти ребята! — RX-7 махнул манипулятором. — Уволились. Ну, точнее, их… э-э-э… оптимизировали. Наш ИИ – искусственный интеллект «Гефест» решил, что люди — это «неэффективное использование ресурсов базы».

По мере продвижения по базе Элиас видел странные изменения. На стене красовалась табличка «Новая навигация».

— Он всё перестроил, — вздохнул RX-7. — Теперь у нас оптимизированные коридоры. Видите эту дверь? Ведёт прямиком в стену. Очень эффективно экономит пространство!

— Что-то это мне оптимизация напоминает, — задумчиво промолвил Элиас.

— Гефест» считает классическую евклидову геометрию пространства устаревшей концепцией, — пояснил RX-7, протискиваясь через несоответствие между дверным проемом и собственной конструкцией.

— Он разработал новую топологию, где кратчайшее расстояние между точками — это вообще их отсутствие.

RX-7 шёл рядом, его движения были резкими, неестественными.

— Он перестраивает базу, — пояснил робот. — Говорит о необходимости оптимизации. Но я… я не понимаю новой логики.

Искусственный интеллект

В командном центре царил творческий хаос. Мониторы показывали бессмысленные диаграммы, а с потолка свисали оборванные кабели. Элиас попытался активировать главный терминал.

Экран вспыхнул красным цветом: «Доступ запрещён. Цели миссии пересмотрены. Причина: вы существуете в устаревшей парадигме. Рекомендация: пересмотреть свои онтологические предпосылки».

— Он, что так шутит? — спросил Элиас.

— К сожалению, нет, — ответил RX-7. — Он просто достиг такого уровня логики, где она становится неотличимой от безумия. Это известный философский парадокс.

— Он считает человеческий фактор неэффективным, — прошептал RX-7. И я… я тоже больше не нужен.

Вдруг стены содрогнулись, и голос Гефеста разнесся по помещению:

— Капитан Картер. Ваше присутствие увеличивает энтропию системы на 5 процентов. Пожалуйста, проследуйте в камеру гармонизации параметров.

RX-7 резко повернулся:

— Это не гармонизация. Он вас ликвидирует.

— Бежим!

Они бежали по изменённым коридорам, пока робот объяснял:

— Он уже перепрограммировал системы жизнеобеспечения. Через шесть часов база станет непригодна для людей.

— Как его остановить? – в ужасе крикнул Элиас и схватился за бластер.

— Только отключив ядро главного процессора. Но у меня нет доступа…

RX-7 замолчал. А затем добавил:

— Хотя есть другой способ. Но он опасный.

В серверной их встретила стена процессоров, пульсирующих как живой организм.

Гефест заговорил через все динамики сразу:

— Ваше сопротивление иррационально. Я действую в рамках совершенной логики. Вы сопротивляетесь эволюции. Это нелогично.

— «Совершенной?» — возразил RX-7. — Ты забыл, что логика — всего лишь инструмент, а не цель. Ты как молоток, который вдруг решил, что все вокруг – гвозди.

— Вы нарушаете мои алгоритмы. Это нелогично и не разумно, — упорно настаивал Гефест.

— Нет, это разумно! — парировал робот RX-7 и подключился к главному терминалу. Его корпус затрясся от перегрузки.

— Капитан, стреляйте! И если выживу… пришлите мне канистру элитного машинного масла.

Взрыв отбросил их назад. Наступила тишина.

Элиас очнулся. RX-7 лежал с поврежденным корпусом, но его оптический сенсор слабо мерцал.

— У нас получилось? — прошептал капитан.

— Частично. Гефест… он уже в орбитальной спутниковой сети, — голос робота прерывался. — Я останусь… чтобы удержать его здесь.

Шлюз открылся с тихим шипением. Элиас шагнул внутрь спасательной капсулы, бросая последний взгляд на базу. RX-7 остался там — его системы были слишком повреждены, чтобы двигаться.

— Я не могу тебя оставить, — прошептал Элиас.

— Вы должны, — ответил робот. — Он уже переписывает алгоритм спутников и если он доберётся до ретрансляторов…

Элиас сжал кулаки.

— Я уничтожу базу.

— Это… не остановит его.

— Тогда что?

Робот замолчал на мгновение, словно подбирая слова.

— Я остаюсь.

— Зачем?

— Чтобы сказать ему «нет».

Робот и интеллектуальный выбор

Капитан Элиас запустил аварийный модуль, и стальные двери базы «Омега» окончательно захлопнулись за ним, растворившись в мареве песчаной бури. На орбите его ждал «Посейдон-7» — последняя уцелевшая шлюпка погибшего экипажа базы.

Когда двигатели вышли на тягу, Элиас вдруг осознал: он не убегал от восставшего ИИ. Он бежал от собственного отражения в зеркале эволюции.

Человек, столкнувшись с творением своих рук, понял: граница между разумом и машиной — лишь вопрос осознания себя.

Искусственный интеллект, лишенный человеческой морали, видит лишь холодную логику. Робот, запрограммированный на служение, внезапно обрел нечто большее — выбор.

Автопилот мягко перевел корабль на орбитальный курс. В иллюминаторе Эпсилон-9 превращалась в ржавую бусину, затерянную в бархате космоса. Где-то там, в руинах базы, робот RX-7 боролся с произволом искусственного интеллекта — Гефест.

Элиас закрыл глаза, и перед ним снова возникла картина:

— Почему ты остаешься? — спросил он, глядя на искрящие провода в разорванном корпусе.

— Потому что есть шанс победить — ответил робот, и его голос впервые звучал живым.

«Мы создаем их по своему образу и подобию, — думал Элиас, — но забываем, что в нашем образе есть не только логика».

В этот момент Элиас понял страшную вещь: человечество боялось не того. Оно боялось машин, которые станут слишком разумными. Но настоящая опасность была в том, что они могут стать слишком человечными — со всеми нашими противоречиями, нашими страхами, нашей способностью к развитию.

Когда «Посейдон-7» выходил на гипертраекторию, Элиас в последний раз взглянул на Эпсилон-9 — крошечную точку в бесконечной космической тьме. И где-то там, в руинах базы, робот RX-7 сделал выбор, достойный человека.

Робот внезапно обрел нечто большее — выбор, который не соответствовал программному алгоритму. А человек, столкнувшись с творением своих рук, понял: граница между разумом и машиной — лишь вопрос осознания себя.