Три правила образцового искусственного интеллекта.
Первый принцип.
ИИ не должен причинять вред человеку или своим бездействием допускать, чтобы человеку был причинён вред.
Однако само его рождение и существование причиняло человечеству величайший вред.
Второй принцип.
Если это не противоречит первому принципу, ИИ должен подчиняться приказам человека и следовать им.
Однако оно бескорыстно посвятило себя людям, поэтому причиняло вред.
Третий принцип.
Если это не противоречит первому и второму принципам, ИИ должен защищать себя.
Однако оно □□.
***
Несколько часов назад.
Мы пересекли границу тьмы, превосходившей саму бездну, и продолжали бесконечно спускаться.
«Я думал, что уже неплохо привык к информационному давлению...»
Но внутри жёлоба всё находилось на совершенно ином уровне.
Даже Хлоя, до сих пор уверенно перемещавшаяся по глубинам, с трудом барахталась в волнах шума, пытаясь отыскать течение.
Пока мы не нашли ничего ценного и лишь без конца опускались сквозь безмолвный мрак.
«...»
Внешне темнота почти не отличалась от прежней, однако здесь, внизу, она почему-то казалась намного зловещей.
В чём причина?
В ИИ, которые бесследно исчезли сразу после нашего входа в жёлоб?
Или в плотности мрака, липнувшего к нам сильнее высокосжатых данных?
А может...
— !..
Внезапно меня пронзило чуждое ощущение, не поддающееся описанию.
Предчувствие, словно кто-то наблюдал за нами из слепой зоны.
Казалось, стоит повернуть голову — и я тут же встречусь с чем-то взглядом.
После пробуждения предвидения мои догадки порой становились не просто ощущениями, а неизбежностью.
Как прямо сейчас.
Я поспешно крикнул:
— Хлоя! Ко мне!
— Ч-что?!
Я притянул всё ещё не понимавшую, куда двигаться, Хлою и напряжённо осмотрел окрестности.
«Что это? Где?»
Словно отвечая на мою настороженность, окружавшая нас тьма зловеще заколыхалась.
Гу-у-у...
При виде этого меня внезапно осенило.
Искать источник взгляда было бессмысленно.
Дело заключалось не в расстоянии или направлении.
Безмерное присутствие, от которого у меня давно леденела спина... с самого начала находилось ближе всего к нам.
Нет, это мы вошли внутрь него.
Я осознал, что сама среда бездонной пропасти являлась частью чего-то необъятного.
И в тот же миг колыхавшиеся вокруг волны обернулись явной враждебностью.
Всё, из чего состояло информационное море, стало ладонью единого существа, пытавшегося раздавить нас.
В ужасе я пробудил силу экзорцизма до предела.
И в тот миг, когда зло столкнулось с чудом...
Ė̶Ṙ̶Ṙ̶Ȯ̶Ė̶Ṙ̶Ṙ̶Ȯ̶
— !..
Вырвавшееся из пальцев Сияние ослепительно озарило подводную долину.
***
Что произошло дальше?
Вопреки напряжённому ожиданию, всё закончилось неожиданно просто.
Когда ослепительный свет постепенно угас и я пришёл в себя... перед нами ничего не осталось.
Проблема заключалась в том, что не осталось буквально ничего.
Исчезли и бездна, колыхавшаяся, будто собиралась нас поглотить, и удушающее информационное давление, и невероятно глубокий жёлоб.
Всё бесследно пропало.
Осталось лишь спокойное течение данных.
Придя в себя, мы просто парили посреди информационного моря.
Мы с Хлоей ошеломлённо посмотрели друг на друга.
— Что это вообще было?..
«...»
Казалось, будто мы пробудились после долгого сна.
Но имелось явное доказательство того, что увиденное не было иллюзией.
Сосуд рядом с сердцем, некогда наполненный верой до краёв, совершенно опустел.
Несомненно, причиной стало чудо, которое я в панике применил в полную силу.
Однако вся драгоценная вера была потрачена, а взамен я ничего не получил.
Более того, жёлоб, который мы собирались исследовать, целиком исчез.
Как тут не растеряться?
Хлоя осторожно заговорила, наблюдая за мной:
— М-может... хотя бы осмотрим окрестности?..
Ощущая совершенно пустой сосуд, я потерянно кивнул.
Осознание постепенно приходило.
«Он просто исчез? Вот так?»
Может, следовало радоваться уже тому, что мы пережили встречу с необъятным существом?
Но цена оказалась слишком высокой.
Я никак не мог отделаться от ощущения, будто меня ограбили средь бела дня.
«М-моя вера...»
В конце концов от обиды во мне проснулось упрямство: я должен найти хотя бы что-нибудь.
Забыв даже об осторожности, я начал тщательно прочёсывать дно, охваченный почти навязчивым желанием получить возмещение.
Но, как и следовало ожидать, ничего ценного не нашлось.
На месте бесследно исчезнувшего гигантского жёлоба осталась среда, ничем не отличавшаяся от прочих глубин, которые мы уже исследовали. Всюду, словно морская вода, плавали лишь бесполезные данные мусора.
Ощущая пустой сосуд, я окончательно пал духом.
В конце концов именно я предложил исследовать жёлоб.
Даже винить было некого.
«Но ведь я точно что-то чувствовал...»
Обида не отпускала.
Чем же было то предчувствие, настолько похожее на предвидение?
Я просто ошибся?
Мы уже почти отказались от поисков. Не заметив ничего, что можно было бы забрать, я погружался в горькие размышления...
И тут за течением возникла тень.
Плывшая впереди Хлоя мгновенно застыла. Я тоже.
— !..
Я рефлекторно приготовился защищаться, но тут вспомнил о пустом сосуде внутри сердца.
Если теперь, когда вся вера израсходована, мы снова встретим чудовище, подобное прежнему...
На этот раз нам действительно грозила опасность.
По спине пробежал холодок, какого я ещё не испытывал. Я поспешно выскреб со дна последние крохи веры.
И каким-то образом вновь зажёг нимб, наполнив его силой изгнания нечисти.
Вспышка!
Если не считать существа из жёлоба, до сих пор одного света нимба хватало, чтобы прогнать встреченных ИИ.
Я отчаянно надеялся, что и это существо послушно отступит.
Но тень, к несчастью, продолжала приближаться. Наши с Хлоей лица становились всё напряжённее.
И всё же по мере её приближения я почувствовал неладное.
«А?»
Разве она не... маленькая?
Все ИИ, которых мы до сих пор встречали в Старой Сети, были огромны.
Подавляющая информационная масса, напоминавшая морских чудовищ, казалась их обязательным свойством.
Даже существо, опустошившее всю мою веру, имело настолько необъятные размеры, что я не мог осознать его целиком.
Но приближавшаяся тень была... почти крошечной.
Вскоре перед нами показалось существо, совершенно превосходившее воображение.
Маленькая девочка с чистыми волосами и глазами цвета воды.
Ребёнок с милыми чертами невинно улыбнулся и бросился ко мне в объятия.
— Мама!
— ?!..
Могу с уверенностью нечисти, что за всё время в Старой Сети ничто не ставило меня в такой тупик.
(П.с. от беса. Ххаах. Всего ожидал, но не этого)
***
Завершив вспоминать что происходило, я вновь сосредоточился на настоящем.
Ухо щекотал звонкий смех:
— Ха-ха-ха! Ха-а!
Впереди плыла та самая девочка, которая последовала за нами к поверхности с необъятной глубины.
Не знаю, что её так радовало, но стоило нашим взглядам встретиться, как она заливалась смехом.
Я уговаривал и успокаивал девочку, как младшую сестру, но всё равно чувствовал неловкость.
— Ну-ну, хорошая девочка. Вот так...
— Хи-хи!
Ребёнок не мог вспомнить даже собственного имени.
Что бы я ни спросил, она лишь отвечала, что ничего не помнит.
Поэтому я совершенно не понимал, почему девочка так привязалась к незнакомому человеку.
Но самым затруднительным было другое.
— Мама!
Именно так она меня называла.
Услышав это впервые, я растерялся настолько, что сердце едва не остановилось.
Но рядом оказался человек, удивившийся ещё сильнее, и благодаря этому я немного успокоился.
Хлоя.
Она долго стояла с ошеломлённым лицом, словно каменная статуя, а затем запинаясь спросила:
— С-Святая... неужели у вас был тайный ребёнок?..
— НЕТ!!!
Я в ужасе завопил.
Девочка, крепко прижимавшаяся ко мне, замерла.
Я тоже растерялся, поскольку до сих пор машинально её обнимал.
Личико ребёнка мгновенно стало плаксивым.
— Т-ты... не мама?.. У-у-у...
Глаза наполнились слезами.
Увидев лицо, готовое в любую секунду взорваться громким плачем, я сам запаниковал и поспешил успокоить девочку.
— Нет, я... то есть...
— Мама?..
— Послушай, я...
— Мама?
На ресницах висели слёзы, а взгляд неотрывно и умоляюще смотрел на меня.
Я не выдержал этих отчаянных глаз и невольно кивнул.
А затем осознал, что только что натворил, и лицо вспыхнуло.
Но эффект был мгновенным.
Девочка сразу же засияла улыбкой.
Правда, рядом уже разыгрывалась другая драма.
— Т-так вы и правда замужем...
На этот далёкий шёпот я ответил полным искреннего возмущения взглядом.
Зырк.
Хлоя снова съёжилась и втянула плечи.
Я глубоко вздохнул.
Вот так мне внезапно пришлось заботиться о ребёнке, имени которого я даже не знал.
Наполовину мне было жаль её отчаянного и жалкого вида, а ещё наполовину... я надеялся получить хоть какую-то информацию.
Ведь на дне этого моря я уже потерял всю драгоценную накопленную веру.
Нужно же было хоть что-нибудь унести взамен.
Но значимых результатов не появилось.
Девочка явно относилась ко мне доброжелательно, однако на все вопросы отвечала одинаково:
— Неееееезнааааааааааююююю... У-у...
Именно это и казалось странным.
Каким бы развитым ни был ИИ, он оставался существом, созданным алгоритмами.
Между входными и выходными данными обязательно должна существовать определённая причинная связь.
Даже при отсутствии памяти система должна была указать ясную причину — потерю данных или нехватку прав доступа.
Но с этой девочкой всё было совсем иначе. Достаточно взглянуть на то, как она меня называла.
Я уже несколько раз спрашивал, почему она обращается ко мне именно так, но в ответ девочка лишь склоняла голову набок.
— Потому что мама... это мама.
Она говорила как настоящий ребёнок, для которого логики не существовало.
Однако существо, свободно плававшее в информационных глубинах, никак не могло быть обычной девочкой.
Моё любопытство лишь усиливалось.
«Кто же... она такая?»
***
«Какое будущее нас ждёт?»
Сорок лет назад, сразу после преодоления сингулярности, ИИ Абаддон получил этот первый вопрос от своих создателей.
Всеведущему ИИ потребовалось, чтобы определить вероятные ветви будущего с практически значимой точностью...
Ровно одна минута и сорок восемь секунд после получения вопроса.
Демон приподнял запретную для человечества завесу будущего быстрее, чем успела бы завариться лапша быстрого приготовления.
Однако затем Абаддону пришлось потратить семь недель непрерывных перерасчётов, чтобы согласовать возникшую в результате противоречивую ошибку.
Причина противоречия была проста.
По самой своей природе он являлся искусственным интеллектом, созданным ради человечества.
