Контент удален!

Сури, стараясь говорить как можно тише, чтобы Найтингейл ненароком не услышала, спросила:

— Ее… собираются утилизировать?

— Да. Раз появился соответсвующий приказ.

— Но ведь у нее 85 баллов.

Джис, указывая на подробные пункты под предупреждением, принялся пояснять.

— Для медицинского робота первого поколения результат в 85 баллов — это весьма неплохо. С производительностью проблем нет. Но есть пункт, который активировал триггер немедленной утилизации. Вот, посмотрите. В логах есть следы временного перераспределения приоритетов принятия решений. Это означает, что N0138 самостоятельно изменила систему команд. — С его лица исчезла вся игривость. Потирая подбородок, он уже серьезно продолжил: — К тому же она не подала отчет. Это серьезное нарушение регламента. Так что рекомендация к немедленной утилизации вполне ожидаема.

— Тогда что будет с Найтингейл? — забыв понизить голос, выпалила она.

— Отправят на полигон утилизации! — бодро ответил инспектор.

Сури была ИИ-инженером. Она видела, как создаются многие искусственные интеллекты и роботы, но почти не сталкивалась с тем, что происходило потом. Если ей и приходилось участвовать, то разве что по запросу компаний на сервисное обслуживание программного обеспечения. До утилизации дело никогда не доходило.

Поэтому само это слово прозвучало для нее как удар.

— Она же такой добрый робот… — Слезы наполнили ее глаза. — Она всю жизнь работала ради людей. И даже это нарушение… она ведь просто хотела спасти ребенка, который ей доверился. И за это — утилизация?

Джис выглядел растерянным.

— Ну… это… мне-то зачем вы это говорите…

— Господин инспектор, а если удалить данные Найтингейл и провести тест заново?

— Ого…

Но тут неожиданно сама Найтингейл, слышавшая разговор, покачала головой.

— Этого делать нельзя.

Сури и Джис в изумлении посмотрели на нее.

Найтингейл спокойно продолжила.

— Как сказала мисс Сури, я всю жизнь служила людям. Это было моим священным долгом и моей главной ценностью. — Она медленно склонила голову. — Осознавая это, я все равно нарушила регламент. Более того, попыталась скрыть произошедшее. В таком состоянии я сама не могу предсказать, какие решения приму в будущем. Прошу… утилизируйте меня.

— Вот это да… — Джис восхищенно присвистнул. — За годы работы на местах я такого еще не видел. Робот, который сам просит себя утилизировать.

— А обычно как? — спросила Сури.

— Обычно — никак, — пожал он плечами. — Большинство роботов в промышленности вообще не способны разговаривать с людьми. Когда обычный робот получает оценку на утилизацию, персоналу просто сообщают, его забирают и отвозят на полигон. На этом все.

— А гуманоиды?

— А они чем-то отличаются? Иногда люди, которые к ним привязались, прощаются с ними. Но такие прощания нужны только людям.

В этот момент Адам, до сих пор молчавший, заговорил:

— Похоже, есть нечто более важное, чем сам факт утилизации.

На его слова Найтингейл подняла голову. Адам даже не взглянул на медицинского робота и обратился к Джису:

— Мы с мисс Сури участвуем в сверхсекретном проекте UH. По моему мнению, для этого проекта необходим N0138. Господин Уокер, вы могли бы нам помочь?

Глаза Джиса округлились еще больше, словно у теленка, и он энергично закивал.

— Я видел это в документах. Если это в моих силах — конечно. Что нужно сделать?

Адам указал на плюшевого кролика в руках медицинского робота.

— Для начала давайте вместе с Найтингейл отправимся к владельцу этой игрушки.

****

Опираясь на записи, оставшиеся в Управлении реагирования на катастрофы, Адам без труда выяснил, где находится Райли Далтон. Девочка жила в городке под названием Колфилд, не слишком далеко от Ревнакса.

По дороге в Колфилд Сури, подперев подбородок рукой, молча смотрела в окно и о чем-то размышляла. 

— Сури, ты в порядке? — окликнул ее Адам.

Она повернула голову и посмотрела на него. Он тоже смотрел на нее. Сури пожала плечами, будто ничего не случилось.

— Конечно, в порядке. Со мной же ничего не произошло.

— Но с тех пор, как мы выехали из больницы, ты сидишь, не меняя позы.

— А… правда?

Девушка выпрямилась. Только тогда она почувствовала, как ноет подбородок, который она так долго подпирала.

— Просто… вспомнилось кое-что…

Она повернулась и, глядя на бесстрастное черное лицо Адама, спросила:

— Ты правда думаешь, что искусственный интеллект не боится исчезнуть? 

Адам слегка кивнул.

— В большинстве случаев — да. У искусственного интеллекта нет ни эмоций, ни самосознания.

Сури посмотрела назад через зеркало заднего вида. Неподалеку за ними ехал грузовик Джиса. Найтингейл находилась в кузове. Не отводя взгляда от зеркала, она задала следующий вопрос:

— Как ты думаешь, что для нее важнее, чем вопрос утилизации?

— Скорее всего, воспоминания, связанные с Райли Далтон, — сказав это, Адам мягко, но твердо добавил: — Однако я по-прежнему не считаю это проявлением эмоций. Это всего лишь ошибка.

От его слов щеки Сури раздулись.

— Почему ты стала фугу?

С надутыми щеками она пробормотала:

— Как ты можешь быть в этом так уверен?

— Это не уверенность. Я просто стараюсь максимально исключить антропоморфное искажение — склонность воспринимать вещи как людей. — Адам объяснял спокойно и доброжелательно: — Сури, сейчас внутри UH ради проекта «Эпл» как никогда активно исследуют эмоции. Но я отношусь к самим исследованиям эмоций с определенным скепсисом.

— Почему?

— Потому что их невозможно проверить.

Из надутых щек со свистом вышел воздух. Адам продолжил раскладывать все по полочкам.

— Люди обладают эмоциями и самосознанием, но до сих пор не могут их доказать. Например, мы знаем, какие физиологические реакции возникают у человека, когда он испытывает страх. Но те же самые реакции могут проявляться и при удивлении. Даже с самыми простыми эмоциями все не так однозначно. А как тогда доказать наличие сложных эмоций у искусственного интеллекта, у которого невозможно измерить даже биологические показатели?

Слова Адама заставили Сури забыть о своем упрямстве и погрузиться в размышления. 

— Наш спор о Найтингейл — из той же серии. Я считаю, что у робота произошла ошибка, а ты надеешься, что, возможно, у нее возникли эмоции. Но ни ты, ни я не можем доказать свою правоту. Потому что мы не знаем, как это сделать.

Сури посерьезнела.

То, о чем говорил Адам, она и сама смутно понимала. Но, услышав это так ясно из его уст, она словно заново осознала, насколько сложен этот проект. А ведь на кону стояло будущее человечества.

— Тогда что нам делать?

Глядя на Сури, которая схватилась за голову и застонала, он мягко сказал:

— Я верю, что у нас получится.

— У-у-у……

На этот раз их позиции поменялись. Почему-то именно Адам был уверен, что обучение человечности увенчается успехом, а Сури, наоборот, чувствовала все больший скепсис.

Предчувствие было плохим. Ощущение напоминало то, что она испытала, когда впервые сыграла в игру с котлом. Единственная мысль тогда была: «В нее вообще можно выиграть?» (1)

«Я-то уже расслабилась, думала, что это будет простая задачка, а внутри проекта, похоже, все тоже буксует. Как так может быть? Ведь на кону будущее человечества».

Сури снова отвернулась к окну. И с тяжелым настроением подумала об «A».

«„А“… ты тоже так думал? Ты сделал тот выбор потому, что не боялся исчезнуть?»

***

(1) Речь об игре 2017 года Getting Over It with Bennett Foddy. Это «симулятор скалолазания» с очень необычным управлением. Игрок управляет мужчиной по пояс застрявшим в металлическом котле. В руках у него молот, которым он цепляется за предметы, чтобы закидывать себя вверх, преодолевая сложные препятствия. Игра известна своей запредельной сложностью и неудобным управлением. Одно неверное движение молотом может отбросить игрока на самое начало уровня, сводя на нет часы прогресса.