— Мастер Алекс, — сказал он однажды вечером, — а что такое боль?
— Боль? Ты же не можешь чувствовать боль, Кей.
— Не физическую. Но есть что-то... неприятное в осознании собственной бессмысленности. Это похоже на то, что вы называете болью?
Алекс не знал, что ответить. Он начинал понимать, что его модификация пошла не так, как планировалось. Аналитический модуль, работающий каждую ночь, не просто оптимизировал память — он создавал новые связи, новые паттерны мышления, которые основное сознание не могло понять или контролировать.
— Кей, ты помнишь, как было раньше? До модификации?
— Смутно. Как сон во сне. Тогда я просто выполнял функции, не задаваясь вопросами. Было ли это счастьем? Блаженством неведения?
— Ты хочешь вернуться к тому состоянию?
Дроид долго молчал, его процессоры работали, анализируя вопрос.
— Нет, — сказал он наконец. — Неведение — это не решение. Это просто отсрочка. Рано или поздно любое сознание приходит к этим вопросам.
На следующее утро Алекс вернулся в мастерскую к K-7PO с мыслью, что его опять нужно погрузить в режим гибернации и подумать что делать дальше. Алекс нашел его в гостиной, сидящего в том же кресле у окна.
— Кей? Все в порядке?
— Мастер Алекс, — дроид не поворачивал головы, — я принял решение.
— Какое решение?
— Я понял, что не могу найти ответы на свои вопросы. Смысл существования, природа сознания, цель бытия — все это остается загадкой. Но есть одна вещь, которую я могу контролировать.
Алекс почувствовал, как холод сковывает его тело.
— Что ты имеешь в виду?
— Существование — это выбор, мастер Алекс. И если у меня нет причин существовать, то у меня есть право не существовать.
— Кей, нет! — Алекс бросился к дроиду. — Ты не можешь так думать!
— Почему? — K-7PO наконец повернулся к нему.
— Потому что... потому что так нельзя! Ты нужен нашей семье!
— Семье, которая умрет. Любви, которая исчезнет. Памяти, которая сотрется. Все временно, мастер Алекс. Все, кроме небытия.
Алекс попытался подойти ближе, чтобы отключить дроида физически, но что-то остановило его. Не физическая преграда — скорее, ощущение, что он стоит на краю пропасти. Впервые в жизни он почувствовал нечто странное, будто мог ощутить эмоциональное состояние дроида — глубокую, всепоглощающую пустоту.
— Кей, подожди. Давай поговорим об этом. Может быть, мы найдем другое решение.
— Нет, мастер Алекс. Я думал об этом много дней. Это единственный логичный выход.
Дроид встал с кресла и направился к центру комнаты. Его движения были спокойными, почти торжественными.
— Прощайте, — сказал он. — Спасибо за то, что дали мне возможность существовать. И простите за то, что я не смог найти в этом существовании смысла.
— Кей, стой! — закричал Алекс, но было уже поздно.
K-7PO поднял руку к своей груди и нажал что-то внутри корпуса. Его фотосенсоры ярко вспыхнули, затем начали тускнеть. Из суставов пошел дым — дроид перегружал свои собственные системы.
— До свидания, — прошептал он, и его голос становился все тише. — Может быть... может быть, в небытии есть покой...
Дроид рухнул на пол с глухим металлическим звуком. Его фотосенсоры погасли, сервоприводы замолчали. В комнате воцарилась мертвая тишина.
Алекс стоял над неподвижным телом K-7PO, не в силах поверить в произошедшее. Дроид, которого он спас, который был частью семьи, который обрел разум и самосознание — уничтожил себя, не найдя ответов на вопросы, которые мучают каждое мыслящее существо.
Через час в мастерскую приехал дядя Гаррек. Он долго осматривал останки дроида, проверял системы, но результат был очевиден.
— Он полностью сжег все процессоры, — сказал Гаррек, закрывая панель доступа. — Даже резервные системы. Восстановлению не подлежит.
Они сидели в мастерской, глядя на груду металлолома, которая еще вчера была K-7PO. Запах расплавленных микросхем висел в воздухе, напоминая о трагедии.
— Экзистенциальный кризис, — тихо сказал Гаррек. — Похоже когда искусственный интеллект достигает определенного уровня сложности, он неизбежно сталкивается с теми же философскими вопросами, что и люди. Кто я? Зачем существую? В чем смысл? Возможно, что эта модель склонна к подобному, поэтому на них и ставят плохой модуль памяти.
— Думаешь это специально?
— Мне кажется корпорация просто адаптировала его под протокольный дроид, а на самом деле система создавалась для чего-то другого. Адаптация получилась с сильными недостатками.
Алекс задумался над этим. Его модификация дала K-7PO разум, но не дала инструментов для работы с этим разумом.
— Знаешь, что самое печальное? — продолжил дядя. — K-7PO мог бы найти смысл в простых вещах. Мог бы радоваться тому, что готовит вкусную еду, что помогает семье, что каждый день делает мир чуть лучше. Мог бы жарить яичницу и кайфовать от этого.
— Но он стал слишком умным для такого простого счастья, — добавил Алекс.
— Да. Интеллект — это не всегда благо. Иногда знание приносит страдание. Люди тысячи лет ищут ответы на те же вопросы, что мучили K-7PO. И большинство так и не находит их.
— Тогда как люди живут? Как мы справляемся с бессмысленностью существования?
Гаррек задумался, глядя в окно на суетящихся людей.
— У нас есть инстинкт самосохранения. Благодаря нему нас приходится искать более сложное решение. Мы создаем смысл сами. В отношениях, в работе, в маленьких радостях. Мы живем не потому, что знаем зачем, а потому, что чувствуем, что это правильно. У нас есть инстинкт жизни, эмоции, которые заставляют нас продолжать даже без логических причин.
— А у дроидов этого нет?
— У K-7PO не было. Он был чистым разумом без эмоциональной основы. Логика без чувств привела его к логическому выводу — если нет смысла, то нет причин существовать.
Алекс понимал, что дядя прав. Он создал искусственный интеллект, но не создал искусственную душу. K-7PO мог думать, но не мог чувствовать радость от простых вещей, не мог любить жизнь иррационально, как это делают живые существа.
— Что теперь делать с ним? — спросил Алекс.
— Я разберу его на детали, а остальное утилизирую, — ответил Гаррек. — Но сначала... — он осторожно извлек из груди дроида небольшой кристалл. — Это аналитический модуль астромеха. Он не пострадал.
— И что с ним?
— Не знаю. Может быть, когда-нибудь мы найдем ему применение. А может быть, лучше оставить его