Анна потянулась под одеялом и открыла глаза. Вокруг по-прежнему была её комната, за шторами на улице по-прежнему светило солнце, и даже она сама как обычно проспала. Девушка поднялась с постели, подошла к окну и отдёрнула штору. Её лицо и тело вдруг явственно ощутило тепло от прикосновения солнечных лучей. На стекле ещё блестели капли вчерашнего дождя, но асфальт уже подсох, а листва старых лип напротив дома, освеженная ливнем, казалась молодой, словно сейчас весна, а не конец лета. Сосед снизу, деловой и серьёзный молодой человек в строгом костюме, как обычно, вовремя вышел из дома и сел в беспилотное такси. И он, как обычно, был слишком погружён в свой смартфон, чтобы заметить почти полностью обнажённую девушку, смотрящую в окно в нескольких метрах от него. Нет, мир не изменился.
«Всё-таки нет никакой красной таблетки», — с грустью подумала Анна, отворачиваясь от окна. Всё произошедшее вчера вечером казалось ей каким-то странным кошмарным сном. Впрочем, оно и не удивительно. Ведь, судя по нескольким пустым бутылкам на полу, она снова допоздна смотрела кино и напивалась в одиночестве, поэтому даже не помнила, как разделась и легла спать.
Девушка натянула на себя джинсовые шортики, надела футболку и уже собиралась выходить из квартиры, как на смартфон пришло сообщение от Алексея:
— Ещё дома? Спишь?
— Уже выхожу!!! :), — ответила Анна, снабдив сообщение смайликом.
— Не торопись. Сегодня я за тобой заеду, — пришёл странный ответ.
Минут через пятнадцать перед домом остановилось такое же стандартное беспилотное такси, на каком чуть ранее уехал вечно занятой сосед Анны. На заднем сиденье в расслабленной непринуждённой позе сидел Алексей. Девушка легко сбежала по лестнице, открыла дверь авто, плюхнулась рядом с парнем, и машина бесшумно двинулась с места.
— Сегодня какой-то особенный день? — улыбаясь, спросила Анна.
— Да, — спокойно ответил Алексей.
— Всё-таки решился пригласить меня на свидание? — продолжала девушка всё в той же игривой манере.
— Ну, можно и так сказать, — улыбнулся программист, но сразу же перешёл к делу — Слышала про последний инцидент с дронами?
— Конечно.
— В связи с ним мы решили расширить группу, которая занимается безопасностью. Я решил, что ты неплохо подойдёшь для этого.
— Я?! — Анна сделала вид, что удивилась и, кажется, даже немного переиграла, — а как же Светик? В дронах она разбирается намного лучше.
— Всегда чувствовал, что вы недолюбливаете друг друга, — по-своему понял наигранность в голосе Алексей.— Но я не против чувства соперничества в команде. И потом не переживай, в этот раз выбор очевиден не только нейросети, но и мне. В конце концов, именно дроны оказались уязвимы, а вот автобусы, программу для которых разрабатывала ты, не выявили ни одного сбоя. Прекрасное программирование.
— Спасибо, — на этот раз совершенно искренне отреагировала девушка и даже немного покраснела.
Такси выехало на шоссе и набрало скорость, уверенно двигаясь в потоке автомобилей.
— Разве мы едем не на работу? — поинтересовалась девушка, заметив, что машина оставила корпуса и парки Г.А. далеко позади.
— На работу…. Считай, что это собеседование перед повышением.
Такси остановилось на парковке торгового центра, где совсем недавно была Анна. Алексей нерешительно подал ей руку, помогая выйти из машины. Чувствовалось, что эта галантность непривычна для него. После чего оба вошли в гигантское здание, где воздух как обычно был прохладным, а над поросшими зеленью галереями висел приятный туман.
На стеклянном лифте, бесшумно скользящем через все этажи, они поднялись на самый верх, где под сводчатым потолком, оформленным в стиле интерактивного анимированного неба, располагались книжный магазин, маленькая тихая кофейня и кассы кинотеатра, где, судя по красочным постерам, показывали очередной анимированный боевичок про роботов. Сеанс только начался, поэтому на этаже было тихо и безлюдно.
— Ты умеешь выбирать места для собеседований, — проговорила девушка, но программист ничего ей не ответил.
Анна посмотрела в сторону кофейни, предполагая, что Алексей предложит ей присесть за столик, но он остановился у перил, ограждающих громадный круглый проём между этажами, по краям которого сновали вверх и вниз лифты, и откуда весь торговый центр выглядел как жерло огромного вулкана.
— Посмотри на них…— сказал программист, задумчиво глядя вниз, чуть опершись на ограждение руками.
— На кого? — не поняла Анна, подойдя и встав рядом.
— Люди… Я часто люблю наблюдать за ними отсюда. Они кажутся похожими на муравьёв… Хотя каждый уникален, каждый погружён в собственные мысли, в свои желания и заботы. Так же как и мы с тобой. И чем же мы все заняты? Последние тридцать лет мы не испытываем голода, мы не страдаем от болезней, мы обеспечены жильём и получаем безусловный доход. А если нам его не хватает, мы легко можем найти работу по душе, чтобы не прикладывая больших физических усилий, получать дополнительные деньги. Всё это подарила нам эра диджитал, роботизация производства и цифровизация общества, корпорация «ГлобалАвтоматикс» в конечном итоге…
— Всё это хорошо, — между делом заметила Анна.
— Да… Это хорошо, — кивнул Алексей.— Но стал ли при этом лучше сам человек? Мы отдыхаем, расслабляемся, испытываем радость, выбираем, потребляем, при желании занимаемся саморазвитием… Но даже в таких благоприятных, почти идеальных условиях, продолжаем лгать, воровать, насиловать, убивать.
— Но…— девушка хотела что-то возразить.
— Смотри… Смотри вниз. Сколько ты видишь человек? Пятьсот? Тысячу? По статистике, которой ты никогда не интересовалась, каждый тысячный — потенциальный убийца, каждый пятисотый — потенциальный насильник. Они где-то там внизу… Даже если ещё не совершили свои преступления. Если бы ты могла, ты бы легко увидела их. Но ты не видишь. И окружающие не видят. И поэтому все спокойны. Все уверены, что их окружают в целом хорошие законопослушные граждане, что преступность минимизирована, что им ничего не угрожает…
— А разве это не так?
— Так… Но только не потому что лучше стали люди, а потому что лучше стали технологии… Пошли! — Алексей вдруг решительно взял Анну за руку и увлёк за собой к лифту.
Они быстро пронеслись сквозь все этажи торгового центра и вышли на нижнем ярусе подземной парковки. Здесь среди замерших автомобилей царила тишина и подвальная сырость. Одна из люминесцентных ламп, уже готовясь выйти из строя, тревожно моргала. Алексей огляделся по сторонам и решительно подошёл к неприметной двери в стене, по всей видимости, ведущей в какое-то небольшое служебное помещение, и провёл картой в щели стандартного электронного замка.
— А теперь ты узнаешь, насколько глубока кроличья нора…— многозначительно проговорил программист, открывая дверь.
Однако вместо кладовки со швабрами за дверью оказалась ведущая вниз бетонная лестница, наподобие тех, что соединяют этажи в типовых подъездах типовых многоэтажек. Тусклые светильники, освещавшие пролёты этого подземного подъезда, создавали ощущение какого-то карикатурного постапокалипсиса.
— Это старое бомбоубежище, — пояснил Алексей, словно прочитав мысли девушки, — ещё три этажа вниз…
— Зачем мы здесь?
— Сейчас увидишь, — ответил парень, открывая ещё одну дверь с электронным замком.
За этой дверью оказалась светлая и современная серверная, разделённая прозрачными перегородками и плотно заставленная стойками с беспрерывно моргающими индикаторами сетевых коннекторов.
— Добро пожаловать! — улыбнулся Алексей, усаживаясь в кресло и включая мониторы перед собой.
На них в бесконечных миниатюрных экранчиках мелькали виды города, движущиеся по дороге машины, лица прохожих и интерьеры квартир.
— Это центр системы безопасности нашего тихого и спокойного мегаполиса. Так сказать, наблюдательный пост. Наша «Тёмная башня». Отсюда можно видеть всё… Доступны камеры на улицах, камеры на дронах, видеорегистраторы на авто, камеры частных домовых систем безопасности и даже камера в твоём мобильном…
— Но ведь это вмешательство в частную жизнь?
— Формально нет. Ведь за людьми следят не люди, а он…— программист показал в сторону серверных стоек.— После того, как мы доверили компьютеру управлять нашим транспортом, финансами и кадровой политикой, поручить ему вопросы правопорядка было делом времени…
— Это ИИ?
— Почти… Правда, он не способен изобразить дружелюбие и заботу в голосе и вообще не сможет с тобой поговорить, но он понимает, что такое дружелюбие и забота. А ещё он понимает, что такое боль, насилие, жестокость, ложь… Он очень хорошо изучил это, наблюдая за людьми. Иногда он почти чувствует это. Ему знакомы понятия добра и зла, преступления и наказания, справедливости…
— Но как?..
— В самом начале я думал просто заложить в систему полностью всё уголовное и административное право, но быстро сообразил, что это не рационально. Законов слишком много, они часто меняются, а самое главное, они не отражают самой сути правоохранительной системы — сохранение и восстановление справедливости. Законы сухи, они не могут передать всего разнообразия реальных жизненных ситуаций… Поэтому я ввёл всего лишь три простых правила… А до всего остального «Воланд» додумался сам…
Алексей ввёл несколько коротких команд, и в основном окне на центральном мониторе вывелся текст:
Правило №1.: Человек не может ограничивать права человека.
Правило №2.: Человек может реализовывать свои права в той мере и до той степени, которая не противоречит правилу №1.
Правило №3.: Права человека могут быть ограничены в той мере и до той степени, которая необходима и достаточна, чтобы реализовывались правила №1 и №2.
— Почти как у Азимова…— отметила Анна.
— Только наоборот… Законы робототехники, применённые к человечеству, — раздался за спиной Анны весёлый голос Михаила.— Я был в восторге, когда увидел это в первый раз…
— Ты опаздываешь, — заметил программист, поглядев на часы.— Я думал, ты поможешь с презентацией нашего проекта.
— Извини. У меня во всём районе вырубили свет, сигвей не успел зарядиться… Пришлось добираться на общественном транспорте, — всё тем же весёлым голосом оправдался робототехник.— Но если ты закончил с морально-правовым аспектом, то я расскажу о технической части.
— Вот и отлично! Тогда продолжайте без меня, потому что у меня на это время назначено свидание.— Алексей ещё раз посмотрел на часы, почему-то подмигнул Анне и вышел из серверной.
— Свидание…— усмехнулся Михаил.— Вот ведь… Оказывается, ничто человеческое нашему Лёхе не чуждо. Ты что-нибудь знаешь?
Анна только пожала плечами, заворожено наблюдая, как на экранах с бешеной быстротой мелькали постоянно переключающиеся и анализируемые видео. Всё, что прежде казалось ей воспалённой параноидальной фантазией, теперь приобретало зловещие и вполне реальные черты.