Всегда улыбаться

Из книги Вадима Панова «Аркада»

Все улыбаются

Рейган тоже замолчала, но после недлинной паузы неожиданно спросила:

– Вас не раздражают улыбки? – и кивнула на толпу.

Захар и Карифа дружно повернули головы, пытаясь понять, что именно привлекло внимание Рейган, после чего синхронно ответили:

– Нет.

– Люди как люди.

– Все улыбаются, – добавил Паркер.

– Они постоянно улыбаются, – уточнила красноволосая, стараясь, чтобы голос звучал ровно.

...

– Ты прекрасно знаешь, почему они улыбаются, – пожала плечами Карифа.

– И поэтому я должна быть к ним добрее?

– Понять и простить, – хохотнул Захар. – Им приходится казаться счастливыми.

Потому что глобальная программа слежения считала мрачные выражения лиц подозрительными, начинала «вести» их, передавая от одной видеокамеры к другой, и если на измученном лице менеджера или домохозяйки слишком долго не появлялось улыбки, сообщала об отсутствии «счастливого настроения» в правоохранительное подразделение. Мрачного гражданина проверял ближайший патруль, и если причины для грусти «несчастливчика» признавались ничтожными, его вносили в список потенциально неблагонадежных, вырваться из которого было практически невозможно.

Отсутствие на лице ярко выраженных признаков счастья могло вылиться в серьезные проблемы, поэтому люди заставляли себя улыбаться, демонстрируя счастливому обществу funny.

...

– Как я уже сказал, достижение счастья – одна из важнейших целей современного общества, – в голосе Каплан послышались довольные нотки, ему явно нравилось видеть растерянность Алекса. – Все должны быть счастливы.

– Я вполне счастлив, я всегда улыбаюсь…

Виноват человек, а робот всегда прав

Еще несколько лет назад робомобили притормаживали или пытались уклониться от столкновения, однако статистика показала, что в восьмидесяти процентах инцидентов пешеход все равно погибает, но при этом повреждается или приходит в полную негодность дорогая техника, и корпорации изменили программу управления мобилями: уровень опасности, то есть расстояние до внезапно появившейся помехи, при котором робот начинал экстренное торможение, существенно снизили, и люди стали гибнуть чаще. Зато техника реже выходила из строя. Адвокаты первых погибших подали в суд, но все инстанции посчитали изменения правомерными, поскольку людям на проезжей части делать нечего.

Оказался на дороге – сам виноват.

Еще через год корпорации добились принятия правила обязательного возмещения убытков. Если оказавшийся на проезжей части прохожий случайно выживал, ему приходилось оплачивать транспортной корпорации и муниципалитету причиненный ущерб: стоимость поврежденного оборудования, работу полицейского дрона и убытки от простоя дороги. С этого года добавили пункт о наследуемом возмещении, и если робот убивал ребенка, его родители обязывались оплатить выправление и покраску бампера.

Таким стало «право робота»: что бы ни случилось – виноват человек.

Ведь машина действует по алгоритму. Машина не ошибается и не знает зла.