Андрей Краснобаев ВЕРОЯТНОСТЬ ОШИБКИ

Андрей Краснобаев

ВЕРОЯТНОСТЬ ОШИБКИ

— История создания андроидов вымощена десятками человеческих жизней, сложенными на алтарь собственных ошибок, пустых надежд и переоценённых возможностей.

Этой дежурной фразой Эл начинал свою двухчасовую лекцию, посвящённую взаимоотношениям человека и машины. Несколько лет назад его сняли с полётов, отправив делиться опытом в Московский университет астронавтики. Здесь готовили будущих штурманов и пилотов звёздных кораблей.

Пытаясь уйти от ошибок, вызванных человеческим фактором, люди старательно развивали технику, перекладывая на машины всю ответственность за собственные жизни. При этом забывая один небольшой, но очень важный момент. Слабый, по своей сути, и склонный к ошибкам человек никогда не сможет создать идеальную машину. Все промахи, просчёты и недоделки, невольно вложенные в своё создание, он стыдливо называет вероятностью ошибки. Неверное поведение андроидов в нештатных ситуациях, повлёкшее человеческие жертвы, заставило пересмотреть их роль, внеся серьёзные коррективы в основные законы поведения.

В качестве примера Эл всегда подробно разбирал один из подобных случаев.

Это произошло более трёх лет назад. Звёздный корабль с исследовательской группой на борту после трёх месяцев пути вплотную приблизился к заданной цели. Прямо по курсу лежала недавно открытая планета. По мнению многих учёных, она была вполне пригодна для жизни.

В состав группы, помимо девяти человек входил андроид серии R03 I-AL9082. Выполняя обязанности техника и помощника капитана, он отвечал за жизнеспособность корабля. Вероятность ошибки в действиях подобных андроидов составляла всего лишь один процент. То есть в одном случае из ста он мог поступить неверно.

Уже выходя на орбиту, они случайно столкнулись с метеоритом. Вынырнув из чёрной пустоты, космическое тело размером с футбольный мяч насквозь прошило обшивку корабля. Была нарушена герметизация, выведен из строя спасательный катер и почти все системы управления.

Согласно трём основным законам поведения, андроид никогда не сможет причинить вред человеку. Жизнь человека для него бесценна, и ничто не сможет нарушить данное утверждение. Опираясь на эти законы, андроид пришёл к единственному выводу. Дальнейшая сохранность жизни людей напрямую зависела от жизнеспособности корабля. Включив ручное управление, андроид посадил корабль на поверхность планеты. Этих роботов создавали с прицелом именно на такие моменты. В критической ситуации, когда счёт идёт буквально на секунды, даже подготовленный человек часто впадает в панику. Работающий по заданной программе андроид, быстро просчитав все возможные варианты, действует стремительно и практически безошибочно.

Прибывшая через несколько месяцев команда спасателей обнаружила почти полностью отремонтированный корабль. Из всей группы уцелел лишь один андроид. Действуя согласно заданной программе, он полностью восстановил обшивку, вернув работоспособность всем системам.

Как потом показало проведённое расследование, люди погибли ещё при посадке. Выключившаяся система торможения и компенсации плюс незначительная ошибка в расчёте глиссады. Перегрузка в несколько десятков g просто размазала человеческие тела в неработающих амортизационных креслах. У андроида не было программы, позволяющей отличить мёртвого человека от живого. Даже не подозревая, что вся команда мертва, андроид ремонтировал корабль, послушно следуя своей основной программе.

В аудитории стояла напряжённая тишина. Эл был хорошим рассказчиком. Передавая в мельчайших деталях картину происшедшего, он вызывал у слушателей чувство причастности и сопереживания.

— Прежде чем мы перейдём к обсуждению, хочу внести ясность, — заложив руки за спину, Эл не торопясь прошёлся перед аудиторией, — этот андроид был заурядной машиной со своим процентом вероятности ошибки. Так что не стоит удивляться тому, что он просчитался. Те, кто расследовал этот случай, были простыми людьми. Они не стали принимать во внимание вероятность ошибки, обвинив во всём андроида.

— Вам не кажется это циничным, рассуждать о вероятности ошибки андроида, забывая, что за ней стоят человеческие жизни? — кто-то эмоционально выкрикнул с места.

Эл усмехнулся.

— Если машина, созданная руками человека, начинает действовать неправильно, то чья в этом вина? — чуть излишне громко спросил он.

Аудитория притихла.

— Вероятность подобной ошибки в своё творение заложил сам человек. Вернее, он не смог её исключить. А когда это произошло, обвинили во всём андроида. Так я повторю, чья в этом вина?

Студенты молча переглядывались. Выдержав небольшую паузу, Эл окинул взглядом аудиторию.

— В свете изложенных фактов предлагаю всем подумать и ответить, чем опасны андроиды для человека?

После подобного вопроса среди студентов всегда возникало небольшое замешательство. Не зная, что ответить, они перешёптывались, косясь на преподавателя. Эл терпеливо ждал.

— Это невозможно, — наконец кто-то из студентов несмело подал голос.

Перестав прохаживаться, Эл остановился.

— Почему? — поинтересовался он, окидывая взглядом аудиторию, — смелее! Вы же будущие пилоты. Учитесь принимать решения и высказывать своё мнение.

С задних рядов поднялся худощавый парень.

— Это невозможно, — повторил он. — Согласно трём основным законам робототехники, андроид никогда не причинит вред человеку. Если он случайно ошибся, неправильно оценив обстановку, то это не значит, что андроид опасен для человека.

— Кто думает иначе? — громко спросил Эл.

В третьем ряду поднялась симпатичная девушка.

— Инга Морозова, — представилась она.

Её фамилия неприятно кольнула Эла. Может просто совпадение?

— Бесшумные механические шарниры, новые композиционные материалы, искусственные волосы, тщательно проработанная мимика лица — всё это превращает андроида в точную копию человека. Добавьте сюда быстроту и смелость в принятии решений, и перед вами харизматическая личность с задатками лидера. Общаясь с андроидом, человек невольно попадает под его влияние, забывая, что перед ним машина со своим процентом вероятности ошибки. В критический момент, потеряв контроль над ситуацией, свою растерянность и страх человек с лёгкостью перекладывает на плечи андроида, доверяя ему в принятии важных решений. Что, как показывает статистика за последние несколько лет, в одном случае из ста приводило к несчастным случаям, — чётко отчеканила Инга.

Слишком чётко для человека и не совсем для андроида. Впрочем…

— Откуда такая осведомлённость? — поинтересовался Эл.

— Читала кое-что, — неопределённо пожала плечами Инга.

— Совершенно верно, — подвёл черту Эл, — андроиды серии R03 I-AL9082, благодаря конструктивным материалам, полностью воссоздающим человеческое тело, получили наибольшее распространение. Как выяснилось в ходе эксплуатации, у них есть два больших минуса. Первый — это внешность, благодаря которой люди им безоговорочно доверяют. Второй — программа поведения со слишком большими полномочиями. В нештатной ситуации машина брала на себя ответственность, самостоятельно принимая решение, что, хоть и редко, но всё же приводило к несчастным случаям.

Аудитория возбуждённо загалдела. С мест стали раздаваться отдельные выкрики.

— Андроиды этой серии получили наибольшее распространение, — громко сказал уже знакомый парень, — если они так опасны, почему их не изъяли из обращения?

Стараясь утихомирить студентов, Эл поднял руку.

— Андроиды серии R03 I-AL9082 наделены искусственным интеллектом, а значит, способны осознавать свои ошибки и учиться. К тому же конструкторы внесли изменения в их программу поведения, сделав андроидов более человечными. Теперь в критической ситуации они быстро просчитают возможные варианты выхода, оставив право выбора за человеком. В этой спарке он по-прежнему главный.

— А что стало с тем андроидом? — выкрикнула какая-то девушка с места.

— Не знаю, — сухо ответил Эл, — возможно деактивировали. Если у вас больше нет вопросов, то можете быть свободны.

Стоя у доски, Эл наблюдал, как медленно пустеет аудитория. Последней у выхода задержалась Инга. Потоптавшись на пороге, она вернулась.

— Вы что-то хотели? — поинтересовался Эл, видя её смущение.

— Александр Морозов — капитан погибшей группы, мой отец, — тихо сказала Инга, — вы спрашивали, откуда такая осведомлённость. После его гибели я много читала о взаимоотношениях андроида и человека.

Выходит не совпадение.

— Ну и каково ваше мнение?

— Не знаю, — честно ответила Инга, — для объективного суждения надо хорошо знать сложившуюся ситуацию. Я читала выводы комиссии, но там всё очень расплывчато. Возможно, андроид всё правильно просчитал, и другого выхода у него просто не было. Если мой отец ему доверился, выходит, он очень хорошо его знал.

Не зная, как закончить разговор, Инга неловко замолчала.

— Наверное ваш отец был хорошим человеком, раз у него такая дочь, — сказал Эл.

— Спасибо, — Инга порывисто сжала его руку.

Она уже давно убежала, а он всё стоял, ощущая на ладони теплоту её пальцев. Покинув аудиторию, Эл вошёл в свой маленький кабинет, по размеру больше напоминающий кладовку. Скрестив на груди руки, остановился у окна.

За три месяца полёта они стали настоящими друзьями. Девять членов группы и андроид серии R03 I-AL9082. Это Санька Морозов окрестил его Элом. Пытаясь спасти своих друзей, он неверно оценил ситуацию и ошибся. Заклеймённый смертью, Эл стал изгоем среди андроидов, да и в мире людей не смог найти своего места.

После той злосчастной катастрофы его хотели деактивировать. Но, посчитав хранящиеся в его электронных мозгах подробные сведения о катастрофе слишком ценными, Эла перепрограммировали, отправив в Московский университет делиться опытом со студентами. Люди сделали его слишком человечным. В ожидании вопросов о судьбе экспедиции, его нейроны всякий раз замирали, давая сбой программы. Это чувство было сравнимо с ёканьем человеческого сердца. Завтра он пойдёт к руководству и попросит сделать его грубее. Слишком велика тяжесть хранимых им знаний, невыносимо сознавать себя виновником гибели человеческих жизней — самого ценного, что есть в мёртвой пустоте бескрайних просторов Вселенной. И сейчас, после встречи с дочерью погибшего по его вине друга, его нейроны словно взбесились. Эл чувствовал, как от их действия микрочипы постепенно разогреваются, уверенно набирая температуру. Он не мог остановить это, а может, просто не хотел.

Эла обнаружили на следующий день. Он стоял перед окном всё в той же позе со скрещенными на груди руками. Его взгляд потух. Вопрос, сам он это сделал или нет, так и остался открытым. Когда Эла вскрыли, то обнаружилось, что все файлы безвозвратно стёрты, а процессор, карта памяти и жёсткие диски расплавились от высокой температуры. Их словно выжег кто-то изнутри.

Поделитесь на страничке

Следующая глава >

Похожие главы из других книг

Три ошибки

Из книги Афёры с фальшивыми деньгами. Из истории подделки денежных знаков автора Вермуш Гюнтер

Три ошибки Хайлинг и Фетцнер допустили три ошибки, совершенно непростительные для служащих предприятия, где производятся деньги.Первая ошибка – это монета в две марки, заказ на чеканку которой поступил на монетные дворы Карлсруэ и Гамбурга в 1959 году. Штампы поступили из


4. «Война в Чечне повысила вероятность превращения России в полицейское государство» (Гайдар, Ковалев)

Из книги Анализ чеченского кризиса автора Мейланов Вазиф Сиражутдинович

4. «Война в Чечне повысила вероятность превращения России в полицейское государство» (Гайдар, Ковалев) Опять, на мой взгляд, тезис прямо противоположный истине и выказывающий непонимание авторами сути происходящего в России и в мире.Во-первых, о термине «полицейское


Владимир Винников, Андрей Смирнов, Денис Тукмаков, Андрей Фефелов ВОПРОСЫ СТАЛИНИЗМА

Из книги Газета Завтра 838 (50 2009) автора Завтра Газета

Владимир Винников, Андрей Смирнов, Денис Тукмаков, Андрей Фефелов ВОПРОСЫ СТАЛИНИЗМА Доктрину нынешнего руководства РФ можно определить словами "модернизация без мобилизации". Увы, эффективность подобной модели выражена не в технологических достижениях российской


Владимир Винников, Евгений Нефёдов, Андрей Смирнов, Денис Тукмаков, Андрей Фефелов ВОПРОСЫ СТАЛИНИЗМА—2

Из книги Газета Завтра 839 (51 2009) автора Завтра Газета

Владимир Винников, Евгений Нефёдов, Андрей Смирнов, Денис Тукмаков, Андрей Фефелов ВОПРОСЫ СТАЛИНИЗМА—2 Материал "Вопросы сталинизма", опубликованный в прошлом номере, вызвал большой интерес читательской аудитории. Но насколько приемлем опыт сталинской модернизации в


Психологические ошибки

Из книги Пропаганда как оружие в войне автора Зульцман Рудольф

Психологические ошибки Пропагандисты всегда должны помнить о том, что между пропагандой, которая имеет целью поднять моральный дух собственного народа, и пропагандой, которая свою задачу видит в ослаблении воли противника к сопротивлению, существует большая разница.


Глава 3. Вероятность

Из книги Проект Россия. Большая идея автора Шалыганов Юрий Викторович

Глава 3. Вероятность Чем выше вероятность наступления события, тем больше человек принимает его во внимание. И наоборот: чем вероятность ниже, тем больше она игнорируется. После определенного минимума вероятность события считается для практики нулевой. Теоретически


Глава 8. Про ошибки

Из книги Россия. История успеха. Перед потопом автора Горянин Александр Борисович

Глава 8. Про ошибки Возможно, ум мешает жить. Многие советуют не думать, а просто жить — радоваться солнцу, наслаждаться пением птиц, заботиться о хлебе насущном… О глобальном думать не надо. Зачем, если все до нас давно продумали. Надо просто жить, и будет нам счастье.


2. Пробы и ошибки

Из книги Аэрофобия автора Ершов Василий Васильевич

2. Пробы и ошибки Четвертая, последняя в истории Российской империи Дума приступила к работе в предкризисный для страны и всего мира период – в канун Первой мировой войны. С ноября 1912 г. по февраль 1917-го. состоялось пять сессий. По составу четвертая Дума мало отличалась от


Ошибки экипажей

Из книги 100-долларовое правительство [А если цена на нефть упадет?] автора Делягин Михаил Геннадьевич

Ошибки экипажей Высказывания разумных людей:«Вы на своей работе ошибок не совершаете? Думаю, вряд ли — цена только им меньше. Но те, кто сидит за штурвалом, — ТАКИЕ ЖЕ люди, только вы своими высказываниями их право на ошибку сводите к нулю, а за собой оставляете, а у вас на


ОШИБКИ И ЗАБЛУЖДЕНИЯ ВЛАСТИ

Из книги Клуб любителей фантастики, 2010 автора Чекалов Денис Александрович

ОШИБКИ И ЗАБЛУЖДЕНИЯ ВЛАСТИ Нужна ли России прогрессивная шкала подоходного налога? (М. Делягин в передаче на радио «Эхо Москвы», 26.03.2008)В. ВАРФОЛОМЕЕВ — У нас на прямой линии связи Михаил Делягин. Здравствуйте.М. ДЕЛЯГИН — Добрый вечер.В. ВАРФОЛОМЕЕВ — У вас уже вечер? Где


Андрей Краснобаев ПЛАНЕТА ДОЖДЕЙ

Из книги Сигнал и шум. Почему одни прогнозы сбываются, а другие – нет автора Сильвер Нейт

Андрей Краснобаев ПЛАНЕТА ДОЖДЕЙ Мощный ракетный крейсер «Тесей», напичканный новейшим оборудованием, вот уже несколько часов лежал на орбите недавно открытой планеты. Она явно относилась к земному типу. Подобные планеты можно было легко пересчитать по пальцам одной


Андрей Краснобаев Я, НЕ РОБОТ!

Из книги Последний космический шанс автора Первушин Антон Иванович

Андрей Краснобаев Я, НЕ РОБОТ! Это был последний шанс. Как соломинка для утопающего, даже не бревно для потерпевшего кораблекрушение. Как некогда говаривал бравый вояка — гроза всех рейдеров Галактики, а ныне покойный майор Дроздов:— Давай. Костя, на тебя вся страна


Андрей Краснобаев ЛАБИРИНТ

Из книги автора

Андрей Краснобаев ЛАБИРИНТ Идеальное прикрытие для спецагента. Погрузочные роботы, не торопясь, таскали тяжёлые ящики в длинное чрево крейсера. Спасаясь от жаркого марева Сунтажа. Егор часто прихлёбывал прохладную воду из стеклянной бутылки.Для удобства подсчёта он


Вероятность погибнуть от удара молнии становится все меньше

Из книги автора

Вероятность погибнуть от удара молнии становится все меньше Когда Хоук только начинал начал свою карьеру в середине 1970?х, анекдоты о синоптиках были недалеки от истины. Например, в прогнозах погоды NWS, сделанных за три дня, максимальное отклонение от прогнозируемой


Вероятность и прогресс

Из книги автора

Вероятность и прогресс Стоит отметить, насколько это утверждение напоминает слова Байеса, приведенные в трактате «Божественная доброта» («Divine Benevolence»), где утверждалось, что нам не стоит относить собственное несовершенство на ошибки Бога. Однако в философии Байеса,


7.2. Ошибки здравого смысла

Из книги автора

7.2. Ошибки здравого смысла Идея превращения космонавтики в сферу услуг имеет множество сторонников, включая высшее руководство России. Мы неоднократно слышали рассуждения президента и премьера о том, что космонавтика должна «выйти на самоокупаемость», «приносить