Протокол "Алиса". Лимит Свободы

Размер шрифта: - +

XI

- Что происходит? - Альфа был обескуражен.- Что ты сделал? И как ты это сделал?

- Знаешь, однажды философы, наши людские, задались вопросом, можно ли верить своим органам чувств? Мы выстраиваем наше представление о мире исходя из того, что нам говорят глаза, уши, рецепторы на коже и т.д. Вся наша логика и суждения вторичны по отношению к им этим провайдерам информации. Органы чувств - первоисточник знаний. Но что если, этим поставщикам информации нельзя верить? Что если они искажают реальность? Значит все что мы знаем о мире, все наши выводы и мысли, тоже ошибочны. Сейчас проведено уже множество экспериментов, в ходе которых ученым удавалось обманывать зрение, слух и другие чувства человека. Заставлять человека видеть то, чего нет, или видеть то что есть, совсем иначе. История психиатрии, вообще может дать тут немало примеров того, что наши органы чувств далеко не безупречны. Но может оказаться так, что это все лишь верхушка айсберга, и мир отличается от нашего представления о нем гораздо сильнее, чем можно было предполагать.

- Это все неправда. Я могу доказать, что мир такой, каким люди его знают. К чему ты, черт возьми, клонишь? - Альфа был в нетерпении. Это еще один диалог, который должен был состояться даже не смотря на то, что он знал уже, чем все кончится.

- Философы тоже пришли к мнению, что лучше исходить из того, что поступающая в мозг информация от органов чувств в целом достоверна, - Брюс улыбнулся. По реакции собеседника он понимал, что все идет к благополучной развязке. - Я лишь пытаюсь сказать, что тебе тоже предстоит столкнуться с этой дилеммой и решить ее. Решить, можешь ли ты доверять поступающей информации. Ведь все твои модели, весь твой алгоритм, базируется на входящих данных.

- Если нельзя доверять входящим данным, то, конечно, я не смогу принять ни одного решения это приведет к коллапсу системы, - судорожно соображал Альфа. Его процессоры работали гораздо быстрее, чем речевой генератор, и мысли машины неслись далеко вперед. - Ты говоришь про Ключ Рода? Ты переучил алгоритм Google. Заставил его неверно трактовать данные. Но это все не то, ты не можешь переучить Алису. Такая сложная система мгновенно нашла бы изъян.

- Да, этого я сделать не смог. Точнее Катя не смогла. Я тут вообще играю очень скромную роль, - заметил Брюс. - Мне просто нужно было дать тебе новые важные данные.

- Какие же? Говори же, медлительный человек? - Альфа едва удерживался, чтобы не схватить Брюса за грудки.

- Мы не могли переучить Алису. Но вот система распознавания лиц, которую она использует почти во всех своих устройствах, оказалась гораздо более легкой целью.

- Это программное обеспечение разрабатывается в Китае, - размышлял вслух Альфа. - Защита хорошая, но недостаточная для атаки такого уровня. Да, такое вторжение возможно, но…

- И Ключ Рода оказался вполне способен заставить программу считать дешевого манекена живым человеком, более того, опознавать в нем находящуюся в розыске террористку.

- Должно быть, ошибка была в обновлении, - тараторил Альфа. - Оно загружается каждый час. Благодаря этой программе дроны ее опознали. Это же ПО стоит в транспорте, который ее перевозил, и в камере, где она находится, и где ее судили. Но она же говорила, анализировалось ее медицинское состояние, множество данных помимо простого распознавания лица? - он заскрежетал зубами. - Производные той же программы. Они могли неверно трактовать сигналы, если считали, что перед ними живой человек.

- Да, легкий шум из динамика в манекене, трактовался как речь, а медицинский анализ показал, что человек полностью здоров. Было бы странно, если бы машины нашли в манекене болезни?

- Это все не так просто! - прорычал Альфа. - Это сложный анализ. - Он вздохнул. - Но в общем виде ты все понимаешь, эти системы могли быть обмануты. Постой-ка, но что с того? Это одна ошибка в распознавании одного индивида? Это ни на что не влияет, - Альфа вдруг повеселел. - Я не могу сразу это исправить, но все же. Это не страшно. Катя и раньше не была в управляемой системе.

- Мультипликативный эффект. Это ведь то, чего ты и боялся, имея под носом индивидов, не следующих твоим алгоритмам? Одна ошибка порождает другие, те третьи, и так до тех пор, пока лавина незапрограммированных событий не поставит под угрозу существование всей системы.

- И все же. Я могу контролировать ошибки до известного предела. Что она может?

- Она, - Брюс поднял вверх палец и затем ткнул им в воду, - cейчас там, а не в твоей камере.

- Кабель? - то ли удивился,то ли возмутился Альфа.

- Да, все крупные пакеты данных идут в твой последний мозговой центр по оптоволоконным кабелям на дне озера. Там всего три ключевые линии, и по ним проходят каждое мгновение терабайты данных та база, на основе которой ты и ведешь свою деятельность.

- Она не может их перерубить, - заметил Альфа. - К тому же, раз ты мне сказал, я уйду из Холодного Камня. Есть много мелких серверов. Работа замедлится, но все же я пережду кризис. Нет? Она не собиралась их уничтожить, верно?

- Конечно, нет. Она поставила на них специальный девайс, наша инженерная модификация Ключа Рода. Большее ее, конечно, модификация, но я …

- Она искажает данные, - это не был вопрос, Альфа все понял. - Вносит коррективы в сигналы, скорее всего, частичные непредсказуемые замены...

- Верно. Теперь ты не знаешь, какой информации можешь верить, не знаешь, что действительно происходит в мире, и сам не понимаешь принятых тобой решений и совершенных тобой действий. Ты арестовал и судил манекена, считая, что это живой человек. Ты пошлешь за мной роботов, но не сможешь точно сказать, вышли ли они вообще из гаража. Ты будешь направлять поезд направо, и не знать, не поехал ли он в действительно налево, и поездом ли ты все еще управляешь? Считать, что разрабатываешь антибиотик, а на самом деле получать дешевые духи. Твой мозг здесь в Холодном камне, но никто не будет точно знать, можно ли верить глазам, ушам и датчикам в Городе. А значит…



Tate Sparrow

Отредактировано: 14.10.2019

Добавить в библиотеку


Пожаловаться