Анимус. Пламя техноэволюции (СИ) - Агудов Владислав (читать полностью бесплатно хорошие книги TXT) 📗
В крайнем случае, если допустим, что "Мыслитель" превратится в злобного психопата, мы можем просто отключить питание.
Но, гипотетически, при том наполнении знаниями и опытом, которыми мы наделили "Мыслителя", вероятность такого хода событий крайне ничтожна. Так что, давай оставим между нами это маленькое отклонение в работе системы и займемся чем-нибудь более важным. Я, например, не прочь подкрепиться перед боем. Тебе что-нибудь принести?
- Нет, спасибо, - что-то ничего не хочется, - Эрика и так не была сторонницей приема пищи в промежутке между завтраком и обедом, а ещё эта новость об излишней самостоятельности в принятии решений "Мыслителем" никак не способствовала появлению аппетита.
Стивен уже исчез за дверью, где-то в недрах кабинета, который приютил несколько автоматов с напитками и продуктами, служившими завтраком, обедом или ужином сотрудникам, проводившим на работе львиную долю своего суточного времени.
Эрика стояла, как вкопанная, на том самом месте, где пять минут назад стоял Стивен. Она смотрела на плёночного вида экран, по которому ровным строем двигались четкие символы программ, написанных Стивеном, Эрикой и командой помощников-программистов. Однако эти символы сейчас служили лишь фоном для накатывающихся на неё волн мыслей, беспокойств и переживаний.
- Быть может, Стивен прав и беспокоиться не о чем. Ведь они старались всё учесть и просчитать вероятность различных сбоев в работе "Мыслителя", создали многоступенчатую систему безопасности, включавшую в себя различные меры защиты в случае непредсказуемых действий "слетевшего с катушек" электронного мозга. От переписывания отдельного участка программы до массового отключения всех электронных устройств, находящихся в радиусе электромагнитного импульса - этот комплекс мероприятий гарантировал безопасность окружающим в случае утери контроля над искусственным интеллектом.
Но мы же создавали не психопата или убийцу, а самого эффективного помощника для человечества. И она, Эрика, можно сказать, вложила в "Мыслителя" свою душу. Они учили его осознавать себя частью окружающего мира. Всеми силами стараться не навредить всему живому на планете и в первую очередь, человеку. Они запрограммировали три основных закона робототехники и закрыли доступ для изменения файлов.
Кажется, оснований для беспокойства нет. Наверное, это естественно - беспокоиться за своё детище. Никто не может знать наверняка, кем вырастет его ребёнок. В отличие от человеческого опыта воспитания, у них со Стивеном была возможность программно запретить "Мыслителю" вырасти злодеем.
Мысли Эрики прервало громкое объявление.
- Вспомогательному персоналу просьба покинуть помещение, - одновременно из нескольких настроенных на максимальный уровень громкоговорителей трижды прогремел голос Марка Штерна.
Это могло обозначать только одно - через пятнадцать минут на балкон, расположенный напротив "Мыслителя" выйдут представители комиссии, которые должны подтвердить наличие интеллекта у машины и дать добро на использование искусственного разума в различных областях человеческой деятельности с целью эффективного развития прогресса без ущерба человечеству и окружающей среде.
Вслед за речами ученых, проливающих свет на устройство, общую схему работы и целесообразную необходимость использования мыслящих систем на благо человечества, предстояло практическое представление возможностей "Мыслителя".
Различные вопросы, тесты и задания должны были выявить наличие интеллекта у машины, а также вычислить уровень и масштабность этого самого интеллекта.
После чего, если комиссия одобрит его использование, начнётся интеграция "Мыслителя" во внешние системы управления мегаполисами, предприятиями, транспортом и другие инфраструктуры.
"После сегодняшней презентации он будет работать беспрерывно, самообучаясь и самосовершенствуясь. Основными изменениями, которые в дальнейшем коснутся "Мыслителя", скорее всего затронут внешний вид и размеры серверной фермы в соответствии с дальнейшим развитием технологий" - представила себе Эрика ближайшее будущее "Мыслителя".
Вернулся Стивен.
- Ну что, готова? Коленки не трясутся? - дожевывая запоздалый завтрак и потирая одну ладонь о другую, он бодро произнес, обращаясь к Эрике.
- А ты что, так, с полным ртом, и перед комиссией речь толкать будешь? - парировала Эрика неприятный намек на её слабость.
Стивен попытался быстро и разом проглотить содержимое ротовой полости. Но оно почему-то отказывалось легко проскальзывать дальше по ограниченным в диаметре каналам пищеварительной системы. Со стороны казалось, что он пытается проглотить куриное яйцо целиком.
Наконец, когда Стивен справился с процессом поглощения пищи, он радостно хлопнул в ладоши и столь же радостно заявил: "Давай зададим им жару!"
Под местоимением "им", конечно, подразумевались представители комиссии. И ребяческое "зададим им жару" казалось Эрике не совсем уместным в данный момент.
Их коллективу совместно с независимыми экспертами предстоял конструктивный анализ функциональной пригодности машины, которую они создали. А брошенная Стивеном фраза скорей относилась к какому-нибудь спортивному соревнованию.
Тем не менее, чтобы поддержать столь необычно выбранный Стивеном фразеологизм, Эрика без энтузиазма произнесла: "Ну, давай"
И через секунду добавила: "Зададим. Жару"
Когда все помощники освободили зал, в нём воцарилась практически полная тишина. Лишь едва слышное гудение и попискивание отдельных серверов, являвшихся тысячными частями этой сложной машины, заполняли звуковой вакуум, образовавшийся в помещении.
На балконе, скользя вдоль ограждения, словно строй новобранцев, появились члены комиссии.
Эта сцена напомнила Эрике стайку утят, строем переходящую дорогу за мамой уткой, и она улыбнулась.
В комиссию входили представители различных научных направлений в технической, биологической, кибернетической областях. А также туда затесался один военный эксперт, который по какой-то причине возглавлял этот маленький "ученый отряд".
Эрике не по душе было присутствие армейского в рядах комиссии: - ?К чему он здесь? Это не милитаристкий проект. "Мыслитель" не должен иметь доступа к военной базе данных, не говоря уже об управлении вооружением. Но, раз кто-то наверху решил, что этому человеку здесь место, то этого не изменить.
Две шеренги: одна, состоявшая из пяти ученых и вторая, состоявшая из пяти представителей Высокой комиссии, выстроились друг напротив друга
Их разделял бортик балкона, а также расстояние, отделявшее экзаменаторов от экзаменуемых, словно поле битвы, ожидающее того момента, когда на него выйдут противники.
Вслед за сухим, без лишних эмоций, приветствием, Марк Штерн вкратце описал поставленные перед ними задачи, которые успешно, шаг за шагом решались на протяжении десяти лет.
Он уверенно заявил, что успешное их решение привело к невиданному доселе научному прорыву, воплощённому в устройство, представленное пред их глазами.
Затем Фрэнк Николсон и Ричард Снайпс попытались довольно детально описать схему работы псевдонейронной сети, углубляясь в технические и биологические детали построения их "нейронной паутины", чем чуть было всех не усыпили.
И уже после того, как Стивен пробудил "учёную публику" речью о программном наполнении "Мыслителя" свойствами, характерными для мышления и поведения человека, настал черёд Эрики.
Представившись и изложив суть своей работы в проекте, Эрика перешла к основной теме её выступления: - "Любой высокоразвитый интеллект, обладателем которого в данный отрезок времени в нашем мире, как мы считаем, является homo sapiens или человек разумный, то есть мы, в той или иной степени руководствуется моральными и нравственными принципами, являющимися мотиваторами его поступков.
