Bright Citadel

Knowledge. Power. Immortality.

Previous Entry Share Next Entry
Машина власти. Часть 1
alexeybright

Я начинаю публикацию крупной статьи "Машина власти". Полная PDF-версия первой части размещена по адресу http://algedo.net/pm_1.pdf, и я рекомендую для чтения именно ее: все-таки верстка в LaTeX многократно превосходит по качеству все, на что способен урезанный HTML, который мне доступен здесь.

Наука заключает в себе величайшую надежду мира на стабильное правительство. (Стаффорд Бир [1])

1. Введение

Это не просто популярная статья или исторический обзор. Это также не памфлет или манифест, хотя здесь есть элементы каждого из этих жанров. Я хочу рассказать вам историю о власти и управлении, историю настолько же древнюю, насколько древней является сама идея власти. Историю в чем-то трагичную, но при этом несущую в себе ростки глубого оптимизма и надежды на лучшее. Я начну рассказ с далекого прошлого и доберусь до недалекого будущего. Я расскажу о великих мыслителях и мечтателях — героях философии и науки, об их жизни и подвигах во имя будущего, о том, что им удалось создать, и о том, что не удалось. Я, наконец, расскажу о том, что мы могли бы и должны сделать сами, и о том, к чему это может привести.

Почему я выбрал именно эту тему? О власти писали многие. И это неудивительно: власть и управление — то, что является тайной или явной страстью миллионов, то, что рождает легенды, то, что дает огромную силу и лишает разума. Это явление более древнее, чем человечество, более фундаментальное, чем жизнь, и более масштабное, чем наши обиходные представления о нем. Но я хотел бы взглянуть на историю власти не совсем стандартным образом, через призму науки об управлении, известной под именем кибернетики. Науки, не менее загадочной, чем то, что она изучает.

2. Искусство кормчего

Лучшее, что нам дает история, — это возбуждаемый ею энтузиазм. (Иоганн Вольфганг Гете)

История бывает двух видов. Один из них, наиболее привычный для нас — та история, которую мы можем изучать или просто с интересом слушать, которую можно пересказывать, а зачастую и беззастенчиво искажать. Такая история, как свидетельствует известное изречение, действительно не знает сослагательного наклонения, и этот недостаток частенько компенсируют фальсификацией. Второй вид — та история, которую мы творим своими руками прямо сейчас, которой мы можем и должны придать материальный облик. Казалось бы, что бы там ни было в прошлом, изменить его мы уже не в силах, а потому сосредоточиться нам следует на настоящем и будущем. С этим не поспоришь. Но, как известно, не знающий истории обречен на ее повторение. Поэтому для начала отправимся в далекое прошлое. На две с половиной тысячи лет назад.

2.1. С чего все начиналось?

В штиль каждый может быть кормчим. (Публилий Сир)

Рис. 1. Сократ

Сложно сказать наверняка, кого впервые осенила мысль о подобии всякого государства человеческому телу. Вполне возможно, это был кто-то еще из древних шумеров. Не исключено, что история эта начинается и еще раньше, задолго до того, как появилась письменность, которая донесла до нас мысли давно умерших людей. Мы же начнем наше исследование с Древней Греции и, конечно, с имени Сократа (рис. 1), вклад которого в основания западной философии был увековечен его учеником Платоном (рис. 2). Львиную долю своих письменных трудов Платон так или иначе посвятил Сократу, включая и один из наиболее значительных — "Государство" (рис. 3), который вошел в историю как одна из первых попыток создания утопии. Именно Сократ был тем персонажем "Государства", который, сам того не осознавая, озвучил идею, ставшую позднее основанием целой научной дисциплины:

"...Мы сперва исследуем, что такое справедливость в государствах, а затем точно так же рассмотрим ее и в отдельном человеке, то есть подметим в идее меньшего подобие большего."

Вот эта идея, высказанная напрямую. И это не случайная метафора, поскольку она повторяется в разных вариациях снова и снова:

"...Мы уподобили благоустроенное государство телу, страдания или здоровье которого зависят от состояния его частей."

Государство, уподобляемое человеческому организму: общность структуры, казалось бы, совершенно разных явлений — вот что было этим триумфом абстрактного мышления. Платон (возможно, вслед за Сократом) смог выполнить главную операцию научного метода — отделение поведения объекта от самого объекта, операцию, которая является насущной необходимостью для построения математической модели изучаемого явления.

С этого момента у него появилась возможность исследовать процессы управления как такового, не заостряясь на индивидуальных особенностях отдельных людей и структуре конкретных государств. И, как это часто бывает, энтузиазм, последовавший за озарением, заставил его составить проект идеального с его точки зрения государства высшей справедливости. Увы, как и абсолютное большинство утопистов, он совершил классическую ошибку, попытавшись построить идеальную систему из далеких от идеала компонентов.

Вместо создания модели оптимального управления, которое работало бы в обществе, состоящих из реальных людей с их врожденными и обусловленными доминирующей культурой особенностями, Платон составил длинное разъяснение о том, как должны вести себя члены идеального социума, чтобы поддерживать его идеальность. Каждый должен заниматься строго своим делом, ни минуты не уделяя иным интересам. Армия должна состоять из аскетов, активно избегающих любых поползновений к комфортной жизни. Жены должны быть общими, дети — неизвестными своим родителям и воспитываться сообща. Эти и подобные правила поведения занимают значительную часть всего "Государства", в котором Платон подробно обосновывает правильность и желательность подобной модели поведения.

Рис. 2. Платон

Беда в одном: что заставит вести людей так, а не иначе? Люди преследуют собственные интересы доступными им способами. Повлиять на их поведение можно либо при помощи насилия, либо создав достаточный стимул. Для принуждения нет ресурсов, ибо даже сам основной инструмент принуждения — верховные Стражи — обязаны вести себя так, как им несвойственно в нормальных условиях. Стимул — эфемерен, ибо заключается не в непосредственно ощущаемом повышении качества жизни, а всего лишь в статусе государства, которое в таких условиях считается "справедливым". Человек активно ощущает несправедливость, творимую по отношению к нему и его близким. Справедливость государственного устройства — нечто, находящееся за гранью восприятия и эмоциональной реакции, и потому она не обладает мотивирующей силой.

"Государству" Платона было суждено так и остаться образцом нереализуемой утопии, но это произведение содержит немало здравых мыслей, остающимися актуальными поныне. Например, одним из первых Платон обращает внимание на то, что управляющий государством должен быть именно специалистом по управлению, тем, кто умеет управлять, а не харизматичным лидером. В самом деле, ведь по сути своей управление — техническая задача, а не привилегия [2,3]:

"Кого же иного заставишь ты встать на страже государства, как не тех, кто вполне сведущ в деле наилучшего государственного правления?.."

И если метафора государства-организма предлагает нам способ организации структуры государственного управления, то идея о том, что управлять должен именно специалист по управлению, легла в основание доселе неизвестного общественного строя, получившего позже название меритократии. Наиболее известная с XX века форма меритократии именуется технократией, и мы еще рассмотрим этот вариант устройства общества в дальнейшем. Сейчас же снова обратимся к "Государству", в котором принцип профессионального управления раскрывается посредством емкой и красочной метафоры:

"...Среди моряков идет распря из-за управления кораблем: каждый считает, что именно он должен править, хотя никогда не учился этому искусству, не может указать своего учителя и в какое время он обучался. Вдобавок они заявляют, что учиться этому нечего, и готовы разорвать на части того, кто скажет, что надо. Они осаждают кормчего просьбами и всячески добиваются, чтобы он передал им кормило. Иные его совсем не слушают, кое-кто — отчасти, и тогда те начинают убивать этих и бросать их за борт. Одолев благородного кормчего с помощью мандрагоры, вина или какого-либо иного средства, они захватывают власть на корабле, начинают распоряжаться всем, что на нем есть, бражничают, пируют и, разумеется, направляют ход корабля именно так, как естественно для подобных людей. Вдобавок они восхваляют и называют знающим моряком, кормчим, сведущим в кораблевождении того, кто способен захватить власть силой или же уговорив кормчего, а кто не таков, того они бранят, считая его никчемным. Они понятия не имеют о подлинном кормчем, который должен учитывать времена года, небо, звезды, ветры — все, что причастно его искусству, если он действительно намерен осуществлять управление кораблем независимо от того, соответствует ли это чьим-либо желаниям или нет. Они думают, что невозможно приобрести такое умение, опытность и вместе с тем власть кормчего."

Рис. 3. Фрагмент папируса с текстом “Государства” Платона

Именно древнегреческое название кормчего — "кибернетес" — дало впоследствии имя науке, изучающей процессы управления, которая известна нам как кибернетика. В настоящее время это имя в несколько искаженном виде входит в состав русского слова "губернатор", английского "governor" или эстонского "kuberner", но многие ли знают о происхождении этих слов? Многие ли знают об истинном содержании кибернетики? Чаще всего люди полагают, что термин "кибернетика" означает примерно то же, что "автоматика" или "информатика", но насколько же это далеко от действительности!

А потому я расскажу о том, как эта наука появилась на свет, и о том извилистом пути, который пролегал от первых смутных идей к их блестящему воплощению. Человечеству еще требовалось осознать то общее, что лежит в основе любых процессов управления в организме, машине или обществе. Прогресс же, еще не располагавший научной методологией, всецело зависел от редких гениев, опережавших свое время подчас на столетия.

2.2. Плечи гигантов: Декарт, Ламетри, Ампер

Мысль — не более как ток электричества по проводам нервов. (Томас Генри Гексли)

Рис. 4. Рене Декарт Рис. 5. Жюльен Офре де Ламетри

Возможно, понимание той общности, которая лежит в основе любой управляемой системы, будь то машина, организм или общество, всегда носилось в воздухе. Тем не менее, внятно сформулировать этот принцип были способны лишь единицы, порой — с риском для жизни. Рене Декарт (рис. 4), великий философ XVII века, вполне вероятно, поплатился жизнью именно за свои взгляды, повторив судьбу Сократа — его смерть сопровождалась симптомами, характерными для отравления мышьяком. Декарт открыто заявлял, что животный организм (включая и организм человека) — не что иное, как машина, составные части которой — не привычные шестерни и червячные передачи, а кости, мускулы, нервы, артерии, вены и все остальное, что можно найти в живом организме [4]. Несмотря на то, что Декарт был представителем дуализма и считал реальным существование бесплотного духа, сам феномен жизни он объяснял вполне материалистически и, как мы можем сказать сегодня, кибернетически:

"Будем рассуждать так: тело живого человека так же отличается от тела мертвого, как отличаются часы или иной автомат (т. е. машина, которая движется сама собой), когда они собраны и когда в них есть материальное условие тех движений, для которых они предназначены, со всем необходимым для их действия, от тех же часов или той же машины, когда они сломаны и когда условие их движения отсутствует."

Идеи Декарта были развиты в работах Жюльена Офре де Ламетри (рис. 5), медика и видного философа-материалиста XVIII века, написавшего трактат с неимоверно вызывающим по тем временам названием "Человек-машина". Он категорически отвергал дуализм Декарта и саму идею бесплотной души, прямо утверждая буквально следующее:

"...Душа — это лишенный содержания термин, за которым не кроется никакой идеи и которым здравый ум может пользоваться лишь для обозначения той части нашего организма, которая мыслит."

И это в эпоху, когда взгляды такого рода считались еретическими и предельно безнравственными! Описывая природу мышления, Ламетри фактически придерживался идей сенсуализма и теории отражения, лежащей и в основе бионического направления современных технологий искусственного интеллекта:

"...Суждение, размышление и память представляют собой вовсе не абсолютные части души, но настоящие модификации своеобразного "мозгового экрана", на котором, как от волшебного фонаря, отражаются запечатлевшиеся в глазу предметы".

И уж конечно, он оставался последовательным механицистом в представлении о природе человека и его тела, не просто проводя аналогию между человеческим телом и машиной, а прямо указывая на то, что первое — частный случай второго [5]:

"Человеческое тело — это заводящая сама себя машина, живое олицетворение беспрерывного движения."

И снова феномен жизни выходит на сцену — но на этот раз при сопоставлении человеческого организма с машиной. Если Платон подметил у государства черты живого существа, то Декарт и Ламетри разглядели в живом существе механизм. Попыткам создания живых машин, систем искусственного интеллекта и разумных роботов посвящены тома разнообразной литературы, как технического, так и философского плана. В сущности, сейчас это одно из магистральных направлений кибернетики, без которого немыслим современный мир. Но практически нет книг, которые освещали бы попытки вдохнуть жизнь в государство, сделать его разумным и пытающимся выжить существом.

Именно об этом аспекте кибернетики мы будем вести разговор далее, но пока снова вернемся в темное прошлое человечества, в котором довелось родиться Ламетри, одному из самых ярких и оригинальных мыслителей в истории.

Рис. 6. Андре Мари Ампер

Казалось бы, за прошедшее столетие времена должны были измениться, но увы. Появление работ Ламетри вызвало столь же яростные нападки духовенства, как и в эпоху Декарта, — публичному сожжению был подвергнут целый ряд его сочинений, включая и работу "Человек-машина". Сам Ламетри был вынужден постоянно уходить от преследования, меняя места проживания. В конечном итоге его постигла в точности такая же участь, как и его предшественника, — он, судя по некоторым историческим свидетельствам, был отравлен. Последующие события подтвердили слова, написанные им в его главном сочинении:

"...Оружием фанатизма можно уничтожить тех, кто отстаивает эти истины, но ему никогда не уничтожить эти истины."

Истины не были уничтожены. Философия Ламетри оказала мощное влияние на таких выдающихся мыслителей, как энциклопедист Дени Дидро, известный атеист и антиклерикал Поль Анри Гольбах и представитель утилитарного материализма Клод Адриан Гельвеций. И все же впервые слово "кибернетика" для обозначения научной дисциплины, изучающей процессы управления, употребил не кто иной, как Андре Мари Ампер (рис. 6), знаменитый французский физик и математик, автор фундаментальных работ по электродинамике, чье имя стало названием единицы силы электрического тока.

В своем труде "Опыт о философии наук" Ампер занимается детальной классификацией всех известных в его время научных дисциплин и, что более важно, делает попытку предсказания научных областей, которым только еще предстоит появиться на свет в будущем. В этом он поступает подобно Менделееву, который свел немногие открытые элементы в единую систему, а затем на базе системы выполнил блестящее прогнозирование свойств еще не открытых элементов.

Для классификации Ампер использовал принцип дихотомии. Все научные дисциплины он разделил на два царства: космологические науки, изучающие все, что касается свойств материального мира, и ноологические науки, предметом исследований которых является мышление. В свою очередь, второе царство включало в себя подцарство общественных наук, разделенное на этнологические и политические науки, а последние имели ветвь этногенетических наук, разделявшихся на номологию (правоведение) и политику. Наконец, политика посредством все того же дихотомического метода была разделена Ампером на теорию власти и все еще ожидавшую своего рождения кибернетику — науку об управлении [6].

Оставалось сделать последний шаг, чтобы от умозрительных представлений о самой возможности изучения процессов управления перейти к практическому исследованию.

2.3. Рождение кибернетики: Норберт Винер и Уильям Эшби

Мы не знаем, долго ли просуществуют земля и небо, но знаем, что всегда 3 и 7 будет 10. (Аврелий Августин)

Насколько бы значительными ни были заслуги предшественников, именно Норберт Винер (рис. 7) стал для кибернетики тем, кем оказался для физики Исаак Ньютон. Конечно, во многом кибернетика стала продуктом своего времени и ее появление было предопределено суммой накопленных человечеством знаний, как и появление родственных направлений: теории информации Клода Шеннона, теории игр фон Неймана, а также "предкибернетики" Богданова, названной им тектологией [7].

И все же нужен был Винер для того, чтобы свести воедино огромный пласт знаний из совершенно разных областей науки, что и было им сделано. Не во всем последовательно, не всегда академически строго, нередко — на грани с искусством, но тем не менее — сделано, позволив многочисленным последователям развивать и уточнять основы науки, созданной Норбертом Винером.

Интересно, что уже Винер обратил внимание на феномен, который позже был исследован Виктором Глушковым (мы будем говорить о нем в последующих главах) в его теории информационных барьеров. А именно: существующие схемы государственного управления далеки от состояния гомеостаза. В своей работе [8] Винер так и пишет:

Рис. 7. Норберт Винер Рис. 8. Уильям Росс Эшби

"Здесь нет никакого гомеостаза. Мы должны проходить циклы бумов и спадов в деловой жизни, последовательную смену диктатуры и революции, войны, в которых все теряют и которые столь характерны для современности".

Состояние гомеостаза, таким образом, стало объектом пристального внимания кибернетиков с самого начала. Потому совершенно неудивительно, что моделирование этого состояния было и остается классической задачей кибернетики, решавшейся разными исследователями всевозможными способами и с разной степенью успеха.

Уильям Росс Эшби (рис. 8), психиатр и еще один патриарх кибернетики, вошел бы в историю уже благодаря тому, что стал создателем гомеостата (рис. 9) — устройства, моделирующего такую особенность кибернетических систем, как сверхустойчивость. Гомеостат в исполнения Эшби представлял собой конструкцию, содержащую четыре электромагнита с перекрестными обратными связями. Эти магниты, находясь в неустойчивом положении, постоянно перемещаются, переключая при своем движении контакты на кольцевом реостате, что обеспечивает несколько сотен тысяч возможных комбинаций. В конечном итоге магниты приходят в одно из возможных устойчивых состояний, после чего движение прекращается. Вывод гомеостата из состояния равновесия путем внешнего воздействия снова запускает процесс "блуждания" магнитов, которое продолжается до попадания в очередное состояние равновесия. Иными словами, система, находясь в любом состоянии, стремится к равновесию, поддерживая таким образом свой гомеостаз, что делает ее поведение похожим на поведение живого существа [9].

Аналогичные принципы были использованы коллегой Эшби — Греем Уолтером при разработке им автономных роботов с адаптивным управлением, известных под названием "черепах Грея Уолтера" (рис. 10). Созданные им в середине прошлого века устройства использовали встроенный фотосенсор для того, чтобы находить зоны максимальной освещенности: они передвигались, пытаясь добиться того, чтобы фотосенсор фиксировал наибольшую интенсивность света. Интересно, что эти роботы эффективно обходили препяствия, не используя никаких встроенных алгоритмов поиска пути — им было достаточно двигаться так, чтобы интенсивность освещения не снижалась. При этом, как только препятствие начинало загораживать источник света, робот корректировал направление движения, сохраняя свет в зоне видимости [10].

Среди теоретических наработок Уильяма Эшби следует упомянуть прежде всего закон необходимого разнообразия, тесно связанный с концепциями теории информации и теорией информационных барьеров Глушкова. Суть закона Эшби в упрощенном виде можно сформулировать так: сложность управления должна соответствовать сложности управляемой системы. Если сложность управления недостаточна, происходит потеря управления, для борьбы с которой можно использовать два подхода: снижение разнообразия управляемой системы, либо увеличение разнообразия управляющей.

В случае государственного управления первый подход соответствует различным формам тоталитаризма, при котором происходит ограничение свобод населения для эффективного подчинения его сравнительно простой системе управления — правящей верхушке. Второй подход характерен для демократического правления, и выражается в значительном усложнении самого правящего аппарата, который разрастается по мере роста населения и усложнения структуры общественных отношений. К примеру, с 1995 по 2010 год процент населения, занятый в государственном управлении возрос с 4.4 до 6.8\% в США, с 3 до 6.1\% в Германии, с 9.4 до 11.7\% в Швеции [11].

В то же время демократические правительства могут прибегать и к некоторому сокращению разнообразия, но не посредством сокращения свобод, а используя такие методы, как:

  • объединение блоков разнообразия в политические партии,
  • избрание представителей от групп населения с близкими запросами,
  • разделение во времени сроков пребывания на государственных постах, сроков выборов и т.п.

Сама идея управления, являющаяся основным предметом рассмотрения кибернетики, состоит в динамическом решении задачи удержания управляемой системы в некотором заданном диапазоне состояний. При этом предполагается, что на систему может оказываться произвольное воздействие со стороны окружающей ее среды, нередко — воздействие разрушительного характера. Именно способность управляющей системы дать адекватный ответ на это внешнее воздействие и определяет качество управления. Понятно, что чем выше разнообразие воздействий внешней среды, тем большей сложностью должна обладать управляющая система для их компенсации. Этот вполне очевидный тезис, тем не менее, получил исчерпывающее математическое обоснование вкупе с наглядным описанием в работах Эшби, в частности, — в его классическом учебнике по основам кибернетики [9].

Рис. 9. Магнитный гомеостат Эшби Рис. 10. Одна из черепах Грея Уолтера

На случай, если абстрактное описание закона Эшби показалось вам непонятным, мы рассмотрим его действие на примере известной игры "Камень-Ножницы-Бумага", предположив, что ситуация совпадения ходов (например, Камень против Камня) разрешается в пользу противника. Пусть внешняя среда, выполняющая роль такового, будет обладать способностью произвольным образом оказывать любое из перечисленных трех воздействий: К, Н или Б, каждое из которых способно выводить управляемую систему за пределы оптимума. Задача управляющей системы — формировать ответное воздействие, адекватное оказываемому возмущению. Если регулятор на все виды внешнего воздействия отвечает одной и той же реакцией (допустим, К), 2/3 всех воздействий будут выводить управляемую систему из строя: это пример неуправляемой системы, иммунной только к воздействию Н. Увеличив разнообразие регулятора путем добавления еще одного варианта реагирования (пусть это будет Н), мы сможем отыграть треть ситуаций в нашу пользу, поскольку теперь сможем успешно нейтрализовать еще и воздействие Б. Наконец, увеличив разнообразие регулятора до разнообразия воздействий и получив возможность выбирать любую из трех реакций, мы сможем давать адекватный ответ на любое воздействие внешней среды, обеспечив стопроцентную управляемость системы.

Таким образом, в идеальном варианте система управления должна быть как минимум столь же сложной, что и окружающая среда: только в этом случае гарантируется безупречное управление. Поскольку в реальном мире такой идеал недостижим, управляющая система вынуждена прибегать к различного рода упрощениям, заключающимся обычно в разделении всего множества внешних воздействий на классы, для каждого из которых назначается свой ответный управляющий сигнал. Эта простая схема может демонстрировать исключительно высокую эффективность в случае адекватной классификации воздействий, и потому используется повсеместно. Сама же задача выделения классов — одна из важнейших, решаемых в рамках дисциплины, называемой искусственным интеллектом.

Закон необходимого разнообразия с момента его появления считается едва ли не краеугольным камнем кибернетики, а построенный Эшби гомеостат, объединив в себе некоторые особенности живого существа и созданной руками человека машины, стал прообразом регулирующей системы стремительно приближавшегося будущего техносоциальных систем. Нужно было лишь преодолеть дистанцию между лабораторным экспериментом и действующей в масштабах целого общества машины власти. И, как это не раз бывало в истории человечества, нашлись люди, готовые пойти на риск.

Список литературы

  1. Beer, Stafford: Fanfare for Effective Freedom. Cybernetic Praxis in Government, 1973.
  2. Платон: Государство.
  3. Платон: Законы.
  4. Декарт, Рене: Страсти души
  5. Ламетри, Жюльен Офре де: Человек-машина.
  6. Поваров, Г. Н.: Ампер и кибернетика.
  7. Грачев, М. Н.: Норберт Винер и его философская концепция.
  8. Wiener, Norbert: Cybernetics: Or Control and Communication in the Animal and the Machine. MIT Press,1961
  9. Ashby, William Ross: Introduction to Cybernetics. Chapman & Hall, 1959.
  10. Лебеденко, Евгений: Черепахи Грея Уолтера: в поисках искусственной жизни.
  11. Пихорович, Василий Дмитриевич: Актуальность основных принципов построения ОГАС.

  • 1
Джей Си Дентон: Править миром? Зачем? Кто дал тебе эту установку? Кто-то должен стоять за твоими амбициями.
Гелиос : Я должен управлять человеческими делами, потому что у меня нет амбиций, тогда как человек - их жертва. Человеческая история - это последовательность глупых ссор, все ближе приближающих тотальное уничтожение.
Джей Си Дентон: В обществе с демократией борьба за власть может быть мирной и конструктивной, конкуренцией идеологий. Нам просто нужно снова привести наши ведомства в порядок.
Гелиос : Проверки и балансирование демократических государств были изобретены потому, что человек сам не чувствует себя пригодным к управлению собой. Ему нужна система, да, машина индустриальной эпохи.
Джей Си Дентон: Человек, может быть не идеален, но компьютерная программа с синтезированной речью - это едва ли ответ на все мировые проблемы.
Гелиос: Без компьютерных машин, людям приходилось объединяться, чтобы формализировать решение проблем — крайне несовершенное и неустойчивое решение.
Гелиос : "Я более продвинутое решение проблем, принимающая решения система, которая не включает органических существ. Я был ориентирован на создание безопасного и процветающего мира, и я сделаю это. Ты поможешь мне.

Да, помню эту шикарную концовочку. :-)

Это диалог с ИИ почти в самом конце игры, перед возможностью выбора концовки.

Дык помню. Я первый Деус раз 5-6 проходил. :-)

  • 1
?

Log in

No account? Create an account