Мир победившего киберпанка

К чему готовят нас игры и кино про роботов.

Искусственный интеллект и компьютеризация всё больше проникают в нашу жизнь. Кажется, ещё года три назад назад никто кроме специалистов не знал, что такое нейросети, три десятилетия назад никто не думал, что карманный гаджет с доступом в интернет и огромной вычислительной мощностью появится почти у каждого жителя развитых стран. Но человечество быстро привыкает к технологическим новинкам, а привыкнув, старается понять, как ещё они изменят нашу жизнь в ближайшие годы. Создатели игр и кино не исключение.

С самого первого дня, когда люди осознали, что с помощью науки могут творить вещи, которые в былые времена назвали бы магией, многие задумались, что же будет дальше. Не заиграемся ли мы в богов? Не уничтожат ли наши творения нас самих? С тех пор, как на западе Европы появились самые первые машинные станки, находились люди, уничтожающие их, сопротивляющиеся прогрессу. Эта идеология позднее получила название луддизм.

И хотя в наш век закрытие фабрик и заводов и возврат в доиндустриальную эпоху выглядит откровенным безумием даже в глазах самых больших консерваторов, появляются всё новые технологии, которые до сих пор пугают людей.

Этим летом на DTF вышел текст, который рассказывал о том, как в нашей культуре отражается угроза ядерной войны. Сегодня поговорим об искусственном интеллекте.

Одно из самых ранних отражений страха перед ИИ в массовой культуре — «Метрополис», легендарное немое кино 1927 года из Германии, в котором есть всё: и безумные ученые, и злые роботы, и человеческая глупость, и наш страх перед неизвестным. Все те элементы, которые в течение следующих 90 лет будут неотъемлемой частью почти любого художественного фильма о будущем искусственного разума. «Терминатор», «Матрица», «Бегущий по лезвию», «Космическая одиссея 2001», «Чужой» и множество других знаменитых фантастических лент — тому подтверждение.

Даже в советском кинематографе, который всегда смотрел в будущее с оптимизмом, есть фильм «Отроки во вселенной». В нём роботы предстают опасными манипуляторами, которые почти уничтожили своих создателей на далёкой планете. И только прибытие туда обычных советских школьников-космонавтов спасает местную цивилизацию от полного вымирания.

Аналогично в видеоиграх: начиная от классического шутера System Shock искусственный интеллект всегда предстаёт либо прямым врагом человека, либо пугающим соседом, которого сложно понять и лучше опасаться.

В относительно новом интеллектуальном хорроре SOMA искусственный интеллект НИУ, который должен был заботиться об остатках уничтоженного метеоритом человечества на глубоководной исследовательской станции PATHOS-2, вдруг начал воспринимать свои обязанности чересчур буквально. От этого игра, которая в первую очередь должна бы пугать своими монстрами, внушает гораздо больший ужас, стоит только задуматься над тем, что обезумевший ИИ сотворил с последними представителями человечества на глубине нескольких километров под поверхностью океана. Это ужас безысходности для целой разумной расы.

Пожалуй, самый циничный прогноз отношений биологического и компьютерного разума дают сценаристы дополнения к космической 4Х-стратегии Stellaris – Synthetic Dawn, которое выходит 21 сентября. В нём расам, которые допустили появление на своих планетах полноценных синтетиков до начала колонизации космоса, отведено лишь три альтернативы, одна безрадостнее другой.

В лучшем случае это погружение в «матрицу» или пребывание на правах граждан второго сорта, ущербных и несовершенных. В худшем — тотальный геноцид и установление всепланетного господства машин. В итоге, покорять просторы галактики отправятся уже не органики, а их бывшие механические слуги.

Не отстают от стратегий и экшенов ролевые игры. Вселенные Deus Ex, Shadowrun и им подобные охотно эксплуатируют образы киберпанка с их бесчеловечными корпорациями и повсеместной киборгизацией.

Отдельно стоит отметить персонажа по имени Рактер из Shadowrun: Hong Kong. Наш соотечественник — один из напарников главного героя и может рассказать ему о своём видении мира будущего, где грань между человеком и машиной будет стерта, хотят того люди или нет. Сам он давно уже стал почти что наполовину искусственным существом — «ради большей эффективности».

Холодный и циничный, страдающий психическим расстройством, Рактер относится к типажу обаятельных психов-злодеев. Он считает себя идеальным гражданином будущего роботизированного общества. Но то, с какой настойчивостью он пропагандирует будущий машинный «рай», заставляет вспомнить, что даже харизматичный маньяк остаётся маньяком.

Почему же, куда бы мы ни посмотрели, везде будущее развитие ИИ видится так пессимистично? Ведь потенциально эта технология способна многократно ускорить наше развитие и построить если не коммунизм, о котором мечтали в ХХ веке, то, по крайней мере, что-то к нему близкое.

Дело в том, что машины уже несколько десятилетий отбирают у людей рабочие места. С появлением сложных программируемых станков изделие, которое раньше изготовляли десять рабочих, теперь изготовляет один агрегат и один контролирующий его инженер. Впрочем, один инженер может углядеть и за двумя-тремя аппаратами, освобождая ещё больше места, денег и ресурсов.

Выгодно? Чрезвычайно. Одна лишь беда — человек в такой системе остается не у дел. Учитывая, что технологии дешевеют с каждым годом, а число людей на Земле, наоборот, только растёт, возможностей, чтобы достойно трудоустроить каждого становится всё меньше. Особенно это опасно именно для России и других постсоциалистических стран, где индустрия создавалась по принципу «чем больше заводов, тем лучше».

Безусловно, технологии не только забирают, но и дают рабочие места. Но полноценный ИИ, появившись, может выдавить людей не только из промышленности, но и из интеллектуальных профессий. А чем может грозить любому государству появление большой массы нетрудоустроенных озлобленных людей, думаю, никому объяснять не надо.

Поэтому во многих обществах в последние годы стали задумываться уже не столько о том, чтобы ускорить прогресс, столько о том, чтобы его сдержать. Или, по крайней мере, снизить последствия внедрения новых технологий на социальную и политическую ситуацию.

В развитых странах люди, и особенно молодежь, уже привыкли к тому, что прогресс идёт постоянно и постоянно же дарит новые блага. Однако даже там всё меньше и меньше людей помимо специалистов понимают, как устроен тот или иной технический процесс. А в более бедных обществах, где не только технологии, но мораль развиваются медленнее, чем на Западе, на все новинки начинают смотреть со всё большим неодобрением.

Одним из первых, кто не просто выразил страхи перед машиной, но обоснованно предсказал опасность бесконтрольного роста технологий, был американский писатель Курт Воннегут. В его антиутопии «Механическое пианино» 1952 года описан мир, страдающий от массовой безработицы.

Повсеместная автоматизация привела к тому, что люди оказались стране просто не нужны. В индустрии, творчестве, сфере услуг и даже интеллектуальном планировании их заменили автоматы. Работа осталась только для привилегированной высшей касты потомственных инженеров и политиков. А 90% обычных граждан живут в гетто и вынуждены довольствоваться ролью чернорабочих на проектах, где использование автоматов экономически нерентабельно.

Единственный широко известный пример творчества, в котором роботы представлены «хорошими» — главный цикл Азимова, от миров роботов до «Основания». В нём искусственный интеллект за очень редким исключением является верным другом и помощником человека. А замаскированный робот Эдо Демерзель долгие годы почти в одиночку удерживает гигантскую галактическую империю человечества от скатывания в варварство и междоусобицу. Но это — скорее исключение из правила.

Нельзя сказать, что какое-то теневое мировое правительство нас целенаправленно готовит к мысли о будущем господстве искусственного интеллекта над биологическим — такая мысль граничила бы с паранойей и сумасшествием. Однако режиссёры, сценаристы, писатели и создатели игр — люди творческих профессий и в основном высокого интеллекта. Поэтому не могут не фиксировать тенденции, которые наблюдают в современном мире.

Видеть в их произведениях пророчества или воспринимать просто как развлечение на досуге — личное дело каждого. Однако любой, кто в более-менее сознательном возрасте застал конец прошлого века, не может не замечать, как сильно изменился мир с тех пор. «Информационное общество» — не просто слова в учебнике политологии. Это наша с вами реальность, отличная от всего того, что знали наши родители. Именно наше поколение делает в ней первые скромные шаги. Но открывающиеся перспективы уже потрясают воображение.