Какое произведение вы вспомните, услышав слово «антиутопия»? С большой вероятностью вам представится кроваво-красная обложка романа Дж. Оруэлла «1984» с изображением сурового и грозного лица «Большого брата». Это произведение, действительно, считается самым известным примером жанра антиутопии. С момента публикации романа прошло больше полувека, но он всё ещё привлекает внимание читателей и занимает первые места в списках самых продаваемых литературных произведений.
Антиутопий в мире существует большое количество. Несмотря на то, что в них поднимаются разные социальные и политические проблемы, их всех объединяет одно: авторы таких произведений предупреждают читателей о том неблагоприятном будущем, которое может быть очень близко. Нередко антиутописты изображают гнетущий и вызывающий чувство безысходности мир, в котором актуальные проблемы нашего времени достигли ужасающих масштабов. Антиутопии редко диктуют варианты решения этих проблем, но они привлекают наше внимание к ним. Значит, они также дают повод задуматься, как предотвратить то, что мы увидели на страницах книги. Спустя столько времени хочется задать вопрос, а смогли ли Джордж Оруэлл, Олдос Хаксли, Энтони Бёрджесс и другие антиутописты предостеречь нас? Научилось ли наше общество на ошибках вымышленных государств, описанных в романах этих авторов?
Попробуем разобраться в этом вопросе. В первом абзаце не случайно говорится об известном романе Джорджа Оруэлла. На примере «1984» мы попытаемся выяснить, имеет ли наша реальность сходство с миром, который показал этот английский писатель. Пресекли ли мы то, о чём предупреждал Джордж Оруэлл?
Для тех, кто ещё не знаком с романом «1984», постараемся в общих чертах объяснить, что из себя представляет мир, изображённый автором. Океания — это название государства, которое образовалось после социалистической революции в Англии и нескольких других европейских странах. В нём и разворачиваются события романа. Во главе государства стоит партия «Ангсоц» (английский социализм), которая установила жёсткий тоталитарный режим на территории страны. С помощью чего этого удалось достичь? Давайте рассмотрим три «столпа», на которых держится режим в Океании.
1. Тотальное слежение за населением. Об этом, наверное, знают даже те, кто не читал роман, а только слышал о нём. В мире произведения власть почти всегда следит за гражданами и пресекает преступления, начиная с грабежей и убийств и заканчивая мыслефелонией. Мыслефелония (или мыслепреступление) — авторский термин Джорджа Оруэлла. Он означает мысленное отрицание идей партии «Ангсоца» или попытку подвергнуть их сомнению. Для этого правительство использует специальный орган, мыслеполицию, и новую технологию — телеэкраны, которые встроены в стены в квартире у каждого партийного деятеля. Их ключевая особенность — возможность передавать изображение и звук, а также принимать информацию: «За спиной Уинстона голос с телеэкрана продолжал бубнить о чугуне и перевыполнении Девятой Трёхлетки. Телеэкран одновременно передавал и принимал информацию. Он улавливал любой звук громче тихого шёпота, который издавал Уинстон. Более того, пока тот находился в поле зрения металлической пластины, его могли не только слышать, но и видеть». Становится понятно, что мыслеполиция нарушает личные границы граждан для сохранения порядка. Дж. Оруэлл подчёркивает, что жители Океании привыкают к этому на уровне инстинкта и живут день за днём с ощущением, что за ними могут наблюдать в любой момент.
2. Новояз. Этот термин тоже впервые использовал Джордж Оруэлл. В романе новояз («новый язык») — это язык, заменяющий «старояз», прежний всем понятный английский. В Океании партия «Ангсоц», действительно, занялась реформами в английском языке, которые заключаются в его упрощении: избавлении от антонимов и синонимов, вычёркивании ненужных, по мнению партии, слов и создании чётких правил словообразования без каких-либо исключений.
Примеры отличий новояза от старояза раскрываются в речи одного из второстепенных персонажей романа Саймона, который и занимается разработкой словаря «английских социалистов». В одном из фрагментов книги он обсуждает его с главным героем Уинстоном Смитом: «Если у тебя есть слово «хорошо», какой смысл в слове «плохо»? «Нехор» ничем не хуже, а даже лучше, поскольку являет собой полную противоположность, какой нет у слова «плохо». Опять же, если тебе нужно усилить значение «хор», какой смысл пользоваться «превосходно», «великолепно» и прочих им подобных? «Плюсхор» даёт нужный смысл...».
В чём же смысл этих изменений? В основе применения новояза лежит гипотеза Сепира-Уорфа, которая заключается в том, что если в языке нет какого-либо понятия, то оно не воспроизводимо в мышлении в том числе. Руководствуясь этим, партия «Ангсоц» добивается того, чтобы в языке не было слов, позволяющих гражданам Океании выразить протест или несогласие с установленным порядком вещей. Это также легко подкрепляется цитатой Саймона из романа: «Разве ты не видишь, что вся цель новояза — сузить горизонт мышления? В конце концов, мы сделаем мыслефелонию попросту невозможной, потому что для неё не будет слов. Для каждого важного понятия останется одно-единственное слово со строго определённым значением, а все добавочные оттенки выскоблят и забудут».
Хочется обратить внимание на ещё одну «методику» новояза, на которой в романе не делается акцент. Иногда искажение языка может выражаться в виде использования знакомых слов в неуместном контексте. В одной из глав описывается работа Уинстона Смита: он переписывает новости из старых газет так, как этого требует «Большой брат». Взгляните на это предложение: «Телеграфные сообщения ссылались на статьи или новости, которые по той или иной причине требовалось изменить или, выражаясь официальным языком, уточнить». Руководство требует, чтобы работники Министерства Правды употребляли глагол, который искажает смысл их главной обязанности: не изменять информацию из прошлого, а якобы её уточнять. Важность этого отрывка будет понятна позже.
3. Подконтрольный правительству искусственный интеллект. Антиутопии — поджанр научной фантастики, поэтому в них нередко встречаются описания вымышленных технологий и открытий. В Океании, кроме телеэкранов, существуют и другие примеры «чудес техники» — версификаторы и романные машины. Эти аппараты способны писать книги и тексты песен без участия в этом человека. Говоря на языке современности, версификатор — это искусственный интеллект, который партийные деятели «Ангсоца» научили творческой деятельности. «Последние недели весь Лондон был помешан на этой песенке. Их в бесчисленном множестве выпускала для пролов особая секция музыкального отдела. Слова сочинялись вообще без участия человека – на аппарате под названием «версификатор», но женщина пела так мелодично, что эта страшная дребедень почти радовала слух,» - как можно понять из этого фрагмента, версификаторы так же, как телеэкраны, принадлежат правительству, которое использует их для пропаганды. В романе «1984» нет упоминаний персонажей, которые занимаются творческой деятельностью и при этом не преследуются мыслеполицией. Отсюда можно сделать вывод, что «Ангсоц» заменяет «живых» мыслителей искусственным интеллектом, так как его работу легко держать под полным контролем.
Может возникнуть ощущение, что всё выше перечисленное относится только к миру книги и с нашей современной реальностью не имеет ничего общего. Предлагаем не торопиться с выводами и постараться выяснить, имеет ли каждый из трёх «столпов» Океании какое-либо отношение к действительности XXI века?
Тотальное наблюдение за населением в наше время, действительно, воспринимается как что-то невообразимое. Можно ли себе представить, что наша личная информация может передаваться спецслужбам или кому-то ещё в любой момент? К сожалению, это имеет место, и, в отличие от граждан Океании, мы этого даже не осознаём. В нынешнее время 67% населения мира имеет свой «телеэкран», который не встроен в стену в квартире, а часто лежит либо в кармане, либо где-то недалеко от нас. Да, речь идёт о телефонах. Приложения, которыми мы пользуемся каждый день, содержат много полезной информации о нашей личности, и риск её утечки намного выше, чем кажется. В 2018 году студенты университета «Northeastern» опубликовали исследовательскую работу, в которой сделали вывод, что 17 260 приложений на Андроид пересылают информацию о пользователе третьим лицам. Сам владелец телефона не получает никаких сообщений об этом. Обратите внимание, что в работе говорится о «третьих лицах», а не о «спецслужбах». Тем не менее этот факт не может не настораживать.
Может ли так случиться, что правительство законно установит слежку за населением? К сожалению, и тут можно ответить положительно. В 2001 году после трагических событий 11 сентября в США вышел «Патриотический акт». Этот федеральный закон ввёл некоторые ограничения на неприкосновенность частной жизни граждан, чтобы полиция могла отслеживать террористов. В том же году была разработана «Carnivore» - программа глобальной слежки. Она проверяла информацию с сайтов и серверов электронной почты, легко обходя защиту. Похожие системы позже начали появляться в других европейских странах.
Безусловно, к этому можно относиться как к вынужденной и временной мере, но ассистент кафедры уголовного права Пензенского университета В. Г. Романовский в одной из своих работ отметил, что с каждым годом степень контроля частной жизни граждан растёт. «Человек все больше ощущает постоянный контроль в своей повседневной жизни. Возникает порочный круг. С одной стороны, каждый гражданин постоянно сталкивается с постоянным вторжением в свою частную жизнь, с другой – государственные органы все больше настаивают на расширении своих полномочий», - считает он.
Это трудно признать, но тотальное слежение постепенно внедряется в жизнь населения и становится чем-то привычным. У правительств развитых стран всегда есть оправдание подобных решений: борьба с терроризмом и защита граждан. Тем не менее нельзя отрицать схожесть таких инициатив с политикой, которую проводил «Ангсоц» на территории Океании, хотя в его случае контроль за частной жизнью граждан намного строже.
Теперь вернёмся к новоязу. Подобная методика контроля населения тоже кажется гротеском, однако сейчас граждане некоторых стран начали замечать проявления «нового языка» в СМИ. Этот новояз, однако, заключается не в сокращении слов в языке, а в использовании терминов в неподходящем контексте, что путает читателя, зрителя или слушателя.
Говоря о конкретных примерах, стоит отметить, что граждан России стали удивлять частые случаи замены слова «взрыв» термином «хлопок» в новостях. Разумеется, для начала стоит объяснить, почему эти слова НЕ взаимозаменяемы.
«Взрыв — это быстропротекающий физический или физико-химический процесс, проходящий со значительным выделением энергии в небольшом объёме за короткий промежуток времени. Такое явление приводит к ударным, вибрационным и тепловым воздействиям на окружающую среду из-за высокоскоростного расширения продуктов взрыва».
«Хлопок — технический термин. Когда человек слышит громкий звук, где и почему он произошёл, не знает. В таких случаях есть только наличие услышанного человеком громкого звука. Пока компетентные органы не установили причину услышанного, употребляется слово «хлопок» - так объясняет значение этих двух терминов руководитель Федерации воздухоплавания Белгородской области Вадим Радченко.
Вам может показаться, что это простая невнимательность составителей текста, однако данные компании «Медиалогия» показывают рост этих «ошибок» с годами: в начале 2017-го года в журналистских текстах уже были десятки «хлопков», а к началу 2020 года это слово стали употреблять в сотни раз больше. Очень странно, что редакторы продолжают не замечать этот «недочёт» в заголовках и статьях. Создаётся впечатление, что это делается намеренно для искажения смысла новости. Здесь и стоит вспомнить пример из «1984» со словом «уточнить» в контексте целенаправленного изменения информации.
И это не единственный случай. Анализируя современные новости, вы можете решить, что попали в какой-то другой мир, где «падение» - это «отрицательный рост», «крушение самолёта» - «жёсткая посадка самолёта», а «парады» заменяют «торжественными маршами», и никого не волнует, что последние два слова выражают одно и тоже. Характерны эти подмены слов для СМИ многих стран. В этой части эссе были взяты примеры из российских источников, потому что с их помощью проще объяснить эту «методику» новояза, не углубляясь в лингвистические особенности других языков.
Создаётся впечатление, что новояз уже имеет место в современной действительности и он всё сильнее «заражает» новости и статьи. Смысл этого «нового языка» состоит в смягчении содержания сообщения с помощью слов, которые используются не в том контексте. Радует, что это пока не похоже на безжалостное сокращение слов в языке, но факт остаётся фактом: значения некоторых терминов в некоторых языках искажаются по воле СМИ.
Сейчас очередь дошла до творчества искусственного интеллекта. «Нет, это точно выдумка!» - скажете вы. Тем не менее в этом пункте тоже всё не так однозначно. Книга «1984» была выпущена в 1948 году, и вымышленные Оруэллом «версификаторы» - это обобщённое изображение, на удивление, современных нейросетей.
«Нейросеть — разновидность машинного обучения, при котором программа работает по принципу человеческого мозга. Человеческий мозг состоит из нейронов, связанных между собой синапсами и передающих электрохимические импульсы. Нейросеть же состоит из искусственных нейронов — вычислительных элементов, созданных по модели биологического нейрона», - объясняет лингвист и филолог Елизавета Филимонова.
Относительно недавно нейросети показали настоящее чудо: они стали способны генерировать картинки по запросам человека. Для этого даже не требуется знание языков программирования. Достаточно всего лишь подробно изложить словесное описание желаемой иллюстрации нейросети.
В 2022 году вышла новость о том, что нейросеть DALL-E создала иллюстрацию для номера журнала Cosmopolitan. Редакторы дали нейросети несколько вариантов описаний обложки и выбрали тот, по которому DALL-E сделала самую удачную иллюстрацию. Текст звучал так: «широкоугольный снимок с нижнего ракурса женщины-астронавта со спортивным телосложением, самодовольном идущей к камере на Марсе в бесконечной Вселенной в стиле цифрового искусства».
Как вы помните, «версификаторы» в романе Дж. Оруэлла писали тексты для песен. В 2016 году появился проект «Нейронная оборона». Его создали Алексей Тихонов и Иван Ямщиков как трибьют группе «Гражданская оборона». Они загрузили в нейросеть стихи и тексты песен Егора Летова, основателя «обороны». Изучив их, нейросеть написала несколько текстов, которые Алексей и Иван талантливо положили на музыку. Альбом получил название «404», и сейчас его легко найти в интернете.
Всё это случаи из сферы иллюстрирования и музыки. Могут ли нейросети быть серьёзным оружием в руках правительства? А. Ю. Гордеев, кандидат юридических наук, в работе под названием «Перспективы развития и использования искусственного интеллекта и нейросетей для противодействия преступности в России (на основе зарубежного опыта)» выразил мнение, что в России это ожидаемо, ведь в Голландии полиция уже обращается за помощью к искусственному интеллекту: «Особая программа самостоятельно изучает и разбирает материалы дел, анализирует имеющиеся улики и определяет вероятный уровень сложности дела. Документы загружаются в компьютер в печатном или отсканированном виде. И искусственная нейросеть самостоятельно вместо недели-двух за пару дней выполняет всю рутинную работу».
Представления Дж. Оруэлла о подконтрольном власти искусственном интеллекте почти оправдались. На наших глазах компьютеры, действительно, учатся творчеству, и многих иллюстраторов и писателей это очень сильно беспокоит. Искусственный интеллект уже работает либо в паре с человеком, либо заменяет его. Трудно сказать, что в будущем правительство сможет контролировать работу нейросетей, чтобы подменять ими мыслителей, художников или даже членов исполнительной власти. Ничто, однако, не даёт гарантии, что этого не произойдёт.
Вывод получается достаточно пугающим. Вымышленная Океания имеет некоторое сходство с нашим миром. Тотальное наблюдение за населением постепенно внедряется в нашу жизнь, хотя пока что она не настолько явна, насколько это показано в «1984». Средства массовой информации придумывают свой язык, чтобы с его помощью сообщать новости. Искусственный интеллект научился писать тексты песен и генерировать иллюстрации, и что препятствует тому, чтобы он стал выполнять работу певцов, художников и даже мыслителей под надзором правительства?
Неужели в скором времени Океания сойдёт со страниц книг в наш мир? Это вопрос риторический. Всё зависит от нас. В первую очередь каждый должен помнить, что в основе проблем государств из антиутопий лежат гиперболизированные проблемы той реальности, в которой жил автор или живём мы с вами. Получается, что нужно решать именно проблемы настоящего, чтобы предотвратить их ужесточение в будущем.