Эйлин Крист - Почему я не буду советоваться с ИИ

Виктор Постников
ИИ (AI)  может помочь писателям съэкономить время. Уменьшить расходы, преодолеть недостаток креативности, и произвести разнообразный и оригинальный контент для различных  аудиторий.  - Из интернета: советы писателям о полезности Эй-Ай (AI).

Нет, спасибо. По словам Бартлби-Писаря, героя рассказа Германа Мелвилла, написанного без компьютера или ИИ, « Я бы не хотел этого делать».   
У меня нет мнения по поводу ИИ, в особенности относительно того, знаменует ли ИИ буквально конец мира, или по крайней мере того мира, который мы знаем. Даже, если бы у меня и было мнение по этому поводу, это не имеет значения. То, что я заметила, однако другое: просто размышлять о ИИ – о его экзистенциальной природе и предполагаемом конце—коррумпирует сознание. Я бы не хотела портить свой рассудок, пытаясь оценить ИИ, поэтому, возможно, лучше не  иметь по этому поводу мнения.

Не иметь мнения, однако, не значит не предпринимать действий в отношении ИИ. Эта вещь—о которой сказано, что она такая же умная как Альберт Эйнштейн и скоро станет в миллиард раз умнее среднего человека [ ]. Это требует ответа. Стремительный прорыв ИИ в социальную сферу бросает нам перчатку: мы все можем  не поддаваться провокации и не стушеваться перед ИИ,  выбрать хорошо обдуманную позицию, прежде чем бросаться с головой в предлагаемую пену.

Если ИИ  феноменальный костыль для творчества и для «творческого контента»,”мы не хотели бы очутиться в подчиненном положении, заигрывая с ним. Любопытство погубило кота  - гласит известная пословица. Сделать глубокий вдох и отважиться на прямой контакт с ИИ, возможно, представляется нам наилучшей стратегией, нежели потеряться в давке с приходом каждой новой технологии.
   
Много лет назад я читала эссе Венделла Берри (недавно переизданное) “Почему я не покупаю компьютер,” и восхищалась его прозрениями. И несмотря на то, что у меня всегда был компьютер, я всегда оставляла для себя одно качество, особо отмечаемое Берри: искусство письма. Рукописный текст (каллиграфия), среди других ремесел, этот то, чем природа одарила человека. Существует нечто утонченое в координации глаза и руки, нечто позволяющее находить правильный нажим карандаша или ручки на бумагу, и последующее уникальное появление чернильных знаков на листе. Это так приятно и  приносит такое простое удовольствие! Искусство письма проходит под рубрикой, которую философы называют Da-sein (Heidegger 2012)*. Определенные вещи в самом деле принадлежат исключительно человеческой сфере, хотя и не делают нас особенными или превосходящими другие формы жизни.

В консумеристском обществе, производящем массовые, одноликие  (и часто бесполезные) вещи, с помощью нефтянных технологий, человеческие ручное искусство открывается заново в своей автохтонной (коренной) сфере. Термин “артизанский” часто используется довольно произвольно, но существует бесценная красота в совершенной координации глаза и  ума (часто укорененная в традиции) способной на уникальное творчество.    
________________________________________
Техносфера, определяемая как общая масса произведенных человеком вещей, в настоящее время превышает по весу все живые существа (Stokstad 2020).  Она оккупировала лицо Земли и продолжает его оккупацию. Техносфера подчинила себе землю, море, и животных. Она разбила атом, расчленила жизнь, и направилась в космос. Сегодня, техносфера хочет взять вверх над нашими мыслями и творчеством; она так невинно предлагает “помощь в творческом процессе создания контента.” Я думаю, НЕТ, СПАСИБО. Я не хочу знать, что «думает» ИИ.  Я не хочу, чтобы ИИ думал или писал за меня. Кроме того, я решила вообще не рассматривать его «вклад». Такая позиция не мотивирована предрассудками против машин или моему предпочтению человеческого отличия. Скорее, в мире, который остается безразличным и бездумным в отношении технологий, без признаков сопротивления или свободного выбора, я провожу сознательную выбранную личную границу.

Ясно, что проведение жесткой границы в отношении технологии, чисто защитная реакция.  Например, не смотреть на устройства первым делом поутру и не делать это последним занятием перед сном. “Утро,” писал Генри Торо в 1854 г, “самое запоминающееся время дня.” Это “час пробуждения.”

“Мало что можно ожидать ото дня,” объяснял он, “если он  разбужен не нашим Гением, а механическим выполнением некоторых обязанностей, разбуженных не нашими внутренними силами и стремлениями,  сопровождаемыми колебаниями небесной музыки, а  фабричными гудками,…»

Все поэты и герои, как Мемнон, это дети Авроры, и эманируют музыку на рассвете. Для того, кто сохраняет эластичную и сильную мысль по протяжении дня, день - вечное утро.”

Вечернее время также священно, распутывание и подготовка к смерти дня: ко сну, к сновидениям.

Нервная система человека может справиться со случайным электрошоком—громким и-мейл, постом в социальных сетях,  или новостным сообщением, сводящим с ума и вызывающим бессонницу. Расстройте меня один раз, и я отмахнусь. Расстройте дважды, и я буду на взводе. Расстройте трижды, и я буду нервным человеком. Короче говоря,лучше не смотреть в устройства поутру или послеполудня. Лучше, сделать перерыв на несколько дней. Польза от временного воздержания от технологий такая же, как от переедания.

ИИ – новая отчаянная технологическая уловка, приглашающая нас остановиться—и подумать, стоит ли воздержаться или подчиниться ее соблазнам. Но теперь мне кажется, что если нами выбирается отказ от ИИ, то это не потому что мы промодерировали его, а потому что решили окончательно порвать с ним все отношения. Причина для такого бескомпромиссного решения двоякач:  Либо интеллект ИИ чисто машинный—т.е. модальность сложного, но детерминистского алгоритма следует по внутренним законам (программе). Либо интеллект ИИ включает некоторую форму “силиконового сознания»—т.е. проявляет (кажущиеся) эмегрентные свойства в поиске решений, суждений, творчестве, эмоциях, и им подобных, тем самым делая ИИ фундаментально непредсказуемым.
 
В любом случае—будет ли ИИ автоматом или Големом [ ] ** - у меня нет желания «думать с ним», наоборот желание избежать опасности.  Я не знаю, какая вероятность хуже: риск быть поглощенным машинным интеллектом или риск быть поглощенным чуждым интеллектом. Столкнувшись с таким выбором, я могу только сказать, мне не нужен ни тот, ни другой. Я постараюсь объяснить.

Я начну с предостережения, что я понимаю всю «некошерность» говорить (или даже советовать) другим людям, что делать. Но есть один способ оценить насколько отношение к ИИ может быть фатальным: оно зависит от различения, мудро проведенное Мартином Хайдеггером  между мастерством и властью. Мастерство – то, я то Хайдеггер называл «оригинальностью» (“originary.”) Оно следует из самостоятельной слонности, усилия, решительности и настойчивости в отношении стремления. Иными словами, мастерство следует из окультуренной, выдерженной, и итеративной  человеческой воли. Мастерство требует от вас неутомимого вложения “10,000+ часов,”  год за годом, декада за декадой—не ради самого мастерства, но ради стремления. Награда для такой настойчивости приходит задолго до мастерства – если оно вообще приходит. С другой стороны, сила/власть (как отмечал Хайдеггер) никогда не становится оригинальностью. Она определяется внешним, и ее шаткость всегда находится в контекстуальном отношении с другим. Вместо нахождения своей неповторимой ценности, сила/власть всегда выступает самостоятельной целью. Если сила ваша цель, будьте осторожны:  в отличие от мастерства, которое всегда благословенно, достижение силы/власти может быть проклятием. 

Поэтому, если вы участвуете в “игре” за такие вещи как деньги, слава, офис, признание, безопасность, наследие и т.п., ИИ может помочь вам  “съэкономить время, уменьшить расходы, преодолеть творческие препятствия, и произвести разнообразный и  оригинальный контент  для различной аудитории.” Но мастерство – это ваша звезда на горизонте, и ваш путь должен быть выкован внутри. 
________________________________________
Следует отметить еще вот что.  А именно, потенциальное возражение сказанному: Разве машинные технологии, техносфера, ИИ и т.д. не будут частью человеческого Da-sein?  Некоторые настаивают на положительном ответе,  и даже называют технологию “человеческой судьбой” и поют ей оды. Я согласна с тем, что технология это часть нашего Da-sein, поскольку она происходит из природного  сочетания глаз-рука-ум, характерного для человека. (У других видов существует другие сочетания глаза-рука/лапа-сознание,характерные для них.) Тем не  менее, парадокс в отношении технологии состоит в возможности освободить нас и в самостоятельном, независящим от нас поведении. Внезапно  она проскальзывает между  нашими пальцами и освобождается в мир.  Вспомним только один случай:  как яростно философ Льюим Мамфорд выступал против нашествия автомобилей  в центры городов! Разве он не был прав?  Вообразим теперь города, свободные от автомобилей, с общественным транспортом для всех, ветросипедные дорожки, городские сады, зеленые пространства и широкие пешеходные авеню.  Разве такие города (в воображаемом мире, в котором человечество обладает превосходством над технологией) не будут более совершенными?   Но машина  победила.   
   
Самый главный мой тезис следующий.  Либо мы будем владеть технологией, либо она будет владеть нами.  К несчастью,  все складывается в ее пользу.


* Dasein  (нем) ключевое понятие философии  Мартина Хайдеггера. Означающее «существование, бытие»,  в частности, человека. Хайдеггер вкладывает в него парадокс  существования с другими и – фундаментально - с самим собой.
** The A.I. Dilemma - March 9, 2023 - YouTube


Литература

Berry W (2018). Why I Am not Going to Buy a Computer. Penguin
Heidegger M (2012). Contributions to Philosophy (of the Event). Indiana University Press.
Mumford L (1968/2010). “The Highway and the City.” Hanks C ed. Technology and Values: Essential Readings. Blackwell, 361-368.
Stokstad E (2020). Human “Stuff” Now Outweighs All Life on Earth. Science December 9. Thoreau H (1854/1991). Walden, or, Life in the Woods. New York: Vintage Books.