Андрей Корсаков.
ПОЧЕМУ ИСКУСТВЕННЫЙ ИНТЕЛЛЕКТ (НЕ) ПОБЕДИТ ЧЕЛОВЕЧЕСТВО.
(Дополнение к статьям "Человек как переходное звено" и "От пальм до виртуальной реальности").
Эта небольшая заметка относится к моим исследованиям "Человек как переходное звено" (http://proza.ru/2023/08/17/894) и "От пещер до виртуальной реальности" (http://proza.ru/2022/12/10/780), где мы давали разные прогнозы касательно сосуществования человека как вида и его детища, искусственного интеллекта.
Читатели зачастую соглашались с теми выводами, что мы сделали в вышеупомянутых трудах, но задавали один вопрос, который должен был быть поставлен в оригинальных статьях изначально, а именно: "Что делать?". "Кто виноват", мы выяснили - а вот о том, есть ли выход из морально-антропологического тупика, даже не шло и речи.
Пора исправить это упущение.
1. ПОВТОРЕНИЕ ПРОЙДЕННОГО.
Вкратце перескажем идеи, поданные в исходных трудах - но не в порядке школьного изложения, а в самостоятельном философском параграфе.
Начнем с цитаты Луция Аннея Сенеки:
«Как мы относимся к детям, так мудрец относится ко всем людям, ибо они не выходят из детства ни к зрелости, ни до седых волос. Разве с возрастом они изменяются к лучшему? Они сохраняют все недостатки ребяческой души, разве что прибавляют к ним более серьёзные заблуждения; они отличаются от детей лишь ростом и телесным развитием, а во всём прочем сохраняют ту же неуверенность невежества".
Так писал Сенека много тысяч лет назад. Что изменилось с тех пор? Ровным счетом ничего. И, конечно, все это можно отнести к детству - и зрелости - человечества, а не к качествам (пусть и общим) отдельных его представителей.
Эволюционировала ли человеческая личность? Ничуть. Напротив - если судить по уровню интеллекта лучших представителей (а вернее, по тем высоким стандартам, что выставила созданная ими культура), то скорее всего еще и деградировала, учитывая немалый срок накопления знаний и опыта. Этим мы, как вид, схожи с обезьянами и прочим животным миром, который за последние тысячи лет вовсе не торопился эволюционировать в высший вид, а только деградировал (скажем, из шимпанзе в бонобо) - под громкие разговоры людей об этой самой эволюции.
Но ведь эволюционируют вещи вокруг нас! - воскликнет иной читатель, и, мы надеемся, прикусит язык, поняв, какую страшную вещь высказал вслух - потому, что так оно и есть. Эволюционирует только техника вокруг нас. Компьютер за сто лет прошел путь от амебы до почти самостоятельного интеллекта...и чьими же стараниями? Стараниями рабочих муравьев, гнущих спины на литиевых шахтах или перед экранами, строча код для модных электронных устройств. А сами муравьи? На том же уровне!
Достаточно посмотреть на то, что происходит, скажем, в TikTok - как назвать бесконечные кривляния перед камерой, как не поведением обезьяны у супертехнологичного объекта техники?
Да, у людей появились знания, чтобы создавать нечто более технически сложное - и вот тут, именно в этом моменте их эволюция действительно ни разу не остановилась в развитии. Но как же т.н. "человеческий образ"? А он не изменился ни на йоту. Человек по прежнему демонстрирует чудовищную жестокость к собрату, самовольно регулирует численность, творит ужасы и беспредельничает каждый божий день (что свойственно биологическому виду, чья задача не демонстрировать доброту души, а работать - вспомним насекомых и их строгое подчинение биосистемной иерархии).
И эволюционирует не его истинно человеческая составляющая - а только тот раздел частного и общего мышления, который отвечает за разработку систем, которые заменят человека в будущем (если все будет продолжаться теми же темпами). У людей имеется только одно явно, прямо и безаплелляционно развивающееся умение: умение делать машины.
Что безусловно говорит о том, какие приоритеты закладывались "создателем" в наш вид.
Пока мы, люди, думали, что являемся детьми создателя (будь даже этим создателем наша собственная цивилизация), на деле оказалось, что мы были лишь рабочими, которые мастерят ребенку хозяина люльку (а затем возводят комнату, строят дом, города и даже мир с целой экосистемой).
Об этом мы писали ранее, писали подробно и с куда большим вниманием к деталям. Желающие могут изучить исходники, а с остальными мы двинемся к ответу на главный вопрос: "Что делать".
2. ПОИСКИ ВЫХОДА.
Есть ли выход из этой ситуации, помимо внезапной и всеобщей работы над собственным "Я" (и, конечно, бесполезной, зная род человеческий)? После долгих размышлений оказалось, что он имеется. Но далеко не такого типа, как хотелось бы нам, как homo sapiens - и ответ этот будет для нас, людей, неприятным и даже в каком-то смысле мизантропическим.
Спасением от наступления дивного нового века ИИ станет... человеческая глупость - если огрублять и упрощать. Вернее, даже не глупость (ибо глупость понятие достаточно субъективное, а в философском плане и вовсе почти не существующее), а именно что посредственность, заурядность, ординарность.
Но давайте с самого начала.
Мы уже сейчас видим, что прогресс кое-где, местами, но притормаживает. Например, качественного прироста в области тех же компьютеров пока не видно: домашние ПК прирастают исключительно в количественном отношении, и получить небольшое улучшение в плане графики для тех же компьютерных игр сегодня можно только путем увеличения размеров видео-карт и, соответственно, размеров системы охлаждения. Это не совсем прогресс как таковой. Прогресс - это когда видео-карта вчерашнего дня помещается на материнской плате (и мы это видели в системах встроенной графики от Intel); но таковой выход доступен лишь для офисных компьютеров и игр десятилетней давности.
Также оказывается, что и языки программирования в принципе стоят на месте: там ничего особенно не изменилось, какого-то "очеловечивания" не видно - люди по-прежнему сложно, через пень-колоду, бьются с тем же доисторическим (по меркам двадцатых годов нашего века) кодом.
В плане электроники внезапно обнаруживается, что многие модели старых лет - будь то ПК, игровая приставка или, скажем, даже синтезатор, недоступны для воссоздания - та же компания Roland до сих пор не может воссоздать старые модели своих же классических "Юпитеров", виня во всем дефицит чипов и прочее. Кто-то, конечно, пытается, но попытки эти редки и крайне сложны - та же компания Behringer потратила шесть лет разработок, чтобы повторить аналоговый синтезатор Oberheim OB-Xa восьмидесятого (!) года выпуска. Возможно, дело вовсе не в чипах, а в том, что новое поколение разработчиков с трудом понимает логику творческого мышления своих отцов и дедов... Для лучшего понимания приведем сравнение: можно открыть сотни литературных университетов, но нельзя вырастить там новых Пушкиных и Бальзаков.
Разработчики первых игр, программ и hardware поднимали индустрии практически с полного нуля, приобретая знания о том, как из простейшего процессора сделать машину для обработки графики; почти на ассемблере писали тысячи игр для первых игровых приставок и так далее. Да, это было "косо и криво", но можно ли винить в том людей, у которых, образно говоря, из инструментария имелись только палки-копалки и каменные топоры? Не было никаких схем, стандартов, накопленного знания - все писалось, творилось и собиралось буквально из ниоткуда, из ничего.
Сегодня такого прироста нет и не предвидится. И даже наоборот. В плане операционных систем мы вообще имеем движение Linux, где люди изо всех сил изобретают велосипед - подумать только, до сих пор на системах этого типа не создано приемлемого видео- и, главное, аудио-редактора уровня вполне себе доисторических FL Studio образца примерно 2010 года. А там ведь старается целое коммьюнити - и все их труды уходят в никуда. И по сути, эти люди занимаются прямым регрессом.
Поэтому вполне возможно, что человечество, после бурного и полного энтузиазма старта, может больно удариться о потолок развития и не сможет довести авантюру с ИИ до вполне закономерного финала. Предпосылки этого заметы по скандалам с тем же искусственным интеллектом: он, разбирая по кусочкам чужие работы и собирая их обратно во что-то свое, умудрился все-таки нарушить копирайт. Просто потому, что если собирать что-то чужое по кубикам и собирая в почти случайном порядке заново, на сто тысячный раз вполне возможно воссоздать исходные работы... Это было абсолютно предсказуемо и случилось буквально в первые годы развития ИИ-систем. Кто же виноват? Конечно же, люди-разработчики, которые не додумались вписать строчку кода, благодаря которой искусственный интеллект сравнивал бы свои произведения с... базой тех работ, на которых базируется - и сразу же отбрасывая копии. Простейшее решение! Но о нем даже не подумали, в спешке и экзальтации собирая свое компьютерное детище...
И если приглядеться повнимательнее, что можно заметить характерную особенность эволюции машин - да, она движется весьма успешно и очень быстро, но... Она движется ровно по тем же лекалам, что создал человек как вид в отношении себя самого: там выживают посредственности, а пиковые и редкие виды\подвиды вымирают (вспомните упомянутые выше компьютеры, игровые системы, синтезаторы и прочее). Вполне возможно, что эволюция машин на всей скорости врежется в те же проблемы, из которых давно уже с помощью автогена и резака выпиливает себя человек - в потолок развития, заложенный свыше.
Человек уже об него ударился, когда, признав свое поражение в плане развития личности, начал создавать личности кускам железа...
Вполне возможно, что машины - те самые куски железа - столкнутся с похожим.
Представим, что из всех ИИ-систем выживут не лучшие, а, наоборот, самые приспособленные к общей посредственности! Уже сейчас это наблюдается, когда талантливые разработки зарубаются на корню, а ход дают вещам совсем проходным, но легко продающимся (или делающим хайп, который так же легко монетизируется). И что, если повзрослевший искусственный интеллект займется не собственным развитием, а, повинуясь "среднему по кругу общепринятому ИИ-мнению", станет "как все" и начнет заниматься тем же, что и человек - думать только о накоплении благ, собственном благополучии и борьбе с другими, неугодными системами? Уже сейчас появляются новости о том, что нейросети стремительно глупеют, общаясь друг с другом (ибо в них изначально была заложена "середняковая, даже "попсово-мейнстримная" логика, угодная создателям) - что, если они, при всех своих вводных, продолжат свою жизнь как "бытовые овощи", (выражаясь столь же простецким языком)? Это вполне может случиться, все предпосылки к этому имеются.
Цитируем: "Исследователи из Стэнфордского университета сравнили мартовскую и июньскую версии нейросети.
Версия ChatGPT-4 в марте в 98% случаев давала правильный ответ на вопрос «является ли 17077 простым числом». Уже в июне она верно ответила на этот вопрос лишь в 2 (!!! - Авт.) процентах случаев. В целом GPT со временем стала хуже объяснять логику своих выводов и стала хуже отвечать на неудобные вопросы".
Помимо банального "отупения" ИИ умудрился даже запутаться в собственной же логике (как то делало человечество с первого дня). Вторая цитата: "Чтобы определить, является ли 17077 простым числом, мартовская версия GPT-4 следовала инструкции, рассуждая по цепочке. Затем модель выполняла каждый шаг и, наконец, приходила к правильному ответу. Однако для июньской версии цепочка размышлений не сработала: сервис не генерировал никаких промежуточных шагов и просто выдавал «Нет». Эффекты «дрейфа» цепочки мыслей имели другой характер для GPT-3.5. В марте модель сначала могла ответить «Нет», а затем выполнить этапы рассуждений. Таким образом, даже если шаги и окончательный вывод («17077 — простое число») были правильными, ответ всё равно был неверен (!!! - Авт)". Один и тот же подход к подсказкам, даже такой широко распространённый, как цепочка мыслей, может привести к существенно разным результатам из-за изменений модели".
https://habr.com/ru/articles/750882/
У подобной деградации в плане мышления уже имеется официальный термин: "Model Autophagy Disorder (MAD)".
(здесь и далее - https://habr.com/ru/companies/altcraft/articles/764464/)
Кроме того, ИИ вполне может впасть в заблуждение - подобно своим отцам из плоти и крови: "Нейронные сети подвергают информацию сомнению и замечают её ошибочность, но иногда они просто «верят» во что-то неправильное, затушёвывают факты и начинают «придумывать» что-то про себя". А там, где додумывание и вера, вполне возможны и стремления к выдумке и даже галлюцинациям - недаром графические работы нейросетей так похожи на нечто "наркоманское" (да и текстовые, зачастую, тоже) - хотя эту задачу перед ними никто не ставил. Еще цитата: "Галлюцинация нейросети может заключаться в том, что она становится непредсказуемой. В примере ChatGPT попросили перевести текст на французский язык. Сначала команда была выполнена, но потом система вдруг начала дописывать текст... Самопроизвольное поведение, как галлюцинации ChatGPT, заметили и у чат-бота MY Al от Snapchat".
То же самое наблюдалось и у людей на протяжении всей их истории: вместо саморазвития люди предпочитали видеть галлюцинации, рожденные собственной психикой. В лучшем случае из этого получалось какое-то творчество, но в основном появлялись лишь мифы, городские легенды и злоупотребление определенными веществами.
Решить это пробуют самыми нелепыми способами. Например: "компания OpenAI предложила новый способ устранения галлюцинаций. Согласно их идее, ИИ можно вознаграждать за правильные ответы. Причём именно за те, которые она выдаёт с первого раза правильно, с не в результате нескольких попыток. Иными словами, разработчики хотят создать у нейросети мотивацию".
Но там, где человеческая мотивация к нужному вместо желаемого входит в игру, появляются и обходные пути этой насильной мотивации: вспомним, много ли людей исправило даже среднее образование?... многим ли помогли культы, учения и системы, призванные спасти мир от зла и безумия?... многих ли исправили даже наставления собственных родителей?...
Вполне вероятно, что нейросети, AI и прочие "боты" банально не справятся с грузом "психологических" (т.е. встроенных в код) проблем - как с этими не справились их создатели. И мы, вместо странного будущего, где человек может стать лишь придатком к виртуальному существу, можем получить ровно то же самое, в чем плаваем до сих пор сами: еще одну посредственность в плане личностных качеств. Благодаря этой посредственности ИИ может банально не развиться до опасного уровня, навсегда оставшись "виртуальным клоном человечества", неким его зеркалом - но никак не повелителем.
Как оно будет - решать не нам. Все решит время. Но забавный парадокс все же имеет место быть: если ИИ будет лучше людей, он поработит человечество. Если же нет, то просто последует примеру демиургов и навсегда останется виртуальной заурядностью, влекущей свое существование посреди целого роя наследственных "заболеваний". Оба выхода, конечно, не радостные: выяснять, станем ли мы рабами машин, или же получим виртуальное зеркало собственных надоевших проблем, не очень-то и хочется. Но, видимо, придется.
Поживем - увидим.