Искусственный интеллект врёт как сивый мерин
В начале ноября текущего года на сайте «совлит.ру» прочитал новость: «Британский словарь английского языка Collins English Dictionary назвал словом года 2023 года аббревиатуру AI (artificial intelligence), которая по-русски звучит как ИИ – искусственный интеллект…».
Нормальный ход: в последние годы об ИИ по радио и в интернете говорят часто, да и в России наметились некоторые практические достижения в этой области науки. Сбер – лидер российской цифровизации. По заказу банка уже сотворили нейросеть Kandinsky, способную рисовать картины. А ещё Сбер внедряет в систему управления AI-помощника на основе GigaChat (русскоязычная нейросеть). Собственный финансовый консультант будет не только у VIP-клиентов, но у всех, кто на эту услугу подпишется.
Ну, прочитал, принял к сведению и живу себе дальше…Бежать в Сбербанк и занимать очередь, чтобы подписаться на ЭйАй-помощника, я не собираюсь. Меня, откровенно говоря, больше беспокоит не развитие искусственного интеллекта, а повсеместный упадок естественного…
Деятели из «Электросети» обещают нам неизбежную замену старых электросчётчиков на новые, «умные счётчики», которые будут сами всё делать: считать киловатты, преобразовывать их в рубли и передавать наши долги в РКЦ. Платить можно по карте, через интернет, не выходя из дома. Наверное, это хорошо. Научно-технический прогресс. Но, я как подумаю, что обучать уму-разуму счётчики будут люди, весьма заинтересованные в изъятии максимальной прибыли с населения, то понимаю, что такой расклад…не есть хорошо. Для потребителей электроэнергии. Насчитают, так насчитают. Ну, это я так, мимоходом заметил…
;
А в конце ноября в том же «совлите» (сайт «Современная литература») опять литературно-научная новость: «Кембриджский словарь английского языка назвал слово 2023 года. Им стал глагол hallucinate, который дословно переводится как «галлюцинировать». В информации на сайте составители поясняют, что имеют в виду не обычное значение термина, когда люди видят или слышат что-либо на самом деле не существующее. В данном случае «галлюцинировать» – это случаи, когда искусственный интеллект создаёт ложную(!) информацию». Восклицательный знак в скобках – мой.
Оп-па! Приехали. Точнее будет сказать, что не туда заехали. Что такое «ложная информация»? Эвфемизм, то есть мягко сказано, а если по-русски, то – враньё. Брехня по-украински. ИИ врёт как сивый мерин. За выражение не извиняюсь – это народное творчество из 19-го века, означающее мысль, что на старого жеребца нельзя положиться – не надёжен он в деле. Например, у Гоголя в «Ревизоре» один из персонажей пьесы, кажется, городничий, сравнивается с «сивым мерином». Понятно, что персонаж мужского рода.
А ещё грубое враньё называют «бредом сивой кобылы». Это подходит для нейросети, которая женского рода…Она и есть (иногда) «сивая кобыла», несущая бред...
Далее составители на примерах объясняют, что происходит. Возникают неоднократные ситуации, когда чат-боты в ответ на запросы пользователя выдают ответы, не соответствующие действительности. Свой выбор составители словаря объяснили тем, что его новое значение отражает, почему тема нейросети вызывает большое количество споров. Также они обратили внимание, что результаты, которые пользователи получают от ИИ, зависят от количества и качества данных, на которых они обучились.
В 2023 году составители включили в Кембриджский словарь также такие термины и выражения как «большая языковая модель» – нейросеть, самостоятельно обучившаяся на большом количестве текстов, «генеративный ИИ» – система, создающая тексты, и GPT – чат-бот, способный вести диалог с пользователем.
Таким образом, что получается? Нейросети и обучающие системы сами учатся «на большом количестве текстов». А тексты созданы несовершенными и не всегда честными людьми. Несовершенство и нечестие обучающих текстов неизбежно проникает в нейросети. В конечном итоге пользователь на свой запрос имеет не всегда достоверную информацию.
Оно ему надо?
;
А вот и страна родная подоспела со своим «словом года». На сайте «совлит.ру» 21 декабря 2023 года опубликовано сообщение, которое мне показалось устаревшей новостью. Судите сами: «Институт русского языка имени А.С. Пушкина и справочно-информационный портал «Грамота.ру» назвали словом года термин «нейросеть». По мнению экспертов, он актуален, обозначает значимое и резонансное явление, отражает интерес аудитории к научно-техническому прогрессу, и частота его употребления растёт».
В конце сообщения новость признаётся не такой уж и новой: «В 2023 году многие крупные словари выбрали словами года термины, связанные с искусственным интеллектом».
Всё тот же сайт «совлит.ру» не устаёт нам подбрасывать литературные новости, тем самым оправдывая своё название – «Современная литература». Уж куда современнее…В будущее заглянули.
В России в литературном конкурсе «Проект особого значения» в сезоне 2023 года тоже принял участие «текст, сгенерированный нейросетью», ( далее ТСН). Согласно информации на сайте премии, рассказы 10 победителей были опубликованы в специальном сборнике на книжном сервисе «Литрес». В описании к книге указано, что один из текстов написан нейросетью. Оргкомитет так и не раскрыл тайну, какое из произведений участников было создано искусственным интеллектом.
Ну и хрен с ней, с тайной оргкомитета! Мне, например, всё равно, какой из 10 рассказов окажется ТСН. Неинтересно.
;
В области цифровых технологий мимо Китая никак не пройдёшь. Ещё одна литературная новость от совлита.
В Китае в литературном конкурсе призовое место получил текст, полностью сгенерированный нейросетью. Новеллу «Страна воспоминаний» представил профессор Университета Цинху в Пекине Шень Ян. О победе сообщило издание 3D News со ссылкой на газету jinan Times (китайское издание).
Сказали о какой-то победе, а по мне, так выдумывают что угодно, фантазируют, лишь бы не работать. Хотя, китайцы – народ трудолюбивый…Ладно, посмотрим, что там у них…
Приводятся некоторые технические детали литературно-цифрового творения. Научно-фантастический рассказ был создан за три часа из черновика, насчитывающего 43000 знаков. Шень дал нейросети 66 подсказок, и она создала произведение объёмом почти 6000 знаков, а также иллюстрации к нему. По сюжету нейроинженер Ли Сяо случайно теряет все воспоминания о семье во время эксперимента. Заинтересовавшись легендой о Стране воспоминаний – метавселенной, где обитают иллюзии, созданные роботами и искусственным интеллектом, – Ли надеется, что ей удастся восстановить утраченные воспоминания. Но людям в Страну воспоминаний вход воспрещён, и человек, нарушающий границу, рискует навсегда там остаться.
Всегда считал китайцев прагматиками, сугубыми реалистами, а тут вдруг…научно-фантастический рассказ, сочинённый нейросетью с человеческими подсказками – вообще, полный уход от реальности. Закрученный сюжет плюс набор загадок: нейроинженер Ли Сяо, какая-то легенда, метавселенная, иллюзии, роботы, искусственный интеллект, утраченные воспоминания…Бред сивой кобылы. Нейросеть создаёт фантастическое произведение о…самой себе. Ну, тут китайские товарищи такую научную фантастику завернули…Зачем нам ещё искусственные коллизии, когда мы по самые уши погрязли в естественных заблуждениях? Да это же не уход от реальности, это бегство от реальности. А куда бежать-то? В новую реальность, в метавселенную…
Куда мы денемся с планеты Земля?
Не люблю я этого жанра – научную фантастику и фэнтэзи. Хотя литература на эти темы нынче популярна. Нормальный ход – народ бежит от реальности, которая, как я понимаю, изрядно сгенерирована нейросетью. В юности и в молодости фантастику читал с удовольствием, а как повзрослел и в Бога уверовал, так и понял, что возможности Бога и чудеса, что Он сотворил, творит сейчас и сотворит в скором будущем, намного выше, сильнее и чудеснее всех, вместе взятых, человеческих фантазий Ефремова, Беляева, Стругацких и других любителей фантазировать.
Надо сказать, что литературный конкурс в Китае проводился Ассоциацией писателей-фантастов Цзянсю. Некоторые из судей ранее занимались изучением создания текстов с использованием нейросети, а потому догадались, что работа автора сгенерирована ИИ. «Страна воспоминаний» получила голоса трёх из шести членов жюри и заняла 2-е место среди 17 номинированных рассказов.
Из недостатков работы судьями отмечены следующие: «несоответствие стандартам», «недостаточно эмоциональна», «слабые чувства и ритм языка»…
«Я думаю, сказал один из судей, что в будущем с ростом влияния ИИ на литературу, яркие эмоции языка могут стать ещё более редким явлением». Похоже, что с выражением человеческих эмоций и чувств в литературе, сгенерированной ИИ, будут определённые трудности. Про любовь нейросеть уж точно ничего хорошего не сможет написать.
;
От одного израильского блогера (слушал военные новости у Сергея Ауслендера) на днях услышал критические замечания в адрес рисующей нейросети: у человека, нарисованного программой, вместо пяти пальцев на руке было изображено три пальца. Блогер считает, что у системы были хреновые учителя, не умеющие считать до пяти. Хотя…могла же нейросеть нарисовать инвалида, которому два пальца оторвало на войне…в секторе Газа. Ну, это я так, мимо проходил…
И это ещё не всё. В портале Стихи.ру случайно включился в дискуссию вокруг личности и творчества одной чуток позабытой, но якобы гениальной поэтессы, Миланы Алдаровой…На «совлите.ру» обсуждалась какая-то премия имени этой знаменитости…Ладно, думаю, посмотрим, что за птица…На фото – грустная девушка лет тридцати, мечтательная, с поволокою глаза…Стихов на странице выложено много…богатое творчество, на три дня чтения…Прочитал одну тетрадь…признаюсь, с трудом…Вроде бы, верлибр, но очень уж свободный…чередование строк коротких и длинных, масса новоязов, а эпитетов, сложных для понимания, вообще полным-полно…по два на строку…и такая тяжеловесность…ни музыки, ни полёта…
На всякий случай приведу четыре строки, смотрите сами:
Непреходящими совершенствами
в яшмозрачных чертогах
благомощно владеют
снеголобые боги
Четыре строки, четыре новоявленных словообразования, три суперсовременных новояза…Если это нейросеть выпендривается, то и хрен с ней, с «сивой кобылой»…Если ещё один свежеиспечённый гений умничает, то и хрен с ним…Пущай умничают…пока…Остановить это невозможно – стихия.
Написал свой отзыв, очень даже вежливый, на стихи Миланы, что-то о голом короле…дескать, оно, конечно так, да не совсем…Прочитал 16 отзывов других читателей – в основном восторженные (от мужчин и женщин)…и один отзыв критический, женский, интересный…Марина Ковалёва так определила стихи Алдаровой: «…странные тексты, созданные генератором рифм, теперь нейросетью…разыгрывают публику…А был ли мальчик?...А была ли Милана Алдарова? Все написанные пользователем (М.А.) отклики датируются также 2023 г., хотя годы «её» жизни (1956-2012)…».
Если отошла поэтесса в страну молчания, то и пусть себе молчит. Зачем танцы вокруг неё устраивать? Вам что, живых мало?
Позволю себе изложить свои ощущения по поводу надуманной знаменитости. Сплошная мифология – и в текстах стихотворений и поэм, и в рецензиях, и в длинных замечаниях, и в самом факте существования сомнительной поэтессы. Очень эрудированный народ собрался вокруг творчества Миланы Алдаровой, сгенерированного, допустим, нейросетью, и…Все говорят один умнее другого, но…друг друга не слышат…Зато каждый высказался.
Вот ещё особенность нашего времени: у творческих людей много слов и мало ясности в смыслах. Каждый несёт что-то своё, а своего дохрена. Информация валит валом, пишущих так много, мы тонем в многословии…надо как-то выбираться. Или компоноваться в местные группировки. В столице уже обозначились школы, концепции и направления, проявились свои небожители…Иногородних приглашают для участия в конкурсах через «Стихи.ру», но с предоплатой…
;
Великие достижения – нейросеть несёт «бред сивой кобылы» и ещё много чего несёт; нейросеть рисует трёхпалые человеческие руки, нейросеть сочиняет невнятные стихи, насыщенные сверх меры новоязами; нейросеть сочиняет научно-фантастические рассказы. Конгениально! В новой реальности появились новые профессии: нейроинженеры, нейрописатели, нейропоэты, нейрохудожники, нейробиологи, нейрохирурги, нейрополитики, нейросоветники, нейроаналитики…И много ещё кого появилось, желающих оседлать сивую кобылу или сивого мерина…
Что нам с того? Что им до нас? Что нам до них?
Вспоминается народная поговорка из детства, которую однажды прочитал на заборе: «Дуракам и грамота во вред». Может быть, ну их к чертям собачьим, эти ненадёжные нейросети…Итак уж много обмана на Земшаре. Конечно, нам трудно отказаться от нашей святой веры в научно-технический прогресс. Но…Сегодня уже и науке нет доверия.
Опять воспоминания из детства прорезались, в связи с вопросом: кому можно доверять? В 1953 году, когда расстреляли Берию, сталинского помощника по репрессиям, то услышал как-то народные частушки:
Берия, Берия, вышел из доверия,
А товарищ Маленков надавал ему пинков.
Запомнил. Тогда мы верили, что Берию правильно расстреляли – за шпионаж. И ещё много чему верили. После пятидесяти я понял, что верить можно только живому истинному Богу. Только Ему одному! Есть в Евангелии мало заметная заповедь, уточнение, которое большинство читающих пропускают: «Бог верен, а всякий человек лжив». Не каждому хочется признаться самому себе, что иногда делал неправду. Вольно или невольно.
Однако, вернёмся к ИИ – сомнительной вершине научно-технического прогресса. Специалист издательства Кембриджского словаря Вендалин Николс отметил, что на нейросети нельзя полностью положиться:
«Тот факт, что ИИ способен галлюцинировать, напоминает о том, что человеку по-прежнему необходимо использовать навыки критического мышления при использовании подобных инструментов».
Совет хороший. Но кто ему внимает?
Очень уж зловеще звучит выражение «ИИ способен галлюцинировать». Что такое галлюцинация? БТС Ушакова объясняет так: «мнимое восприятие несуществующих вещей, возникающее на почве расстройства деятельности мозга». Кто или что вносит расстройство в деятельность мозга у человека и в цифровые технологии у искусственного разума? А если это один и тот же интерактивный(!) источник ложной информации? И на живые мозги влияет и на электронные микрочипы…Вспомним, как его зовут – Дьявол, что в переводе с греческого означает лжец, клеветник. Живая и разумная духовная личность. Вредоносная личность, злой дух, вносящий повреждения не только в мозг человека, но и в искусственный интеллект...И кто его остановит? Кто избавит людей от злых духов? Конечно, у Бога всё под контролем, Бог с ним справится, но это не сегодня. Надо обождать. А сегодня что нам делать?
;
Вот тут уж без критического мышления человеку не обойтись.
А если нет такового, то где взять? Купить? Так ведь не продаётся. Из опыта жизни и по некоторым статистическим данным можно с уверенностью сказать, что подавляющее большинство мало-мальски мыслящего населения планеты критическим мышлением не обладает. Преобладают гордость, тщеславие, эготизм, преувеличенная значимость собственной персоны, диктат силы, эмоции, религиозный фанатизм, жестокость… заскоки типа «я всегда прав», «я никогда не ошибаюсь»…Всего этого полным-полно в мире, в котором мы живём. И совсем плохо на планете стало со здравым смыслом. Увы, пресловутый «искусственный интеллект», на который нельзя положиться, не может заменить человечеству повсеместный упадок естественного интеллекта. Как бы хуже не вышло.
Шутники говорят, что количество интеллекта на Земшаре есть величина постоянная, а количество населения есть величина, постоянно возрастающая. Что это значит? А то и значит, что очень уж правдоподобная шутка. Как сказал бы математик, количество интеллекта, приходящегося на одного человека разумного, стремится к нулю…
Утешит ли людей тот факт, что количество искусственного интеллекта на планете резко пошло в рост? Вместе с ростом ИИ пропорционально (и даже более чем) возрастёт количество ложной информации, это неизбежно. Кто будет её вычищать? Радоваться людям или огорчаться?
;
Полагаю, что серьёзные дискуссии о ненадёжности ИИ только начинаются. Мы ещё много чего услышим и увидим. Пока что проблемой озабочены немногие люди на земле. Их критическую аргументацию об опасности ИИ мало кто слышит – бомбардировки и грохот пушек, истеричные вопли воинственных спикеров, политологов и аналитиков заглушают всё.
В интернете (я подвизаюсь на Ютубе) появились приглашения «открыть дверь в мир бесконечной креативности». Например, пользователей зовут «сгенерировать тексты онлайн с нейросетью «Нейро Текстер». Что-то вроде писательских курсов. Ещё предлагают «Практический бесплатный вебинар нейробиолога. Упражнения и телесные практики!». Вникать не стал, неинтересно.
Есть сообщения о практическом применении ИИ в медицине. Нейросеть обучили заполнять медицинские карты вместо врача, тем самым способствуя высвобождать время и внимание для больных. Здесь нашлись критики, написавшие в комментариях: «…плохому врачу ИИ не поможет» или «плохому танцору брюки жмут». А что если роботов научат делать хирургические операции? Это не мечта, уже где-то что-то, пока ещё не очень сложное, делается. Но ведь могут научить делать и сложное! А пока операции на мозге делают нейрохирурги, и вроде бы неплохо чинят серое вещество…Так говорят. Наверное, я ретроград, отсталый элемент, но и здесь у меня есть опасения: нельзя влезать в мозг человека с ремонтом нейронов, с удалением клеток мозга. Или врачебный принцип «Не навреди!» уже отменили? Ну нет в человеческом мозге лишних нейронов!
Наш совершенный Создатель так устроил человека, что у него каждая клетка на своём месте, и имеет своё предназначение. Все клетки связаны между собой. Даже тонкое ювелирное вмешательство в одну клетку, под микроскопом и с лазером, непременно заденет несколько других. Всего в мозге человека примерно 86 миллиардов нейронов. Худо-бедно, примерно сосчитать клетки несовершенный человек ещё может, а вот влезать в живые нейроны с ремонтом, даже первоклассному нейрохирургу, не стоит. Предсказать последствия невозможно, но у человека, перенёсшего операцию на мозге, точно будут «не все дома».
Интересную оценку искусственному интеллекту дал Илон Маск – известный американский предприниматель, инженер, создатель Open AI и он же – миллиардер. Он назвал систему Chat GPT ненадёжной, «натренированной на политкорректность», а значит «не правдивой». Илон Маск намерен запустить новую систему Truth GPT – искусственный интеллект, «максимально приближенный к правде», пытающийся «постичь суть Вселенной». В основу нейросети будет заложена программа, суть которой – интерес к Вселенной, а не к человеку. Такой ИИ, считает Маск, «вряд ли захочет уничтожать людей». И это, наверное, «самый безопасный подход».
Подход Маска к безопасности человечества чуток утешает: есть ещё где-то на земле у кого-то здравый смысл в голове. Не счета пополнять миллиардами, и не яхты приобретать крейсероподобные…Самое главное: у американского инженера есть воля и возможности воплотить свои намерения в жизнь. Деньжата у него есть. Оптимист. Хотелось бы, чтобы у него всё получилось. Высокий полёт, но…Благие намерения мистера Маска опять могут завести его передовой отряд в ту самую «метавселенную», в то самое виртуальное пространство, где люди могут взаимодействовать друг с другом и с цифровыми объектами и где «обитают иллюзии»…Хакеры-макеры, туды их…И уже взаимодейсвуют вовсю, вот только тревожно как-то – такая мировая грызня разгорается. И миротворцев что-то не видно и не слышно, а сплошь одни агрессоры, террористы и поджигатели войны.
Много войн на Земшаре, бессмысленных и жестоких. Допускаю такую мысль: а что если все эти войны начались при подстрекательстве и участии ИИ? До сих пор многие историки не могут толком объяснить причины начала Первой мировой войны. Слышу голоса: да не было в 1914-м никакого «искусственного интеллекта»! Ну и что? Не было такого термина, а Главбес и его демоны всегда были в околоземном пространстве и рыскали среди людей. Как ангелы, они появились раньше человека…А после сотворения человека Богом, сии духовные создания (примерно одна треть от общего их количества), восстали против Бога, возжелали господствовать над человеком, и в какой-то мере (см. события в Эдемском саду, записанные в главах 1-3 книги «Бытие»), им это удалось.
При отсутствии критического мышления у державных политиков легко допустить трагическую ошибку планетарного масштаба. Ведь они могут принимать решения на основании аналитических материалов, частично или полностью сгенерированных нейросетями. Какой-нибудь властелин текущего момента, пребывающий в уверенности, что он гений и никогда не ошибается, поспешит, возьмёт и нажмёт ядерную кнопку под дурное настроение…
Не дай Бог. Только Он и может дать по рукам великим безумцам, которые потянутся к ядерной кнопке.
17.01.2024
Кавминводы