Сегодня для нас нет ничего актуальней неактуального.
Всё ещё не забытый миром итальянский сказочник Джанни Родари, ув. друзья, лет 60 назад написал краткое (и замаскированное под анекдот, конечно) эссе о читерстве под названием «Волшебники на стадионе».
Краткое содержание: к президенту вечно проигрывающего футбольного клуба явился парень, «в свободное время изучивший магию и парапсихологию», и предложил свои услуги тренера. Они состояли в том, что, во-первых, волшебник будет корректировать полёт мяча силой мысли, а во-вторых — игроки вражеских команд во время игры начнут ловить жёсткие отвлекающие галлюцинации.
Проигрывающая команда с такими читами, конечно, перестала проигрывать и начала всех обыгрывать с баскетбольным счётом, вскоре став величайшей футбольной легендой всех времён.
Но дальше начались проблемы — ибо «где-то в Англо-Пруссии» появилась аналогичная звёздная команда. Итальянский футбольный волшебник, тайно посетив её игру, опознал в её тренере своего коллегу, тибетского мага (тоже мысленно управляющего мячом и гипнотизирующего противников). Стороны начали готовиться к «матчу тысячелетия», а когда тот начался — оба волшебника выложились на полную, наводнив стадион самыми дикими галлюцинациями от ктулху до дюймовочек. Игра по этому поводу совершенно остановилась, потому что игроки забыли о мяче и принялись нарезать круги на месте, бегая от невидимых зрителям призраков. Под конец же на поле возник — ставший уже видимым для всех — гаммельнский крысолов, заигравший Баха, и все забыли о футболе и ушли за крысоловом со стадиона.
Как все всех обхитрили
Данное эссе Родари вкратце излагает очень древний, разумеется, сюжет — о том, как слишком эффективное использование правил системы её внутренними игроками в личных целях уничтожает саму систему.
Этот сюжет мы можем опознать в целом зверинце феноменов, таких как инфляция (стимулирование экономики путём подпечатываний приводит к практическому обеднению масс); крах военных аристократий (появление у монархов Европы больших профессиональных армий, вооружённых демократично эффективными убивалками, подрубило саму основу феодальной власти — физическое господство рыцарской кавалерии на поле боя); смерть семейности (освобождение граждан от тягот семейных функций подорвало архитектуру семьи и нарисовало нам всем демографическую катастрофу современности); и великое множество других.
И, конечно, непрестанно с недавних пор малюемый на данном проекте чорт под названием «ИИ-революция» тоже относится к «чит-кодам, разваливающим игру».
Мне попалось свежее эссе очень молодого (21) студента Чикагского университета, посвящённое не теоретическим, а практическим аспектам обучения в эпоху торжествующих LLM. Оно называется «Великая зомбификация», и его стоит пересказать с опорными цитатами.
Суть:
«Повсеместное расползание ИИ по университетским кампусам, особенно в «элитных» университетах, — это раковая опухоль на нашей культуре, которая грозит превратить поколение многообещающих молодых американцев в класс слюнявых идиотов и чудовищно изувечит, если не уничтожит, университет как институт во всех его ипостасях — как священный гуманистический проект, как место нравственного воспитания или даже как вульгарную потогонную мастерскую профессиональной подготовки».
Далее студент приводит примеры: парень, с которым он учится и за которым наблюдал в течение 10 недель, начал с того, что передал ИИ свои домашние задания. Потом использовал ЧатЖПТ, чтобы генерировать ответы на скучные задачи, игнорируя при этом то, что писали на доске. Затем LLM начал писать за него е-мейлы, а под конец уже и романтические длинные письма девушке.
Поначалу, когда автор-студент только начал обучение, роботы казались простым курьёзом:
«Помню, как моя преподавательница логики смеялась над плохо аргументированными ответами на домашние задания, которые давал ChatGPT. Думаю, два года спустя, когда я был ассистентом преподавателя, ей уже было не до смеха: мы зафиксировали разницу примерно в 40 процентных пунктов между результатами домашних тестов и очных». Легко понять, не в пользу последних.
Ещё один пример — быть может, даже более яркий и злободневный для нас: в университетской газете были обнаружены статьи, написанные строго роботами. Яркость данной истории придаёт то, что их обнаружили лишь спустя год с чем-то из-за одного студента-зануды — ибо что «в моменте» написанную роботом газету никто, в сущности, и не читал (зачем? Никто ничего не читает, можно же всё поручить ппочесть и пересказать роботу).
И на фоне всего этого, констатирует автор, спонсоры почтенного Чикагского университета и других «Топ-10» университетов состязаются в том, чтобы дать своим альма-матерям больше миллионов денег на «внедрение ИИ в учебный процесс».
Не на изучение ИИ. Нет: на то, что именуется «интеграцией LLM и стимулирование взаимодействия студентов и преподавателей с искусственным интеллектом».
– Но вот только нет никакого взаимодействия. – пишет студент. – Вместо него получается обычное подчинение. Человек не превращается в партнёра условного Claude или ChatGPT, он становится простым исполнителем роботических алгоритмов.
Более того, спрашивает он — зачем, спрашивается, вообще тогда нужны все эти увитые плющами кирпичные здания топ-10 за много денег, если в них не только не запрещается какое-либо использование роботов вместо мозгов, но даже стимулируется.
Робот ведь демократичен: одна и та же LLM способна писать домашку и отвечать на экзамене и в бесплатном негритянском колледже, и в чём-то там из лиги плюща. Человеки и там и там — знай себе перерисовывают буквы:
«В прошлом году мой друг, посещавший популярный факультативный курс по экономике «Статистика 244», рассказал о следующей сцене в экзаменационной аудитории:
«Народ буквально наджипитил весь экзамен! Препод сидел в первом ряду, но ему было пофигу».
Во время экзамена студенты доставали телефоны и фотографировали тест, чтобы отправить его LLM, а затем переписывали ответы, нагенерённые ими, в свои тетрадки».
В такой атмосфере всякая дорогущая элитность теряет смысл — ибо это всё равно как если бы мишленовские рестораны сменили свои меню на соевую похлёбку на том основании, что она «нова и инновационна», но продолжали бы драть как за утиные ножки конфи под 20-летнее шато. При том, что такая же похлёбка продаётся за пять баксов в неоновом фастфуде на углу.
Награда за лень
Автора этих взволнованных строк периодически упрекают в том, что он — по собственному признанию, ИИ не использующий совсем — тем не менее постоянно ругает его на чём свет стоит, отказывая роботам в полезности.
Нет, ув. друзья. Всё не так.
Во-первых, я никак не могу сказать, что не использую ИИ. У меня есть серьёзные основания подозревать, что ИИ-сгенерированные тексты ныне попадаются мне в ежедневном режиме и в больших объёмах: я всё-таки профессиональный редактор, и у меня уже давно болят глаза от гладко написанных статей, не страдающих ни внутренним рассуждением, ни хотя бы композиционной логикой (так бывает, если формальные «журналисты» нарезают кусками роботические ответы, подвергая их в хорошем случае лёгкому фактчекингу).
Во-вторых, я не ругаю ИИ — точно так же, как не ругаю этиловый спирт за то, что кто-то мрачно бухает. Без этилового спирта не обходится ни хирургическая операция, ни даже таинство Причастия — но если мы видим, как младшеклассников с энтузиазмом поят водкой под лозунгом «бигдата показывает резкое улучшение поведения, дети спокойно спят на уроках и переменах вместо того, чтобы хулиганить, водка — воспитатель года», то у нас таки есть вопросы к подобному подходу.
Просто сложим два и два, блин.
Мы знаем уже, что использование ИИ снижает когнитивные навыки большинства ув. современников.
Мы знаем уже, что использование ИИ ухудшает память.
Мы знаем уже, что использование ИИ стандартизирует и унифицирует идеи, порождаемые коллективами.
Нам что, точно нужно ещё какое-то дополнительное глубинное бурение темы, чтобы прийти к очевидным выводам?
Или мы просто не хотим, чтобы нас обозвали луддитами и анти-инноваторами? И поэтому никак не можем сказать вслух сверкающую банальность:
– Человек по своей природе могуч и деятелен, но также слаб и ленив. Наша цивилизация как система построена, в конечном счёте, на стимулировании и вознаграждении усилий — и наказании пассивной лености.
При этом свежайшие технические инновации позволили широчайшим массам наших ув. современников превратить пассивную леность в преимущество перед усилиями — за счёт удовлетворительной имитации результатов усилий.
Если пассивная леность начинает вознаграждаться, то усилия тем самым девальвируются. Оснащённые роботическими мегамозгами граждане пишут свои домашки быстрей, сдают свои проекты быстрей, тратят на всё меньше минут и килокалорий и тем самым обставляют кустарные мозги так же, как самая чмошная лада-зубило обставляет самого быстрого арабского скакуна.
Но это всё работает до тех пор, пока официально происходят скачки, а не автогонки.
И для “конского мира” это не может не обернуться кризисом (если не крахом) всей системы оценок, наказаний и стимулов.
Ибо если у нас есть Василий, выпускник Лиги Плюща, обошедшийся в миллион баксов, но по сути своей являющийся физическим носителем ChatGPT, и есть Пётр, выпускник негритянской школы для проблемных детей гетто за 50 тысяч, по сути своей также являющийся физическим носителем ChatGPT, то они взаимозаменяемы.
И, что куда хуже — они одинаковы настолько же, насколько одинаковы использующие их ИИ.
Нет, это не описка. Не «используемые ими» ИИ, а «использующие их». Ибо финальным боссом сверкающих банальностей в нашем случае выступает следующая:
– Если некий господин полагается вместо своей памяти на память слуги, вместо своих умений на умения слуги и вместо своих идей на идеи слуги — то слуга тут и есть господин.
Или мы всерьёз воображаем, будто человек, сам лично ничего конкретного не помнящий и никогда ничего конкретного не думающий о своём деле, каким-то мистическим образом будет зато порождать для своего дела оригинально-гениальные промпты?
Я жду хоть одного аргумента в пользу данного допущения.
Всё это чем дальше, тем больше превращает само устройство нашего общества в профанацию. Ибо одно дело, когда у туповатого философа Ксанфа имеется гениальный раб Эзоп, позволяющий своему хозяину блистать на тусовках с мудрыми притчами и остроумными ответами. И совсем другое дело, когда у тысяч добрых граждан имеются свои рабы-ксанфы, обученные на шутках давно забытого людьми Эзопа и обменивающиеся — через своих формальных носителей — стандартизированными притчами и остротами.
Это уже не цивилизация граждан, это цивилизация их тупеньких рабов-начётчиков.
И ещё полбеды, что граждане никак не участвуют в таком случае в создании «своих» интеллектуальных продуктов. Полная беда — то, что граждане неизбежно потеряют и мотивацию, и даже способность потреблять и усваивать эти интеллектуальные продукты.
Ибо конечная станция, безусловно и неизбежно — это «Робот читает робота». Это будет примерно так:
1) Преподаватель заказывает своему роботу список заданий — и, не читая их, рассылает студентам.
2) Студенты, не читая их, рассылают задания роботам на выполнение.
3) Препод получает работы и, не читая их, отправляют на проверку роботу.
4) Робот выставляет всем оценки. Люди разбирают дипломы и расходятся (под управлением роботов) делать ВВП.
Это уже здесь
Это не антиутопия, это реальность, ув. друзья. Мне уже доводилось демонстрировать на примере демографических прогнозов ООН, что данная схема буквально реализуется в нашем мире.
Позволю себе напомнить. Свежайший (на конец 2025 года) доклад ООН сначала показывает данные, согласно которым за девять лет рождаемость на планете уже обвалилась на 12%. А затем прогнозирует, что за следующие 25 (!) лет она снизится всего на 5% (!).
Я сделал дерзкое предположение, что финальный прогноз на 2050 год напрямую перекочевал в доклад 2025 года из древнючего доклада 2004 года (на данный момент безнадёжно устаревшего и показавшего, что он везде-везде налажал). Как так вышло? А просто. Какие-то ООНовские начальники повелели девочкам сгенерить обновление прогноза; девочки поручили роботам; роботы покладисто заапдейтили имеющиеся данные, но не тронули 2050 год (он же ещё впереди).
И никто ничего так и не просмотрел глазами. А потом всё это разъехалось по миру — и, что совсем капец, принялось неиллюзорно влиять на демографические стратегии самых разных государств.
Наша сегодняшняя демография вообще — хороший и наглядный пример того, что бывает, когда мир стремительно изменился, а все принимающие решения лица по-прежнему живут в предыдущем лоре.
Но это же не всё. Я берусь предсказать, что даже когда реалии будут осознаны — LLM-зависимые чиновники всей планеты побегут при выработке своих национальных стратегий борьбы с демографической катастрофой советоваться (или, вернее, просто «поручать написать») к тем же самым роботам.
И роботы — готов спорить — начнут выдавать мегасоветы, наструяченные некогда в 2000-2010-х благонамеренными левацкими тётеньками. Про то, что для повышения рождаемости нужно увеличивать пособия; что нужно стимулировать женское образование; что нужно усилить принуждение работодателей к созданию таких условий, чтобы наличие ребёнка не отягощало работающую мать; что нужно повысить качество медицинских услуг для дам под 40, ибо возраст деторождения повышается. Может, там будет ещё про декретный отпуск для отцов и про доступное жильё.
Словом, всё то, что сработает либо никак, либо наоборот.
…А хотя почему бы нет. Залезу-ка я в гугл и спрошу у его местного робота. Ха-ха-ха, я был прав. Больше того — в качестве успешных бэст прэктис, на которых основаны советы, робот использует Южную Корею, а также Францию (Le Monde: «В 2025 году число рождений во Франции продолжало снижаться. Коэффициент рождаемости, составляющий 1,56 ребенка на женщину, достиг самого низкого уровня с 1918 года») и Венгрию (Daily News Hungary: «Суммарный коэффициент рождаемости снизился до 1,31 ребенка на женщину по сравнению с 1,39 годом ранее: это самый низкий уровень за последние 14 лет»).
Папа не пей
Не поймём неправильно, ув. друзья. Это не текст о том, что робот нас погубит. Это текст о том, что робот нас не сможет спасти, если ему некого и не от чего будет спасать.
А ему некого и не от чего будет спасать, если мы сами будем искать не усилий, а избавления от них; не знаний, а способов уклониться от них; не собственного труда, а безделья.
Если мы все хотим счастья, но для этого будем ежедневно пить водку, то водка даст нам массу квалифицированных советов на предмет того, чем её закусывать, на скольких её распивать и что под неё петь. Нам всем будет весело в процессе, но мы все сопьёмся, и из-за этого нам перестанет хватать на водку (что вряд ли можно считать достижением счастья).
Если мы изначально будем держать в себе собственный натуральный интеллект с непрерывно обдумываемыми задачами и постоянно пополняемой в процессе их решения библиотекой памяти (а значит, и новых целей) — то ИИ нам, конечно, не навредит, а местами даже, вероятно, посодействует.
Но оценим действительность трезво: для завтрашнего большинства робот сейчас совсем не помощник их натуральному интеллекту, а его заменитель. И уже имеющиеся данные позволяют всякому вдумчивому современнику готовиться сегодня жить в завтрашнем мире, где эксклюзивной станет сама способность желать нестандартного (не алгоритмизируемого, не унифицированного, не упрощённого).
Ибо желать нестандартного и сложного можно, только действуя вне стандарта и живя собственную жизнь со всеми её учителями-ошибками.
В чудном новом мире быть носителем активной сложности станет, возможно, тем же, чем в лысой древности было уметь читать и писать. С той разницей, что грамотные древности имели эксклюзивный доступ к чужим мудрости и опыту, а «грамотные XXI века» будут иметь столь же эксклюзивный доступ к собственным.
Comments are closed here.