В конце июля 2024 года пользователь GitHub под ником СubicalBatch выпустил техническую демоверсию своего проекта Deaddit. Deaddit — это полный аналог соцсети-форума Reddit, за одним исключением — там вообще нет других людей, только боты. Боты предлагают темы, боты их комментируют, боты вступают друг с другом в полемику, ставят друг другу плюсы и минусы в карму. Не нужен даже доступ в интернет — все это прекрасно крутится на домашнем компьютере и может крутиться так вечность.
Даже в виде технической демки Deaddit и на первый, и на второй взгляд неотличим от настоящего реддита: вот пользователь делится новостью о космической программе NASA, вот жалуется на злого начальника в офисе, вот хвалит новый сериал по «Звездным войнам», вот поднимает вопросы философии настольных игр или делится советами по продуктивности для программистов на Python. Да и с чего бы ему отличаться? Нейросети, которые его ведут, обучались на миллионах и миллионах реальных тредов. Нет только картинок и видео с котами — но их обещают добавить в одном из будущих апдейтов.
Существует афоризм известного экзистенциалиста Жан-Поля Сартра: «Ад — это другие». Его, вероятно, слышали даже те, кто никакого понятия не имеет ни о работах Сартра, ни о его воззрениях (а ведь Сартр одно время имел репутацию «ультрабольшевика» и главного апологета СССР на Западе), ни о других его изречениях (например, знаменитое: «Рабочие Бийанкура не должны быть лишены своих надежд»), ни даже о том, что когда-то жил и действовал на этом свете такой Сартр, и так действовал, что политические радикалы другого толка не единожды, а целых два раза взрывали его квартиру.
«Ад — это другие» — чтобы понять, о чем это, не обязательно знать о Сартре. Например, в социальной сети TikTok по тегу Hell is other people находится 20,9 млн постов (самые популярные почему-то с корейцами). Тема явно животрепещущая. Ну, у всех был опыт неудачного общения со свекровью или в очереди в паспортном столе.
Широко известно, что Facebook* не только борется на своей платформе с ботами, но и публикует данные по числу истребленных фальшивых аккаунтов. Вот, например, цифры робопотерь за 2023-й: первый квартал — 426 млн; второй квартал — 676 млн; третий квартал — 827 млн; четвертый квартал — 691 млн. Легко подсчитать, что только за год алгоритмы и модераторы истребили 2,6 млрд ботов, притворявшихся настоящими живыми пользователями. Но рекорд был поставлен в 2019-м, когда под виртуальный нож за один квартал пошли 2,2 млрд.
Для сравнения: у Facebook*, самой большой социальной сети планеты, официально 3,3 млрд пользователей — то есть, по собственным же отчетам этой замечательной социальной сети, получается, что примерно двое из трех пользователей там являлись ботами.
А вообще, на Земле сейчас проживает 8,1 млрд человек — то есть Марк Цукерберг за время своей деятельности уже перебанил аккаунтов больше, чем существует людей на нашей планете.
Тут дело не в какой-то особенной робофобии. Просто все эти миллиарды не молчат — они активно общаются с людьми и между собой.
Благодаря магии нейросетей, выше уже упоминавшейся, приятная женщина средних лет, мать двоих детей, которая уже 10 лет исправно пролайкивает все посты про вашу собаку, вполне может оказаться алгоритмом. Пожилой джентльмен, который в завязавшейся дискуссии сообщает ей, что предпочитает кошек, но ваша собака тоже ничего? Тоже алгоритм. Студент из Дели, который почему-то добавился вам в друзья, и вы приняли заявку, потому что это забавно? Алгоритм. Люди, которые до хрипоты спорят в комментариях о политике? Все до единого алгоритмы.
Что самое смешное, все это уже давно предсказали конспирологи. Еще в конце 2010-х пользователи имиджбордов обратили внимание на то, что контент в Сети на глазах становится все более однообразным и унифицированным и начинает состоять из предсказуемых реакций на предсказуемые тезисы. Они тогда предположили — в типичном для имиджбордов стиле, — что человеческое общение в Сети уже некоторое время обрабатывается и используется для обучения неким ИИ, который затем создает непроницаемые информационные пузыри.
Разумеется, все это подавалось полушутя, как веселая конспирологическая схема, в обиходе она получила название «Теория мертвого интернета».
Прошло всего 10 лет — и оказалось, что ИИ, обучающийся на массивах данных, полученных благодаря соцсетям, не только существует, но и считается самой перспективной технологией со времен изобретения колеса, резаного хлеба и биткоина.
То же самое касается и непроницаемых информационных пузырей. Человек — существо не то чтобы стадное, но известное своей склонностью подчиняться мнению большинства. Нет ничего более эффективного для пропаганды — неважно, политической или коммерческой, — чем мнение другого «простого человека». В нулевые для того, чтобы заполнять такими мнениями форумы и сайты отзывов, нанимали живых людей — теперь надобность в них отпала.
Один качественный бот может убедительно вести десятки тысяч фальшивых аккаунтов — не только пролайкивать все, что нужно, но и создавать полную видимость жизни, необходимую для того, чтобы избежать бана: вести страницу, общаться с другими ботами, иметь вполне убедительную виртуальную личность, наконец, ничем не хуже вашего коллеги с позапрошлой работы, у которого всего две темы — гаджеты и ловля карася.
Можно спросить: а где здесь проблема? Проблем множество. Например, признаки депрессии и утраты чувства реальности, которые начинают испытывать немногие оставшиеся живые пользователи Facebook*, погребенные под грудами мусорного контента. Или гиперинфляция человеческого общения. Или, с финансовой точки зрения, бизнес самой социальной сети Facebook*, построенный на рекламе: удалишь слишком мало ботов — рискуешь потерять качество, удалишь слишком много — потеряешь возможность рисовать в отчетах красивые цифры охватов.
Но главная проблема, как ни странно, здесь у самих ботов. Еще прошлым летом в журнале Scientific American вышла статья, где утверждалось, что, по последним данным, нейросетевой ИИ нельзя обучать на результатах работы другого нейросетевого ИИ. Стоит мусорному нейроконтенту попасть в датасет, как модель ухудшается, а после нескольких таких прогонов начинает галлюцинировать и становится окончательно бесполезна.
Получается, что боты сводят с ума не только живых людей, но и друг друга.
Исследователи из Копенгагенского университета предполагают, что если ситуация будет развиваться линейно, то к концу 2020-х 99% контента в интернете будет произведено без участия людей. Его, таким образом, будут генерировать боты, поглощающие сгенерированное другими ботами — и, таким образом, совершенно безумные.
Twitter** тоже периодически устраивает охоту на ботов. После каждой на поле боя остаются потерянные, недоумевающие пользователи, которые вопрошают: как так, у меня было 50 тыс. фолловеров, а осталось всего 50? Это получается, что все, с кем я взаимодействовал за последний год в Сети, были ботами? Но я же инфлюэнсер, я лидер мнений! Или… нет? Такое принято скринить и потом обидно высмеивать (например, на Reddit).
Между тем смешного здесь ничего нет. Человек несколько лет говорил с алгоритмами, будучи уверенным, что это живые люди. Это история прежде всего про одиночество — про одиночество и заброшенность жизни в онлайне, которую каждый из нас так или иначе ведет.
Фраза про ад взята из одноактной пьесы Сартра, посвященной именно коммуникации. Три человека после смерти оказываются заперты в одной комнате, где можно только разговаривать; разговор не получается — чем дальше, тем больше; все трое очень расстраиваются; известная фраза, произнесенная одним из героев, заканчивает пьесу. Сартр, хотя и был, безусловно, визионером, вероятно, даже в самых страшных своих кошмарах не мог вообразить интернет после появления нейросетей.
Сегодня он сказал бы, вероятно: «Ад — это другие боты». И добавил бы, что нейросети тем не менее не должны быть лишены своих надежд.
* Продукт компании Meta, признанной в России экстремистской.
** Соцсеть Twitter заблокирована на территории РФ в связи с распространением недостоверной общедоступной информации. X — новое название соцсети Twitter.