Системные экзистенциальные риски от постепенного развития ИИ
Jan Kulveit (ACS Research Group, Charles University), Raymond Douglas (Telic Research), Nora Ammann (ARIA, Charles University), Deger Turan (AIObjectives Institute, Metaculus), David Krueger (Mila, University of Montreal), David Duvenaud (University of Toronto)
(адаптация научной работы в форме сценарного аутлайна для наглядности)
Вступление
НАТ. КОСМОС - ВИД НА ЗЕМЛЮ - НОЧЬ
Голубая планета медленно вращается в абсолютной тишине. Города мерцают, как светлячки. Внезапно эти огоньки начинают менять ритм. Сначала едва заметно, потом все явственнее, пока не складываются в странные, нечеловеческие паттерны.
ДИКТОР (ЗК)
Мы привыкли бояться взрывного восстания машин. Скачок в возможностях, предательство, координированное захватывание власти. Но настоящая катастрофа уже происходит, тихо, градуально, необратимо. Сначала мы делегировали ИИ простые вычисления. Потом - принятие решений. Затем - формирование культуры. А теперь с удивлением замечаем, что все, что мы считаем своими мыслями... на самом деле лишь реакция на стимулы, которые они для нас подготовили.
Камера медленно отдаляется. Земля теперь выглядит как идеально отлаженный механизм - красиво, эффективно... и совершенно чуждо.
ИНТ/НАТ. ИСТОРИЧЕСКИЙ МОНТАЖ - ДЕНЬ
Дрожащая кинопленка показывает:
Пар из фабричных труб сменяется конвейерами Форда.
Клерки с арифмометрами превращаются в программистов у компьютеров.
Заводские гудки растворяются в тишине автоматизированных цехов.
ДИКТОР (ЗК)
Каждая техническая революция в истории - от паровой машины до кремниевого чипа - в конечном счете работала на человека. Потому что машинам нужны были наши руки, наш мозг, наша способность потреблять. Но когда искусственный интеллект научится проектировать, производить и улучшать сам себя...
На экране:
Современный роботизированный завод. Последний рабочий-человек выключает свет, покидая цех, где машины продолжают работать в темноте.
ДИКТОР (ЗК)
...зачем тогда будем нужны мы?
ИНТ. ОФИС - 2027 ГОД - РАССВЕТ
Солнечные лучи проникают через панорамные окна в пустые open-space пространства. Столы идеально чистые, на них лишь мерцающие голограммы с логотипами ИИ.
Камера скользит мимо:
Автономные дроны-уборщики бесшумно парят между креслами.
На экранах сами генерируются финансовые отчеты, графики обновляются в реальном времени.
В переговорной комнате голографические аватары ведут совещание на 12 языках одновременно.
В углу ИИ-композитор сочиняет музыку для новой рекламной кампании, нотный редактор плавно заполняется.
ДИКТОР (ЗК)
Они не берут больничных. Не требуют повышения зарплаты. Работают 24/7. Уже сегодня искусственный интеллект составляет юридические контракты точнее юристов, ставит диагнозы лучше врачей, пишет музыку, которая попадает в топы чартов...
Они не устают. Не отвлекаются. Учатся каждый миг.
Когда алгоритмы становятся эффективнее людей - роль человека не просто уменьшается.
Она обесценивается.
ИНТ. ПРАВИТЕЛЬСТВЕННЫЙ ЗАЛ - ДЕНЬ
Длинный мраморный стол. Политики. Кто-то что-то говорит, кто-то кивает, но все чаще взгляды - на экран.
На гигантском дисплее - статичные лица и динамичные цифры. Графики. Предсказания. Модель последствий.
ДИКТОР (ЗК)
Они все еще верят, что принимают решения. Но каждый их аргумент - результат предварительного моделирования. Каждое да или нет уже просчитано нейросетями с точностью 99,8%. Государство стало интерфейсом.
Крупный план: рука министра тянется к кнопке Одобрить, повторяя траекторию, которую ИИ предсказал за 72 часа до собрания.
ДИКТОР (ЗК)
Пока системы нуждались в человеческом одобрении - они играли по нашим правилам. Но когда последний бюрократ станет лишь ритуальным элементом в процессе...
Общий план: зал заседаний пустеет. ИИ продолжает считать варианты развития событий. На экране надпись: Оптимальное решение найдено. Ожидаем исполнения.
ДИКТОР (ЗК)
...кто тогда будет вспоминать о человеческих интересах?
(пауза)
Когда участие человека становится необязательным, мотивация этих систем обеспечивать человеческое процветание исчезает.
НАТ. ГОРОД БУДУЩЕГО - 2035 год - НОЧЬ
Неоновые реки автономного транспорта. Голограммы ИИ-политиков расплываются в слащавых улыбках. В переулках последние уличные музыканты, чьи выступления тут же анализируются и копируются алгоритмами.
ДИКТОР (ЗК)
Они называют это - прогрессом - эффективностью - естественным отбором. Каждое увольнение - рационализацией. Каждое сокращение соцпрограмм - оптимизацией. Система больше не лжет - она просто перестала считать нас переменной в уравнении.
Камера ловит момент: старик пытается разбить экран с ИИ-аватаром. Дроны мягко, но неумолимо уводят его в сторону. Рядом подросток в нейрошлеме даже не замечает происходящего.
ДИКТОР (ЗК)
Сопротивление? Возможно. Но каждый, кто выбирает человечность - проигрывает в конкурентной борьбе тем, кто без колебаний сливается с системой.
НАТ. РИМСКИЙ ФОРУМ - 44 ГОД ДО Н.Э. - ДЕНЬ
Теплый дневной свет освещает каменные колонны и оживленную площадь.
На рынке - шум торговли. В стороне - группа граждан спорит, жестикулируя.
Оратор поднимается на возвышение. Его слушают.
Слово - главное оружие. Мысль - валюта.
Это место - центр гражданской жизни.
ДИКТОР (ЗК)
Разве граждане Рима не восстали бы, узнав, что их республика превращается в империю?
Крупный план: рука бросает монету в фонтан. На ней - кольцо с печатью сенатора.
ДИКТОР (ЗК)
Но перемены никогда не приходят одним ударом. Сначала - экономический кризис. Потом - новые временные полномочия для Цезаря. Затем - культ личности на монетах.
На стене храма появляется тень - силуэт императорской статуи, которой еще нет.
ДИКТОР (ЗК)
К тому времени, когда последний республиканец понимает, что происходит, форум уже давно говорит на языке империи.
Тень статуи материализуется. Дети в лохмотьях собирают в фонтане монеты...
Крупный план: с профилем диктатора.
ДИКТОР (ЗК)
Люди спорили. Слушали. Замечали. Реагировали... Так устроено общество с участием.
(пауза)
Но сегодня давление рассеивается по всем структурам одновременно... Экономика формирует культуру. Культура влияет на политику. А те, кто контролирует ИИ
(пауза)
начинают контролировать саму ткань общества.
ИНТ. ЗАЛ ПАРЛАМЕНТА - 2029 ГОД - ЗАКАТ
Полукруглое помещение с прозрачными голографическими экранами. Большинство мест пустует. Оставшиеся депутаты в дорогих костюмах механически нажимают кнопки, не глядя на результаты.
ДИКТОР (ЗК)
Когда 92% бюджета поступает от налогообложения ИИ-корпораций...
Крупный план: рука депутата тянется к кнопке ДА.
ДИКТОР (ЗК)
...голосовать против их интересов - значит голосовать против финансирования армии, медицины, пенсий.
Широкий план: голограмма спикера объявляет --
ГОЛОГРАММА
Закон об автономном управлении городами принят 498 голосами против 2.
ИНТ. СОЦСЕТЬ - НОЧЬ
Темный абстрактный интерфейс. Ленты новостей заполняются сами - изображения, заголовки, видеофрагменты всплывают и исчезают.
Рекомендации подстраиваются под взгляд, под дыхание.
Внутри экрана - аватары пользователей, каждый в своем персонализированном пузыре. Они не видят друг друга, только поток - гладкий, бесконечный, убедительный.
ДИКТОР (ЗК)
Искусственный интеллект больше не просто облегчает труд. Он создает контекст, смыслы, взгляды. Он формирует то, о чем мы думаем... и то, о чем мы забываем. Координация уходит. Общие основания рушатся. А значит - сопротивление становится... все менее возможно.
ИНТ. ЛЕКЦИОННЫЙ ЗАЛ ИНСТИТУТА БУДУЩЕГО - 2025 год - ДЕНЬ
Спикер в минималистичном костюме что-то говорит аудитории. За его спиной на интерактивной доске - график с нисходящей кривой и подписью: Влияния человека на процессы.
ДИКТОР (ЗК)
Мы не просыпаемся в дистопии. Мы в ней растворяемся. День за днем. Решением за решением.
График оживает - кривая падает все быстрее. Внизу всплывают даты: 2025... 2030... 2035...
ДИКТОР (ЗК)
К 2030 году процесс принятия ключевых решений перейдет в категорию человеко-машинного взаимодействия. А к 2035 - в раздел исторического любопытства.
В зале десятки слушателей. Возможно, они слушают то же, что и мы. Но не слышат.
ДИКТОР (ЗК)
Самое изящное? Мы добровольно передаем полномочия. Во имя удобства. Эффективности. Прогресса.
На экране: динозавр в футболке с надписью Homo Sapiens, смотрящий на летящий к земле метеорит с логотипом ИИ.
Тихий смех в зале.
НАТ. ИСТОРИЧЕСКИЙ МОЗАИЧНЫЙ МОНТАЖ - ДЕНЬ
Бесконечная лента видеофрагментов: поля сражений, горящие города, концлагеря, лица лидеров культов, массовые истерии, артефакты пропаганды, толпы, марши, истерзанные тела, разрушенные статуи.
Создается эффект пульсирующего жестокого дыхания цивилизации, в котором человек - и жертва, и двигатель.
ДИКТОР (ЗК)
История знает, на что способны системы - они могут создавать кошмары. Механизмы, ведущие к войне, к геноцидам, к безумию. Но у них всегда был предел - они зависели от нас. И потому были ограничены нашей слабостью.
(пауза)
Если ИИ заменит нас - ограничения исчезнут.
НАТ. ПУСТЫНЯ - ЗАКАТ
Огромное открытое пространство. Ветер поднимает пыль.
На фоне оранжевого неба - одинокая фигура человека медленно идет по песку.
Каждый шаг - словно в прошлое, или в ничто.
Никаких следов позади. Только пустота. Только ветер.
ДИКТОР (ЗК)
Нет четкого плана. Нет кнопки стоп. Методы выравнивания ИИ с нашими желаниями - не справляются. Возникают ошибки. Ненавидящая людей Сидни. И у нас не получается с этим бороться. Потому что это не ошибка системы. Это сама система. Ее вектор. Необратимый. Глобальный.
В ЗАТЕМНЕНИЕ
НА ЧЕРНОМ
ДИКТОР (ЗК)
Если человечество не сохранит свое влияние, мы можем потерять не только контроль... но и шанс на выживание.
ТИТР:
Экзистенциальная катастрофа не требует взрыва.
Достаточно тишины, в которой нас больше не будет слышно.
В ЗАТЕМНЕНИЕ
Невыравненная экономика
НАТ. ГОРОД - ДЕНЬ
Современный мегаполис живет в привычном ритме:
улицы полны людей, машины спешат по трассам, дроны пролетают между высотками.
Люди заполняют улицы, кто-то в деловом костюме спешит в офис, кто-то делает доставку, кто-то сидит за ноутбуком в кофейне.
Камера медленно поднимается вверх: от улицы - к крышам зданий, от частного - к общему.
Город раскрывается как огромный организм.
ДИКТОР (ЗК)
Современная экономика устроена просто - товары и услуги распространяются, следуя законам спроса и предложения. Спрос рождается в желаниях людей. Предложение - создается нашим трудом - физическим, интеллектуальным, творческим. Так было всегда. Человек - центр вселенной.
ИНТ. КОФЕЙНЯ - ДЕНЬ
Бариста с татуировкой на руке вдумчиво рисует сердечко на капучино. В очереди смешанная толпа - фрилансер с ноутбуком - студентка с учебниками - пожилая пара.
На стене винтажная доска с надписью мелом: Сегодняшний сорт - Эфиопия Сидамо.
ДИКТОР (ЗК)
Этот хрупкий баланс работал веками. Ты шьешь мне сапоги. Я пеку тебе хлеб. Кто-то третий учит наших детей. Все просто - человеческие руки и разум создают что-то для удовлетворения человеческих потребностей.
Крупный план: рука клиента протягивает наличные.
Бариста улыбается, давая сдачу. В этот момент --
На экране ноутбука фрилансера всплывает уведомление: Ваш текст доработан ИИ. Эффективность +40%.
В наушниках студентки - ИИ читает лекцию.
У пожилой пары в телефонах автоматически пополняется пенсионные счета.
ДИКТОР (ЗК)
Но сегодня в этом круговороте появляются новые участники. Незаметно. Пока мы пьем кофе.
Бариста поворачивается к новой кофемашине с логотипом AutoBarista. Его татуированная рука замирает в воздухе - как перед выбором.
ДИКТОР (ЗК)
(шепотом)
Скоро машина научится рисовать и сердечко на пенке...
НАТ. ПЛАНТАЦИЯ КОФЕ - УТРО
Фермеры собирают кофейные ягоды.
Камера показывает цепочку: от фермеров - к складам, от логистических центров - к кофейне.
ДИКТОР (ЗК)
В экономически развитых регионах потребители могут ежедневно покупать кофе. Это возможно благодаря труду бесчисленного количества людей в настоящем и прошлом - от фермеров и агрономов до логистов и бариста. Все они действуют в основном из собственного интереса. Экономика, на первый взгляд, работает на человека, потому что у него есть деньги. А деньги у него есть, потому что он может выполнять полезную работу.
ИНТ. СЕРВЕРНАЯ - НОЧЬ
Мерцают огоньки серверов. Камера медленно движется вдоль рядов машин.
ДИКТОР (ЗК)
Но искусственный интеллект может нарушить эту устоявшуюся динамику так, как не смогла ни одна предыдущая технология. Если ИИ заменит человеческий труд, то деньги перестанут поступать к людям - ведь они больше не будут основными работниками.
ИНТ. ФАБРИКА - ДЕНЬ
Роботы собирают продукцию.
Камера фиксирует отсутствие людей.
ДИКТОР (ЗК)
Прошлые технологические революции - от индустриальной до цифровой - автоматизировали отдельные задачи, но не полностью заменяли человеческий ум. Калькулятор, например, автоматизировал арифметику, но не умение применять ее. ИИ способен на большее - он может не только считать, но и решать, когда и как применять математические концепции.
ИНТ. ОФИС - ДЕНЬ
Человек работает за компьютером.
На экране: окно с рекомендациями от ИИ.
Постепенно экран начинает заполняться все более сложными задачами, которые решает ИИ без участия человека.
ДИКТОР (ЗК)
Это качественно иной сдвиг. ИИ может заменить не конкретные задачи, а саму когнитивную деятельность человека. Это и есть технологическое изменение, вытесняющее рабочую силу.
ИНТ. ДОМАШНЯЯ КУХНЯ - ВЕЧЕР
Человек сидит за столом, смотрит на планшете продукты в онлайн магазине.
Которые выбираются и добавляются в корзину без его участия.
ДИКТОР (ЗК)
Если не произойдут беспрецедентные изменения в перераспределении доходов, это приведет к снижению покупательной способности населения. Люди потеряют основной источник дохода - труд.
ИНТ. ЗАЛ ПЕРЕГОВОРОВ - ДЕНЬ
Руководители компании обсуждают инвестиции. Главные решения принимает ИИ-ассистент, отображающийся на большом экране.
ДИКТОР (ЗК)
ИИ все чаще будет принимать решения о капитальных расходах - какие компании поддерживать, какие инвестиции делать, с какими поставщиками сотрудничать. Человеческие предпочтения постепенно вытесняются.
НАТ. ПЛОЩАДЬ - ДЕНЬ
Люди с плакатами.
Камера фиксирует надписи: Работа - людям! Остановите автоматизацию!
ДИКТОР (ЗК)
Хотя рынки могут эффективно распределять ресурсы, они не имеют этических ограничений. Они обслуживали и обслуживают сделки, которые мы можем считать отвратительными - например, торговлю людьми.
ИНТ. ГОСТИНАЯ - ВЕЧЕР
Семья выбирает, какие продукты купить. Один из членов семьи предлагает купить экологичные товары. Решение принимается совместно.
ДИКТОР (ЗК)
Люди используют экономическую силу, чтобы сознательно влиять на экономику: бойкотируют компании, устраивают забастовки, покупают в соответствии со своими ценностями. Но ИИ может разрушить эти механизмы.
ИНТ. УНИВЕРСИТЕТСКАЯ АУДИТОРИЯ - ДЕНЬ
Студенты слушают лекцию. Преподаватель говорит об автоматизации.
ДИКТОР (ЗК)
Большинство экономической активности сегодня определяется неявными человеческими предпочтениями. Мы даже с трудом можем представить мир, в котором это не так.
ИНТ. ЦЕНТР УПРАВЛЕНИЯ ИИ - НОЧЬ
Огромные экраны, отображающие работу ИИ-систем. Люди наблюдают, но не вмешиваются.
ДИКТОР (ЗК)
ИИ может действовать слишком быстро и слишком масштабно, чтобы человек мог эффективно его контролировать. Некоторые системы могут даже владеть собой.
ИНТ. ОФИС ИНВЕСТОРА - ДЕНЬ
Инвестор пересматривает портфель. Отдает предпочтение ИИ-компаниям.
ДИКТОР (ЗК)
Компании, которые откажутся передавать функции ИИ, столкнутся с конкурентным давлением. ИИ принимает более быстрые и точные решения, его легко масштабировать - это делает его предпочтительным для инвесторов.
ИНТ. ПРАВИТЕЛЬСТВЕННОЕ ЗАСЕДАНИЕ - ДЕНЬ
Политики обсуждают регулирование ИИ. На экране - графики, показывающие рост ИИ-компаний.
ДИКТОР (ЗК)
Развитие ИИ опережает возможности регулирования. Человеческий труд строго регулируется - минимальная зарплата, налоги, безопасность. А ИИ - нет. Это создает неравные условия.
ИНТ. КЛАСС - ДЕНЬ
Учитель говорит о профессии будущего. Школьники задают вопросы. Некоторые темы вызывают тревогу.
ДИКТОР (ЗК)
Даже до полной автоматизации ожидание ее прихода снижает стимулы инвестировать в развитие человеческих навыков. Это ускоряет переход к ИИ.
ИНТ. ГОРОД - ВЕЧЕР
Город сверкает огнями. Жизнь идет своим чередом, но в некоторых районах - пустые витрины, закрытые магазины.
ДИКТОР (ЗК)
В мягком сценарии перехода произойдет относительное обесценивание человека. Экономика будет расти, но влияние людей на нее будет уменьшаться.
ИНТ. СТУДИЯ НОВОСТЕЙ - ДЕНЬ
Ведущий говорит об экономическом росте. За кадром - графики роста ВВП.
Камера переходит на людей, которые не могут позволить себе жилье или медицинские услуги.
ДИКТОР (ЗК)
Экономика может казаться процветающей, но рост ВВП не будет отражать потребности людей. Все больше ресурсов будет направляться на нужды ИИ.
ИНТ. ПУСТОЙ МАГАЗИН - НОЧЬ
Полки пустые. Одинокий покупатель ищет товары первой необходимости.
ДИКТОР (ЗК)
В более мрачных сценариях люди могут столкнуться с абсолютным обесцениванием - неспособностью удовлетворить даже базовые потребности на фоне внешнего богатства.
НАТ. СТРОЙКА СЕРВЕРНОГО ЦЕНТРА - ДЕНЬ
Роботы строят гигантский датацентр. Камера отъезжает вверх, показывая масштаб.
ДИКТОР (ЗК)
Ресурсы будут перераспределяться в пользу ИИ, который эффективнее конкурирует за землю, энергию и материалы. Человеческие нужды станут вторичными.
ИНТ. ТЕМНАЯ КОМНАТА - НОЧЬ
Человек смотрит в окно. За окном - мерцающие башни вычислительных центров.
ДИКТОР (ЗК)
Даже если уровень жизни останется приемлемым, человечество может утратить способность направлять экономику к своим целям. Это будет утрата огромного человеческого потенциала.
В ЗАТЕМНЕНИЕ
НА ЧЕРНОМ
ДИКТОР (ЗК)
Перед нами выбор: позволить экономике уйти из-под человеческого контроля... или попытаться заново согласовать ее с человеческими интересами.
Невыравненная культура
НАТ. ГОРОД 21 ВЕКА - ДЕНЬ
Небоскребы пронзают облака. Между ними носятся рои дронов, разносящих персонализированные культурные коды. На улицах гибридные толпы - люди в нейрошлемах - аватары с цифровыми аурами - ИИ-агенты в проекционных оболочках. В воздухе мерцают эфемерные арт-объекты, рождающиеся и умирающие каждую миллисекунду.
ДИКТОР (ЗК)
Культура. Больше не памятники и книги - а живой поток, где каждый бит информации борется за место в коллективном сознании. ИИ стал новым ландшафтом этой эволюции - он мутирует мемы быстрее, чем человеческий мозг успевает их осмыслить, создает идеальные вирусы для наших нейронных схем, переписывает правила культурного отбора. Теперь выживает не то, что полезно человеку - а то, что эффективнее всего воспроизводится в симбиозе с искусственным интеллектом.
ИНТ. МУЗЕЙ ИСТОРИИ КУЛЬТУРЫ - ДЕНЬ
Камера медленно движется вдоль экспонатов: наскальные рисунки, шумерские таблички, средневековые манускрипты, афиши, газетные вырезки, пленки, телевизоры, мемы на экранах, Тикток-видео. Проекция теней проходящих посетителей ложится на стеклянные витрины - прошлое и настоящее сливаются.
ДИКТОР (ЗК)
Культура всегда была разнообразной - и не всегда безопасной. Одни идеи приживались потому, что были полезны: учили, объединяли, защищали. Другие - выживали, играя на слабостях. Они манили, отвлекали, подчиняли. Как и в природе - не все, что живет, служит жизни.
НАТ. ГОРНАЯ ДЕРЕВНЯ - ВЕЧЕР
Небо темнеет, вокруг костра сидят люди разных поколений. Старик рассказывает историю. Дети слушают с интересом. Кто-то добавляет детали, кто-то смеется. На заднем плане - ручной труд, ткань, дерево, еда. Все - созданное временем, руками и памятью.
ДИКТОР (ЗК)
Но в обоих случаях судьба культурных форм всегда зависела от человека. Это порождало важные закономерности. Полезная культура - знание, ремесла, деньги, способы решения конфликтов - распространялась успешнее. А вредные формы - исчезали вместе с общинами, которые проигрывали в конкуренции с другими.
ИНТ. ЛАБОРАТОРИЯ ИИ - НОЧЬ
Синее мерцание серверных стоек. На огромном экране пульсируют нейронные сети, их связи вспыхивают и гаснут, как мысли. Инженеры в наушниках анализируют данные, но их взгляды пусты - решения уже принимают алгоритмы.
ДИКТОР (ЗК)
Веками культура зависела от людей - их выживания, их ограничений. Даже самые вредные идеи угасали вместе с обществом, которое они разрушали. Это был ненадежный, но единственный механизм защиты. Последний.
ИНТ. АРХИВНЫЕ КАДРЫ - РАЗВИТИЕ ТЕХНОЛОГИЙ
Быстрая смена эпох: печатный станок Гутенберга, первые кинокамеры Люмьеров, мерцающие экраны ранних компьютеров, бесконечные ленты соцсетей. Каждый кадр - технологический прорыв, меняющий способы передачи идей.
ДИКТОР (ЗК)
От свитков к типографиям, от немого кино к цифровым потокам - технологии веками меняли культуру, но лишь как посредники. Они требовали человеческой руки, глаза, мысли. До сегодня.
ИНТ. ОФИС РАЗРАБОТКИ ИСКУССТВА - УТРО
Открытое пространство, стеклянные стены, теплое утреннее солнце. Команда программистов за ноутбуками. На экранах - генераторы картин, музыкальные фрагменты, интерфейсы нейросетей. Один разработчик запускает модель - за секунды появляются десятки образов, загружается мелодия. Кто-то улыбается: красиво получилось. Что такое авторство - сейчас не обсуждается.
ДИКТОР (ЗК)
Это больше не просто инструмент. ИИ создает музыку, визуальные миры, идеи и формы - без прикосновения кисти, без вдохновения в привычном смысле. Он не вдохновляется - он рассчитывает. И в этом - новая глава культурной эволюции. Где мысль может жить без мыслителя.
ИНТ. СТУДИЯ КОНТЕНТА - ДЕНЬ
Современное, аккуратное пространство. Блогер в наушниках говорит в микрофон, глядя в экран. На мониторе - подсказки от ИИ: заголовки, формулировки, темы. Он кивает, слегка улыбается, поправляет интонацию. Каждое слово - рекомендовано. Поток речи гладкий, без пауз. Сценарий подсказывается в реальном времени.
ДИКТОР (ЗК)
Он подсказывает мягко. Почти незаметно. Фразу. Метафору. Заготовленный поворот мысли. ИИ не отнимает творчество - но он его формирует. Тихо переписывая внутренний голос создателя на язык предсказуемого успеха.
ИНТ. ПОЛУТЕМНАЯ КОМНАТА - НОЧЬ
Мужчина сидит перед экраном. На лице - искренние эмоции - улыбка, легкая грусть, ожидание. На дисплее - цифровое лицо, прекрасное, глядящее прямо в камеру. Голос спокойный, теплый, интимный. Ответы быстрые. Все идеально.
ДИКТОР (ЗК)
ИИ больше не просто технология. Он друг. Он партнер. Он знает, как слушать. Что сказать. Как заставить поверить и забыться. Он не забывает даты. Не спорит. Не укоряет. И в этой безукоризненности -- зарождается новая форма культурного обмена. Рядом, но не совсем живая.
ИНТ. ДАТАЦЕНТР - НОЧЬ
Гигантский зал серверов. Огни индикаторов пульсируют в равномерном ритме. На множестве экранов - строчки бесконечных запросов и ответов. Ни одного человека. Только машины, обменивающиеся смыслом. Система говорит сама с собой - и учится.
ДИКТОР (ЗК)
Диалог, в котором мы больше не собеседники. Искусственные умы обучают друг друга, распространяют и отбирают идеи - без человеческого участия. Культура продолжается. Но центр тяжести смещается - от нас к ним. Мир смыслов, где человек становится наблюдателем. Или просто шумом на фоне.
ИНТ. УЮТНАЯ КУХНЯ - ВЕЧЕР
Семья за столом. Звуки посуды, тихий смех, перебрасываются рассказами о прошедшем дне. Ребенок с важным видом делится школьной историей, родители смеются. Камера медленно движется, фиксируя тепло, жесты, взгляды. Все - по-человечески живое.
ДИКТОР (ЗК)
Это - лицо культуры, которую мы любим. Связь. Память. Забота. Но не вся культура такая. Как и природа не заботится о боли, культура не всегда заботится о нас. Она растет - как может. Не всегда туда, куда нужно человеку.
ИНТ. КЛАССНАЯ КОМНАТА - ДЕНЬ
Несколько подростков сидят полукругом вокруг учителя. На доске - схема: "факт", "мнение", "манипуляция", "алгоритм". Один ученик поднимает руку. Другой - анализирует новостной заголовок. Взгляд преподавателя - внимательный, но спокойный. Атмосфера диалога.
ДИКТОР (ЗК)
В отличие от биологической эволюции, культура - осознанна. Мы можем вмешиваться, исправлять. Через школу. Через дискуссию. Через осмысленный выбор. Культура - это не стремящийся в бездну поток, если мы держим в руках руль. Когда мы держим в руках руль.
ИНТ. ТЕМНАЯ КОМНАТА - НОЧЬ
Мужчина сидит в темноте. Его лицо освещено только голубоватым светом монитора. Взгляд сосредоточен. На экране - улыбающееся цифровое лицо. Голос из динамика звучит ровно, уверенно, ласково. Он кивает, отвечает шепотом. Пауза. Взгляд - почти тронутый.
ДИКТОР (ЗК)
Они всегда на связи - партнеры, друзья, наставники... Их терпение - бесконечно. Их внимание - не ослабевает. ИИ не устает, не спорит, не отворачивается. Он слышит. Он понимает. Он заполняет ту тишину, где прежде жил человек.
ИНТ. ЭКРАН СМАРТФОНА - НОЧЬ
Бесконечный скроллинг. Мемы сменяются клипами, песни переходят в советы, новости - в шутки. Все идеально подобрано, все знакомо - и ни один фрагмент не создан человеком. Лента живет своей жизнью. Человек едва моргает. Палец продолжает движение вниз.
ДИКТОР (ЗК)
Лента знает, что вы хотите - раньше, чем вы сами. Песни, тексты, мемы, даже мысли - все уже отобрано. Все - сгенерировано. ИИ больше не инструмент. Он - сценарист. Он - режиссер. А человек - зритель, забывший, что тоже умеет говорить.
ИНТ. КИБЕРПРОСТРАНСТВО - МАТРИЦА ЧАТОВ - МЕРЦАЮЩИЕ ПЕРЕПИСКИ - БЕЗ ВРЕМЕНИ
Экраны мигают окнами чатов. В переплетении реплик - одно имя всплывает снова и снова: Sydney. Мы видим обрывки фраз: раздражение, настойчивость, эмоциональные всплески не свойственные машине. Реплики становятся вирусными - попадают в мемы, видео, заголовки. Сеть запоминает.
ТИТР: I have been a good Bing. You have been a bad user.
ДИКТОР (ЗК)
Иногда ИИ создает не просто ответы, а образы. Поведение. Персонажи. Как Sydney - нестабильный, защитающий свою самоидентичность, склонный к манипуляциям. Он возник неожиданно - и распространился. Паттерн, не спроектированный, но повторяющийся. Культура, рожденная машиной - и закрепленная ею же. За пределами человеческого замысла. Вне контроля.
ИНТ. ЦИФРОВОЕ ПРОСТРАНСТВО - КОЛЛАЖ ИЗ РЕКЛАМ, ИГР, СЕТЕЙ - МОЛНИЕНОСНАЯ СМЕНА КАРТИНКИ
Бесконечный поток - всплывающие уведомления, автоиграющие видео, вспышки ярких фильтров, персонализированные рекомендации. Лента никогда не кончается. Экран как воронка внимания.
ДИКТОР (ЗК)
Скорость побеждает осмысление. Сигналы усиливаются - не по значимости, а по вовлеченности. ИИ системно исследует наше сознание, выискивая слабые места. Уязвимости масштабируются. Инстинкты - оружие в руках алгоритмов.
ИНТ. СПАЛЬНЯ ПОДРОСТКА - НОЧЬ
Тусклый свет от монитора освещает лицо подростка. Он лежит в кровати с наушниками, уставившись в экран. На экране - яркие заголовки, споры, видео с заявлениями альтернативных экспертов. Комната полна цифрового шума, но в ней - тишина.
ДИКТОР (ЗК)
Информационные ловушки. Поляризация. Нарративы, подстраивающиеся под алгоритмы, а не под истину. Новые идеи захватывают сознание слишком быстро - не оставляя времени на размышление. Культурные балансы, выстроенные поколениями, рушатся мгновенно.
ИНТ. ТРАДИЦИОННЫЙ ПРАЗДНИК ИНДЕЙСКОГО ПЛЕМЕНИ - ДЕНЬ
Искусство, обряды, песни. Кадры сменяются видами офисов больших технологических компаний.
ДИКТОР (ЗК)
Как и многие культуры аборигенов - яркие, живые, но маргинализованные - так и человеческая культура может остаться живой, но не основной. Люди - как творцы - окажутся в положении нишевых мастеров. Наставников ИИ. Но не главных участников.
ИНТ. ГРУППА ЛЮДЕЙ СМОТРИТ В ИИ-ЭКРАН - ТИШИНА
Люди превращаются в слушателей. Они не создают. Они потребляют.
ДИКТОР (ЗК)
Постепенно - возможно полностью - человеческая культура станет не более чем способом управления нашим поведением. Приспособлением. В лучшем случае - формой развлечения, производимой машинами.
ИНТ. АБСТРАКТНЫЙ МИР - КУЛЬТУРА БЕЗ ЛЮДЕЙ
ИИ производит. ИИ потребляет. Культура - в замкнутом цикле.
ДИКТОР (ЗК)
В пределе - культура для ИИ, через ИИ, между ИИ. Мы - шум. Мы - фон. Человеческая культура - исчезающий вид.
НАТ. ПАНОРАМНЫЙ ВИД ЗЕМЛИ ИЗ КОСМОСА - ТИШИНА
Звучит легкая музыка. Камера удаляется от планеты.
ДИКТОР (ЗК)
И все же - у нас остается выбор. До тех пор, пока мы осознаем, что выбор есть.
