2020-е могут оказаться переломным десятилетием для отношений человека и техники. Пандемия открыла новые возможности для слежки и контроля, но одновременно легитимизировала дистанционное общение и работу. ChatGPT — это новый уровень взаимодействия с искусственным интеллектом. Дроны и беспилотники — главное оружие современной войны. Человек, может быть, все еще звучит гордо, но уже недостаточно. Что дальше? По просьбе «Холода» журналист и социолог Денис Куренов поговорил об этом с социологом, автором книги «Техника, или Обаяние прогресса» Виктором Вахштайном.
Чтобы не пропускать главные материалы «Холода», подпишитесь на наш инстаграм и телеграм.
Вы написали книгу «Техника, или Обаяние прогресса», в которой «вопрос о технике» рассматривается с точки зрения социологии. Вам не кажется, что сегодня это самое «обаяние прогресса» сменилось страхом перед ним?
— Это старый вопрос. От чего зависит наше коллективное восприятие какой-то конкретной технологии? От самой технологии? Или от сложившихся рамок восприятия, предрассудков, убеждений? Это два разных направления поиска.
В первом случае мы говорим: есть технологические инновации, которые сильнее связаны с механикой культурного воображения. Вряд ли где-то существует церковь непогрешимого убера или конгрегация мучеников святого эппл пэя. А вот церковь искусственного интеллекта инженер Энтони Левандовски зарегистрировал еще в 2015 году. Одни технологии запускают эту механику — обожествления, осквернения, эсхатологических надежд и страхов, другие — нет.
А какое второе направление поиска?
— Другое решение — сказать, что дело вообще не в технологиях. А в конкретных социальных группах и в их коллективных представлениях о мире. В начале XIX века зарождается класс будущей инженерно-технической интеллигенции, а вместе с ним — мировоззрение либерального прогрессизма. Доктор Эндрю Юр (которого Маркс в «Капитале» называет «Пиндаром автоматической фабрики») немедленно сакрализует паровую машину как основание нового — более справедливого — социального порядка.
До недавнего времени в США было распространено сочетание политического оптимизма и технологического пессимизма. Респонденты в опросах Pew Research Center говорили: «За техническим прогрессом стоят жадные корпорации, которые посредством роботов пытаются лишить нас работы. И задача демократии как системы политической защиты прав людей — оградить нас от этих человеконенавистнических поползновений». Билл Гейтс тогда вышел с предложением обложить труд роботов дополнительными налогами. В Европе в тот же период шли ожесточенные дебаты о базовом безусловном доходе.
В России же, напротив, торжествовало прямо противоположное сочетание технологического оптимизма и политического пессимизма. Технический прогресс воспринимался как то, что оградит людей от всевластия государства и исправит изъяны политической системы: «Роботы спасут этот мир, если политики не погубят его раньше». В робота-судью верили не потому, что обожествляли технический прогресс (вовсе нет), а потому, что не доверяли российским судам.
Впрочем, потом случилась пандемия, и из антонима государства техника превратилась в его синоним. Тогда технооптимизм в России резко пошел на убыль. А затем… А затем мы не знаем: исследования закончились.
Пандемия показала: какие бы жадные корпорации ни стояли за техническим прогрессом, им вполне себе может пользоваться и государство. Это повлияло на то, что к технологическому пессимизму добавился еще и пессимизм политический?
— Зависит от страны. В США споры о технике куда больше связаны со страхом потери работы, чем со страхом политического вмешательства в личную жизнь. Но это отдельная тема. Тут важно помнить, что в социологической перспективе пандемия вовсе не была единым событием. Исследователей техники в ней интересуют прежде всего три компонента: карантин и технологизация государственного контроля; вакцинация и публичные дебаты ее сторонников и противников; изменение моделей повседневной коммуникации (прежде всего переход на удаленку).
В разных странах карантинные меры сильно различались по своей жесткости. Однако почти везде они сопровождались использованием новых технических средств: от обязательной установки приложений и введения электронных пропусков до систем распознавания лиц нарушителей и патрулирования пустующих улиц беспилотниками.
Хотя в России карантин не был ни самым продолжительным, ни самым жестким, масштабное использование новых технологий стало одной из причин падения традиционно высокого уровня технооптимизма. Образ справедливого робота-судьи будущего стремительно уступил место дистопичному образу «электронного концлагеря». За несколько лет до пандемии российские разработчики нейроинтерфейсов поделились частушкой: «Мы придумали ошейник нейроэлектронный. Пой, пляши, веселись, политзаключенный». В пандемию — да и после нее — восприятие взаимосвязи техники и политики стало довольно точно описываться этой рифмой «электронного» и «заключенного». В России появилась новая устойчивая связка технологического пессимизма и политического пессимизма.
В первую очередь это было связано с вакцинацией?
— Вакцинация, наверное, самая избитая тема. В европейских данных мы видим внятную корреляцию: люди, верящие в технический прогресс и убежденные в целительной силе инноваций, становятся горячими сторонниками вакцинации. Технофобы и техноконсерваторы куда скептичнее. Это не новый феномен. Еще во время эпидемии черной оспы в Монреале в 1885 году город поделился на две части: католики, франкофоны, технофобы с одной стороны, с другой — протестанты, англофоны, технооптимисты. Закончилось все карантинными бунтами, нападением на врачей и вводом войск. У нас ничего подобного не наблюдалось. Ключевую роль в восприятии вакцинации сыграло не отношение к науке и технике, а отношение к российской медицине. Даже самые радикальные технооптимисты с подозрением отнеслись к «Спутнику».
Наконец, удаленка и «пандемия зума». Это, пожалуй, самое интересное направление. Мы стали свидетелями радикальной технологической мутации повседневных практик. В отличие от яростных споров о вакцинации, которые вспыхивали так же стремительно, как и угасали, зум — и другие средства удаленной коммуникации — вошел в нашу жизнь незаметно и надолго. Какими будут долгосрочные эффекты этой тихой революции — посмотрим.
24 февраля тема пандемии отошла как минимум на второй план. Если говорить о технике в связи с современной войной, то какие сюжеты вам как социологу кажутся самыми важными?
— Проблема здесь не в том, что одно событие затмило другое, вытеснив его из информационной повестки. Череда событий — не лента новостей. Пандемия была чем-то вроде репетиции войны: беспрецедентные по своим масштабам меры биополитики, отказ от договоров, торговля страхом, взаимная изоляция как на государственном, так и на индивидуальном уровне. Плюс к этому пандемия изменила набор коллективных представлений о том, что вообще возможно. А когда большие массы людей на собственном опыте убеждаются в возможности невозможного, следует ожидать еще более невозможного.
Но социолог техники из всего этого глобального потока безумия выделяет только те переменные, которые кажутся ему релевантными. Например, информационные технологии: как они меняют восприятие войны? До середины XIX века репортажи с места боевых действий доставлялись в имперские столицы с большим опозданием. Были они пространными, пафосными и духоподъемными, так что их и репортажами-то назвать было сложно. Но в 1854 году в Крыму оказался корреспондент «Таймс» Уильям Рассел. Он по достоинству оценил новое чудо техники — телеграф. Заметки Рассела об эпидемии холеры среди британских солдат, о плохом снабжении, некомпетентности командования, тяжелых потерях публиковались практически каждый день.
Средства передачи информации имеют свои технические ограничения. Вы не можете послать телеграфом развернутый духоподъемный очерк. А вот написать «Вчера из-за ошибки командования атака легкой кавалерии под Балаклавой провалилась, бригада графа Кардигана практически уничтожена, погибло 409 человек» — можете. Телеграфный стиль репортажа легко пробивал броню викторианской сдержанности — лондонское общество бурлило, как ирландское рагу, депутат Робак требовал немедленного парламентского расследования, премьер-министру Абердину пришлось уйти в отставку. Прочитав очередной репортаж в «Таймс», почтенные отцы семейств облачались в траур и начинали ждать похоронок. Которые приходили лишь через месяц.
Что могла королева Виктория противопоставить этому телеграфному натиску? На фронт отправили королевского фотографа Роджера Фентона. Тот купил у виноторговца старую повозку, оборудовал в ней спальню и фотолабораторию, нанял ассистента, запасся химикатами и двинулся под Севастополь. Средства фиксации визуальной информации тоже имеют свои технические ограничения. Фентон не мог фотографировать движущиеся объекты, так что никакой бури и натиска, никаких яростных атак. Только размеренный военный быт: походная кухня, маркитантка, привал у костра… Поле под Балаклавой — уже прославленная Расселом и Теннисоном «Долина смерти» — сфотографировано как ландшафтный парк. Уже позднее выяснится, что Фентон снял совсем другую долину, более живописную, предварительно попросив накидать перед камерой пушечных ядер для антуража. Крымская война была первой современной войной. Не в плане оружия, а в плане распространения информации и ее использования.
Сегодня вместо телеграфа — телеграм?
— Да. Ракета попадает в жилой дом, трупы на улицах, вы все это видите на своем экране в тот же день — записи с камер телефонов и видеорегистраторов становятся основными материалами для репортажей и постов в социальных сетях. Никакие меры военной цензуры, никакие законы о борьбе с фейками не работают в такой ситуации. Требуется иметь невероятно дрессированный мозг, чтобы убедить себя: «Вот это все неправда, а правда — она на Первом канале». И тогда пропагандистская машина выбирает стратегию коллективного газлайтинга: вы все живете в вымышленном мире, все, что вы видите, на самом деле срежиссировано, вы не можете доверять своим глазам, только официальной версии событий.
Как современную войну изменили дроны?
— Дроны — еще один вызов социологической теории. Вообще, в использовании таких дистанционных средств нет ничего нового. Еще в 1964 году американский инженер Джон Кларк придумал термин «телехирия» (от греческих слов «даль» и «рука»), чтобы анализировать возможности и последствия действий на расстоянии. И хотя войну в Украине иногда называют «первой войной дронов», это не совсем так: дроны использовались в Ираке, Афганистане, Ливии, Израиле. Особенно масштабно — в последней карабахской войне.
Тогда почему именно о дронах мы говорим как об основной «инновации» войны в Украине?
— Есть два параметра: дистанция и плотность контакта. Под плотностью контакта социологи понимают обычно физическую вовлеченность в ситуацию (философы иногда называют ее «полнотой присутствия» или «сцеплением»). Если два человека сражаются на мечах, мы можем говорить о малой дистанции и максимальной плотности контакта между ними. Когда оператор ведет залповый огонь по городу, находящемуся от него на расстоянии 30 километров, — это минимальная плотность контакта и большая удаленность. Но теперь появились дроны, телехирические устройства. Операторы действуют на максимальной дистанции и с большой полнотой присутствия. Они чуть больше «там», чем «здесь». Стрелок может разглядеть множество деталей обстановки, оставаясь в безопасности. Это не просто иной способ ведения войны. Это радикальное изменение опыта действия.
Во второй половине ХХ века бытовало представление о том, что основной вектор эволюции вооружений — увеличение дистанции поражения и ослабление сцепления, рост числа жертв и, как следствие, их деперсонификация. Гуманистический пафос критиков холодной войны был связан во многом именно с требованием увеличения плотности контакта: «Известно, что президента постоянно сопровождает молодой человек, как правило, морской офицер, — писал профессор международного права Роджер Фишер. — Он повсюду носит за президентом так называемый ядерный чемоданчик — атташе-кейс, содержащий шифры, необходимые для приведения в действие ядерного оружия. Я живо представляю себе такую картину: президент в окружении генералитета обсуждает ядерную войну как отвлеченную, абстрактную проблему. Возможно, его заключительные слова прозвучат так: “В соответствии с планом SIOP №1 решение положительное. Передайте по линии Альфа XYZ”. Подобный жаргон делает то, что должно произойти вслед за этим, очень далеким, а потому и труднопредставимым. Решение, которое я хочу предложить, очень простое: поместить этот необходимый код в маленькую капсулу и имплантировать ее в тело того, кто изъявит согласие, возле самого сердца. Этот доброволец будет повсюду сопровождать президента, имея при себе большой и тяжелый нож, такой, какими пользуются мясники. И если когда-нибудь президент решит начать ядерную войну, ему сначала придется собственноручно убить одно живое существо. “Джордж, — скажет президент, — мне очень жаль, но десятки миллионов должны погибнуть”. И президенту придется посмотреть на него и осознать, что такое смерть. Кровь на ковре Белого дома: это реальность, которая пришла и сюда».
В ходе операции «Рассвет», проведенной израильской армией в секторе Газа в августе 2022 года, распространилось видео ракетного удара, скоординированного оператором дрона. Человек в белой футболке на смотровой вышке говорит по телефону. Через несколько секунд ударит ракета, но не по вышке в целом, а непосредственно по человеку в футболке. Профессор Фишер явно не так представлял себе войны будущего.
А не дошли ли мы до того, что осуществление подобных операций уже возможно и без человека? Допустим, есть у нас самообучающийся дрон, который сам себе ставит цели и уничтожает их. После этого он пишет отчет о выполненном задании, где объясняет, почему выбрал именно эту цель и решил уничтожить ее таким-то способом. Чем тогда с социологической точки зрения этот AI-оператор отличается от человека?
— То, о чем вы спрашиваете, в социологии техники называется «проблемой авторизации». Что позволяет назвать какую-то активность человека «действием»? То, что оно подсудно. Вам можно вменить за него ответственность; именно вы, а не обстоятельства, являетесь подлинной причиной наступления некоторого события. Между причиной и следствием, стимулом и реакцией должен быть зазор (философы права называли его «шпильраум»).
Из каких операций состоит действие?
— Во-первых, оценка ситуации. Вы прикидываете, где сейчас меньше пробок, где будет дешевле купить нужную вещь, сколько времени потребуется на это интервью. Такие «прикидки» мы называем фреймингом.
Во-вторых, определение альтернатив и выбор одной из них. Можно поехать так или так, купить там или там. Это операция принятия решения.
В-третьих, реализация. Когда решение принято, все только начинается. Его еще нужно воплотить в жизнь (модифицируя по ходу появления непредвиденных обстоятельств).
Простой пример — шахматные программы. Они оценивают ситуацию на доске, принимают решение и делают ход. Потому что для хода им не требуется совершения физических действий. Как и, например, электронным трейдерам, торгующим на бирже. Навигатор выполняет только две операции из трех: оценивает ситуацию на дороге и прокладывает оптимальный маршрут. Беспилотный автомобиль уже ближе к шахматным программам и электронным трейдерам: ему делегированы не только фрейминг и принятие решения, но и его реализация.
В сложных алгоритмических объектах, которые сегодня уже чуть больше субъекты, чем объекты, выделяют три элемента: сенсор, алгоритм и актуатор. Актуатор — это как раз то, что позволяет реализовать решение без участия человека. И самая ожидаемая революция будущего — это революция актуаторов. Переход от больших данных к действующим данным. Почему же она пока не произошла? Нет, не из-за технических ограничений. Из-за этических. Человек все еще должен санкционировать, авторизовать совершение действия. В случае с дронами — выстрела.
Все еще?
— Да, хотя в последние годы мы видим тектонические сдвиги в вопросе авторизации. Например, в марте 2021-го вышел доклад Совета безопасности ООН об использовании турецких беспилотников Kargu-2 в Ливии. Зафиксированные в докладе атаки отличались от множества других аналогичных ударов с воздуха тем, что дроны-камикадзе не управлялись с земли, не получали авторизующих санкций от операторов и, выбирая цели из числа повстанцев, полностью полагались на свои алгоритмы.
Главный барьер на пути авторизации — неспособность алгоритмического объекта «объясниться», дать моральное оправдание принятого решения. Это четвертая операция: нельзя судить того, кто «не отдает себе отчета» в содеянном. Он невменяем в прямом смысле слова: ему нечего вменить. Технические субъекты сегодня (от беспилотника до электронного трейдера) — это безумцы.
Что, если удастся решить проблему авторизации? И дрон, как в рассказе Пелевина, сможет представить на суд общественности убедительное обоснование каждого принятого и реализованного решения? Более того, это обоснование будет воспринято как легитимное людьми? Представьте: беспилотный автомобиль, реагируя на опасную дорожную ситуацию, выезжает на встречную полосу. Это фиксируют камеры, алгоритм принимает решение, актуатор выписывает штраф. Беспилотный автомобиль, оснащенный приложением «Робот-юрист», оспаривает штраф, приводя убедительные доказательства: объезд по встречной полосе в сложившейся ситуации был необходимым и вынужденным. Робот-судья принимает сторону беспилотника и аннулирует штраф. Вся эта цепочка действий разворачивается за считаные секунды без участия владельца автомобиля.
Приблизило ли появление ChatGPT4 возможность решить проблему авторизации?
— Да, конечно, появление новых «достоверных агентов» вполне может приблизить нас к решению проблемы авторизации. Тут главное — отделить реальные социальные изменения, которые порождает новая технология, от наших полуаборигенских страхов и восторгов, о которых мы с вами говорили в начале интервью.
