В 2000 году группа компьютерщиков – ученых и инженеров – Технологического института Джорджии совместно работала над проектом под названием «Осведомленный дом (Aware Home)»[6]. Предполагалось, что это будет «живая лаборатория» для изучения «повсеместной компьютеризации». Они представили себе «симбиоз человека и дома», при котором многие одушевленные и неодушевленные процессы были бы охвачены сложной сетью «чувствительных к контексту датчиков», встроенных в дом, и носимых компьютеров, используемых его обитателями. Проект предусматривал «автоматическое беспроводное взаимодействие» между платформой, размещавшей личную информацию носимых устройств жильцов, и второй платформой, которая хранила информацию датчиков об окружающей среде.

Было сделано три рабочих допущения: во-первых, ученые и инженеры исходили из того, что новые системы данных создадут совершенно новую область знаний. Во-вторых, предполагалось, что права на эти новые знания и возможность использовать их для улучшения своей жизни будут принадлежать исключительно жильцам дома. В-третьих, команда предположила, что при всей его цифровой магии «Осведомленный дом» обретет свою жизнь в качестве современной инкарнации древних архетипов, согласно которым, для тех, кто живет в его стенах, «дом» становится святилищем.

Все это было отражено в инженерном плане. В нем особое значение придавалось доверию, простоте, суверенности личности и неприкосновенности дома как частной сферы. Информационная система «Осведомленного дома» представлялась в виде простой «замкнутой петли» с лишь двумя узлами, которая полностью контролировалась жильцами дома. Поскольку дом будет «постоянно следить за местонахождением и деятельностью жильцов… и даже отслеживать состояние здоровья своих жителей, – заключила команда, – необходимо, чтобы жильцы сами владели и распоряжались распространением этой информации». Вся информация должна была храниться на носимых компьютерах жильцов, «чтобы обеспечить конфиденциальность персональной информации людей».

К 2018 году мировой рынок «умных домов» оценивался в 36 миллиардов долларов; ожидалось, что к 2023 году он вырастет до 151 миллиарда[7]. За этими цифрами стоят тектонические сдвиги. Рассмотрим только одно устройство для умного дома: термостат Nest, изготовленный компанией, которая сначала принадлежала Alphabet, холдинговой компании Google, а затем, в 2018 году, была поглощена Google[8]. Термостат Nest делает многое из того, что предусматривалось в «Осведомленном доме». Он собирает данные о своем использовании и об окружающей среде. Он использует датчики движения и делает расчеты, изучая поведение жителей дома. Приложения Nest могут собирать данные из других подключенных продуктов: автомобили, печи, фитнес-трекеры и кровати[9]. Такие системы могут, например, включать свет при обнаружении аномального движения, управлять видео- и аудиозаписью и даже отправлять уведомления домовладельцам или другим лицам. В результате слияния с Google термостат, как и другие продукты Nest, получит встроенные возможности искусственного интеллекта Google, в том числе его персонального цифрового «помощника»[10]. Как и «Осведомленный дом», термостат и его собратья создают огромные новые пласты знания и, следовательно, новую власть, – но для кого?

С поддержкой Wi-Fi и подключением к интернету, сложные персонализированные массивы данных термостата загружаются на серверы Google. К каждому термостату прилагается «Политика конфиденциальности», «Пользовательское соглашение» и «Лицензионное соглашение с конечным пользователем». В них заложены серьезные негативные последствия для конфиденциальности и безопасности, при которых конфиденциальная домашняя и личная информация передается другим умным устройствам, не названным сотрудникам и третьим лицам для целей прогнозного анализа и продажи другим не указанным сторонам. Nest не несет почти никакой ответственности за сохранность собираемой информации и совершенно не отвечает за то, как будут использовать эти данные другие компании в его экосистеме[11]. Детальный анализ политики Nest, проведенный двумя учеными Лондонского университета, привел их к выводу, что для тех, кто пожелает войти в связанную с Nest экосистему подключенных к сети устройств и приложений, каждое из которых предлагает свои не менее обременительные и вызывающие условия, покупка единственного домашнего термостата повлечет за собой необходимость ознакомления с почти тысячей «соглашений»[12].

В случае отказа клиента принять требования Nest, согласно условиям обслуживания, функциональность и безопасность термостата будут серьезно скомпрометированы, поскольку прибор больше не будет получать необходимые обновления, предназначенные для обеспечения его надежности и безопасности. Последствия могут варьироваться от замерзания труб до отказа пожарной сигнализации или легкого взлома внутренней системы дома[13].

К 2018 году принципы, на которых строился «Осведомленный дом», были давно отброшены. Как это случилось? Кто был тому виной? «Осведомленный дом», как и многие другие опередившие время проекты, смотрел в цифровое будущее, которое расширяло человеческие возможности. Ключевым было то, что в 2000 году это видение будущего естественным образом предполагало твердую приверженность неприкосновенности личного опыта. Если человек решает перевести свой опыт в цифровой вид, то он должен обладать исключительным правом на знания, полученные из этих данных, а также исключительным правом решать, как эти знания могут быть использованы. Сегодня эти права на неприкосновенность частной жизни, на доступ к соответствующим данным и их использование узурпированы смелым рыночным предприятием, основанным на односторонних притязаниях на чужой опыт и вытекающие из него знания. Что эта смена эпох означает для нас, для наших детей, для наших демократий и для самой возможности человеческого будущего в цифровом мире? Цель этой книги – ответить на эти вопросы. Она о том, как тускнеет цифровая мечта и как стремительно превращается в ненасытный и доселе неслыханный коммерческий проект, который я называю «надзорным капитализмом».

Надзорный капитализм в одностороннем порядке претендует на человеческий опыт как на бесплатное сырье для превращения его в данные о человеческом поведении. Хотя часть этих данных используется для улучшения продукта или услуги, остальное объявляется проприетарным поведенческим излишком, передается передовым производственным процессам, известным как «машинный интеллект», и перерабатывается в прогнозные продукты, предсказывающие, что вы сделаете прямо сейчас, в ближайшем или более отдаленном будущем. В итоге эти прогнозные продукты торгуются на новом типе рынков – рынках поведенческих прогнозов, которые я называю рынками поведенческих фьючерсов. Надзорные капиталисты сказочно разбогатели на этих торговых операциях, поскольку многие компании горят желанием сделать ставку на наше будущее поведение.

Как мы увидим в следующих главах, конкурентная динамика этих новых рынков побуждает надзорных капиталистов прибирать к рукам такие источники поведенческого излишка, которые позволяют все более и более надежно предсказывать поведение: наши голоса, личности и эмоции. В конце концов надзорные капиталисты обнаружили, что наиболее ценные с точки зрения предсказания поведенческие данные поступают в том случае, если вмешаться в ход игры – подтолкнуть, уговорить, подстроить и направить поведение в сторону, которая принесет прибыль. Конкурентное давление привело к сдвигам,