Технологический Вызов 4 страница

 Очевидно, что алгоритмы не обладают сознанием, а потому, в отличие от потребителей из числа людей, не способны насладиться покупкой, и на их решения не влияют чувства и эмоции. Поисковый алгоритм Google не может ощутить вкус мороженого. Тем не менее алгоритмы делают выбор на основе вычислений и встроенных предпочтений, и эти предпочтения все заметнее влияют на нашу жизнь. В том, что касается ранжирования веб‑страниц поставщиков мороженого, у поискового алгоритма Google весьма утонченный вкус, и самым успешным продавцом мороженого в мире будет та компания, которую Google поставит на первое место, а вовсе не та, что производит самое вкусное мороженое.

 Я знаю это по своему опыту. Когда я публикую книгу, издатели просят меня приложить краткое описание, которое они будут использовать для рекламы в интернете. Но у них есть эксперт, который адаптирует мой текст для соответствия предпочтениям алгоритма Google. Этот человек внимательно читает то, что я написал, и говорит: «Не используйте это слово – замените его вот тем. Так у нас будет больше шансов привлечь внимание поискового алгоритма». Мы знаем, что если сумеем попасть в поле зрения алгоритма, то о числе читателей беспокоиться не придется.

 Но если люди не нужны ни в качестве производителей, ни в качестве потребителей, как гарантировать их выживание и психологическое благополучие? Мы не имеем права ждать, пока кризис разразится в полную силу, чтобы потом начать искать ответы. Потом будет слишком поздно. Чтобы противостоять беспрецедентным технологическим и экономическим угрозам XXI века, нужно как можно быстрее создавать новые социальные и экономические модели. Эти модели должны быть направлены на защиту людей, а не профессий. Многие профессии скучны и монотонны, и сохранять их нет никакого смысла: едва ли кто‑то мечтает всю жизнь быть кассиром. Мы должны сосредоточиться на обеспечении базовых потребностей людей, на защите их социального статуса и самооценки.

 Одна из новых моделей, которая в последнее время привлекает все больше внимания, – это универсальный базовый доход (УБД). Концепция УБД предполагает, что государство взимает налоги с миллиардеров и корпораций, контролирующих алгоритмы и роботов, и тратит эти средства на выплату каждому человеку пособия, достаточного для удовлетворения базовых потребностей. Бедных это защитит от потери работы и разрушения экономических связей, а богатых – от нападок популистов[32].

 Похожая теория предлагает расширить круг занятий, относимых к «труду». Сегодня миллиарды родителей воспитывают детей, соседи помогают друг другу, граждане объединяются в общественные организации, но все это не считается работой. Возможно, нам следует переключить что‑то в своих головах и осознать, что воспитание ребенка – это, пожалуй, самая важная и трудная работа в мире. В этом случае нам не будет угрожать безработица, даже если компьютеры и роботы заменят всех водителей, банкиров и адвокатов. Резонный вопрос: кто будет оценивать этот труд и платить за него? Учитывая, что шестимесячные младенцы вряд ли будут платить жалованье своим матерям, эти расходы, по всей видимости, должно будет взять на себя государство. А поскольку нам хотелось бы, чтобы материнская зарплата покрывала базовые потребности семьи, в результате сложится система, мало чем отличающаяся от универсального базового дохода.

 Еще один вариант: государство субсидирует не базовый доход, а универсальные базовые услуги. Вместо того чтобы давать людям деньги, на которые они купят все необходимое, государство может обеспечить им бесплатное образование, здравоохранение, транспортные услуги и так далее. По сути, это коммунистическая утопия. Планы коммунистов, связанные с пролетарской революцией, давно устарели, но, может быть, нам следует двигаться к идеалам коммунизма другим путем?

 Никто точно не знает, что лучше: универсальный базовый доход (капиталистический рай) или универсальные базовые услуги (коммунистический рай). У обеих моделей есть свои преимущества и недостатки. Но независимо от того, какой рай кажется вам предпочтительным, главная проблема состоит в определении понятий «универсальный» и «базовый».

 

 Что значит «универсальный»?

 

Когда речь заходит об универсальном базовом обеспечении – в виде дохода или услуг, – обычно подразумевается государственное базовое обеспечение. До сих пор все инициативы по внедрению УБД ограничивались национальными или муниципальными рамками. В январе 2017 года в Финляндии начался двухлетний эксперимент, в ходе которого 2000 безработных финнов ежемесячно получали по 560 евро, независимо от того, удавалось им найти работу или нет. Похожие эксперименты проводятся в канадской провинции Онтарио, в итальянском городе Ливорно и в нескольких голландских городах[33]. (В 2016 году в Швейцарии прошел референдум о введении национального базового дохода, но граждане проголосовали против этого предложения)[34].

 Проблема с подобными государственными или муниципальными моделями заключается в том, что основные жертвы автоматизации чаще всего живут не в Финляндии, Онтарио, Ливорно или Амстердаме. Глобализация привела к тому, что население той или иной страны нередко полностью зависит от рынка сбыта в других странах, но автоматизация разрушает целые сегменты всемирной торговой сети – с катастрофическими последствиями для самых слабых ее участников. В XX веке развивающиеся страны, не имевшие природных ресурсов, развивали свою экономику главным образом за счет продажи дешевой и неквалифицированной рабочей силы. Сегодня миллионы граждан Бангладеш зарабатывают на жизнь тем, что шьют рубашки на продажу потребителям в США, а жители Бангалора трудятся в колл‑центрах, принимая жалобы американских покупателей[35].

 Однако с появлением искусственного интеллекта, роботов и 3D‑принтеров дешевый неквалифицированный труд становится ненужным. Вместо того чтобы шить рубашки в Дакке, а затем доставлять их в США через океан, проще купить в интернет‑магазине Amazon программу для 3D‑печати рубашки и изготовить ее в Нью‑Йорке. Магазины Zara и Prada на Пятой авеню сменятся центрами 3D‑печати в Бруклине, и многие американцы, вероятно, предпочтут печатать одежду дома. А вместо того чтобы звонить в клиентскую службу в Бангалоре с жалобой на поломку принтера, вы сможете обсудить неисправность с искусственным интеллектом в облачном сервисе Google (его акцент и тембр голоса будут настроены с учетом ваших предпочтений). Но у оставшихся без работы швей в Дакке и у операторов колл‑центров в Бангалоре не будет необходимого образования, чтобы сменить профессию и стать дизайнерами одежды или программистами. На что они будут жить?

 Если искусственный интеллект и 3D‑принтеры действительно вытеснят из сферы производства жителей Бангладеш и Бангалора, доход, который раньше получала Юго‑Восточная Азия, будет оседать на счетах нескольких технологических гигантов из Калифорнии. Вместо экономического роста и улучшения условий жизни во всем мире мы увидим концентрацию огромных богатств в высокотехнологичных хабах вроде Кремниевой долины и разорение многих развивающихся стран.

 Конечно, некоторые развивающиеся экономики, включая Индию и Бангладеш, смогут нарастить темпы и присоединиться к странам‑лидерам. Дети и внуки работников текстильных фабрик или операторов колл‑центров станут инженерами и предпринимателями, которые будут создавать собственные компьютеры и 3D‑принтеры, – но на это нужно время. А времени осталось мало. В прошлом дешевый неквалифицированный труд служил мостом через глобальную экономическую пропасть, и, даже если та или иная страна развивалась медленно, у нее оставалась надежда рано или поздно достичь приемлемого уровня жизни. Шаги в верном направлении были важнее скорости движения. Но теперь мост шатается и очень скоро может рухнуть. С теми, кто уже преодолел пропасть между дешевым трудом и высокотехнологичными отраслями, вероятно, все будет в порядке. Но отстающие так и останутся на другой стороне этой пропасти без каких бы то ни было шансов через нее перебраться. Что делать в ситуации, когда ваша дешевая неквалифицированная рабочая сила никому не нужна, а у вас нет ресурсов, чтобы создать качественную систему образования и обучить людей новым навыкам?[36]

 Какая судьба ждет отстающих? Возможно, американские избиратели не будут возражать против того, чтобы налоги Amazon и Google от их бизнеса в США пошли на пособия или бесплатные услуги оставшимся без работы шахтерам Пенсильвании или таксистам Нью‑Йорка. Но согласятся ли граждане США направить свои налоги на поддержку безработных в тех странах, которые президент Трамп назвал «вонючими дырами»[37]? С тем же успехом можно рассчитывать на то, что проблему решит Санта‑Клаус или пасхальный заяц.

 

 Что значит «базовый»?

 

Универсальное базовое обеспечение предназначено для удовлетворения базовых потребностей человека, но у нас нет общепринятого определения этого термина. С чисто биологической точки зрения человеку для выживания требуется 1500–2500 Ккал в день. Все, что превышает эту норму, можно считать роскошью. Однако каждая культура в истории человечества определила для себя дополнительные потребности, назвав их «базовыми», хотя они и выходили за пределы минимальной нормы. В средневековой Европе доступ к богослужениям в церкви считался важнее пищи – это была забота о бессмертной душе, а не о бренном теле. В современной Европе в число базовых человеческих потребностей входят достойное образование и услуги здравоохранения, а некоторые даже утверждают, что теперь для всех мужчин, женщин и детей жизненно необходим доступ в интернет. Если в 2050 году «объединенное мировое правительство» согласится обложить налогами Amazon, Baidu и Tencent, чтобы обеспечить базовую поддержку всем людям на земле – не только в Детройте, но и в Дакке, – какой смысл они будут вкладывать в слово «базовые»?

 Например, что должно включать базовое образование: обучение только чтению и письму или также программированию и игре на скрипке? Шесть лет начальной школы – или дальнейшие ступени, вплоть до докторантуры? А как насчет здравоохранения? Если к 2050 году достижения медицины позволят замедлить процессы старения и значительно продлить человеческую жизнь, будут эти услуги доступны всем 10 миллиардам жителей планеты – или только горстке миллиардеров? Если с помощью биотехнологий родители смогут совершенствовать детей, будет ли это относиться к базовым потребностям человека – или мы увидим расслоение человечества на разные биологические касты, когда у богатых суперлюдей появятся способности, намного превосходящие таланты бедных Homo sapiens?

 Независимо от того, что мы понимаем под базовыми человеческими потребностями, как только все получат возможность бесплатно их удовлетворять, базовое обеспечение станет восприниматься как норма, а жесткая социальная конкуренция и политическая борьба сместятся в сферу роскоши. Это будут, например, беспилотные автомобили, доступ к паркам виртуальной реальности или возможность совершенствовать свое тело с помощью биоинженерии. Однако если безработные массы будут отстранены от управления экономическими активами, трудно представить себе, как они смогут получить доступ к подобной роскоши. А значит, пропасть между богатыми (руководителями Tencent и акционерами Google) и бедными (теми, кто зависит от УБД) станет практически непреодолимой.

 Таким образом, даже если в 2050 году система универсального базового обеспечения позволит людям получать более качественные, чем сегодня, образовательные и медицинские услуги, недовольство всеобщим неравенством и отсутствием социальной мобильности не исчезнет. Люди будут считать, что система их обманывает, что правительство служит только сверхбогатым и что в будущем положение их самих и их детей только ухудшится[38].

  Homo sapiens просто не создан для удовлетворенности. Счастье человека зависит не столько от объективных условий, сколько от его ожиданий. Однако ожидания часто подстраиваются к обстоятельствам, в том числе к обстоятельствам других людей.

 Когда жизнь становится лучше, ожидания растут быстрее, и даже значительное улучшение условий может оставить нас такими же неудовлетворенными, как и прежде. Если цель универсального базового обеспечения – улучшение объективных условий жизни среднего человека к 2050 году, у такой стратегии неплохие шансы на успех. Но если цель – сделать так, чтобы люди были все более удовлетворены своей жизнью, а социальное неравенство уменьшалось, то из этого, скорее всего, ничего не выйдет.

 Для достижения этих целей универсальное базовое обеспечение должно быть дополнено осмысленной деятельностью, от спорта до религии. Возможно, самый успешный на сегодняшний день эксперимент по достижению удовлетворенности жизнью в обществе посттруда поставлен в Израиле. В этой стране около 50 % мужчин из числа ультраортодоксальных евреев не работают. Они посвящают жизнь изучению священных книг и исполнению религиозных обрядов. Но они и их семьи не голодают: отчасти потому, что работают их жены, отчасти благодаря щедрому государственному пособию и бесплатным услугам, покрывающим их базовые потребности. Это некий прообраз универсального базового обеспечения[39].

 Все исследования показывают, что, несмотря на бедность и отсутствие работы, ортодоксальные евреи неизменно демонстрируют более высокий по сравнению с другими слоями израильского общества уровень удовлетворенности жизнью. Причиной тому крепкие связи внутри общины, а также глубокий смысл, который они находят в изучении священных текстов и исполнении религиозных обрядов. В маленькой комнате, где еврейские мужчины обсуждают Талмуд, царит больше радости, подъема и внезапных озарений, чем в огромном цехе на текстильной фабрике, где не покладая рук трудятся рабочие. В глобальных исследованиях удовлетворенности жизнью Израиль обычно занимает верхние строчки – именно благодаря вкладу этих бедных и безработных людей[40].

 Светские израильтяне часто жалуются, что ультраортодоксы вносят недостаточный вклад в развитие общества и живут за счет тяжелого труда других. Светские израильтяне склонны считать образ жизни ультраортодоксов неприемлемым, особенно учитывая тот факт, что ультраортодоксальные семьи в среднем воспитывают семерых детей[41]. Рано или поздно государство больше не сможет материально обеспечивать такое число безработных, и ультраортодоксам придется пойти работать. Но вероятен и противоположный сценарий. По мере того как искусственный интеллект и роботы будут вытеснять людей с рынка труда, на ортодоксальных евреев начнут смотреть как на модель будущего, а не как на пережиток прошлого. Это не значит, что все станут ортодоксальными евреями и отправятся в иешивы изучать Талмуд. Просто поиски смысла жизни и единомышленников заменят людям поиск работы.

 Если мы сумеем соединить всеобщую экономическую безопасность с развитием общественной жизни и содержательной деятельностью, то передача работы алгоритмам может стать настоящим благословением. Но возможен и другой сценарий – потеря контроля над своей жизнью. Несмотря на опасность массовой безработицы, гораздо большее беспокойство должен вызывать переход власти от людей к алгоритмам, способный разрушить остатки веры в либеральную концепцию и открыть путь к появлению цифровых диктатур.

 

 

 3

 Свобода

  Алгоритмы следят за тобой

 

В либеральной концепции свобода человека считается наивысшей ценностью. Сторонники либерализма утверждают, что в конечном счете источником любой власти служит свободная воля отдельных людей, выраженная в их чувствах, желаниях и выборе. В политике либерализм полагается на мнение избирателя и поэтому поддерживает демократические выборы. В экономике либерализм руководствуется принципом «клиент всегда прав» и превозносит принципы свободного рынка. В частной жизни либерализм призывает человека прислушиваться к себе, быть честным с собой и следовать велению сердца – до тех пор, пока он не посягает на свободу других. Эта личная свобода закреплена в правах человека.

 Термин «либеральный» иногда используется в более узком смысле, как противоположность понятию «консервативный». Однако многие так называемые консерваторы тоже придерживаются принципов либерализма. Проверьте себя. Считаете ли вы, что люди должны выбирать правительство, а не слепо повиноваться монарху? Считаете ли вы, что люди должны сами выбирать себе профессию, а не оставаться в касте, к которой принадлежат по рождению? Считаете ли вы, что люди должны сами выбирать себе супруга, а не вступать в брак с тем, на кого указали родители? Если на все три вопроса вы ответили «да», примите мои поздравления: вы либерал.

 Примечательно, что такие иконы консерватизма, как Рональд Рейган и Маргарет Тэтчер, были убежденными защитниками не только экономических, но и личных свобод. В 1987 году в своем знаменитом интервью Тэтчер сказала: «Общества как такового не существует. Есть только живая ткань из мужчин и женщин… и качество нашей жизни будет зависеть от того, насколько каждый из нас готов за себя отвечать»[42].

 Наследники Тэтчер из партии консерваторов полностью согласны с лейбористами в том, что политическая власть проистекает из чувств, выбора и свободной воли отдельных избирателей. Когда Великобритания оказалась перед выбором, выходить из ЕС или нет, премьер‑министр Дэвид Кэмерон не обращался за ответом к королеве Елизавете II, архиепископу Кентерберийскому или к ученым мужам из Оксфорда и Кембриджа. Он даже не обращался к членам парламента. Премьер‑министр назначил референдум, и каждому британцу был задан вопрос: «Что вы чувствуете?»

 Вы возразите, что людей спрашивали: «Как вы думаете?», а не «Что вы чувствуете?» – но это распространенная ошибка восприятия. На референдумах и выборах исход всегда зависит от чувств людей, а не от их рациональных размышлений. Если бы демократия требовала рационального принятия решений, не было бы никакого резона давать людям равные избирательные права – или вообще хоть какие‑то избирательные права. Существует масса свидетельств того, что одни люди гораздо лучше информированы и более способны к рациональному мышлению, чем другие, особенно когда дело касается конкретных экономических и политических вопросов[43]. После референдума по Брекзиту выдающийся биолог Ричард Докинз высказал мнение, что подавляющее большинство британцев – включая его самого – не должны были голосовать на референдуме, поскольку не обладали необходимыми знаниями в области экономики и политики. «С тем же успехом можно организовать национальный плебисцит, чтобы решить, верны ли выкладки Эйнштейна, или позволить пассажирам голосовать, на какую полосу пилот должен посадить самолет»[44].

 Хорошо это или плохо, но выборы и референдумы выявляют не мысли, а чувства людей. А в том, что касается чувств, Эйнштейн и Докинз ничем не лучше любого другого человека. Демократия предполагает, что наши чувства отражают загадочную и глубокую «свободу воли», что эта «свобода воли» – главный источник власти и что, хотя некоторые люди умнее других, все они одинаково свободны. Неграмотная горничная обладает такой же свободой воли, как Эйнштейн и Докинз, и в день голосования ее чувства, выраженные в сделанном ею выборе, обладают таким же весом, как и чувства всех остальных.

 Чувствами руководствуются не только избиратели, но и политические лидеры. В 2016 году в процессе подготовки референдума по Брекзиту кампанию за выход из ЕС возглавляли Борис Джонсон и Майкл Гоув. После отставки Дэвида Кэмерона Гоув поначалу поддерживал кандидатуру Джонсона, но в последний момент заявил, что тот не подходит для должности премьер‑министра, и объявил о намерении самому бороться за этот пост. Действия Гоува, лишившие Джонсона шансов стать главой кабинета, были расценены как политическое убийство в стиле Макиавелли[45]. Но Гоув оправдывал свой поступок чувствами, объясняя: «Перед каждым шагом в своей политической жизни я задавал себе вопрос: „Как я должен поступить? Что мне подсказывает сердце?“»[46] Вот почему, если верить Гоуву, он так яростно сражался за Брекзит, а затем счел необходимым нанести удар в спину своему верному союзнику Борису Джонсону, чтобы самому претендовать на статус альфа‑самца: так подсказывало ему сердце.

 Возможно, именно эта зависимость от веления сердца – ахиллесова пята либеральной демократии. Если кто‑то (неважно, в Пекине или в Сан‑Франциско) получит технологическую возможность «проникать в человеческое сердце» и манипулировать им, демократическая политика превратится в театр эмоциональных марионеток.

 

 Прислушивайтесь к алгоритму

 

Либеральная вера в чувства и свободный выбор индивидов не являются ни естественными, ни древними. Тысячелетиями люди верили, что источник власти – божественные законы, а не человеческое сердце, а потому нужно благословлять слово Божие, а не свободу человека. Только в последние несколько веков источник власти переместился от богов, обитающих на небесах, к людям из плоти и крови.

 Вскоре мы снова можем стать свидетелями передачи власти – но уже от людей к алгоритмам. Точно так же, как легитимацией божественной власти служила религиозная мифология, а власти людей – либеральная концепция, грядущая технологическая революция утвердит власть алгоритмов Big Data, подорвав саму идею индивидуальной свободы.

 Как я уже отмечал в предыдущей главе, научные исследования функционирования нашего мозга и тела указывают на то, что чувства не являются уникальным духовным качеством человека и следствием «свободы воли». Скорее чувства представляют собой биохимические механизмы, которые используют все млекопитающие и птицы для быстрого вычисления шансов на выживание и продолжение рода. Чувства основаны не на интуиции, вдохновении или свободе – в их основе лежат вычисления.

 Когда обезьяна, мышь или человек видит змею, чувство страха возникает из‑за того, что миллионы нейронов в мозгу быстро обрабатывают соответствующие данные и приходят к заключению, что вероятность гибели велика. Чувство полового влечения возникает тогда, когда другие биохимические алгоритмы вычисляют, что находящийся рядом индивид обещает высокую вероятность успешного партнерства, социальных связей или какую‑либо другую желанную цель. Нравственные чувства, такие как негодование, вина или прощение, обусловлены нейронными механизмами, отвечающими за групповое сотрудничество. Все эти биохимические алгоритмы совершенствовались миллионами лет эволюции. Если чувства одного из наших древних предков приводили к фатальной ошибке, то гены, сформировавшие эти чувства, не передавались следующему поколению. Таким образом, чувства не противоположны рациональности – они суть воплощение эволюционной рациональности.

 Нам непросто осознать, что наши чувства представляют собой результат вычислений, поскольку быстрый вычислительный процесс протекает далеко за порогом нашего сознания. Мы не ощущаем, как миллионы нейронов мозга просчитывают вероятности выживания и продолжения рода, и поэтому ошибочно полагаем, что боязнь змей, выбор полового партнера или отношение к Евросоюзу определяются некой таинственной «свободой воли».

 Теоретики либерализма ошибаются, полагая, что наши чувства отражают свободу воли, однако вплоть до недавнего времени руководствоваться чувствами было вполне разумно. В наших чувствах нет никакой магии, и все же именно они лучше всего помогают понять, чему нам учиться, на ком жениться, за какую партию голосовать. Никакая внешняя по отношению ко мне система никогда не поймет мои чувства лучше, чем я сам. Даже если бы испанская инквизиция или советский КГБ следили за мной каждую минуту каждого дня, у них не хватило бы биологических знаний и вычислительных мощностей, чтобы вмешаться в процессы, определяющие мои желания и мой выбор. С практической точки зрения было разумно считать, что мы обладаем свободой воли, потому что наша воля определяется в основном взаимодействием внутренних сил, невидимых снаружи. Я могу наслаждаться иллюзией контроля над своим внутренним миром, тогда как внешние наблюдатели никогда не поймут, что происходит у меня в мозгу и как я принимаю решения.

 Так что либералы правы, когда советуют людям поступать по велению сердца, а не подчиняться диктату священника или партийного аппаратчика. Но по мере того как на место испанской инквизиции и КГБ будут заступать Google и Baidu, «свобода воли», скорее всего, превратится в миф, и тогда либерализм может лишиться своих практических преимуществ.

 На наших глазах происходит слияние двух масштабных революций. Биологи проникают в тайны человеческого тела, мозга и чувств. Одновременно специалисты в области вычислительных систем открывают беспрецедентные возможности обработки данных. Когда биотехнологическая революция сольется с революцией в ИТ, появятся алгоритмы Big Data, способные следить за нашими чувствами и понимать их гораздо лучше, чем мы. И тогда власть перейдет от людей к компьютерам. Иллюзия свободы воли, скорее всего, развеется, если я каждый день буду сталкиваться с институтами, корпорациями и госучреждениями, которые манипулируют тем, что я до недавних пор считал своим внутренним миром, недоступным для других.

 Для краткости воспользуемся следующей формулой:

  б × в × д = ввч, где

 б – биологическое знание,

 в – вычислительная мощность,

 д – объем данных.

 Их произведение – ввч – возможность взломать человека.

 

Мы уже видим, как это работает в медицине. Самые важные медицинские решения опираются не на наше самочувствие, и даже не на компетентные прогнозы врача, а на вычисления компьютера, который понимает наше тело лучше, чем мы. Через несколько десятилетий алгоритмы больших данных, обрабатывающие непрерывный поток биометрической информации, смогут следить за нашим здоровьем ежедневно, 24 часа в сутки. Они выявят грипп, рак или болезнь Альцгеймера на самой ранней стадии – задолго до того, как мы почувствуем, что с нами что‑то не так. Затем они порекомендуют необходимое лечение, диету и режим, разработанные с учетом наших физических данных, ДНК и особенностей личности.

 Люди получат лучшее здравоохранение в истории, но именно поэтому они, вероятно, будут постоянно болеть. В нашем организме всегда есть неполадки и всегда есть что улучшить. В прошлом человек ощущал себя совершенно здоровым, пока не чувствовал боль или не начинал страдать от нарушения каких‑то функций, например от хромоты. Но к 2050 году благодаря биометрическим датчикам и алгоритмам больших данных болезни будут диагностироваться и лечиться задолго до появления боли или нарушения функций. В результате вы всегда будете считаться «больным» и выполнять те или иные рекомендации алгоритма. А отказавшись лечиться, вы можете лишиться страховки или даже работы – зачем работодателю платить за ваше упрямство?

 Одно дело – не отказываться от сигарет, несмотря на статистические данные, связывающие курение с раком легких. Совсем другое – продолжать курить, вопреки категорическому предупреждению биометрического датчика, который обнаружил в верхней доле левого легкого 17 раковых клеток. А если вы решите проигнорировать предупреждение, что будет, когда датчик сообщит информацию вашей страховой фирме, вашему начальнику и вашей матери?

 Но где взять время и силы, чтобы бороться со всеми этими болезнями? Скорее всего, мы научимся так программировать следящий за нашим здоровьем алгоритм, чтобы он сам справлялся с большинством выявленных проблем. В идеале он будет периодически слать отчеты нам на смартфон, сообщая, что «обнаружены и уничтожены 17 раковых клеток». Ипохондрики, конечно, расстроятся, но большинство людей просто проигнорируют эти сообщения точно так же, как сегодня мы игнорируем сообщения антивирусной программы на компьютере.

 

 Драматизм принятия решений

 

То, что уже происходит в медицине, по всей видимости, будет распространяться и на другие сферы человеческой деятельности. Главное изобретение – биометрический датчик на поверхности или внутри тела, который преобразует биологические процессы в электронную информацию для компьютерной обработки и хранения. Достаточное количество информации и достаточная вычислительная мощность позволят внешним системам обработки данных вызнать все о ваших желаниях, решениях и мнениях. Они смогут точно определить, кто вы.

 Большинство людей плохо себя знает. Я сам только в 21 год, после нескольких лет отрицания, наконец понял, что я гей. И мой случай не исключение. В подростковом возрасте многие геи сомневаются в своей сексуальной ориентации. Теперь представьте себе ситуацию: в 2050 году алгоритм точно подскажет подростку, в какой части спектра ориентации (гомосексуальной или гетеросексуальной) он находится и насколько гибка эта позиция. Возможно, алгоритм покажет вам фотографии или видео привлекательных мужчин и женщин, проследит за движением ваших глаз, кровяным давлением и активностью мозга, и уже через пять минут определит ваше положение на шкале Кинси[47]. Подобное изобретение могло бы избавить меня от нескольких лет фрустрации. Возможно, сами вы не испытываете желания проходить такой тест, но однажды на чьем‑нибудь дне рождения кто‑то из друзей предложит всем проверить себя с помощью нового крутого алгоритма (а все остальные будут стоять и смотреть, комментируя результаты). Вы откажетесь и уйдете?

 Но даже если вы скрываете свою сексуальную ориентацию от себя и друзей, у вас не получится скрыть ее от Amazon, Alibaba или тайной полиции. Пока вы бродите по интернету, смотрите YouTube или листаете социальные сети, алгоритмы будут внимательно следить за вами, изучать вас и сообщать компании Coca‑Cola, что, если она хочет продавать вам свои напитки, ей лучше использовать рекламу с полуобнаженным парнем, а не с полуобнаженной девушкой. Сами вы об этом даже не узнаете. Но они – будут знать, и ценность такой информации будет исчисляться миллиардами.