Как создать более ответственное цифровое будущее
Мир трясёт от революционных технологических перемен. Разнообразные инновации — аналитика больших данных, искусственный интеллект, роботизация, интернет вещей, блокчейн, трёхмерная печать, виртуальная реальность — радикально меняют общество и экономику. Даже по отдельности каждая из этих технологий потенциально способна полностью преобразить существующие товары, услуги и связанные с ними сети поддержки. Но вместе они просто перевернут все старые бизнес-модели и институты, открывая новую эру в экономической, социальной и политической истории. Как мы ответим на это? Крупные экономические преобразования обычно приводят к глубоким переменам. Во время первой Промышленной революции — в XVIII и XIX веках — новые промышленные процессы постепенно привели к колоссальному росту благосостояния человечества. Повысилась производительность, а вместе с ней зарплаты и жизненные стандарты. Но в начале этого процесса механизация приводила и к негативным последствиям, таким как безработица, детский труд, ухудшение экологической обстановки. Социальный и политический эффект цифровой революции может оказаться даже более радикальным. Могут начаться войны и революции, а такие общественные ценности, как права человека и гражданские свободы, могут оказаться забыты. В недавней статье, опубликованной в Scientific American, я и мои коллеги отмечаем, что, чем больше компьютеры знают о нас, «тем меньше вероятность, что наш выбор будет свободным и не предопределённым кем-то другим», поскольку информационное самоопределение становится невозможным. К счастью, потеря индивидуальной автономности не является неизбежной. Мы можем создать более ответственное цифровое будущее. Но мы должны приступить к его созданию немедленно. Для успеха потребуется общественная дискуссия, цифровое просвещение и эмансипация, а также более широкое осознание рисков технологий. Иными словами, огромный переход, который нам предстоит сделать, не под силу отдельной стране или организации. У нас у всех на кону стоит нечто общее — наше будущее. Есть очевидные риски, если мы позволим быть мотором перемен одному лишь техническому прогрессу. В 2008 году редактор журнала Wired Крис Андерсон предположил, что большие данные (big data) со временем помогут раскрыть все истины, и никакой науки или теории больше не потребуется. Этого явно не произошло. Получив больше данных в своё распоряжение, учёные находят всё больше тенденций для изучения; и нужна наука, чтобы решить, какие из них являются значимыми, а какие ведут в никуда. Ожидания, будто искусственный интеллект (ИИ) позволит устранить человеческие слабости, например, предвзятость и предубеждения, тоже оказались неоправданными. Сегодня многие системы ИИ дискриминируют людей, и ими даже можно манипулировать. Другие прогнозы по поводу нового «цифрового общества» оказались в равной степени необоснованными. Так называемые «умные города», в которых городская жизнь автоматизирована, пока что совсем не оправдывают ожидания. И это происходит потому, что города — это не просто гигантская производственная цепочка; они являются также пространством для экспериментов, креативности, инноваций, обучения и взаимодействия. Наконец, хотя «платформенная экономика», с её опорой на интернет, компьютеры и данные, и привела к расцвету некоторых наиболее дорогостоящих компаний мира, она также превращает многих граждан в пассивных потребителей. Ирония сверхподключённости в том, что люди стали меньше разбираться не только в товарах, которые они покупают, но и в информации, которую они потребляют. И действительно, именно «экономика внимания» породила «фейковые новости». Проще говоря, наша цифровая утопия не станет реальностью без дополнительной помощи. Нам нужен более этический подход к инженерным технологиям. Такой подход будет внедрять конституционные, культурные и моральные нормы и ценности в искусственные и автономные системы. «Этически ориентированные» и «чувствительные к принципам» подходы к проектированию необходимо применять во всех аспектах разработки технологий — от «умных устройств» до программного обеспечения, поддерживающего работу наших правительств и рынков. Например, для сохранения жизнеспособности демократии в качестве политической модели информационные системы, которыми пользуются демократические правительства, должны создаваться так, чтобы они поддерживали права человека, достоинство, самоопределение, плюрализм, распределение ответственности, прозрачность, равенство условий и справедливость. Для достижения такого демократического цифрового будущего миру нужно изменить своё восприятие технологий. Нам нужны открытые, инклюзивные информационные экосистемы, дающие возможность каждому в глобальной экономике вносить свой вклад идеями, талантом и ресурсами. В связанном сетями мире всё, что мы делаем, влияет на других, поэтому мы должны учиться думать не только о себе и стремиться к сотрудничеству, к совместному созиданию, совместной эволюции и коллективному разуму. Если мы сможем развиваться таким образом, тогда Четвёртая промышленная революция станет более инклюзивной, чем первая. Это именно то будущее, к которому стремятся мои коллеги и я. Например, в Дельфтском университете технологий в Нидерландах мы создаём социально ответственные коммуникационные сети и системы городского управления, а инициатива FuturICT (это международная сеть исследователей) применяет мультидисциплинарный подход к разработке технологий. Цель обоих исследовательских проектов — способствовать более равноправному цифровому будущему. У нас есть возможность создавать технологии, которые будут нам служить, а не порабощать нас. Но строительство такого будущего потребует нового цифрового zeitgeist («духа времени»), в котором социальные, культурные, экологические и этические принципы станут частью процесса проектирования. Инновации и революции нередко бывают огорчающими и беспорядочными, но в цифровую эпоху они могут быть ещё и ответственными.
