Угроза ИИ для открытых обществ

Новые инструменты контроля

В эпоху популистского национализма открытые общества испытывают все большее напряжение. Но угроза атавистических идеологических движений меркнет по сравнению с угрозой, которую представляют мощные новые технологии в руках авторитарных деятелей.

Я хочу предупредить мир о беспрецедентной опасности, которая угрожает выживанию открытых обществ.

Быстро совершенствующиеся инструменты контроля, связанные с машинным обучением и искусственным интеллектом, дают репрессивным режимам внутреннее преимущество. Для них улучшающиеся инструменты контроля – помощь; для открытых обществ они представляют собой смертельную опасность.

Я сосредоточусь на Китае, где председатель Си Цзиньпин настаивает на том, чтобы правило однопартийное государство. Си пытается объединить всю имеющуюся информацию о людях в централизованную базу данных для создания «системы социального кредитования». На основе этих данных люди будут оцениваться по алгоритмам, определяющим, представляют ли они угрозу для однопартийного государства. После этого с гражданами будут поступать соответствующим образом.

Система социального кредитования еще не полностью функциональна, но ясно, в каком направлении она развивается. Она беспрецедентным образом подчинит судьбу человека интересам однопартийного государства.

Я нахожу систему социального кредитования пугающей и отвратительной. К сожалению, некоторые китайцы находят ее достаточно привлекательной, поскольку она предоставляет информацию и услуги, которых в настоящее время нет, а также способствует защите законопослушных граждан от врагов государства.

Китай – не единственный авторитарный режим в мире, но, несомненно, самый богатый, сильный и наиболее развитый в области машинного обучения и искусственного интеллекта. Это делает Си самым опасным противником тех, кто верит в концепцию открытого общества. Си не одинок. Авторитарные режимы распространяются по всему миру, и если они преуспеют, они станут тоталитарными.

Как основатель сети фондов «Открытое общество» я посвятил свою жизнь борьбе с тоталитаризмом, экстремистскими идеологиями, которые ложно утверждают, что цель оправдывает средства. Я считаю, что стремление людей к свободе не может всегда подавляться. Но я признаю, что в настоящее время открытые общества находятся под серьезной угрозой.

Я использую термин «Открытое общество» в качестве условного обозначения общества, в котором верховенство права преобладает над властью одного человека, и где роль государства заключается в защите прав человека и индивидуальной свободы. На мой взгляд, открытое общество должно уделять особое внимание тем, кто страдает от дискриминации или социальной изоляции, и тем, кто не может защитить себя.

Как можно защитить открытые общества, если эти новые технологии дают авторитарным режимам «встроенное» преимущество? Вот вопрос, который меня волнует. Это должно также волновать всех тех, кто предпочитает жить в открытом обществе.

В поисках открытого общества

Моя глубокая озабоченность этим вопросом связана с моей личной историей. Я родился в Венгрии в 1930 году, и я еврей. Мне было 13 лет, когда немцы оккупировали Венгрию и начали депортацию евреев в лагеря смерти. Мне очень повезло, потому что мой отец понимал природу нацистского режима и обеспечивал фальшивыми удостоверениями личности и тайниками всех членов своей семьи, а также других евреев. Большинство из нас выжило.

1944 год стал переломным моментом в моей жизни. В раннем возрасте я понял, насколько важно, какой политический режим преобладает. Когда нацистский режим сменился на советскую оккупации, я – как только смог – покинул Венгрию и нашел убежище в Англии.

В Лондонской Школе Экономики я разработал свою концептуальную модель под влиянием моего наставника Карла Поппера. Эта модель оказалась неожиданно полезной, когда я позже начал работать на финансовых рынках. Эта концепция не имеет ничего общего с финансами и основана на критическом мышлении. Она позволила мне проанализировать недостатки преобладающих теоретических подходов, которыми руководствуются институциональные инвесторы. Я стал успешным менеджером хедж-фондов и гордился тем, что был самым высокооплачиваемым критиком этих теорий в мире.

Управление хедж-фондом было сопряженно со стрессами. Когда я заработал больше денег, чем мне было нужно для себя и своей семьи, я пережил своего рода кризис среднего возраста. Зачем мне убивать себя? Чтобы заработать больше денег? Я долго размышлял о том, что меня действительно волнует, и в 1979 году основал фонд «Открытое общество». Я определил его цели как содействие открытию закрытых обществ, снижение недостатков открытых обществ и продвижение критического мышления.

Мои первые усилия были направлены на подрыв системы апартеида в Южной Африке. Тогда я обратил внимание на открытие советской системы. Я создал совместное предприятие с венгерской Академией наук, которая находилась под коммунистическим контролем, но ее представители тайно сочувствовали моим усилиям. Эта договоренность превзошла все мои самые смелые ожидания. Я «подсел» на то, что мне нравится называть «политической филантропией». Это было в 1984 году.

В последующие годы я пытался повторить свой успех в Венгрии и в других коммунистических странах. Я неплохо справлялся в советской империи, в том числе и в самом Советском Союзе, но в Китае все было по-другому.

Диктатура с китайскими характеристиками

Мои первые попытки в Китае выглядели многообещающе. Она заключались в обмене визитами между венгерскими экономистами, которыми восхищались в коммунистическом мире, и командой недавно созданного китайского аналитического центра, представители которого стремились учиться у венгров.

Основываясь на этом первоначальном успехе, я предложил Чэнь Ицзы, руководителю аналитического центра, повторить венгерскую модель в Китае. Чэнь получил поддержку премьер-министра Чжао Цзыяна и его реформаторски настроенного политического секретаря Бао Туна. В октябре 1986 года было открыто совместное предприятие под названием «Китайский фонд». Это учреждение не похоже ни на одно другое в Китае. На бумаге она имело полную автономию.

Бао был его адвокатом. Но многочисленные противники радикальных реформ объединились против него. Они утверждали, что я агент ЦРУ, и просили Агентство внутренней безопасности провести расследование. Чтобы защитить себя, Чжао заменил Чэня высокопоставленным чиновником внешней полиции безопасности. Поскольку обе организации были равны, они не могли вмешиваться в дела друг друга.

Я одобрил это изменение, поскольку был раздражен тем, что Чэнь предоставил слишком много грантов членам своего собственного института, и я не знал о закулисной составляющей политической борьбы. Но заявители в китайский Фонд вскоре заметили, что организация перешла под контроль политической полиции и начали сторониться ее. Никто не осмелился объяснить мне причину этого.

В конце концов, китайский грантополучатель навестил меня в Нью-Йорке и рассказал мне – с большим риском для себя – что произошло. Вскоре после этого Чжао был отстранен от власти, и я использовал это как предлог, чтобы закрыть фонд. Это произошло незадолго до резни на площади Тяньаньмэнь в 1989 году, а в биографиях людей, связанных с фондом, остались «черные пятна». Они пошли на многое, чтобы очистить свои имена. В конце концов, они преуспели.

Оглядываясь назад, я понимаю, что я совершил ошибку, пытаясь создать фонд, который действовал не так, как принято в Китае. В то время предоставление гранта создавало ощущение обязательства между донором и получателем и обязывало обе стороны всегда оставаться верными друг другу.

Отказ от реформ

Достаточно для истории. Давайте обратимся к событиям, которые произошли в течение последнего года, некоторые из которых меня поразили.

Когда я только начал посещать Китай, я познакомился со многими людьми на руководящих постах, которые горячо верили в принципы открытого общества. В молодости их депортировали в сельскую местность для перевоспитания. Они нередко испытывали гораздо большие трудности, чем я в свое время в Венгрии. Но у нас было много общего. Мы все были не на стороне диктатуры.

Они жаждали услышать от меня об идеях Поппера об открытом обществе. Хотя они сочли эту концепцию весьма привлекательной, их толкование несколько отличалось от моего. Они были знакомы с конфуцианской традицией, но в Китае не было традиции голосования. Их мышление оставалось иерархическим, а не эгалитарным, и несло в себе неизбежное уважение к высокой должности. С другой стороны, я хотел, чтобы все имели право голоса.

Я не был удивлен, когда Си столкнулся дома с серьезной оппозицией, но я был удивлен ее проявлением. На прошлогоднем собрании руководства на морском курорте Бейдайхэ Си, по-видимому, был подвергнут критике. Хотя официального коммюнике не было, ходили слухи, что собрание не одобрило отмену ограничений по срокам правления и культ личности, который Си построил вокруг себя.

Преданные защитники открытого общества в Китае, которые примерно моего возраста, в основном ушли на пенсию, а их место заняли молодые люди, которые зависят от Си в аспекте продвижения по службе. На самом деле, именно отставные лидеры, такие как Чжу Жунцзи, как сообщается, высказывали критику Си на встрече в Бейдайхэ.

Важно понимать, что подобные критические замечания были лишь предупреждением Си о том, что он переходит границы, но они не снимали с повестки вопрос отмены ограничений в два срока правления. Более того, «мысль Си Цзиньпина», которую он продвигал как свою дистилляцию коммунистической теории, была возведена на тот же уровень, что и «мысль Мао Цзэдуна». Таким образом, Си остается верховным лидером – возможно, на всю жизнь. Окончательный исход нынешней внутриполитической борьбы остается нерешенным.

Открытое общество и его защитники

Я концентрировался на Китае, но у открытых общества гораздо больше врагов. В первую очередь это путинская Россия. И самый опасный сценарий – это сценарий, при котором эти враги сговариваются друг с другом и учатся друг у друга, чтобы более эффективно угнетать свой народ.

Что мы можем сделать, чтобы остановить их?

Первый шаг – распознать опасность. Вот почему я высказываюсь. И теперь начинается самое трудное. Те из нас, кто хочет сохранить открытое общество должны работать вместе и сформировать эффективный альянс. У нас есть задача, которую нельзя поручать правительствам. История показывает, что даже правительства, которые хотят защитить свободу личности, имеют много других интересов, и они также отдают предпочтение свободе своих граждан свободе личности как абстрактному понятию.

Мои Фонды Открытого общества созданы с целью способствовать защите прав человека – особенно тех людей, у которых нет правительств, защищающих их. Когда мы начинали четыре десятилетия назад, многие правительства поддерживали наши усилия. К сожалению, их ряды поредели. США и Европа, некогда наши сильные союзники, ныне озабочены своими проблемами.

Поэтому я хочу сосредоточиться на том, что я считаю самым важным вопросом для открытых обществ: что произойдет в Китае?

Только китайский народ может ответить на этот вопрос. Все, что мы можем сделать, это провести четкое различие между ним и Си. С тех пор как Си Цзиньпин заявил о своей враждебности по отношению к открытому обществу, китайский народ стал главным источником надежды.

И на самом для надежды деле есть основания. Как мне объяснили некоторые китайские специалисты, существует конфуцианская традиция, согласно которой советники императора должны высказываться в случае, когда они категорически не согласны его действиями или указами, – прекрасно зная, что это может привести к изгнанию или даже к казни. Это стало большим облегчением для меня в момент, когда я был на грани отчаяния. Это означает, что появилась новая политическая элита, которая готова отстаивать конфуцианскую традицию, и что у Си по-прежнему будут противники в Китае.

Распутывание Шелкового Пути

Си предъявляет Китай как образец для подражания для других стран, хотя он также сталкивается с критикой за рубежом. Его инициатива «Один пояс – один путь» (ОПОП) функционирует достаточно долго для того, чтобы выявить ее недостатки. Во-первых, проект был разработан для продвижения интересов Китая, а не стран-получателей помощи. Более того, его амбициозные инфраструктурные проекты финансировались в основном за счет кредитов, а не грантов, и иностранные чиновники часто подкупались, чтобы принять их. Многие из этих проектов оказались экономически несостоятельны.

Показателен случай в Шри-Ланке. Китай выделил шри-ланкийцам деньги, чтобы заплатить за строительство порта, который служит стратегическим интересам КНР. Но порт не смог привлечь достаточно коммерческих перевозок, чтобы позволить Шри-Ланке обслуживать долг, что позволило Китаю завладеть портом. Имеется несколько подобных примеров в других местах, и они вызывают негодование.

Еще один пример – Малайзия. Предыдущее правительство во главе с Наджибом Разаком продалось Китаю. Но в мае 2018 года Наджиб был отстранен от должности коалицией во главе с Махатхиром Мохамедом. Правительство Махатхира немедленно остановило несколько крупных инфраструктурных проектов, осуществляемых китайскими компаниями, и в настоящее время ведет переговоры о том, сколько Малайзии придется заплатить Китаю.

Ситуация не столь ясна в Пакистане, который является крупнейшим получателем китайских инвестиций. Пакистанская армия полностью обязана Китаю, но позиция Имрана Хана, ставшего премьер-министром в августе прошлого года, более амбивалентна. В начале 2018 года Китай и Пакистан объявили о грандиозных планах в сфере военного сотрудничества. К концу года Пакистан находился в глубоком финансовом кризисе. Но одно стало очевидным: Китай намерен использовать ОПОП и в военных целях.

Все эти неудачи заставили Си изменить свое отношение к ОПОП. В сентябре он объявил, что «проекты тщеславия» будут отвергаться в пользу более тщательно продуманных инициатив, а в октябре «Народная газета» предупредила, что проекты должны служить интересам стран-получателей.

Клиенты теперь предупреждены, и некоторые из них, от Сьерра-Леоне до Эквадора, ставят под сомнение или пересматривают проекты. Си также перестал говорить о программе “Made in China 2025”, которая была центральным элементом его саморекламы годом ранее.

Сдерживание 2.0?

Самое главное, что правительство США теперь определяет Китай как «стратегического соперника». Президент Дональд Трамп известен своей непредсказуемостью, но это решение было результатом тщательно подготовленного стратегического плана. С тех пор своеобразное поведение Трампа было в значительной степени вытеснено политикой в отношении Китая, принятой учреждениями администрации и контролируемой советником по делам Азии Совета национальной безопасности Мэтью Поттингером и другими. Политика была изложена в основной речи вице-президента Майка Пенса 4 октября 2018 года.

Тем не менее, объявление Китая стратегическим соперником слишком упрощено. Китай является важным глобальным игроком. Эффективная политика в отношении Китая не может быть обобщена. Она должна быть гораздо более сложной, подробной и практичной; также она должна включать в себя экономический ответ США на ОПОП. План Поттинджера не определяет, является ли его конечной целью выровнять игровое поле или «уйти» из Китая.

Си полностью понимает угрозу, которую новая политика США представляет для его руководства. Он сделал ставку на личную встречу с Трампом на встрече G20 в Буэнос-Айресе 1 декабря. Тем временем опасность глобальной торговой войны обострилась, и началась резкая распродажа на фондовом рынке, что создало проблемы для администрации Трампа, которая сосредоточила всю свою энергию и внимание на промежуточных выборах в прошлом месяце. Когда Трамп и Си встретились, обе стороны были готовы к сделке. Таким образом, они достигли соглашения, хотя то, о чем они договорились – 90-дневное перемирие – выглядит очень неубедительно.

Но есть четкие признаки того, что в Китае происходит широкомасштабный экономический спад, который затрагивает остальной мир. Глобальное замедление – это последнее, чего хочет рынок.

Негласный социальный контракт в Китае строится на неуклонно растущем уровне жизни. Если падение китайской экономики и фондового рынка будет достаточно серьезным, то этот социальный контракт может быть подорван, и даже бизнес-сообщество может стать противником Си. Такой спад может также стать предсмертным звонком для ОПОП, потому что у Си могут закончиться ресурсы для продолжения финансирования многочисленных инвестиций с потерями.

Что касается более широкого вопроса глобального управления интернетом, то между Китаем и Западом идет необъявленная борьба. Китай хочет диктовать правила и процедуры, которые управляют цифровой экономикой, доминируя в развивающемся мире с его новыми платформами и технологиями. Это угроза свободе интернета и самому открытому обществу.

В прошлом году я все еще считал, что Китай должен быть более глубоко вовлечен в институты глобального управления, но поведение Си с тех пор изменило мое мнение. Сейчас мое мнение заключается в том, что вместо того, чтобы вести торговую войну практически со всем миром, США должны сосредоточиться на Китае; вместо того, чтобы позволить ZTE и Huawei развиваться, им нужно жестко расправиться с ними. Если бы эти компании стали доминировать на рынке 5G, они представляли бы неприемлемый риск для безопасности для остального мира.

К сожалению, президент Трамп, похоже, следует иному курсу: идет на уступки Китаю и с победоносным видом возобновляет свои атаки на союзников США. Это может подорвать цель политики США по пресечению злоупотреблений и эксцессов со стороны Китая.

Обнадеживающий вывод

Поскольку Си является самым опасным врагом открытых обществ, мы должны возлагать надежды на китайский народ, и особенно – на политическую элиту, вдохновленную конфуцианской традицией.

Это не означает, что те из нас, кто верит в открытое общество, должны оставаться пассивными. Реальность такова, что мы находимся в состоянии холодной войны, которая грозит перерасти в горячую. С другой стороны, если бы Си и Трамп больше не были у власти, появилась бы возможность развивать более тесное сотрудничество между двумя кибер-сверхдержавами.

Можно мечтать о чем-то похожем на Договор ООН в конце Второй мировой войны. Это было бы подходящим завершением нынешнего цикла конфликта между США и Китаем. Она восстановит международное сотрудничество и позволит процветать открытым обществам.

Перевод: НМ

Источник: Рroject-Syndicate