Новый оборонный заказ. Стратегии
Новый оборонный заказ. Стратегии
РУС |  ENG
Новый оборонный заказ. Стратегии

Концепция. Алгократия

Алгократия – это система управления, построенная на доминировании в ней алгоритмов. Концепция используется для обозначения ситуации, когда все большее количество политических, социальных, экономических и других функций, которые раньше выполнялись людьми, делегируются компьютерам или «алгоритмам». Термин впервые появился в 2006 году в книге американо-индийского социолога Аниша Аниша.

 

Что? Концепция алгократии используется для обозначения ситуации, когда все большее количество политических, социальных, экономических и других функций, которые раньше выполнялись людьми, делегируются компьютерам или «алгоритмам». Такая ситуация, очевидно, становится возможной благодаря повсеместному распространению цифровых технологий, а также развитию машинного обучения и больших данных. В широком смысле под алгократией можно понимать распространение алгоритмов на все сферы человеческой жизни. Сегодня они лежат в основе любого интернет-поисковика, социальной сети, новостного агрегатора и многих социальных институтов, обуславливая значительную часть жизни современного человека. В узком смысле алгократия применяется к государственным институтам и означает возрастающую зависимость от алгоритмов процессов принятия государственных решений (бюрократических, законодательных и юридических). Алгократия не является описанием современной модели управления, а скорее отражает возрастающую роль алгоритмов в жизни человека.

 

Короче... Алгократия – это система управления, построенная на доминировании в ней алгоритмов.

 

Пример №1. В мае 2022 года в Дании группа художников сформировала Синтетическую партию – политическую партию, программа которой была написана искусственным интеллектом на основе анализа программ всех небольших партий с 1970 года. Таким образом партия хочет стать голосом для всех людей, не представленных нынешней политической системой. Лидером партии и ее публичным лицом является чат-бот Leader Lars.

 

Пример №2. Растущий корпус исследований показывает, что алгоритмы ИИ могут влиять на поведение людей во время выборов как через прямые рекомендации и агитацию в соцсетях, так и через более скрытые для глаза методы убеждения и техники манипулирования. Влиять может даже порядок, в котором поисковик Google выдает кандидатов, или повышение осведомленности об определенных кандидатах.

 

Кто? Наиболее распространено мнение, что термин «алгократия» впервые появился в 2006 году в книге американо-индийского социолога Аниша Аниша «Цифровая миграция: программируя глобализацию». Позже Аниш развивал его в других работах, например, «Глобальный труд: алгократические формы организации» или «Постиндустриальный упадок в бюрократических иерархиях».

 

Источники:

  • Abiteboul S., Dowek G. The Age of Algorithms (2020)
  • Peeters, Schuilenburg M. Machine justice: Governing security through the bureaucracy of algorithms (2018)
  • Lorenz, Meijer A., Schuppan T. The Algocracy as a New Ideal Type for Government Organizations (2021)

 

Цитата

«Алгоритмы могут привести к лучшему или худшему результату, но мы никогда не должны забывать, что сами по себе они не имеют намерения. Они были спроектированы людьми и являются таковыми, какими мы хотим их видеть»

Serge Abiteboul, Gilles Dowek

 

 

+ Преимущества распространения алгоритмов связаны в первую очередь с минимизацией человеческого фактора и присущих ему издержек, таких как скрытые предубеждения и дискриминация, более высокая вероятность ошибки и недостаток учета всей совокупности факторов, доступных с использованием больших данных. Автоматизация управленческих процессов может повысить скорость и точность принимаемых решений, а также соответствовать целям достижения большего социального равенства и справедливости. Наконец, распространение алгоритмов в повседневной жизни способствует большей персонализации получаемой информации, которая подается на основании анализа предыдущих обращений.

 

Внедрение алгоритмов критикуют за непрозрачность принимаемых на их основе решений и возможность предвзятости из-за смещения в обучающих базах данных. Кроме того, данные, собираемые и агрегируемые алгоритмами, могут быть использованы в сферах, отличных от тех, в которых они были собраны, что создает угрозу для конфиденциальности. Также распространение алгоритмов на бюрократические функции государства вызывает опасения относительно растущего проникновения государства в частную жизнь и роста социального контроля.

 

= И критики, и сторонники цифровизации и «алгоритмизации» современной жизни сходятся в их оценке как явлений неизбежных и закономерных. Как и другие процессы, связанные с распространением интернета, они не плохи и не хороши сами по себе, а только подсвечивают уже существующие тенденции. По этой причине нужно осторожно относиться к прогнозам о значительном трансформационном потенциале любых технологий.

 

Составил Иван Жужгин

©«Новый оборонный заказ. Стратегии» 
№ 6 (77), 2022 г., Санкт-Петербург