Невидимая угроза

олько на вероятность события, но и на его образ: насколько угроза понятна, видима и обратима, можно ли ее контролировать и существует ли институт, которому допустимо передать ответственность.

В этом смысле восприятие риска — это самостоятельный общественный механизм, определяющий, какие технологии будут приняты, какие ограничения сочтут оправданными и какие угрозы получат политический статус. Риск становится социальным фактом не тогда, когда появляется в расчетах специалистов, а тогда, когда начинает менять поведение: заставляет людей избегать, протестовать, требовать запретов, искать виноватых или, напротив, игнорировать предупреждения.

«Ложная информация и дезинформация — крупнейшие краткосрочные риски».

World Economic Forum

Сегодня к традиционным рискам — эпидемиям, войнам, авариям, природным катастрофам, радиации и загрязнению — добавляется новый слой. Искусственный интеллект постепенно превращается из отдельной технологии в инфраструктуру, через которую принимаются решения о здоровье, работе, деньгах, безопасности и доступе к общественным благам. Поэтому тревога вокруг ИИ связана не только с возможностью технической ошибки. Речь идет о более глубоком смещении: человек все чаще сталкивается с решением, механизм принятия которого не видит, не понимает и не всегда способен оспорить. То, что скрывается за стенками Черного ящика для одних заманчивая возможность, для других опасная зона, но чаще всего, и то и другое вместе.  

Почему риск не равен вероятности

Риск обычно связывают с вероятностью негативного события и масштабом возможного ущерба. Однако эта формула недостаточна для объяснения общественной реакции. Люди оценивают не только то, насколько вероятно наступление негативного события, но и то, каким образом риск входит в их жизнь и какова цена его принятия.

В рамках психометрической парадигмы, разработанной Полом Словиком и его коллегами, восприятие угрозы зависит от целого набора характеристик. Значение имеют добровольность риска, степень личного контроля, знакомство с технологией, обратимость последствий, катастрофический потенциал, распределение выгод и ущерба, а также доверие к тем, кто управляет системой. Поэтому статистически сопоставимые опасности могут вызывать принципиально разную реакцию. Привычный и добровольно принимаемый риск легче встраивается в повседневность. Неизвестная, навязанная и плохо контролируемая угроза, напротив, быстрее приобретает политическое и эмоциональное значение.[1]

«Риск не существует где-то снаружи в отрыве от нашего сознания и культуры».

Пол Словик, психолог, профессор Орегонского университета, основатель Decision Research

Классический пример — отношение к автомобилям и самолетам. По данным ВОЗ, дорожно-транспортные происшествия ежегодно уносят около 1,19 млн жизней. В 2023 году зафиксировано 3,1 смертельных случаев в сегменте автотранспорта и 0,07 погибших в авиаперевозках на 1 млрд пассажиро-километров. А соответственно примерно в 44 раза выше вероятность погибнуть в автоаварии, чем в воздухе. Однако, куда чаще можно встретить людей с аэрофобией, нежели тех, кто панически боится поездок на автомобиле.

Мировая коммерческая авиация статистически значительно безопаснее. Однако авиакатастрофа вызывает значительно больший общественный резонанс, чем ежедневная смертность на дорогах. Кроме того, автомобиль дает ощущение контроля: водитель самостоятельно выбирает маршрут, скорость и время поездки, а пассажир в большой части случаев может выбрать водителя. В самолете управление передается пилотам, диспетчерам, инженерам, авиакомпании и автоматизированным системам.

Объективная безопасность и субъективный контроль в данном случае расходятся. Более опасная деятельность воспринимается как привычная и управляемая, тогда как более статистически безопасная воспринимается более рискованной. Человек оказывается зависим от сложной инфраструктуры, «Черного ящика» работу которого не контролирует.

Как общество принимает опасные технологии

Наличие риска само по себе редко приводит к отказу от технологии. Общество постоянно живет рядом с системами, способными производить ущерб: транспортом, энергетикой, медициной, промышленностью и цифровой инфраструктурой. Их принятие строится как своеобразный обмен между опасностью и выгодой.

Самолет вызывает страх потери контроля, но обеспечивает скорость и доступность дальних поездок. Ядерная энергетика связана с радиацией и возможностью масштабной аварии, но дает значительный объем энергии при относительно низких прямых углеродных выбросах. Медицинское вмешательство включает вероятность врачебной ошибки или осложнений, но предлагает диагностику и лечение. Цифровая платформа собирает персональные данные, угрожая приватности, но в ответ обеспечивает пользователя связью, навигацией и быстрым доступом к услугам.

Риск не исчезает. Он нормализуется и становится приемлемым, если общество видит пользу и доверяет механизму, который должен ограничивать возможный ущерб. (Таблица 1)

Именно этот процесс описывает концепция управления риском (risk governance). Ее предметом становится не только расчет вероятности, но и организация всей системы отношений вокруг угрозы: распределение полномочий, коммуникация, независимый контроль, участие заинтересованных групп и порядок исправления ошибок.[2]

Болезнь превращается в медицинский протокол, транспортная опасность — в систему правил и технических стандартов, природная катастрофа — в прогнозы, карты эвакуации и работу экстренных служб. В каждом случае неопределенность помещается внутрь институционального порядка. Таким образом, человек принимает риск не потому, что перестает бояться. Он соглашается с ним, когда понимает, кто контролирует технологию, по каким правилам и как принимаются решения в случае сбоя.

Здесь прослеживается логика «общества риска», описанная Ульрихом Беком.[3] Технологическое развитие производит новые возможности наряду с новыми формами уязвимости. При этом выгоды и последствия распределяются неравномерно: одни участники получают экономические преимущества, тогда как другие вынуждены жить с неопределенностью, на устройство которой почти не влияют. Поэтому спор о принятие нового риска редко ограничивается вопросом его масштаба и вероятности. Он неизбежно превращается в спор о распределении власти. Если общественная польза видима, а институты ответственности работают, угроза постепенно нормализуется. Если же выгода концентрируется у владельцев системы, а последствия перекладываются на пользователей, риск переходит в область общественной и политической дискуссии, порой доходящей до столкновений. Геополитические риски в том числе хорошо показывают работу этого механизма. Иранская ядерная программа становится для США и Израиля неприемлемым риском, на основании которого инициируется военный конфликт. 

Три рамки для анализа риска

Психометрическая парадигма объясняет, почему одни опасности пугают сильнее других. Риск усиливается, если воспринимается как неизвестный, недобровольный, неконтролируемый, потенциально катастрофический и зависимый от решений закрытой группы экспертов.

Социальное усиление риска показывает, каким образом первоначальная угроза меняет масштаб, проходя через медиа, заявления властей, экспертные интерпретации, личные истории и политические конфликты. Общественное значение риска определяется не только событием, но и системой коммуникации вокруг него.

Управление рисками описывает условия, при которых риск становится общественно приемлемым. Для этого необходимы не только технические показатели, но и прозрачность процедур, доверие, распределение ответственности и возможность участия тех, кого затрагивает решение.

Эти три рамки относятся к разным стадиям одного процесса. Психометрическая парадигма объясняет первоначальное восприятие угрозы. Модель социального усиления – распространение и преобразование тревоги. Управление риском – институциональный ответ, способный укрепить доверие или, напротив, окончательно его разрушить. ИИ оказывается на пересечении всех трех механизмов. Его свойства усиливают тревогу, медийная и политическая среда расширяет ее масштаб, а существующие институты пока не всегда способны предложить понятный порядок контроля и ответственности.

Ландшафт восприятия рисков

Трансформация восприятия рисков в научном и общественном дискурсе отражает как объективные изменения в течении технологического прогресса, так и уровень нормализации и интеграции их в повседневность.   В работе «Ландшафт исследований восприятия риска: наукометрический анализ» («The Landscape of Risk Perception Research: A Scientometric Analysis») авторы произвели проанализировали и ранжировали научные публикации, в названиях которых встречались ключевые слова, связанные с восприятием рисков. Поиск статей в научных журналах ограничивался заголовками, чтобы выделить работы, где восприятие риска являлось центральным предметом, а не вспомогательным термином. Итоговый корпус включал 2759 статей и обзоров, опубликованных с 1964 по 2019 год, 1184 научных источника и 8521 автора[4].

Главный количественный результат связан с резким ростом исследовательского поля. С 2003 по 2019 год было опубликовано 2231 исследование – 80,9% всего массива. Восприятие риска постепенно перестало быть узкой темой инженерной безопасности или потребительского поведения и превратилось в самостоятельную междисциплинарную область. Эволюция этого поля отражает изменение общественных условий. На раннем этапе риск изучался прежде всего как элемент потребительского выбора. Исследователей интересовало, почему человек сомневается перед покупкой, каким товарам доверяет и как оценивает возможную потерю. Позднее центр тяжести сместился к здоровью, медицине, эпидемиям, экологическим угрозам и природным катастрофам. Риск начал рассматриваться не как частное решение индивида, а как отношение между человеком и институтами, управляющими его безопасностью.

Следующим этапом стало расширение исследований цифровой среды: электронной коммерции, онлайн-безопасности, приватности и доверия к платформам. В этой конфигурации источник угрозы становится менее видимым. Риск связан с работой инфраструктуры, внутри которой циркулируют данные и принимаются автоматизированные решения.

Наукометрия фиксирует переход от локализованной опасности к распределенной. Промышленная авария имеет физический источник и наблюдаемые последствия. Цифровой риск существует внутри сети отношений: платформы собирают данные, модели классифицируют пользователей, институты используют полученный результат, а человек зачастую не знает, в какой момент и как система начала влиять на него. Отсутствие видимого контроля один из ключевых факторов нарастающей тревоги и черта «нового поколения» рисков. ИИ становится продолжением именно этой линии. Он не создает абсолютно новую логику общественной тревоги, но доводит до предела свойства цифрового риска: невидимость механизма, зависимость от инфраструктуры и сложность назначения ответственного субъекта.

Как риск усиливается

Физическая или техническая опасность не переходит в общественную тревогу напрямую. Между событием и реакцией находится система посредников: эксперты, государственные органы, компании, общественные организации, журналисты, социальные платформы и политические акторы. Этот механизм описывает модель социального усиления риска Роджера Касперсона и его коллег. Риск проходит через «станции усиления», каждая из которых отбирает определенные признаки события, интерпретирует их и передает дальше.[5]

«Угрозы взаимодействуют с обществом множеством социальных способов».

Роджер Касперсон, географ, исследователь рисков

Одна и та же техническая ошибка может быть представлена как единичный сбой, свидетельство системной халатности, результат недостаточного регулирования или доказательство принципиальной опасности всей технологии. Изменяется не само первоначальное событие, а его масштаб. Медиа усиливают риск через повторяемость, визуальные образы и персональные истории. Политические акторы связывают его с вопросами компетентности, безопасности и ответственности. Корпоративные стейкхолдеры стремятся локализовать проблему и представить ее как исключение. Социальные сети ускоряют распространение конкурирующих интерпретаций, размывая границу между проверенными фактами, предположениями и эмоциональными реакциями.

В результате общественные и политические последствия могут значительно превышать прямой ущерб. Отдельная авария меняет регулирование целой отрасли. Утечка данных разрушает доверие к платформе. Ошибка медицинского алгоритма становится аргументом в дискуссии о допустимости автоматизации. Возможен и обратный процесс: риск ослабляется, если он привычен, распределен и лишен яркого образа. Ежедневный ущерб может восприниматься как нормальный фон, тогда как редкий инцидент становится символом общей угрозы.

Для ИИ этот механизм имеет особое значение. Алгоритмическая система сложна и представляет собой Черный ящик для большинства пользователей, поэтому общественное представление о ней формируется преимущественно через посредников. Человек судит о технологии по сообщениям об ошибках, обещаниям разработчиков, политическим заявлениям и личному опыту взаимодействия с сервисами. Именно здесь техническая неопределенность превращается в социальную. Чем меньше общество понимает устройство системы, тем сильнее его реакция зависит от качества коммуникации и доверия к тем, кто объясняет происходящее.

Почему ИИ стал особым типом риска

Рост исследований искусственного интеллекта показывает, насколько быстро технология вышла за пределы инженерной дисциплины. По данным Stanford AI Index, число научных публикаций по ИИ выросло примерно со 102 тыс. в 2013 году до более чем 242 тыс. в 2023-м. Доля работ об ИИ внутри computer science увеличилась за тот же период с 21,6 до 41,8%.[6] Внутри этого массива формируются самостоятельные направления исследований ИИ рисков, связанные с такими ключевыми понятиями: этика ИИ, ответственный ИИ, управление ИИ, алгоритмическая предвзятость, объяснимость, конфиденциальность и дезинформация. Эти категории относятся не к одной угрозе, а к разным уровням алгоритмической системы – от качества обучающих данных до общественных последствий ее применения.

Репозиторий рисков ИИ систематизирует 74 существующих подхода и 1725 отдельных рисков. Сам масштаб каталога показывает проблему: дискуссия страдает уже не от недостатка опасений, а от отсутствия общего языка. Разные исследовательские и регуляторные рамки используют разные названия для сходных явлений и одинаковые термины для различных механизмов.

Например, понятие приватности может охватывать утечку обучающих данных, коммерческое профилирование пользователей и государственную слежку. Термины reward hacking («эксплуатация функции вознаграждения») и specification gaming («использование лазеек в постановке задачи») описывают ситуации, когда система формально оптимизирует заданный показатель, но фактически отклоняется от цели, которую имел в виду разработчик. Сложность классификации отражает архитектуру самого риска. Он может возникать в данных, при обучении, в поведении модели, в интерфейсе или в институциональном способе применения. Поэтому невозможно оценить ИИ только по техническим характеристикам алгоритма. Одна и та же модель может выполнять безопасную вспомогательную функцию в одном контексте и принимать критически важные решения в другом.

Особенность восприятия риска ИИ определяется сочетанием пяти свойств.

1. Невидимость – алгоритм не имеет физической формы. Его присутствие обнаруживается через результат: отказ, рекомендацию, рейтинговую систему или классификацию.
2. Непрозрачность – пользователь обычно не знает, какие данные были использованы и почему система пришла к определенному выводу.
3. Зависимость – человек может отказаться от конкретного приложения, но не всегда способен избежать алгоритмической оценки в банке, страховой компании, медицинской организации или на рынке труда.
4. Исключительная роль экспертности – проверка модели требует специальных знаний и доступа к данным, коду и внутренним процедурам.
5. Распределенная ответственность – негативное решение возникает на пересечении действий разработчика, поставщика данных, заказчика, оператора и регулятора. Каждый участник отвечает только за отдельный элемент, тогда как пострадавший сталкивается с системой целиком.

Именно эта комбинация делает ИИ характерным риском современной инфраструктуры. Воспринимаемый риск заключается не только в вероятности сбоя, но и в слабой позиции человека перед решением, происхождение которого трудно установить.

Медицинский ИИ: кто отвечает за ошибку

Так, ИИ обещает ускорить анализ изображений, повысить точность диагностики, персонализировать лечение и снизить нагрузку на врачей. По данным Stanford AI Index, в 2023 году Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США одобрило 223 медицинских устройства с поддержкой ИИ. В 2015 году таких устройств было шесть.

Рост числа решений показывает, что алгоритмы переходят из экспериментальной зоны в медицинскую практику. Появляется новый посредник между врачом и пациентом. Если модель допустила ошибку, установить ответственного оказывается сложнее, чем в традиционной системе. Врач мог опереться на рекомендацию алгоритма. Клиника выбрала и внедрила продукт. Разработчик обучил модель на определенном наборе данных. Производитель интегрировал ее в устройство. Регулятор допустил систему к применению. Кто несет ответственность?

Каждое звено может утверждать, что окончательное решение принимал кто-то другой. В результате ответственность распределяется по цепочке, размывается. Но пациент сталкивается с конкретными последствиями: неверным диагнозом, неподходящей рекомендацией. Ключевое значение имеет место алгоритма в процедуре. Сохраняет ли врач полномочия пересмотреть рекомендацию? Может ли пациент получить второе мнение? Фиксируется ли, какую роль модель сыграла в решении? Кто обязан исправлять ошибку?

Генеративный ИИ: риск для инфраструктуры доверия

Второй кейс связан с генеративными моделями и дезинформацией. Их общественная опасность определяется не только количеством ложных изображений, текстов или видеозаписей. Отдельный фейк может быть обнаружен и опровергнут. Более глубокая проблема возникает тогда, когда возможность массового создания синтетического контента меняет отношение к любому свидетельству. Если голос можно скопировать, изображение – сгенерировать, а видео – изменить, само наличие фиксации факта перестает автоматически подтверждать событие. При этом способность создавать подделки работает в двух направлениях. Она позволяет распространять ложные материалы и одновременно дает возможность объявлять подделкой реальные доказательства. Так возникает эффект, при котором разрушается не только достоверность конкретного сообщения, но и общий механизм проверки. Общество сталкивается не с одной ложью, а с постоянной неопределенностью относительно происхождения информации.

«Производство богатства систематически сопровождается производством рисков».

Ульрих Бек, социолог

В Global Risks Report 2024 Всемирный экономический форум поставил ложную информацию и дезинформацию на первое место среди краткосрочных глобальных рисков. В отчете 2025 года эта угроза сохранила положение среди наиболее значимых рисков ближайшего периода.

В отличие от медицинского кейса, где ошибочное решение затрагивает отдельного пациента, генеративная дезинформация влияет на коллективное восприятие. Поэтому объектом риска становится сама инфраструктура общественного доверия. Компенсация здесь также существует: генеративные модели ускоряют создание текстов, изображений, программного кода и аналитических материалов. Однако принятие технологии зависит от появления подтверждения механизмов происхождения контента, маркировки, проверки и ответственности за фейковый контент. Без этих элементов скорость производства информации начинает превышать способность общества ее верифицировать.

***

Следующий этап дискуссии об ИИ будет связан уже не с объяснением отдельных страхов, а с институционализацией ошибок. Пока алгоритмический сбой воспринимается как исключение, каждая новая история заново разжигает спор о допустимости технологии. Зрелая система управления риском начинается там, где ошибка становится объектом учета, сопоставления и изменения правил.

Именно в эту сторону движутся ведущие центры регулирования. NIST в AI Risk Management Framework предлагает рассматривать риск на протяжении всего жизненного цикла системы через четыре функции: управление, картирование контекста, измерение и реагирование. OECD развивает AI Incidents and Hazards Monitor — инфраструктуру фиксации реальных инцидентов и опасных сценариев. Общая логика важнее отдельных инструментов: безопасность ИИ строится вокруг способности замечать повторяющиеся дефекты и учиться на них.

Для авиации, медицины и промышленности такой подход стал нормой. Катастрофа или почти случившаяся авария рассматривается не только как вина конкретного оператора, но и как источник знания о слабом месте системы. В случае ИИ этот механизм пока развит слабее. Инциденты остаются внутри компаний, описываются в несовместимых терминах или становятся известны лишь после общественного резонанса. Общество видит последствия, но не видит накопления институционального опыта. Именно поэтому базы инцидентов в области ИИ создаются по аналогии с механизмами коллективного обучения, уже действующими в авиации и компьютерной безопасности.

Отсюда возникает новая граница принятия технологии. Доверие нельзя обеспечивать только коммуникацией, этическими декларациями или демонстрацией средней точности модели. Оно должно опираться на доказуемую управляемость: фиксацию инцидентов, сопоставимые категории ущерба, независимую проверку, отслеживание изменений модели и понятную реакцию после сбоя. Важно показать, что именно изменилось после конкретной ошибки. Такой поворот меняет и роль регулирования. Оно перестает быть внешним ограничителем инноваций и становится механизмом институциональной памяти. Стандартизированная отчетность об оценке рисков, инцидентах и мерах реагирования уже становится отдельным направлением международного управления ИИ. При этом сам ИИ не перестает быть Черным ящиком, в том числе для его создателей и экспертов. Именно способность превращать сбои на выходе в коллективное знание определит, останется ли алгоритмический риск постоянным источником тревоги или войдет в пространство общественно контролируемых и войдет в зону нормализации.

[1] Slovic, P. “Perception of Risk” / Science, 1987, 236(4799), 280–285. DOI: 10.1126/science.3563507.

[2] Renn, O. Risk Governance: Coping with Uncertainty in a Complex World / London: Earthscan, 2008.

[3] Beck, U. Risk Society: Towards a New Modernity / London: Sage Publications, 1992.

[4] Goerlandt, F., Li, J., & Reniers, G. “The Landscape of Risk Perception Research: A Scientometric Analysis” / Sustainability, 2021, 13(23), 13188. DOI: 10.3390/su132313188

[5] Kasperson, R. E., Renn, O., Slovic, P., Brown, H. S., Emel, J., Goble, R., Kasperson, J. X., & Ratick, S. “The Social Amplification of Risk: A Conceptual Framework” / Risk Analysis, 1988, 8(2), 177–187. DOI: 10.1111/j.1539-6924.1988.tb01168.x

[6] Stanford Institute for Human-Centered Artificial Intelligence. AI Index Report 2025: Research and Development / Stanford University, 2025.

©«Новый оборонный заказ. Стратегии» 
№ 4 (99), 2026 г., Санкт-Петербург