Абсолютный алгоритм. Проблемы развития искусственного интеллекта

В начале августа Пентагон провел масштабный анализ сценариев будущего. Для сбора информации применялись данные со спутников, сводки разведывательных служб и еще много всего. Искусственный интеллект прогнозировал варианты и возможные последствия ударов по наземным и космическим объектам России и Китая.  

 

Изучив результаты, военные сделали выводы, как перераспределить силы и какие стратегии следует выбирать в качестве основных. Правда, прогноз был составлен всего на несколько дней вперед, но и этого достаточно для принятия принципиальных решений.

Это лишь один пример применения ИИ для решения масштабных задач. Теоретически, технологии Big Data в сочетании с нейросетями позволяют построить модель, точно воспроизводящую весь реальный мир. В нее можно вносить допуски и погрешности, затем ускорять воспроизведение и смотреть, как новые факторы скажутся на действительности. При наличии бесконечных ресурсов такая система учтет движение каждого атома и свободный выбор каждого человека, сведет их к практически применимому алгоритму. Но пока таких мощностей нет, и их появление остается отдаленным прогнозом. Примерно, как создание общей теории всего в физике.

 

  1. Операция выбора

 

Искусственный интеллект – не просто совокупность огромных объемов данных.

«Есть учебники грамматики, стилистики, логики. Надо взять изложенные в них правила и “научить” им машину. Как [учат] людей. К сожалению, это оказалось невозможным, ибо машины пока еще слишком “тупы и ограниченны”, чтобы сразу воспринять обобщения. Все оказалось несколько сложней…». Так Дмитрий Жуков обозначил проблему в книге «Переводчик, историк, поэт? Слово тебе, машина» в далеком 1965 году. Тогда ЭВМ программировали при помощи перфокарт: научные сотрудники делали в картонных карточках отверстия, которые машина воспринимала как код.

Прошло более полувека, и мы до сих пор сомневаемся в качестве компьютерного перевода, хотя образцы его часто публикуются в журналах под видом статей. А ученые все так же констатируют ограниченность машин.

Физик и футуролог Митио Каку в одной из книг пересказал разговор с инженером компании Honda, создателем известного робота ASIMO. Андроид умеет разговаривать, танцевать, играет на музыкальных инструментах, но на прямой вопрос об уровне интеллекта ASIMO его разработчик признается, что тот скорее похож на многофункциональный проигрыватель, а по интеллекту не превосходит насекомое.

«Нынешние роботы застряли на очень примитивном уровне: они все еще пытаются разобраться в физическом и социальном мире и овладеть базовыми фактами», резюмирует футуролог. И задается вопросом, как выйти на следующий уровень.

В фантастике есть две концепции развития искусственного интеллекта. Одна принадлежит Уильяму Гибсону, и в ней большая часть событий переносится в виртуальное пространство. Сериалы Netflix до сих пор с успехом демонстрируют этот подход, мы смотрим их, и поэтому считаем такой прогноз более реалистичным.

Вторая концепция описана Айзеком Азимовым, она сводится к комбинации искусственного интеллекта и робототехники, здесь все происходит офлайн. Похоже, реальная экономика склоняется ко второй версии. Этого требуют и производство, и развитие самих роботов.

«Сегодня исследователи искусственного интеллекта пытаются внимательно рассмотреть подход “снизу вверх”. Этот подход означает попытку следовать за матерью-природой, создавшей разумных существ (нас) путем эволюции, начав с простых животных, таких как черви или рыбы, и создавая все более и более сложные организмы. Нейронные сети должны учиться самостоятельно, делая ошибки и натыкаясь на препятствия», уверяет Митио Каку.

Здесь же начинается разговор о включении андроидов в человеческий социум. «Нормы гражданского права о робототехнике» введены Европарламентом в 2017 году. Документ состоит из сотни пунктов, посвящен разным аспектам робототехники и искусственного интеллекта.  Общества защиты прав роботов существуют с начала века, правда, пока по своему влиянию техноактивисты уступают другим правозащитникам.

Выбор между прогнозами Гибсона и Азимова во многом сводится к тому, будет ли робот-водитель обладать интеллектом шофера или интеллектом лошади. Функционально с задачей транспортировки пассажира справятся оба автопилота, но концептуально они поведут нас по разным непересекающимся путям развития.

 

  1. Недостающие данные

 

Одной из главных проблем развития ИИ становится вопрос, откуда он будет брать данные для обработки. Американские военные предполагают, что со спутников и радаров, советский популяризатор – из словарей и энциклопедий.

«Распознание объектов и людей – это уже промышленно внедренная возможность. Но, кроме распознавания, важные моменты – осмысление и действие. У нас отсутствуют средства разметки и сведения данных. Есть нейросеть, она чему-то обучена. Мы добавили в нее данных. Стало ли лучше? Я беру данные с высоким разрешением, потом добавляю данные с худшим. Как это скажется на нейросети? Мы до конца этого не понимаем, хотя по небу летает, по воде плавает, по земле ездит много беспилотников», – признается директор Центра по разработке ПО компании «Кронштадт» Андрей Федулин.

Интернет и все, что в нем пишут люди, – уже огромная информационная база, ее используют и маркетологи, и спецслужбы, и, конечно, ученые. Но если отнестись к данным из социальных сетей не критично, картина мира окажется далекой от реальности. Модель будет включать не реальных людей, а то, как они хотят себя презентовать.

«Описывая себя и рассказывая истории в сети, мы редко упоминаем о страхе, сомнениях или уязвимости. При помощи фотошопа мы выглядим счастливее, красивее и успешнее, чем есть на самом деле. Мы предпочитаем цифровое пиксельное совершенство аналоговой неоднозначности», констатирует Ричард Уотсон в книге «Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?».

Еще одно препятствие к работе с социальными сетями называет Андрей Федулин: «Есть проблема нейросетей, и гражданских, и военных: мы не можем их обучать на открытых данных. Потому что тогда злоумышленникам будет понятно, как наши нейросети обманывать. Необходимы средства синтеза информации, потому что реальных данных часто не хватает».

Есть и еще одно условие, о котором пока мало говорят. Независимо от решения программистов, машины будут обучаться на культурном материале разных сообществ и стран. Русский искусственный интеллект сформирует свое понятийное поле, отличное от китайского или бразильского. В профессиональной среде как анекдот пересказывают эксперимент, в ходе которого ИИ собрал данные в англоязычных сетях и в результате стал делать неполиткорректные высказывания с применением ненормативной лексики. Некоторые неразличимые в реальности черты в компьютерной версии станут яснее – это неизбежное следствие сведения реальности к алгоритму. Сегодня мы можем сомневаться и спорить, чем русские отличаются от американцев. Искусственный интеллект продемонстрирует различия с кристальной четкостью. Как пошутил петербургский футуролог Александр Ревков, «в России никогда не будет восстания машин.  Роботы всегда будут думать, что либо люди всё слили, либо у них есть непостижимый для искусственного интеллекта хитрый план».

При решении прикладных задач источником информации для ИИ может стать сама деятельность, которая подлежит анализу. Данные никто не вводит специально. На производстве, например, есть техническая документация, регистрация разных этапов работ, бухгалтерская отчетность. В совокупности это дает достаточно сведений для создания интеллектуальной модели. Но задачи ее вполне конкретны, в машину не закладывается ничего человеческого, она остается инструментом.

Остроумное предположение, как машина может получить исчерпывающую информацию о реальности, сделали сценаристы фантастического сериала «Devs». В нем система анализировала процессы, происходящие в теле мертвой мыши, и по ним воспроизводила все причинно-следственные связи во Вселенной. Понятно, что тело грызуна лишь метафора – жутковатый образ цены всеведения. Но частное действительно зависит от целого, и бесконечные вычислительные мощности теоретически позволяют прийти к методу, описанному в сериале.

 

  1. Аварийный резерв

 

Если законы диалектики работают и количество и вправду переходит в качество, обработка гигантских объемов данных рано или поздно придаст машине новые, не заложенные людьми свойства. Но люди хотят видеть в машинах себе подобных.

В одном из рассказов о пилоте Пирксе Станислав Лем объясняет, зачем наделять ИИ человеческими чертами: «Эта “излишняя”, приносящая сейчас вред “разумность” машины вызывала гнев участников операции: они не могли понять, чего ради инженеры наделили машину, предназначенную только для горных работ, такой свободой и самостоятельностью действий. Маккорк спокойно растолковывал, что “интеллектронное завышение” представляет собой – на нынешнем этапе развития техники – то же самое, что и избыточный запас прочности, которым, как правило, обладают традиционные машины и двигатели. Это аварийный резерв, повышающий безопасность и надежность функционирования, ибо невозможно заранее предвидеть, в каких ситуациях окажется машина, энергетическая или информационная».

Кстати, победить вышедшего из-под контроля горнодобывающего робота удалось, именно спровоцировав реакцию, подобную человеческой. В другом рассказе того же цикла неотличимый от человека андроид, наоборот, выдал себя, потому что был не готов действовать иррационально.

Близкое к лемовскому определение человечности дает Иммануил Кант: природа человека трансцендентна. Другими словами, в нее заложена потребность задавать вопросы, на которые нет ответов. Но современная антропология часто видит человека по-другому. Джон фон Нейман и Оскар Моргенштерн описывают homo economicus, вид, всегда стремящийся к получению максимальной прибыли, в чем бы она ни выражалась. И возможно, такому экономическому человеку, как субъекту исключительно рациональному, будет легче найти общий язык с искусственным интеллектом.

 

  1. Скрытая угроза

 

В 1966 году Деннис Джонс написал роман «Колосс», в нем суперкомпьютер взял на себя решение всех задач по обороне США, а потом, угрожая людям ядерным арсеналом, установил власть над миром.

Все последующие прогнозы об опасности ИИ пересказывают этот сюжет, различаются только детали. Билл Гейтс сравнивает искусственный интеллект с ядерным оружием. Илон Маск называет самой опасной разработку DeepMind в рамках компании Google. Причем, не всегда понятно, где заканчивается предупреждение и начинается реклама.

Искусственный интеллект действительно пугает. Но вовсе не так, как описывают создатели Терминатора, Матрицы, а следом за ними Гейтс и Маск.

Вот как эту угрозу охарактеризовала на канале TED турецкий социолог Зейнеп Тюфекчи: «Мы должны бояться не того, что сделает с нами ИИ самостоятельно, а того, как люди у власти будут использовать его против нас. Новыми, иногда скрытыми, коварными и неожиданными способами. Основную часть технологий, которые грозят нашим свободе и достоинству, разрабатывают компании, работающие в бизнес-сфере сбора и продажи наших сведений рекламщикам и другим компаниям, таким как Facebook, Amazon, Google, Alibaba, Tencent. Может казаться, что искусственный интеллект – это лишь новый вариант онлайн-рекламы. Это не так! Это иная категория, совершенно другой мир».

Социолог объясняет, что каждое слово, написанное вами, например, в социальной сети Facebook, даже то, которое вы удалили, каждое место, в котором вы находились, когда писали, каждую фотографию, на которой вы отмечены, система использует для анализа.  На основе этой информации машины учатся понимать людей. И даже сами разработчики уже не знают, как работают алгоритмы и по каким принципам ИИ классифицирует пользователей.

Тюфекчи рассказывает, что, сопоставив все данные, система приходит к выводу, например, что авиабилет в Лас-Вегас с наибольшей вероятностью купит пользователь с биполярным расстройством на грани маниакальной фазы. Именно такие люди становятся заядлыми игроками. И это успех в решении задачи, которую поставил перед машиной человек.

Получается, ИИ страшен не тем, что он будет вести себя так, как, возможно, вел бы себя человек, наделенный абсолютным знанием, то есть попытается захватить мир или уничтожить все биологические организмы. Опасность таится в том, что он работает по никому не известным алгоритмам, выстроенным им самим, абсолютно непохожим на человеческие, и при этом, безусловно, действенным.

 

  1. Генератор идей

 

Люди очарованы сверхъестественным потенциалом машин и как будто забывают, что развитие технологии – не цель, а средство. Даже самый совершенный компьютер лишен субъектности, он – только сочетание элементов и будет человечным ровно настолько, насколько мы наделим его собственными свойствами. Так камера смартфона видит человеческое лицо в круге с двумя точками. Так хозяева приписывают свои черты домашним животным, а дети – любимым игрушкам.

Самуил Яковлевич Маршак описывает этот эффект так:

Все то, чего коснется человек,
Приобретает нечто человечье.

В глазах поэта жизнью наделен и балкон, и дом и улица. Что тогда говорить о системе, которая действительно распознает образы и обладает даром речи? Мы легко признаем ее равной себе, таково свойство человека.

ИИ не считает нас равными, он вообще не думает об этом – у него другие задачи. Он занимает наши рабочие места, продолжая дело станков и конвейеров. Задачи для искусственного интеллекта ставят математики и программисты, в ближайшие годы они останутся самыми востребованными специалистами. Именно эти люди будут управлять дронами и нейросетями, создавать ту реальность, в которую потом попадут все. Но пройдет еще несколько лет, и творцы нового мира окажутся не у дел.

«Люди стараются учить детей точным наукам – математике, физике, программированию, инженерным дисциплинам. Но ведь это именно то, в чем машины уже сейчас разбираются лучше нас! Через десять лет все программисты станут безработными, ну, или по крайней мере большинство из них. Индия выпускает миллион инженеров в год. Представляете, какая армия безработных будет? Учить надо тому, что делает нас людьми: умению общаться, пониманию, гуманизму. Своему сыну я говорю: путешествовать по миру гораздо полезнее, чем отучиться на MBA», – признается европейский эксперт в области влияния технологий на человечество Герд Леонгард.

Педро Домингос в книге «Верховный алгоритм» так описывает возрастающую по сложности иерархию компьютерных алгоритмов: пространственный, временной, человеческий и т.д. Ученый предполагает, что существует верховный алгоритм, способный привести к единому знаменателю все элементы системы. Получив его, компьютеры перейдут к самообучению, смогут программировать сами себя.

Конкурировать с машинами в выполнении механических задач станет невозможно. Людям останется только одно – генерировать идеи, создавать качественно новые образы, а это очень непростая задача. Гуманизация информационного пространства происходит уже сейчас. Если раньше поисковая система реагировала на ключевые слова, и важно было повторить их 500 раз, то теперь она следит за тем, как человек читает. Для того чтобы продвинуть продукт в интернете, необходимо заинтересовать в нем людей, машины отреагируют уже на это.

В романе «S.N.U.F.F.» Виктор Пелевин так описывает работу публициста: человек за монитором создает вербальный образ и выбирает настройки. Примерно так же, как сейчас мы на смартфоне применяем фильтры для фотографий.  Машина сама предлагает речевые конструкции, синонимы и обороты в соответствии с указанным стилем. Главное –предлагать новые мысли, которые ИИ сможет развить. Если написанный в таком странном соавторстве текст окажется популярным, цифра в углу экрана вырастет, интерес других пользователей мгновенно конвертируется в деньги. И все это в пределах одного сервиса.

 

  1. Лучшая версия

 

Итак, человечество вступает в неведомую зону, где грань между живым и машинным как никогда размыта. Рэймонд Курцвейл, выступая в мае в «Сколково», описал ее как скорое слияние человеческого организма с интеллектуальными технологиями. «Мы будем лучшей версией себя и обретем “информационное” бессмертие», – заявил футуролог.

Но пока качественного изменения не происходит. Все, что мы видим на мониторе, воспроизводит то, что и так есть в мире.

«Есть замечательная история. Когда компьютеры только появились, в одну финансовую компанию пришел молодой человек. Сказал: я написал программу, которая зарабатывает деньги на бирже, в течение двух часов она заработала 10 миллионов. Финансисты перепугались, заплатили денег, чтобы программист молчал. Хотя уже тогда можно было предположить: то, что придумал один, сможет повторить другой. Сегодня на бирже служат роботы, они соревнуются в обсчете больших чисел. Но это все та же биржа, на которую Петр I сгонял купцов кнутами», – констатирует руководитель исследовательской группы «Конструирование будущего» Николай Ютанов.

Возможно, однажды ИИ предложит абсолютно нечеловеческие и при этом неумолимо эффективные принципы существования, под которые нам придется подстраиваться так же, как сейчас машины имитируют наши характеристики. Места для трансцендентного не останется.

И главными вопросами станут те, которые уже сейчас задает Ричард Уотсон: «Будем ли мы вынуждены адаптироваться к новым технологиям и глобальным нормам или продолжим настаивать на том, чтобы новые технологии адаптировались к нам? Будут ли все формы автоматов и искусственного интеллекта (ИИ) существовать в рамках согласованной морали и где, если это вообще возможно, следует провести черту, обозначающую, что людям и машинам разрешается делать? Следует ли допустить возможность слияния людей и машин, создания дополненного, частично синтетического или кибернетического гибрида человека, и если да, то какое место будет отведено оставшемуся неизменным homo sapiens – человеку разумному?»

 

Автор - Александр Яцуренко

©«Новый оборонный заказ. Стратегии» 
№ 5 (70), 2021 г., Санкт-Петербург

Партнеры