Технология. Общий ИИ (AGI)

В начале 2024 года компания OpenAI заявила о создании исследовательской группы, ориентированной на разработку искусственного общего интеллекта (Artificial general intelligence, AGI), что вновь подогрело интерес к этой теме в научном и общественном дискурсе. AGI считается «святым Граалем» в сфере искусственного интеллекта: системой, способной мыслить, обучаться и решать задачи на уровне (или выше) человеческого интеллекта.

 В условиях стремительного роста вычислительных мощностей и развития нейросетевых архитектур, вопрос о возможности и последствиях появления AGI становится как никогда актуальным. Дискуссии об этике, контроле и потенциальных сценариях развития этой технологии уже перешагнули границы научного сообщества и стали частью глобального общественного диалога.

Технология

Общий искусственный интеллект – это гипотетическая форма искусственного интеллекта, обладающая универсальными когнитивными способностями, сравнимыми с человеческим умом. В отличие от узкого ИИ (например, алгоритмов распознавания лиц или чат-ботов), AGI способен самостоятельно обучаться, адаптироваться к новым условиям и решать широкий спектр задач, не ограничиваясь заранее запрограммированными сценариями.

AGI должен уметь:

• Обобщать знания из разных областей.
• Решать задачи, которые раньше не встречал.
• Принимать решения в условиях неопределенности.
• Проявлять «сознание», «интуицию» или «намерения».

Концепция тесно связана с вопросами философии сознания, нейронаук, когнитивной психологии и компьютерных наук. Хотя в настоящее время AGI еще не достигнут, его появление, по мнению некоторых экспертов, возможно уже в ближайшие десятилетия. Это вызывает как надежды на колоссальный прорыв, так и опасения относительно утраты контроля над системой, которая может выйти за пределы человеческого понимания.

Короче... Общий искусственный интеллект (AGI) — это универсальный ИИ, способный мыслить, учиться и решать любые интеллектуальные задачи на уровне человека или выше. В отличие от специализированных ИИ-систем, AGI не ограничен одной сферой и может применять знания в разных контекстах.

А как еще?

Хотя настоящего AGI еще не существует, его функциональные аналоги реализуются через:

• Человеческий мозг – на сегодня единственный универсальный интеллект с подобными возможностями.
• Комбинации специализированных ИИ – системы, объединяющие несколько узкоспециализированных моделей могут приближаться к функциональной гибкости AGI.
• Интерфейсы «мозг-компьютер» – проекты типа Neuralink, соединяющие мозг с компьютером, позволяют передавать сложную информацию напрямую, расширяя когнитивные возможности.
• Метасистемы управления – «ИИ над ИИ»: платформа, координирующая работу множества ИИ-систем для достижения общей цели.

Кто?

Термин «Artificial General Intelligence» вошел в обиход относительно недавно, но его корни восходят к идеям Алана Тьюринга, предложившего в 1950 году концепцию машины, способной «думать». Термин, сопряженный с AGI – Сильный искусственный интеллект был описан американским философом Джоном Серлом в 1980 году как: «соответствующим образом запрограммированный компьютер с нужными входами и выходами и будет разумом, в том смысле, в котором человеческий разум — это разум». Само выражение «общий ИИ» активно начало использоваться с 2000-х годов, в том числе благодаря работам Бена Герцеля — философа и исследователя, который считается одним из первых, системно определивших и популяризировавших понятие AGI.

Источники:

• Бен Герцель, Кассио Пенначин Общий искусственный интеллект, 2007
• Бен Герцель Искусственный интеллект общего назначения: концепция, современное состояние и перспективы на будущее, 2014
• Себастьян Бубек Искры общего искусственного интеллекта, 2023

Цитата

Трудно объективно измерить прогресс в направлении общего ИИ, поскольку существует много разных путей и нет полной и систематической теории AGI. Сегодняшние представления о нем – это скорее лоскутное одеяло из пересекающихся концепций, фреймворков и гипотез, которые часто являются синергетическими, а иногда и взаимно противоречат друг другу

Бен Герцель, философ и исследователь

+ Как и любая технология ИИ, общий ИИ призван стать инструментом для автоматизации рутинных задач, однако на уровне, сопоставимом с человеческим. Это может ускорить прогресс в решении ряда глобальных задач в самых разных сферах от экономики до медицины. К его плюсам относят универсальность, поскольку одна модель AGI может заменить собой сразу несколько узкоспециализированных систем, а также непрерывный цикл самообучения, предполагающий постоянное улучшение и адаптацию к новым условиям, что будет способствовать сохранению актуальности.

- В то же время эксперты выказывают опасения, поскольку креативность таких моделей с одной стороны означает непредсказуемость с другой. Из этого тезиса также проистекает риск потери контроля над такой моделью в случае, если ИИ выработает собственную цель, не соответствующую интересам человека. Традиционно для таких технологий без ответа остаются этические вопросы: «Кто несет ответственность за действия AGI?», «Может ли модель иметь права?» и другие.

= Общий искусственный интеллект —  в потенциале мощнейший инструмент, который способен радикально изменить человеческое общество, имеющий, однако свои плюсы и минусы. Развитие AGI требует не только научного прогресса, но и широкого этического консенсуса, надежных систем контроля и прозрачных глобальных правил. В этом смысле, вопрос не в том, «нужен ли нам AGI?», а в том, как мы научимся с ним сосуществовать.