Вне

Мы видим, как ИИ быстро развивается. Это больше не просто построить одну супер-разветвующую модель. Истинная сила и захватывающий предел заключается в получении нескольких специализированных агентов ИИ для сотрудничества. Думайте о них как о команде опытных коллег, каждая из которых со своими собственными навыками – один анализирует данные, другой взаимодействует с клиентами, третий управляет логистикой и так далее. Получение этой команды прекрасно сотрудничать, как предсказывалось различными промышленными дискуссиями и включенными современными платформами, – это место, где происходит магия.

Но давайте будем реальными: координировать кучу независимых, иногда странных, ИИ -Агенты ЖесткийПолем Это не только строит свежие отдельные агенты; Это беспорядочный средний бит – оркестровка, которая может делать или сломать систему. Когда у вас есть агенты, которые доверяют друг другу, действуют асинхронно и могут потерпеть неудачу независимо, вы не только создаете программы; Вы делаете сложный оркестр. Здесь вступают надежные архитектурные проекты. Нам нужны шаблоны, предназначенные для надежности и масштабирования сразу с самого начала.

Проблема узел агента

Почему оркестровые многоактивные системы такая проблема? Ну для начинающих:

1. Они независимы: В отличие от функций, вызванных программой, агенты часто имеют свои внутренние кудри, цели и государства. Они не просто ожидают терпеливо инструкций.
2. Общение сложное: Это не просто агент агента B. Агент или власть, чтобы выпустить информацию об информационных C и D, в то время как агент B ждет сигнала E, прежде чем сообщать что -то F.
3. Они должны иметь общий мозг (состояние): Как они все согласны с «правдой» того, что происходит? Если агент обновления записи, как известно агенту B Надежно И быстро? Пустая или противоречивая информация – убийца.
4. Неудача неизбежна: Агент вылетает. Сообщение потеряно. Внешний сервисный звонок. Когда одна часть системы падает, вы не хотите, чтобы все это измешивалось или, что еще хуже, делала неправильную вещь.
5. Последовательность может быть трудной: Как вы гарантируете, что сложный многоэтапный процесс, включающий несколько агентов, фактически достигает действительного окончательного состояния? Это нелегко, когда операции распределены и асинхронно.

Проще говоря, сложность комбинации взрывается, пока вы добавляете больше агентов и взаимодействий. Без твердого плана отладка становится кошмаром, а система кажется хрупкой.

Выбор вашей оркестровой игровой книги

Когда вы решаете, что агенты координируют свою работу, пожалуй, самый фундаментальный архитектурный выбор. Вот несколько кадров:

• Водитель (иерархический): Это как традиционный симфонический оркестр. У вас есть главный оркестр (водитель), который диктует поток, рассказывает конкретные агенты (музыканты) при исполнении своего произведения и присоединяется к нему.
  • Это позволяет: четкие рабочие процессы, выполнение легко прослеживается, прямое управление; Это проще для меньших или менее динамичных систем.
  • Внимание: водитель может стать бутылкой или одной точкой отказа. Этот сценарий менее гибкий, если вам нужны агенты, чтобы динамически реагировать или работать без постоянного наблюдения.
• Ансамбль джаззаза (федеральный/децентрализованный): Здесь агенты координируются более напрямую друг с другом на основе общих сигналов или правил, а также музыкантов в джаз -группе, импровизирующих на основе признаков друг друга и общей темы. Там могут быть общие ресурсы или потоки событий, но нет управления центральным боссом каждой ноты.
  • Это позволяет: сопротивление (если один музыкант останавливается, другие могут продолжаться), масштабируемость, адаптация к изменяющимся условиям, более появляющееся поведение.
  • Что учитывать: может быть труднее понять общий поток, очистка затруднена («почему этот агент сделал это Затем? ”) И для обеспечения глобальной последовательности требуется тщательный проект.

Многие реальные многоагентные системы (MAS) в конечном итоге становятся гибридным усовершенствованным оркестром, который подготовил почву; Затем группы агентов в рамках этой структуры координируются в дезинтестинстве.

Управление коллективным мозгом (разделенным состоянием) ИИ -Агентов

Чтобы агенты могли эффективно сотрудничать, им часто нужен общий взгляд на мир или, по крайней мере, заинтересованные в их работе. Это может быть текущее состояние заказа клиентов, общие знания -база информации о продукте или коллективный прогресс на цель. Сохранять этот «коллективный мозг» последовательным и доступным между распределенными агентами сложно.

Архитектурные закономерности, которые мы поддерживаем:

• Центральная библиотека (централизованная база знаний): Одно, авторитетное местоположение (например, база данных или выделенные знания -сервис), где все общая информация в прямом эфире. Агенты проверяют книги (читай) и верните их (написать).
  • Pro: единственный источник истины, легче выполнить последствия.
  • CON: Может быть забит запросами, возможно, замедляет вещи или становятся задохнувшейся точкой. Должно быть серьезно надежным и масштабируемым.
• Распределенные примечания (распределенный кэш): Агенты поддерживают местные копии часто необходимой скорости, поддерживаемой Центральной библиотекой.
  • Pro: читать быстрее.
  • CON: Как узнать, обновлена ​​ли ваша копия? Отмена и последовательность кэша становятся значительными архитектурными головоломками.
• Кричать обновления (передача сообщения): Вместо того, чтобы агенты постоянно спрашивали библиотеку, библиотека (или другие агенты) кричат: «Он, эта информация изменилась!» по сообщениям. Агенты слушают обновления, о которых они заботятся, и обновляют свои собственные заметки.
  • Должны: агенты сносят, что подходит для шаблонов, управляемых событием.
  • CON: чтобы убедиться, что каждый получает сообщение и обрабатывает его правильно, добавляет соучастие. Что если сообщение потеряно?

Правильный выбор зависит от того, насколько важна вторая согласованность, в отношении того, сколько активности вам нужно.

Строительство для того, когда предметы неверны (ошибочная обработка и восстановление)

Это не в том случае, если агент терпит неудачу, это когда. Ваша архитектура должна предвидеть это.

Учитывать:

• Рейнджерс (обзор): Это означает наличие компонентов, чья работа – просто наблюдать за другими агентами. Если агент тихо или начинает действовать странно, охранник может попытаться перезапустить его или указать на систему.
• Попробуйте еще раз, но будьте интеллектуальны (испытания и идентичность): Если действие агента терпит неудачу, оно часто приходится просто пытаться снова. Но это работает только в том случае, если действие идеально. Это означает, что сделать его пять раз иметь тот же результат, что и сделать это один раз (например, настройка значения, не увеличивайте его). Если действия не являются идентифицированными, восстановление может вызвать хаос.
• Очистки массы (компенсация): Если агент А сделал что -то успешно, но агент B (позже шаг в процессе) не удалось, вам может потребоваться «отменить» работу агента A. Шаблоны, когда стрелки помогают координировать эти многоэтапные рабочие процессы компенсации.
• Зная, где вы находитесь (рабочий процесс): Сохранение постоянного протокола общего процесса помогает. Если система снижается в середине рабочего потока, она может забрать с последнего известного хорошего шага, а не начинать.
• Строительство брандмауэров (цепь и набухание): Эти шаблоны предотвращают сбой в одном агенте или перегрузке или разбивании других, содержащих урон.

Чтобы убедиться, что работа выполнена правильно (последовательное выполнение задачи)

Даже с помощью отдельного агента, вам нужна уверенность в том, что вся кооперативная задача заканчивается правильно.

Учитывать:

• Атомные операции: Хотя истинные кислотные транзакции сложны с распределенными агентами, вы можете нарисовать рабочие процессы, чтобы вести себя как можно ближе к атомным, с такими моделями, как стрелки.
• Дневник неизменного (предоставление событий): Зарегистрируйте все существенные действия и изменение состояния в качестве события в неизменном журнале. Это дает вам идеальную историю, облегчает государственную реконструкцию и отлично подходит для аудита и отладки.
• Согласитесь с реальностью (согласием): Для критических решений вам могут понадобиться агенты, чтобы согласиться, прежде чем продолжить. Это может включать в себя простые механизмы голосования или более сложные распределенные алгоритмы консенсуса, если уверенность или координация особенно сложны.
• Проверка работы (проверка): Встройте шаги в свой рабочий процесс, чтобы проверить результат или статус после того, как агент завершит свою работу. Если что -то выглядит не так, запустите примирение или правильный процесс.

Лучшая архитектура нуждается в правильной основе.

• Почтовое отделение (сообщения о хвостах/брокерах, таких как Kafka или Rabbitmq): Это абсолютно важно для взаимосвязанных агентов. Они отправляют сообщения в хвост; Агенты, заинтересованные в этих сообщениях, забирают их. Это обеспечивает асинхронную связь, обрабатывает трафик и является ключевым для устойчивых распределенных систем.
• Общий архивный шкаф (магазины знаний/базы данных): Здесь живет ваше общее состояние. Выберите «Правильный тип» (связанный, nosql, график) на основе вашей структуры данных и шаблонов доступа. Это должно быть полезно и очень доступно.
• Рентгеновский аппарат (наблюдаемые платформы): Записи, метрики, отслеживание – вам это нужно. Отладка распределенных систем особенно сложно. Возможность точно увидеть, что делал каждый агент, когда и как они взаимодействовали, не подлежит обсуждению.
• Каталог (реестр агентов): Как агенты находят друг друга или обнаруживают необходимые им услуги? Центральный реестр помогает управлять этой сложностью.
• Игровая площадка (контейнер и оркестровка как Kubernetes): Вот как вы на самом деле разворачиваете, управляете и масштабируете все эти отдельные агенты.

Как агенты болтают? (Параметры протокола связи)

То, как говорят агенты, влияет на все, от действия до того, насколько они тесно.

• Ваш стандартный телефонный звонок (REST/HTTP): Это просто, работает везде и полезно для основного запроса/ответа. Но это может показаться немного разговорчивым и может быть менее эффективным для высокого объема или сложных структур данных.
• Структурированная конференц -телефон (GRPC): Это использует эффективные форматы данных, поддерживает различные типы вызовов, включая потоковую передачу и является типовым. Это отлично подходит для действий, но требует определения контрактов на обслуживание.
• Доска объявлений (хвосты сообщений – протоколы, такие как AMQP, MQTT): Агенты публикуют сообщения по темам; Другие агенты подписываются на темы, которые их заботятся. Это асинхронные, очень масштабируемые и полностью украшающие рецепторы.
• Прямая линия (RPC – менее частая): Агенты требуют функций непосредственно от других агентов. Это быстро, но создает очень тесную связь – агент должен точно знать, кого они называют и где они находятся.

Выберите протокол, который соответствует интерактивному шаблону. Это прямой запрос? Вещательное событие? Поток данных?

Собрать все

Строительство надежных, масштабируемых многоактивных систем-это не поиск волшебной пули; Речь идет о выборе интеллектуального архитектурного выбора на основе ваших конкретных потребностей. Будете ли вы сгибаться более иерархическим для контроля или федерации для сопротивления? Как вы будете управлять этим основным общим статусом? Каков ваш план, когда (не если) агент падает? Какая инфраструктура не подлежит обсуждению?

Это сложно, да, но концентрируя эти архитектурные планы – оркестровые взаимодействия, управление общими знаниями, сбой планирования, обеспечение последствий и основы на основе твердой фонда инфраструктуры – вы можете приручить сложность и построить надежные, интеллектуальные системы, которые будут продвигать следующую волну Enterprise AI.

Нихил Гупта – руководитель управления производством ИИ/управление персоналом в AtlassianПолем