Microsoft випустила фреймворк для спілкування мовних моделей
Агенти LLM — це гаряча область досліджень та розробок. Взаємодіючи один з одним агенти можуть використовуватися в різних завданнях, включаючи розробку продуктів, моделювання масової поведінки і створення персонажів в іграх. Але залишаються проблеми з галюцинаціями та непередбачуваною поведінкою. Тим не менш, великі технологічні компанії роблять ставку на використання агентів LLM у майбутніх додатках та операційних системах. Так, Microsoft випустила власну бібліотеку Python з відкритим вихідним кодом, яка називається AutoGen, щоб брати участь у гонці за створення фреймворків додатків для LLM.
AutoGen — це «фреймворк для спрощення оркестрації, оптимізації та автоматизації робочих процесів LLM». Основною ідеєю AutoGen є створення «агентів», які є програмними модулями, що працюють на основі LLM, таких як GPT-4. Ці агенти взаємодіють один з одним через природно-мовні повідомлення для виконання різних завдань. Агентів можна налаштовувати та доповнювати за допомогою методів швидкого проектування та зовнішніх інструментів, які дозволяють їм отримувати інформацію або виконувати код. За допомогою AutoGen розробники можуть створити екосистему агентів, що спеціалізуються на різних завданнях та взаємодіють один з одним.
Кожен агент можна розглядати як окремий сеанс ChatGPT зі своєю унікальною системною інструкцією. Наприклад, одному агенту можна доручити діяти як помічник із програмування, який генерує код Python на основі запитів користувача. Інший агент може бути рецензентом коду, який усуває неточності в ньому. Відповідь від першого агента потім може бути передана як вхідні дані другому агенту. Деякі з цих агентів можуть навіть мати доступ до зовнішніх інструментів, подібно до плагінів ChatGPT, таких як Code Interpreter або Wolfram Alpha.
Мультиагентні програми можуть бути повністю автономними або модерованими за допомогою «живих проксі-агентів», які дозволяють користувачам втручатися в діалог між агентами ІІ, виступаючи ще одним голосом і контролюючи процес.
У певному сенсі користувач-людина перетворюється на лідера групи, який контролює команду з кількох ІІ. Це корисно для додатків, де структура агента повинна приймати конфіденційні рішення та вимагати підтвердження від користувача, наприклад, при здійсненні покупок або надсилання електронних листів.
AutoGen надає необхідні інструменти для створення цих агентів та забезпечення їхньої автоматичної взаємодії. Його можна використовувати з відкритим вихідним кодом ліцензії. Модульна архітектура AutoGen дозволяє розробникам створювати багаторазові компоненти загального призначення, які можна збирати разом для швидкого створення додатків користувача. Декілька агентів AutoGen можуть співпрацювати для виконання складних завдань. Наприклад, агент-людина може запросити допомогу в написанні коду для конкретного завдання.
Агент-помічник з кодування генеруватиме і повертатиме код, який потім користувальницький ІІ-агент може перевірити за допомогою модуля виконання коду. Разом два ІІ-агенти можуть потім усунути неполадки в коді і створити остаточну версію, при цьому користувач-людина зможе перервати роботу або надати зворотний зв’язок у будь-який момент.
Такий спільний підхід значно підвищить ефективність. За даними Microsoft, AutoGen прискорить написання коду вчетверо.
AutoGen також підтримує складніші сценарії та архітектури, такі як ієрархічне розташування агентів LLM. Наприклад, агент менеджера групового чату може модерувати розмови між кількома користувачами та агентами LLM та передавати повідомлення між ними відповідно до набору правил.
Область програм LLM швидко розвивається, і Microsoft AutoGen конкурує з іншими інструментами. LangChain — це платформа для створення різних типів програм LLM, від чат-ботів до суматорів тексту та агентів. LlamaIndex пропонує багаті інструменти для підключення мовних моделей до зовнішніх джерел даних, таких як документи та бази даних. ChatDev використовує LLM агентів для імітації роботи всієї команди розробників програмного забезпечення. А бібліотека Transformers Agents компанії Hugging Face дозволяє розробникам створювати діалогові програми, які підключають LLM до зовнішніх інструментів.
