Лейденский университет выложил бесплатный учебник по ИИ-агентам на 472 страницы

9 октября на arXiv вышел учебник по ИИ-агентам «Agentic Large Language Models». Её написали четыре исследователя из Лейденского университета: Макс ван Дёйн, Михил ван дер Мер, Аске Плат и Ники ван Штейн. В ней 472 страницы, а распространяется она под лицензией CC0, поэтому текст можно свободно копировать, переводить и брать в свои курсы. Это полный учебник магистерского курса, который авторы читают студентам направлений Computer Science и Creative Intelligence & Technology.

Аске Плат известен книгами о глубоком обучении с подкреплением, и его почерк здесь хорошо заметен. Материал идёт от основ к переднему краю исследований, почти каждая тема снабжена псевдокодом, ссылками на статьи и репозитории, а теорию закрепляют практические задания.

Агент = модель + обвязка

Авторы определяют агентную LLM простой формулой: языковая модель плюс harness, то есть обвязка. Так называют код вокруг модели, который собирает промпты, разбирает ответы, вызывает внешние инструменты, хранит состояние, управляет системным промптом и навыками. Обвязка сама крутит цикл «подумал, сделал, посмотрел на результат», и человеку не нужно вмешиваться на каждом шаге. В книге её сравнивают с конской упряжью, которая направляет силу животного в полезную сторону, и называют автоматическим промпт-инженером. Тому, кто писал свой цикл в духе ReAct или собирал агентов на готовых фреймворках, формулировка покажется очевидной, но она помогает навести порядок в зоопарке современных инструментов.

Что внутри

Книга разбита на семь частей. Первая посвящена языковому моделированию: токенизация, эмбеддинги, механизм внимания, весь пайплайн обучения от сбора данных до выравнивания, законы масштабирования, маленькие модели и энергопотребление. Вторая рассказывает о рассуждениях: chain of thought, саморефлексия, мультимодальные модели, vision-language-action модели для роботов, модели мира и метаобучение.

Третья часть описывает историю агентов в ИИ, стили взаимодействия и архитектуры памяти. Четвёртая самая прикладная: инструменты, фреймворки и API, RAG и поиск свежей информации, разбор реальных ассистентов для покупок, медицины, трейдинга и научной работы. Пятая смотрит на агентов глазами когнитивных наук и изучает, как LLM ведут себя в контролируемых экспериментах, как распределяются роли в мультиагентных системах и какое коллективное поведение у них возникает. В шестую вынесены продвинутые темы: генерация синтетических данных, сложные агентные архитектуры, механистическая интерпретируемость и когнитивный взгляд на агентов. Седьмая часть подводит итог и обсуждает, куда движется область.

Четыре практических кейса

Практикам больше всего пригодятся четыре кейса. В Лейдене именно они составляют всю оценку за курс, отдельного экзамена по теории там нет. В первом кейсе нужно обучить трансформер с нуля, и среди рекомендованных ресурсов есть nanochat Андрея Карпатого. Во втором предлагают собрать агента с саморефлексией, который решает головоломки и игры из бенчмарка BALROG. В третьем строится мультиагентная система медицинской диагностики, и авторы прямо пишут, что одна из целей задания показать её слабые места, чтобы читатель никогда слепо не доверял медицинским советам агента. Четвёртый кейс посвящён симуляции обществ из LLM-агентов.

Агенты как источник данных

Через всю книгу проходит идея, которая касается будущего самих моделей. Интернет как источник данных для предобучения почти исчерпан, и авторы ссылаются здесь на Илью Суцкевера. Агенты могут закрыть этот пробел: действуя в мире, они порождают новые траектории, на которых модель можно дообучать. Так уже учатся VLA-модели на последовательностях действий роботов, и похожим образом сообщества агентов становятся умнее через взаимодействие друг с другом. Получается цикл самоулучшения из рассуждений, действий и взаимодействия. Вместе с этим центр тяжести в LLM-инженерии смещается от обучения на этапе тренировки к обучению во время инференса, и подходы вроде Reflexion хорошо это показывают.

Кому подойдёт учебник по ИИ-агентам

Порог входа авторы обозначили открыто. Желательно знать Python и PyTorch, основы машинного обучения и нейросетей, обратное распространение ошибки, базовый RL вплоть до PPO и SAC, а также понимать токенизацию, внимание и экосистему Hugging Face. В книге есть краткие обзоры всех этих тем, так что читать можно и без полного багажа, держа под рукой Джурафски и Мартина по NLP или Саттона и Барто по обучению с подкреплением.

Курс рассчитан на 14 лекций, и авторы предлагают несколько маршрутов. Тем, кто строит ассистентов, хватит второй, третьей и четвёртой частей с кейсами 2 и 3. Тем, кого интересуют социальные симуляции, подойдут вторая, третья и пятая части с кейсами 2 и 4. Слайды лекций, задания и новости лежат на сайте курса agenticllms.liacs.nl.

Книгу можно скачать в PDF или читать в HTML-версии на arXiv.