Роман Душкин | Искусственный интеллект. Современный агентный подход (2026) [PDF]

Оглавление
О чем расскажет эта книга.......................................................................7
Об авторе...............................................................................................8
Введение................................................................................................9
Глава 0. От компонентов к системе: анатомия
интеллектуального агента...................................................................... 19
0.1. Генеративные модели:
рождение синтетического мышления........................................................20
От дискриминативных к генеративным моделям......................................20
Трансформеры: архитектура, изменившая мир.........................................20
БЯМ: от текста к универсальному интерфейсу...........................................21
Мультимодальность: агенты воспринимают мир целостно...........................22
Ограничения генеративных моделей:
где им нужна помощь...................................................................................22
Мостик к агентам...........................................................................................23
0.2. Метакогнитивная промпт-инженерия:
система управления разумом модели..............................................................23
От простого промптинга к метакогниции...................................................23
Chain-of-Thought: визуализация рассуждений...........................................24
ReAct: цикл «размышление → действие».....................................................24
Метакогнитивные техники: инструментарий саморегуляции...........................25
Цикл метакогнитивного агента....................................................................26
Ограничения метакогнитивного промптинга.................................................27
0.3. RAG-системы: органы восприятия агента................................................27
Проблема параметрических знаний............................................................27
Архитектура RAG: retriever + generator........................................................28
Векторные базы данных и семантический поиск.......................................29
Гибридный поиск и ранжирование..............................................................29
От наивного RAG к агентному......................................................................30
Инструментализация: RAG как часть экосистемы......................................30
Качество данных: мусор на входе – мусор на выходе.................................31
Ограничения RAG: когда данных слишком много......................................31
Мостик к агентам......................................................................................31
ЧАСТЬ I. ОСНОВЫ АГЕНТНОГО ПОДХОДА................................................... 35
Глава 1. Агенты в искусственном интеллекте............................................. 36
Глава 2. Архитектурные принципы построения агентов............................... 45
Глава 3. Агенты и многоагентные системы.................................................. 57
ЧАСТЬ II. ПРОЕКТИРОВАНИЕ АГЕНТНЫХ СИСТЕМ......................................... 71
Глава 4. Инструменты и их интеграция....................................................... 72
4.1. Ландшафт инструментов для агентов на основе БЯМ.............................73
4.2. Архитектурные паттерны интеграции инструментов................................77
4.3. Практическая реализация: пример агента с инструментальной
интеграцией..................................................................................................80
Глава 5. Планирование действий и их выполнение.......................................... 90
5.1. Цикл ReAct – от мысли к действию............................................................90
5.2. Планирование, декомпозиция и управление зависимостями.......................94
5.3. Реализация ReAct-агента на языке Python................................................98
Глава 6. Управление состоянием и память.....................................................103
6.1. Краткосрочная и долгосрочная память – архитектурные принципы...........104
6.2. Агентная память и динамическое управление знаниями...........................107
6.3. Метакогнитивная память в многоагентных системах – совместное
использование знаний..................................................................................110
6.4. Реализация агента с многоуровневой памятью.....................................113
Глава 7. Руководство для разработчиков....................................................118
7.1. Принципы разработки агентов................................................................118
7.2. Паттерны проектирования агентных систем..........................................122
Паттерны создания целей...........................................................................123
Паттерны оптимизации промптов и ответов...............................................124
Паттерны расширения контекста..............................................................125
Паттерны рефлексии и самоконтроля.......................................................125
Паттерны сотрудничества между агентами..............................................126
Паттерны безопасности и соответствия....................................................128
Паттерны управления инструментами и агентами..................................128
Паттерны планирования и выполнения....................................................130
Паттерны взаимодействия с моделью.......................................................131
Применение паттернов: модель принятия решений...................................133
ЧАСТЬ III. КОНТРОЛЬ КАЧЕСТВА И БЕЗОПАСНОСТЬ...................................137
Глава 8. Метрики качества.......................................................................138
8.1. Перечень метрик качества агентов.....................................................138
Метрики итоговых результатов..................................................................139
Метрики промежуточного поведения.......................................................140
Метрики производительности...................................................................140
Метрики надёжности и безопасности........................................................141
Метрики многоагентных систем................................................................142
Метрики пользовательского опыта............................................................142
Специфические метрики для отдельных задач........................................142
8.2. Программная реализация контроля метрик качества...........................143
Глава 9. Принципы тестирования агентов................................................151
9.1. Функциональное тестирование – проверка корректности
выполнения задач................................................................................152
Юнит-тестирование компонентов агента.................................................152
Интеграционное тестирование взаимодействия с инструментами..............153
Сквозное тестирование полного пользовательского пути.......................154
Регрессионное тестирование...............................................................156
Оценка через сравнение с эталонами и механизм «БЯМ как судья».......157
9.2. Тестирование надёжности – устойчивость к ошибкам
и нештатным ситуациям........................................................................159
Симуляция отказов инструментов и внешних зависимостей.................159
Тестирование восстановления после ошибок...........................................160
Тестирование на противоречивых и неполных данных...........................162
Автоматизированное внедрение ошибок.................................................162
Итеративное улучшение на основе результатов тестирования...............163
9.3. Тестирование безопасности – защита от враждебных атак
и утечек данных....................................................................................164
Инъекции промптов и защита от них........................................................164
Джейлбрейки и обход ограничений...........................................................165
Извлечение системных промптов и конфиденциальных данных................166
Тестирование на генерацию токсичного и вредоносного контента............167
Состязательное тестирование через диверсионный анализ......................168
Защита данных и соблюдение политик доступа.......................................168
9.4. Тестирование производительности и масштабируемости....................169
Измерение задержки ответа и её компонентов........................................169
Нагрузочное тестирование параллельных сессий....................................171
Стресс-тестирование за пределами проектных ограничений......................171
Тестирование выносливости и утечек ресурсов........................................172
Оптимизация на основе результатов тестирования...................................173
9.5. Прочие принципы тестирования агентов.............................................174
Многоуровневая архитектура тестов.........................................................174
Репрезентативность тестовых наборов.....................................................174
Автоматизация оценки результатов..........................................................175
«Человек в цикле» для субъективной оценки............................................175
Непрерывность тестирования на всех этапах...........................................175
Воспроизводимость результатов тестирования........................................176
Отказоустойчивость самих тестов............................................................176
Документирование и трассировка результатов.........................................176
Итеративное улучшение тестовых наборов..............................................177
Глава 10. Безопасность и доверие...........................................................178
10.1. Архитектурные паттерны защитных гардов......................................179
Модель швейцарского сыра для многослойной защиты..............................179
Паттерн оптимистического выполнения....................................................180
Паттерн «Политики прежде всего»...........................................................180
Каскадные гарды....................................................................................181
Адаптивные гарды AGrail.........................................................................182
Агенты-охранники GuardAgent.................................................................182
Контекстуализация правил безопасности.................................................183
Алгоритм выбора паттерна для реализации гардов..................................184
10.2. Мультимодальная модерация и соответствие
нормативным требованиям....................................................................186
10.3. Практическая реализация гардов...................................................187
ЧАСТЬ IV. ПРАКТИЧЕСКИЕ ПРИМЕНЕНИЯ.................................................199
Глава 11. Шаблоны для реальных задач.................................................200
11.1. Агент поддержки клиентов – автоматизация первой линии..............201
11.2. Медицинский агент – диагностика и поддержка пациентов..............211
11.3. Финансовый аналитик – прогнозирование и управление рисками.......227
11.4. Агент-программист – автоматизация
разработки и сопровождения кода...........................................................242
11.5. Мультиязычный переводчик с культурной адаптацией......................258
Глава 12. Примеры успешных реализаций...............................................272
ЧАСТЬ V. БУДУЩЕЕ АГЕНТНОГО
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА............................................................281
Глава 13. Тренды и инновации..............................................................282
13.1. Нейросимвольные гибриды: соединение интуиции и логики............282
13.2. Автономность и самообучение: агенты, которые растут.....................286
13.3. Многоагентные экосистемы: от одиночек к цивилизациям...............291
13.4. Агенты в метавселенных и виртуальных мирах...................................296
13.5. Регуляция и агенты-законодатели........................................................298
13.6. Этика, безопасность и выравнивание...................................................299
Глава 14. Видение будущего......................................................................303
14.1. Цифровое бессмертие через агентные системы...................................304
14.2. Симбиоз человека и агента: следующая ступень эволюции..................309
14.3. Агенты как новая форма жизни: постбиологическая эволюция............315
14.4. Планетарные экосистемы агентов: цифровая ноосфера.......................322
14.5. Экзистенциальные риски и сценарии катастроф.................................326
Заключение.............................................................................................332
Глоссарий................................................................................................336
Библиография..........................................................................................347