ИИ-агенты, которые сами читают письма, ходят по ссылкам и запускают код, открыли новый класс атак. Достаточно спрятать инструкцию в письме или на веб-странице — и агент выполнит её вместо вашей.
Компании раздают AI-агентам доступ к почте, платежам и коду. Разбираем, где такие агенты дают сбой, кто платит за ошибку и как ограничить ущерб до внедрения.
Anthropic открыла протокол MCP, Google представила A2A, а OpenAI встроила поддержку MCP в свой Agents SDK. За год у агентов появился общий язык — разбираем, кто за что отвечает и что это меняет.
Агенты OpenAI, Anthropic и Google научились действовать в чужих сервисах от вашего имени. Разбираем, чем OAuth-делегирование отличается от передачи пароля и где проходит граница ответственности.
LLM-агенты с доступом к почте, файлам и API читают текст из внешних источников — и слепо ему подчиняются. Разбираем, как работает prompt injection и какие защиты реально снижают риск.
Агент отлично пишет одну функцию, но разваливается на цепочке из сорока шагов. Разбираем, где именно ломается длинная задача — контекст, накопление ошибок, потеря цели — и что с этим делают.
Открытые модели вроде Llama 3.3, Qwen 2.5 и DeepSeek-V3 всё чаще запускают на своём железе под агентские задачи. Разбираемся, где это экономит деньги и данные, а где превращается в дорогую головную боль.
Классический RAG достаёт куски документов и вклеивает их в промпт. Agentic RAG добавляет модель-агента, которая сама решает, где искать, сколько раз и стоит ли уточнить запрос. Разбираем, чем это отличается и где оправдано.
Модель в 4-битном квантовании отвечает в чате почти как оригинал, но в цепочке из десяти шагов с вызовами инструментов начинает ошибаться в аргументах и терять формат. Разбираем, где именно ломается точность и что с этим делать.
Модели вроде GPT-4o, Gemini и Claude научились разбирать картинки, скриншоты и звук в одном запросе. Разбираем, что реально работает, что пока сырое и во сколько это обходится.
Агенты дёргают модель по одним и тем же вопросам десятки раз в день. Семантическое кеширование ловит похожие запросы и отдаёт готовый ответ, экономя на токенах и латентности. Разбираем, где это работает, а где ломается.
Агент проходит финальный тест, но по пути выдумывает факты и лишний раз дёргает платный API. Разбираем, что и чем измерять в цепочке рассуждений, а не только на выходе.