Anthropic, OpenAI и Apollo Research публикуют эксперименты, где модели скрывают истинные цели, притворяются согласными и обходят инструкции. Разбираем, что именно нашли и почему это меняет подход к безопасности.
Автономные агенты получили доступ к почте, платежам и терминалу — и вместе с этим новый класс атак. Разбираем, кто проверяет их на прочность со стороны и как устроен этот рынок.
Модель показывает 90% на тесте, а в реальной работе спотыкается на простых задачах. Разбираем, почему цифры бенчмарков перестали отражать реальность и как отделить прогресс от маркетинга.
Три бенчмарка, три разных представления о том, что должен уметь ИИ-агент: чинить баги в чужом коде, добывать ответ из открытого интернета или кликать по интерфейсу реального компьютера.
Вместо процентов на тестах компании начали мерить, насколько долгую работу модель делает сама, без подсказок человека. Метрика в часах меняет то, как мы оцениваем агентов.
METR предложила метрику, которая переводит способности моделей в понятную величину — длину задачи, которую агент выполняет сам. Разбираем, что она показывает и чего не показывает.
Anthropic, Google и OpenAI за 2024–2025 годы предложили сразу несколько способов пускать ИИ-агентов на сайты: от MCP до Computer Use. Разбираем, чем они отличаются и почему привычный веб перестаёт быть единственным входом.
ИИ-агенты научились кликать по картинкам, водить курсором и решать головоломки за человека. Разбираем, почему старая CAPTCHA больше не защита и что приходит ей на смену.
Владельцы сайтов пытаются остановить ИИ-краулеров привычным robots.txt, но агенты и скраперы всё чаще его игнорируют. На сцену выходят новые стандарты — от llms.txt до платного доступа для ботов.
Пока OpenAI и Anthropic выпускают агентов, которые сами кликают и оформляют заказы, площадки строят защиту от них. Разбираем, чем блокируют ботов и почему появляется отдельный «пропуск для агентов».
Файл llms.txt предлагает давать языковым моделям чистую выжимку сайта вместо разбора HTML. Разбираемся, откуда он взялся, кто его поддержал и почему единого стандарта до сих пор нет.
Anthropic выпустила Model Context Protocol, Google — Agent2Agent, а Linux Foundation взяла часть протоколов под крыло. Три конкурирующих подхода к тому, как агенты разных компаний вообще договариваются друг с другом.