Procgen — набор из 16 процедурно генерируемых игр от OpenAI, где агент обучается на одних уровнях и проверяется на других. Именно на нём становится видно, что RL умеет запоминать, но не переносить навык.
В апреле 2019 бот от OpenAI обыграл чемпионов мира OG со счётом 2:0. За кулисами — 10 месяцев обучения, 128 000 CPU-ядер и алгоритм, который уместился в десяток страниц.
Классическая статистика учит: сложная модель переобучается. Но на нейросетях кривая ошибки делает второй нырок вниз — и это меняет практику подбора размера и длительности обучения.
OpenAI закрепила PyTorch как основной фреймворк для исследований и продакшена. Разбираем, что это значит для рынка, конкурентов и разработчиков, которые выбирают инструмент для своих моделей.
Разработчики ИИ обещают безопасность и честность моделей, но проверить эти заявления снаружи почти невозможно. Индустрия начала собирать инструменты, которые превращают обещания в проверяемые факты.
Внедрение LLM в рабочие процессы не всегда даёт прирост производительности. Разбираем, где ИИ действительно ускоряет команды, а где превращается в дорогой генератор технического долга.
Microscope от OpenAI — открытая коллекция визуализаций нейронов внутри классических моделей компьютерного зрения. Инструмент до сих пор используют в интерпретируемости, хотя обновлений давно нет.
GPT-подобные модели пишут доказательства на Lean и Coq не хуже аспирантов-математиков на простых задачах. Разбираем, как это устроено, сколько стоит и почему до серьёзной математики ещё далеко.
Исследование OpenAI 2020 года показало: модель на 1,3 млрд параметров, обученная на человеческих оценках, пишет краткие пересказы лучше модели в 10 раз больше. Ключ — обучение с подкреплением по фидбеку людей.
Классические тесты на устойчивость проверяют модели против атак, которые уже известны. Но в реальности злоумышленник придумывает что-то новое. Разбираем, как индустрия учится к этому готовиться.
Гонка за AGI превратилась в гонку релизов, где на безопасность остаётся всё меньше времени. Разбираем, почему одиночные усилия лабораторий уже не работают и что предлагают Anthropic, OpenAI и DeepMind.
В апреле 2019 года OpenAI собрала исследователей робототехники, чтобы обсудить, как обучать машины в симуляции и переносить навыки в реальный мир. Главным экспонатом стала рука Dactyl, собирающая кубик Рубика.