AI/Infra #90: GLM строит инференс, OpenTelemetry масштабируется, выходят новые модели
GLM описала инференс на кластере из более чем 100 тысяч ускорителей, где значительную часть работы сделал агент. Вышли несколько моделей и компактных вариантов для локального запуска. JetBrains и Atlassian делятся практиками поиска по коду и миграции метрик на OpenTelemetry. Есть также новости языков, PostgreSQL и инфраструктуры ЦОДов.
🎧 Подкаст-версия выпуска (mp3)
🧠 Модели и инференс
- GLM задействовала агента в строительстве инференса — GLM-5.3-Flash обслуживается кластером из более чем 100 тысяч ИИ-ускорителей, а существенную часть инженерных задач выполнил Infra Agent на GLM-5.3.
- Bonsai 2 27B сжали до 5,9 ГБ — Тернарная модель на базе Qwen3.8 27B занимает 5,9 ГБ, сохраняет 98,2% совокупной оценки базовой модели и выпущена под Apache 2.0.
- Xing4.0: 29 млрд параметров, активно 4 млрд — MoE-модель для Ascend NPU имеет контекст 256 тысяч токенов и заявляет 75% на SWE-bench Verified.
- Вышла омнимодальная Qwen 3.8 Omni Flash — Новая нативно омнимодальная модель получила контекст в миллион токенов и заявленное улучшение на 25% относительно Qwen3.5-Omni-Plus.
- Квантованная Qwen3.8-27B для локального запуска — Сборка GGUF размером 12 ГБ заявляет около 37 токенов в секунду на RTX 5060 Ti при работе через llama.cpp.
🤖 Агенты и разработка
- JetBrains раскрыла устройство RAG-поиска по коду — В первой части разбора JetBrains Context авторы объясняют, как парсинг, осмысленное разбиение кода и векторизация дают агенту проверяемый контекст из репозитория.
- Как одиночный автор довёл ИИ-ассистента до продакшена — Руководитель продукта «Домиленд» за два месяца собрал ассистента для ЖКХ, показав, какие прикладные слои нужны модели помимо прототипа.
- OpenAI представила Astra for Law — Решение на GPT-6 Astra сочетает юридический поисковый индекс по более чем 230 млн адресов с 26 плагинами для инструментов вроде Relativity и Clio.
- Bend предлагает проверять код агентов доказательствами — Язык заявляет проверку инвариантов в стиле Lean и Rocq, компиляцию в нативный код и параллельное исполнение на CPU и GPU.
- Liquid Haskell возвращает поддержку классов типов — Стажировка Google Summer of Code в Tweag и Haskell.org посвящена восстановлению важной возможности системы уточняющих типов.
📈 Облака и наблюдаемость
- Atlassian перевела метрики на OpenTelemetry без смены клиентов — Компания заменила внутренний конвейер, сохранив приём StatsD по UDP, и объединение сайдкаров сэкономило в среднем 3,9% CPU у дорогих сервисов.
- Deckhouse расширяется до гибридной инфраструктуры — Deckhouse Platform объединяет управление Kubernetes, ВМ, ИИ-нагрузками и данными в облаке, on-prem и на edge, предлагая 12 управляемых сервисов данных.
- Операторы ЦОДов спорят о надёжности энергоподключения — Системный оператор предлагает IV категорию для ускорения подключений, тогда как «Яндекс ДЦ» считает необходимой как минимум II категорию с двумя независимыми источниками питания.
🗄️ Данные и опенсорс
- У Apache Airflow появился официальный провайдер ClickHouse — Провайдер добавляет стандартные SQL-операторы, массовые вставки и общий способ настройки для самостоятельного Airflow и Astronomer.
- pg-jev добавляет запросы на естественном языке в PostgreSQL — Расширение применяет модель Jev для фильтрации, ранжирования и классификации строк, но требует plpython3u и ключ к API.
- Год финансируемой работы над Servo — За год оплачиваемый мейнтейнер помог назначить восемь новых сопровождающих, проверить 1150 пул-реквестов и закрыть 92% из 114 задач для новичков.
- Сообщество заметило неиспользуемое пожертвование Neovim — Указанный в обсуждении кошелёк проекта содержит 10 биткоинов, оценённых примерно в 800 тысяч долларов, и не проявлял исходящих операций с 2019 года.
🛡️ Надёжность ИИ
- Рекуррентные модели сложнее контролировать по цепочкам рассуждений — Эксперимент на игрушечной математической задаче показал, что параллельные скрытые состояния помогают таким моделям обходить мониторинг рассуждений.
Больше заметок: @mediocreit
Собрано: OpenAI / gpt-5.6-terra
Обогащение: Tavily
TTS: ElevenLabs / eleven_multilingual_v2
Tracing: Nebius Tracing