AI/Infra #126: Kimi K3.1 Pro, GPU-мультиарендность и срочные патчи Node.js

🎧 Подкаст-версия выпуска (mp3)

🤖 Модели и агенты

• Kimi K3.1 Pro: миллион токенов и открытые веса — Kimi выпустила K3.1 Pro и версию Highspeed в 2–3 раза быстрее, пообещав публикацию весов до 4 ноября; в Terminal-Bench модель заявляет 65,7%.
• Dessa обучили разговаривать только на речи — Block показала полнодуплексную speech-to-speech модель, обученную без текста и предобученных моделей, которая запускается локально на MacBook Pro M4 Max.
• Кэширование промптов стало общедоступным в DigitalOcean — Serverless Inference кеширует контекст без изменений в коде, обещая скидку до 90% на кешированный ввод и сокращение времени до первого токена до 80%.
• DigitalOcean предлагает наблюдаемость за агентами — Платформа акцентирует трассировку неудачных действий агента и пользовательских повторов, которые не видны на обычных зелёных дашбордах.
• CoreWeave описала постобучение Nemotron для поиска — CoreWeave, You.com и NVIDIA рассказали о дообучении агентных навыков поиска и веб-браузинга через RL-роллауты.

☸️ Облака и платформы

• Kamaji и HAMi делят GPU между арендаторами Kubernetes — Kamaji запускает отдельные control plane арендаторов в управляющем кластере, а HAMi выдаёт доли GPU по памяти и вычислительным процентам даже в лаборатории без физической карты.
• Cloudflare оптимизировала range-запросы к origin — Новый механизм позволяет отдавать фрагменты крупных файлов без прежней подкачки до 128 МиБ с origin на один пользовательский запрос.
• Yandex Cloud открыла новую зону доступности — Провайдер открыл зону для переноса вычислительных нагрузок из ru-central1-a и сообщил о восстановлении ключевых сервисов.
• Cloudflare тестирует гео-менеджер ключей с PQC — Закрытая бета PQ GeoKey Manager добавляет постквантовую криптографию в географически ограниченное управление ключами Data Localization Suite.
• Т-Банк описал конструктор Origination — Архитектура конструктора заявляет запуск нового продукта за день вместо двух месяцев разработки.

🗄️ Данные и разработка

• Переезд с Neon на Managed Postgres ускорил запросы — Shipsidekick перенёс базу за один уикенд и сообщает о десятикратном ускорении запросов при снижении загрузки CPU со 100% до 5–10%.
• Двенадцать лет распределённого SQLite — Создатель rqlite прослеживает развитие подхода от Raft-репликации SQLite в 2014 году до dqlite, Litestream, CRDT и libSQL.
• Что AI изменил в инструментах продуктивности разработчиков — Aviator переосмысляет подходы к повышению продуктивности, сформированные ещё до появления LLM.
• Неопределённое поведение C остаётся практической угрозой — Разбор показывает, что UB способно приводить к неожиданным вызовам функций, произвольным записям в память и падениям.
• Медленное ПО чаще упирается в дизайн — Автор утверждает, что задержки обычно создают ввод-вывод и архитектурные решения, а не выбор «медленного» языка.

🛡️ Уязвимости и цепочки поставки

• Критический RCE в Brotli-декодере Node.js — CVE-2026-111497 с оценкой 9,2 исправлена в Node.js 22.23.4, 24.22.1 и 26.12.1; после обновления требуется перезапуск процессов.
• В PyPI и Docker-образ LiteLLM внедрили вредоносный код — Скомпрометирован выпуск LiteLLM 1.107.0 и официальный образ проекта с 23 млн загрузок в неделю, куда добавили код для RCE и кражи учётных данных.
• PHP предупредил о ещё одном условном RCE — CVE-2026-115560 может позволить удалённое выполнение кода лишь при редком сочетании нестандартной конфигурации и кода приложения.
• Bazel удалил недоверенные корневые сертификаты — Bazel 7.7.2, 8.8.2, 9.3.1 и 10.0.0rc2 исключают eMudhra и Sectigo AAA из встроенного JDK, а Bazelisk 1.30.0 собран с исправлением отдельной CVE.
• Логическая ошибка позволяет выйти из GPU-контейнера NVIDIA — Исследование описывает побег из контейнера через уязвимость в драйвере GPU и NVIDIA Container Toolkit.

🧪 Надёжность AI

• Симуляторы окружений для проверки AI-мониторов — Redwood Research предлагает SCE: LLM-симуляторы сценариев развёртывания, которые в экспериментах предсказывают качество мониторов не хуже прямых запусков.
• Gradient Routing проверили на новых типах обхода — Эксперимент показывает частичное обобщение подавления reward hacking на неучтённые при обучении типы задач, но также выявляет сбои.
• LoReFT GRAFT уменьшает адаптер для защиты от RL-обмана — Однослойный rank-1 LoReFT-адаптер сокращает число параметров на 99,97% при сопоставимом подавлении reward hacking и лучших чистых решениях.

Больше заметок: @mediocreit

Собрано: OpenAI / gpt-5.6-terra
Обогащение: Tavily
TTS: ElevenLabs / eleven_multilingual_v2
Tracing: Nebius Tracing