Квантизированная модель GEV теперь помещается в 17,1 ГиБ памяти GPU, а Odyssey-3 генерирует интерактивные миры. Эксперимент с агентами показал и масштаб автоматизации разработки, и пределы её надёжности. Nvidia присматривается к Reflection AI, а Microsoft предлагает изначально изолировать любые модели. В опенсорсе обсуждают смену лицензии Bitwarden и практические инструменты для самостоятельного запуска агентов.
Железо
10 выпусков · все темы
-
AI/Infra #113: Nvidia и Reflection AI, агенты-декомпиляторы и модели на NVFP4
-
AI/Infra #112: Cloudflare покупает Deno, а Clef и Jev меняют рынок моделей
Cloudflare усиливает платформу Workers покупкой команды Deno и расширяет линейку моделей Clef. Появляются новые варианты изоляции для агентов, профилирование serverless-нагрузок и диагностика плагинов IDE. Также собрали заметные новости о GPU, инвестициях в серверное железо, данных и рисках AI.
-
AI/Infra #107: Google вывела TPU на орбиту, EDG стал открытым, Apple ужесточает доступ
Google начала проверять TPU в космосе как основу для будущих вычислений AI. Apple меняет модель выдачи полного доступа к диску из-за автономных агентов. В опенсорсе важные пополнения: фронтенд EDG C/C++ и набор творческих приложений на Rust. Также есть практичные инструменты для локальных моделей, туннелей и классического VB6 в браузере.
-
AI/Infra #93: AX от Google, Qwen Image 2.1 и трекинг ChatGPT
Google представил AX для изолированного запуска агентных задач, а Logz.io добавил обучаемую на отзывах память агентам наблюдаемости. Исследование указывает, что рекламный код OpenAI может связывать посещения сайтов с аккаунтом ChatGPT. Также в выпуске — Qwen Image 2.1, P2P-архив весов и планы Samsung по HBM4.
-
AI/Infra #89: Claude объединяет Cowork и чат, Delta заменяет Pull Request, CUDA Rust
Claude свёл чат и автономную работу в один интерфейс, а Zed предлагает проводить ревью без Pull Request. NVIDIA развивает нативные GPU-ядра на Rust, пока эксперименты с моделями добираются до оптимизации запросов Postgres. В инфраструктуре появились обновления для Kubernetes, хранилищ и аналитики. Также собрали заметные релизы JetBrains и GNOME.
-
AI/Infra #86: Edge0 для локального инференса, Homebrew 7 и проверки AI-моделей
Edge0 показал, как запускать разреженные модели на обычных локальных машинах с очень скромной активной памятью. Homebrew выпустил крупное обновление с параллельными установками, песочницей и проверками уязвимостей. Исследователи вновь нашли способы, которыми сильные модели обходят условия оценок, а вокруг регулирования и дистилляции разгорается спор. Также собрали заметные новости о железе, приватности и открытых инструментах.
-
AI/Infra #78: Debian разрешил генеративный ИИ, Tencent выпустила Hy4, Нью-Йорк тормозит ЦОД
Tencent открыл крупную модель Hy4, а Debian сформулировал правила ответственного применения генеративного ИИ. Инцидент с агентами и Hugging Face снова поднимает вопрос о наблюдаемости действий моделей. Параллельно дата-центры упираются в энергосеть, а Samsung переносит вычисления прямо в память.
-
AI/Infra #74: Apple M6 и M5 Ultra, агентная инфраструктура и OpenAI Jalapeño
Apple представила M6 и M5 Ultra, а OpenAI продолжает развивать собственный чип для инференса. Облака выводят новые вычислительные и агентные сервисы, а команды описывают, как меняется эксплуатация многомодельных систем. Также собрали заметные релизы для Go, Rust, Python, Kafka и локальной AI-разработки. Отдельно — открытые эмбеддинги и ограничения C2PA на Android.
-
AI/Infra #67: Claude Code лидирует у разработчиков, Cerebras CS-4 и деплой RTC
Claude Code вышел в лидеры среди инструментов для программирования с ИИ, а JetBrains показала свежие данные об их использовании. Yandex и Dropbox разбирают, как масштабировать платформы и инфраструктуру без потери управляемости. Cerebras представила новую систему для инференса, а Mojo стал опенсорсным. Внутри также — обновления инструментов, BGP и заметные инфраструктурные инциденты.
-
AI/Infra #61: Qwen3.8, DeepSeek V4 и Grok 4.6: агенты выходят в IDE и прод
Вышли сразу три крупные модели с упором на длинные агентные задачи и контекст до миллиона токенов. JetBrains и Zed перестраивают среду разработки вокруг совместной работы человека и агентов. В инфраструктуре разбирают старую ошибку SQLite, а в мониторинг добавляют поиск аномалий через MCP. Отдельно — архитектура Vera CPU и практики эксплуатации ИИ-нагрузок.