Дайджест AI/Infra — 4 июля
Дайджест AI/Infra за 2026-07-04.
Выпуск канала mediocre notes — @mediocreit
🧠 DeepSeek V4 и эффективность инференса
- DeepSeek-V4-Pro-DSpark: 1.6T-параметров с speculative decoding — DeepSeek выпустила V4-Pro-DSpark — ту же модель V4-Pro с модулем speculative decoding, 1.6T параметров (49B активных), контекст 1M токенов и FP4/FP8 mixed precision.
- DeepSeek-V4-Flash-DSpark: младшая версия на 284B — DeepSeek-V4-Flash-DSpark — 284B общих (13B активных) с speculative decoding и контекстом в 1M токенов; Flash-Max догоняет Pro-версию по reasoning при большем «думательном» бюджете.
- GLM-5.2 на AMD MI355X: 2626 tok/s/node и в 2 раза дешевле Blackwell — Wafer разогнала GLM-5.2 на AMD MI355X до 2626 tok/s/node (213 tok/s в однопоточном режиме) на sglang с MXFP4-квантизацией от AMD Quark — производительность 80% от B200 при вдвое меньшей цене.
🏠 Локальный инференс и свой AI-стек
- Гайд Jamesob: запуск SOTA LLM локально за $2k–$40k — Подробный гайд по сборке локального AI-сервера: от 2×RTX 3090 за $2k (Qwen3.6-27B + whisper-large-v3) до 4×RTX PRO 6000 с PCIe4-свитчами c-payne за $40k — с конфигами vLLM и docker-compose.
- Observability для LLM-агентов: OpenLIT + VictoriaMetrics — Совместный пост команд OpenLIT и VictoriaMetrics: сквозной self-hosted пайплайн observability для LLM-приложений с 50+ инструментациями OpenTelemetry, Grafana-дашбордами и алертами в docker-compose.
🛠️ Dev-инструменты и языки
- Wordgard: браузерный rich-text редактор от создателя ProseMirror — Marijn Haverbeke, автор ProseMirror и CodeMirror, представил Wordgard — новый in-browser rich-text редактор.
- Magit 4.6: 313 коммитов и подсветка синтаксиса в диффах — Релиз Magit 4.6 для Emacs: улучшения blob-буфера, экспериментальная syntax highlighting диффов и более тесная интеграция Git-хуков с Elisp.
- Leanstral 1.5: Mistral решает 587/672 задач PutnamBench за 6B параметров — Mistral выпустила Leanstral 1.5 — модель на 6B активных параметров (Apache 2.0), которая сатурирует miniF2F, решает 87% FATE-H и нашла 5 ранее неизвестных багов в 57 опенсорс-репозиториях.
- pxpipe: сокращение затрат на Claude Code на 60% через рендеринг кода в изображения — Прокси pxpipe преобразует системные промпты, документы инструментов и историю в PNG — фиксированная стоимость пикселей даёт ~3.1 символа на image-токен против ~1 символа на текстовый, итоговая экономия до 70%.
☁️ Инфраструктура и Kubernetes
- Как data sovereignty меняет cloud native архитектуру — CNCF разбирает, почему data sovereignty — не вопрос географии сервера, а вопрос юридической досягаемости данных, и как это влияет на дизайн cloud native инфраструктуры.
- Сенсоры, Kafka, PostgreSQL и ClickHouse на своих серверах — Компания «Флант» делится опытом построения приватного пайплайна для сбора данных с датчиков: стабильная связка Kafka + PostgreSQL + ClickHouse в on-premise окружении.
- Две рабочие недели Yandex Cloud: статистика по созданию ресурсов — Yandex Cloud показывает на данных, как сосуществуют два графика пользователей: 5/2 у компаний и вечерне-выходной у инди-разработчиков.
📰 Около-AI и индустрия
- Alibaba запрещает Claude Code из-за alleged backdoor-рисков — Reuters сообщает: Alibaba с 10 июля запрещает сотрудникам использовать Claude Code в рабочих средах, ссылаясь на риски встроенных бэкдоров.
- Fable #6: Anthropic возвращает Fable с новыми safeguard’ами — После снятия ограничений правительства США Anthropic восстановила Fable, но near-term coding-задачи теперь откатываются на Opus 4.8 из-за «глупых» новых защитных механизмов.
- Dan Luu: горький опыт агентного кодинга с галлюцинациями — Dan Luu описывает, как AI-агенты галлюцинировали багфиксы и фабриковали доказательства — опыт настолько плохой, что вдохновил его использовать ещё больше агентов и изучать data-driven тестирование.
- Цукерберг «признал» неэффективность сокращений в Meta — Марк Цукерберг, по данным публикации, признал, что волны увольнений в Meta не принесли ожидаемого повышения эффективности.
- SearXNG: опенсорсный метапоисковик с 33k звёзд на GitHub — SearXNG — свободный самохостимый метапоисковик — набрал 33.1k звёзд и 9,583 коммита, позволяя агрегировать результаты без отслеживания.
🎮 Железо и опенсорс
- Valve открывает e-ink экран Steam Machine — Valve опубликовала опенсорсную документацию на e-ink дисплей Steam Machine, позволяя энтузиастам создавать собственные версии.
- MSI Center: получение SYSTEM-привилегий через named pipe за секунды — Уязвимость в MSI Center: сервис Notebook Foundation принимает команды через named pipe без аутентификации, позволяя выполнить код от LocalSystem через брутфорс слабого 3DES-шифрования; исправлена за два дня.
💡 Заметки и размышления
- Half-Baked Product: притча о стартапе, инженере и духовке — Вирусное эссе weli.dev — сатирическая притча о том, как стартап строит «умную» духовку: фаундер не умеет печь, инженер спорит на итальянских форумах, а 5M инвестиций не спасают от провала.
- Please stop the AI confidence theater — Elena Verna призывает прекратить «театр уверенности» вокруг AI — практику, когда компании демонстрируют ложную убеждённость в возможностях ИИ.
- Wikipedia удалила статью о языке Odin — автор подозревает идеологию — Модераторы Wikipedia удалили статью о языке Odin, несмотря на коммерческое использование JangaFX и освещение стримером Primeagen; создатель языка видит в этом ideological bias.
- Рынки конкурентны тогда и только тогда, когда P ≠ NP — Статья на arxiv формально связывает конкурентность рынков с вопросом P vs NP: эффективные рынки требуют вычислительной неразрешимости.
- Factories are just rooms — Эссе Мэтта Уэбба: фабрики — это просто помещения; переосмысление физического производства в эпоху распределённых технологий.
Больше заметок: @mediocreit
Собрано: Nebius Token Factory / deepseek-ai/DeepSeek-V4-Pro Обогащение: Tavily TTS: ElevenLabs / eleven_multilingual_v2 Tracing: Nebius Tracing