AI/Infra #106: Kolibri с контекстом 1 млн токенов, OpenAI и бюджетные лимиты
Aleph Alpha выпустила открытую модель Kolibri для регулируемых задач. Обсуждаем, почему агентам нужны жёсткие лимиты расходов и что происходит с практиками безопасности OpenAI. Внутри также заметки о Linux-драйверах, локальном запуске моделей, Rust и веб-платформе.
🎧 Подкаст-версия выпуска (mp3)
🧠 Модели и безопасность AI
- Aleph Alpha открыла модель Kolibri — Немецко-английская MoE-модель Kolibri имеет 78 млрд параметров при 3 млрд активных, контекст до 1 млн токенов и доступна под Apache 2.0.
- Руководитель отчётов по безопасности ушёл из OpenAI — Дэвид Робинсон заявил, что проблема передовых AI-лабораторий лежит в культуре гонки релизов, а не только в отдельных правилах.
- Ложные факты сложнее отличить от знаний модели — Исследование показало, что удаление синтетических признаков в обучающих данных делает некоторые внедрённые ложные факты линейно неотличимыми от знаний предобучения.
🤖 Агенты и облака
- Жёсткие лимиты расходов должны стать нормой — Саймон Уиллисон предлагает по умолчанию останавливать сервисы по денежному лимиту, а не ограничиваться уведомлениями, особенно с распространением агентов.
- Laya стала доступна в формате GGUF — Модель принятия решений можно запускать локально через llama.cpp, Ollama и другие приложения, использующие формат GGUF.
📊 Эксперименты и инженерная практика
- Оптимизация альфы ускоряет A/B-тесты — Команда Т-Банка предлагает распределять уровень значимости между метриками не поровну, что в ряде тестов сокращает нужную выборку на десятки процентов.
- Почему разработчики не всегда выбирают нативный веб — Нолан Лоусон связывает тягу к библиотекам с историческими проблемами браузеров, привычками экосистемы npm и более удобной документацией пакетов.
- Макросы derive в Rust могут раздувать бинарники — Автоматические подсказки #[inline] в derive-макросах способны встраивать сложный код, а их отключение уменьшило бинарник uv на 160 КБ.
🐧 Linux и свободное ПО
- Valve улучшает поддержку старых AMD GPU в Linux — Тимур Кристоф из Valve представил работу над улучшениями драйвера AMDGPU для старых поколений видеокарт.
- DOS Navigator портировали на Free Pascal — Порт файлового менеджера уже собирается под DOS и Linux, поддерживает панели, редактор, просмотрщик, команды, файловые операции и Тетрис.
🔒 Приватность
- Судья назвала поиск Flock массовой слежкой — Федеральный судья Сара Хилл признала неконституционным поиск номера автомобиля в базе Flock без ордера и исключила полученные после него доказательства.
Больше заметок: @mediocreit
Собрано: OpenAI / gpt-5.6-terra
Обогащение: Tavily
TTS: ElevenLabs / eleven_multilingual_v2
Tracing: Nebius Tracing