Zhipu AI випустила GLM‑5.2 з контекстом 1 млн токенів

Китайський стартап Zhipu AI на днях оприлюднив модель GLM‑5.2 — відкриту велику мовну модель із 753 млрд параметрів і контекстним вікном до одного мільйона токенів.

Модель поширюється під ліцензією MIT і вказана на платформі Hugging Face як інструмент для генерації тексту англійською та китайською мовами.

Розробники позиціонують GLM‑5.2 для тривалих агентних задач і програмування. У моделі реалізовано кілька рівнів «інтенсивності міркувань», що дозволяють вибирати баланс між якістю відповіді та затримкою генерації.

Архітектура включає дві ключові оптимізації: IndexShare і оновлений шар MTP для спекулятивного декодування.

За даними Zhipu AI, IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен приблизно в 2,9 раза.

Оновлений шар MTP, згідно з наведеною інформацією, збільшує довжину підтвердження (confirmation length) приблизно на 20%, що має пришвидшувати процес декодування при збереженні якості генерації.

У внутрішніх тестах GLM‑5.2 посіла перші місця серед відкритих моделей у бенчмарках FrontierSWE, PostTrainBench і SWE‑Marathon. Команда також оприлюднила результати стандартних тестів з програмування, де модель показала найкращі серед відкритих рішень показники.

Для розгортання GLM‑5.2 сумісна з SGLang, vLLM, Transformers, KTransformers і Docker Model Runner. Наявні квантизації для llama.cpp, Ollama та LM Studio, що полегшує запуск на локальному обладнанні з обмеженими ресурсами.

GLM‑5.2 розміщена на Hugging Face, де доступні технічні деталі щодо архітектури та інструкції з сумісності зі сторонніми інструментами.

Реліз відбувається на тлі активності у сегменті відкритого програмного забезпечення для великих мовних моделей; Zhipu AI надала відкриту ліцензію MIT і набір інструментів для локального розгортання, доступних дослідникам і розробникам.