Fork of FreeToken with DeepSeek-V4.1 — Новый форк FreeToken с DeepSeek-V4.1 и улучшенной обработкой изображений

📦 Появился новый форк FreeToken с DeepSeek-V4.1, который разработчик тестирует на двух RTX 3090. Этот форк включает в себя множество улучшений, таких как новая система декодирования и поддержка обработки изображений для модели Qwen3.8. Также добавлены оптимизации, которые позволяют использовать большие модели MoE на потребительском оборудовании. В тестах производительность с MTP была ниже, но разработчик работает над улучшениями. В качестве примера, в бенчмарках достигнуты показатели до 52.4 токенов в секунду. Если хотите попробовать, репозиторий доступен здесь.