DiffusionGemma: новый подход к генерации текста для разработчиков

📡 DiffusionGemma — это новая модель от Google, которая значительно ускоряет генерацию текста. Благодаря параллельной генерации и использованию памяти, она может достигать скорости 1000+ токенов в секунду на мощных GPU. Эта модель также использует двунаправленный контекст для самокоррекции, что позволяет улучшать качество текста в реальном времени. Разработчики могут легко использовать её, так как модель активирует лишь 3.8B параметров во время инференса, что позволяет развертывать её в рамках 18 ГБ VRAM.