Назад к ленте

Обновление SoloEngine v0.3.0: новые функции для потоков данных

Обновление SoloEngine v0.3.0: новые функции для потоков данных
📡 SoloEngine v0.3.0 вышел с новыми функциями, которые значительно улучшат работу с потоками данных! Теперь доступны три контрольные точки для более точного перехвата и синхронизации состояния. Добавлена система очередей сообщений, позволяющая пользователям ставить сообщения в очередь во время работы LLM, а также автоматическая отправка их по завершении текущей задачи. Улучшения включают унификацию типов блоков сообщений и реальное время оценки токенов с помощью tiktoken. Все изменения направлены на упрощение взаимодействия и улучшение пользовательского опыта. Более подробно о новшествах можно узнать на странице проекта.
Источник: dev.to

Похожие проекты