Local LLM Matrix: новый инструмент для тестирования моделей
181 автоматизированных тестов и 37.2 версия на выходе! 🛠 Появился новый инструмент — Local LLM Matrix, открытый бета-инструмент для тестирования и сравнения моделей Ollama локально. Это приложение на Python и Streamlit позволяет вам находить локальные модели, запускать бенчмарки, сравнивать результаты и экспортировать отчёты в различных форматах. Идея простая: общие бенчмарки полезны, но личные замеры важнее для вашей аппаратуры и настроек. Проект на стадии публичного бета-тестирования с macOS в приоритете, 181 тест уже пройден. Ваши отзывы по установке, совместимости и документации будут очень полезны!
Источник:
www.reddit.com