#llm
7 публикаций
Как PDFs уничтожают токены вашего LLM и как это исправить
📡 Загружая PDF в AI-чат, можно неожиданно сжечь свой токен-бюджет — страница может стоить от 1,500 до 3,000 токенов. Но ...
llm-wiki-memory: локальная память для AI-агентов
📦 Представляем llm-wiki-memory — локальную память для AI-кодеров, которая полностью работает без RAG и облачных сервисов...
Влияние масштабного запуска языковой модели на GPU
📡 Что происходит с GPU во время масштабного запуска языковой модели? При вводе запроса ваш GPU балансирует на грани: упр...
Защита LLM от инъекции команд: советы разработчика
📡 Легко ли ваш LLM может выдать внутренние инструкции? Это называется инъекцией команд, и она может произойти в любой мо...
Разработка многоагентной ИИ-системы для поиска лекарств
🚀 1200 сгенерированных лекарственных кандидатов за 9 дней... Разработчик открыл исследовательский прототип многоагентной...
LLMstats: мониторинг моделей Groq и OpenRouter
🧪 5000 пингов за месяц! Разработан LLMstats — инструмент, который каждые 3 часа проверяет бесплатные модели Groq и OpenR...
Обновление памяти ChatGPT от OpenAI для улучшения взаимодействия
🛠 OpenAI представила крупнейшее обновление памяти для ChatGPT. Теперь модель может запоминать и сохранять информацию о п...