Сообщество / Новая тема
Обсуждение статьиПервый комментарий откроет обсуждение — дальше все вопросы по этой статье будут собираться здесь
Об статье:
Mistral на VPS: установка и свой API
Mistral 7B и Mixtral — быстрые и качественные открытые модели, которые легко держать на своём сервере. Показываем установку через Ollama, llama.cpp и vLLM с готовым API. У Mistral несколько ключевых открытых моделей, и выбор зависит от задач и железа.
Подробнее →