Сообщество / Новая тема
Обсуждение статьиПервый комментарий откроет обсуждение — дальше все вопросы по этой статье будут собираться здесь
Об статье:
Как запустить Mistral на VPS
Под вывеской «Mistral» в реестре Ollama лежит десяток моделей: от семёрки на 4,4 ГБ до MoE на 26 ГБ, и часть из них — под лицензией, запрещающей коммерцию. Запустить Mistral на VPS — дело пятнадцати минут; сложнее выбрать правильный тег, не удивиться скорости на русском и не поймать своп на третьем запросе. Ниже — путь от чистой Ubuntu до рабочего API с замерами.
Подробнее →