Сообщество / Новая тема

Обсуждение статьиПервый комментарий откроет обсуждение — дальше все вопросы по этой статье будут собираться здесь

Об статье:
Как запустить Llama 3 на VPS

Под именем «Llama 3» в реестре Ollama лежат четыре поколения моделей с разным контекстом, весом и лицензией. Запустить Llama 3 на VPS несложно — сложно получить после запуска ожидаемое: полное окно контекста, вменяемый русский и рабочую скорость. Ниже — путь от чистой Ubuntu до защищённого API, с командами и замерами.

Подробнее →