Под именем «Llama 3» в реестре Ollama лежат четыре поколения моделей с разным контекстом, весом и лицензией. Запустить Llama 3 на VPS несложно — сложно получить после запуска ожидаемое: полное окно контекста, вменяемый русский и рабочую скорость. Ниже — путь от чистой Ubuntu до защищённого API, с командами и замерами.
Подробнее →