Сообщество / Новая тема
Обсуждение статьиПервый комментарий откроет обсуждение — дальше все вопросы по этой статье будут собираться здесь
Об статье:
Llama 3 на сервере: частые ошибки и решения
Llama 3 разворачивается за пять минут, а потом начинает вести диалог сама с собой, требует 22 ГБ памяти на «заявленные 128k» и пишет по-русски хуже, чем вы ожидали. Почти все частые ошибки Llama 3 — не поломка сервера, а особенности линейки: свой стоп-токен, гейт на весах, восемь официальных языков без русского. Ниже шесть типовых сценариев с точными строками ошибок и правками.
Подробнее →