Neyrus.

Нейросети Llama

Llama-3.1-70B-Instruct

Meta · США вышла: июль 2024

Llama-3.1-70B-Instruct — нейросеть компании Meta. 1 000 ответов клиенту в чате стоят около $0,72. Её можно поставить на свой сервер.

01 Сколько стоит

1 000 ответов клиенту в чате
≈ $0,72
100 разборов договора на 10 страниц
≈ $0,36
100 текстов для сайта на 5 000 знаков
≈ $0,13

Разработчик сам её не продаёт — самая низкая цена у провайдеров (Kilo Gateway).

Где купить Запрос Ответ
Kilo Gateway $0,40 $0,40

Цены за 1 млн токенов (≈ 1 667 страниц текста).

02 Что умеет

  • Понимает: текст
  • Отвечает: текст
  • Прочитает за раз примерно 213 страниц
  • Подключается к вашим системам (CRM, 1С, таблицы) через API
  • Можно поставить на свой сервер — открытые веса
  • Знает события до: декабрь 2023

03 На своём сервере

Размер — 71 млрд параметров. Чем больше параметров, тем больше модель знает и тем мощнее нужен компьютер.

Минимум — сжатая версия
≈ 45 ГБ памяти
Две видеокарты по 24 ГБ или Mac с 64 ГБ
Почти без потери качества
≈ 87 ГБ памяти
Сервер с двумя видеокартами по 80 ГБ или Mac Studio с 256 ГБ

Сжатая версия отвечает чуть хуже оригинала. Оценка для разговора средней длины: для длинных документов нужно больше памяти, а скорость зависит от оборудования.

04 Насколько хороша

В целом
282-е место из 409 55 240 голосов
Русский язык
282-е место из 373 7 285 голосов
Тексты
284-е место из 407 8 250 голосов
Бизнес и финансы
280-е место из 402 6 381 голос
Юристам
254-е место из 382 3 177 голосов
Медицина
268-е место из 379 2 821 голос
Код
279-е место из 404 9 389 голосов
Точно по инструкции
286-е место из 409 21 910 голосов

LMArena: люди вслепую сравнивают ответы двух моделей и голосуют за лучший. Чем меньше голосов, тем менее надёжно место. Данные на 25 сентября 2026, CC BY 4.0.

Для технических специалистов
Идентификатор
meta/llama-3.1-70b-instruct
Контекст
128 000 токенов
Максимум ответа
4 096 токенов
Дата знаний
2023-12
Параметры
70 553 706 496 · веса в 16 бит
Веса
huggingface.co/meta-llama/Llama-3.1-70B-Instruct

Характеристики: models.dev, 29 сентября 2026 · Размер: Hugging Face · Рейтинг: LMArena (arena.ai), CC BY 4.0 · Названия моделей и логотипы разработчиков — товарные знаки их владельцев.