# LLM (Large Language Model)

> LLM — большая языковая модель, которая обрабатывает и генерирует текст. Её используют в чат-ботах, поиске по документам и подготовке черновиков; факты и итоговые действия требуют проверки по задаче.

Источник: https://aiorkestrator.ru/glossary/llm/

## Откуда модель «знает» ответы

LLM обучена на огромном массиве текстов и выучила закономерности языка. На вопрос она отвечает, предсказывая наиболее вероятное продолжение — слово за словом. Модель не «думает» и по умолчанию не ищет в интернете: всё, что случилось после даты обучения, ей неизвестно, пока свежие данные не передали прямо в запросе.

Известные модели: GPT (OpenAI), Claude (Anthropic), Gemini (Google), из российских — GigaChat и YandexGPT. Для бизнес-задачи конкретное имя вторично: важнее, как выстроен процесс вокруг модели — промпты, база знаний, проверка результата.

## Через API или своя модель на сервере

| Критерий | API (облако) | Локальная модель |
| --- | --- | --- |
| Затраты на старте | Минимальные, оплата за токены | Свой сервер с GPU и настройка |
| Качество ответов | Топовые модели | Скромнее: открытые модели слабее |
| Куда уходят данные | На серверы провайдера | Остаются на вашем сервере |
| Обслуживание | Провайдер обновляет сам | Своя поддержка и обновления |
| Когда выбирать | Типовые задачи, быстрый старт | Жёсткие требования к данным |

Для первого пилота API часто проще собственной инфраструктуры: расходы зависят от использования, а модель можно заменить за слоем интеграции. Но требования к данным, доступности и региону могут потребовать локального размещения.

## Что LLM делает в рабочих проектах

- Отвечает клиентам по базе знаний компании — круглосуточно, без очереди
- Разбирает документы: читает сметы, договоры, прайсы с фото или PDF
- Готовит черновики: посты, ответы на отзывы, коммерческие предложения
- Квалифицирует заявки: по ответам клиента определяет, насколько он готов к покупке

Пример в цифрах — кейс AI-Технадзор: бот на базе LLM проверил смету на 650 000 ₽ за 2 минуты и нашёл завышения на 120 270 ₽, с PDF-отчётом и ссылками на нормативы.

## Ограничения, о которых стоит знать заранее

- Галлюцинации: модель может уверенно ошибаться. Для точных ответов её привязывают к вашим документам через RAG
- Оплата за токены: длинные документы и переписки стоят дороже, русский текст «тяжелее» английского
- Конфиденциальность: перед отправкой данных в облачный API проверьте условия провайдера

## Частые вопросы

### Чем LLM отличается от нейросети?

Нейросеть — общее название технологии, LLM — её частный случай для работы с текстом. Распознавание фото — тоже нейросеть, но не LLM.

### Наши данные попадут в обучение модели?

У большинства коммерческих API данные бизнес-клиентов по умолчанию в обучение не идут, но это пункт договора с конкретным провайдером, а не общее правило. Для по-настоящему чувствительных данных существуют локальные модели.

### Сколько стоит подключить LLM к боту или CRM?

Сама модель оплачивается по факту использования — за токены. Основная статья расходов — разработка: Telegram-бот с AI-ответами по вашей базе знаний стоит от 140 000 ₽.

## Смежные материалы

- [Кейс: AI-Технадзор (LLM читает сметы)](https://aiorkestrator.ru/cases/ai-texnadzor/)
- [Telegram-бот с AI-ассистентом](https://aiorkestrator.ru/uslugi/telegram-bot/)
- [Автоматизация малого бизнеса с AI](https://aiorkestrator.ru/blog/avtomatizaciya-malogo-biznesa-ai-2026/)
- [RAG — как дать модели вашу базу знаний](https://aiorkestrator.ru/glossary/rag/)