Откуда модель «знает» ответы
LLM обучена на огромном массиве текстов и выучила закономерности языка. На вопрос она отвечает, предсказывая наиболее вероятное продолжение — слово за словом. Модель не «думает» и по умолчанию не ищет в интернете: всё, что случилось после даты обучения, ей неизвестно, пока свежие данные не передали прямо в запросе.
Известные модели: GPT (OpenAI), Claude (Anthropic), Gemini (Google), из российских — GigaChat и YandexGPT. Для бизнес-задачи конкретное имя вторично: важнее, как выстроен процесс вокруг модели — промпты, база знаний, проверка результата.
Через API или своя модель на сервере
| Критерий | API (облако) | Локальная модель |
|---|---|---|
| Затраты на старте | Минимальные, оплата за токены | Свой сервер с GPU и настройка |
| Качество ответов | Топовые модели | Скромнее: открытые модели слабее |
| Куда уходят данные | На серверы провайдера | Остаются на вашем сервере |
| Обслуживание | Провайдер обновляет сам | Своя поддержка и обновления |
| Когда выбирать | Типовые задачи, быстрый старт | Жёсткие требования к данным |
Для первого пилота API часто проще собственной инфраструктуры: расходы зависят от использования, а модель можно заменить за слоем интеграции. Но требования к данным, доступности и региону могут потребовать локального размещения.
Что LLM делает в рабочих проектах
- ▸Отвечает клиентам по базе знаний компании — круглосуточно, без очереди
- ▸Разбирает документы: читает сметы, договоры, прайсы с фото или PDF
- ▸Готовит черновики: посты, ответы на отзывы, коммерческие предложения
- ▸Квалифицирует заявки: по ответам клиента определяет, насколько он готов к покупке
Пример в цифрах — кейс AI-Технадзор: бот на базе LLM проверил смету на 650 000 ₽ за 2 минуты и нашёл завышения на 120 270 ₽, с PDF-отчётом и ссылками на нормативы.
Ограничения, о которых стоит знать заранее
- ▸Галлюцинации: модель может уверенно ошибаться. Для точных ответов её привязывают к вашим документам через RAG
- ▸Оплата за токены: длинные документы и переписки стоят дороже, русский текст «тяжелее» английского
- ▸Конфиденциальность: перед отправкой данных в облачный API проверьте условия провайдера
Частые вопросы
Чем LLM отличается от нейросети?
Нейросеть — общее название технологии, LLM — её частный случай для работы с текстом. Распознавание фото — тоже нейросеть, но не LLM.
Наши данные попадут в обучение модели?
У большинства коммерческих API данные бизнес-клиентов по умолчанию в обучение не идут, но это пункт договора с конкретным провайдером, а не общее правило. Для по-настоящему чувствительных данных существуют локальные модели.
Сколько стоит подключить LLM к боту или CRM?
Сама модель оплачивается по факту использования — за токены. Основная статья расходов — разработка: Telegram-бот с AI-ответами по вашей базе знаний стоит от 140 000 ₽.