Перейти к содержимому
[ AI/ML ОСНОВЫ ] · TERM · ГАЛЛЮЦИНАЦИЯ AI

Галлюцинация AI

Определение

Галлюцинация AI — ситуация, когда модель уверенно выдаёт неправильный ответ. Именно поэтому в бизнес-решениях используют RAG и проверку фактов, а не «голую» генерацию.

§ 01

Почему это происходит

LLM не «знает» факты — она предсказывает вероятное продолжение текста. Если в обучающих данных было мало информации по теме, модель «додумает» — и сделает это уверенно.

§ 02

Как защитить бизнес

  • ▸RAG: модель отвечает только на основе ваших документов
  • ▸Температура 0: минимум «креативности», максимум точности
  • ▸Проверка фактов: второй агент проверяет ответ первого
  • ▸Ограничение домена: бот говорит «я не знаю» вместо выдумки

Связанные

01
RAG (Retrieval-Augmented Generation)
RAG — технология, при которой AI сначала находит нужную информацию в вашей базе данных, а потом формулирует ответ. Это исключает «выдумки» и…
→ 02
LLM (Large Language Model)
LLM — это большая языковая модель, AI-система, которая понимает и генерирует текст. Для бизнеса это означает автоматизацию работы с документ…
→ 03
Векторная база данных
Векторная база данных — хранилище, где информация записана в виде числовых «отпечатков». Позволяет AI мгновенно находить нужные документы из…
→

Связанные материалы

Читайте

[CASE] AI-Технадзор: RAG без галлюцинаций →

Начнём

Нужно внедрить в бизнесе?
Первый созвон — бесплатно.

Написать в Telegram Все термины