ИИ в финансах и казначействе: почему нейросети до сих пор не приносят прибыли и зачем встраивать ИИ в рабочие процессы

ИИ как часть ДНК бизнеса

В этой статье речь пойдет о том, почему ИИ в финансах и казначействе пока редко окупается, из чего на самом деле состоит искусственный интеллект в корпоративном контуре и как встроить его в рабочие процессы так, чтобы он создавал реальную ценность.

Рынок ИИ в финансах и бизнесе: где реальный эффект, а где хайп

Давайте начнем изучение вопроса применимости ИИ в бизнесе, финансах и обычной жизни с базовых вещей. Попробуем для начала оценить объем рынка искусственного интеллекта в мире и в России. Оказывается, что оценки емкости рынка ИИ разнятся, и в исследованиях они зачастую могут отличаться на порядки. Поэтому для наших выводов мы не сможем опираться на какие-то общие тенденции, и это не удивительно. Рынок разнообразен и включает в себя очень много направлений: от поставки оборудования до разработки приложений, от компьютерного зрения (CV) до обработки естественного языка (NLP). Каждый сегмент этого рынка ведет себя по своим принципам, и, к сожалению, общего подхода к оценке или методам внедрения не существует. И, да, эта статья тоже написана с помощью ИИ и это тоже большая часть рынка использования ИИ.
Одно неоспоримо: рынок искусственного интеллекта в России и в мире стремительно растет. Однако за фасадом хайпа скрывается отрезвляющая статистика: менее 10% компаний в России и в мире видят реальный эффект от внедрения ИИ, т.е. возможность увеличить прибыль от применения ИИ выше уровня в 5%.

Одновременно с развитием рынка ожидания бизнеса от ИИ трансформируются. Если на старте все надеялись, что ИИ просто «сократит ФОТ» (фонд оплаты труда), заменив людей, то сегодня фокус сместился на ожидания роста выручки и возможности создания новой ценности.

Чем глубже погружаешься в изучение предложений ИИ на рынке, тем чаще сталкиваешься с продвигаемой концепцией, что покупка «ИИ-агента» или доступ к мощной LLM автоматически решат все бизнес-задачи. Это иллюзия! Правда в том, что проблема современного ИИ кроется не в технологиях (они уже достаточно стандартны, хорошо развиты и доступны), а в интеграции в ваши рабочие процессы и в применимых интерфейсах.

В этой статье я поделюсь деталями этого «погружения», и вместе мы постараемся разобраться, из чего на самом деле состоит ИИ в корпоративном контуре, почему автономные чат-боты бесполезны, как бороться с фатальными ошибками нейросетей и как всё это связать в систему, создающую реальную ценность для вас как для пользователей.

Как устроен ИИ в корпоративном контуре: технологии «под капотом»

Чтобы понять, где создается настоящая ценность, нужно заглянуть «под капот» ИИ-решений. Успешный ИТ-продукт на основе ИИ — это не одна волшебная кнопка, а симбиоз нескольких технологий. Попробуем упростить изучение, но только для того, чтобы оставить и запомнить основные понятия и определения, а весь информационный и маркетинговый шум (включая и избыточные, на мой взгляд, технические детали) оставить за скобками.

1. LLM (большие языковые модели): «мозг», который не может мыслить

В основе лежит LLM — это, в большинстве случаев, и называют искусственным интеллектом (LLM-ок сотни, для примера назовем только некоторые: GPT, Claude, YandexGPT, Qwen). Это нейронные сети с архитектурой «Трансформер», обученные на гигантских массивах текстов. Технология Generative Pretrained Transformer (GPT) появилась раньше, но массовой стала с выходом ChatGPT в ноябре 2022 года — задумайтесь, это было меньше четырех лет назад. Ставка была сделана на массовую доступность, потому что только она давала приемлемую окупаемость для привлечения миллиардов пользователей через предоставление возможности развития различных инструментов (ИИ-агентов, например) вокруг основной модели как центра этой «экосистемы». Но этот подход сейчас дает сбой, что хорошо для нас как для пользователей: «внезапно» начали появляться десятки и сотни новых LLM, растет конкуренция, растут как грибы инструменты по созданию агентов (бесплатные или очень дешевые), но об этом позже.

Как работает LLM (очень кратко)

LLM — это статистический двигатель, программа. Она не «понимает» смысл (вспомним мысленный эксперимент «Китайская комната» Джона Сёрля, предложенный еще в 1980 году в статье «Разумы, мозги и программы», если интересно почитайте про это в «сети»), а лишь предсказывает следующий токен (минимальную единицу текста) с учетом наибольшей вероятности его использования в языке. Токен для русского языка — это три знака, для английского, например, два знака. Поэтому все определения типа «думает», «осознает», «размышляет» к модели не применимы. Хотя мы и вынуждены их использовать, зачастую упрощая наше понимание самой механики работы. Запомненные в ходе «обучения» на огромном массиве примеров наиболее вероятные последовательности токенов — это и есть ее «интеллект». Ни больше ни меньше: модель не знает фактов и не умеет действовать в реальном мире, без внешних инструкций/запросов она ничего не совершает.

Вопрос: а чем вообще отличаются одна модель от другой? Сейчас LLM много, и как выбрать, особенно под решение своих задач? Как оценить то, что вам будут предлагать различные эксперты искусственного интеллекта или ИТ-провайдеры?

Давайте попробуем квалифицировать модели и разобраться, почему одна модель лучше другой или хуже.

Как выбрать LLM для бизнеса: ключевые параметры модели

Количество параметров LLM (т.е. размер «мозга»)

Это базовый параметр, он измеряется в миллиардах (B) или триллионах (T). В каждой LLM указывается количество параметров: например, компактные модели 7B–8B (Mistral 7B, Phi-3) или гиганты 100B–1T+ (GPT-4o, Claude 3.5, Gemini 1.5).

Чем больше параметров, тем больше запомненных вероятностей последовательности токенов и, следовательно, выше способность к сложным рассуждениям и анализу. Но и тем выше требования к вычислительным ресурсам (GPU/RAM).

Здесь важно соответствие «размера мозга» модели стоящим перед вами задачам. Даже с точки зрения обычной бытовой логики нет смысла переплачивать за ресурсы (а их стоимость значительна для развертывания гигантских моделей), если ваша задача не требует «больших мыслительных способностей» ни с точки зрения быстродействия, ни с точки зрения поставленной задачи. К сожалению, понять это в большинстве случаев можно только на практике.

Контекстное окно («память» модели)

Этот параметр определяет, какой объем текста модель может воспринимать и анализировать за один раз. Если вы не прерываете сессию общения (грубо говоря, не выключаете компьютер), то это количество токенов в вашем запросе и в ответе модели. Кстати, если вы прервали сессию общения с моделью, она все «забывает». Т.е. предыдущие диалоги в стандартном способе общения не учитываются.

• Стандарт: 4k–8k токенов (хватает для коротких диалогов или небольших документов).
• Extended: 32k–128k токенов (позволяет загружать целые договоры или технические спецификации).
• Massive: 1M+ токенов (анализ огромных массивов данных, например, годовых отчетов).

Важная особенность: при работе с большими массивами данных или текста существует феномен «Lost in the middle». Модель может «забыть» или проигнорировать информацию, находящуюся в середине длинного текста, запроса или т.н. промпта. Чтобы снизить влияние этого эффекта, важное в запросе размещают в начале и в конце, а вместо загрузки всего документа целиком используют RAG (о нем ниже), который «подкладывает» модели только нужные фрагменты. Для экономии вычислительных ресурсов при работе с большими моделями применяют т.н. MoE (Mixture of Experts): для конкретной задачи активируется только часть «экспертов» внутри модели. Это сохраняет высокое качество ответа и значительно экономит вычислительные ресурсы.

Модель распространения и использования

Облако (SaaS): GPT-4, Claude 3, Gemini. Максимальное качество поставляется «из коробки», но данные уходят к вендору в облако. Они по понятным причинам не подходят для строгих контуров ИТ-безопасности и при отсутствии желания отдавать важную информацию в «мир».

LLM с открытыми весами/настройками (Open Weights / On-premise): Llama 3, Qwen, Mistral, GigaChat (enterprise-версия). Позволяют развернуть модель на собственных серверах компании, гарантируя полный суверенитет данных и возможность «дообучения», настройки (fine-tuning) на внутренних данных. Для России это стандартный подход, особенно для чувствительной информации.

Специализация и бенчмарки

Есть набор специальных оценок, таких как: MMLU — это оценка общих знаний и понимания предмета, HumanEval — это способность генерировать и понимать программный код.

Но, как я уже говорил, определить, что лучше подходит под решение ваших задач — это только опыт и практика.

Как выбрать LLM для казначейства и других бизнес-задач

Итак, как выбрать наиболее подходящую LLM для бизнес-задачи:

• Определите требования к безопасности и суверенитету данных. Т.е. скорее всего, для решения задач казначейства это LLM в конфигурации on-premise.
• Оцените аппаратные ресурсы и бюджет. On-premise, т.е. локальное развертывание на ваших серверах, требует «железа». Как ни странно, но эти требования не критичны, как можно было бы подумать, воспринимая информацию из медиа. Но здесь важен опыт, практика и оценка применимости именно к вашей задаче. Например, для запуска модели Qwen 2.5 32B (используемой для не сильно нагруженных задач в отдельных модулях казначейских систем, таких как модули VESNA.Treasury) требуется: для загрузки модели: ~17,4 ГБ, оперативная память: от 32 ГБ, видеопамять (VRAM): от 24 ГБ (уровня RTX 3090/4090) или типа Nvidia DGX. Что не очень затратно, это вам скажет любой ИТ-специалист. НО…
• Выбирайте размер модели под сложность задачи. Не используйте «тяжелую» модель там, где справится «легкая». Требуйте от вендора применения инструментов, например, ИИ-агентов, которые работают с разными моделями и в структуре, когда можно легко заменить одну модель на другую, например в ходе приемо-сдаточных испытаний.
• Настройте параметры генерации под сценарий. Даже лучшая модель может выдавать плохой результат без возможности настроек (они доступны при внедрении через инструменты типа Ollama, LM Studio). Самая распространенная настройка — это т.н. температура модели (обычно от 0 до 1.0). Для аналитики и работы с документами ставьте 0.0–0.2 (минимум креативности, максимум детерминизма и фактов). Для генерации маркетинговых текстов можно повысить до 0.7–0.9, будет больше «фантазий». Еще есть реже используемые настройки, например, Top P (ограничивает выбор токенов только наиболее вероятными), Frequency/Presence Penalty (штрафы, которые подавляют повторения и зацикливание модели на одних и тех же фразах) или Stop Sequences, которая обрывает генерацию, когда модель уже выдала нужный ответ.

Запоминаем основной принцип: ваша задача диктует конфигурацию LLM, не наоборот. Мы должны отказаться от принципа «AI first», когда ИИ пытаются применить вообще для решения всех задач, часто забывая о классических инструментах программирования

Давайте теперь поговорим об инструментах. Т.е. тех программах, которые будут работать вместе с LLM-моделями, используя их возможности как основу, ядро.

2. ИИ-ассистент и ИИ-агент: в чём разница между исполнителем и автономной системой

На рынке часто специально путают эти понятия, называя любой продвинутый чат-бот «агентом» в маркетинговых целях. По мировой статистике только около 40% всех ИИ-агентов могут называться таковыми, в большей части это ассистенты или чат-боты. А для бизнеса эта разница колоссальна.

• ИИ-ассистент: это консультант, если просто объяснять. Ему нужно указывать, т.е. логически, с помощью программы, описывать каждый шаг и действие, которое он должен совершить. Вы спрашиваете — он отвечает, вы даете конкретные инструкции – он по ним действует. Здесь используется принцип «human in the loop», т.е. вы, как пользователь, утверждаете результат его работы, если по-простому.
• ИИ-агент: это «автономная система», работающая в т.н. «петле обратной связи» (agentic loop). Вы ставите агенту ЦЕЛЬ, а он сам определяет, как ее достичь. Агент планирует действия, использует инструменты (через MCP-серверы обращается к LLM, API, базам данных, календарям), анализирует результат, корректирует подход, если необходимо. Агент не просто генерирует текст. Он выполняет работу внутри ваших корпоративных систем, имитируя действия сотрудника.

НО, и в первом, и во втором случае вы должны прописать, с использованием специальных программ или приложений (их много, например LangChain, AutoGPT, CrewAI, Yandex AI Studio) логику действий ИИ-ассистента/агента, степень его свободы, источники информации и сервера, к которым он может обращаться, или степень свободы действий на основе инструкций, полученных от той же LLM. Это важно помнить, особенно когда вы будете слышать о самостоятельности ИИ-агентов и их «походах» по просторам интернета.

3. RAG: корпоративная память для LLM (дополненный поиск и извлечение)

Чтобы заставить LLM опираться на данные, максимально близкие к вашему организационному, юридическому или финансовому ландшафту, используется технология RAG (Retrieval-Augmented Generation). Например, все телефонные чат-боты так работают.

• Что происходит: Ваши документы (причем любые и в любом формате, вплоть до картинок) разбиваются на части (т.н. чанки), превращаются в математические векторы (с помощью embedding) и сохраняются в векторной базе данных. При запросе система находит близкие части текста по «смыслу» (т.е. координатам векторов) и «подкладывает» их в промпт для LLM, которая создает вам ответ на основе вашей базы документов и своих «знаний» (вспоминаем, что «знания» модели — это запомненная моделью наиболее часто встречающаяся последовательность токенов).
• Ценность: RAG «приземляет» ИИ ближе к вашим данным. Такой подход заставляет LLM меньше «выдумывать» и работать с вашей актуальной нормативно-справочной информацией, например, историей платежей или условиями контрактов.

4. Галлюцинации нейросетей в финансах: как с ними бороться

Если вы внедряете ИИ в критичные бизнес-процессы (финансы, казначейство, юридическое сопровождение), вы обязаны учитывать главную проблему — галлюцинации LLM.

Что это? ИИ генерирует информацию, которая выглядит правдоподобно, грамматически безупречно и уверенно, но на самом деле является выдуманной. В бизнесе это может означать прямые финансовые потери. И это катастрофически снижает доверие к ИИ как к надежной системе.

Классический пример: при решении задач по суммаризации данных (это краткое изложение текста с сохранением основного смысла) уровень галлюцинаций у топовых моделей (GPT-4o, Claude Sonnet 3.5, Gemini 1.5 Pro) превышает 10%. Ошибки имеют свойство накапливаться по цепочке: если агент выполняет задачу 5 раз последовательно на одном и том же тексте, общая точность падает до 59%. А если 10 раз — точность рушится до 35%.

Риск галлюцинаций можно контролировать, но никогда не получится его полностью устранить.

В качестве инструментов для контроля можно использовать:

Шаблоны промптов: «Отвечай только фактами. Если не уверен — напиши «неизвестно» и не придумывай» или «Структура ответа: 1. Краткий ответ. 2. Пошаговое обоснование. 3. Источники». Но это, как мы понимаем, не очень удобно, особенно когда ИИ «зашит» в ваши рабочие процессы. Каждый раз или на каждом шаге вы не будете уточнять промпты. Лучше использовать RAG как «якорь реальности».

Существуют механизмы контроля галлюцинаций. Наборы автоматических оценок качества (Quality Assurance). Например, когда ответы LLM проверяют другие алгоритмы:

• FactCC: модель-классификатор, которая отделяет фактологически верные высказывания от ложных.
• DAE Score: оценивает смысловую близость через синтаксические связи.
• QAGS: генерирует вопросы по оригинальному тексту и проверяет, может ли ИИ ответить на них из сгенерированного текста (если не может — значит, исказил факты).
• GPT-based оценка: использование более крупной модели для аудита фактической достоверности текста, сгенерированного меньшей моделью.

Доступна также экспертная валидация:

• HALO: оценка логики ответа, т.е. насколько генерация соответствует исходным фактам.
• HELP: привлечение профильных экспертов (в медицине — врачей, в финансах — казначеев) для оценки текстов.
• MAF: разложение галлюцинации по типу искажения (добавление смысла, изменение смысла, т.н. fabrication).

НО: всегда только эксперт, профессионал или сотрудник, который знает рабочий процесс и ожидаемый результат, может гарантированно проверить работу LLM и, что более важно, взять ответственность за результат.

5. ИИ в казначействе: как встроить нейросети в рабочие процессы и где создается ценность

Итак, можно заключить, что на рынке есть широкое разнообразие доступных ИИ-инструментов: LLM + RAG + Агенты, которые либо бесплатны, либо доступны с точки зрения уровня расходов на создание технологии.

Основной вопрос теперь: как всю эту структуру встраивать в сложные корпоративные или казначейские процессы.

Я просто перечислю некоторые популярные на рынке и уже ставшие стандартными инструменты. Помним, что выбор всегда зависит от требований безопасности (on-premise против SaaS), бюджета и специфики задачи. Вот из чего обычно собирается т.н. рабочий стек:

Большие языковые модели (LLM) – «Мозг»

Модели с открытыми весами (для развертывания on-premise / в контуре компании): Qwen (используется, например, в VESNA.Treasury), Meta Llama 3 / Code Llama, Mistral 7B / Mixtral, Microsoft Phi-3, GigaChat.

Облачные / SaaS решения: YandexGPT, GPT-4 / GPT-4o, Anthropic Claude 3, Google Gemini, MTS GPT.

Фреймворки и платформы для ИИ-агентов – «Руки и планирование»

Эти инструменты позволяют превратить LLM из чат-бота в автономного исполнителя, способного вызывать API и работать в цикле выполнения задач и оценки результата.

Open-source фреймворки: LangChain, LlamaIndex, LangGraph, AutoGen (Microsoft), CrewAI, Semantic Kernel, Haystack, DSPy, OpenCode.

Low-code / No-code платформы: LangFlow, Dify.ai, Flowise, Voiceflow, Stack AI.

Российские решения: YandexGPT Agents, SberAgents (GigaChat SDK), MTS AI Agent Platform, Tinkoff AI Agents, Aimylogic (Just AI), ELMA RPA + AI Agents, Naumen Smart Assistant, DeepPavlov Agent Framework, RuAgent.

RAG и векторные базы данных – «Память»

Векторные базы данных: Qdrant, Chroma, Pgvector (расширение для PostgreSQL), Milvus, FAISS, Weaviate, LanceDB.

Оркестрация RAG: LangChain, LlamaIndex, RAGFlow, DeepPavlov RAG, Sber GigaChat RAG SDK, MTS AI RAG Platform.

Ключевой вывод: Сам по себе список инструментов не создает ценность. Ценность создает архитектура: как именно эти компоненты связываются с вашими ERP, TMS и CRM через API, как используются MCP-серверы (Model Context Protocol), как они создают рабочий процесс с выходом на решение требуемой задачи.

Давайте попробуем на примере пары задач посмотреть, как это может быть реализовано.

Пример 1. ИИ-антифрод в казначействе (VESNA.Treasury): от простых правил проверки к семантическому анализу

Традиционный модуль антифрода работает на предустановленных алгоритмах и правилах. ИИ-модуль меняет парадигму, добавляя ИИ-ассистента с возможностью реализовать сложнейшие схемы проверок, которые с помощью классического программирования невозможно либо очень дорого внедрить, например:

• Семантическое расхождение: Платежное поручение формально привязано к договору, но ИИ понимает, что суть операции противоречит смыслу контракта.
• Расхождение версий документов: ИИ сравнивает данные в ERP/ECM и в TMS. Если мошенник подменил реквизиты в одном из контуров, система это зафиксирует.
• «Троянские» платежи и социальная инженерия: ИИ выявляет аномалии в массовых реестрах из Excel, когда среди сотен типовых операций «прячется» одна мошенническая. А также анализирует поведенческие факторы (захват учеток, нетипичное время, обход маршрутов согласования).

ИИ-ассистент может блокировать операцию, отправлять ее на дополнительное согласование или перенаправлять платеж в зависимости от корпоративных политик рисков, но он использует для этого уже стандартные настройки модуля Антифрод. Для пользователя работа ИИ-модуля антифрод выглядит только как возможность «накликать мышкой» дополнительный набор продвинутых проверок, но не ломает сам рабочий процесс, так как вся механика работы ИИ-ассистента зашита «под капот» системы. Нет никаких дополнительных диалоговых окон и общения голосом либо текстом с ИИ.

Пример 2. ИИ-агент для планирования и прогнозирования ликвидности

ИИ-агент берет на себя функцию оценки правильности планирования и анализа фактов, которые могут повлиять на дату и сумму плановых поступлений денежных средств на любом горизонте времени.

Рассмотрим MVP задачу, которая была реализована в VESNA.Treasury: «Уточнить дату и сумму входящего платежа за товар по новому контракту со 100% предоплатой».

ИИ-агент выстраивает цепочку из 10 шагов, интегрируясь с различными системами:

• Инициация и Сбор данных (используем RAG): проверяется наличие договора, заявки на платеж в плане ликвидности и собирает контекст из бухгалтерских систем или ЭДО. Источники данных легко добавляются и масштабируемы.
• Верификация и Анализ: проверяются условия продажи, анализирует платежную дисциплину покупателя.
• Оценка рисков: формируется риск-профиль контрагента на основе платежной дисциплины и выявленных аномалий.
• Прогноз (LLM + Алгоритмы): на основе платежной дисциплины контрагента уточняются плановая дата и сумма.
• Действие в системе (MCP/API): создается Заявка на поступление в ИИ-проекте БДДС, заменяется текущая заявка или оставляется без изменения, если нет причин для ее корректировки. Проверяется контрагент на наличие риска неплатежа в открытых источниках или на определенных сайтах.
• Коммуникация: уведомляются смежные подразделения, если выявлены расхождения и риск-факторы для контрагента.
• Контроль действий ИИ-ассистента: перенос данных в актуальный БДДС только пользователем. Вспоминаем принцип «human in the loop» и именно поэтому здесь корректно называть ИИ-ассистентом, а не агентом.
• Постфактум-анализ: после фактической даты поступления платежа эти данные, отклонения от прогноза, используются для дальнейшего планирования.

В результате достигается точность прогнозирования поступлений не менее 95%.

6. Как внедрить ИИ в бизнес, чтобы он окупался: правила перехода от хайпа к ценности

Сформулирую несколько правил перехода от «ИИ-хайпа» к «ИИ-ценности»:

• Начинайте с процесса, а не с технологии. Не пытайтесь, даже если вам будут активно это предлагать, использовать ИИ для всех задач сразу, разворачивая у себя тяжелую LLM или приобретая ИИ-агентов для написания любого ИИ-агента (такие тоже предлагаются на рынке). ИИ должен устранять конкретную боль: ускорять согласование, предсказывать кассовый разрыв, находить ошибку в договоре методом, который недоступен для классического программирования.
• Не верьте ИИ на слово — встраивайте контроль и утверждение результата. Всегда помним о риске галлюцинаций ИИ. Используйте RAG для привязки к своим данным, MCP-серверы для доступа к определенным API и экспертную валидацию, чтобы нивелировать галлюцинации.
• Требуйте от вендоров «бесшовности» и ответственности за конечный результат. Тренд рынка: использование ИИ должно стать частью продукта. Вендоры должны не просто отдавать LLM и агента, а выстраивать работу ИИ под решение конкретной задачи и рабочий процесс без дополнительных диалоговых окон. ИИ должен быть встроен в привычные интерфейсы. Сотрудник должен видеть уже готовую, проверенную ИИ-аналитику в привычном интерфейсе, а не «сырой» ответ нейросети, требующий уточнения и обсуждения с ней в диалоговом окне.

Выводы: ИИ — это новый слой операционной системы бизнеса

На мой взгляд эра «просто чат-ботов» и принципа «AI first» («только ИИ») уходит. На рынке корпоративного ИИ получат развитие только те провайдеры, которые поймут одну простую истину: ИИ — это не отдельный сервис, это новый слой операционной системы бизнеса.

Ценность создается там, где связка LLM, RAG и ИИ-агентов, защищенная от галлюцинаций алгоритмами контроля, берет на себя рутину и незаметно для пользователя встраивается в ежедневную работу казначея, финансиста, юриста или логиста. Только в симбиозе технологий и выстроенных бизнес-процессов будет рождена настоящая ценность для бизнеса. Ну а для повышения своей эффективности ИИ предоставляет еще больше возможностей, которыми я желаю вам активно пользоваться!

Частые вопросы об ИИ в финансах и казначействе

Почему ИИ в казначействе и финансах до сих пор не приносит прибыли? Проблема не в технологиях, а в интеграции: ИИ не встроен в рабочие процессы и привычные интерфейсы, а автономный чат-бот сам по себе не решает бизнес-задачу.

Чем ИИ-ассистент отличается от ИИ-агента? Ассистент действует по заданным шагам, а результат утверждает человек («human in the loop»; такой ассистент — консультант). Агент получает цель, сам планирует действия, использует инструменты и работает в «петле обратной связи».

Что такое RAG и зачем он нужен в финансах? RAG (Retrieval-Augmented Generation) — «корпоративная память»: система подбирает из ваших документов релевантные фрагменты и передает их LLM, поэтому модель меньше «выдумывает» и опирается на актуальные данные, например историю платежей и условия контрактов.

Можно ли полностью избавиться от галлюцинаций нейросетей? Нет. Риск можно контролировать (RAG, автоматические проверки качества, экспертная валидация), но полностью устранить его не получится, поэтому ответственность за результат остается за профессионалом.