{"canonical_url":"https://engineer.company/uk/glossary/retrieval-augmented-generation/","content_markdown":"# Генерація, доповнена пошуком\n\n## Що це таке\n\nГенерація, доповнена пошуком, — це спосіб відповідати на запитання за допомогою\nмовної моделі у два кроки. Спершу програма шукає в колекції документів\nфрагменти, які найімовірніше містять відповідь. Потім вона вставляє ці фрагменти\nу вхідні дані моделі поруч із запитанням, і модель пише відповідь на їхній\nоснові, а не з того, що засвоїла під час навчання. Англійською метод називається\nretrieval-augmented generation, найчастіше скорочено RAG, і назва походить зі\nстатті 2020 року про мовні завдання, що потребують знань, як-от відповіді на\nвідкриті запитання.\n\nСтаття описувала два види пам'яті. Попередньо навчена модель зберігає вивчене у\nсвоїх параметрах, і автори назвали це параметричною пам'яттю; окремий набір\nдокументів, у якому шукає навчений пошуковий модуль, — це непараметрична\nпам'ять. Їхня система поєднала попередньо навчену модель типу\nsequence-to-sequence зі щільним векторним індексом Вікіпедії, і автори порівняли\nдва способи використати знайдене: один будує всю відповідь на тих самих\nзнайдених фрагментах, другий може брати різні фрагменти для кожного токена, який\nпише. На трьох тестових наборах для відповідей на відкриті запитання система\nвстановила нові найкращі результати, а згенерований нею текст автори визнали\nконкретнішим, різноманітнішим і точнішим щодо фактів, ніж текст порівнянної\nмоделі без пошуку.\n\nПрограма може зібрати той самий шаблон із частин, які вже має: пошуковий індекс\nнад власними документами і велику мовну модель, яку вона викликає через API.\nПошукова половина — це звичайний пошук, і тут трапляються обидва його різновиди.\nРозріджений пошук зіставляє слова, так само як повнотекстовий пошук ранжує\nдокументи за функцією оцінювання на кшталт BM25. Щільний пошук перетворює\nзапитання й кожен фрагмент на вектори чисел і повертає фрагменти, чиї вектори\nлежать найближче, тобто це векторний пошук. Стаття 2020 року про щільний пошук\nфрагментів показала, що щільний пошуковий модуль, навчений на помірній кількості\nпар із запитання й фрагмента, обходив сильний базовий варіант на BM25 на\nвеличину від 9 до 19 відсоткових пунктів за тим, як часто правильний фрагмент\nз'являвся серед перших двадцяти результатів. Система може запускати обидва\nпошуки й об'єднувати два списки.\n\n## Чому це важливо\n\nМовна модель знає лише те, що було в її навчальному тексті, а цей текст\nзакінчується певною датою і ніколи не містив ваших договорів, прайс-листів чи\nнотаток із наради минулого тижня. Стаття про RAG називає дві вади знань,\nзбережених у параметрах: важко показати, звідки взялася відповідь, і важко ці\nзнання оновити. Пошук розв'язує обидві. Відповідь може посилатися на фрагменти,\nякі отримала модель, тож читач може відкрити джерело й перевірити, а нові знання\nдоходять до моделі, щойно документ потрапляє в індекс, без жодного навчання.\n\nПошук також повертає питання, хто що може бачити, туди, де йому місце. Пошук\nфрагментів — це звичайний пошук, а пошук може виконуватися з правами того, хто\nпитає, тож модель бачить лише ті фрагменти, які ця людина могла б відкрити й\nсама. У моделі, навченої на тих самих документах, такої межі немає: усе, чого\nвона навчилася, доступне кожному, хто нею користується.\n\nЦіна в тому, що відповідь не може бути кращою за те, що повертає пошук. Модель,\nякій дали не ті фрагменти, напише з них гладку відповідь, а модель, якій не дали\nнічого корисного, може однаково відповісти з пам'яті. Тому більшість роботи в\nсистемі генерації, доповненої пошуком, іде в дані й пошук, а не в модель.\n\n## Як це виглядає на практиці\n\nТрасування нижче простежує одне запитання через систему RAG. Пошук виконується з\nправами користувача, що питає, кожен фрагмент надходить разом із файлом і\nсторінкою, звідки його взято, а інструкції наказують моделі відповідати лише з\nфрагментів і ні з чого іншого:\n\n```text\nзапитання:  Які умови поставки діють для замовлення 4471?\nкористувач: sales-3 (роль: продажі, регіон: північ)\n\nзнайдено, відфільтровано до того, що може читати sales-3:\n  [1] contracts/framework-2025.pdf, сторінка 4\n      «Товар доставляється на склад покупця,\n       якщо в замовленні не вказано інше»\n  [2] orders/4471.txt, рядок 12\n      «Умови поставки: згідно з рамковою угодою»\n\nінструкції:\n  Відповідай лише з фрагментів нижче й посилайся на них як [n].\n  Якщо вони не відповідають на запитання, так і скажи.\n\nвідповідь:\n  Замовлення 4471 посилається на рамкову угоду [2], згідно\n  з якою товар доставляється на склад покупця [1].\n```\n\nКожна частина цього трасування — дані, які система може перевірити. Тест може\nпідтвердити, що на відоме запитання повернулися правильні фрагменти, скрипт — що\nкожне `[n]` у відповіді вказує на фрагмент, який справді знайшли, а людина, що\nчитає відповідь, може відкрити четверту сторінку договору.\n\nПідготовці, якої це потребує, присвячено сторінку цього сайту\n[дані компанії, готові до ШІ-агентів](/uk/ai-data/). Вона описує, як старі PDF,\nскани й поштові архіви перетворюються на текст, у якому можна шукати, з\nпосиланням на джерело, і як кожен рядок зберігає, звідки він надійшов: система,\nзавантаження, файл і сторінка, тож агент може послатися на запис, що стоїть за\nцифрою, а людина може його відкрити. Сторінка також задає права доступу в самих\nданих, а не в промпті: агент діє з привілеями свого користувача, а не\nадміністратора, і кожне читання записується в журнал із зазначенням людини, для\nякої його зроблено.\n\n## Де виникають проблеми\n\n**Пошук промахується, а модель однаково відповідає.** Коли правильний фрагмент\nне знайдено, модель усе одно щось отримує й усе одно пише відповідь. Вимірюйте\nпошук окремо: запишіть справжні запитання разом із фрагментами, що на них\nвідповідають, і перевіряйте, як часто ці фрагменти з'являються серед\nрезультатів, які отримує модель. Скажіть моделі прямо повідомляти, коли\nфрагменти не відповідають на запитання, і додайте такі запитання до своїх\nтестових кейсів.\n\n**Фрагменти, що розрізають відповідь навпіл.** Поділ документів на шматки\nфіксованої довжини відокремлює таблицю від її заголовка, а пункт договору від\nвинятку з нього, і кожна половина, знайдена окремо, вводить в оману. Діліть за\nструктурою, яку документ уже має, тобто за розділами, сторінками й рядками\nтаблиць, і зберігайте назву та розташування документа з кожним шматком.\n\n**Індекс не зважає на те, хто питає.** Індекс, який побудував сервіс із правом\nчитати все, повертатиме фрагменти з документів, яких людина, що питає, не може\nвідкривати, і модель перекаже їх цій людині. Фільтруйте за правами користувача\nвсередині пошуку, в індексі чи базі даних, перш ніж щось дійде до моделі.\nПравило в промпті — це не контроль доступу.\n\n**Інструкції, підкинуті в документ.** Знайдений текст написав хтось інший, і\nмодель не вміє надійно відрізнити фрагмент від інструкції. Профіль NIST для\nгенеративного ШІ описує непряму ін'єкцію промптів як атаки на застосунки,\nпобудовані на мовних моделях, через дані, які, найімовірніше, буде знайдено, а\nстаття 2023 року продемонструвала такі атаки на справжніх системах. Вважайте\nкожен знайдений фрагмент недовіреними вхідними даними, не дозволяйте жодному\nфрагментові запускати дію без перевірки в коді й не давайте інструментам, які\nможе викликати модель, більше прав, ніж має користувач.\n\n**Індекс, що відстає.** Документ змінили чи видалили, а індекс досі тримає старі\nфрагменти, тож система впевнено відповідає за договором, який уже не діє.\nОновлюйте індекс щоразу, коли змінюється джерело, прибирайте фрагменти, коли\nвидаляють їхній документ, і показуйте дату кожного джерела поруч із відповіддю.\n\n**Посилання, які не кажуть того, що стверджує відповідь.** Модель може послатися\nна фрагмент [2] у реченні, якого фрагмент [2] не підтверджує, а NIST зазначає,\nщо згенеровані посилання й самі можуть бути конфабуляцією. Перевіряйте в коді,\nщо кожне посилання вказує на знайдений фрагмент, і нехай люди в межах\nрегулярного тестування звіряють вибіркові відповіді з фрагментами, на які ті\nпосилаються.\n\n## Що почитати далі\n\n- [Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks](https://arxiv.org/abs/2005.11401)\n  — стаття 2020 року, що представила моделі RAG і порівняла два їхні варіанти на\n  відповідях на запитання та генерації тексту.\n- [Dense Passage Retrieval for Open-Domain Question Answering](https://arxiv.org/abs/2004.04906)\n  — щільний пошуковий модуль, навчений на парах із запитання й фрагмента, у\n  порівнянні з BM25 за тим, чи знаходить він фрагмент із відповіддю.\n- [NIST AI 600-1: Generative Artificial Intelligence Profile](https://doi.org/10.6028/NIST.AI.600-1)\n  — профіль ризиків NIST для генеративного ШІ: конфабуляція, приватність даних і\n  непряма ін'єкція промптів.\n- [Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection](https://arxiv.org/abs/2302.12173)\n  — як інструкції, сховані в знайдених даних, захоплюють застосунок, з атаками\n  на справжні системи.\n\n\u003chttps://engineer.company/uk/glossary/retrieval-augmented-generation/\u003e\n","date_modified":"2026-10-29T11:17:41Z","description":"Як мовна модель відповідає з ваших власних документів, а не з пам'яті, від чого залежить, чи відповідь правильна, і шість способів, у які це ламається.","formats":{"gemtext":"https://engineer.company/uk/glossary/retrieval-augmented-generation/index.gmi","gopher":"https://engineer.company/uk/glossary/retrieval-augmented-generation/gophermap","html":"https://engineer.company/uk/glossary/retrieval-augmented-generation/","json":"https://engineer.company/uk/glossary/retrieval-augmented-generation/index.json","markdown":"https://engineer.company/uk/glossary/retrieval-augmented-generation/index.md","pdf":"https://engineer.company/uk/glossary/retrieval-augmented-generation/index.pdf"},"kind":"page","language":"uk","title":"Що таке генерація, доповнена пошуком?","url":"https://engineer.company/uk/glossary/retrieval-augmented-generation/","version":1}