{"canonical_url":"https://engineer.company/uk/glossary/large-language-model/","content_markdown":"# Велика мовна модель\n\n## Що це таке\n\nВелика мовна модель — це нейронна мережа, навчена на дуже великому обсязі тексту\nробити одну річ: за вже написаним текстом призначити ймовірність кожному токену,\nякий міг би йти далі. Токен — це короткий шматок тексту: часто ціле слово, іноді\nчастина слова або окремий розділовий знак. Відповідь пишеться тим самим кроком,\nповтореним у циклі. Програма вибирає токен відповідно до цих імовірностей,\nдописує його до тексту й питає знову, доки модель не видасть токен, що означає\n«стоп», або доки не буде досягнуто обмеження довжини. Профіль NIST для\nгенеративного ШІ, опублікований у липні 2024 року, вміщує це в один рядок:\nвеликі мовні моделі передбачають наступний токен або слово в реченні.\nАбревіатура LLM, від англійського large language model, означає те саме, і саме\nцю форму вживає англійський текст профілю.\n\nАрхітектура, на якій побудовано моделі останніх років, називається Transformer;\nїї описала стаття про машинний переклад 2017 року. Вона відмовилася від\nрекурентних і згорткових шарів, з яких складалися попередні моделі, і спиралася\nлише на увагу (attention) — механізм, що дає кожній позиції в тексті дивитися\nбезпосередньо на кожну іншу. Через це навчання стало набагато легше розподіляти\nміж багатьма процесорами, і модель зі статті навчалася значно швидше за\nпопередниць.\n\n«Велика» стосується кількості параметрів — ваг, яких мережа набуває під час\nнавчання. Стаття 2020 року описала модель зі 175 мільярдами параметрів,\nудесятеро більше, ніж мала будь-яка попередня нерозріджена мовна модель, і\nпоказала, що за такого розміру модель може братися за нове завдання за кількома\nрозв'язаними прикладами, вставленими у вхідний текст, без жодного додаткового\nнавчання.\n\nМодель, яку навчили лише продовжувати текст, саме це й робить: продовжує текст,\nа це не те саме, що виконати прохання. Стаття 2022 року описала крок, який\nперетворює таку модель на асистента. Люди написали відповіді, які хотіли б\nотримати на набір прохань, і модель донавчили на них; потім люди впорядкували\nвласні відповіді моделі від кращої до гіршої, і її навчили далі на цих\nрейтингах. Цей метод називають навчанням із підкріпленням на основі відгуків\nлюдей. В оцінках зі статті люди віддавали перевагу відповідям моделі з 1,3\nмільярда параметрів, навченої в такий спосіб, перед відповідями початкової\nмоделі, що мала в сто разів більше параметрів.\n\n## Чому це важливо\n\nМовна модель береться за роботу, яку важко охопити наперед заданими\nправилами: розкласти довільний лист у правильну папку, витягти поля з\nвідсканованої накладної, написати чернетку відповіді мовою клієнта, підсумувати\nдовге листування. Роботу, для якої раніше людина мусила прочитати кожен\nдокумент, тепер може підготувати програма, а людина — перевірити.\n\nТа сама властивість, що робить модель корисною, ускладнює побудову на ній. Її\nвихід зазвичай вибирається з розподілу ймовірностей навмання, тож той самий вхід\nможе дати різні відповіді за різних запусків, і модель пише гладко незалежно від\nтого, чи має рацію. NIST називає впевнено сформульований хибний результат\nконфабуляцією, а частіше кажуть «галюцинація», і описує його як природний\nнаслідок того, як ці моделі побудовано: вони створюють текст, що відповідає\nстатистиці тексту, на якому їх навчали, і такий текст часто точний, а іноді ні.\nNIST також зазначає, що модель може вигадати й міркування чи посилання, які\nнібито обґрунтовують відповідь. Хибна відповідь виглядає точнісінько як\nправильна, тож єдиний спосіб дізнатися, як часто модель має рацію у вашій\nроботі, — виміряти це на вашій роботі.\n\nНемає й однієї моделі, на якій можна зупинитися. Нові моделі виходять регулярно,\nдві з них можуть зовсім по-різному поводитися на тому самому вході, а коли\nзміниться модель, яку викликає ваша програма, вирішує її постачальник. Команда,\nщо будує на мовній моделі, будує на частині, якої не контролює, і довговічна\nробота — це все навколо моделі: кейси, що її вимірюють, інструменти, які їй\nдозволено викликати, і правила того, що вона може робити сама.\n\nПрофіль NIST називає дванадцять сфер ризику для генеративного ШІ, серед них\nконфабуляцію, приватність даних, інформаційну безпеку та інтелектуальну\nвласність. Його написано для організацій, що керують ризиками, а не для\nрозробників, але це придатний контрольний список для команди, яка вирішує, чого\nможе торкатися функція на основі моделі.\n\n## Як це виглядає на практиці\n\nФункція на основі мовної моделі починається з написаних кейсів, а не з промпту.\nКожен кейс — це справжній вхід і відповідь, яку прийняла б людина, що знає цю\nроботу; кейси зберігають у файлі під контролем версій поруч із кодом:\n\n```yaml\n# cases/delivery-notes.yaml\n- id: note-0142\n  input: scans/note-0142.txt\n  expect:\n    supplier: \"Example Freight\"\n    reference: \"DN-58213\"\n    pallets: 6\n- id: note-0157\n  input: scans/note-0157.txt\n  expect:\n    supplier: \"Sample Haulage\"\n    reference: \"DN-59002\"\n    pallets: 14\n```\n\nЯка модель виконує який тип завдання — це налаштування, тож мала й швидка модель\nможе вилучати дані, а більша — писати чернетки відповідей, що потребують\nсудження:\n\n```yaml\n# routing.yaml\njobs:\n  extract-delivery-note:\n    model: small-fast\n    cases: cases/delivery-notes.yaml\n  draft-claim-reply:\n    model: large\n    cases: cases/claim-replies.yaml\n```\n\nКожна зміна, чи то новий промпт, новий інструмент або нова модель, проходить усі\nкейси, перш ніж потрапити в роботу, а результат — це оцінка для кожного кейсу,\nяку зберігають у часі, щоб виправлення одного кейсу не могло непомітно зламати\nінший. Коли виходить нова модель, спробувати її — це зміна одного рядка в\n`routing.yaml` і прогін кейсів, а рішення перемкнутися спирається на оцінки, а\nне на анонс.\n\nСаме так цей сайт описує [розробку ШІ-агентів для вашої галузі](/uk/ai-agents/).\nВибір моделі задається в конфігурації, а не в коді: мала й швидка модель — для\nсортування та вилучення даних, велика — для завдань, що потребують судження.\nСпівпраця починається з того, що разом із людьми, які виконують роботу,\nзаписують від тридцяти до п'ятдесяти справжніх прикладів із правильними\nвідповідями, і кожна зміна — промпту, інструмента чи моделі — проходить їх усі,\nперш ніж потрапити в роботу. Як сказано на сторінці, модель завжди можна\nзамінити, а код, кейси й дані належать клієнтові, тож агент лишається його\nвласністю навіть тоді, коли змінюється модель, на якій він працює.\n\n## Де виникають проблеми\n\n**Впевнені відповіді, які виявляються хибними.** Модель, яку питають про пункт\nдоговору, якого перед нею немає, може все одно його описати тим самим упевненим\nтоном, яким дає правильні відповіді, і послатися на джерело, якого не існує.\nДайте моделі документи, на основі яких вона має відповідати, попросіть\nпосилатися на них і перевіряйте в коді, що кожне посилання вказує на справжній\nдокумент і фрагмент. Вимірюйте частку помилок на написаних кейсах, а відповіді з\nнаслідками передавайте людині, перш ніж на їхній основі буде вчинено будь-яку дію.\n\n**Інструкції, сховані в даних.** Програма, яка дає моделі читати електронні\nлисти, вебсторінки чи завантажені файли, дає авторам цього тексту говорити з\nмоделлю. Стаття 2023 року показала це на справжніх застосунках: інструкції,\nпідкинуті у вміст, який модель, найімовірніше, прочитає, змушували її розкривати\nдані й змінювати поведінку застосунку, а профіль NIST зараховує непряму ін'єкцію\nпромптів до ризиків безпеки генеративного ШІ. Вважайте все, що читає модель,\nнедовіреними вхідними даними, перевіряйте дозволи в інструментах, а не в\nпромпті, давайте інструментам лише права людини, від імені якої діє модель, і\nвимагайте схвалення людини для кожної дії, яку не можна скасувати.\n\n**Модель, що змінюється без вашого відома.** Нова версія чи інший постачальник\nможуть відповісти на той самий вхід інакше, і відповідь, яка проходила минулого\nмісяця, сьогодні не проходить, хоча ваш власний код не змінився. Вказуйте точну\nверсію моделі скрізь, де постачальник це дозволяє, і проганяйте весь файл кейсів\nза кожної зміни, зокрема зміни моделі, перш ніж вона дійде до користувачів.\n\n**Вихід, який код не може розібрати.** Модель, яку просять повернути JSON,\nповертає JSON і дружнє речення після нього, пропускає поле або записує число як\nрядок. Опишіть очікувану структуру в JSON Schema, перевіряйте кожну відповідь за\nнею і вважайте відповідь, що не пройшла перевірку, помилкою, яку треба повторити\nабо передати людині, а не даними.\n\n**Персональні дані в промптах і журналах.** Усе, що надсилають моделі на\nсерверах постачальника, залишає ваші власні системи, а журнал промптів і\nвідповідей зберігає персональні дані ще довго після того, як запит виконано.\nNIST додає, що моделі можуть повторювати чутливі дані зі своїх навчальних даних,\nі називає це запам'ятовуванням даних. Надсилайте лише ті поля, яких потребує\nзавдання, зберігайте журнали промптів за тими самими правилами зберігання й\nдоступу, що й дані в них, і прочитайте умови постачальника щодо зберігання та\nнавчання, перш ніж до нього потраплять будь-які персональні дані.\n\n## Що почитати далі\n\n- [NIST AI 600-1: Generative Artificial Intelligence Profile](https://doi.org/10.6028/NIST.AI.600-1)\n  — супровідний документ NIST до його рамки управління ризиками ШІ, липень 2024\n  року: дванадцять ризиків генеративного ШІ, серед них конфабуляція, і\n  запропоновані дії щодо кожного.\n- [Attention Is All You Need](https://arxiv.org/abs/1706.03762) — стаття 2017\n  року, що представила Transformer, основу сучасних мовних моделей.\n- [Language Models are Few-Shot Learners](https://arxiv.org/abs/2005.14165) —\n  стаття 2020 року про модель зі 175 мільярдами параметрів, яка береться за нові\n  завдання за прикладами у вхідному тексті.\n- [Training language models to follow instructions with human feedback](https://arxiv.org/abs/2203.02155)\n  — донавчання на написаних відповідях і впорядкованих результатах: крок від\n  передбачувача тексту до асистента.\n- [Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection](https://arxiv.org/abs/2302.12173)\n  — інструкції, підкинуті в дані, які читає модель, продемонстровані на\n  справжніх застосунках.\n\n\u003chttps://engineer.company/uk/glossary/large-language-model/\u003e\n","date_modified":"2026-11-12T05:34:23Z","description":"Що насправді обчислює велика мовна модель, чому її відповіді треба перевіряти тестами, а не брати на віру, і п'ять способів, як ламається функція на ній.","formats":{"gemtext":"https://engineer.company/uk/glossary/large-language-model/index.gmi","gopher":"https://engineer.company/uk/glossary/large-language-model/gophermap","html":"https://engineer.company/uk/glossary/large-language-model/","json":"https://engineer.company/uk/glossary/large-language-model/index.json","markdown":"https://engineer.company/uk/glossary/large-language-model/index.md","pdf":"https://engineer.company/uk/glossary/large-language-model/index.pdf"},"kind":"page","language":"uk","title":"Що таке велика мовна модель?","url":"https://engineer.company/uk/glossary/large-language-model/","version":1}