From a47f383478585fcd9a0d2fc18b0fbc9944731683 Mon Sep 17 00:00:00 2001 From: "openclaw-docs-i18n[bot]" Date: Mon, 27 Apr 2026 08:18:52 +0000 Subject: [PATCH] chore(i18n): refresh uk translations --- docs/uk/gateway/local-models.md | 109 ++++++++++++++++++++------------ 1 file changed, 68 insertions(+), 41 deletions(-) diff --git a/docs/uk/gateway/local-models.md b/docs/uk/gateway/local-models.md index f432618f9..ea704d80a 100644 --- a/docs/uk/gateway/local-models.md +++ b/docs/uk/gateway/local-models.md @@ -1,26 +1,26 @@ --- read_when: - - Ви хочете обслуговувати моделі з власного GPU-сервера - - Ви налаштовуєте LM Studio або проксі, сумісний з OpenAI - - Вам потрібні найнадійніші рекомендації щодо локальних моделей -summary: Запустіть OpenClaw на локальних LLM (LM Studio, vLLM, LiteLLM, власні кінцеві точки OpenAI) + - Ви хочете розгортати моделі зі свого GPU-сервера + - Ви налаштовуєте LM Studio або OpenAI-сумісний проксі + - Вам потрібні найбезпечніші рекомендації щодо локальних моделей +summary: Запуск OpenClaw на локальних LLM (LM Studio, vLLM, LiteLLM, власні кінцеві точки OpenAI) title: Локальні моделі x-i18n: - generated_at: "2026-04-27T08:07:53Z" + generated_at: "2026-04-27T08:18:08Z" model: gpt-5.4 provider: openai - source_hash: 4a42076e542448018eaf8633c18dfd290c822be502d78a135d03d138e9713668 + source_hash: d6d44f451e14e74f49b8fb23c7c890c8a13a76c56ef82e5d271cfbb7d90f7c81 source_path: gateway/local-models.md workflow: 15 --- -Локальний запуск можливий, але OpenClaw очікує великий контекст + сильний захист від інʼєкцій у підказки. Малі карти обрізають контекст і послаблюють безпеку. Орієнтуйтеся на високий рівень: **≥2 Mac Studio з максимальною конфігурацією або еквівалентна GPU-установка (~$30k+)**. Одна GPU на **24 GB** підходить лише для легших підказок із вищою затримкою. Використовуйте **найбільший / повнорозмірний варіант моделі, який можете запустити**; агресивно квантизовані або “small” чекпойнти підвищують ризик інʼєкцій у підказки (див. [Security](/uk/gateway/security)). +Локальний запуск можливий, але OpenClaw очікує великий контекст + сильний захист від prompt injection. Малі карти обрізають контекст і послаблюють безпеку. Орієнтуйтеся на високий рівень: **≥2 Mac Studio у максимальній конфігурації або еквівалентний GPU-риг (~$30k+)**. Один GPU на **24 ГБ** підходить лише для легших запитів із вищою затримкою. Використовуйте **найбільший / повнорозмірний варіант моделі, який можете запустити**; агресивно квантизовані або “small” чекпойнти підвищують ризик prompt injection (див. [Безпека](/uk/gateway/security)). -Якщо вам потрібне локальне налаштування з найменшими труднощами, почніть із [LM Studio](/uk/providers/lmstudio) або [Ollama](/uk/providers/ollama) і `openclaw onboard`. Ця сторінка — це практичний посібник для продуктивніших локальних стеків і власних локальних серверів, сумісних з OpenAI. +Якщо вам потрібне локальне налаштування з найменшими труднощами, почніть із [LM Studio](/uk/providers/lmstudio) або [Ollama](/uk/providers/ollama) і `openclaw onboard`. Ця сторінка — рекомендаційний посібник для потужніших локальних стеків і власних локальних серверів, сумісних з OpenAI. ## Рекомендовано: LM Studio + велика локальна модель (Responses API) -Найкращий поточний локальний стек. Завантажте велику модель у LM Studio (наприклад, повнорозмірну збірку Qwen, DeepSeek або Llama), увімкніть локальний сервер (типово `http://127.0.0.1:1234`) і використовуйте Responses API, щоб відокремити міркування від фінального тексту. +Найкращий актуальний локальний стек. Завантажте велику модель у LM Studio (наприклад, повнорозмірну збірку Qwen, DeepSeek або Llama), увімкніть локальний сервер (типово `http://127.0.0.1:1234`) і використовуйте Responses API, щоб відокремити міркування від фінального тексту. ```json5 { @@ -60,15 +60,15 @@ x-i18n: **Контрольний список налаштування** - Встановіть LM Studio: [https://lmstudio.ai](https://lmstudio.ai) -- У LM Studio завантажте **найбільшу доступну збірку моделі** (уникайте варіантів “small” / сильно квантизованих), запустіть сервер, переконайтеся, що `http://127.0.0.1:1234/v1/models` її показує. -- Замініть `my-local-model` на фактичний ідентифікатор моделі, показаний у LM Studio. +- У LM Studio завантажте **найбільшу доступну збірку моделі** (уникайте варіантів “small” / сильно квантизованих), запустіть сервер, переконайтеся, що `http://127.0.0.1:1234/v1/models` показує її. +- Замініть `my-local-model` на фактичний ID моделі, показаний у LM Studio. - Тримайте модель завантаженою; холодне завантаження додає затримку запуску. -- Скоригуйте `contextWindow`/`maxTokens`, якщо ваша збірка LM Studio відрізняється. +- За потреби змініть `contextWindow`/`maxTokens`, якщо ваша збірка LM Studio відрізняється. - Для WhatsApp дотримуйтеся Responses API, щоб надсилався лише фінальний текст. -Навіть під час локального запуску залишайте налаштованими хостовані моделі; використовуйте `models.mode: "merge"`, щоб резервні варіанти залишалися доступними. +Тримайте розміщені моделі налаштованими навіть під час локального запуску; використовуйте `models.mode: "merge"`, щоб резервні варіанти залишалися доступними. -### Гібридна конфігурація: хостована основна модель, локальна резервна +### Гібридна конфігурація: основна розміщена модель, локальна резервна ```json5 { @@ -109,18 +109,18 @@ x-i18n: } ``` -### Спочатку локально, із хостованим запасним варіантом +### Насамперед локально, із резервом у хмарі -Поміняйте місцями основну модель і порядок резервних; залиште той самий блок providers і `models.mode: "merge"`, щоб мати змогу переключитися на Sonnet або Opus, коли локальний сервер недоступний. +Поміняйте місцями основну модель і порядок резервних; залиште той самий блок providers і `models.mode: "merge"`, щоб можна було переключитися на Sonnet або Opus, коли локальний сервер недоступний. ### Регіональний хостинг / маршрутизація даних -- Хостовані варіанти MiniMax/Kimi/GLM також доступні в OpenRouter з кінцевими точками, прив’язаними до регіону (наприклад, хостинг у США). Виберіть там регіональний варіант, щоб трафік залишався у вибраній вами юрисдикції, і водночас використовуйте `models.mode: "merge"` для резервних варіантів Anthropic/OpenAI. -- Лише локальний запуск залишається найсильнішим варіантом щодо приватності; регіональна маршрутизація при хостингу — це компромісний варіант, коли вам потрібні можливості провайдера, але ви хочете контролювати потік даних. +- Розміщені варіанти MiniMax/Kimi/GLM також доступні в OpenRouter з кінцевими точками, прив’язаними до регіону (наприклад, розміщеними у США). Виберіть там регіональний варіант, щоб зберігати трафік у вибраній юрисдикції, і водночас використовуйте `models.mode: "merge"` для резервних Anthropic/OpenAI. +- Лише локальний запуск залишається найкращим варіантом для конфіденційності; регіональна маршрутизація для розміщених моделей — проміжний варіант, коли вам потрібні можливості провайдера, але ви хочете контролювати потік даних. ## Інші локальні проксі, сумісні з OpenAI -vLLM, LiteLLM, OAI-proxy або власні шлюзи працюють, якщо вони надають кінцеву точку `/v1` у стилі OpenAI. Замініть блок provider вище на свою кінцеву точку та ідентифікатор моделі: +vLLM, LiteLLM, OAI-proxy або власні шлюзи працюють, якщо вони надають кінцеву точку `/v1` у стилі OpenAI. Замініть блок provider вище на вашу кінцеву точку та ID моделі: ```json5 { @@ -149,37 +149,64 @@ vLLM, LiteLLM, OAI-proxy або власні шлюзи працюють, якщ } ``` -Залишайте `models.mode: "merge"`, щоб хостовані моделі були доступні як резервні. -Використовуйте `models.providers..timeoutSeconds` для повільних локальних або віддалених серверів моделей, перш ніж збільшувати `agents.defaults.timeoutSeconds`. Тайм-аут провайдера застосовується лише до HTTP-запитів до моделей, включно зі зʼєднанням, заголовками, потоковою передачею тіла відповіді та загальним перериванням guarded-fetch. +Зберігайте `models.mode: "merge"`, щоб розміщені моделі залишалися доступними як резервні. +Використовуйте `models.providers..timeoutSeconds` для повільних локальних або віддалених +серверів моделей, перш ніж збільшувати `agents.defaults.timeoutSeconds`. Тайм-аут провайдера +застосовується лише до HTTP-запитів моделі, зокрема до встановлення з’єднання, заголовків, потокової +передачі тіла відповіді та загального переривання guarded-fetch. -Примітка щодо поведінки для локальних / проксійованих бекендів `/v1`: +Примітка щодо поведінки для локальних/проксійованих бекендів `/v1`: -- OpenClaw розглядає їх як проксі-маршрути, сумісні з OpenAI, а не як нативні кінцеві точки OpenAI -- формування запитів, яке застосовується лише до нативного OpenAI, тут не використовується: немає `service_tier`, немає `store` для Responses, немає формування payload для сумісності міркування OpenAI і немає підказок для кешу підказок -- приховані службові заголовки OpenClaw (`originator`, `version`, `User-Agent`) не додаються до цих користувацьких URL проксі +- OpenClaw розглядає їх як проксі-маршрути, сумісні з OpenAI, а не як нативні + кінцеві точки OpenAI +- тут не застосовується формування запитів лише для нативного OpenAI: немає + `service_tier`, немає Responses `store`, немає формування payload для сумісності + з OpenAI reasoning і немає підказок для кешу prompt +- приховані службові заголовки OpenClaw (`originator`, `version`, `User-Agent`) + не додаються до цих власних URL проксі Примітки щодо сумісності для суворіших бекендів, сумісних з OpenAI: -- Деякі сервери приймають у Chat Completions лише рядковий `messages[].content`, а не структуровані масиви частин контенту. Для таких кінцевих точок установіть `models.providers..models[].compat.requiresStringContent: true`. -- Деякі локальні моделі виводять окремі запити до інструментів у дужках як текст, наприклад `[tool_name]`, далі JSON і `[END_TOOL_REQUEST]`. OpenClaw перетворює їх на справжні виклики інструментів лише тоді, коли назва точно збігається з зареєстрованим інструментом для цього ходу; інакше блок вважається непідтримуваним текстом і приховується з видимих для користувача відповідей. -- Деякі менші або суворіші локальні бекенди нестабільно працюють із повною формою підказки runtime агента OpenClaw, особливо коли включені схеми інструментів. Якщо бекенд працює для крихітних прямих викликів `/v1/chat/completions`, але не працює у звичайних ходах агента OpenClaw, спочатку спробуйте `agents.defaults.experimental.localModelLean: true`, щоб прибрати важкі типові інструменти на кшталт `browser`, `cron` і `message`; це експериментальний прапорець, а не стабільне налаштування режиму за замовчуванням. Див. [Experimental Features](/uk/concepts/experimental-features). Якщо це не допоможе, спробуйте `models.providers..models[].compat.supportsTools: false`. -- Якщо бекенд усе ще не працює лише на більших запусках OpenClaw, то проблема зазвичай полягає у можливостях моделі/сервера на боці апстриму або в помилці бекенда, а не в транспортному шарі OpenClaw. +- Деякі сервери приймають лише рядковий `messages[].content` у Chat Completions, а не + структуровані масиви частин контенту. Для таких кінцевих точок встановіть + `models.providers..models[].compat.requiresStringContent: true`. +- Деякі локальні моделі виводять окремі запити до інструментів у дужках як текст, наприклад + `[tool_name]`, після якого йде JSON і `[END_TOOL_REQUEST]`. OpenClaw перетворює + їх на справжні виклики інструментів лише тоді, коли назва точно збігається із зареєстрованим + інструментом для цього ходу; інакше блок розглядається як непідтримуваний текст і + приховується від видимих для користувача відповідей. +- Якщо модель виводить JSON, XML або текст у стилі ReAct, що виглядає як виклик + інструмента, але провайдер не передав структурований виклик, OpenClaw залишає це + як текст і записує попередження з run id, провайдером/моделлю, виявленим шаблоном і + назвою інструмента, якщо вона доступна. Розцінюйте це як несумісність + викликів інструментів на рівні провайдера/моделі, а не як завершений запуск інструмента. +- Деякі менші або суворіші локальні бекенди нестабільно працюють із повною + формою prompt середовища виконання агента OpenClaw, особливо коли включені схеми інструментів. Якщо + бекенд працює для маленьких прямих викликів `/v1/chat/completions`, але не працює у звичайних + ходах агента OpenClaw, спочатку спробуйте + `agents.defaults.experimental.localModelLean: true`, щоб прибрати важкі + стандартні інструменти, як-от `browser`, `cron` і `message`; це експериментальний + прапорець, а не стабільне налаштування режиму за замовчуванням. Див. + [Експериментальні можливості](/uk/concepts/experimental-features). Якщо це не допоможе, спробуйте + `models.providers..models[].compat.supportsTools: false`. +- Якщо бекенд і далі не працює лише на більших запусках OpenClaw, то проблема, як правило, + полягає у можливостях моделі/сервера на стороні постачальника або у багу бекенда, а не в транспортному шарі OpenClaw. ## Усунення проблем -- Gateway може дістатися до проксі? `curl http://127.0.0.1:1234/v1/models`. -- Модель LM Studio вивантажена? Завантажте її знову; холодний старт — часта причина “зависання”. -- OpenClaw попереджає, коли виявлене вікно контексту менше за **32k**, і блокує запуск, якщо воно менше за **16k**. Якщо ви впираєтеся в цю попередню перевірку, збільште ліміт контексту сервера/моделі або виберіть більшу модель. -- Помилки контексту? Зменште `contextWindow` або збільшіть ліміт сервера. +- Gateway може під’єднатися до проксі? `curl http://127.0.0.1:1234/v1/models`. +- Модель у LM Studio вивантажена? Завантажте її знову; холодний старт — часта причина “зависання”. +- OpenClaw попереджає, коли виявлене вікно контексту менше за **32k**, і блокує роботу нижче **16k**. Якщо ви натрапили на цю попередню перевірку, збільшіть ліміт контексту сервера/моделі або виберіть більшу модель. +- Помилки контексту? Зменште `contextWindow` або підвищте ліміт сервера. - Сервер, сумісний з OpenAI, повертає `messages[].content ... expected a string`? - Додайте `compat.requiresStringContent: true` до цього запису моделі. -- Прямі крихітні виклики `/v1/chat/completions` працюють, але `openclaw infer model run` - не працює на Gemma або іншій локальній моделі? Спочатку вимкніть схеми інструментів через - `compat.supportsTools: false`, а потім перевірте знову. Якщо сервер і далі аварійно завершується лише - на більших підказках OpenClaw, вважайте це обмеженням сервера/моделі на боці апстриму. -- Безпека: локальні моделі оминають фільтри на боці провайдера; звужуйте агентів і тримайте увімкненим Compaction, щоб обмежити радіус ураження від інʼєкцій у підказки. + Додайте `compat.requiresStringContent: true` у запис цієї моделі. +- Маленькі прямі виклики `/v1/chat/completions` працюють, але `openclaw infer model run` + не працює з Gemma або іншою локальною моделлю? Спочатку вимкніть схеми інструментів через + `compat.supportsTools: false`, а потім повторіть перевірку. Якщо сервер і далі падає лише + на більших prompt OpenClaw, розцінюйте це як обмеження сервера/моделі на стороні постачальника. +- Безпека: локальні моделі оминають фільтри на стороні провайдера; тримайте агентів вузькоспеціалізованими, а Compaction увімкненим, щоб обмежити радіус ураження від prompt injection. ## Пов’язане -- [Довідник із конфігурації](/uk/gateway/configuration-reference) -- [Відмовостійкість моделей](/uk/concepts/model-failover) +- [Довідник з конфігурації](/uk/gateway/configuration-reference) +- [Перемикання на резервну модель](/uk/concepts/model-failover)