chore(i18n): refresh uk translations
This commit is contained in:
openclaw-docs-i18n[bot]
parent
1edcde351a
commit
a47f383478
@ -1,26 +1,26 @@
|
||||
---
|
||||
read_when:
|
||||
- Ви хочете обслуговувати моделі з власного GPU-сервера
|
||||
- Ви налаштовуєте LM Studio або проксі, сумісний з OpenAI
|
||||
- Вам потрібні найнадійніші рекомендації щодо локальних моделей
|
||||
summary: Запустіть OpenClaw на локальних LLM (LM Studio, vLLM, LiteLLM, власні кінцеві точки OpenAI)
|
||||
- Ви хочете розгортати моделі зі свого GPU-сервера
|
||||
- Ви налаштовуєте LM Studio або OpenAI-сумісний проксі
|
||||
- Вам потрібні найбезпечніші рекомендації щодо локальних моделей
|
||||
summary: Запуск OpenClaw на локальних LLM (LM Studio, vLLM, LiteLLM, власні кінцеві точки OpenAI)
|
||||
title: Локальні моделі
|
||||
x-i18n:
|
||||
generated_at: "2026-04-27T08:07:53Z"
|
||||
generated_at: "2026-04-27T08:18:08Z"
|
||||
model: gpt-5.4
|
||||
provider: openai
|
||||
source_hash: 4a42076e542448018eaf8633c18dfd290c822be502d78a135d03d138e9713668
|
||||
source_hash: d6d44f451e14e74f49b8fb23c7c890c8a13a76c56ef82e5d271cfbb7d90f7c81
|
||||
source_path: gateway/local-models.md
|
||||
workflow: 15
|
||||
---
|
||||
|
||||
Локальний запуск можливий, але OpenClaw очікує великий контекст + сильний захист від інʼєкцій у підказки. Малі карти обрізають контекст і послаблюють безпеку. Орієнтуйтеся на високий рівень: **≥2 Mac Studio з максимальною конфігурацією або еквівалентна GPU-установка (~$30k+)**. Одна GPU на **24 GB** підходить лише для легших підказок із вищою затримкою. Використовуйте **найбільший / повнорозмірний варіант моделі, який можете запустити**; агресивно квантизовані або “small” чекпойнти підвищують ризик інʼєкцій у підказки (див. [Security](/uk/gateway/security)).
|
||||
Локальний запуск можливий, але OpenClaw очікує великий контекст + сильний захист від prompt injection. Малі карти обрізають контекст і послаблюють безпеку. Орієнтуйтеся на високий рівень: **≥2 Mac Studio у максимальній конфігурації або еквівалентний GPU-риг (~$30k+)**. Один GPU на **24 ГБ** підходить лише для легших запитів із вищою затримкою. Використовуйте **найбільший / повнорозмірний варіант моделі, який можете запустити**; агресивно квантизовані або “small” чекпойнти підвищують ризик prompt injection (див. [Безпека](/uk/gateway/security)).
|
||||
|
||||
Якщо вам потрібне локальне налаштування з найменшими труднощами, почніть із [LM Studio](/uk/providers/lmstudio) або [Ollama](/uk/providers/ollama) і `openclaw onboard`. Ця сторінка — це практичний посібник для продуктивніших локальних стеків і власних локальних серверів, сумісних з OpenAI.
|
||||
Якщо вам потрібне локальне налаштування з найменшими труднощами, почніть із [LM Studio](/uk/providers/lmstudio) або [Ollama](/uk/providers/ollama) і `openclaw onboard`. Ця сторінка — рекомендаційний посібник для потужніших локальних стеків і власних локальних серверів, сумісних з OpenAI.
|
||||
|
||||
## Рекомендовано: LM Studio + велика локальна модель (Responses API)
|
||||
|
||||
Найкращий поточний локальний стек. Завантажте велику модель у LM Studio (наприклад, повнорозмірну збірку Qwen, DeepSeek або Llama), увімкніть локальний сервер (типово `http://127.0.0.1:1234`) і використовуйте Responses API, щоб відокремити міркування від фінального тексту.
|
||||
Найкращий актуальний локальний стек. Завантажте велику модель у LM Studio (наприклад, повнорозмірну збірку Qwen, DeepSeek або Llama), увімкніть локальний сервер (типово `http://127.0.0.1:1234`) і використовуйте Responses API, щоб відокремити міркування від фінального тексту.
|
||||
|
||||
```json5
|
||||
{
|
||||
@ -60,15 +60,15 @@ x-i18n:
|
||||
**Контрольний список налаштування**
|
||||
|
||||
- Встановіть LM Studio: [https://lmstudio.ai](https://lmstudio.ai)
|
||||
- У LM Studio завантажте **найбільшу доступну збірку моделі** (уникайте варіантів “small” / сильно квантизованих), запустіть сервер, переконайтеся, що `http://127.0.0.1:1234/v1/models` її показує.
|
||||
- Замініть `my-local-model` на фактичний ідентифікатор моделі, показаний у LM Studio.
|
||||
- У LM Studio завантажте **найбільшу доступну збірку моделі** (уникайте варіантів “small” / сильно квантизованих), запустіть сервер, переконайтеся, що `http://127.0.0.1:1234/v1/models` показує її.
|
||||
- Замініть `my-local-model` на фактичний ID моделі, показаний у LM Studio.
|
||||
- Тримайте модель завантаженою; холодне завантаження додає затримку запуску.
|
||||
- Скоригуйте `contextWindow`/`maxTokens`, якщо ваша збірка LM Studio відрізняється.
|
||||
- За потреби змініть `contextWindow`/`maxTokens`, якщо ваша збірка LM Studio відрізняється.
|
||||
- Для WhatsApp дотримуйтеся Responses API, щоб надсилався лише фінальний текст.
|
||||
|
||||
Навіть під час локального запуску залишайте налаштованими хостовані моделі; використовуйте `models.mode: "merge"`, щоб резервні варіанти залишалися доступними.
|
||||
Тримайте розміщені моделі налаштованими навіть під час локального запуску; використовуйте `models.mode: "merge"`, щоб резервні варіанти залишалися доступними.
|
||||
|
||||
### Гібридна конфігурація: хостована основна модель, локальна резервна
|
||||
### Гібридна конфігурація: основна розміщена модель, локальна резервна
|
||||
|
||||
```json5
|
||||
{
|
||||
@ -109,18 +109,18 @@ x-i18n:
|
||||
}
|
||||
```
|
||||
|
||||
### Спочатку локально, із хостованим запасним варіантом
|
||||
### Насамперед локально, із резервом у хмарі
|
||||
|
||||
Поміняйте місцями основну модель і порядок резервних; залиште той самий блок providers і `models.mode: "merge"`, щоб мати змогу переключитися на Sonnet або Opus, коли локальний сервер недоступний.
|
||||
Поміняйте місцями основну модель і порядок резервних; залиште той самий блок providers і `models.mode: "merge"`, щоб можна було переключитися на Sonnet або Opus, коли локальний сервер недоступний.
|
||||
|
||||
### Регіональний хостинг / маршрутизація даних
|
||||
|
||||
- Хостовані варіанти MiniMax/Kimi/GLM також доступні в OpenRouter з кінцевими точками, прив’язаними до регіону (наприклад, хостинг у США). Виберіть там регіональний варіант, щоб трафік залишався у вибраній вами юрисдикції, і водночас використовуйте `models.mode: "merge"` для резервних варіантів Anthropic/OpenAI.
|
||||
- Лише локальний запуск залишається найсильнішим варіантом щодо приватності; регіональна маршрутизація при хостингу — це компромісний варіант, коли вам потрібні можливості провайдера, але ви хочете контролювати потік даних.
|
||||
- Розміщені варіанти MiniMax/Kimi/GLM також доступні в OpenRouter з кінцевими точками, прив’язаними до регіону (наприклад, розміщеними у США). Виберіть там регіональний варіант, щоб зберігати трафік у вибраній юрисдикції, і водночас використовуйте `models.mode: "merge"` для резервних Anthropic/OpenAI.
|
||||
- Лише локальний запуск залишається найкращим варіантом для конфіденційності; регіональна маршрутизація для розміщених моделей — проміжний варіант, коли вам потрібні можливості провайдера, але ви хочете контролювати потік даних.
|
||||
|
||||
## Інші локальні проксі, сумісні з OpenAI
|
||||
|
||||
vLLM, LiteLLM, OAI-proxy або власні шлюзи працюють, якщо вони надають кінцеву точку `/v1` у стилі OpenAI. Замініть блок provider вище на свою кінцеву точку та ідентифікатор моделі:
|
||||
vLLM, LiteLLM, OAI-proxy або власні шлюзи працюють, якщо вони надають кінцеву точку `/v1` у стилі OpenAI. Замініть блок provider вище на вашу кінцеву точку та ID моделі:
|
||||
|
||||
```json5
|
||||
{
|
||||
@ -149,37 +149,64 @@ vLLM, LiteLLM, OAI-proxy або власні шлюзи працюють, якщ
|
||||
}
|
||||
```
|
||||
|
||||
Залишайте `models.mode: "merge"`, щоб хостовані моделі були доступні як резервні.
|
||||
Використовуйте `models.providers.<id>.timeoutSeconds` для повільних локальних або віддалених серверів моделей, перш ніж збільшувати `agents.defaults.timeoutSeconds`. Тайм-аут провайдера застосовується лише до HTTP-запитів до моделей, включно зі зʼєднанням, заголовками, потоковою передачею тіла відповіді та загальним перериванням guarded-fetch.
|
||||
Зберігайте `models.mode: "merge"`, щоб розміщені моделі залишалися доступними як резервні.
|
||||
Використовуйте `models.providers.<id>.timeoutSeconds` для повільних локальних або віддалених
|
||||
серверів моделей, перш ніж збільшувати `agents.defaults.timeoutSeconds`. Тайм-аут провайдера
|
||||
застосовується лише до HTTP-запитів моделі, зокрема до встановлення з’єднання, заголовків, потокової
|
||||
передачі тіла відповіді та загального переривання guarded-fetch.
|
||||
|
||||
Примітка щодо поведінки для локальних / проксійованих бекендів `/v1`:
|
||||
Примітка щодо поведінки для локальних/проксійованих бекендів `/v1`:
|
||||
|
||||
- OpenClaw розглядає їх як проксі-маршрути, сумісні з OpenAI, а не як нативні кінцеві точки OpenAI
|
||||
- формування запитів, яке застосовується лише до нативного OpenAI, тут не використовується: немає `service_tier`, немає `store` для Responses, немає формування payload для сумісності міркування OpenAI і немає підказок для кешу підказок
|
||||
- приховані службові заголовки OpenClaw (`originator`, `version`, `User-Agent`) не додаються до цих користувацьких URL проксі
|
||||
- OpenClaw розглядає їх як проксі-маршрути, сумісні з OpenAI, а не як нативні
|
||||
кінцеві точки OpenAI
|
||||
- тут не застосовується формування запитів лише для нативного OpenAI: немає
|
||||
`service_tier`, немає Responses `store`, немає формування payload для сумісності
|
||||
з OpenAI reasoning і немає підказок для кешу prompt
|
||||
- приховані службові заголовки OpenClaw (`originator`, `version`, `User-Agent`)
|
||||
не додаються до цих власних URL проксі
|
||||
|
||||
Примітки щодо сумісності для суворіших бекендів, сумісних з OpenAI:
|
||||
|
||||
- Деякі сервери приймають у Chat Completions лише рядковий `messages[].content`, а не структуровані масиви частин контенту. Для таких кінцевих точок установіть `models.providers.<provider>.models[].compat.requiresStringContent: true`.
|
||||
- Деякі локальні моделі виводять окремі запити до інструментів у дужках як текст, наприклад `[tool_name]`, далі JSON і `[END_TOOL_REQUEST]`. OpenClaw перетворює їх на справжні виклики інструментів лише тоді, коли назва точно збігається з зареєстрованим інструментом для цього ходу; інакше блок вважається непідтримуваним текстом і приховується з видимих для користувача відповідей.
|
||||
- Деякі менші або суворіші локальні бекенди нестабільно працюють із повною формою підказки runtime агента OpenClaw, особливо коли включені схеми інструментів. Якщо бекенд працює для крихітних прямих викликів `/v1/chat/completions`, але не працює у звичайних ходах агента OpenClaw, спочатку спробуйте `agents.defaults.experimental.localModelLean: true`, щоб прибрати важкі типові інструменти на кшталт `browser`, `cron` і `message`; це експериментальний прапорець, а не стабільне налаштування режиму за замовчуванням. Див. [Experimental Features](/uk/concepts/experimental-features). Якщо це не допоможе, спробуйте `models.providers.<provider>.models[].compat.supportsTools: false`.
|
||||
- Якщо бекенд усе ще не працює лише на більших запусках OpenClaw, то проблема зазвичай полягає у можливостях моделі/сервера на боці апстриму або в помилці бекенда, а не в транспортному шарі OpenClaw.
|
||||
- Деякі сервери приймають лише рядковий `messages[].content` у Chat Completions, а не
|
||||
структуровані масиви частин контенту. Для таких кінцевих точок встановіть
|
||||
`models.providers.<provider>.models[].compat.requiresStringContent: true`.
|
||||
- Деякі локальні моделі виводять окремі запити до інструментів у дужках як текст, наприклад
|
||||
`[tool_name]`, після якого йде JSON і `[END_TOOL_REQUEST]`. OpenClaw перетворює
|
||||
їх на справжні виклики інструментів лише тоді, коли назва точно збігається із зареєстрованим
|
||||
інструментом для цього ходу; інакше блок розглядається як непідтримуваний текст і
|
||||
приховується від видимих для користувача відповідей.
|
||||
- Якщо модель виводить JSON, XML або текст у стилі ReAct, що виглядає як виклик
|
||||
інструмента, але провайдер не передав структурований виклик, OpenClaw залишає це
|
||||
як текст і записує попередження з run id, провайдером/моделлю, виявленим шаблоном і
|
||||
назвою інструмента, якщо вона доступна. Розцінюйте це як несумісність
|
||||
викликів інструментів на рівні провайдера/моделі, а не як завершений запуск інструмента.
|
||||
- Деякі менші або суворіші локальні бекенди нестабільно працюють із повною
|
||||
формою prompt середовища виконання агента OpenClaw, особливо коли включені схеми інструментів. Якщо
|
||||
бекенд працює для маленьких прямих викликів `/v1/chat/completions`, але не працює у звичайних
|
||||
ходах агента OpenClaw, спочатку спробуйте
|
||||
`agents.defaults.experimental.localModelLean: true`, щоб прибрати важкі
|
||||
стандартні інструменти, як-от `browser`, `cron` і `message`; це експериментальний
|
||||
прапорець, а не стабільне налаштування режиму за замовчуванням. Див.
|
||||
[Експериментальні можливості](/uk/concepts/experimental-features). Якщо це не допоможе, спробуйте
|
||||
`models.providers.<provider>.models[].compat.supportsTools: false`.
|
||||
- Якщо бекенд і далі не працює лише на більших запусках OpenClaw, то проблема, як правило,
|
||||
полягає у можливостях моделі/сервера на стороні постачальника або у багу бекенда, а не в транспортному шарі OpenClaw.
|
||||
|
||||
## Усунення проблем
|
||||
|
||||
- Gateway може дістатися до проксі? `curl http://127.0.0.1:1234/v1/models`.
|
||||
- Модель LM Studio вивантажена? Завантажте її знову; холодний старт — часта причина “зависання”.
|
||||
- OpenClaw попереджає, коли виявлене вікно контексту менше за **32k**, і блокує запуск, якщо воно менше за **16k**. Якщо ви впираєтеся в цю попередню перевірку, збільште ліміт контексту сервера/моделі або виберіть більшу модель.
|
||||
- Помилки контексту? Зменште `contextWindow` або збільшіть ліміт сервера.
|
||||
- Gateway може під’єднатися до проксі? `curl http://127.0.0.1:1234/v1/models`.
|
||||
- Модель у LM Studio вивантажена? Завантажте її знову; холодний старт — часта причина “зависання”.
|
||||
- OpenClaw попереджає, коли виявлене вікно контексту менше за **32k**, і блокує роботу нижче **16k**. Якщо ви натрапили на цю попередню перевірку, збільшіть ліміт контексту сервера/моделі або виберіть більшу модель.
|
||||
- Помилки контексту? Зменште `contextWindow` або підвищте ліміт сервера.
|
||||
- Сервер, сумісний з OpenAI, повертає `messages[].content ... expected a string`?
|
||||
Додайте `compat.requiresStringContent: true` до цього запису моделі.
|
||||
- Прямі крихітні виклики `/v1/chat/completions` працюють, але `openclaw infer model run`
|
||||
не працює на Gemma або іншій локальній моделі? Спочатку вимкніть схеми інструментів через
|
||||
`compat.supportsTools: false`, а потім перевірте знову. Якщо сервер і далі аварійно завершується лише
|
||||
на більших підказках OpenClaw, вважайте це обмеженням сервера/моделі на боці апстриму.
|
||||
- Безпека: локальні моделі оминають фільтри на боці провайдера; звужуйте агентів і тримайте увімкненим Compaction, щоб обмежити радіус ураження від інʼєкцій у підказки.
|
||||
Додайте `compat.requiresStringContent: true` у запис цієї моделі.
|
||||
- Маленькі прямі виклики `/v1/chat/completions` працюють, але `openclaw infer model run`
|
||||
не працює з Gemma або іншою локальною моделлю? Спочатку вимкніть схеми інструментів через
|
||||
`compat.supportsTools: false`, а потім повторіть перевірку. Якщо сервер і далі падає лише
|
||||
на більших prompt OpenClaw, розцінюйте це як обмеження сервера/моделі на стороні постачальника.
|
||||
- Безпека: локальні моделі оминають фільтри на стороні провайдера; тримайте агентів вузькоспеціалізованими, а Compaction увімкненим, щоб обмежити радіус ураження від prompt injection.
|
||||
|
||||
## Пов’язане
|
||||
|
||||
- [Довідник із конфігурації](/uk/gateway/configuration-reference)
|
||||
- [Відмовостійкість моделей](/uk/concepts/model-failover)
|
||||
- [Довідник з конфігурації](/uk/gateway/configuration-reference)
|
||||
- [Перемикання на резервну модель](/uk/concepts/model-failover)
|
||||
|
||||
Loading…
Reference in New Issue
Block a user