diff --git a/docs/uk/help/testing.md b/docs/uk/help/testing.md index c83f32710..521d23e70 100644 --- a/docs/uk/help/testing.md +++ b/docs/uk/help/testing.md @@ -2,14 +2,14 @@ read_when: - Запуск тестів локально або в CI - Додавання регресій для помилок моделей/провайдерів - - Налагодження поведінки gateway та агентів -summary: 'Набір для тестування: набори unit/e2e/live, Docker-ранери та що покриває кожен тест' + - Налагодження поведінки gateway + агента +summary: 'Набір для тестування: unit/e2e/live набори, Docker-ранери та що саме покриває кожен тест' title: Тестування x-i18n: - generated_at: "2026-04-06T18:52:08Z" + generated_at: "2026-04-06T23:44:12Z" model: gpt-5.4 provider: openai - source_hash: 6c3497652c060ebbf6be6c742cc2fba708b5c7cce22220db7e67c0849dae11d6 + source_hash: 61b1856fff7d09dcfdbaacf1b5c8fbc3284750e360fc37d5e15852011b6a5bb5 source_path: help/testing.md workflow: 15 --- @@ -18,10 +18,10 @@ x-i18n: OpenClaw має три набори Vitest (unit/integration, e2e, live) і невеликий набір Docker-ранерів. -Цей документ — посібник «як ми тестуємо»: +Цей документ — це посібник «як ми тестуємо»: - Що покриває кожен набір (і що він навмисно _не_ покриває) -- Які команди запускати для поширених сценаріїв (локально, перед push, налагодження) +- Які команди запускати для типових сценаріїв роботи (локально, перед push, налагодження) - Як live-тести знаходять облікові дані та вибирають моделі/провайдерів - Як додавати регресії для реальних проблем моделей/провайдерів @@ -32,228 +32,228 @@ OpenClaw має три набори Vitest (unit/integration, e2e, live) і не - Повний gate (очікується перед push): `pnpm build && pnpm check && pnpm test` - Швидший локальний запуск повного набору на потужній машині: `pnpm test:max` - Прямий цикл спостереження Vitest: `pnpm test:watch` -- Пряме націлювання на файл тепер також маршрутизує шляхи extensions/channel: `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` -- QA-сайт на основі Docker: `pnpm qa:lab:up` +- Пряме націлювання на файл тепер також маршрутизує шляхи extension/channel: `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` +- QA-сайт на базі Docker: `pnpm qa:lab:up` -Коли ви торкаєтеся тестів або хочете більше впевненості: +Коли ви змінюєте тести або хочете більше впевненості: - Gate покриття: `pnpm test:coverage` - Набір E2E: `pnpm test:e2e` -Коли налагоджуєте реальні провайдери/моделі (потрібні реальні облікові дані): +Під час налагодження реальних провайдерів/моделей (потрібні реальні облікові дані): -- Live-набір (моделі + gateway tool/image probes): `pnpm test:live` +- Live-набір (моделі + gateway tool/image probe): `pnpm test:live` - Тихо націлитися на один live-файл: `pnpm test:live -- src/agents/models.profiles.live.test.ts` -Порада: коли вам потрібен лише один збійний випадок, краще звузити live-тести через змінні середовища allowlist, описані нижче. +Порада: якщо вам потрібен лише один збійний випадок, краще звужувати live-тести через env-змінні allowlist, описані нижче. ## Набори тестів (що де запускається) -Думайте про набори як про «зростання реалістичності» (і зростання нестабільності/вартості): +Сприймайте набори як «щораз реалістичніші» (і щораз нестабільніші/дорожчі): -### Unit / integration (типово) +### Unit / integration (типовий варіант) - Команда: `pnpm test` -- Конфігурація: п’ять послідовних запусків shard (`vitest.full-*.config.ts`) поверх наявних scoped-проєктів Vitest -- Файли: core/unit inventories у `src/**/*.test.ts`, `packages/**/*.test.ts`, `test/**/*.test.ts` і whitelisted `ui` node-тести, які покриває `vitest.unit.config.ts` +- Конфіг: десять послідовних запусків shard (`vitest.full-*.config.ts`) поверх наявних scoped Vitest project +- Файли: core/unit inventory у `src/**/*.test.ts`, `packages/**/*.test.ts`, `test/**/*.test.ts` та дозволені node-тести `ui`, які покриває `vitest.unit.config.ts` - Обсяг: - Чисті unit-тести - - In-process integration-тести (gateway auth, routing, tooling, parsing, config) + - Внутрішньопроцесні integration-тести (gateway auth, routing, tooling, parsing, config) - Детерміновані регресії для відомих помилок - Очікування: - Запускається в CI - Реальні ключі не потрібні - Має бути швидким і стабільним -- Примітка про проєкти: - - Ненацілений `pnpm test` тепер запускає вісім менших shard-конфігурацій (`core-unit-src`, `core-unit-security`, `core-unit-support`, `core-contracts`, `core-runtime`, `agentic`, `auto-reply`, `extensions`) замість одного великого native root-project процесу. Це знижує піковий RSS на завантажених машинах і не дає роботі auto-reply/extension блокувати не пов’язані набори. - - `pnpm test --watch` і далі використовує native root `vitest.config.ts` project graph, оскільки багатошардовий watch-цикл непрактичний. - - `pnpm test`, `pnpm test:watch` і `pnpm test:perf:imports` спочатку маршрутизують явні цілі файл/каталог через scoped lanes, тому `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` не оплачує повний податок на запуск root project. - - `pnpm test:changed` розгортає змінені git-шляхи в ті самі scoped lanes, коли diff торкається лише routable source/test файлів; зміни config/setup усе ще повертаються до ширшого перезапуску root-project. - - Вибрані тести `plugin-sdk` і `commands` також маршрутизуються через окремі легкі lanes, що пропускають `test/setup-openclaw-runtime.ts`; stateful/runtime-heavy файли залишаються в наявних lanes. - - Вибрані helper source-файли `plugin-sdk` і `commands` також зіставляють запуски в режимі changed із явними sibling-тестами в цих легких lanes, щоб зміни helper-файлів не змушували перезапускати весь важкий набір для цього каталогу. - - `auto-reply` тепер має три окремі buckets: top-level core helpers, top-level `reply.*` integration-тести та піддерево `src/auto-reply/reply/**`. Це не дає найважчій роботі harness reply заважати дешевим тестам status/chunk/token. +- Примітка про projects: + - Ненацілений `pnpm test` тепер запускає десять менших shard-конфігів (`core-unit-src`, `core-unit-security`, `core-unit-ui`, `core-unit-support`, `core-contracts`, `core-bundled`, `core-runtime`, `agentic`, `auto-reply`, `extensions`) замість одного гігантського native root-project процесу. Це зменшує піковий RSS на завантажених машинах і не дає роботі auto-reply/extension виснажувати не пов’язані набори. + - `pnpm test --watch` усе ще використовує native root `vitest.config.ts` project graph, оскільки цикл watch із багатьма shard непрактичний. + - `pnpm test`, `pnpm test:watch` і `pnpm test:perf:imports` спочатку маршрутизують явні цілі файлів/каталогів через scoped lanes, тож `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` не платить повну ціну запуску root project. + - `pnpm test:changed` розгортає змінені git-шляхи в ті самі scoped lanes, коли diff торкається лише routable source/test файлів; зміни config/setup усе ще повертаються до ширшого повторного запуску root-project. + - Вибрані тести `plugin-sdk` і `commands` також маршрутизуються через окремі легкі lanes, що пропускають `test/setup-openclaw-runtime.ts`; файли зі станом/важким runtime залишаються на наявних lanes. + - Вибрані допоміжні source-файли `plugin-sdk` і `commands` також зіставляють changed-mode запуски з явними сусідніми тестами в цих легких lanes, тож зміни helper не змушують повторно запускати весь важкий набір для цього каталогу. + - `auto-reply` тепер має три окремі кошики: top-level core helper, top-level integration-тести `reply.*` і піддерево `src/auto-reply/reply/**`. Це утримує найважчу роботу harness для reply подалі від дешевих тестів status/chunk/token. - Примітка про embedded runner: - - Коли ви змінюєте вхідні дані для виявлення message-tool або runtime context compaction, + - Коли ви змінюєте входи виявлення message-tool або runtime context compaction, зберігайте обидва рівні покриття. - Додавайте сфокусовані helper-регресії для чистих меж routing/normalization. - - Також підтримуйте інтеграційні набори embedded runner у здоровому стані: + - Також підтримуйте в доброму стані integration-набори embedded runner: `src/agents/pi-embedded-runner/compact.hooks.test.ts`, - `src/agents/pi-embedded-runner/run.overflow-compaction.test.ts`, і + `src/agents/pi-embedded-runner/run.overflow-compaction.test.ts` і `src/agents/pi-embedded-runner/run.overflow-compaction.loop.test.ts`. - - Ці набори перевіряють, що scoped ids і поведінка compaction усе ще проходять + - Ці набори перевіряють, що scoped id та поведінка compaction як і раніше проходять через реальні шляхи `run.ts` / `compact.ts`; лише helper-тести не є - достатньою заміною для цих інтеграційних шляхів. + достатньою заміною для цих integration-шляхів. - Примітка про pool: - - Базова конфігурація Vitest тепер типово використовує `threads`. - - Спільна конфігурація Vitest також фіксує `isolate: false` і використовує non-isolated runner для root projects, e2e та live конфігурацій. - - Root UI lane зберігає своє `jsdom`-налаштування й optimizer, але тепер також працює на спільному non-isolated runner. - - Кожен shard `pnpm test` успадковує ті самі типові `threads` + `isolate: false` зі спільної конфігурації Vitest. - - Спільний launcher `scripts/run-vitest.mjs` тепер також типово додає `--no-maglev` для дочірніх Node-процесів Vitest, щоб зменшити churn компіляції V8 під час великих локальних запусків. Установіть `OPENCLAW_VITEST_ENABLE_MAGLEV=1`, якщо потрібно порівняти зі стандартною поведінкою V8. + - Базовий конфіг Vitest тепер типово використовує `threads`. + - Спільний конфіг Vitest також фіксує `isolate: false` і використовує неізольований runner для root project, e2e та live конфігів. + - Кореневий lane UI зберігає свій `jsdom` setup та optimizer, але тепер також працює на спільному неізольованому runner. + - Кожен shard `pnpm test` успадковує ті самі типові значення `threads` + `isolate: false` зі спільного конфига Vitest. + - Спільний launcher `scripts/run-vitest.mjs` тепер також типово додає `--no-maglev` для дочірніх Node-процесів Vitest, щоб зменшити churn компіляції V8 під час великих локальних запусків. Встановіть `OPENCLAW_VITEST_ENABLE_MAGLEV=1`, якщо вам потрібно порівняти зі стандартною поведінкою V8. - Примітка про швидку локальну ітерацію: - - `pnpm test:changed` маршрутизує через scoped lanes, коли змінені шляхи чітко зіставляються з меншим набором. - - `pnpm test:max` і `pnpm test:changed:max` зберігають ту саму поведінку маршрутизації, лише з вищим лімітом worker-ів. - - Автомасштабування локальних worker-ів тепер навмисно консервативне й також відступає, коли середнє навантаження host уже високе, тому кілька одночасних запусків Vitest типово завдають менше шкоди. - - Базова конфігурація Vitest позначає проєкти/конфігураційні файли як `forceRerunTriggers`, щоб перезапуски в режимі changed залишалися коректними, коли змінюється тестова обв’язка. - - Конфігурація зберігає увімкненим `OPENCLAW_VITEST_FS_MODULE_CACHE` на підтримуваних host; установіть `OPENCLAW_VITEST_FS_MODULE_CACHE_PATH=/abs/path`, якщо хочете одну явну локацію кешу для прямого профілювання. -- Примітка про налагодження продуктивності: - - `pnpm test:perf:imports` вмикає звітність Vitest про тривалість import, а також вивід import-breakdown. - - `pnpm test:perf:imports:changed` обмежує той самий вигляд профілювання файлами, зміненими відносно `origin/main`. -- `pnpm test:perf:changed:bench -- --ref ` порівнює маршрутизований `test:changed` із native root-project шляхом для цього зафіксованого diff і виводить wall time та macOS max RSS. -- `pnpm test:perf:changed:bench -- --worktree` вимірює поточне брудне дерево, маршрутизуючи список змінених файлів через `scripts/test-projects.mjs` і root Vitest config. - - `pnpm test:perf:profile:main` записує профіль CPU головного потоку для накладних витрат запуску і transform у Vitest/Vite. - - `pnpm test:perf:profile:runner` записує профілі CPU+heap runner-а для unit-набору з вимкненим файловим паралелізмом. + - `pnpm test:changed` маршрутизує через scoped lanes, коли змінені шляхи чисто зіставляються з меншим набором. + - `pnpm test:max` і `pnpm test:changed:max` зберігають ту саму поведінку маршрутизації, лише з вищим лімітом worker. + - Автомасштабування локальних worker тепер навмисно консервативніше і також знижує навантаження, коли середнє завантаження хоста вже високе, тож кілька одночасних запусків Vitest за замовчуванням шкодять менше. + - Базовий конфіг Vitest позначає projects/config файли як `forceRerunTriggers`, щоб повторні запуски в changed-mode залишалися коректними, коли змінюється тестова обв’язка. + - Конфіг зберігає `OPENCLAW_VITEST_FS_MODULE_CACHE` увімкненим на підтримуваних хостах; встановіть `OPENCLAW_VITEST_FS_MODULE_CACHE_PATH=/abs/path`, якщо хочете одну явну локацію кешу для прямого профілювання. +- Примітка про perf-debug: + - `pnpm test:perf:imports` вмикає звітування Vitest про тривалість імпорту та вивід import-breakdown. + - `pnpm test:perf:imports:changed` обмежує той самий вид профілювання файлами, зміненими відносно `origin/main`. +- `pnpm test:perf:changed:bench -- --ref ` порівнює маршрутизований `test:changed` із native шляхом root-project для цього зафіксованого diff і друкує wall time та macOS max RSS. +- `pnpm test:perf:changed:bench -- --worktree` виконує бенчмарк поточного брудного дерева, маршрутизуючи список змінених файлів через `scripts/test-projects.mjs` і root Vitest config. + - `pnpm test:perf:profile:main` записує main-thread CPU profile для накладних витрат запуску та трансформації Vitest/Vite. + - `pnpm test:perf:profile:runner` записує CPU+heap profiles runner для unit-набору з вимкненим файловим паралелізмом. ### E2E (gateway smoke) - Команда: `pnpm test:e2e` -- Конфігурація: `vitest.e2e.config.ts` +- Конфіг: `vitest.e2e.config.ts` - Файли: `src/**/*.e2e.test.ts`, `test/**/*.e2e.test.ts` - Типові параметри runtime: - Використовує Vitest `threads` з `isolate: false`, як і решта репозиторію. - - Використовує adaptive workers (CI: до 2, локально: 1 типово). - - Типово запускається в тихому режимі, щоб зменшити накладні витрати на консольний I/O. -- Корисні перевизначення: - - `OPENCLAW_E2E_WORKERS=` щоб примусово задати кількість worker-ів (обмежено 16). - - `OPENCLAW_E2E_VERBOSE=1` щоб знову ввімкнути докладний консольний вивід. + - Використовує адаптивних worker (CI: до 2, локально: 1 за замовчуванням). + - Типово запускається в silent mode, щоб зменшити накладні витрати на console I/O. +- Корисні override: + - `OPENCLAW_E2E_WORKERS=` щоб примусово задати кількість worker (обмежено 16). + - `OPENCLAW_E2E_VERBOSE=1` щоб знову ввімкнути детальний вивід у консоль. - Обсяг: - - Наскрізна поведінка gateway з кількома екземплярами - - Поверхні WebSocket/HTTP, pairing вузлів і важча робота з мережею + - Наскрізна поведінка кількох екземплярів gateway + - Поверхні WebSocket/HTTP, pairing вузлів і важчий networking - Очікування: - - Запускається в CI (коли це ввімкнено в pipeline) + - Запускається в CI (коли ввімкнено в pipeline) - Реальні ключі не потрібні - Більше рухомих частин, ніж у unit-тестах (може бути повільніше) -### E2E: smoke бекенда OpenShell +### E2E: smoke для backend OpenShell - Команда: `pnpm test:e2e:openshell` - Файл: `test/openshell-sandbox.e2e.test.ts` - Обсяг: - - Запускає ізольований gateway OpenShell на host через Docker + - Запускає ізольований OpenShell gateway на хості через Docker - Створює sandbox із тимчасового локального Dockerfile - - Перевіряє бекенд OpenShell у OpenClaw через реальні `sandbox ssh-config` + SSH exec + - Перевіряє backend OpenShell в OpenClaw через реальні `sandbox ssh-config` + SSH exec - Перевіряє remote-canonical поведінку файлової системи через sandbox fs bridge - Очікування: - - Лише opt-in; не входить у типовий запуск `pnpm test:e2e` - - Потрібен локальний CLI `openshell` і працездатний Docker daemon - - Використовує ізольовані `HOME` / `XDG_CONFIG_HOME`, а потім знищує test gateway і sandbox -- Корисні перевизначення: - - `OPENCLAW_E2E_OPENSHELL=1` щоб увімкнути тест при ручному запуску ширшого e2e-набору - - `OPENCLAW_E2E_OPENSHELL_COMMAND=/path/to/openshell` щоб указати нестандартний CLI binary або wrapper script + - Лише за запитом; не входить до типового запуску `pnpm test:e2e` + - Потрібні локальний CLI `openshell` і робочий Docker daemon + - Використовує ізольовані `HOME` / `XDG_CONFIG_HOME`, потім знищує тестовий gateway і sandbox +- Корисні override: + - `OPENCLAW_E2E_OPENSHELL=1` щоб увімкнути тест під час ручного запуску ширшого e2e-набору + - `OPENCLAW_E2E_OPENSHELL_COMMAND=/path/to/openshell` щоб вказати нестандартний CLI binary або wrapper script ### Live (реальні провайдери + реальні моделі) - Команда: `pnpm test:live` -- Конфігурація: `vitest.live.config.ts` +- Конфіг: `vitest.live.config.ts` - Файли: `src/**/*.live.test.ts` - Типово: **увімкнено** командою `pnpm test:live` (встановлює `OPENCLAW_LIVE_TEST=1`) - Обсяг: - - «Чи справді цей провайдер/модель працює _сьогодні_ з реальними обліковими даними?» - - Виявлення змін формату провайдера, особливостей tool calling, проблем auth і поведінки rate limit + - «Чи цей провайдер/модель справді працює _сьогодні_ з реальними обліковими даними?» + - Виявлення змін формату провайдера, особливостей tool calling, проблем auth та поведінки rate limit - Очікування: - За задумом не є стабільним для CI (реальні мережі, реальні політики провайдерів, квоти, збої) - - Коштує грошей / використовує rate limits + - Коштує грошей / витрачає rate limit - Краще запускати звужені підмножини, а не «все» -- Live-запуски використовують `~/.profile`, щоб підхопити відсутні API-ключі. -- Типово live-запуски все одно ізолюють `HOME` і копіюють config/auth-матеріали в тимчасовий test home, щоб unit-fixtures не могли змінити ваш реальний `~/.openclaw`. -- Установлюйте `OPENCLAW_LIVE_USE_REAL_HOME=1` лише тоді, коли навмисно хочете, щоб live-тести використовували ваш реальний домашній каталог. -- `pnpm test:live` тепер типово працює в тихішому режимі: він зберігає вивід прогресу `[live] ...`, але пригнічує додаткове повідомлення про `~/.profile` і вимикає gateway bootstrap logs/Bonjour chatter. Установіть `OPENCLAW_LIVE_TEST_QUIET=0`, якщо хочете повернути повні startup logs. -- Ротація API-ключів (специфічно для провайдера): задавайте `*_API_KEYS` у форматі з комами/крапками з комою або `*_API_KEY_1`, `*_API_KEY_2` (наприклад `OPENAI_API_KEYS`, `ANTHROPIC_API_KEYS`, `GEMINI_API_KEYS`) або специфічне перевизначення для live через `OPENCLAW_LIVE_*_KEY`; тести повторюють спробу при відповідях з rate limit. +- Live-запуски джерелять `~/.profile`, щоб підхопити відсутні API-ключі. +- Типово live-запуски все одно ізолюють `HOME` і копіюють config/auth-матеріали до тимчасового тестового home, щоб unit-фікстури не могли змінити ваш реальний `~/.openclaw`. +- Встановлюйте `OPENCLAW_LIVE_USE_REAL_HOME=1` лише тоді, коли вам свідомо потрібно, щоб live-тести використовували ваш реальний home-каталог. +- `pnpm test:live` тепер типово працює в тихішому режимі: зберігає вивід прогресу `[live] ...`, але приглушує додаткове повідомлення про `~/.profile` і вимикає логи bootstrap gateway/шум Bonjour. Встановіть `OPENCLAW_LIVE_TEST_QUIET=0`, якщо хочете повернути повні стартові логи. +- Ротація API-ключів (залежно від провайдера): встановіть `*_API_KEYS` у форматі через кому/крапку з комою або `*_API_KEY_1`, `*_API_KEY_2` (наприклад, `OPENAI_API_KEYS`, `ANTHROPIC_API_KEYS`, `GEMINI_API_KEYS`) або per-live override через `OPENCLAW_LIVE_*_KEY`; тести повторюють спробу у відповідь на rate limit. - Вивід прогресу/heartbeat: - - Live-набори тепер виводять рядки прогресу в stderr, тому тривалі виклики провайдерів помітно активні навіть коли захоплення консолі Vitest тихе. - - `vitest.live.config.ts` вимикає перехоплення консолі у Vitest, щоб рядки прогресу провайдера/gateway відразу транслювалися під час live-запусків. - - Налаштувати heartbeat для прямих моделей можна через `OPENCLAW_LIVE_HEARTBEAT_MS`. - - Налаштувати heartbeat для gateway/probe можна через `OPENCLAW_LIVE_GATEWAY_HEARTBEAT_MS`. + - Live-набори тепер виводять рядки прогресу в stderr, тож довгі виклики провайдерів видно як активні, навіть коли захоплення консолі Vitest тихе. + - `vitest.live.config.ts` вимикає перехоплення консолі Vitest, тож рядки прогресу провайдера/gateway одразу транслюються під час live-запусків. + - Налаштовуйте heartbeat для direct-model через `OPENCLAW_LIVE_HEARTBEAT_MS`. + - Налаштовуйте heartbeat для gateway/probe через `OPENCLAW_LIVE_GATEWAY_HEARTBEAT_MS`. ## Який набір мені запускати? -Використовуйте цю таблицю рішень: +Користуйтеся такою таблицею рішень: -- Редагуєте логіку/тести: запускайте `pnpm test` (і `pnpm test:coverage`, якщо змінили багато) -- Торкаєтесь gateway networking / WS protocol / pairing: додайте `pnpm test:e2e` -- Налагоджуєте «мій бот не працює» / специфічні для провайдера збої / tool calling: запускайте звужений `pnpm test:live` +- Редагування логіки/тестів: запустіть `pnpm test` (і `pnpm test:coverage`, якщо змінили багато) +- Зміни в gateway networking / WS protocol / pairing: додайте `pnpm test:e2e` +- Налагодження «мій бот не працює» / провайдер-специфічних збоїв / tool calling: запустіть звужений `pnpm test:live` -## Live: sweep capability вузла Android +## Live: sweep можливостей Android node - Тест: `src/gateway/android-node.capabilities.live.test.ts` - Скрипт: `pnpm android:test:integration` -- Мета: викликати **кожну команду, яка зараз оголошується** підключеним Android-вузлом, і перевірити поведінку контракту команди. +- Мета: викликати **кожну команду, яку зараз рекламує** підключений Android node, і перевірити поведінку contract команди. - Обсяг: - - Попередньо підготовлене/ручне налаштування (набір не встановлює, не запускає і не pair-ить застосунок). - - Перевірка `node.invoke` gateway для вибраного Android-вузла, команда за командою. -- Обов’язкова попередня підготовка: - - Android-застосунок уже підключено і pair-ено до gateway. - - Застосунок утримується на передньому плані. - - Для capability, які мають пройти, надані дозволи/consent на захоплення. -- Необов’язкові перевизначення цілі: + - Попередньо підготовлене/ручне налаштування (набір не встановлює/не запускає/не виконує pairing app). + - Валідація gateway `node.invoke` по командах для вибраного Android node. +- Потрібна попередня підготовка: + - Android app уже підключений і спарений із gateway. + - App тримається на передньому плані. + - Надано дозволи/згоду на захоплення для можливостей, які ви очікуєте успішними. +- Необов’язкові override цілі: - `OPENCLAW_ANDROID_NODE_ID` або `OPENCLAW_ANDROID_NODE_NAME`. - `OPENCLAW_ANDROID_GATEWAY_URL` / `OPENCLAW_ANDROID_GATEWAY_TOKEN` / `OPENCLAW_ANDROID_GATEWAY_PASSWORD`. -- Повні деталі налаштування Android: [Android App](/uk/platforms/android) +- Повні відомості про налаштування Android: [Android App](/uk/platforms/android) ## Live: smoke моделей (profile keys) Live-тести поділено на два шари, щоб можна було ізолювати збої: -- «Direct model» показує, чи взагалі може відповісти провайдер/модель із заданим ключем. -- «Gateway smoke» показує, чи працює повний pipeline gateway+agent для цієї моделі (sessions, history, tools, sandbox policy тощо). +- «Direct model» показує, чи провайдер/модель взагалі може відповісти з наданим ключем. +- «Gateway smoke» показує, що повний pipeline gateway+agent працює для цієї моделі (sessions, history, tools, sandbox policy тощо). -### Шар 1: пряме завершення моделі (без gateway) +### Шар 1: Direct model completion (без gateway) - Тест: `src/agents/models.profiles.live.test.ts` - Мета: - - Перерахувати виявлені моделі - - Використати `getApiKeyForModel` для вибору моделей, для яких у вас є облікові дані - - Виконати невелике completion для кожної моделі (і targeted-регресії там, де потрібно) + - Перелічити виявлені моделі + - Використати `getApiKeyForModel`, щоб вибрати моделі, для яких у вас є облікові дані + - Виконати невелике completion для кожної моделі (і цільові регресії там, де потрібно) - Як увімкнути: - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо викликаєте Vitest напряму) -- Установіть `OPENCLAW_LIVE_MODELS=modern` (або `all`, псевдонім для modern), щоб дійсно запустити цей набір; інакше він пропуститься, щоб `pnpm test:live` залишався сфокусованим на gateway smoke +- Встановіть `OPENCLAW_LIVE_MODELS=modern` (або `all`, псевдонім для modern), щоб цей набір справді запустився; інакше він буде пропущений, щоб `pnpm test:live` залишався зосередженим на gateway smoke - Як вибирати моделі: - - `OPENCLAW_LIVE_MODELS=modern`, щоб запустити modern allowlist (Opus/Sonnet 4.6+, GPT-5.x + Codex, Gemini 3, GLM 4.7, MiniMax M2.7, Grok 4) - - `OPENCLAW_LIVE_MODELS=all` — це псевдонім для modern allowlist + - `OPENCLAW_LIVE_MODELS=modern` щоб запустити сучасний allowlist (Opus/Sonnet 4.6+, GPT-5.x + Codex, Gemini 3, GLM 4.7, MiniMax M2.7, Grok 4) + - `OPENCLAW_LIVE_MODELS=all` — псевдонім для сучасного allowlist - або `OPENCLAW_LIVE_MODELS="openai/gpt-5.4,anthropic/claude-opus-4-6,..."` (allowlist через кому) - Як вибирати провайдерів: - `OPENCLAW_LIVE_PROVIDERS="google,google-antigravity,google-gemini-cli"` (allowlist через кому) - Звідки беруться ключі: - - Типово: profile store і резервні варіанти з env - - Установіть `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати **лише profile store** + - Типово: profile store і env fallback + - Встановіть `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати **лише profile store** - Навіщо це існує: - - Відділяє «API провайдера зламане / ключ недійсний» від «pipeline gateway agent зламаний» - - Містить малі, ізольовані регресії (приклад: reasoning replay + tool-call flows у OpenAI Responses/Codex Responses) + - Відокремлює «API провайдера зламаний / ключ недійсний» від «pipeline gateway agent зламаний» + - Містить малі ізольовані регресії (приклад: OpenAI Responses/Codex Responses reasoning replay + потоки tool-call) ### Шар 2: Gateway + smoke dev agent (що насправді робить "@openclaw") - Тест: `src/gateway/gateway-models.profiles.live.test.ts` - Мета: - Підняти in-process gateway - - Створити/оновити session `agent:dev:*` (із перевизначенням моделі для кожного запуску) + - Створити/оновити session `agent:dev:*` (override моделі для кожного запуску) - Перебрати моделі з ключами і перевірити: - «змістовну» відповідь (без tools) - - що працює реальний виклик tool (read probe) - - необов’язкові додаткові tool probes (exec+read probe) - - що регресійні шляхи OpenAI (лише tool-call → follow-up) і далі працюють + - що працює реальний виклик tool (`read` probe) + - необов’язкові додаткові tool probe (`exec+read` probe) + - що шляхи регресії OpenAI (лише tool-call → follow-up) продовжують працювати - Деталі probe (щоб ви могли швидко пояснювати збої): - - `read` probe: тест записує файл із nonce у workspace і просить агента `read` його та повторити nonce у відповіді. - - `exec+read` probe: тест просить агента записати nonce у тимчасовий файл через `exec`, а потім прочитати його через `read`. - - image probe: тест прикріплює згенерований PNG (cat + випадковий code) і очікує, що модель поверне `cat `. + - `read` probe: тест записує nonce-файл у workspace і просить агента `read` його та повернути nonce. + - `exec+read` probe: тест просить агента записати nonce у тимчасовий файл через `exec`, а потім прочитати його назад через `read`. + - image probe: тест прикріплює згенерований PNG (cat + рандомізований код) і очікує, що модель поверне `cat `. - Посилання на реалізацію: `src/gateway/gateway-models.profiles.live.test.ts` і `src/gateway/live-image-probe.ts`. - Як увімкнути: - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо викликаєте Vitest напряму) - Як вибирати моделі: - - Типово: modern allowlist (Opus/Sonnet 4.6+, GPT-5.x + Codex, Gemini 3, GLM 4.7, MiniMax M2.7, Grok 4) - - `OPENCLAW_LIVE_GATEWAY_MODELS=all` — це псевдонім для modern allowlist - - Або задайте `OPENCLAW_LIVE_GATEWAY_MODELS="provider/model"` (або список через кому), щоб звузити -- Як вибирати провайдерів (уникнути «всього OpenRouter»): + - Типово: сучасний allowlist (Opus/Sonnet 4.6+, GPT-5.x + Codex, Gemini 3, GLM 4.7, MiniMax M2.7, Grok 4) + - `OPENCLAW_LIVE_GATEWAY_MODELS=all` — псевдонім для сучасного allowlist + - Або встановіть `OPENCLAW_LIVE_GATEWAY_MODELS="provider/model"` (або список через кому), щоб звузити набір +- Як вибирати провайдерів (уникати «усе з OpenRouter»): - `OPENCLAW_LIVE_GATEWAY_PROVIDERS="google,google-antigravity,google-gemini-cli,openai,anthropic,zai,minimax"` (allowlist через кому) -- Tool + image probes у цьому live-тесті завжди ввімкнені: - - `read` probe + `exec+read` probe (stress tool) - - image probe запускається, коли модель оголошує підтримку image input +- Tool + image probe у цьому live-тесті завжди увімкнені: + - `read` probe + `exec+read` probe (стрес-тест tools) + - image probe запускається, коли модель заявляє підтримку image input - Потік (високорівнево): - - Тест генерує крихітний PNG із “CAT” + випадковим code (`src/gateway/live-image-probe.ts`) + - Тест генерує маленький PNG із “CAT” + випадковим кодом (`src/gateway/live-image-probe.ts`) - Надсилає його через `agent` `attachments: [{ mimeType: "image/png", content: "" }]` - - Gateway розбирає attachments у `images[]` (`src/gateway/server-methods/agent.ts` + `src/gateway/chat-attachments.ts`) - - Embedded agent передає моделі multimodal user message - - Перевірка: відповідь містить `cat` + code (допускаються незначні OCR-помилки) + - Gateway парсить attachments у `images[]` (`src/gateway/server-methods/agent.ts` + `src/gateway/chat-attachments.ts`) + - Embedded agent пересилає мультимодальне повідомлення користувача до моделі + - Перевірка: відповідь містить `cat` + код (допуск OCR: незначні помилки дозволені) -Порада: щоб побачити, що саме можна тестувати на вашій машині (і точні ідентифікатори `provider/model`), виконайте: +Порада: щоб побачити, що саме можна тестувати на вашій машині (і точні id `provider/model`), виконайте: ```bash openclaw models list @@ -263,22 +263,22 @@ openclaw models list --json ## Live: smoke CLI backend (Codex CLI або інші локальні CLI) - Тест: `src/gateway/gateway-cli-backend.live.test.ts` -- Мета: перевірити pipeline Gateway + agent за допомогою локального CLI backend, не торкаючись вашої типової конфігурації. +- Мета: перевірити pipeline Gateway + agent із локальним CLI backend, не торкаючись вашого типового config. - Увімкнення: - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо викликаєте Vitest напряму) - `OPENCLAW_LIVE_CLI_BACKEND=1` - Типові значення: - Модель: `codex-cli/gpt-5.4` - Команда: `codex` - - Аргументи: `["exec","--json","--color","never","--sandbox","read-only","--skip-git-repo-check"]` -- Перевизначення (необов’язково): + - Args: `["exec","--json","--color","never","--sandbox","read-only","--skip-git-repo-check"]` +- Override (необов’язково): - `OPENCLAW_LIVE_CLI_BACKEND_MODEL="codex-cli/gpt-5.4"` - `OPENCLAW_LIVE_CLI_BACKEND_COMMAND="/full/path/to/codex"` - `OPENCLAW_LIVE_CLI_BACKEND_ARGS='["exec","--json","--color","never","--sandbox","read-only","--skip-git-repo-check"]'` - - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_PROBE=1`, щоб надіслати реальне image-attachment (шляхи вставляються в prompt). - - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_ARG="--image"`, щоб передавати шляхи до image-файлів як CLI args замість вставки в prompt. - - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_MODE="repeat"` (або `"list"`), щоб керувати способом передавання image args, коли встановлено `IMAGE_ARG`. - - `OPENCLAW_LIVE_CLI_BACKEND_RESUME_PROBE=1`, щоб надіслати другий хід і перевірити flow відновлення. + - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_PROBE=1`, щоб надіслати реальний image attachment (шляхи ін’єктуються в prompt). + - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_ARG="--image"`, щоб передавати шляхи до image-файлів як CLI args замість ін’єкції в prompt. + - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_MODE="repeat"` (або `"list"`), щоб керувати передаванням image args, коли встановлено `IMAGE_ARG`. + - `OPENCLAW_LIVE_CLI_BACKEND_RESUME_PROBE=1`, щоб надіслати другий turn і перевірити потік resume. Приклад: @@ -288,7 +288,7 @@ OPENCLAW_LIVE_CLI_BACKEND=1 \ pnpm test:live src/gateway/gateway-cli-backend.live.test.ts ``` -Рецепт для Docker: +Рецепт Docker: ```bash pnpm test:docker:live-cli-backend @@ -296,32 +296,32 @@ pnpm test:docker:live-cli-backend Примітки: -- Docker-ранер знаходиться в `scripts/test-live-cli-backend-docker.sh`. +- Docker-ранер розташований у `scripts/test-live-cli-backend-docker.sh`. - Він запускає live smoke CLI-backend усередині Docker-образу репозиторію як непривілейований користувач `node`. - Для `codex-cli` він встановлює Linux-пакет `@openai/codex` у кешований записуваний префікс за адресою `OPENCLAW_DOCKER_CLI_TOOLS_DIR` (типово: `~/.cache/openclaw/docker-cli-tools`). -## Live: smoke прив’язки ACP (`/acp spawn ... --bind here`) +## Live: smoke ACP bind (`/acp spawn ... --bind here`) - Тест: `src/gateway/gateway-acp-bind.live.test.ts` -- Мета: перевірити реальний flow conversation-bind ACP із live ACP-агентом: +- Мета: перевірити реальний потік прив’язки розмови ACP з live ACP agent: - надіслати `/acp spawn --bind here` - - прив’язати синтетичну conversation message-channel на місці - - надіслати звичайний follow-up у цій самій conversation - - перевірити, що follow-up потрапляє в transcript прив’язаної ACP-сесії + - прив’язати синтетичну розмову message-channel на місці + - надіслати звичайний follow-up у тій самій розмові + - перевірити, що follow-up потрапляє до transcript прив’язаної ACP session - Увімкнення: - `pnpm test:live src/gateway/gateway-acp-bind.live.test.ts` - `OPENCLAW_LIVE_ACP_BIND=1` - Типові значення: - - ACP-агент: `claude` - - Синтетичний channel: контекст conversation у стилі Slack DM + - ACP agent: `claude` + - Синтетичний channel: контекст розмови в стилі Slack DM - ACP backend: `acpx` -- Перевизначення: +- Override: - `OPENCLAW_LIVE_ACP_BIND_AGENT=claude` - `OPENCLAW_LIVE_ACP_BIND_AGENT=codex` - `OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND='npx -y @agentclientprotocol/claude-agent-acp@'` - Примітки: - - Ця lane використовує поверхню gateway `chat.send` з admin-only synthetic originating-route fields, щоб тести могли додавати контекст message-channel без удавання зовнішньої доставки. - - Коли `OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND` не задано, тест використовує вбудований registry агентів плагіна `acpx` для вибраного ACP harness-агента. + - Цей lane використовує поверхню gateway `chat.send` з admin-only synthetic originating-route fields, щоб тести могли прикріплювати контекст message-channel, не вдаючи зовнішню доставку. + - Коли `OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND` не встановлено, тест використовує вбудований реєстр агентів плагіна `acpx` для вибраного ACP harness agent. Приклад: @@ -331,21 +331,21 @@ OPENCLAW_LIVE_ACP_BIND=1 \ pnpm test:live src/gateway/gateway-acp-bind.live.test.ts ``` -Рецепт для Docker: +Рецепт Docker: ```bash pnpm test:docker:live-acp-bind ``` -Примітки для Docker: +Примітки щодо Docker: -- Docker-ранер знаходиться в `scripts/test-live-acp-bind-docker.sh`. -- Він виконує `source ~/.profile`, підкладає відповідні CLI auth-матеріали в контейнер, встановлює `acpx` у записуваний npm-префікс, а потім встановлює потрібний live CLI (`@anthropic-ai/claude-code` або `@openai/codex`), якщо його немає. -- Усередині Docker раннер установлює `OPENCLAW_LIVE_ACP_BIND_ACPX_COMMAND=$HOME/.npm-global/bin/acpx`, щоб acpx зберігав змінні середовища провайдера з підключеного profile доступними для дочірнього harness CLI. +- Docker-ранер розташований у `scripts/test-live-acp-bind-docker.sh`. +- Він завантажує `~/.profile`, підготовлює відповідний CLI auth material у контейнер, встановлює `acpx` у записуваний npm-префікс, а потім встановлює потрібний live CLI (`@anthropic-ai/claude-code` або `@openai/codex`), якщо його бракує. +- Усередині Docker раннер встановлює `OPENCLAW_LIVE_ACP_BIND_ACPX_COMMAND=$HOME/.npm-global/bin/acpx`, щоб acpx зберігав env-змінні провайдера з завантаженого profile доступними для дочірнього harness CLI. ### Рекомендовані live-рецепти -Звужені, явні allowlist-и — найшвидші та найменш нестабільні: +Вузькі явні allowlist — найшвидші й найменш нестабільні: - Одна модель, direct (без gateway): - `OPENCLAW_LIVE_MODELS="openai/gpt-5.4" pnpm test:live src/agents/models.profiles.live.test.ts` @@ -353,31 +353,31 @@ pnpm test:docker:live-acp-bind - Одна модель, gateway smoke: - `OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.4" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` -- Tool calling у кількох провайдерів: +- Tool calling через кілька провайдерів: - `OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.4,anthropic/claude-opus-4-6,google/gemini-3-flash-preview,zai/glm-4.7,minimax/MiniMax-M2.7" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` - Фокус на Google (API-ключ Gemini + Antigravity): - - Gemini (API key): `OPENCLAW_LIVE_GATEWAY_MODELS="google/gemini-3-flash-preview" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` + - Gemini (API-ключ): `OPENCLAW_LIVE_GATEWAY_MODELS="google/gemini-3-flash-preview" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` - Antigravity (OAuth): `OPENCLAW_LIVE_GATEWAY_MODELS="google-antigravity/claude-opus-4-6-thinking,google-antigravity/gemini-3-pro-high" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` Примітки: -- `google/...` використовує Gemini API (API key). +- `google/...` використовує Gemini API (API-ключ). - `google-antigravity/...` використовує міст Antigravity OAuth (endpoint агента в стилі Cloud Code Assist). - `google-gemini-cli/...` використовує локальний Gemini CLI на вашій машині (окрема auth + особливості tooling). - Gemini API проти Gemini CLI: - - API: OpenClaw викликає хостований Gemini API від Google через HTTP (auth через API key / profile); саме це більшість користувачів мають на увазі під “Gemini”. - - CLI: OpenClaw викликає локальний binary `gemini`; він має власну auth і може поводитися інакше (streaming/tool support/version skew). + - API: OpenClaw викликає розміщений Google Gemini API через HTTP (API-ключ / profile auth); саме це більшість користувачів мають на увазі під «Gemini». + - CLI: OpenClaw викликає локальний binary `gemini`; у нього власна auth і він може поводитися інакше (streaming/tool support/version skew). ## Live: матриця моделей (що ми покриваємо) -Фіксованого «списку моделей CI» немає (live — це opt-in), але це **рекомендовані** моделі для регулярного покриття на dev-машині з ключами. +Фіксованого «списку моделей для CI» немає (live — лише за запитом), але ось **рекомендовані** моделі, які варто регулярно покривати на dev-машині з ключами. ### Сучасний smoke-набір (tool calling + image) -Це запуск «поширених моделей», який ми очікуємо зберігати працездатним: +Це запуск «типових моделей», який ми очікуємо підтримувати робочим: -- OpenAI (не Codex): `openai/gpt-5.4` (необов’язково: `openai/gpt-5.4-mini`) +- OpenAI (не-Codex): `openai/gpt-5.4` (необов’язково: `openai/gpt-5.4-mini`) - OpenAI Codex: `openai-codex/gpt-5.4` - Anthropic: `anthropic/claude-opus-4-6` (або `anthropic/claude-sonnet-4-6`) - Google (Gemini API): `google/gemini-3.1-pro-preview` і `google/gemini-3-flash-preview` (уникайте старіших моделей Gemini 2.x) @@ -385,12 +385,12 @@ pnpm test:docker:live-acp-bind - Z.AI (GLM): `zai/glm-4.7` - MiniMax: `minimax/MiniMax-M2.7` -Запуск gateway smoke з tools + image: +Запускати gateway smoke з tools + image: `OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.4,openai-codex/gpt-5.4,anthropic/claude-opus-4-6,google/gemini-3.1-pro-preview,google/gemini-3-flash-preview,google-antigravity/claude-opus-4-6-thinking,google-antigravity/gemini-3-flash,zai/glm-4.7,minimax/MiniMax-M2.7" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` ### Базовий рівень: tool calling (Read + необов’язковий Exec) -Виберіть щонайменше по одній моделі на сімейство провайдерів: +Виберіть принаймні одну на сімейство провайдерів: - OpenAI: `openai/gpt-5.4` (або `openai/gpt-5.4-mini`) - Anthropic: `anthropic/claude-opus-4-6` (або `anthropic/claude-sonnet-4-6`) @@ -398,81 +398,81 @@ pnpm test:docker:live-acp-bind - Z.AI (GLM): `zai/glm-4.7` - MiniMax: `minimax/MiniMax-M2.7` -Необов’язкове додаткове покриття (приємно мати): +Необов’язкове додаткове покриття (бажано мати): - xAI: `xai/grok-4` (або найновішу доступну) -- Mistral: `mistral/`… (виберіть одну модель із підтримкою “tools”, яку у вас ввімкнено) -- Cerebras: `cerebras/`… (якщо маєте доступ) +- Mistral: `mistral/`… (виберіть одну модель із підтримкою “tools”, яку у вас увімкнено) +- Cerebras: `cerebras/`… (якщо у вас є доступ) - LM Studio: `lmstudio/`… (локально; tool calling залежить від режиму API) -### Vision: надсилання image (attachment → multimodal message) +### Vision: надсилання image (attachment → мультимодальне повідомлення) -Додайте щонайменше одну модель із підтримкою image у `OPENCLAW_LIVE_GATEWAY_MODELS` (Claude/Gemini/варіанти OpenAI із підтримкою vision тощо), щоб перевірити image probe. +Додайте принаймні одну модель із підтримкою image до `OPENCLAW_LIVE_GATEWAY_MODELS` (Claude/Gemini/варіанти OpenAI з підтримкою vision тощо), щоб пройти image probe. ### Агрегатори / альтернативні gateway Якщо у вас увімкнені ключі, ми також підтримуємо тестування через: -- OpenRouter: `openrouter/...` (сотні моделей; використовуйте `openclaw models scan`, щоб знайти придатні candidates з tool+image) +- OpenRouter: `openrouter/...` (сотні моделей; використовуйте `openclaw models scan`, щоб знайти кандидатів із підтримкою tools+image) - OpenCode: `opencode/...` для Zen і `opencode-go/...` для Go (auth через `OPENCODE_API_KEY` / `OPENCODE_ZEN_API_KEY`) -Інші провайдери, які можна включити до live-матриці (якщо у вас є облікові дані/конфігурація): +Більше провайдерів, які можна включати до live-матриці (якщо у вас є облікові дані/config): - Вбудовані: `openai`, `openai-codex`, `anthropic`, `google`, `google-vertex`, `google-antigravity`, `google-gemini-cli`, `zai`, `openrouter`, `opencode`, `opencode-go`, `xai`, `groq`, `cerebras`, `mistral`, `github-copilot` -- Через `models.providers` (custom endpoints): `minimax` (cloud/API), а також будь-який сумісний із OpenAI/Anthropic proxy (LM Studio, vLLM, LiteLLM тощо) +- Через `models.providers` (кастомні endpoint): `minimax` (cloud/API), а також будь-який OpenAI/Anthropic-сумісний proxy (LM Studio, vLLM, LiteLLM тощо) -Порада: не намагайтеся жорстко зафіксувати «усі моделі» в документації. Авторитетний список — це те, що повертає `discoverModels(...)` на вашій машині, плюс доступні ключі. +Порада: не намагайтеся жорстко закодувати в документації «усі моделі». Авторитетний список — це те, що повертає `discoverModels(...)` на вашій машині, разом із доступними ключами. ## Облікові дані (ніколи не комітьте) Live-тести знаходять облікові дані так само, як і CLI. Практичні наслідки: - Якщо CLI працює, live-тести мають знаходити ті самі ключі. -- Якщо live-тест каже «немає облікових даних», налагоджуйте це так само, як налагоджували б `openclaw models list` / вибір моделі. +- Якщо live-тест каже «немає облікових даних», налагоджуйте це так само, як ви налагоджували б `openclaw models list` / вибір моделі. -- Профілі auth на рівні агента: `~/.openclaw/agents//agent/auth-profiles.json` (саме це означає “profile keys” у live-тестах) -- Конфігурація: `~/.openclaw/openclaw.json` (або `OPENCLAW_CONFIG_PATH`) -- Застарілий state dir: `~/.openclaw/credentials/` (копіюється в staged live home, якщо існує, але це не основне сховище profile-key) -- Локальні live-запуски типово копіюють активний config, файли `auth-profiles.json` для кожного агента, застарілий `credentials/` і підтримувані external CLI auth dirs у тимчасовий test home; перевизначення шляхів `agents.*.workspace` / `agentDir` прибираються в staged config, щоб probes не працювали у вашому реальному host workspace. +- Auth-профілі per-agent: `~/.openclaw/agents//agent/auth-profiles.json` (саме це мається на увазі під “profile keys” у live-тестах) +- Config: `~/.openclaw/openclaw.json` (або `OPENCLAW_CONFIG_PATH`) +- Каталог legacy state: `~/.openclaw/credentials/` (копіюється у staged live home, якщо присутній, але це не основне сховище profile-key) +- Локальні live-запуски типово копіюють активний config, per-agent файли `auth-profiles.json`, legacy `credentials/` і підтримувані external CLI auth dirs у тимчасовий test home; override шляхів `agents.*.workspace` / `agentDir` вирізаються з цього staged config, щоб probe не торкалися вашого реального host workspace. -Якщо ви хочете покладатися на env-ключі (наприклад, експортовані у ваш `~/.profile`), запускайте локальні тести після `source ~/.profile`, або використовуйте Docker-ранери нижче (вони можуть монтувати `~/.profile` у контейнер). +Якщо ви хочете покладатися на env-ключі (наприклад, експортовані у вашому `~/.profile`), запускайте локальні тести після `source ~/.profile`, або використовуйте Docker-ранери нижче (вони можуть змонтувати `~/.profile` у контейнер). -## Deepgram live (транскрипція аудіо) +## Live Deepgram (транскрибування аудіо) - Тест: `src/media-understanding/providers/deepgram/audio.live.test.ts` - Увімкнення: `DEEPGRAM_API_KEY=... DEEPGRAM_LIVE_TEST=1 pnpm test:live src/media-understanding/providers/deepgram/audio.live.test.ts` -## BytePlus coding plan live +## Live BytePlus coding plan - Тест: `src/agents/byteplus.live.test.ts` - Увімкнення: `BYTEPLUS_API_KEY=... BYTEPLUS_LIVE_TEST=1 pnpm test:live src/agents/byteplus.live.test.ts` -- Необов’язкове перевизначення моделі: `BYTEPLUS_CODING_MODEL=ark-code-latest` +- Необов’язковий override моделі: `BYTEPLUS_CODING_MODEL=ark-code-latest` -## ComfyUI workflow media live +## Live ComfyUI workflow media - Тест: `extensions/comfy/comfy.live.test.ts` - Увімкнення: `OPENCLAW_LIVE_TEST=1 COMFY_LIVE_TEST=1 pnpm test:live -- extensions/comfy/comfy.live.test.ts` - Обсяг: - - Перевіряє вбудовані шляхи comfy image, video і `music_generate` - - Пропускає кожну capability, якщо `models.providers.comfy.` не налаштовано - - Корисно після змін у comfy workflow submission, polling, downloads або реєстрації плагіна + - Перевіряє вбудовані шляхи comfy для image, video і `music_generate` + - Пропускає кожну можливість, якщо `models.providers.comfy.` не налаштовано + - Корисно після змін у надсиланні workflow comfy, polling, downloads або реєстрації plugin -## Image generation live +## Live генерація зображень - Тест: `src/image-generation/runtime.live.test.ts` - Команда: `pnpm test:live src/image-generation/runtime.live.test.ts` - Harness: `pnpm test:live:media image` - Обсяг: - - Перераховує кожен зареєстрований provider plugin для image generation - - Завантажує відсутні provider env vars з вашого login shell (`~/.profile`) перед probe - - Типово використовує live/env API keys раніше за збережені auth profiles, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні shell credentials - - Пропускає провайдерів без придатного auth/profile/model - - Запускає стандартні варіанти image generation через shared runtime capability: + - Перелічує кожен зареєстрований provider plugin генерації зображень + - Завантажує відсутні env-змінні провайдера з вашої shell входу (`~/.profile`) перед probe + - Типово використовує live/env API-ключі раніше за збережені auth-профілі, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні shell credentials + - Пропускає провайдери без придатної auth/profile/model + - Проганяє стандартні варіанти генерації зображень через спільну runtime capability: - `google:flash-generate` - `google:pro-generate` - `google:pro-edit` - `openai:default-generate` -- Поточні вбудовані провайдери, які покриваються: +- Поточні вбудовані провайдери, що покриваються: - `openai` - `google` - Необов’язкове звуження: @@ -480,71 +480,71 @@ Live-тести знаходять облікові дані так само, я - `OPENCLAW_LIVE_IMAGE_GENERATION_MODELS="openai/gpt-image-1,google/gemini-3.1-flash-image-preview"` - `OPENCLAW_LIVE_IMAGE_GENERATION_CASES="google:flash-generate,google:pro-edit"` - Необов’язкова поведінка auth: - - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth із profile store та ігнорувати env-only перевизначення + - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth зі сховища профілів і ігнорувати override лише з env -## Music generation live +## Live генерація музики - Тест: `extensions/music-generation-providers.live.test.ts` - Увімкнення: `OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/music-generation-providers.live.test.ts` - Harness: `pnpm test:live:media music` - Обсяг: - - Перевіряє спільний вбудований шлях provider-а для music generation + - Перевіряє спільний вбудований шлях provider генерації музики - Наразі покриває Google і MiniMax - - Завантажує provider env vars із вашого login shell (`~/.profile`) перед probe - - Типово використовує live/env API keys раніше за збережені auth profiles, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні shell credentials - - Пропускає провайдерів без придатного auth/profile/model - - Запускає обидва оголошені runtime-режими, коли вони доступні: - - `generate` із вводом лише prompt - - `edit`, коли провайдер оголошує `capabilities.edit.enabled` - - Поточне покриття в shared lane: + - Завантажує env-змінні провайдера з вашої shell входу (`~/.profile`) перед probe + - Типово використовує live/env API-ключі раніше за збережені auth-профілі, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні shell credentials + - Пропускає провайдери без придатної auth/profile/model + - Запускає обидва заявлені runtime-режими, коли вони доступні: + - `generate` з input лише у вигляді prompt + - `edit`, коли провайдер заявляє `capabilities.edit.enabled` + - Поточне покриття на спільному lane: - `google`: `generate`, `edit` - `minimax`: `generate` - - `comfy`: окремий live-файл Comfy, не цей shared sweep + - `comfy`: окремий live-файл Comfy, не цей спільний sweep - Необов’язкове звуження: - `OPENCLAW_LIVE_MUSIC_GENERATION_PROVIDERS="google,minimax"` - `OPENCLAW_LIVE_MUSIC_GENERATION_MODELS="google/lyria-3-clip-preview,minimax/music-2.5+"` - Необов’язкова поведінка auth: - - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth із profile store та ігнорувати env-only перевизначення + - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth зі сховища профілів і ігнорувати override лише з env -## Video generation live +## Live генерація відео - Тест: `extensions/video-generation-providers.live.test.ts` - Увімкнення: `OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/video-generation-providers.live.test.ts` - Harness: `pnpm test:live:media video` - Обсяг: - - Перевіряє спільний вбудований шлях provider-а для video generation - - Завантажує provider env vars із вашого login shell (`~/.profile`) перед probe - - Типово використовує live/env API keys раніше за збережені auth profiles, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні shell credentials - - Пропускає провайдерів без придатного auth/profile/model - - Запускає обидва оголошені runtime-режими, коли вони доступні: - - `generate` із вводом лише prompt - - `imageToVideo`, коли провайдер оголошує `capabilities.imageToVideo.enabled`, а вибраний провайдер/модель приймає локальний image input із backing buffer у shared sweep - - `videoToVideo`, коли провайдер оголошує `capabilities.videoToVideo.enabled`, а вибраний провайдер/модель приймає локальний video input із backing buffer у shared sweep - - Поточні оголошені, але пропущені провайдери `imageToVideo` у shared sweep: - - `vydra`, тому що вбудований `veo3` є лише текстовим, а вбудований `kling` вимагає віддалений image URL - - Специфічне покриття Vydra: + - Перевіряє спільний вбудований шлях provider генерації відео + - Завантажує env-змінні провайдера з вашої shell входу (`~/.profile`) перед probe + - Типово використовує live/env API-ключі раніше за збережені auth-профілі, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні shell credentials + - Пропускає провайдери без придатної auth/profile/model + - Запускає обидва заявлені runtime-режими, коли вони доступні: + - `generate` з input лише у вигляді prompt + - `imageToVideo`, коли провайдер заявляє `capabilities.imageToVideo.enabled` і вибраний провайдер/модель приймає локальний image input на основі buffer у спільному sweep + - `videoToVideo`, коли провайдер заявляє `capabilities.videoToVideo.enabled` і вибраний провайдер/модель приймає локальний video input на основі buffer у спільному sweep + - Поточні providers `imageToVideo`, що заявлені, але пропускаються у спільному sweep: + - `vydra`, бо вбудований `veo3` підтримує лише text, а вбудований `kling` потребує віддалений image URL + - Покриття Vydra, специфічне для провайдера: - `OPENCLAW_LIVE_TEST=1 OPENCLAW_LIVE_VYDRA_VIDEO=1 pnpm test:live -- extensions/vydra/vydra.live.test.ts` - - цей файл запускає `veo3` text-to-video плюс lane `kling`, яка типово використовує fixture з віддаленим image URL + - цей файл запускає `veo3` text-to-video, а також lane `kling`, який типово використовує фікстуру віддаленого image URL - Поточне live-покриття `videoToVideo`: - лише `runway`, коли вибрана модель — `runway/gen4_aleph` - - Поточні оголошені, але пропущені провайдери `videoToVideo` у shared sweep: - - `alibaba`, `qwen`, `xai`, оскільки ці шляхи наразі вимагають віддалені reference URL `http(s)` / MP4 - - `google`, оскільки поточна спільна lane Gemini/Veo використовує локальний input із backing buffer, а цей шлях не приймається в shared sweep - - `openai`, оскільки поточна shared lane не гарантує доступність org-specific video inpaint/remix + - Поточні providers `videoToVideo`, що заявлені, але пропускаються у спільному sweep: + - `alibaba`, `qwen`, `xai`, бо ці шляхи наразі потребують віддалені reference URL `http(s)` / MP4 + - `google`, бо поточний спільний lane Gemini/Veo використовує локальний input на основі buffer, і цей шлях не приймається у спільному sweep + - `openai`, бо поточний спільний lane не гарантує доступ до video inpaint/remix, специфічний для org - Необов’язкове звуження: - `OPENCLAW_LIVE_VIDEO_GENERATION_PROVIDERS="google,openai,runway"` - `OPENCLAW_LIVE_VIDEO_GENERATION_MODELS="google/veo-3.1-fast-generate-preview,openai/sora-2,runway/gen4_aleph"` - Необов’язкова поведінка auth: - - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth із profile store та ігнорувати env-only перевизначення + - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth зі сховища профілів і ігнорувати override лише з env ## Media live harness - Команда: `pnpm test:live:media` - Призначення: - - Запускає спільні live-набори image, music і video через один native entrypoint репозиторію - - Автоматично завантажує відсутні provider env vars із `~/.profile` + - Запускає спільні live-набори image, music і video через один нативний entrypoint репозиторію + - Автоматично завантажує відсутні env-змінні провайдера з `~/.profile` - Типово автоматично звужує кожен набір до провайдерів, які зараз мають придатну auth - - Повторно використовує `scripts/test-live.mjs`, тож heartbeat і quiet-mode поводяться узгоджено + - Повторно використовує `scripts/test-live.mjs`, тож поведінка heartbeat і quiet-mode залишається узгодженою - Приклади: - `pnpm test:live:media` - `pnpm test:live:media image video --providers openai,google,minimax` @@ -553,124 +553,124 @@ Live-тести знаходять облікові дані так само, я ## Docker-ранери (необов’язкові перевірки «працює в Linux») -Ці Docker-ранери поділяються на дві групи: +Ці Docker-ранери діляться на дві категорії: -- Live-model runners: `test:docker:live-models` і `test:docker:live-gateway` запускають лише свій відповідний profile-key live-файл усередині Docker-образу репозиторію (`src/agents/models.profiles.live.test.ts` і `src/gateway/gateway-models.profiles.live.test.ts`), монтують ваш локальний config dir і workspace (і виконують `source ~/.profile`, якщо його змонтовано). Відповідні локальні entrypoint-и: `test:live:models-profiles` і `test:live:gateway-profiles`. -- Docker live runners типово мають менший ліміт smoke, щоб повний sweep у Docker залишався практичним: +- Live-model ранери: `test:docker:live-models` і `test:docker:live-gateway` запускають лише свій відповідний live-файл з profile keys всередині Docker-образу репозиторію (`src/agents/models.profiles.live.test.ts` і `src/gateway/gateway-models.profiles.live.test.ts`), монтують ваш локальний каталог config і workspace (та підвантажують `~/.profile`, якщо змонтовано). Відповідні локальні entrypoint — `test:live:models-profiles` і `test:live:gateway-profiles`. +- Docker live-ранери типово мають менший smoke cap, щоб повний Docker sweep залишався практичним: `test:docker:live-models` типово встановлює `OPENCLAW_LIVE_MAX_MODELS=12`, а `test:docker:live-gateway` типово встановлює `OPENCLAW_LIVE_GATEWAY_SMOKE=1`, `OPENCLAW_LIVE_GATEWAY_MAX_MODELS=8`, - `OPENCLAW_LIVE_GATEWAY_STEP_TIMEOUT_MS=45000`, і - `OPENCLAW_LIVE_GATEWAY_MODEL_TIMEOUT_MS=90000`. Перевизначайте ці env vars, коли - навмисно хочете більший вичерпний прогін. -- `test:docker:all` один раз збирає live Docker image через `test:docker:live-build`, а потім повторно використовує його для двох Docker-lane live. -- Container smoke runners: `test:docker:openwebui`, `test:docker:onboard`, `test:docker:gateway-network`, `test:docker:mcp-channels` і `test:docker:plugins` підіймають один або кілька реальних контейнерів і перевіряють інтеграційні шляхи вищого рівня. + `OPENCLAW_LIVE_GATEWAY_STEP_TIMEOUT_MS=45000` і + `OPENCLAW_LIVE_GATEWAY_MODEL_TIMEOUT_MS=90000`. Перевизначайте ці env-змінні, коли + вам явно потрібне більше вичерпне сканування. +- `test:docker:all` збирає live Docker image один раз через `test:docker:live-build`, а потім повторно використовує його для двох live Docker lanes. +- Ранери container smoke: `test:docker:openwebui`, `test:docker:onboard`, `test:docker:gateway-network`, `test:docker:mcp-channels` і `test:docker:plugins` піднімають один або кілька реальних контейнерів і перевіряють integration-шляхи вищого рівня. -Live-model Docker-ранери також bind-mount-ять лише потрібні домівки CLI auth (або всі підтримувані, коли запуск не звужено), а потім копіюють їх у home контейнера перед запуском, щоб OAuth зовнішніх CLI міг оновлювати токени без змін у host auth store: +Live-model Docker-ранери також bind-mount лише потрібні CLI auth homes (або всі підтримувані, коли запуск не звужено), а потім копіюють їх у home контейнера перед запуском, щоб OAuth зовнішніх CLI міг оновлювати токени, не змінюючи host auth store: -- Прямі моделі: `pnpm test:docker:live-models` (скрипт: `scripts/test-live-models-docker.sh`) -- Smoke прив’язки ACP: `pnpm test:docker:live-acp-bind` (скрипт: `scripts/test-live-acp-bind-docker.sh`) +- Direct models: `pnpm test:docker:live-models` (скрипт: `scripts/test-live-models-docker.sh`) +- ACP bind smoke: `pnpm test:docker:live-acp-bind` (скрипт: `scripts/test-live-acp-bind-docker.sh`) - Smoke CLI backend: `pnpm test:docker:live-cli-backend` (скрипт: `scripts/test-live-cli-backend-docker.sh`) - Gateway + dev agent: `pnpm test:docker:live-gateway` (скрипт: `scripts/test-live-gateway-models-docker.sh`) - Live smoke Open WebUI: `pnpm test:docker:openwebui` (скрипт: `scripts/e2e/openwebui-docker.sh`) - Майстер onboarding (TTY, повне scaffolding): `pnpm test:docker:onboard` (скрипт: `scripts/e2e/onboard-docker.sh`) - Мережева взаємодія gateway (два контейнери, WS auth + health): `pnpm test:docker:gateway-network` (скрипт: `scripts/e2e/gateway-network-docker.sh`) -- Міст каналів MCP (seeded Gateway + stdio bridge + raw Claude notification-frame smoke): `pnpm test:docker:mcp-channels` (скрипт: `scripts/e2e/mcp-channels-docker.sh`) -- Плагіни (install smoke + псевдонім `/plugin` + семантика перезапуску Claude-bundle): `pnpm test:docker:plugins` (скрипт: `scripts/e2e/plugins-docker.sh`) +- MCP channel bridge (seeded Gateway + stdio bridge + raw Claude notification-frame smoke): `pnpm test:docker:mcp-channels` (скрипт: `scripts/e2e/mcp-channels-docker.sh`) +- Plugins (install smoke + псевдонім `/plugin` + семантика перезапуску Claude-bundle): `pnpm test:docker:plugins` (скрипт: `scripts/e2e/plugins-docker.sh`) -Live-model Docker-ранери також монтують поточний checkout тільки для читання і -переносять його в тимчасовий workdir усередині контейнера. Це дозволяє тримати runtime -image компактним і водночас запускати Vitest точно на вашому локальному source/config. -Крок staging пропускає великі локальні кеші та локальні артефакти збірки застосунків, -такі як `.pnpm-store`, `.worktrees`, `__openclaw_vitest__` і локальні для застосунків -каталоги `.build` або вихідні каталоги Gradle, щоб live-запуски Docker не витрачали -хвилини на копіювання машинозалежних артефактів. -Вони також встановлюють `OPENCLAW_SKIP_CHANNELS=1`, щоб live-probes gateway не запускали -реальні worker-и каналів Telegram/Discord тощо всередині контейнера. -`test:docker:live-models` усе ще запускає `pnpm test:live`, тому також передавайте -`OPENCLAW_LIVE_GATEWAY_*`, коли вам потрібно звузити або виключити gateway -live-покриття з цієї Docker-lane. -`test:docker:openwebui` — це smoke сумісності вищого рівня: він запускає -контейнер gateway OpenClaw з увімкненими HTTP endpoint-ами, сумісними з OpenAI, -запускає pinned контейнер Open WebUI проти цього gateway, виконує вхід через +Live-model Docker-ранери також bind-mount поточний checkout у режимі лише читання і +stage його у тимчасовий workdir всередині контейнера. Це зберігає runtime +image компактним, але все одно запускає Vitest проти вашого точного локального source/config. +Під час stage пропускаються великі локальні кеші та результати збірки застосунків, як-от +`.pnpm-store`, `.worktrees`, `__openclaw_vitest__` і локальні каталоги +`.build` або Gradle output, щоб Docker live-запуски не витрачали хвилини на копіювання +артефактів, прив’язаних до конкретної машини. +Вони також встановлюють `OPENCLAW_SKIP_CHANNELS=1`, щоб live probe gateway не запускали +реальні worker каналів Telegram/Discord/etc. всередині контейнера. +`test:docker:live-models` усе ще запускає `pnpm test:live`, тож також передавайте +`OPENCLAW_LIVE_GATEWAY_*`, коли вам потрібно звузити або виключити покриття gateway +live із цього Docker lane. +`test:docker:openwebui` — це smoke вищого рівня для сумісності: він запускає +контейнер gateway OpenClaw з увімкненими HTTP endpoint, сумісними з OpenAI, +запускає закріплений контейнер Open WebUI проти цього gateway, виконує вхід через Open WebUI, перевіряє, що `/api/models` показує `openclaw/default`, а потім надсилає -реальний chat-запит через проксі `/api/chat/completions` Open WebUI. -Перший запуск може бути помітно повільнішим, оскільки Docker може потребувати завантаження -image Open WebUI, а самому Open WebUI може знадобитися завершити власне cold-start налаштування. -Ця lane очікує придатний live model key, а `OPENCLAW_PROFILE_FILE` -(типово `~/.profile`) є основним способом надати його в Docker-ізольованих запусках. -Успішні запуски виводять невеликий JSON payload на кшталт `{ "ok": true, "model": +реальний chat request через proxy `/api/chat/completions` Open WebUI. +Перший запуск може бути помітно повільнішим, бо Docker може знадобитися витягнути +image Open WebUI, а самому Open WebUI — завершити власне налаштування холодного старту. +Для цього lane потрібен придатний ключ live-моделі, а `OPENCLAW_PROFILE_FILE` +(типово `~/.profile`) — основний спосіб надати його в Dockerized-запусках. +Успішні запуски друкують невеликий JSON payload на кшталт `{ "ok": true, "model": "openclaw/default", ... }`. `test:docker:mcp-channels` навмисно детермінований і не потребує -реального облікового запису Telegram, Discord або iMessage. Він підіймає seeded контейнер Gateway, -запускає другий контейнер, який піднімає `openclaw mcp serve`, а потім -перевіряє виявлення conversation з маршрутизацією, читання transcript, -метадані attachment, поведінку черги live-подій, маршрутизацію outbound send, а також -сповіщення в стилі Claude про channel + permission через реальний stdio MCP bridge. Перевірка -сповіщень інспектує raw stdio MCP frames безпосередньо, щоб smoke перевіряв те, що -міст насправді випромінює, а не лише те, що виводить якийсь конкретний client SDK. +реального облікового запису Telegram, Discord або iMessage. Він піднімає seeded Gateway +container, запускає другий container, який викликає `openclaw mcp serve`, а потім +перевіряє виявлення маршрутизованих розмов, читання transcript, metadata attachment, +поведінку черги live event, маршрутизацію outbound send і сповіщення про channel + +permission у стилі Claude через реальний stdio MCP bridge. Перевірка notification +безпосередньо інспектує сирі stdio MCP frame, тож smoke перевіряє те, що міст +справді випромінює, а не лише те, що випадково показує певний client SDK. -Ручний smoke plain-language thread ACP (не CI): +Ручний smoke plain-language thread для ACP (не CI): - `bun scripts/dev/discord-acp-plain-language-smoke.ts --channel ...` -- Зберігайте цей скрипт для сценаріїв регресії/налагодження. Він може знову знадобитися для перевірки маршрутизації thread ACP, тому не видаляйте його. +- Зберігайте цей script для регресійних/налагоджувальних сценаріїв. Він може знову знадобитися для перевірки маршрутизації ACP thread, тож не видаляйте його. -Корисні env vars: +Корисні env-змінні: - `OPENCLAW_CONFIG_DIR=...` (типово: `~/.openclaw`) монтується в `/home/node/.openclaw` - `OPENCLAW_WORKSPACE_DIR=...` (типово: `~/.openclaw/workspace`) монтується в `/home/node/.openclaw/workspace` -- `OPENCLAW_PROFILE_FILE=...` (типово: `~/.profile`) монтується в `/home/node/.profile` і підключається через `source` перед запуском тестів -- `OPENCLAW_DOCKER_CLI_TOOLS_DIR=...` (типово: `~/.cache/openclaw/docker-cli-tools`) монтується в `/home/node/.npm-global` для кешованих встановлень CLI усередині Docker -- Зовнішні CLI auth dirs/files під `$HOME` монтуються тільки для читання під `/host-auth...`, а потім копіюються в `/home/node/...` перед початком тестів +- `OPENCLAW_PROFILE_FILE=...` (типово: `~/.profile`) монтується в `/home/node/.profile` і підвантажується перед запуском тестів +- `OPENCLAW_DOCKER_CLI_TOOLS_DIR=...` (типово: `~/.cache/openclaw/docker-cli-tools`) монтується в `/home/node/.npm-global` для кешованих установок CLI всередині Docker +- Каталоги/файли auth зовнішніх CLI під `$HOME` монтуються у режимі лише читання під `/host-auth...`, а потім копіюються в `/home/node/...` до старту тестів - Типові каталоги: `.minimax` - Типові файли: `~/.codex/auth.json`, `~/.codex/config.toml`, `.claude.json`, `~/.claude/.credentials.json`, `~/.claude/settings.json`, `~/.claude/settings.local.json` - - Для звужених запусків провайдерів монтуються лише потрібні dirs/files, виведені з `OPENCLAW_LIVE_PROVIDERS` / `OPENCLAW_LIVE_GATEWAY_PROVIDERS` - - Ручне перевизначення: `OPENCLAW_DOCKER_AUTH_DIRS=all`, `OPENCLAW_DOCKER_AUTH_DIRS=none`, або список через кому на кшталт `OPENCLAW_DOCKER_AUTH_DIRS=.claude,.codex` -- `OPENCLAW_LIVE_GATEWAY_MODELS=...` / `OPENCLAW_LIVE_MODELS=...` щоб звузити запуск -- `OPENCLAW_LIVE_GATEWAY_PROVIDERS=...` / `OPENCLAW_LIVE_PROVIDERS=...` щоб відфільтрувати провайдерів усередині контейнера -- `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб гарантувати надходження облікових даних із profile store (а не env) -- `OPENCLAW_OPENWEBUI_MODEL=...`, щоб вибрати модель, яку gateway показуватиме для smoke Open WebUI -- `OPENCLAW_OPENWEBUI_PROMPT=...`, щоб перевизначити prompt із перевіркою nonce, який використовує smoke Open WebUI -- `OPENWEBUI_IMAGE=...`, щоб перевизначити pinned tag image Open WebUI + - Для звужених запусків монтуються лише потрібні каталоги/файли, виведені з `OPENCLAW_LIVE_PROVIDERS` / `OPENCLAW_LIVE_GATEWAY_PROVIDERS` + - Ручне override через `OPENCLAW_DOCKER_AUTH_DIRS=all`, `OPENCLAW_DOCKER_AUTH_DIRS=none` або список через кому, наприклад `OPENCLAW_DOCKER_AUTH_DIRS=.claude,.codex` +- `OPENCLAW_LIVE_GATEWAY_MODELS=...` / `OPENCLAW_LIVE_MODELS=...` для звуження запуску +- `OPENCLAW_LIVE_GATEWAY_PROVIDERS=...` / `OPENCLAW_LIVE_PROVIDERS=...` для фільтрації провайдерів усередині контейнера +- `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб гарантувати, що облікові дані беруться зі сховища профілів (а не з env) +- `OPENCLAW_OPENWEBUI_MODEL=...`, щоб вибрати модель, яку gateway показує для smoke Open WebUI +- `OPENCLAW_OPENWEBUI_PROMPT=...`, щоб override prompt із перевіркою nonce, який використовується для smoke Open WebUI +- `OPENWEBUI_IMAGE=...`, щоб override закріплений image-tag Open WebUI ## Перевірка документації -Запускайте перевірки docs після змін у документації: `pnpm check:docs`. -Запускайте повну перевірку anchors у Mintlify, коли також потрібна перевірка заголовків у межах сторінки: `pnpm docs:check-links:anchors`. +Після редагування документації запускайте перевірки docs: `pnpm check:docs`. +Запускайте повну перевірку anchor у Mintlify, коли вам також потрібні перевірки заголовків усередині сторінки: `pnpm docs:check-links:anchors`. ## Офлайн-регресія (безпечна для CI) Це регресії «реального pipeline» без реальних провайдерів: -- Gateway tool calling (mock OpenAI, реальний gateway + agent loop): `src/gateway/gateway.test.ts` (випадок: "runs a mock OpenAI tool call end-to-end via gateway agent loop") -- Майстер gateway (WS `wizard.start`/`wizard.next`, записує config + примусова auth): `src/gateway/gateway.test.ts` (випадок: "runs wizard over ws and writes auth token config") +- Tool calling у gateway (mock OpenAI, реальний цикл gateway + agent): `src/gateway/gateway.test.ts` (випадок: "runs a mock OpenAI tool call end-to-end via gateway agent loop") +- Майстер gateway (WS `wizard.start`/`wizard.next`, записує config + забезпечується auth): `src/gateway/gateway.test.ts` (випадок: "runs wizard over ws and writes auth token config") ## Evals надійності агента (Skills) -У нас уже є кілька безпечних для CI тестів, які поводяться як «evals надійності агента»: +У нас уже є кілька безпечних для CI тестів, які поводяться як “evals надійності агента”: -- Mock tool-calling через реальний gateway + agent loop (`src/gateway/gateway.test.ts`). -- Наскрізні потоки wizard, які перевіряють wiring сесій і ефекти конфігурації (`src/gateway/gateway.test.ts`). +- Mock tool-calling через реальний цикл gateway + agent (`src/gateway/gateway.test.ts`). +- Наскрізні потоки wizard, що перевіряють session wiring і ефекти config (`src/gateway/gateway.test.ts`). -Що ще відсутнє для skills (див. [Skills](/uk/tools/skills)): +Чого все ще бракує для Skills (див. [Skills](/uk/tools/skills)): -- **Прийняття рішень:** коли skills перелічено в prompt, чи вибирає агент правильний skill (або уникає нерелевантних)? -- **Відповідність:** чи читає агент `SKILL.md` перед використанням і чи дотримується обов’язкових кроків/args? -- **Контракти workflow:** багатокрокові сценарії, які перевіряють порядок tools, перенесення історії сесій і межі sandbox. +- **Decisioning:** коли Skills перелічені в prompt, чи вибирає агент правильний skill (або уникає нерелевантних)? +- **Compliance:** чи читає агент `SKILL.md` перед використанням і чи дотримується потрібних кроків/arg? +- **Workflow contracts:** багатокрокові сценарії, що перевіряють порядок tool, перенесення history між session і межі sandbox. -Майбутні evals мають спочатку залишатися детермінованими: +Майбутні eval мають спочатку залишатися детермінованими: -- Scenario runner з mock-провайдерами для перевірки викликів tools + їх порядку, читання skill-файлів і wiring сесій. -- Невеликий набір сценаріїв, сфокусованих на skills (використовувати vs уникати, gating, prompt injection). -- Необов’язкові live evals (opt-in, керовані env) лише після появи безпечного для CI набору. +- Runner сценаріїв із mock-провайдерами для перевірки викликів tool + порядку, читання skill-файлів і wiring session. +- Невеликий набір сценаріїв, зосереджених на Skills (використати чи уникнути, gate, prompt injection). +- Необов’язкові live evals (за запитом, з керуванням через env) — лише після того, як безпечний для CI набір буде готовий. -## Contract tests (форма плагінів і каналів) +## Contract-тести (форма plugin і channel) -Contract tests перевіряють, що кожен зареєстрований плагін і канал відповідає -своєму interface contract. Вони проходять по всіх виявлених плагінах і запускають набір -перевірок форми та поведінки. Типова unit lane `pnpm test` навмисно -пропускає ці shared seam і smoke-файли; запускайте contract-команди явно, -коли торкаєтесь спільних поверхонь channel або provider. +Contract-тести перевіряють, що кожен зареєстрований plugin і channel відповідає +своєму interface contract. Вони перебирають усі знайдені plugins і запускають набір +перевірок форми та поведінки. Типовий unit lane `pnpm test` навмисно +пропускає ці спільні seam- і smoke-файли; запускайте contract-команди явно, +коли ви змінюєте спільні surface channel або provider. ### Команди @@ -680,55 +680,55 @@ Contract tests перевіряють, що кожен зареєстрован ### Channel contracts -Розміщені в `src/channels/plugins/contracts/*.contract.test.ts`: +Розташовані в `src/channels/plugins/contracts/*.contract.test.ts`: -- **plugin** - Базова форма плагіна (id, name, capabilities) -- **setup** - Контракт майстра налаштування -- **session-binding** - Поведінка прив’язки сесії +- **plugin** - Базова форма plugin (id, name, capabilities) +- **setup** - Contract майстра налаштування +- **session-binding** - Поведінка прив’язки session - **outbound-payload** - Структура payload повідомлення - **inbound** - Обробка вхідних повідомлень -- **actions** - Обробники дій каналу -- **threading** - Обробка ID тредів -- **directory** - API каталогу/списку учасників -- **group-policy** - Забезпечення групової політики +- **actions** - Обробники дій channel +- **threading** - Обробка thread ID +- **directory** - API directory/roster +- **group-policy** - Застосування group policy -### Contracts статусу провайдера +### Contracts статусу provider -Розміщені в `src/plugins/contracts/*.contract.test.ts`. +Розташовані в `src/plugins/contracts/*.contract.test.ts`. -- **status** - Проби статусу каналу -- **registry** - Форма registry плагінів +- **status** - Probe статусу channel +- **registry** - Форма реєстру plugin ### Provider contracts -Розміщені в `src/plugins/contracts/*.contract.test.ts`: +Розташовані в `src/plugins/contracts/*.contract.test.ts`: -- **auth** - Контракт потоку auth +- **auth** - Contract потоку auth - **auth-choice** - Вибір/selection auth - **catalog** - API каталогу моделей -- **discovery** - Виявлення плагінів -- **loader** - Завантаження плагінів +- **discovery** - Виявлення plugin +- **loader** - Завантаження plugin - **runtime** - Runtime провайдера -- **shape** - Форма/інтерфейс плагіна +- **shape** - Форма/interface plugin - **wizard** - Майстер налаштування ### Коли запускати -- Після змін у `plugin-sdk` exports або subpaths +- Після зміни export або subpath у plugin-sdk - Після додавання або зміни channel чи provider plugin -- Після рефакторингу реєстрації або виявлення плагінів +- Після рефакторингу реєстрації plugin або discovery -Contract tests запускаються в CI і не потребують реальних API-ключів. +Contract-тести запускаються в CI і не потребують реальних API-ключів. ## Додавання регресій (рекомендації) -Коли ви виправляєте проблему провайдера/моделі, виявлену у live: +Коли ви виправляєте проблему провайдера/моделі, виявлену в live: -- Додайте безпечну для CI регресію, якщо це можливо (mock/stub провайдера або захоплення точного перетворення форми запиту) -- Якщо проблема за своєю природою лише live (rate limits, політики auth), залишайте live-тест вузьким і opt-in через env vars -- Краще націлюватися на найменший шар, який ловить помилку: - - помилка конвертації/повторного програвання запиту провайдера → direct models test - - помилка gateway session/history/tool pipeline → gateway live smoke або безпечний для CI gateway mock test -- Захисне правило обходу SecretRef: - - `src/secrets/exec-secret-ref-id-parity.test.ts` виводить один sampled target для кожного класу SecretRef з метаданих registry (`listSecretTargetRegistryEntries()`), а потім перевіряє, що exec ids сегментів обходу відхиляються. - - Якщо ви додаєте нову родину цілей SecretRef з `includeInPlan` у `src/secrets/target-registry-data.ts`, оновіть `classifyTargetClass` у цьому тесті. Тест навмисно падає на некласифікованих target id, щоб нові класи не можна було тихо пропустити. +- Додайте безпечну для CI регресію, якщо можливо (mock/stub провайдера або захоплення точної трансформації форми request) +- Якщо це за своєю природою лише live-проблема (rate limit, політики auth), залишайте live-тест вузьким і opt-in через env-змінні +- Віддавайте перевагу найменшому шару, який виявляє помилку: + - помилка конвертації/відтворення request провайдера → direct models test + - помилка pipeline gateway session/history/tool → gateway live smoke або безпечний для CI mock-тест gateway +- Guardrail обходу SecretRef: + - `src/secrets/exec-secret-ref-id-parity.test.ts` виводить по одній sampled-цілі на кожен клас SecretRef із metadata реєстру (`listSecretTargetRegistryEntries()`), а потім перевіряє, що traversal-segment exec id відхиляються. + - Якщо ви додаєте нове сімейство цілей SecretRef з `includeInPlan` у `src/secrets/target-registry-data.ts`, оновіть `classifyTargetClass` у цьому тесті. Тест навмисно падає на не класифікованих target id, щоб нові класи не можна було тихо пропустити. diff --git a/docs/uk/reference/test.md b/docs/uk/reference/test.md index 81f26a2f8..ad3015080 100644 --- a/docs/uk/reference/test.md +++ b/docs/uk/reference/test.md @@ -4,10 +4,10 @@ read_when: summary: Як локально запускати тести (vitest) і коли використовувати режими force/coverage title: Тести x-i18n: - generated_at: "2026-04-06T18:33:15Z" + generated_at: "2026-04-06T23:41:30Z" model: gpt-5.4 provider: openai - source_hash: c79db92c10593192ba95b199dad3b5eae3da1a2e6b873e5ed124839f4f72050c + source_hash: a25236a707860307cc324f32752ad13a53e448bee9341d8df2e11655561e841c source_path: reference/test.md workflow: 15 --- @@ -16,45 +16,45 @@ x-i18n: - Повний набір для тестування (набори, live, Docker): [Тестування](/uk/help/testing) -- `pnpm test:force`: Завершує будь-який завислий процес gateway, який утримує типовий control port, а потім запускає повний набір Vitest з ізольованим портом gateway, щоб серверні тести не конфліктували із запущеним екземпляром. Використовуйте це, якщо попередній запуск gateway залишив порт 18789 зайнятим. -- `pnpm test:coverage`: Запускає набір unit-тестів із покриттям V8 (через `vitest.unit.config.ts`). Глобальні пороги становлять 70% для рядків/гілок/функцій/інструкцій. Із покриття виключено entrypoint-и з великою інтеграційною складовою (обв’язка CLI, мости gateway/telegram, статичний сервер webchat), щоб зосередити ціль на логіці, придатній для unit-тестування. -- `pnpm test:coverage:changed`: Запускає unit coverage лише для файлів, змінених відносно `origin/main`. -- `pnpm test:changed`: розгортає змінені git-шляхи в scoped lanes Vitest, коли diff торкається лише routable файлів source/test. Зміни config/setup, як і раніше, повертаються до нативного запуску root projects, щоб за потреби зміни в обв’язці перезапускали ширший набір. -- `pnpm test`: спрямовує явні цілі файлів/каталогів через scoped lanes Vitest. Нетаргетовані запуски тепер виконують вісім послідовних shard configs (`vitest.full-core-unit-src.config.ts`, `vitest.full-core-unit-security.config.ts`, `vitest.full-core-unit-support.config.ts`, `vitest.full-core-contracts.config.ts`, `vitest.full-core-runtime.config.ts`, `vitest.full-agentic.config.ts`, `vitest.full-auto-reply.config.ts`, `vitest.full-extensions.config.ts`) замість одного великого процесу root-project. -- Вибрані тестові файли `plugin-sdk` і `commands` тепер спрямовуються через окремі легкі lanes, які залишають тільки `test/setup.ts`, а runtime-важкі сценарії лишаються у своїх наявних lanes. -- Вибрані допоміжні source-файли `plugin-sdk` і `commands` також зіставляють `pnpm test:changed` з явними sibling-тестами у цих легких lanes, тож невеликі зміни допоміжних файлів не змушують повторно запускати важкі набори з підтримкою runtime. -- `auto-reply` тепер також поділено на три окремі configs (`core`, `top-level`, `reply`), тож harness reply більше не домінує над легшими top-level тестами status/token/helper. -- Базова config Vitest тепер типово використовує `pool: "threads"` та `isolate: false`, а спільний non-isolated runner увімкнено в усіх configs репозиторію. +- `pnpm test:force`: завершує будь-який завислий процес gateway, який утримує типовий порт керування, а потім запускає повний набір Vitest з ізольованим портом gateway, щоб серверні тести не конфліктували із запущеним екземпляром. Використовуйте це, якщо попередній запуск gateway залишив зайнятим порт 18789. +- `pnpm test:coverage`: запускає набір unit-тестів із покриттям V8 (через `vitest.unit.config.ts`). Глобальні пороги становлять 70% для lines/branches/functions/statements. Із покриття виключено точки входу з важкою інтеграцією (CLI wiring, gateway/telegram bridges, webchat static server), щоб ціль залишалася зосередженою на логіці, придатній для unit-тестування. +- `pnpm test:coverage:changed`: запускає unit coverage лише для файлів, змінених відносно `origin/main`. +- `pnpm test:changed`: розгортає змінені git-шляхи в цільові lane-и Vitest, коли diff торкається лише маршрутизованих source/test файлів. Зміни config/setup, як і раніше, повертаються до нативного запуску root projects, щоб за потреби зміни в wiring запускали ширший прогін повторно. +- `pnpm test`: спрямовує явні цілі файлів/каталогів через цільові lane-и Vitest. Запуски без цілей тепер виконують десять послідовних shard-конфігурацій (`vitest.full-core-unit-src.config.ts`, `vitest.full-core-unit-security.config.ts`, `vitest.full-core-unit-ui.config.ts`, `vitest.full-core-unit-support.config.ts`, `vitest.full-core-contracts.config.ts`, `vitest.full-core-bundled.config.ts`, `vitest.full-core-runtime.config.ts`, `vitest.full-agentic.config.ts`, `vitest.full-auto-reply.config.ts`, `vitest.full-extensions.config.ts`) замість одного великого процесу root-project. +- Вибрані тестові файли `plugin-sdk` і `commands` тепер спрямовуються через окремі легкі lane-и, які залишають лише `test/setup.ts`, залишаючи випадки з важким runtime на їхніх наявних lane-ах. +- Вибрані допоміжні source-файли `plugin-sdk` і `commands` також зіставляють `pnpm test:changed` з явними сусідніми тестами в цих легких lane-ах, тож невеликі зміни в helper-ах не змушують повторно запускати важкі набори з підтримкою runtime. +- `auto-reply` тепер також розбито на три окремі конфігурації (`core`, `top-level`, `reply`), щоб harness reply не домінував над легшими тестами top-level status/token/helper. +- Базова конфігурація Vitest тепер типово використовує `pool: "threads"` і `isolate: false`, а спільний неізольований runner увімкнено в усіх конфігураціях репозиторію. - `pnpm test:channels` запускає `vitest.channels.config.ts`. - `pnpm test:extensions` запускає `vitest.extensions.config.ts`. - `pnpm test:extensions`: запускає набори extension/plugin. -- `pnpm test:perf:imports`: вмикає звітування Vitest про тривалість імпорту та деталізацію імпорту, і водночас продовжує використовувати scoped lane routing для явних цілей файлів/каталогів. -- `pnpm test:perf:imports:changed`: той самий профайлінг імпорту, але лише для файлів, змінених відносно `origin/main`. -- `pnpm test:perf:changed:bench -- --ref ` вимірює продуктивність маршрутизованого шляху changed-mode порівняно з нативним запуском root-project для того самого закоміченого git diff. -- `pnpm test:perf:changed:bench -- --worktree` вимірює продуктивність поточного набору змін worktree без попереднього коміту. +- `pnpm test:perf:imports`: вмикає звіти Vitest про тривалість імпорту та розбивку імпорту, при цьому все ще використовує маршрутизацію через цільові lane-и для явних цілей файлів/каталогів. +- `pnpm test:perf:imports:changed`: те саме профілювання імпорту, але лише для файлів, змінених відносно `origin/main`. +- `pnpm test:perf:changed:bench -- --ref ` виконує benchmark маршрутизованого шляху changed-mode порівняно з нативним запуском root-project для того самого закоміченого git diff. +- `pnpm test:perf:changed:bench -- --worktree` виконує benchmark поточного набору змін worktree без попереднього коміту. - `pnpm test:perf:profile:main`: записує CPU profile для головного потоку Vitest (`.artifacts/vitest-main-profile`). -- `pnpm test:perf:profile:runner`: записує CPU + heap profiles для unit runner (`.artifacts/vitest-runner-profile`). +- `pnpm test:perf:profile:runner`: записує профілі CPU і heap для unit runner (`.artifacts/vitest-runner-profile`). - Інтеграція gateway: вмикається через `OPENCLAW_TEST_INCLUDE_GATEWAY=1 pnpm test` або `pnpm test:gateway`. -- `pnpm test:e2e`: Запускає наскрізні smoke-тести gateway (сполучення multi-instance WS/HTTP/node). Типово використовує `threads` + `isolate: false` з адаптивною кількістю workers у `vitest.e2e.config.ts`; налаштовуйте через `OPENCLAW_E2E_WORKERS=` і встановіть `OPENCLAW_E2E_VERBOSE=1` для докладних логів. -- `pnpm test:live`: Запускає live-тести провайдерів (minimax/zai). Потребує API-ключів і `LIVE=1` (або провайдер-специфічного `*_LIVE_TEST=1`) для зняття пропуску. -- `pnpm test:docker:openwebui`: Запускає Dockerized OpenClaw + Open WebUI, входить через Open WebUI, перевіряє `/api/models`, а потім запускає реальний проксійований чат через `/api/chat/completions`. Потребує придатного ключа live-моделі (наприклад, OpenAI у `~/.profile`), завантажує зовнішній образ Open WebUI і не вважається стабільним для CI так, як звичайні набори unit/e2e. -- `pnpm test:docker:mcp-channels`: Запускає seeded контейнер Gateway і другий клієнтський контейнер, який запускає `openclaw mcp serve`, а потім перевіряє виявлення маршрутизованих розмов, читання транскриптів, метадані вкладень, поведінку live event queue, маршрутизацію вихідних надсилань, а також сповіщення про канал і дозволи в стилі Claude через реальний міст stdio. Перевірка сповіщень Claude читає необроблені stdio MCP frames напряму, щоб smoke-тест відображав те, що міст реально надсилає. +- `pnpm test:e2e`: запускає gateway end-to-end smoke-тести (багатоекземплярне WS/HTTP/node pairing). Типово використовує `threads` + `isolate: false` з адаптивною кількістю workers у `vitest.e2e.config.ts`; налаштовуйте через `OPENCLAW_E2E_WORKERS=` і встановіть `OPENCLAW_E2E_VERBOSE=1` для докладних логів. +- `pnpm test:live`: запускає provider live-тести (minimax/zai). Потрібні API keys і `LIVE=1` (або provider-specific `*_LIVE_TEST=1`) для зняття пропуску. +- `pnpm test:docker:openwebui`: запускає Dockerized OpenClaw + Open WebUI, входить через Open WebUI, перевіряє `/api/models`, а потім виконує реальний проксійований чат через `/api/chat/completions`. Потребує придатного live model key (наприклад, OpenAI у `~/.profile`), завантажує зовнішній образ Open WebUI і не вважається настільки стабільним для CI, як звичайні набори unit/e2e. +- `pnpm test:docker:mcp-channels`: запускає підготовлений контейнер Gateway і другий контейнер-клієнт, який запускає `openclaw mcp serve`, а потім перевіряє виявлення маршрутизованих розмов, читання transcript, metadata вкладень, поведінку live черги подій, outbound send routing і Claude-style сповіщення про channel + permission через реальний міст stdio. Перевірка сповіщень Claude читає сирі фрейми stdio MCP безпосередньо, щоб smoke-тест відображав те, що міст насправді надсилає. -## Локальний gate для PR +## Локальний PR gate -Для локальних перевірок PR land/gate запустіть: +Для локальних перевірок перед злиттям/пропуском PR запустіть: - `pnpm check` - `pnpm build` - `pnpm test` - `pnpm check:docs` -Якщо `pnpm test` нестабільно працює на завантаженому хості, перезапустіть його один раз, перш ніж вважати це регресією, а потім ізолюйте через `pnpm test `. Для хостів з обмеженою пам’яттю використовуйте: +Якщо `pnpm test` нестабільно спрацьовує на завантаженому хості, перезапустіть його один раз, перш ніж вважати це регресією, а потім ізолюйте через `pnpm test `. Для хостів з обмеженою пам’яттю використовуйте: - `OPENCLAW_VITEST_MAX_WORKERS=1 pnpm test` - `OPENCLAW_VITEST_FS_MODULE_CACHE_PATH=/tmp/openclaw-vitest-cache pnpm test:changed` -## Бенчмарк затримки моделі (локальні ключі) +## Model latency bench (локальні ключі) Скрипт: [`scripts/bench-model.ts`](https://github.com/openclaw/openclaw/blob/main/scripts/bench-model.ts) @@ -62,14 +62,14 @@ x-i18n: - `source ~/.profile && pnpm tsx scripts/bench-model.ts --runs 10` - Необов’язкові env: `MINIMAX_API_KEY`, `MINIMAX_BASE_URL`, `MINIMAX_MODEL`, `ANTHROPIC_API_KEY` -- Типовий prompt: “Відповідай одним словом: ok. Без розділових знаків чи зайвого тексту.” +- Типовий prompt: “Відповідай одним словом: ok. Без розділових знаків або додаткового тексту.” Останній запуск (2025-12-31, 20 прогонів): - minimax median 1279ms (min 1114, max 2431) - opus median 2454ms (min 1224, max 3170) -## Бенчмарк запуску CLI +## CLI startup bench Скрипт: [`scripts/bench-cli-startup.ts`](https://github.com/openclaw/openclaw/blob/main/scripts/bench-cli-startup.ts) @@ -90,21 +90,21 @@ x-i18n: - `pnpm tsx scripts/bench-cli-startup.ts --preset real --cpu-prof-dir .artifacts/cli-cpu` - `pnpm tsx scripts/bench-cli-startup.ts --json` -Пресети: +Набори preset: - `startup`: `--version`, `--help`, `health`, `health --json`, `status --json`, `status` - `real`: `health`, `status`, `status --json`, `sessions`, `sessions --json`, `agents list --json`, `gateway status`, `gateway status --json`, `gateway health --json`, `config get gateway.port` -- `all`: обидва пресети +- `all`: обидва набори preset -Вивід містить `sampleCount`, avg, p50, p95, min/max, розподіл exit-code/signal і зведення максимального RSS для кожної команди. Необов’язковий `--cpu-prof-dir` / `--heap-prof-dir` записує профілі V8 для кожного прогону, щоб вимірювання часу і збір профілів використовували той самий harness. +Вивід містить `sampleCount`, avg, p50, p95, min/max, розподіл exit-code/signal і підсумки max RSS для кожної команди. Необов’язковий `--cpu-prof-dir` / `--heap-prof-dir` записує профілі V8 для кожного прогону, тож вимірювання часу і захоплення профілю використовують той самий harness. Умовні позначення для збереженого виводу: -- `pnpm test:startup:bench:smoke` записує цільовий smoke-артефакт у `.artifacts/cli-startup-bench-smoke.json` -- `pnpm test:startup:bench:save` записує артефакт повного набору в `.artifacts/cli-startup-bench-all.json` з використанням `runs=5` і `warmup=1` -- `pnpm test:startup:bench:update` оновлює закомічений baseline fixture у `test/fixtures/cli-startup-bench.json` з використанням `runs=5` і `warmup=1` +- `pnpm test:startup:bench:smoke` записує цільовий smoke artifact у `.artifacts/cli-startup-bench-smoke.json` +- `pnpm test:startup:bench:save` записує artifact повного набору в `.artifacts/cli-startup-bench-all.json` з використанням `runs=5` і `warmup=1` +- `pnpm test:startup:bench:update` оновлює зафіксований у репозиторії baseline fixture у `test/fixtures/cli-startup-bench.json` з використанням `runs=5` і `warmup=1` -Fixture, закомічений у репозиторій: +Зафіксований fixture: - `test/fixtures/cli-startup-bench.json` - Оновіть через `pnpm test:startup:bench:update` @@ -112,9 +112,9 @@ Fixture, закомічений у репозиторій: ## Onboarding E2E (Docker) -Docker не є обов’язковим; це потрібно лише для containerized onboarding smoke-тестів. +Docker є необов’язковим; це потрібно лише для контейнеризованих smoke-тестів onboarding. -Повний cold-start flow у чистому Linux-контейнері: +Повний cold-start flow у чистому Linux container: ```bash scripts/e2e/onboard-docker.sh @@ -122,9 +122,9 @@ scripts/e2e/onboard-docker.sh Цей скрипт керує інтерактивним майстром через pseudo-tty, перевіряє файли config/workspace/session, потім запускає gateway і виконує `openclaw health`. -## Smoke-тест імпорту QR (Docker) +## QR import smoke (Docker) -Гарантує, що `qrcode-terminal` завантажується в підтримуваних Docker runtime Node (типово Node 24, сумісний Node 22): +Гарантує, що `qrcode-terminal` завантажується в підтримуваних Docker runtime Node (типово Node 24, сумісно з Node 22): ```bash pnpm test:docker:qr