diff --git a/docs/uk/concepts/qa-e2e-automation.md b/docs/uk/concepts/qa-e2e-automation.md index be363fd70..cfefcf3a3 100644 --- a/docs/uk/concepts/qa-e2e-automation.md +++ b/docs/uk/concepts/qa-e2e-automation.md @@ -1,51 +1,51 @@ --- read_when: - Розширення qa-lab або qa-channel - - Додавання QA-сценаріїв із підтримкою репозиторію - - Побудова реалістичнішої QA-автоматизації навколо панелі Gateway -summary: Форма приватної QA-автоматизації для qa-lab, qa-channel, сценаріїв із початковими даними та звітів про протокол -title: QA E2E автоматизація + - Додавання QA-сценаріїв на основі репозиторію + - Побудова реалістичнішої QA-автоматизації навколо панелі керування Gateway +summary: Форма приватної QA-автоматизації для qa-lab, qa-channel, початково заповнених сценаріїв і звітів протоколу +title: QA E2E-автоматизація x-i18n: - generated_at: "2026-04-09T00:27:53Z" + generated_at: "2026-04-09T22:54:33Z" model: gpt-5.4 provider: openai - source_hash: c922607d67e0f3a2489ac82bc9f510f7294ced039c1014c15b676d826441d833 + source_hash: 357d6698304ff7a8c4aa8a7be97f684d50f72b524740050aa761ac0ee68266de source_path: concepts/qa-e2e-automation.md workflow: 15 --- -# QA E2E автоматизація +# QA E2E-автоматизація -Приватний стек QA призначений для перевірки OpenClaw у реалістичніший, -орієнтований на канали спосіб, ніж це може зробити один модульний тест. +Приватний QA-стек призначений для тестування OpenClaw у реалістичніший, +схожий на канал спосіб, ніж це може зробити один модульний тест. Поточні складові: - `extensions/qa-channel`: синтетичний канал повідомлень із поверхнями для DM, каналу, гілки, реакцій, редагування та видалення. -- `extensions/qa-lab`: UI налагодження та шина QA для спостереження за транскриптом, - інʼєкції вхідних повідомлень і експорту звіту в Markdown. -- `qa/`: ресурси початкових даних із підтримкою репозиторію для стартового завдання та базових QA +- `extensions/qa-lab`: UI налагодження та QA-шина для спостереження за транскриптом, + інʼєкції вхідних повідомлень і експорту Markdown-звіту. +- `qa/`: ресурси початкового заповнення на основі репозиторію для стартового завдання та базових QA- сценаріїв. -Поточний робочий процес оператора QA — це двопанельний сайт QA: +Поточний робочий процес QA-оператора — це двопанельний QA-сайт: -- Ліворуч: панель Gateway (Control UI) з агентом. +- Ліворуч: панель керування Gateway (Control UI) з агентом. - Праворуч: QA Lab, що показує транскрипт у стилі Slack і план сценарію. -Запустіть це командою: +Запустіть його командою: ```bash pnpm qa:lab:up ``` -Це збирає сайт QA, запускає лінію Gateway на основі Docker і відкриває +Це збирає QA-сайт, запускає lane Gateway на основі Docker і відкриває сторінку QA Lab, де оператор або цикл автоматизації може дати агенту QA- -завдання, спостерігати реальну поведінку каналу та записувати, що спрацювало, -що не спрацювало або що залишилося заблокованим. +завдання, спостерігати реальну поведінку каналу та фіксувати, що спрацювало, що +не спрацювало або що залишилося заблокованим. Для швидшої ітерації UI QA Lab без повторного збирання Docker-образу щоразу -запустіть стек із bind-mounted бандлом QA Lab: +запустіть стек із bind-mount пакета QA Lab: ```bash pnpm openclaw qa docker-build-image @@ -54,14 +54,29 @@ pnpm qa:lab:up:fast pnpm qa:lab:watch ``` -`qa:lab:up:fast` залишає сервіси Docker на попередньо зібраному образі та bind-mount -`extensions/qa-lab/web/dist` у контейнер `qa-lab`. `qa:lab:watch` -перезбирає цей бандл при змінах, а браузер автоматично перезавантажується, коли +`qa:lab:up:fast` залишає сервіси Docker на попередньо зібраному образі та монтує +`extensions/qa-lab/web/dist` у контейнер `qa-lab` через bind-mount. `qa:lab:watch` +перебудовує цей пакет при змінах, а браузер автоматично перезавантажується, коли змінюється хеш ресурсів QA Lab. -## Початкові дані з підтримкою репозиторію +Для одноразової lane Linux VM без додавання Docker до QA-шляху виконайте: -Ресурси початкових даних розміщені в `qa/`: +```bash +pnpm openclaw qa suite --runner multipass --scenario channel-chat-baseline +``` + +Це завантажує нову гостьову систему Multipass, встановлює залежності, збирає OpenClaw +усередині гостьової системи, запускає `qa suite`, а потім копіює звичайний QA-звіт і +підсумок назад у `.artifacts/qa-e2e/...` на хості. +Використовується така сама поведінка вибору сценаріїв, як і для `qa suite` на хості. +Під час live-запусків пересилаються підтримувані вхідні дані автентифікації QA, які є практичними для +гостьової системи: ключі провайдера на основі env, шлях до конфігурації QA live provider і +`CODEX_HOME`, якщо він присутній. Зберігайте `--output-dir` у межах кореня репозиторію, щоб гостьова система +могла записувати назад через змонтований workspace. + +## Початково заповнені ресурси на основі репозиторію + +Ресурси початкового заповнення містяться в `qa/`: - `qa/scenarios/index.md` - `qa/scenarios/*.md` @@ -69,28 +84,28 @@ pnpm qa:lab:watch Вони навмисно зберігаються в git, щоб план QA був видимий і людям, і агенту. Базовий список має залишатися достатньо широким, щоб охоплювати: -- чати в DM і каналах -- поведінку гілок +- чат у DM і каналі +- поведінку в гілках - життєвий цикл дій із повідомленнями - cron-зворотні виклики -- виклик спогадів із памʼяті +- згадування памʼяті - перемикання моделей -- передавання підзадач субагенту -- читання репозиторію та документації +- передавання до субагента +- читання репозиторію та читання документації - одне невелике завдання зі збирання, наприклад Lobster Invaders ## Звітування -`qa-lab` експортує звіт про протокол у Markdown зі спостережуваної часової шкали шини. +`qa-lab` експортує Markdown-звіт протоколу на основі спостережуваної часової шкали шини. Звіт має відповідати на такі запитання: - Що спрацювало - Що не спрацювало - Що залишилося заблокованим -- Які додаткові сценарії варто додати +- Які сценарії для подальшої роботи варто додати -Для перевірок характеру та стилю запускайте той самий сценарій для кількох live model -refs і створюйте оцінений звіт у Markdown: +Для перевірок характеру та стилю запустіть той самий сценарій для кількох live model +ref і запишіть Markdown-звіт з оцінюванням: ```bash pnpm openclaw qa character-eval \ @@ -109,40 +124,40 @@ pnpm openclaw qa character-eval \ --judge-concurrency 16 ``` -Команда запускає локальні дочірні процеси QA gateway, а не Docker. Сценарії -оцінювання характеру мають задавати персону через `SOUL.md`, а потім виконувати звичайні -ходи користувача, такі як чат, допомога з робочим простором і невеликі файлові завдання. Моделі- -кандидату не слід повідомляти, що її оцінюють. Команда зберігає кожен повний -транскрипт, записує базову статистику запуску, а потім просить моделі-судді в режимі fast з +Команда запускає дочірні процеси локального QA gateway, а не Docker. Сценарії character eval +мають задавати персонажа через `SOUL.md`, а потім виконувати звичайні користувацькі ходи, +такі як чат, допомога з workspace і невеликі файлові завдання. Моделі-кандидату +не слід повідомляти, що її оцінюють. Команда зберігає кожен повний +транскрипт, записує базову статистику запуску, а потім просить моделі-оцінювачі в режимі fast з міркуванням `xhigh` ранжувати запуски за природністю, вайбом і гумором. -Використовуйте `--blind-judge-models` під час порівняння провайдерів: запит судді все одно отримує -кожен транскрипт і статус запуску, але посилання кандидатів замінюються нейтральними -мітками, такими як `candidate-01`; після розбору звіт зіставляє рейтинги з реальними refs. -Для запусків кандидатів за замовчуванням використовується рівень thinking `high`, а для моделей OpenAI, що -його підтримують, — `xhigh`. Перевизначте конкретного кандидата безпосередньо через -`--model provider/model,thinking=`. `--thinking ` і надалі задає -глобальний запасний варіант, а старіша форма `--model-thinking ` зберігається +Використовуйте `--blind-judge-models` під час порівняння провайдерів: запит оцінювача все одно отримує +кожен транскрипт і статус запуску, але ref кандидатів замінюються нейтральними +мітками на кшталт `candidate-01`; після розбору звіт зіставляє ранжування назад із реальними ref. +Для запусків кандидатів за замовчуванням використовується рівень thinking `high`, а для моделей OpenAI, +які це підтримують, — `xhigh`. Перевизначте конкретного кандидата inline за допомогою +`--model provider/model,thinking=`. `--thinking ` як і раніше задає +глобальний резервний варіант, а стара форма `--model-thinking ` збережена для сумісності. -Для кандидатських refs OpenAI за замовчуванням використовується режим fast, щоб задіяти пріоритетну -обробку там, де провайдер це підтримує. Додайте `,fast`, `,no-fast` або `,fast=false` безпосередньо, коли -потрібно перевизначити це для одного кандидата або судді. Передавайте `--fast` лише тоді, коли хочете -примусово ввімкнути режим fast для кожної моделі-кандидата. Тривалість кандидатів і суддів -записується у звіт для порівняльного аналізу, але в запитах до суддів прямо зазначено, +Для ref кандидатів OpenAI за замовчуванням використовується режим fast, щоб там, де провайдер це підтримує, +застосовувалася пріоритетна обробка. Додайте `,fast`, `,no-fast` або `,fast=false` inline, якщо +для одного кандидата або оцінювача потрібно перевизначення. Передавайте `--fast` лише тоді, коли хочете +примусово ввімкнути режим fast для кожної моделі-кандидата. Тривалість роботи кандидатів і оцінювачів +записується у звіт для аналізу бенчмарків, але в запитах до оцінювачів прямо зазначено, що не слід ранжувати за швидкістю. -Для запусків моделей-кандидатів і моделей-суддів за замовчуванням встановлено concurrency 16. Зменшуйте -`--concurrency` або `--judge-concurrency`, коли обмеження провайдера або навантаження на локальний gateway +І для запусків моделей-кандидатів, і для запусків моделей-оцінювачів за замовчуванням використовується паралелізм 16. Зменште +`--concurrency` або `--judge-concurrency`, якщо обмеження провайдера чи навантаження на локальний gateway роблять запуск надто шумним. -Якщо не передано жодного кандидатського `--model`, для оцінювання характеру за замовчуванням використовуються +Якщо не передано жодного кандидата `--model`, для character eval за замовчуванням використовуються `openai/gpt-5.4`, `openai/gpt-5.2`, `openai/gpt-5`, `anthropic/claude-opus-4-6`, `anthropic/claude-sonnet-4-6`, `zai/glm-5.1`, `moonshot/kimi-k2.5` і `google/gemini-3.1-pro-preview`, якщо не передано `--model`. -Якщо не передано `--judge-model`, суддями за замовчуванням є +Якщо не передано `--judge-model`, то оцінювачами за замовчуванням є `openai/gpt-5.4,thinking=xhigh,fast` і `anthropic/claude-opus-4-6,thinking=high`. -## Повʼязані документи +## Повʼязана документація - [Тестування](/uk/help/testing) - [QA Channel](/uk/channels/qa-channel) -- [Панель](/web/dashboard) +- [Панель керування](/web/dashboard) diff --git a/docs/uk/help/testing.md b/docs/uk/help/testing.md index 068ccb123..2c7c73cec 100644 --- a/docs/uk/help/testing.md +++ b/docs/uk/help/testing.md @@ -1,29 +1,29 @@ --- read_when: - Запуск тестів локально або в CI - - Додавання регресій для помилок моделей/провайдерів - - Налагодження поведінки gateway + агента -summary: 'Набір для тестування: модульні/e2e/live набори, ранери Docker і що покриває кожен тест' + - Додавання регресійних тестів для багів моделі/провайдера + - Налагодження поведінки шлюзу й агента +summary: 'Набір для тестування: модульні/e2e/live набори, Docker-ранери та що охоплює кожен тест' title: Тестування x-i18n: - generated_at: "2026-04-09T16:03:25Z" + generated_at: "2026-04-09T22:54:33Z" model: gpt-5.4 provider: openai - source_hash: 0aa56e3d0486e90d208b54c4a70e201616cb3d160362a005a902c1295563e3d5 + source_hash: 21b78e59a5189f4e8e6e1b490d350f4735c0395da31d21fc5d10b825313026b4 source_path: help/testing.md workflow: 15 --- # Тестування -OpenClaw має три набори Vitest (unit/integration, e2e, live) і невеликий набір раннерів Docker. +OpenClaw має три набори Vitest (unit/integration, e2e, live) і невеликий набір Docker-ранерів. Цей документ — посібник «як ми тестуємо»: -- Що покриває кожен набір (і що він навмисно _не_ покриває) +- Що охоплює кожен набір (і що він навмисно _не_ охоплює) - Які команди запускати для типових сценаріїв роботи (локально, перед push, налагодження) - Як live-тести знаходять облікові дані та вибирають моделі/провайдерів -- Як додавати регресії для реальних проблем із моделями/провайдерами +- Як додавати регресійні тести для реальних проблем із моделями/провайдерами ## Швидкий старт @@ -32,11 +32,12 @@ OpenClaw має три набори Vitest (unit/integration, e2e, live) і не - Повний gate (очікується перед push): `pnpm build && pnpm check && pnpm test` - Швидший локальний запуск повного набору на потужній машині: `pnpm test:max` - Прямий цикл спостереження Vitest: `pnpm test:watch` -- Пряме націлювання на файли тепер також маршрутизує шляхи extension/channel: `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` -- Під час ітерацій над однією помилкою спочатку віддавайте перевагу цільовим запускам. +- Пряме націлювання на файл тепер також маршрутизує шляхи extension/channel: `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` +- Під час ітерацій над однією помилкою спочатку надавайте перевагу цільовим запускам. - QA-сайт на базі Docker: `pnpm qa:lab:up` +- QA-ланка на базі Linux VM: `pnpm openclaw qa suite --runner multipass --scenario channel-chat-baseline` -Коли ви змінюєте тести або хочете додаткової впевненості: +Коли ви змінюєте тести або хочете мати додаткову впевненість: - Gate покриття: `pnpm test:coverage` - Набір E2E: `pnpm test:e2e` @@ -44,85 +45,104 @@ OpenClaw має три набори Vitest (unit/integration, e2e, live) і не Під час налагодження реальних провайдерів/моделей (потрібні реальні облікові дані): - Live-набір (моделі + gateway tool/image probes): `pnpm test:live` -- Тихо націлитися на один live-файл: `pnpm test:live -- src/agents/models.profiles.live.test.ts` +- Тихий запуск одного live-файлу: `pnpm test:live -- src/agents/models.profiles.live.test.ts` -Порада: якщо вам потрібен лише один збійний випадок, звужуйте live-тести через змінні середовища allowlist, описані нижче. +Порада: якщо вам потрібен лише один проблемний випадок, краще звузити live-тести через змінні середовища allowlist, описані нижче. + +## Спеціалізовані QA-ранери + +Ці команди використовуються поряд з основними наборами тестів, коли вам потрібен реалізм qa-lab: + +- `pnpm openclaw qa suite` + - Запускає QA-сценарії з репозиторію безпосередньо на хості. +- `pnpm openclaw qa suite --runner multipass` + - Запускає той самий QA-набір у disposable Linux VM Multipass. + - Зберігає ту саму поведінку вибору сценаріїв, що й `qa suite` на хості. + - Повторно використовує ті самі прапорці вибору провайдера/моделі, що й `qa suite`. + - Live-запуски пересилають підтримувані QA-входи автентифікації, які практичні для guest: + ключі провайдерів через env, шлях до конфігурації QA live provider і `CODEX_HOME`, + якщо вони присутні. + - Каталоги виводу мають залишатися в межах кореня репозиторію, щоб guest міг записувати назад через змонтований workspace. + - Записує звичайний QA-звіт і підсумок, а також журнали Multipass у + `.artifacts/qa-e2e/...`. +- `pnpm qa:lab:up` + - Запускає QA-сайт на базі Docker для QA-роботи в операторському стилі. ## Набори тестів (що де запускається) -Думайте про ці набори як про «зростання реалістичності» (і зростання нестабільності/вартості): +Сприймайте набори як «зростання реалізму» (і зростання нестабільності/вартості): -### Unit / integration (типово) +### Unit / integration (типовий) - Команда: `pnpm test` -- Конфіг: десять послідовних shard-запусків (`vitest.full-*.config.ts`) поверх наявних scoped Vitest projects -- Файли: інвентарі core/unit у `src/**/*.test.ts`, `packages/**/*.test.ts`, `test/**/*.test.ts` і whitelist-тести `ui` для Node, покриті `vitest.unit.config.ts` +- Конфігурація: десять послідовних shard-запусків (`vitest.full-*.config.ts`) по наявних scoped Vitest-проєктах +- Файли: core/unit inventory у `src/**/*.test.ts`, `packages/**/*.test.ts`, `test/**/*.test.ts` і whitelisted `ui` node-тести, які охоплює `vitest.unit.config.ts` - Обсяг: - - Чисті unit-тести - - In-process integration-тести (gateway auth, routing, tooling, parsing, config) - - Детерміновані регресії для відомих помилок + - Чисті модульні тести + - In-process інтеграційні тести (gateway auth, routing, tooling, parsing, config) + - Детерміновані регресії для відомих багів - Очікування: - Запускається в CI - Реальні ключі не потрібні - Має бути швидким і стабільним -- Примітка щодо projects: - - `pnpm test` без цільового файлу тепер запускає одинадцять менших shard-конфігів (`core-unit-src`, `core-unit-security`, `core-unit-ui`, `core-unit-support`, `core-support-boundary`, `core-contracts`, `core-bundled`, `core-runtime`, `agentic`, `auto-reply`, `extensions`) замість одного великого native root-project process. Це зменшує піковий RSS на навантажених машинах і не дає роботі auto-reply/extension виснажувати не пов’язані набори. - - `pnpm test --watch` як і раніше використовує native root `vitest.config.ts` project graph, тому що multi-shard watch loop непрактичний. - - `pnpm test`, `pnpm test:watch` і `pnpm test:perf:imports` спочатку маршрутизують явні цілі file/directory через scoped lanes, тож `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` не сплачує повну ціну запуску root project. - - `pnpm test:changed` розгортає змінені git-шляхи в ті самі scoped lanes, коли diff торкається лише routable source/test файлів; зміни config/setup, як і раніше, повертаються до широкого повторного запуску root project. - - Вибрані тести `plugin-sdk` і `commands` також маршрутизуються через виділені легкі lanes, які пропускають `test/setup-openclaw-runtime.ts`; stateful/runtime-heavy файли залишаються на наявних lanes. - - Вибрані helper source files `plugin-sdk` і `commands` також зіставляють запуски в режимі changed з явними sibling-тестами в цих легких lanes, тож зміни helper-ів не призводять до повторного запуску всього важкого набору для цього каталогу. - - `auto-reply` тепер має три виділені buckets: top-level core helpers, top-level `reply.*` integration tests і піддерево `src/auto-reply/reply/**`. Це утримує найважчу роботу harness reply поза дешевими тестами status/chunk/token. +- Примітка щодо проєктів: + - Ненаправлений `pnpm test` тепер запускає одинадцять менших shard-конфігурацій (`core-unit-src`, `core-unit-security`, `core-unit-ui`, `core-unit-support`, `core-support-boundary`, `core-contracts`, `core-bundled`, `core-runtime`, `agentic`, `auto-reply`, `extensions`) замість одного великого native root-project process. Це зменшує піковий RSS на завантажених машинах і не дає роботі auto-reply/extension виснажувати не пов’язані набори. + - `pnpm test --watch` усе ще використовує граф проєктів native root `vitest.config.ts`, оскільки цикл спостереження з кількома shard непрактичний. + - `pnpm test`, `pnpm test:watch` і `pnpm test:perf:imports` спочатку маршрутизують явні цілі файлів/каталогів через scoped lanes, тому `pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts` не потребує повної вартості запуску root project. + - `pnpm test:changed` розгортає змінені git-шляхи в ті самі scoped lanes, коли diff торкається лише routable source/test файлів; редагування config/setup усе ще повертаються до ширшого повторного запуску root project. + - Окремі тести `plugin-sdk` і `commands` також маршрутизуються через спеціальні легкі lanes, які пропускають `test/setup-openclaw-runtime.ts`; stateful/runtime-heavy файли залишаються на наявних lanes. + - Окремі helper source-файли `plugin-sdk` і `commands` також відображають запуски changed-mode на явні sibling-тести в цих легких lanes, тож редагування helper-ів не спричиняє повторний запуск повного важкого набору для цього каталогу. + - `auto-reply` тепер має три спеціальні кошики: core helper-і верхнього рівня, інтеграційні тести верхнього рівня `reply.*` і піддерево `src/auto-reply/reply/**`. Це утримує найважчу роботу harness reply осторонь дешевих тестів status/chunk/token. - Примітка щодо embedded runner: - - Коли ви змінюєте входи discovery message-tool або runtime context compaction, + - Коли ви змінюєте входи виявлення message-tool або runtime context compaction, зберігайте обидва рівні покриття. - Додавайте сфокусовані helper-регресії для чистих меж routing/normalization. - - Також підтримуйте в здоровому стані integration-набори embedded runner: + - Також підтримуйте в належному стані інтеграційні набори embedded runner: `src/agents/pi-embedded-runner/compact.hooks.test.ts`, - `src/agents/pi-embedded-runner/run.overflow-compaction.test.ts` і + `src/agents/pi-embedded-runner/run.overflow-compaction.test.ts`, і `src/agents/pi-embedded-runner/run.overflow-compaction.loop.test.ts`. - - Ці набори перевіряють, що scoped ids і поведінка compaction, як і раніше, проходять - через реальні шляхи `run.ts` / `compact.ts`; лише helper-тести не є - достатньою заміною для цих integration-шляхів. + - Ці набори перевіряють, що scoped id і поведінка compaction усе ще проходять + через реальні шляхи `run.ts` / `compact.ts`; самих лише helper-тестів + недостатньо як заміни для цих інтеграційних шляхів. - Примітка щодо pool: - - Базовий конфіг Vitest тепер типово використовує `threads`. - - Спільний конфіг Vitest також фіксує `isolate: false` і використовує non-isolated runner у root projects, e2e і live configs. - - Root UI lane зберігає свій `jsdom` setup і optimizer, але тепер також працює на спільному non-isolated runner. - - Кожен shard `pnpm test` успадковує ті самі типові значення `threads` + `isolate: false` зі спільного конфіга Vitest. + - Базова конфігурація Vitest тепер типово використовує `threads`. + - Спільна конфігурація Vitest також фіксує `isolate: false` і використовує non-isolated runner у root projects, e2e та live configs. + - Root UI lane зберігає своє налаштування `jsdom` та optimizer, але тепер теж працює на спільному non-isolated runner. + - Кожен shard `pnpm test` успадковує ті самі типові значення `threads` + `isolate: false` зі спільної конфігурації Vitest. - Спільний launcher `scripts/run-vitest.mjs` тепер також типово додає `--no-maglev` для дочірніх Node-процесів Vitest, щоб зменшити churn компіляції V8 під час великих локальних запусків. Установіть `OPENCLAW_VITEST_ENABLE_MAGLEV=1`, якщо потрібно порівняти зі стандартною поведінкою V8. - Примітка щодо швидкої локальної ітерації: - `pnpm test:changed` маршрутизує через scoped lanes, коли змінені шляхи однозначно відповідають меншому набору. - - `pnpm test:max` і `pnpm test:changed:max` зберігають ту саму поведінку маршрутизації, лише з вищим лімітом workers. - - Автоматичне масштабування локальних workers тепер навмисно більш консервативне й також зменшується, коли середнє навантаження хоста вже високе, тож кілька одночасних запусків Vitest за замовчуванням завдають менше шкоди. - - Базовий конфіг Vitest позначає projects/config files як `forceRerunTriggers`, щоб повторні запуски в режимі changed залишалися коректними, коли змінюється wiring тестів. - - Конфіг зберігає `OPENCLAW_VITEST_FS_MODULE_CACHE` увімкненим на підтримуваних хостах; установіть `OPENCLAW_VITEST_FS_MODULE_CACHE_PATH=/abs/path`, якщо хочете одну явну локацію кешу для прямого профілювання. -- Примітка щодо perf-debug: - - `pnpm test:perf:imports` вмикає звітування Vitest про тривалість import, а також вивід розбивки import. - - `pnpm test:perf:imports:changed` обмежує цей самий профільований перегляд файлами, зміненими відносно `origin/main`. -- `pnpm test:perf:changed:bench -- --ref ` порівнює маршрутизований `test:changed` із native root-project path для цього зафіксованого diff і виводить wall time та macOS max RSS. -- `pnpm test:perf:changed:bench -- --worktree` проводить benchmark поточного dirty tree, маршрутизуючи список змінених файлів через `scripts/test-projects.mjs` і root-конфіг Vitest. - - `pnpm test:perf:profile:main` записує main-thread CPU profile для накладних витрат запуску та transform у Vitest/Vite. - - `pnpm test:perf:profile:runner` записує runner CPU+heap profiles для unit-набору з вимкненим file parallelism. + - `pnpm test:max` і `pnpm test:changed:max` зберігають ту саму поведінку маршрутизації, лише з вищою межею кількості воркерів. + - Автомасштабування локальних воркерів тепер навмисно консервативне й також зменшує активність, коли середнє навантаження хоста вже високе, тож кілька одночасних запусків Vitest типово завдають менше шкоди. + - Базова конфігурація Vitest позначає проєкти/конфіг-файли як `forceRerunTriggers`, щоб повторні запуски changed-mode залишалися коректними, коли змінюється wiring тестів. + - Конфігурація зберігає `OPENCLAW_VITEST_FS_MODULE_CACHE` увімкненим на підтримуваних хостах; установіть `OPENCLAW_VITEST_FS_MODULE_CACHE_PATH=/abs/path`, якщо хочете мати одне явне розташування кешу для прямого профілювання. +- Примітка щодо налагодження продуктивності: + - `pnpm test:perf:imports` вмикає звітування Vitest про тривалість імпорту та вивід розбивки імпортів. + - `pnpm test:perf:imports:changed` обмежує той самий профільований вигляд файлами, зміненими відносно `origin/main`. +- `pnpm test:perf:changed:bench -- --ref ` порівнює маршрутизований `test:changed` з native root-project path для цього зафіксованого diff і виводить wall time та macOS max RSS. +- `pnpm test:perf:changed:bench -- --worktree` вимірює поточне dirty tree, маршрутизуючи список змінених файлів через `scripts/test-projects.mjs` і root-конфігурацію Vitest. + - `pnpm test:perf:profile:main` записує профіль CPU main-thread для накладних витрат запуску й transform у Vitest/Vite. + - `pnpm test:perf:profile:runner` записує профілі CPU+heap runner-а для unit-набору з вимкненим file parallelism. ### E2E (gateway smoke) - Команда: `pnpm test:e2e` -- Конфіг: `vitest.e2e.config.ts` +- Конфігурація: `vitest.e2e.config.ts` - Файли: `src/**/*.e2e.test.ts`, `test/**/*.e2e.test.ts` - Типові параметри runtime: - Використовує Vitest `threads` з `isolate: false`, узгоджено з рештою репозиторію. - - Використовує adaptive workers (CI: до 2, локально: типово 1). - - Типово запускається в silent mode, щоб зменшити накладні витрати на console I/O. + - Використовує адаптивну кількість воркерів (CI: до 2, локально: типово 1). + - Типово запускається в тихому режимі, щоб зменшити витрати на I/O консолі. - Корисні перевизначення: - - `OPENCLAW_E2E_WORKERS=` щоб примусово задати кількість workers (обмежено 16). - - `OPENCLAW_E2E_VERBOSE=1` щоб знову ввімкнути докладний вивід у консоль. + - `OPENCLAW_E2E_WORKERS=` — примусово задати кількість воркерів (обмежено 16). + - `OPENCLAW_E2E_VERBOSE=1` — знову ввімкнути докладний консольний вивід. - Обсяг: - - Наскрізна поведінка multi-instance gateway - - Поверхні WebSocket/HTTP, pairing вузлів і важча мережева взаємодія + - End-to-end поведінка gateway з кількома екземплярами + - Поверхні WebSocket/HTTP, pairing вузлів і важчі мережеві сценарії - Очікування: - - Запускається в CI (коли ввімкнено в pipeline) + - Запускається в CI (коли увімкнено в pipeline) - Реальні ключі не потрібні - - Більше рухомих частин, ніж у unit-тестах (може бути повільніше) + - Більше рухомих частин, ніж у модульних тестах (може бути повільніше) ### E2E: smoke OpenShell backend @@ -131,132 +151,132 @@ OpenClaw має три набори Vitest (unit/integration, e2e, live) і не - Обсяг: - Запускає ізольований OpenShell gateway на хості через Docker - Створює sandbox із тимчасового локального Dockerfile - - Перевіряє OpenShell backend OpenClaw через реальні `sandbox ssh-config` + SSH exec - - Перевіряє remote-canonical поведінку файлової системи через sandbox fs bridge + - Перевіряє OpenShell backend в OpenClaw через реальні `sandbox ssh-config` + SSH exec + - Верифікує remote-canonical поведінку файлової системи через bridge fs sandbox - Очікування: - Лише opt-in; не входить до типового запуску `pnpm test:e2e` - - Потрібен локальний CLI `openshell` і працездатний Docker daemon - - Використовує ізольовані `HOME` / `XDG_CONFIG_HOME`, після чого знищує test gateway і sandbox + - Потрібен локальний CLI `openshell` і робочий Docker daemon + - Використовує ізольовані `HOME` / `XDG_CONFIG_HOME`, потім знищує тестовий gateway і sandbox - Корисні перевизначення: - - `OPENCLAW_E2E_OPENSHELL=1` щоб увімкнути тест під час ручного запуску ширшого e2e-набору - - `OPENCLAW_E2E_OPENSHELL_COMMAND=/path/to/openshell` щоб указати нестандартний CLI binary або wrapper script + - `OPENCLAW_E2E_OPENSHELL=1` — увімкнути тест під час ручного запуску ширшого e2e-набору + - `OPENCLAW_E2E_OPENSHELL_COMMAND=/path/to/openshell` — вказати нестандартний CLI-бінарник або wrapper script ### Live (реальні провайдери + реальні моделі) - Команда: `pnpm test:live` -- Конфіг: `vitest.live.config.ts` +- Конфігурація: `vitest.live.config.ts` - Файли: `src/**/*.live.test.ts` - Типово: **увімкнено** через `pnpm test:live` (встановлює `OPENCLAW_LIVE_TEST=1`) - Обсяг: - - «Чи справді цей провайдер/модель працює _сьогодні_ з реальними обліковими даними?» - - Виявлення змін формату провайдера, особливостей tool calling, проблем auth і поведінки rate limit + - «Чи працює цей провайдер/модель _сьогодні_ з реальними обліковими даними?» + - Виявлення змін формату провайдера, особливостей виклику tools, проблем auth і поведінки rate limit - Очікування: - - Навмисно нестабільні для CI (реальні мережі, реальні політики провайдерів, квоти, збої) - - Коштують грошей / витрачають rate limits - - Краще запускати звужені підмножини, а не «все підряд» -- Live-запуски використовують `~/.profile`, щоб підхопити відсутні API keys. -- Типово live-запуски все одно ізолюють `HOME` і копіюють config/auth матеріали в тимчасовий test home, щоб unit fixtures не могли змінити ваш реальний `~/.openclaw`. -- Установлюйте `OPENCLAW_LIVE_USE_REAL_HOME=1` лише тоді, коли навмисно хочете, щоб live-тести використовували ваш реальний домашній каталог. -- `pnpm test:live` тепер типово працює в тихішому режимі: він зберігає вивід прогресу `[live] ...`, але пригнічує додаткове повідомлення про `~/.profile` і вимикає логи bootstrap gateway/Bonjour chatter. Установіть `OPENCLAW_LIVE_TEST_QUIET=0`, якщо хочете знову бачити повні стартові логи. -- Ротація API keys (залежно від провайдера): установлюйте `*_API_KEYS` у форматі comma/semicolon або `*_API_KEY_1`, `*_API_KEY_2` (наприклад `OPENAI_API_KEYS`, `ANTHROPIC_API_KEYS`, `GEMINI_API_KEYS`) або перевизначення для конкретного live-запуску через `OPENCLAW_LIVE_*_KEY`; тести повторюються після відповідей про rate limit. -- Вивід progress/heartbeat: - - Live-набори тепер виводять рядки прогресу в stderr, щоб тривалі виклики провайдера було видно активними, навіть коли захоплення консолі Vitest працює тихо. - - `vitest.live.config.ts` вимикає перехоплення консолі Vitest, тому рядки progress провайдера/gateway одразу стрімляться під час live-запусків. - - Налаштовуйте direct-model heartbeats через `OPENCLAW_LIVE_HEARTBEAT_MS`. - - Налаштовуйте gateway/probe heartbeats через `OPENCLAW_LIVE_GATEWAY_HEARTBEAT_MS`. + - Навмисно нестабільний для CI (реальні мережі, реальні політики провайдерів, квоти, збої) + - Коштує грошей / використовує rate limits + - Краще запускати звужені підмножини, а не «все» +- Live-запуски використовують `~/.profile`, щоб підхопити відсутні API-ключі. +- Типово live-запуски все одно ізолюють `HOME` і копіюють конфігурацію/матеріали auth у тимчасовий test home, щоб unit-fixtures не могли змінити ваш реальний `~/.openclaw`. +- Установлюйте `OPENCLAW_LIVE_USE_REAL_HOME=1` лише тоді, коли вам навмисно потрібно, щоб live-тести використовували ваш реальний домашній каталог. +- `pnpm test:live` тепер типово працює в тихішому режимі: він зберігає вивід прогресу `[live] ...`, але приховує додаткове повідомлення про `~/.profile` і приглушує журнали запуску gateway/шум Bonjour. Установіть `OPENCLAW_LIVE_TEST_QUIET=0`, якщо хочете повернути повні стартові журнали. +- Ротація API-ключів (для конкретного провайдера): установіть `*_API_KEYS` у форматі з комами/крапками з комою або `*_API_KEY_1`, `*_API_KEY_2` (наприклад, `OPENAI_API_KEYS`, `ANTHROPIC_API_KEYS`, `GEMINI_API_KEYS`) або використовуйте перевизначення для конкретного live-запуску через `OPENCLAW_LIVE_*_KEY`; тести повторюють спробу у відповідь на rate limit. +- Вивід прогресу/heartbeat: + - Live-набори тепер виводять рядки прогресу в stderr, щоб довгі виклики провайдера було видно активними навіть тоді, коли захоплення консолі Vitest працює тихо. + - `vitest.live.config.ts` вимикає перехоплення консолі Vitest, тому рядки прогресу провайдера/gateway транслюються негайно під час live-запусків. + - Налаштовуйте heartbeat прямих моделей через `OPENCLAW_LIVE_HEARTBEAT_MS`. + - Налаштовуйте heartbeat gateway/probe через `OPENCLAW_LIVE_GATEWAY_HEARTBEAT_MS`. ## Який набір мені запускати? -Використовуйте таку таблицю рішень: +Скористайтеся цією таблицею рішень: -- Редагування логіки/тестів: запускайте `pnpm test` (і `pnpm test:coverage`, якщо ви змінили багато) -- Зміни в gateway networking / WS protocol / pairing: додайте `pnpm test:e2e` -- Налагодження «мій бот не працює» / специфічних для провайдера збоїв / tool calling: запускайте звужений `pnpm test:live` +- Редагуєте логіку/тести: запускайте `pnpm test` (і `pnpm test:coverage`, якщо змінили багато) +- Торкаєтеся мережевої взаємодії gateway / WS protocol / pairing: додайте `pnpm test:e2e` +- Налагоджуєте «мій бот не працює» / збої конкретного провайдера / виклик tools: запускайте звужений `pnpm test:live` -## Live: перевірка можливостей Android node +## Live: Android node capability sweep - Тест: `src/gateway/android-node.capabilities.live.test.ts` - Скрипт: `pnpm android:test:integration` -- Мета: викликати **кожну команду, що зараз оголошена** підключеним Android node, і перевірити поведінку контракту команд. +- Мета: викликати **кожну команду, яка наразі оголошується** підключеним Android-вузлом, і перевірити поведінку контракту команди. - Обсяг: - - Попередньо підготовлений/ручний setup (набір не встановлює/не запускає/не pair-ить app). - - Валідація `node.invoke` gateway покомандно для вибраного Android node. -- Потрібна попередня підготовка: - - Android app уже підключено й спарено з gateway. - - App має залишатися на передньому плані. - - Для можливостей, які ви очікуєте як успішні, надано дозволи/згоду на захоплення. + - Попередньо підготовлене/ручне налаштування (набір не встановлює/не запускає/не спаровує застосунок). + - Перевірка `node.invoke` у gateway для вибраного Android-вузла по команді за командою. +- Необхідне попереднє налаштування: + - Android-застосунок уже підключений і спарений із gateway. + - Застосунок утримується на передньому плані. + - Для можливостей, які ви очікуєте, що пройдуть перевірку, надано дозволи/згоду на захоплення. - Необов’язкові перевизначення цілі: - `OPENCLAW_ANDROID_NODE_ID` або `OPENCLAW_ANDROID_NODE_NAME`. - `OPENCLAW_ANDROID_GATEWAY_URL` / `OPENCLAW_ANDROID_GATEWAY_TOKEN` / `OPENCLAW_ANDROID_GATEWAY_PASSWORD`. -- Повні деталі налаштування Android: [Android App](/uk/platforms/android) +- Повні відомості про налаштування Android: [Android App](/uk/platforms/android) -## Live: smoke моделі (ключі профілів) +## Live: smoke моделей (ключі профілів) Live-тести поділено на два шари, щоб можна було ізолювати збої: -- «Direct model» показує, чи може провайдер/модель взагалі відповісти з наданим ключем. -- «Gateway smoke» показує, чи працює повний pipeline gateway+agent для цієї моделі (sessions, history, tools, sandbox policy тощо). +- «Пряма модель» показує, чи може провайдер/модель узагалі відповісти з наданим ключем. +- «Gateway smoke» показує, чи працює для цієї моделі повний конвеєр gateway+agent (сеанси, історія, tools, sandbox policy тощо). -### Шар 1: Direct model completion (без gateway) +### Шар 1: Пряме завершення моделі (без gateway) - Тест: `src/agents/models.profiles.live.test.ts` - Мета: - Перелічити виявлені моделі - Використати `getApiKeyForModel` для вибору моделей, для яких у вас є облікові дані - - Виконати невелике completion для кожної моделі (і цільові регресії там, де потрібно) + - Виконати невелике завершення для кожної моделі (і цільові регресії, де це потрібно) - Як увімкнути: - - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо викликаєте Vitest напряму) + - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо запускати Vitest напряму) - Установіть `OPENCLAW_LIVE_MODELS=modern` (або `all`, псевдонім для modern), щоб цей набір справді запускався; інакше він буде пропущений, щоб `pnpm test:live` залишався зосередженим на gateway smoke - Як вибирати моделі: - - `OPENCLAW_LIVE_MODELS=modern` для запуску сучасного allowlist (Opus/Sonnet 4.6+, GPT-5.x + Codex, Gemini 3, GLM 4.7, MiniMax M2.7, Grok 4) + - `OPENCLAW_LIVE_MODELS=modern`, щоб запустити сучасний allowlist (Opus/Sonnet 4.6+, GPT-5.x + Codex, Gemini 3, GLM 4.7, MiniMax M2.7, Grok 4) - `OPENCLAW_LIVE_MODELS=all` — це псевдонім для сучасного allowlist - або `OPENCLAW_LIVE_MODELS="openai/gpt-5.4,anthropic/claude-opus-4-6,..."` (allowlist через кому) - - Перебори modern/all типово використовують curated high-signal cap; установіть `OPENCLAW_LIVE_MAX_MODELS=0` для вичерпного modern-перебору або додатне число для меншого cap. + - Modern/all sweeps типово використовують відібрану верхню межу високосигнальних моделей; установіть `OPENCLAW_LIVE_MAX_MODELS=0` для вичерпного modern sweep або додатне число для меншої межі. - Як вибирати провайдерів: - `OPENCLAW_LIVE_PROVIDERS="google,google-antigravity,google-gemini-cli"` (allowlist через кому) - Звідки беруться ключі: - - Типово: profile store і резервні env - - Установіть `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати **лише profile store** + - Типово: сховище профілів і резервні значення з env + - Установіть `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати **лише сховище профілів** - Навіщо це існує: - - Відокремлює «API провайдера зламане / ключ недійсний» від «pipeline gateway agent зламаний» - - Містить невеликі ізольовані регресії (приклад: reasoning replay + потоки tool-call у OpenAI Responses/Codex Responses) + - Відокремлює «API провайдера зламане / ключ невалідний» від «конвеєр gateway agent зламаний» + - Містить невеликі ізольовані регресії (приклад: OpenAI Responses/Codex Responses reasoning replay + потоки tool-call) -### Шар 2: Gateway + smoke dev agent (що насправді робить "@openclaw") +### Шар 2: smoke gateway + dev agent (що насправді робить "@openclaw") - Тест: `src/gateway/gateway-models.profiles.live.test.ts` - Мета: - Підняти in-process gateway - - Створити/оновити session `agent:dev:*` (перевизначення моделі для кожного запуску) - - Ітеруватися по моделях-із-ключами і перевіряти: + - Створити/оновити сеанс `agent:dev:*` (перевизначення моделі для кожного запуску) + - Перебрати моделі з ключами та перевірити: - «змістовну» відповідь (без tools) - що працює реальний виклик tool (read probe) - - необов’язкові додаткові tool probes (exec+read probe) - - що шляхи регресій OpenAI (лише tool-call → follow-up) і далі працюють -- Деталі probe (щоб можна було швидко пояснювати збої): - - `read` probe: тест записує nonce-файл у workspace і просить агента `read` його та повернути nonce у відповіді. - - `exec+read` probe: тест просить агента записати nonce у тимчасовий файл через `exec`, а потім прочитати його назад через `read`. + - необов’язкові додаткові probes tool (exec+read probe) + - що шляхи регресій OpenAI (лише tool-call → follow-up) продовжують працювати +- Відомості про probe-и (щоб ви могли швидко пояснити збої): + - `read` probe: тест записує nonce-файл у workspace і просить агента `read` його та повернути nonce. + - `exec+read` probe: тест просить агента записати nonce у тимчасовий файл через `exec`, а потім прочитати його через `read`. - image probe: тест прикріплює згенерований PNG (кіт + рандомізований код) і очікує, що модель поверне `cat `. - Посилання на реалізацію: `src/gateway/gateway-models.profiles.live.test.ts` і `src/gateway/live-image-probe.ts`. - Як увімкнути: - - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо викликаєте Vitest напряму) + - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо запускати Vitest напряму) - Як вибирати моделі: - Типово: сучасний allowlist (Opus/Sonnet 4.6+, GPT-5.x + Codex, Gemini 3, GLM 4.7, MiniMax M2.7, Grok 4) - `OPENCLAW_LIVE_GATEWAY_MODELS=all` — це псевдонім для сучасного allowlist - Або встановіть `OPENCLAW_LIVE_GATEWAY_MODELS="provider/model"` (або список через кому), щоб звузити вибір - - Перебори modern/all для gateway типово використовують curated high-signal cap; установіть `OPENCLAW_LIVE_GATEWAY_MAX_MODELS=0` для вичерпного modern-перебору або додатне число для меншого cap. -- Як вибирати провайдерів (щоб уникнути «усе OpenRouter»): + - Modern/all gateway sweeps типово використовують відібрану верхню межу високосигнальних моделей; установіть `OPENCLAW_LIVE_GATEWAY_MAX_MODELS=0` для вичерпного modern sweep або додатне число для меншої межі. +- Як вибирати провайдерів (уникати «все OpenRouter»): - `OPENCLAW_LIVE_GATEWAY_PROVIDERS="google,google-antigravity,google-gemini-cli,openai,anthropic,zai,minimax"` (allowlist через кому) -- Tool + image probes у цьому live-тесті завжди ввімкнені: - - `read` probe + `exec+read` probe (навантажувальна перевірка tools) +- Tool та image probes у цьому live-тесті завжди ввімкнені: + - `read` probe + `exec+read` probe (stress для tool) - image probe запускається, коли модель оголошує підтримку image input - Потік (на високому рівні): - - Тест генерує маленький PNG із «CAT» + випадковим кодом (`src/gateway/live-image-probe.ts`) + - Тест генерує крихітний PNG із «CAT» + випадковим кодом (`src/gateway/live-image-probe.ts`) - Надсилає його через `agent` `attachments: [{ mimeType: "image/png", content: "" }]` - - Gateway розбирає attachments у `images[]` (`src/gateway/server-methods/agent.ts` + `src/gateway/chat-attachments.ts`) - - Embedded agent пересилає мультимодальне повідомлення користувача моделі + - Gateway розбирає вкладення в `images[]` (`src/gateway/server-methods/agent.ts` + `src/gateway/chat-attachments.ts`) + - Embedded agent пересилає моделі мультимодальне повідомлення користувача - Перевірка: відповідь містить `cat` + код (допуск OCR: незначні помилки дозволені) -Порада: щоб побачити, що саме ви можете тестувати на своїй машині (і точні ідентифікатори `provider/model`), виконайте: +Порада: щоб побачити, що можна тестувати на вашій машині (і точні ідентифікатори `provider/model`), виконайте: ```bash openclaw models list @@ -266,23 +286,23 @@ openclaw models list --json ## Live: smoke CLI backend (Claude, Codex, Gemini або інші локальні CLI) - Тест: `src/gateway/gateway-cli-backend.live.test.ts` -- Мета: перевірити pipeline Gateway + agent із локальним CLI backend, не торкаючись вашої типової config. -- Типові параметри smoke для конкретного backend зберігаються у визначенні `cli-backend.ts` відповідного extension. +- Мета: перевірити конвеєр Gateway + agent із локальним CLI backend, не торкаючись вашої типової конфігурації. +- Типові значення smoke для конкретного backend зберігаються у визначенні `cli-backend.ts` розширення-власника. - Увімкнення: - - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо викликаєте Vitest напряму) + - `pnpm test:live` (або `OPENCLAW_LIVE_TEST=1`, якщо запускати Vitest напряму) - `OPENCLAW_LIVE_CLI_BACKEND=1` - Типові значення: - - Типовий provider/model: `claude-cli/claude-sonnet-4-6` - - Поведінка command/args/image береться з метаданих plugin відповідного CLI backend. -- Перевизначення (необов’язкові): + - Типовий провайдер/модель: `claude-cli/claude-sonnet-4-6` + - Поведінка command/args/image береться з метаданих plugin-а CLI backend, якому це належить. +- Перевизначення (необов’язково): - `OPENCLAW_LIVE_CLI_BACKEND_MODEL="codex-cli/gpt-5.4"` - `OPENCLAW_LIVE_CLI_BACKEND_COMMAND="/full/path/to/codex"` - `OPENCLAW_LIVE_CLI_BACKEND_ARGS='["exec","--json","--color","never","--sandbox","read-only","--skip-git-repo-check"]'` - - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_PROBE=1` щоб надіслати реальне image attachment (шляхи вбудовуються в prompt). - - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_ARG="--image"` щоб передавати шляхи до image-файлів як CLI args замість вбудовування в prompt. - - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_MODE="repeat"` (або `"list"`) щоб керувати передаванням image args, коли встановлено `IMAGE_ARG`. - - `OPENCLAW_LIVE_CLI_BACKEND_RESUME_PROBE=1` щоб надіслати другий хід і перевірити потік resume. - - `OPENCLAW_LIVE_CLI_BACKEND_MODEL_SWITCH_PROBE=0` щоб вимкнути типову перевірку безперервності в тій самій session Claude Sonnet -> Opus (установіть `1`, щоб примусово ввімкнути її, коли вибрана модель підтримує ціль перемикання). + - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_PROBE=1`, щоб надіслати реальне image-вкладення (шляхи інжектуються в prompt). + - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_ARG="--image"`, щоб передавати шляхи до image-файлів як аргументи CLI замість інжекції в prompt. + - `OPENCLAW_LIVE_CLI_BACKEND_IMAGE_MODE="repeat"` (або `"list"`), щоб керувати способом передавання image-аргументів, коли задано `IMAGE_ARG`. + - `OPENCLAW_LIVE_CLI_BACKEND_RESUME_PROBE=1`, щоб надіслати другий хід і перевірити потік відновлення. + - `OPENCLAW_LIVE_CLI_BACKEND_MODEL_SWITCH_PROBE=0`, щоб вимкнути типовий probe безперервності того самого сеансу Claude Sonnet -> Opus (установіть `1`, щоб примусово його ввімкнути, коли вибрана модель підтримує ціль перемикання). Приклад: @@ -292,13 +312,13 @@ OPENCLAW_LIVE_CLI_BACKEND=1 \ pnpm test:live src/gateway/gateway-cli-backend.live.test.ts ``` -Рецепт Docker: +Docker-рецепт: ```bash pnpm test:docker:live-cli-backend ``` -Рецепти Docker для одного провайдера: +Docker-рецепти для одного провайдера: ```bash pnpm test:docker:live-cli-backend:claude @@ -308,27 +328,27 @@ pnpm test:docker:live-cli-backend:gemini Примітки: -- Раннер Docker розташований у `scripts/test-live-cli-backend-docker.sh`. +- Docker-ранер розташований у `scripts/test-live-cli-backend-docker.sh`. - Він запускає live smoke CLI-backend усередині Docker-образу репозиторію від імені непривілейованого користувача `node`. -- Він визначає метадані smoke CLI з extension-власника, а потім установлює відповідний Linux CLI package (`@anthropic-ai/claude-code`, `@openai/codex` або `@google/gemini-cli`) у кешований записуваний префікс у `OPENCLAW_DOCKER_CLI_TOOLS_DIR` (типово: `~/.cache/openclaw/docker-cli-tools`). -- Live smoke CLI-backend тепер перевіряє той самий наскрізний потік для Claude, Codex і Gemini: текстовий хід, хід із класифікацією image, а потім виклик MCP tool `cron`, перевірений через gateway CLI. -- Типовий smoke для Claude також оновлює session із Sonnet на Opus і перевіряє, що відновлена session досі пам’ятає попередню нотатку. +- Він визначає метадані smoke CLI з розширення-власника, а потім встановлює відповідний Linux CLI-пакет (`@anthropic-ai/claude-code`, `@openai/codex` або `@google/gemini-cli`) у кешований придатний для запису префікс за адресою `OPENCLAW_DOCKER_CLI_TOOLS_DIR` (типово: `~/.cache/openclaw/docker-cli-tools`). +- Live smoke CLI-backend тепер перевіряє той самий наскрізний потік для Claude, Codex і Gemini: текстовий хід, хід класифікації image, а потім виклик MCP tool `cron`, перевірений через CLI gateway. +- Типовий smoke Claude також оновлює сеанс із Sonnet на Opus і перевіряє, що відновлений сеанс усе ще пам’ятає попередню нотатку. ## Live: smoke ACP bind (`/acp spawn ... --bind here`) - Тест: `src/gateway/gateway-acp-bind.live.test.ts` -- Мета: перевірити реальний потік conversation-bind ACP із live ACP agent: +- Мета: перевірити реальний потік прив’язування розмови ACP із live ACP-агентом: - надіслати `/acp spawn --bind here` - - прив’язати synthetic message-channel conversation на місці - - надіслати звичайний follow-up у цій самій conversation - - перевірити, що follow-up потрапляє в transcript прив’язаної ACP session + - прив’язати synthetic розмову message-channel на місці + - надіслати звичайне follow-up у тій самій розмові + - перевірити, що follow-up потрапляє до transcript прив’язаного ACP-сеансу - Увімкнення: - `pnpm test:live src/gateway/gateway-acp-bind.live.test.ts` - `OPENCLAW_LIVE_ACP_BIND=1` - Типові значення: - - ACP agents у Docker: `claude,codex,gemini` - - ACP agent для прямого `pnpm test:live ...`: `claude` - - Synthetic channel: контекст conversation у стилі Slack DM + - ACP-агенти в Docker: `claude,codex,gemini` + - ACP-агент для прямого `pnpm test:live ...`: `claude` + - Synthetic channel: контекст розмови у стилі Slack DM - ACP backend: `acpx` - Перевизначення: - `OPENCLAW_LIVE_ACP_BIND_AGENT=claude` @@ -337,8 +357,8 @@ pnpm test:docker:live-cli-backend:gemini - `OPENCLAW_LIVE_ACP_BIND_AGENTS=claude,codex,gemini` - `OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND='npx -y @agentclientprotocol/claude-agent-acp@'` - Примітки: - - Ця доріжка використовує поверхню gateway `chat.send` з synthetic полями originating-route лише для адміністраторів, щоб тести могли прикріпити контекст message-channel без імітації зовнішньої доставки. - - Коли `OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND` не встановлено, тест використовує вбудований реєстр agent plugin `acpx` для вибраного ACP harness agent. + - Ця ланка використовує поверхню gateway `chat.send` з synthetic originating-route fields лише для адміністраторів, щоб тести могли прикріплювати контекст message-channel без удаваної зовнішньої доставки. + - Коли `OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND` не задано, тест використовує вбудований реєстр агентів plugin-а `acpx` для вибраного ACP harness agent. Приклад: @@ -348,13 +368,13 @@ OPENCLAW_LIVE_ACP_BIND=1 \ pnpm test:live src/gateway/gateway-acp-bind.live.test.ts ``` -Рецепт Docker: +Docker-рецепт: ```bash pnpm test:docker:live-acp-bind ``` -Рецепти Docker для одного agent: +Docker-рецепти для одного агента: ```bash pnpm test:docker:live-acp-bind:claude @@ -364,47 +384,47 @@ pnpm test:docker:live-acp-bind:gemini Примітки щодо Docker: -- Раннер Docker розташований у `scripts/test-live-acp-bind-docker.sh`. -- Типово він запускає smoke ACP bind послідовно для всіх підтримуваних live CLI agents: `claude`, `codex`, потім `gemini`. +- Docker-ранер розташований у `scripts/test-live-acp-bind-docker.sh`. +- Типово він запускає smoke ACP bind послідовно для всіх підтримуваних live CLI-агентів: `claude`, `codex`, потім `gemini`. - Використовуйте `OPENCLAW_LIVE_ACP_BIND_AGENTS=claude`, `OPENCLAW_LIVE_ACP_BIND_AGENTS=codex` або `OPENCLAW_LIVE_ACP_BIND_AGENTS=gemini`, щоб звузити матрицю. -- Він використовує `~/.profile`, переносить відповідні auth-матеріали CLI в контейнер, установлює `acpx` у записуваний npm-префікс, а потім установлює потрібний live CLI (`@anthropic-ai/claude-code`, `@openai/codex` або `@google/gemini-cli`), якщо його немає. -- Усередині Docker раннер встановлює `OPENCLAW_LIVE_ACP_BIND_ACPX_COMMAND=$HOME/.npm-global/bin/acpx`, щоб acpx зберігав env vars провайдера з підключеного profile доступними для дочірнього CLI harness. +- Він використовує `~/.profile`, підготовлює відповідні матеріали auth CLI у контейнері, встановлює `acpx` у придатний для запису npm-префікс, а потім встановлює потрібний live CLI (`@anthropic-ai/claude-code`, `@openai/codex` або `@google/gemini-cli`), якщо його бракує. +- Усередині Docker раннер установлює `OPENCLAW_LIVE_ACP_BIND_ACPX_COMMAND=$HOME/.npm-global/bin/acpx`, щоб `acpx` зберігав доступність змінних середовища провайдера з підключеного профілю для дочірнього harness CLI. ### Рекомендовані live-рецепти Найшвидші й найменш нестабільні — вузькі, явні allowlist: -- Одна модель, direct (без gateway): +- Одна модель, напряму (без gateway): - `OPENCLAW_LIVE_MODELS="openai/gpt-5.4" pnpm test:live src/agents/models.profiles.live.test.ts` - Одна модель, gateway smoke: - `OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.4" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` -- Tool calling для кількох провайдерів: +- Виклик tools у кількох провайдерів: - `OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.4,anthropic/claude-opus-4-6,google/gemini-3-flash-preview,zai/glm-4.7,minimax/MiniMax-M2.7" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` -- Фокус на Google (API key Gemini + Antigravity): - - Gemini (API key): `OPENCLAW_LIVE_GATEWAY_MODELS="google/gemini-3-flash-preview" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` +- Фокус на Google (API-ключ Gemini + Antigravity): + - Gemini (API-ключ): `OPENCLAW_LIVE_GATEWAY_MODELS="google/gemini-3-flash-preview" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` - Antigravity (OAuth): `OPENCLAW_LIVE_GATEWAY_MODELS="google-antigravity/claude-opus-4-6-thinking,google-antigravity/gemini-3-pro-high" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` Примітки: -- `google/...` використовує Gemini API (API key). -- `google-antigravity/...` використовує міст OAuth Antigravity (endpoint агента у стилі Cloud Code Assist). -- `google-gemini-cli/...` використовує локальний Gemini CLI на вашій машині (окрема auth + особливості tooling). +- `google/...` використовує Gemini API (API-ключ). +- `google-antigravity/...` використовує міст OAuth Antigravity (кінцева точка агента у стилі Cloud Code Assist). +- `google-gemini-cli/...` використовує локальний Gemini CLI на вашій машині (окрема автентифікація + особливості tools). - Gemini API проти Gemini CLI: - - API: OpenClaw викликає розміщений Google Gemini API через HTTP (API key / auth профілю); це те, що більшість користувачів мають на увазі під «Gemini». - - CLI: OpenClaw виконує shell-виклик локального binary `gemini`; він має власну auth і може поводитися інакше (streaming/tool support/version skew). + - API: OpenClaw викликає розміщений Google Gemini API через HTTP (API-ключ / автентифікація профілю); саме це більшість користувачів мають на увазі під «Gemini». + - CLI: OpenClaw виконує оболонковий виклик локального бінарника `gemini`; він має власну автентифікацію й може поводитися інакше (streaming/підтримка tools/розсинхронізація версій). -## Live: матриця моделей (що ми покриваємо) +## Live: матриця моделей (що ми охоплюємо) -Немає фіксованого «списку моделей CI» (live є opt-in), але це **рекомендовані** моделі для регулярного покриття на машині розробника з ключами. +Фіксованого «списку моделей CI» немає (live — opt-in), але це **рекомендовані** моделі, які варто регулярно охоплювати на dev-машині з ключами. -### Сучасний smoke-набір (tool calling + image) +### Сучасний smoke-набір (виклик tools + image) -Це запуск «поширених моделей», який ми очікуємо підтримувати працездатним: +Це запуск «поширених моделей», працездатність якого ми очікуємо зберігати: -- OpenAI (не Codex): `openai/gpt-5.4` (необов’язково: `openai/gpt-5.4-mini`) +- OpenAI (не-Codex): `openai/gpt-5.4` (необов’язково: `openai/gpt-5.4-mini`) - OpenAI Codex: `openai-codex/gpt-5.4` - Anthropic: `anthropic/claude-opus-4-6` (або `anthropic/claude-sonnet-4-6`) - Google (Gemini API): `google/gemini-3.1-pro-preview` і `google/gemini-3-flash-preview` (уникайте старіших моделей Gemini 2.x) @@ -412,12 +432,12 @@ pnpm test:docker:live-acp-bind:gemini - Z.AI (GLM): `zai/glm-4.7` - MiniMax: `minimax/MiniMax-M2.7` -Запустити gateway smoke з tools + image: +Запуск gateway smoke з tools + image: `OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.4,openai-codex/gpt-5.4,anthropic/claude-opus-4-6,google/gemini-3.1-pro-preview,google/gemini-3-flash-preview,google-antigravity/claude-opus-4-6-thinking,google-antigravity/gemini-3-flash,zai/glm-4.7,minimax/MiniMax-M2.7" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts` -### Базовий рівень: tool calling (Read + необов’язковий Exec) +### Базовий рівень: виклик tools (Read + необов’язковий Exec) -Виберіть принаймні одну модель для кожного сімейства провайдерів: +Виберіть щонайменше одну модель для кожного сімейства провайдерів: - OpenAI: `openai/gpt-5.4` (або `openai/gpt-5.4-mini`) - Anthropic: `anthropic/claude-opus-4-6` (або `anthropic/claude-sonnet-4-6`) @@ -428,43 +448,43 @@ pnpm test:docker:live-acp-bind:gemini Необов’язкове додаткове покриття (бажано мати): - xAI: `xai/grok-4` (або найновіша доступна) -- Mistral: `mistral/`… (виберіть одну модель із підтримкою “tools”, яку у вас увімкнено) +- Mistral: `mistral/`… (виберіть одну модель із підтримкою `tools`, яку у вас ввімкнено) - Cerebras: `cerebras/`… (якщо у вас є доступ) -- LM Studio: `lmstudio/`… (локально; tool calling залежить від режиму API) +- LM Studio: `lmstudio/`… (локально; виклик tools залежить від режиму API) -### Vision: надсилання image (attachment → мультимодальне повідомлення) +### Vision: надсилання image (вкладення → мультимодальне повідомлення) -Включіть принаймні одну модель із підтримкою image в `OPENCLAW_LIVE_GATEWAY_MODELS` (Claude/Gemini/варіанти OpenAI з підтримкою vision тощо), щоб перевірити image probe. +Додайте принаймні одну модель із підтримкою image у `OPENCLAW_LIVE_GATEWAY_MODELS` (Claude/Gemini/OpenAI варіанти з підтримкою vision тощо), щоб перевірити image probe. ### Агрегатори / альтернативні gateway -Якщо у вас увімкнені ключі, ми також підтримуємо тестування через: +Якщо у вас увімкнено ключі, ми також підтримуємо тестування через: -- OpenRouter: `openrouter/...` (сотні моделей; використовуйте `openclaw models scan`, щоб знайти кандидатів із підтримкою tool+image) -- OpenCode: `opencode/...` для Zen і `opencode-go/...` для Go (auth через `OPENCODE_API_KEY` / `OPENCODE_ZEN_API_KEY`) +- OpenRouter: `openrouter/...` (сотні моделей; використовуйте `openclaw models scan`, щоб знайти кандидатів із підтримкою tools+image) +- OpenCode: `opencode/...` для Zen і `opencode-go/...` для Go (автентифікація через `OPENCODE_API_KEY` / `OPENCODE_ZEN_API_KEY`) -Більше провайдерів, які можна включити до live matrix (якщо у вас є облікові дані/config): +Інші провайдери, яких можна включити в live-матрицю (якщо у вас є облікові дані/конфігурація): - Вбудовані: `openai`, `openai-codex`, `anthropic`, `google`, `google-vertex`, `google-antigravity`, `google-gemini-cli`, `zai`, `openrouter`, `opencode`, `opencode-go`, `xai`, `groq`, `cerebras`, `mistral`, `github-copilot` -- Через `models.providers` (custom endpoints): `minimax` (cloud/API), а також будь-який сумісний із OpenAI/Anthropic proxy (LM Studio, vLLM, LiteLLM тощо) +- Через `models.providers` (кастомні кінцеві точки): `minimax` (хмара/API), а також будь-який проксі, сумісний з OpenAI/Anthropic (LM Studio, vLLM, LiteLLM тощо) -Порада: не намагайтеся жорстко закодувати в документації «усі моделі». Авторитетний список — це те, що `discoverModels(...)` повертає на вашій машині, плюс ті ключі, які доступні. +Порада: не намагайтеся жорстко зафіксувати в документації «всі моделі». Авторитетним списком є все, що `discoverModels(...)` повертає на вашій машині + усі доступні ключі. ## Облікові дані (ніколи не комітьте) -Live-тести знаходять облікові дані так само, як і CLI. Практичні наслідки: +Live-тести знаходять облікові дані так само, як це робить CLI. Практичні наслідки: -- Якщо CLI працює, live-тести мають знаходити ті самі ключі. -- Якщо live-тест повідомляє «немає облікових даних», налагоджуйте це так само, як ви б налагоджували `openclaw models list` / вибір моделі. +- Якщо CLI працює, live-тести мають знайти ті самі ключі. +- Якщо live-тест каже «немає облікових даних», налагоджуйте це так само, як налагоджували б `openclaw models list` / вибір моделі. -- Профілі auth для кожного агента: `~/.openclaw/agents//agent/auth-profiles.json` (це і є те, що live-тести мають на увазі під «profile keys») -- Config: `~/.openclaw/openclaw.json` (або `OPENCLAW_CONFIG_PATH`) -- Каталог застарілого стану: `~/.openclaw/credentials/` (копіюється до staged live home, якщо існує, але це не основне сховище profile keys) -- Локальні live-запуски за замовчуванням копіюють активну config, файли `auth-profiles.json` для кожного агента, застарілий `credentials/` і підтримувані зовнішні каталоги auth CLI до тимчасового test home; staged live home пропускає `workspace/` і `sandboxes/`, а перевизначення шляхів `agents.*.workspace` / `agentDir` видаляються, щоб probes не торкалися вашого реального workspace хоста. +- Профілі автентифікації для окремих агентів: `~/.openclaw/agents//agent/auth-profiles.json` (саме це означає «ключі профілів» у live-тестах) +- Конфігурація: `~/.openclaw/openclaw.json` (або `OPENCLAW_CONFIG_PATH`) +- Каталог legacy state: `~/.openclaw/credentials/` (копіюється в підготовлений live home, якщо присутній, але не є основним сховищем ключів профілів) +- Локальні live-запуски типово копіюють активну конфігурацію, файли `auth-profiles.json` для окремих агентів, legacy `credentials/` і підтримувані зовнішні каталоги автентифікації CLI у тимчасовий test home; підготовлені live home пропускають `workspace/` і `sandboxes/`, а перевизначення шляхів `agents.*.workspace` / `agentDir` видаляються, щоб probes не працювали у вашому реальному workspace хоста. -Якщо ви хочете покладатися на env keys (наприклад, експортовані у вашому `~/.profile`), запускайте локальні тести після `source ~/.profile` або використовуйте Docker-ранери нижче (вони можуть монтувати `~/.profile` у контейнер). +Якщо ви хочете покладатися на env-ключі (наприклад, експортовані у вашому `~/.profile`), запускайте локальні тести після `source ~/.profile` або використовуйте Docker-ранери нижче (вони можуть змонтувати `~/.profile` у контейнер). -## Deepgram live (транскрипція аудіо) +## Deepgram live (транскрибування аудіо) - Тест: `src/media-understanding/providers/deepgram/audio.live.test.ts` - Увімкнення: `DEEPGRAM_API_KEY=... DEEPGRAM_LIVE_TEST=1 pnpm test:live src/media-understanding/providers/deepgram/audio.live.test.ts` @@ -482,96 +502,96 @@ Live-тести знаходять облікові дані так само, я - Обсяг: - Перевіряє вбудовані шляхи comfy для image, video і `music_generate` - Пропускає кожну можливість, якщо `models.providers.comfy.` не налаштовано - - Корисно після змін у надсиланні workflow comfy, polling, завантаженнях або реєстрації plugin + - Корисно після змін у поданні workflow comfy, polling, завантаженнях або реєстрації plugin-а -## Image generation live +## Live генерації image - Тест: `src/image-generation/runtime.live.test.ts` - Команда: `pnpm test:live src/image-generation/runtime.live.test.ts` - Harness: `pnpm test:live:media image` - Обсяг: - - Перелічує кожен зареєстрований plugin провайдера image generation - - Завантажує відсутні env vars провайдера з вашої login shell (`~/.profile`) перед перевіркою - - Типово використовує API keys із live/env раніше, ніж збережені auth profiles, щоб застарілі test keys в `auth-profiles.json` не маскували реальні облікові дані shell - - Пропускає провайдерів без придатних auth/profile/model - - Проганяє стандартні варіанти image generation через спільну runtime capability: + - Перелічує кожен зареєстрований plugin провайдера генерації image + - Завантажує відсутні env-змінні провайдера з вашої оболонки входу (`~/.profile`) перед probing + - Типово використовує live/env API-ключі раніше, ніж збережені профілі автентифікації, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні облікові дані оболонки + - Пропускає провайдерів без придатної автентифікації/профілю/моделі + - Запускає стандартні варіанти генерації image через спільну runtime-можливість: - `google:flash-generate` - `google:pro-generate` - `google:pro-edit` - `openai:default-generate` -- Поточні вбудовані провайдери, що покриваються: +- Поточні вбудовані провайдери, що охоплюються: - `openai` - `google` - Необов’язкове звуження: - `OPENCLAW_LIVE_IMAGE_GENERATION_PROVIDERS="openai,google"` - `OPENCLAW_LIVE_IMAGE_GENERATION_MODELS="openai/gpt-image-1,google/gemini-3.1-flash-image-preview"` - `OPENCLAW_LIVE_IMAGE_GENERATION_CASES="google:flash-generate,google:pro-edit"` -- Необов’язкова поведінка auth: - - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth із profile store й ігнорувати перевизначення лише через env +- Необов’язкова поведінка автентифікації: + - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати автентифікацію зі сховища профілів та ігнорувати перевизначення лише через env -## Music generation live +## Live генерації музики - Тест: `extensions/music-generation-providers.live.test.ts` - Увімкнення: `OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/music-generation-providers.live.test.ts` - Harness: `pnpm test:live:media music` - Обсяг: - - Перевіряє спільний вбудований шлях провайдера music generation - - Наразі покриває Google і MiniMax - - Завантажує env vars провайдера з вашої login shell (`~/.profile`) перед перевіркою - - Типово використовує API keys із live/env раніше, ніж збережені auth profiles, щоб застарілі test keys в `auth-profiles.json` не маскували реальні облікові дані shell - - Пропускає провайдерів без придатних auth/profile/model - - Запускає обидва оголошені runtime modes, коли вони доступні: - - `generate` з input лише у вигляді prompt + - Перевіряє спільний вбудований шлях провайдера генерації музики + - Наразі охоплює Google і MiniMax + - Завантажує env-змінні провайдера з вашої оболонки входу (`~/.profile`) перед probing + - Типово використовує live/env API-ключі раніше, ніж збережені профілі автентифікації, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні облікові дані оболонки + - Пропускає провайдерів без придатної автентифікації/профілю/моделі + - Запускає обидва оголошені runtime-режими, коли вони доступні: + - `generate` із введенням лише prompt - `edit`, коли провайдер оголошує `capabilities.edit.enabled` - - Поточне покриття спільної доріжки: + - Поточне покриття спільної лінії: - `google`: `generate`, `edit` - `minimax`: `generate` - `comfy`: окремий live-файл Comfy, а не цей спільний sweep - Необов’язкове звуження: - `OPENCLAW_LIVE_MUSIC_GENERATION_PROVIDERS="google,minimax"` - `OPENCLAW_LIVE_MUSIC_GENERATION_MODELS="google/lyria-3-clip-preview,minimax/music-2.5+"` -- Необов’язкова поведінка auth: - - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth із profile store й ігнорувати перевизначення лише через env +- Необов’язкова поведінка автентифікації: + - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати автентифікацію зі сховища профілів та ігнорувати перевизначення лише через env -## Video generation live +## Live генерації відео - Тест: `extensions/video-generation-providers.live.test.ts` - Увімкнення: `OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/video-generation-providers.live.test.ts` - Harness: `pnpm test:live:media video` - Обсяг: - - Перевіряє спільний вбудований шлях провайдера video generation - - Завантажує env vars провайдера з вашої login shell (`~/.profile`) перед перевіркою - - Типово використовує API keys із live/env раніше, ніж збережені auth profiles, щоб застарілі test keys в `auth-profiles.json` не маскували реальні облікові дані shell - - Пропускає провайдерів без придатних auth/profile/model - - Запускає обидва оголошені runtime modes, коли вони доступні: - - `generate` з input лише у вигляді prompt - - `imageToVideo`, коли провайдер оголошує `capabilities.imageToVideo.enabled` і вибраний provider/model приймає локальний image input із буферною передачею в спільному sweep - - `videoToVideo`, коли провайдер оголошує `capabilities.videoToVideo.enabled` і вибраний provider/model приймає локальний video input із буферною передачею в спільному sweep + - Перевіряє спільний вбудований шлях провайдера генерації відео + - Завантажує env-змінні провайдера з вашої оболонки входу (`~/.profile`) перед probing + - Типово використовує live/env API-ключі раніше, ніж збережені профілі автентифікації, щоб застарілі тестові ключі в `auth-profiles.json` не маскували реальні облікові дані оболонки + - Пропускає провайдерів без придатної автентифікації/профілю/моделі + - Запускає обидва оголошені runtime-режими, коли вони доступні: + - `generate` із введенням лише prompt + - `imageToVideo`, коли провайдер оголошує `capabilities.imageToVideo.enabled` і вибраний провайдер/модель приймає локальний вхід image на основі buffer у спільному sweep + - `videoToVideo`, коли провайдер оголошує `capabilities.videoToVideo.enabled` і вибраний провайдер/модель приймає локальний вхід video на основі buffer у спільному sweep - Поточні оголошені, але пропущені провайдери `imageToVideo` у спільному sweep: - - `vydra`, тому що вбудований `veo3` підтримує лише text, а вбудований `kling` вимагає віддалений image URL - - Специфічне покриття Vydra: + - `vydra`, оскільки вбудований `veo3` підтримує лише текст, а вбудований `kling` вимагає віддалений URL image + - Покриття Vydra, специфічне для провайдера: - `OPENCLAW_LIVE_TEST=1 OPENCLAW_LIVE_VYDRA_VIDEO=1 pnpm test:live -- extensions/vydra/vydra.live.test.ts` - - цей файл запускає `veo3` text-to-video, а також доріжку `kling`, яка типово використовує fixture із віддаленим image URL + - цей файл запускає `veo3` text-to-video плюс лінію `kling`, яка типово використовує fixture із віддаленим URL image - Поточне live-покриття `videoToVideo`: - лише `runway`, коли вибрана модель — `runway/gen4_aleph` - Поточні оголошені, але пропущені провайдери `videoToVideo` у спільному sweep: - - `alibaba`, `qwen`, `xai`, тому що ці шляхи зараз вимагають віддалених reference URL `http(s)` / MP4 - - `google`, тому що поточна спільна доріжка Gemini/Veo використовує локальний input із буферною передачею, а цей шлях не приймається у спільному sweep - - `openai`, тому що поточна спільна доріжка не гарантує доступу до video inpaint/remix, специфічного для організації + - `alibaba`, `qwen`, `xai`, оскільки ці шляхи наразі вимагають віддалені URL-посилання `http(s)` / reference MP4 + - `google`, оскільки поточна спільна лінія Gemini/Veo використовує локальний вхід на основі buffer, а цей шлях не приймається у спільному sweep + - `openai`, оскільки поточна спільна лінія не гарантує доступу до org-specific video inpaint/remix - Необов’язкове звуження: - `OPENCLAW_LIVE_VIDEO_GENERATION_PROVIDERS="google,openai,runway"` - `OPENCLAW_LIVE_VIDEO_GENERATION_MODELS="google/veo-3.1-fast-generate-preview,openai/sora-2,runway/gen4_aleph"` -- Необов’язкова поведінка auth: - - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати auth із profile store й ігнорувати перевизначення лише через env +- Необов’язкова поведінка автентифікації: + - `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб примусово використовувати автентифікацію зі сховища профілів та ігнорувати перевизначення лише через env ## Media live harness - Команда: `pnpm test:live:media` - Призначення: - - Запускає спільні live-набори image, music і video через один нативний entrypoint репозиторію - - Автоматично завантажує відсутні env vars провайдера з `~/.profile` - - Типово автоматично звужує кожен набір до провайдерів, які зараз мають придатну auth - - Повторно використовує `scripts/test-live.mjs`, тому поведінка heartbeat і quiet mode залишається узгодженою + - Запускає спільні live-набори image, music і video через один стандартний entrypoint репозиторію + - Автоматично завантажує відсутні env-змінні провайдера з `~/.profile` + - Типово автоматично звужує кожен набір до провайдерів, які наразі мають придатну автентифікацію + - Повторно використовує `scripts/test-live.mjs`, тому поведінка heartbeat і quiet-mode залишається узгодженою - Приклади: - `pnpm test:live:media` - `pnpm test:live:media image video --providers openai,google,minimax` @@ -582,120 +602,120 @@ Live-тести знаходять облікові дані так само, я Ці Docker-ранери поділяються на дві групи: -- Ранери live-моделей: `test:docker:live-models` і `test:docker:live-gateway` запускають лише відповідний live-файл profile keys усередині Docker-образу репозиторію (`src/agents/models.profiles.live.test.ts` і `src/gateway/gateway-models.profiles.live.test.ts`), монтуючи ваш локальний каталог config і workspace (і використовуючи `~/.profile`, якщо він змонтований). Відповідні локальні entrypoint — `test:live:models-profiles` і `test:live:gateway-profiles`. -- Docker-ранери live за замовчуванням використовують менший smoke cap, щоб повний Docker sweep залишався практичним: - `test:docker:live-models` типово встановлює `OPENCLAW_LIVE_MAX_MODELS=12`, а - `test:docker:live-gateway` типово встановлює `OPENCLAW_LIVE_GATEWAY_SMOKE=1`, +- Docker-ранери live-моделей: `test:docker:live-models` і `test:docker:live-gateway` запускають лише свій відповідний profile-key live-файл усередині Docker-образу репозиторію (`src/agents/models.profiles.live.test.ts` і `src/gateway/gateway-models.profiles.live.test.ts`), монтують ваш локальний каталог конфігурації та workspace (і використовують `~/.profile`, якщо його змонтовано). Відповідні локальні entrypoint-и: `test:live:models-profiles` і `test:live:gateway-profiles`. +- Docker-ранери live типово використовують меншу межу smoke, щоб повний Docker sweep залишався практичним: + `test:docker:live-models` типово використовує `OPENCLAW_LIVE_MAX_MODELS=12`, а + `test:docker:live-gateway` типово використовує `OPENCLAW_LIVE_GATEWAY_SMOKE=1`, `OPENCLAW_LIVE_GATEWAY_MAX_MODELS=8`, `OPENCLAW_LIVE_GATEWAY_STEP_TIMEOUT_MS=45000` і - `OPENCLAW_LIVE_GATEWAY_MODEL_TIMEOUT_MS=90000`. Перевизначайте ці env vars, коли + `OPENCLAW_LIVE_GATEWAY_MODEL_TIMEOUT_MS=90000`. Перевизначайте ці env-змінні, коли ви явно хочете більший вичерпний scan. -- `test:docker:all` один раз збирає live Docker image через `test:docker:live-build`, а потім повторно використовує його для двох live Docker lanes. -- Ранери smoke контейнерів: `test:docker:openwebui`, `test:docker:onboard`, `test:docker:gateway-network`, `test:docker:mcp-channels` і `test:docker:plugins` піднімають один або кілька реальних контейнерів і перевіряють інтеграційні шляхи вищого рівня. +- `test:docker:all` один раз збирає live Docker-образ через `test:docker:live-build`, а потім повторно використовує його для двох Docker-ліній live. +- Контейнерні smoke-ранери: `test:docker:openwebui`, `test:docker:onboard`, `test:docker:gateway-network`, `test:docker:mcp-channels` і `test:docker:plugins` запускають один або більше реальних контейнерів і перевіряють інтеграційні шляхи вищого рівня. -Docker-ранери live-моделей також bind-монтують лише потрібні home-каталоги auth CLI (або всі підтримувані, якщо запуск не звужено), а потім копіюють їх у home контейнера перед запуском, щоб зовнішній OAuth CLI міг оновлювати токени, не змінюючи сховище auth на хості: +Docker-ранери live-моделей також bind-mount лише потрібні homes автентифікації CLI (або всі підтримувані, коли запуск не звужено), а потім копіюють їх у home контейнера перед запуском, щоб OAuth зовнішнього CLI міг оновлювати токени без зміни сховища автентифікації хоста: -- Direct models: `pnpm test:docker:live-models` (скрипт: `scripts/test-live-models-docker.sh`) -- Smoke ACP bind: `pnpm test:docker:live-acp-bind` (скрипт: `scripts/test-live-acp-bind-docker.sh`) -- Smoke CLI backend: `pnpm test:docker:live-cli-backend` (скрипт: `scripts/test-live-cli-backend-docker.sh`) +- Прямі моделі: `pnpm test:docker:live-models` (скрипт: `scripts/test-live-models-docker.sh`) +- ACP bind smoke: `pnpm test:docker:live-acp-bind` (скрипт: `scripts/test-live-acp-bind-docker.sh`) +- CLI backend smoke: `pnpm test:docker:live-cli-backend` (скрипт: `scripts/test-live-cli-backend-docker.sh`) - Gateway + dev agent: `pnpm test:docker:live-gateway` (скрипт: `scripts/test-live-gateway-models-docker.sh`) -- Live smoke Open WebUI: `pnpm test:docker:openwebui` (скрипт: `scripts/e2e/openwebui-docker.sh`) -- Майстер onboarding (TTY, повне scaffold-створення): `pnpm test:docker:onboard` (скрипт: `scripts/e2e/onboard-docker.sh`) -- Мережеві перевірки gateway (два контейнери, WS auth + health): `pnpm test:docker:gateway-network` (скрипт: `scripts/e2e/gateway-network-docker.sh`) -- Міст MCP channel (попередньо заповнений Gateway + міст stdio + raw smoke notification-frame Claude): `pnpm test:docker:mcp-channels` (скрипт: `scripts/e2e/mcp-channels-docker.sh`) -- Plugins (install smoke + псевдонім `/plugin` + семантика restart Claude-bundle): `pnpm test:docker:plugins` (скрипт: `scripts/e2e/plugins-docker.sh`) +- Open WebUI live smoke: `pnpm test:docker:openwebui` (скрипт: `scripts/e2e/openwebui-docker.sh`) +- Майстер onboarding (TTY, повне scaffolding): `pnpm test:docker:onboard` (скрипт: `scripts/e2e/onboard-docker.sh`) +- Мережа gateway (два контейнери, WS auth + health): `pnpm test:docker:gateway-network` (скрипт: `scripts/e2e/gateway-network-docker.sh`) +- MCP channel bridge (ініціалізований Gateway + stdio bridge + raw Claude notification-frame smoke): `pnpm test:docker:mcp-channels` (скрипт: `scripts/e2e/mcp-channels-docker.sh`) +- Plugins (install smoke + псевдонім `/plugin` + семантика перезапуску Claude-bundle): `pnpm test:docker:plugins` (скрипт: `scripts/e2e/plugins-docker.sh`) -Docker-ранери live-моделей також bind-монтують поточну checkout-копію лише для читання і -переносять її до тимчасового workdir усередині контейнера. Це зберігає runtime -image компактним, але все одно дає змогу запускати Vitest точно проти вашої локальної source/config. -Етап staging пропускає великі локальні кеші та результати збірки app, як-от -`.pnpm-store`, `.worktrees`, `__openclaw_vitest__` і локальні для app каталоги `.build` або -результати Gradle, щоб Docker live-запуски не витрачали хвилини на копіювання +Docker-ранери live-моделей також bind-mount поточний checkout лише для читання й +підготовлюють його в тимчасовий workdir усередині контейнера. Це зберігає runtime-образ +компактним, але водночас запускає Vitest точно на ваших локальних source/config. +Крок підготовки пропускає великі лише локальні кеші та результати збірки застосунків, як-от +`.pnpm-store`, `.worktrees`, `__openclaw_vitest__` і локальні для застосунку каталоги `.build` або +вивід Gradle, щоб live-запуски Docker не витрачали хвилини на копіювання артефактів, специфічних для машини. Вони також установлюють `OPENCLAW_SKIP_CHANNELS=1`, щоб live-probes gateway не запускали -реальні workers каналів Telegram/Discord тощо всередині контейнера. -`test:docker:live-models` як і раніше запускає `pnpm test:live`, тому також передавайте -`OPENCLAW_LIVE_GATEWAY_*`, коли потрібно звузити або виключити покриття gateway -live з цієї Docker-ланки. -`test:docker:openwebui` — це smoke-перевірка сумісності вищого рівня: вона запускає -контейнер gateway OpenClaw з увімкненими OpenAI-сумісними HTTP endpoint, -запускає контейнер Open WebUI із зафіксованою версією проти цього gateway, виконує вхід через +реальні воркери каналів Telegram/Discord тощо всередині контейнера. +`test:docker:live-models` усе одно запускає `pnpm test:live`, тож також передавайте +`OPENCLAW_LIVE_GATEWAY_*`, коли потрібно звузити або виключити gateway +live-покриття з цієї Docker-лінії. +`test:docker:openwebui` — це smoke-тест сумісності вищого рівня: він запускає +контейнер gateway OpenClaw з увімкненими HTTP endpoint-ами, сумісними з OpenAI, +запускає pinned контейнер Open WebUI проти цього gateway, виконує вхід через Open WebUI, перевіряє, що `/api/models` показує `openclaw/default`, а потім надсилає -реальний chat request через proxy Open WebUI `/api/chat/completions`. -Перший запуск може бути помітно повільнішим, оскільки Docker може знадобитися завантажити -image Open WebUI, а самому Open WebUI — завершити власний cold-start setup. -Ця ланка очікує наявний ключ live-моделі, а `OPENCLAW_PROFILE_FILE` -(`~/.profile` за замовчуванням) — основний спосіб надати його в Dockerized-запусках. -Успішні запуски виводять невеликий JSON-payload на кшталт `{ "ok": true, "model": +реальний chat-запит через проксі `/api/chat/completions` Open WebUI. +Перший запуск може бути помітно повільнішим, оскільки Docker може знадобитися витягнути +образ Open WebUI, а Open WebUI може знадобитися завершити власне cold-start налаштування. +Ця лінія очікує придатний ключ live-моделі, а `OPENCLAW_PROFILE_FILE` +(типово `~/.profile`) є основним способом надати його в Docker-запусках. +Успішні запуски виводять невеликий JSON payload на кшталт `{ "ok": true, "model": "openclaw/default", ... }`. -`test:docker:mcp-channels` навмисно є детермінованим і не потребує -реального облікового запису Telegram, Discord або iMessage. Він запускає попередньо заповнений контейнер Gateway, -стартує другий контейнер, який запускає `openclaw mcp serve`, а потім -перевіряє виявлення conversation із маршрутизацією, читання transcript, metadata attachment, -поведінку черги live events, outbound send routing і сповіщення про channel + -permissions у стилі Claude через реальний міст stdio MCP. Перевірка notification -напряму інспектує raw stdio MCP frames, тому smoke перевіряє те, що міст -справді випромінює, а не лише те, що випадково показує конкретний client SDK. +`test:docker:mcp-channels` навмисно детермінований і не потребує +реального облікового запису Telegram, Discord або iMessage. Він запускає +контейнер Gateway з попередньою ініціалізацією, запускає другий контейнер, який піднімає `openclaw mcp serve`, а потім +перевіряє виявлення маршрутизованих розмов, читання transcript, метадані вкладень, +поведінку черги live-подій, маршрутизацію вихідного надсилання та сповіщення каналу + +дозволів у стилі Claude через реальний stdio MCP bridge. Перевірка сповіщень +напряму перевіряє raw stdio MCP frames, тож smoke-тест перевіряє те, що bridge +справді випромінює, а не лише те, що випадково показує конкретний SDK клієнта. -Ручний smoke plain-language thread ACP (не CI): +Ручний smoke plain-language thread для ACP (не CI): - `bun scripts/dev/discord-acp-plain-language-smoke.ts --channel ...` -- Зберігайте цей скрипт для сценаріїв регресії/налагодження. Він може знову знадобитися для перевірки маршрутизації ACP thread, тому не видаляйте його. +- Зберігайте цей скрипт для робочих процесів регресії/налагодження. Він може знову знадобитися для перевірки маршрутизації ACP thread, тож не видаляйте його. -Корисні env vars: +Корисні env-змінні: -- `OPENCLAW_CONFIG_DIR=...` (за замовчуванням: `~/.openclaw`) монтується в `/home/node/.openclaw` -- `OPENCLAW_WORKSPACE_DIR=...` (за замовчуванням: `~/.openclaw/workspace`) монтується в `/home/node/.openclaw/workspace` -- `OPENCLAW_PROFILE_FILE=...` (за замовчуванням: `~/.profile`) монтується в `/home/node/.profile` і використовується через `source` перед запуском тестів -- `OPENCLAW_DOCKER_CLI_TOOLS_DIR=...` (за замовчуванням: `~/.cache/openclaw/docker-cli-tools`) монтується в `/home/node/.npm-global` для кешованих установок CLI усередині Docker -- Зовнішні каталоги/файли auth CLI під `$HOME` монтуються лише для читання під `/host-auth...`, а потім копіюються в `/home/node/...` перед початком тестів +- `OPENCLAW_CONFIG_DIR=...` (типово: `~/.openclaw`) монтується в `/home/node/.openclaw` +- `OPENCLAW_WORKSPACE_DIR=...` (типово: `~/.openclaw/workspace`) монтується в `/home/node/.openclaw/workspace` +- `OPENCLAW_PROFILE_FILE=...` (типово: `~/.profile`) монтується в `/home/node/.profile` і використовується перед запуском тестів +- `OPENCLAW_DOCKER_CLI_TOOLS_DIR=...` (типово: `~/.cache/openclaw/docker-cli-tools`) монтується в `/home/node/.npm-global` для кешованих встановлень CLI усередині Docker +- Зовнішні каталоги/файли автентифікації CLI в `$HOME` монтуються лише для читання в `/host-auth...`, а потім копіюються в `/home/node/...` перед початком тестів - Типові каталоги: `.minimax` - Типові файли: `~/.codex/auth.json`, `~/.codex/config.toml`, `.claude.json`, `~/.claude/.credentials.json`, `~/.claude/settings.json`, `~/.claude/settings.local.json` - - Звужені запуски провайдерів монтують лише потрібні каталоги/файли, визначені з `OPENCLAW_LIVE_PROVIDERS` / `OPENCLAW_LIVE_GATEWAY_PROVIDERS` - - Перевизначайте вручну через `OPENCLAW_DOCKER_AUTH_DIRS=all`, `OPENCLAW_DOCKER_AUTH_DIRS=none` або список через кому, наприклад `OPENCLAW_DOCKER_AUTH_DIRS=.claude,.codex` + - Звужені запуски провайдерів монтують лише потрібні каталоги/файли, виведені з `OPENCLAW_LIVE_PROVIDERS` / `OPENCLAW_LIVE_GATEWAY_PROVIDERS` + - Ручне перевизначення: `OPENCLAW_DOCKER_AUTH_DIRS=all`, `OPENCLAW_DOCKER_AUTH_DIRS=none` або список через кому, як-от `OPENCLAW_DOCKER_AUTH_DIRS=.claude,.codex` - `OPENCLAW_LIVE_GATEWAY_MODELS=...` / `OPENCLAW_LIVE_MODELS=...` для звуження запуску - `OPENCLAW_LIVE_GATEWAY_PROVIDERS=...` / `OPENCLAW_LIVE_PROVIDERS=...` для фільтрації провайдерів усередині контейнера -- `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб гарантувати, що облікові дані беруться з profile store (а не з env) -- `OPENCLAW_OPENWEBUI_MODEL=...` для вибору моделі, яку gateway відкриває для smoke Open WebUI -- `OPENCLAW_OPENWEBUI_PROMPT=...` для перевизначення prompt перевірки nonce, який використовується в smoke Open WebUI -- `OPENWEBUI_IMAGE=...` для перевизначення pinned image tag Open WebUI +- `OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1`, щоб гарантувати, що облікові дані беруться зі сховища профілів (а не з env) +- `OPENCLAW_OPENWEBUI_MODEL=...`, щоб вибрати модель, яку gateway показує для smoke Open WebUI +- `OPENCLAW_OPENWEBUI_PROMPT=...`, щоб перевизначити prompt перевірки nonce, який використовує smoke Open WebUI +- `OPENWEBUI_IMAGE=...`, щоб перевизначити pinned тег образу Open WebUI ## Перевірка документації -Після редагування документації запускайте перевірки docs: `pnpm check:docs`. -Запускайте повну перевірку anchor у Mintlify, коли вам також потрібні перевірки заголовків у межах сторінки: `pnpm docs:check-links:anchors`. +Після редагування документації запускайте перевірки документації: `pnpm check:docs`. +Коли вам також потрібна повна перевірка anchor у Mintlify для заголовків на сторінці, запускайте: `pnpm docs:check-links:anchors`. -## Офлайн-регресія (безпечно для CI) +## Офлайнова регресія (безпечна для CI) -Це регресії «реального pipeline» без реальних провайдерів: +Це регресії «реального конвеєра» без реальних провайдерів: -- Tool calling gateway (mock OpenAI, реальний цикл gateway + agent): `src/gateway/gateway.test.ts` (випадок: "runs a mock OpenAI tool call end-to-end via gateway agent loop") -- Майстер gateway (WS `wizard.start`/`wizard.next`, запис config + примусова auth): `src/gateway/gateway.test.ts` (випадок: "runs wizard over ws and writes auth token config") +- Виклик tools у gateway (mock OpenAI, реальний цикл gateway + agent): `src/gateway/gateway.test.ts` (випадок: "runs a mock OpenAI tool call end-to-end via gateway agent loop") +- Майстер gateway (WS `wizard.start`/`wizard.next`, із примусовим записом config + auth): `src/gateway/gateway.test.ts` (випадок: "runs wizard over ws and writes auth token config") ## Оцінювання надійності агента (Skills) У нас уже є кілька безпечних для CI тестів, які поводяться як «оцінювання надійності агента»: -- Mock tool-calling через реальний цикл gateway + agent (`src/gateway/gateway.test.ts`). -- Наскрізні потоки майстра, які перевіряють wiring session та ефекти config (`src/gateway/gateway.test.ts`). +- Mock виклику tools через реальний цикл gateway + agent (`src/gateway/gateway.test.ts`). +- Наскрізні потоки майстра, що перевіряють wiring сеансу та ефекти конфігурації (`src/gateway/gateway.test.ts`). -Чого ще бракує для Skills (див. [Skills](/uk/tools/skills)): +Що ще бракує для Skills (див. [Skills](/uk/tools/skills)): -- **Прийняття рішень:** коли Skills перелічені в prompt, чи вибирає агент правильний Skill (або уникає нерелевантних)? -- **Відповідність вимогам:** чи читає агент `SKILL.md` перед використанням і чи дотримується обов’язкових кроків/args? -- **Контракти workflow:** багатокрокові сценарії, які перевіряють порядок tools, перенесення history session і межі sandbox. +- **Прийняття рішень:** коли Skills перелічено в prompt, чи вибирає агент правильний skill (або уникає нерелевантних)? +- **Дотримання вимог:** чи читає агент `SKILL.md` перед використанням і чи виконує потрібні кроки/аргументи? +- **Контракти робочого процесу:** багатокрокові сценарії, які перевіряють порядок tools, перенесення історії сеансу й межі sandbox. -Майбутні evals спочатку мають залишатися детермінованими: +Майбутні оцінювання мають насамперед залишатися детермінованими: -- Раннер сценаріїв із mock-провайдерами для перевірки викликів tools + їх порядку, читання skill-файлів і wiring session. -- Невеликий набір сценаріїв, сфокусованих на skills (використати чи уникати, gating, prompt injection). -- Необов’язкові live evals (opt-in, з обмеженням через env) — лише після того, як буде готовий безпечний для CI набір. +- Runner сценаріїв із mock-провайдерами для перевірки викликів tools + їх порядку, читання skill-файлів і wiring сеансу. +- Невеликий набір сценаріїв, зосереджених на skills (використовувати чи уникати, gating, prompt injection). +- Необов’язкові live-evals (opt-in, із керуванням через env) лише після того, як буде готовий безпечний для CI набір. ## Контрактні тести (форма plugin і channel) -Контрактні тести перевіряють, що кожен зареєстрований plugin і channel відповідає -своєму interface contract. Вони ітеруються по всіх виявлених plugins і запускають набір -перевірок форми та поведінки. Типова unit-ланка `pnpm test` навмисно +Контрактні тести перевіряють, що кожен зареєстрований plugin і channel відповідає своєму +інтерфейсному контракту. Вони перебирають усі виявлені plugins і запускають набір +перевірок форми та поведінки. Типова unit-лінія `pnpm test` навмисно пропускає ці спільні seam- і smoke-файли; запускайте контрактні команди явно, коли торкаєтеся спільних поверхонь channel або provider. @@ -709,53 +729,53 @@ permissions у стилі Claude через реальний міст stdio MCP. Розташовані в `src/channels/plugins/contracts/*.contract.test.ts`: -- **plugin** - Базова форма plugin (id, name, capabilities) -- **setup** - Контракт майстра setup -- **session-binding** - Поведінка прив’язки session -- **outbound-payload** - Структура payload повідомлення +- **plugin** - Базова форма plugin-а (id, name, capabilities) +- **setup** - Контракт майстра налаштування +- **session-binding** - Поведінка прив’язування сеансу +- **outbound-payload** - Структура payload вихідного повідомлення - **inbound** - Обробка вхідних повідомлень -- **actions** - Обробники дій channel +- **actions** - Обробники дій каналу - **threading** - Обробка ID thread -- **directory** - API каталогу/реєстру -- **group-policy** - Примусове застосування group policy +- **directory** - API каталогу/списку учасників +- **group-policy** - Застосування групової політики ### Контракти статусу provider Розташовані в `src/plugins/contracts/*.contract.test.ts`. - **status** - Перевірки статусу channel -- **registry** - Форма реєстру plugin +- **registry** - Форма реєстру plugin-ів ### Контракти provider Розташовані в `src/plugins/contracts/*.contract.test.ts`: -- **auth** - Контракт потоку auth -- **auth-choice** - Вибір/відбір auth +- **auth** - Контракт потоку автентифікації +- **auth-choice** - Вибір/підбір автентифікації - **catalog** - API каталогу моделей -- **discovery** - Виявлення plugin -- **loader** - Завантаження plugin -- **runtime** - Runtime provider -- **shape** - Форма/interface plugin -- **wizard** - Майстер setup +- **discovery** - Виявлення plugin-ів +- **loader** - Завантаження plugin-ів +- **runtime** - Runtime provider-а +- **shape** - Форма/інтерфейс plugin-а +- **wizard** - Майстер налаштування ### Коли запускати -- Після зміни експортів або subpaths `plugin-sdk` -- Після додавання або зміни plugin channel чи provider -- Після рефакторингу реєстрації plugin або discovery +- Після змін у `plugin-sdk` exports або subpaths +- Після додавання чи зміни channel або provider plugin-а +- Після рефакторингу реєстрації plugin-ів або їх виявлення -Контрактні тести запускаються в CI і не потребують реальних API keys. +Контрактні тести запускаються в CI й не потребують реальних API-ключів. ## Додавання регресій (рекомендації) Коли ви виправляєте проблему provider/model, виявлену в live: -- Якщо можливо, додайте безпечну для CI регресію (mock/stub provider або захопіть точну трансформацію форми request) -- Якщо проблема за своєю природою лише live (rate limits, політики auth), зберігайте live-тест вузьким і opt-in через env vars -- Віддавайте перевагу найменшому рівню, який виявляє помилку: - - помилка перетворення/повторного програвання request у provider → direct models test - - помилка pipeline session/history/tool у gateway → live smoke gateway або безпечний для CI mock-тест gateway -- Захисне правило обходу SecretRef: - - `src/secrets/exec-secret-ref-id-parity.test.ts` виводить одну вибіркову ціль для кожного класу SecretRef з metadata реєстру (`listSecretTargetRegistryEntries()`), а потім перевіряє, що exec id сегментів обходу відхиляються. +- За можливості додайте безпечну для CI регресію (mock/stub provider-а або захоплення точної форми трансформації запиту) +- Якщо проблема за своєю природою лише live (rate limits, політики автентифікації), залишайте live-тест вузьким і opt-in через env-змінні +- Намагайтеся націлюватися на найменший шар, який виявляє баг: + - баг перетворення/повторного програвання запиту provider-а → тест прямих моделей + - баг конвеєра сеансу/історії/tool gateway → gateway live smoke або безпечний для CI mock-тест gateway +- Захисне обмеження обходу SecretRef: + - `src/secrets/exec-secret-ref-id-parity.test.ts` виводить одну вибіркову ціль для кожного класу SecretRef з метаданих реєстру (`listSecretTargetRegistryEntries()`), а потім перевіряє, що exec id сегментів обходу відхиляються. - Якщо ви додаєте нове сімейство цілей SecretRef `includeInPlan` у `src/secrets/target-registry-data.ts`, оновіть `classifyTargetClass` у цьому тесті. Тест навмисно падає на некласифікованих target id, щоб нові класи не можна було тихо пропустити.