Адміністрування

Моделі ШІ

Запускайте свій робочий простір на керованих моделях Polylane, власному ключі OpenAI, Anthropic чи Gemini або власному OpenAI-сумісному ендпоінті.

Кожний робочий простір має одну конфігурацію моделей ШІ, і вона застосовується до кожного агента в робочому просторі: тредів, запусків виправлення, автовиправлень і фонової роботи. Задайте її в розділі AI Models сторінки Settings > Workspace у консолі.

Провайдери

ПровайдерОписПлан
Polylane PureЗа замовчуванням. Polylane керує інференсом за вас, без ключа і без конфігурації.Кожний план
OpenAIСімейство моделей OpenAI з можливістю використати власний ключ.Enterprise
AnthropicСімейство моделей Anthropic з можливістю використати власний ключ.Enterprise
Google GeminiСімейство моделей Google з можливістю використати власний ключ.Enterprise
Custom (OpenAI-compatible)Ваш власний ендпоінт і власні моделі, по одній на рівень.Enterprise

Власний ключ

На плані Enterprise виберіть OpenAI, Anthropic або Google Gemini, увімкніть Bring Your Own Key і вставте ключ API з облікового запису вашого провайдера. Виклики моделей тоді виконуються через цей обліковий запис за вашою власною угодою з провайдером, а ключ зберігається зашифрованим. Доступ до найновіших моделей зазвичай вимагає платного плану на боці провайдера, тому ключ безкоштовного рівня може не працювати або бути обмеженим старішими моделями.

Скористайтеся Test connection перед збереженням: він виконує тестову генерацію тим самим шляхом, яким ідуть реальні запити, включно з вашим шлюзом, якщо його задано. Повернення до Polylane Pure зі збереженням видаляє збережений ключ і шлюз.

На плані Enterprise Custom Gateway спрямовує кожний запит на інференс через ваш власний OpenAI-сумісний шлюз замість ендпоінта провайдера за замовчуванням. Поле розблоковується, щойно ви надасте ключ API.

Власний ендпоінт

На плані Enterprise провайдер Custom (OpenAI-compatible) запускає агентів на моделях, яких Polylane не пропонує, наприклад на самостійно розміщеному або приватному розгортанні. Використання вашого ендпоінта оплачується вашому провайдеру і не враховується у вашому плані Polylane.

ПолеОпис
Base URLКорінь вашого OpenAI-сумісного API інференсу.
Models URLНеобов'язково. Окремий ендпоінт, який перелічує доступні моделі. Залиште порожнім, щоб використати шлях моделей під базовим URL.
Auth header nameЗаголовок, яким автентифікується ваш ендпоінт. За замовчуванням Authorization; використовуйте x-api-key, якщо ваш ендпоінт цього вимагає.
Auth header valueНадсилається дослівно як значення цього заголовка, тому включіть будь-який префікс, якого очікує ваш ендпоінт. Зберігається зашифрованим.

Рівні моделей

Polylane спрямовує кожне внутрішнє завдання на певний рівень. Натисніть Load models, щоб отримати список моделей з вашого ендпоінта, а потім призначте модель для кожного рівня.

РівеньОпис
PremiumГлибокі міркування: розслідування, автовиправлення, плани дій.
StandardБільшість роботи агентів: тріаж, перегляди.
CheapЛегкі завдання великого обсягу: заголовки, підсумки, класифікація.
CodeДослідження репозиторіїв та інфраструктури.
EmbeddingsІндексація для векторного пошуку.
RerankerПереранжування результатів пошуку.

Premium, Standard і Cheap підміняють один одного, а Code підміняється ними, тому, задавши лише Standard, ви запускаєте всю роботу агентів на одній моделі. Жодний рівень не підміняється Code, тому одного лише Code недостатньо для збереження. Embeddings за відсутності налаштування підміняється керованими ембедингами Polylane, а переранжування пропускається, коли reranker не задано.

Завершіть через Test connection, який виконує тестову генерацію на вашому найдешевшому налаштованому рівні.

Пов'язане