Настройка AI-ассистента

Вы можете использовать один из трех вариантов:

  • Инференс-сервер Tantor — данные обрабатываются в облаке Tantor;

  • Локальный инференс-сервер — данные обрабатываются на оборудовании, которое физически находится в вашей инфраструктуре;

  • Облачный инференс-сервер — данные обрабатываются на выбранном вами сервере.

Для настройки требуются следующие данные:

  • LLM сервер — URL, предоставляемый локальным или облачным LLM-сервером;

  • Ключ API;

  • Модель — название используемой модели.

Данные можно указать в файле platform.env (или в другом env-файле, который вы используете) или на странице настройки ассистента.

Чтобы открыть страницу настройки AI-ассистента в левой панели выберите «Настройки системы» → «AI-ассистент».

Если в env-файле не были заданы настройки, откроется страница с вариантами подключения.

Настройка AI-ассистента

Для добавления данных нажмите на кнопку «Настроить» и в открывшемся окне введите адрес LLM сервера, ключ API и модель.

  • Инференс-сервер Tantor:

Важно

Для работы с инференс-сервером Tantor должен быть открыт доступ к https://llm.tantorlabs.ru/ (84.201.174.31:443).

  • Локальный инференс-сервер. Укажите данные вашего локального сервера. Инструкция по настройке LLM-серверов на примере Ollama и vLLM находится на странице Установка и настройка LLM-серверов.

  • Облачный инференс-сервер. Укажите данные сервера выбранного вами сервиса.

    Важно

    Можно подключить только сервис с поддержкой OpenAI API.

    • Пример для OpenAI:

      В открывшемся окне задайте имя ключа, выберите проект и разрешения и нажмите на кнопку «Create secret key».

      Скопируйте созданный ключ.

      • Модель — перейдите на страницу «Models». Для моделей GPT-5.5, GPT-5.4, GPT-5.4-mini скопируйте идентификатор в поле «Model ID».

      Для других моделей откройте страницу модели и скопируйте идентификатор рядом с именем.

    • Пример для OpenRouter:

      В открывшемся окне укажите требуемые данные и нажмите на кнопку «Create»:

      • имя ключа;

      • кредитный лимит, при достижении или превышении которого ключ будет деактивирован;

      • период сброса лимита: ежедневно, еженедельно или ежемесячно;

      • срок действия.

      Скопируйте созданный ключ API.

      • Модель — перейдите на главную страницу сервиса и нажмите на кнопку «Explore models». Выберите нужную модель в списке и перейдите на ее страницу. На открывшейся странице скопируйте имя модели.

После настройки информация о сервере появится на странице.

Сброс и редактирование настроек

Вы можете сбросить настройки — в этом случае будут указаны настройки из env-файла. Для этого нажмите на кнопку «Сброс настроек». В открывшемся окне введите «сбросить» в текстовом поле и нажмите на «Сбросить».

Чтобы изменить настройки, нажмите на кнопку «Редактировать», укажите новые данные и нажмите «Сохранить».