Перейти к содержанию

AI-чат-бот Lite

В этой статье

Информация

AI-чат-бот Lite представляет собой сервис, предоставляющий доступ к ИИ-ассистенту, размещенному на общем GPU-сервере компании HOSTKEY. Данное решение разработано для оптимизации затрат на вычислительные ресурсы при использовании технологий искусственного интеллекта, что позволяет снизить стоимость доступа для конечных пользователей.

Функциональные возможности AI-чат-бот Lite включают:

  • автоматизацию клиентского обслуживания;
  • обработку и анализ текстовых данных;
  • генерацию контента на основе заданных параметров;
  • поддержку различных сценариев использования в бизнес-процессах.

Это позволяет применять систему в таких областях, как:

  • автоматизация обработки запросов клиентов;
  • генерация отчетов;
  • анализ данных;
  • создание контент-планов;
  • помощь в принятии решений на основе анализа информации.

Внимание

Производительность системы может варьироваться в зависимости от загрузки общего сервера. Кроме того, отсутствует возможность тонкой настройки аппаратных ресурсов под конкретные задачи и работа в RAG.

Доступ к AI-чат-бот Lite

Для доступа к услуге AI-чат-бот Lite необходимо:

  1. Перейти на страницу заказа услуги

  2. Заполнить форму заказа на сайте с указанием контактных данных.

  3. Получить письмо с информацией о регистрации в панели управления серверами и APIInvapi, содержащее ссылку и инструкции.

  4. Перейти по полученной ссылке и зарегистрироваться в системе в панели управления серверами и APIInvapi.

  5. Дождаться проверки данных специалистом по соответствию требованиям.

  6. После подтверждения данных оплатить выставленный счет.

  7. Получить письмо со ссылкой на личный кабинет AI-чат-бот Lite.

  8. Перейти по предоставленной ссылке. Формат ссылки может варьироваться в зависимости от тарифа. Пример формата для тарифа AI Chatbot Lite: https://ollama<server_id_from_invapi>.hostkey.in:

  9. На странице входа нажать кнопку Зарегистрировать и создать новый аккаунт:

    Можно использовать любую удобную для доступа электронную почту (не обязательно ту же, что использовалась для регистрации в Invapi). Необходимо заполнить поля регистрационной формы и подтвердить регистрацию:

Внимание

Важно: первый зарегистрированный аккаунт автоматически получает права администратора.

После успешной регистрации произойдет автоматический вход в интерфейс OpenWebUI с правами администратора.

Информация

В случае отсутствия писем или возникновения трудностей на любом этапе следует обратиться в службу технической поддержки.

Использование AI-чат-бот Lite

На стартовом экране представлен интерфейс чата, а также приведены несколько примеров входных запросов (промтов) для демонстрации возможностей системы. Пользователь может ввести свой первый запрос в поле ввода, и система сформирует ответ на основе анализа введенного текста. Примеры промтов, представленные на стартовом экране, демонстрируют разнообразие тем и задач, с которыми может работать чат-бот, помогая пользователю сориентироваться в его возможностях.

Информация

Для получения подробной информации об административных функциях рекомендуется ознакомиться с официальной документацией OpenWebUI.

Обзор доступных моделей

Gemma2 9B

Функция Описание
Размер окна контекста ввода 8192 токенов
Максимальное число выходных токенов Неизвестно
Открытый исходный код Да
Дата выпуска 27 июня 2024
Дата сведения знаний Неизвестно
Модальности Текст

Llama3.1 8b Instruct

Функция Описание
Размер окна контекста ввода 128K токенов
Максимальное число выходных токенов 2048 токенов
Открытый исходный код Да
Дата выпуска 23 июля 2024
Дата сведения знаний Декабрь 2023
Модальности Текст