AI-чат-бот Lite¶
В этой статье
Информация
AI-чат-бот Lite представляет собой сервис, предоставляющий доступ к ИИ-ассистенту, размещенному на общем GPU-сервере компании HOSTKEY. Данное решение разработано для оптимизации затрат на вычислительные ресурсы при использовании технологий искусственного интеллекта, что позволяет снизить стоимость доступа для конечных пользователей.
Функциональные возможности AI-чат-бот Lite включают:
- автоматизацию клиентского обслуживания;
- обработку и анализ текстовых данных;
- генерацию контента на основе заданных параметров;
- поддержку различных сценариев использования в бизнес-процессах.
Это позволяет применять систему в таких областях, как:
- автоматизация обработки запросов клиентов;
- генерация отчетов;
- анализ данных;
- создание контент-планов;
- помощь в принятии решений на основе анализа информации.
Внимание
Производительность системы может варьироваться в зависимости от загрузки общего сервера. Кроме того, отсутствует возможность тонкой настройки аппаратных ресурсов под конкретные задачи и работа в RAG.
Доступ к AI-чат-бот Lite¶
Для доступа к услуге AI-чат-бот Lite необходимо:
-
Перейти на страницу заказа услуги
-
Заполнить форму заказа на сайте с указанием контактных данных.
-
Получить письмо с информацией о регистрации в панели управления серверами и API — Invapi, содержащее ссылку и инструкции.
-
Перейти по полученной ссылке и зарегистрироваться в системе в панели управления серверами и API — Invapi.
-
Дождаться проверки данных специалистом по соответствию требованиям.
-
После подтверждения данных оплатить выставленный счет.
-
Получить письмо со ссылкой на личный кабинет AI-чат-бот Lite.
-
Перейти по предоставленной ссылке. Формат ссылки может варьироваться в зависимости от тарифа. Пример формата для тарифа AI Chatbot Lite:
https://ollama<server_id_from_invapi>.hostkey.in
: -
На странице входа нажать кнопку
Зарегистрироватьи создать новый аккаунт:Можно использовать любую удобную для доступа электронную почту (не обязательно ту же, что использовалась для регистрации в Invapi). Необходимо заполнить поля регистрационной формы и подтвердить регистрацию:
Внимание
Важно: первый зарегистрированный аккаунт автоматически получает права администратора.
После успешной регистрации произойдет автоматический вход в интерфейс OpenWebUI с правами администратора.
Информация
В случае отсутствия писем или возникновения трудностей на любом этапе следует обратиться в службу технической поддержки.
Использование AI-чат-бот Lite¶
На стартовом экране представлен интерфейс чата, а также приведены несколько примеров входных запросов (промтов) для демонстрации возможностей системы. Пользователь может ввести свой первый запрос в поле ввода, и система сформирует ответ на основе анализа введенного текста. Примеры промтов, представленные на стартовом экране, демонстрируют разнообразие тем и задач, с которыми может работать чат-бот, помогая пользователю сориентироваться в его возможностях.
Информация
Для получения подробной информации об административных функциях рекомендуется ознакомиться с официальной документацией OpenWebUI.
Обзор доступных моделей¶
Gemma2 9B¶
Функция | Описание |
---|---|
Размер окна контекста ввода | 8192 токенов |
Максимальное число выходных токенов | Неизвестно |
Открытый исходный код | Да |
Дата выпуска | 27 июня 2024 |
Дата сведения знаний | Неизвестно |
Модальности | Текст |
Llama3.1 8b Instruct¶
Функция | Описание |
---|---|
Размер окна контекста ввода | 128K токенов |
Максимальное число выходных токенов | 2048 токенов |
Открытый исходный код | Да |
Дата выпуска | 23 июля 2024 |
Дата сведения знаний | Декабрь 2023 |
Модальности | Текст |