Персональный чат-бот на основе Ollama, LLM с открытым исходным кодом Llama3 и OpenWebUI-интерфейс на вашем собственном сервере.
Персональный чат-бот на основе Ollama, LLM с открытым исходным кодом Llama3 и OpenWebUI-интерфейс на вашем собственном сервере.
Арендуйте виртуальный или выделенный сервер HOSTKEY с предустановленным и готовым к работе чат-ботом, который может обрабатывать ваши данные и документы, используя различные LLM-модели.
Вы можете подключить последние версии моделей Phi3, Mistral, Gemma, Code Llama.
Серверы доступны в Нидерландах, России, Финляндии, Исландии и Германии.
AI-чат-бот по подписке на GPU-сервере HOSTKEY
Персональный AI-чат-бот на вашем собственном сервере.
В каждом тарифе AI-чат-бота вы получите предустановленные и готовые к использованию модели:
Тариф «AI-чат-бот на собственном сервере» позволяет загружать и удалять больше моделей. Эта функция недоступна для тарифа «AI-чат-бот Lite».
«AI-чат-бот Lite» — платная пробная версия основного продукта
«AI-чат-бот Lite» работает на общем GPU-сервере HOSTKEY. Это платный пробный тариф основного продукта («AI-чат-бот на собственном сервере»). Оплата взимается за использование общего GPU-сервера, управляемого HOSTKEY. «AI-чат-бот Lite» имеет базовую функциональность чат-бота без ограничений по количеству пользователей или промпт-запросов. Это делает «AI-чат-бот Lite» идеальным пробным тарифом для принятия решения о покупке основного продукта («AI-чат-бот на собственном сервере»).
AI-чат-бот, работающий на вашем собственном сервере, обеспечивает высочайшие стандарты безопасности. Все данные хранятся и обрабатываются исключительно на вашем сервере.
OpenWebUI позволяет использовать несколько моделей в одном рабочем окне — это ускоряет работу и позволяет обработать один промт в нескольких моделях одновременно без переключения окон и лишних затрат. Просто сделайте один запрос и сравните результаты, выбрав лучший.
AI-чат-бот на собственном сервере позволяет проводить код-ревью без риска утечки кода, который защищен политиками компании о конфиденциальной информации и коммерческой тайне. Также в подобных задачах требуется масштабируемость решения — возможность увеличения серверных мощностей в процессе работы.
Подключите AI-чат-бот к вашей базе знаний и используйте его для генерации ответов на частые вопросы пользователей или сотрудников.
Вы можете анализировать корпоративные документы, проводя все процессы на вашем сервере и не отправляя конфиденциальные файлы во внешнюю среду.
Собственный чат-бот на основе Ollama, LLM Llama3 и OpenWebUI — решение HOSTKEY, созданное на базе официально бесплатного ПО с открытым исходным кодом.
Ollama — это проект с открытым исходным кодом, который служит мощной и удобной платформой для запуска LLM на локальном компьютере. Ollama доступен по лицензии MIT License.
Llama3 — это новейшая языковая модель модель с открытым исходным кодом, масштабируемая до 70 миллиардов параметров, что делает ее одной из крупнейших и наиболее мощных языковых моделей в мире.
Open WebUI — это расширяемый, многофункциональный и удобный веб-интерфейс, предназначенный для работы в автономном режиме и доступный по лицензии MIT License.
Мы гарантируем, что на сервере установлено безопасное оригинальное программное обеспечение.
Чтобы установить AI-чат-бот, нужно выбрать лицензию AI Chatbot в разделе «AI и машинное обучение» во время заказа сервера на сайте HOSTKEY. Наша система автоматического деплоя произведет установку программного обеспечения на ваш сервер.
«AI-чат-бот на собственном сервере» — это основной продукт, программное обеспечение, которое работает на вашем персональном сервере, арендованном у HOSTKEY. Оно предоставляет все расширенные функции чат-бота без ограничений по количеству пользователей или промпт-запросов
«AI-чат-бот Lite» — это платный пробный тариф, он работает на общем GPU-сервере HOSTKEY. Оплата взимается за использование общего GPU-сервера, управляемого HOSTKEY. «AI-чат-бот Lite» имеет базовую функциональность чат-бота без ограничений по количеству пользователей или промпт-запросов. Это делает «AI-чат-бот Lite» идеальным пробным тарифом для принятия решения о покупке основного продукта («AI-чат-бот на собственном сервере»).
Оплата согласно тарифу «AI-чат-бот Lite» взимается за использование общего GPU-сервера, управляемого HOSTKEY. Именно поэтому вам не нужен арендованный сервер для использования ПО чат-бота, которое само по себе бесплатно.
Нужно просто заказать новый тариф и отменить предыдущий. Также вы можете использовать оба тарифа одновременно — разные тарифы не связаны с работой друг друга.
На тарифе “AI-чат-бот Lite” вы можете обращаться к чат-боту с помощью API-запросов. Для настройки, используйте инструкции:
https://docs.openwebui.com/getting-started/advanced-topics/api-endpoints
https://github.com/ollama/ollama/blob/main/docs/api.md
Функция RAG (Retrieval Augmented Generation) используется, чтобы настроить чат-бот генерировать ответы на базе определенных данных, например вашей документации. К сожалению, эта функция недоступна на пробном тарифе “AI-чат-бот Lite”.
Для использования этой функции рекомендуем приобрести “AI-чат-бот на собственном сервере”.
Изучите информацию по добавлению документов в базу знаний (RAG):
https://habr.com/ru/companies/hostkey/articles/819035/
На тарифе “AI-чат-бот Lite” доступно 2 модели: gemma2:latest 9.2B и llama3:latest 8.0B. Вы можете использовать их по отдельности или одновременно. На тарифе “AI-чат-бот Lite” установка и удаление моделей недоступна.
На тарифе “AI-чат-бот на собственном сервере” по умолчанию доступно 2 модели: gemma2:latest 9.2B и llama3:latest 8.0B. На тарифе “AI-чат-бот на собственном сервере” вы можете устанавливать и удалять любые модели, доступные в библиотеке Ollama
Собственный чат-бот на основе Ollama, LLM с открытым исходным кодом Llama3 и OpenWebUI имеет ряд преимуществ, по сравнению с популярными платными сервисами, предлагающими свои услуги по подписке.
Получите готовый к работе AI-чат-бот на собственном сервере в дата-центрах в России и Европе
Помощь
Документация
Вход 
