Назначение
Система Smart Enterprise Assistant (далее SEA) предназначена для создания корпоративной базы знаний с использованием искусственного интеллекта (далее ИИ). В систему в автоматическом режиме загружаются документы различных форматов. Система позволяет искать документы в базе знаний и задавать к ней вопросы на привычном языке. С помощью ИИ система формирует краткое содержание документа, производит поиск нужных для ответа документов и их фрагментов, а также генерирует связанный ответ. Также система позволяет анализировать документы целиком и использовать Чат с ИИ для работы над любым текстом.
Состав
Все компоненты системы разворачиваются локально в инфраструктуре заказчика.
• На сервер в сети заказчика устанавливается веб-сервер приложения;
• На сервере приложений размещается файл большой языковой модели (LLM), возможно использование различных моделей;
• Данные хранятся в локальной сети компании в базе данных PostgreSQL/Postgres Pro, можно использовать существующую СУБД.
Минимальные требования к оборудованию и ПО
Для сервера приложений:
Фактические необходимые ресурсы определяются количеством активных пользователей и выбранной LLM.
• Операционная система: Windows Server 2019+ или Linux x64 (RedOS 8, Astra Linux 1.8, Debian 12, Ubuntu 22 и т.п.)
• ПО NVIDIA CUDA Toolkit 12+ или Vulkan
• CPU: 8 vCPU 2.5Hz
• RAM: 32Gb
• SSD: 40Gb
• GPU: NVIDIA RTX 4090 24Gb
Для сервера СУБД:
Фактические необходимые ресурсы определяются количеством документов в базе данных и количеством активных пользователей.
• PostgreSQL/Postgres Pro 16+
• pgvector extension
• CPU: 4-8 vCPU 2.0Hz
• RAM: 16Gb
• SSD: 100Gb
Используемые технологии
Сервер приложений разработан с применением следующих технологий с открытым исходным кодом (opensource):
• NET Core 10
• JavaScript, HTML, CSS
• RAG
Основные функциональные характеристики
• Система обеспечивает фоновую загрузку документов в базу знаний с сохранением исходного документа, текстовой информации из документа и кратким содержанием, сформированным с помощью ИИ. При загрузке документа в систему он сжимается и проверяется на наличие дублей в базе данных;
• Система обеспечивает поиск документов в базе знаний по ключевым словам или по фразам/вопросам;
• Система позволяет скачать исходный документ из базы знаний;
• Система позволяет на вопрос пользователя найти релевантные документы и сгенерировать связанный ответ с помощью ИИ на основе фактов из найденных документов;
• Система обеспечивает анализ больших документов целиком;
• С помощью Чата с ИИ система позволяет работать пользователю с текстом или документом;
• Система использует аутентификацию пользователя в Active Directory/LDAP;
• Взаимодействие пользователей с системой осуществляется по HTTP или защищенному протоколу HTTPS с использованием протокола TLS версии не ниже 1.2 в пределах локальной сети заказчика;
• Система использует СУБД PostgreSQL/Postgres Pro;
• Система осуществляет регистрацию всех основных событий по изменению объектов внутри системы.
Установка
• Подготовьте серверы для «Сервера приложений» и БД (физические или виртуальные);
• Установите СУБД PostgreSQL/Postgres Pro или используйте существующую;
• Создайте новую базу данных в СУБД;
• Скачайте дистрибутив с документацией (ссылка по запросу);
• Создайте структуру папок для загрузки документов;
• Скачайте (ссылка по запросу) и сохраните файл LLM на сервере;
• Создайте необходимые группы в Active Directory/LDAP;
• Разрешите сетевой доступ от «Сервера приложений» до СУБД;
• Установите «Сервер приложений» из инсталлятора, следуйте его инструкциям;
• Выполните проверку работы системы в целом.
Инструкция по эксплуатации
После того как все компоненты системы установлены:
• В заранее подготовленную сетевую папку (указанную при установке системы) администратор системы копирует документы для загрузки;
• Документы загружаются системой автоматически в фоновом режиме;
• После загрузки документов в систему они готовы для использования.
Система доступна в локальной сети организации через любой современный браузер, например: Яндекс.Браузер, Google Chrome или Microsoft Edge и т.д. В адресной строке браузера наберите адрес сервера, где была установлена система или ваше DNS имя для системы SEA. Например: https://sea-ai. После открытия сайта системы вам будет доступно главное меню.
Все основные действия пользователя и администратора осуществляются через главное меню:
• Чат с документом/документами – раздел вопрос/ответ. Основой раздел системы, позволяет задавать вопрос ко всей базе знаний или по выбранным пользователем документам. Вопрос формулируется на обычном естественном языке. В ответ система генерирует связанный ответ, указывает используемые для ответа документы, цитаты из этих документов. С любым из документов можно начать чат/выполнить анализ;
• Чат с ИИ – чат с ИИ для работы над любым текстом и для решения различных творческих задач (в чат можно загрузить текст, документы, указать url-ссылки);
• Поиск – поиск документов. В разделе можно искать документы по ключевым словам или фразе/вопросу. Затем можно сохранить документ, выбрать несколько документов для чата или анализа;
• Анализ документа/документов – анализ больших документов целиком;
• История – история запросов к документам;
• Документы – реестр документов. В разделе выводится информация о загружаемых в данный момент документах, также можно найти документ по имени/каталогу/дате загрузки. С помощью контекстного меню можно сохранить документ, удалить его или начать с ним чат;
• Протокол – список изменений объектов пользователем и системой;
• Справка – инструкция по администрированию системы;
• О программе – информация о лицензии и настройках системы;
• Выход – только для режима авторизации по логину и паролю.
Устранение неисправностей и техническая поддержка
Для администрирования системы достаточно наличие в штате организации одного специалиста с общими знаниями администрирования серверов и веб-приложений, а также одного специалиста по администрированию СУБД PostgreSQL/Postgres Pro. На администрирование, обслуживание и поддержку системы один сотрудник будет затрачивать в среднем около 1 часа в день.
В случае возникновения ошибок или потребности в совершенствовании программного обеспечения необходимо направить заявку в техническую поддержку по электронной почте support@sea-ai.ru. В рамках заключаемого договора компания обязуется не позднее, чем через 4 часа в рабочее время предоставить обратную связь по каждому запросу. При необходимости возможно использование ВКС заказчика для диагностики проблем и их устранения.
Обновление
Выпуск обновлений системы происходит не реже чем раз в месяц. Обновление системы производит самостоятельно администратор заказчика в удобное для этого время с помощью инсталлятора. Обновление системы полностью автоматизировано и требует около 10-15 минут.