GPTZATOR

Описание

Платформа “GPTZATOR” (далее Платформа) — программный комплекс предназначенный для упрощения работы с большими языковыми моделями (GigaChat, chatGPT, Wizard и т.д.), включая также модели устанавливаемые в контуре заказчика (далее — LLM). Платформа позволяет: — Вести диалог с выбранной LLM, обогащая этот диалог контекстом, полученным из внешних систем (CRM, баз знаний и т.д.) — Создавать “Навыки” — подготовленные цепочки запросов к LLM и другим сервисам (запросы по API, парсинг контента с сайтов и т.д.) для решения конкретных задач. Обычно навык достаточно узко заточен на решение отдельной прикладной задачи. — Использовать уже созданные на платформе навыки для решения прикладных задач. Также Платформа поддерживает создание личных кабинетов организаций и гибкое управление сотрудниками. Возможно развертывание платформы в контуре заказчика.

Система «GPTZATOR» представляет собой многопользовательское программное обеспечение для централизованной работы с большими языковыми моделями, как облачными, так и установленными внутри контура заказчика.

Система имеет три уровня:

• Уровень данных – совокупность файловых хранилищ и баз данных под управлением СУБД, обеспечивающих хранение и доступ к данным системы;
• Уровень приложения – обеспечивает реализацию логики предметной области, представляя собой совокупность сервисов (серверных приложений) и скриптов для многопользовательской многопотоковой обработки данных (импорт, конвертация, публикация и пр.);
• Уровень презентации – обеспечивает взаимодействие с конечными пользователями, и реализуется в виде веб-приложений.

С функциональной точки зрения система соответствует модульной архитектуре и включает следующие модули:

• Web-сервер – принимает запросы от модуля Web-Interface на передачу, хранение и выдачу данных. Модуль отсекает подозрительный трафик, осуществляет базовую защиту от DDOS атак;
• Web-Interface — реализует возможность пользователей взаимодействовать с системой посредством предоставления графического интерфейса через протокол HTTPS;
• API BackEnd – реализует предоставление API внешним системам и поставщикам информации: принимает запросы, выполняет авторизацию, формирует запросы на получение данных к БД и получает на них ответы, формирует запросы на хранение и получение данных из файлового хранилища, формирует запросы к внутренним модулям через брокер очередей (RabbitMQ), формирует ответы на вызовы API-методов;
• БД — база данных — выполняет функции хранения данных, приема запросов на добавление и выборку данных, обрабатывает их, возвращает ответы;
• S3 хранилище (minio) — выполняет функции хранения файлов.
• Модуль телеграм бота — отвечает за общение с пользователями посредством телеграм-бота;
• Модуль парсинга сайтов — выполняет парсинг данных с внешних сайтов.

Также существуют внешние плагины:

• браузерный плагин — позволяет автоматизировать действия пользователя в сторонних веб-приложениях;
• плагин для 1С — позволяет создавать регулярные выгрузки информации в контексты GPTZATOR, а также в рамках навыков выполнять действия с документами в 1С.

Функциональные возможности системы для централизованной работы с большими языковыми моделями «GPTZATOR»:

• Создание тем и общение в чатах с различными LLM;
• Создание прикладных и информационных контекстов и их подключение к чатам;
• Загрузка файлов в чаты и контексты;
• Создание собственных “навыков” — цепочек действий для автоматизации решения конкретных задач;
• Управление доступом к своим навыкам и контекстам;
• Запуск и работа с “навыками”, как своими, так и созданными другими пользователями системы;
• Создание своей организации в рамках системы;
• Управление пользователями своей организации.