Розроблення діалогової системи на основі LLM для автоматизованої технічної підтримки

Abstract

Кваліфікаційну роботу присвячено розробці методу та системи автоматизації процесів Service Desk на основі мультимодальних великих мовних моделей (LLM). У роботі обґрунтовано використання теорії масового обслуговування (модель M/M/n) для доведення ефективності швидкісних LLM у зменшенні черг запитів. Запропоновано архітектурний підхід Client-Side Integration для прямої оркестрації API (Google, OpenRouter, MegaNova) та розроблено стратегію каскадного перемикання моделей (Gemini 2.5 Flash, Gemma, Mistral) для забезпечення відмовостійкості. Програмна реалізація виконана у вигляді Single Page Application (SPA) з використанням JavaScript, Web Speech API для голосового вводу та Chart.js для візуалізації KPI. Експериментальне дослідження підтвердило економічну ефективність впровадження (ROI) та продуктивність системи під навантаженням. Практичне значення полягає у можливості автоматизації першої лінії підтримки (L1) для малого та середнього бізнесу з режимом роботи 24/7.

The thesis is devoted to the development of a method and system for automating Service Desk processes using multimodal Large Language Models (LLM). The study uses queuing theory (M/M/n model) to prove the effectiveness of high-speed LLMs in reducing request queues. A Client-Side Integration architectural approach is proposed for direct API orchestration (Google, OpenRouter, MegaNova), featuring a fallback strategy with models like Gemini 2.5 Flash, Gemma, and Mistral to ensure fault tolerance. The software is implemented as a Single Page Application (SPA) using JavaScript, Web Speech API for voice input, and Chart.js for KPI visualization. Experimental research confirmed the economic efficiency (ROI) and system performance under load. The practical significance lies in the automation of first-line support (L1) for small and medium-sized enterprises, providing 24/7 service.