TalkWise AI

Корпоративный ассистент доступа к знаниям и поддержки

LLMRAGQdrantConversational AIPython

Платформа разговорного ИИ, разработанная для крупной розничной сети для обслуживания клиентов и внутреннего доступа к знаниям. Колл-центр обрабатывал более 180 000 обращений ежемесячно; среднее время ожидания превышало 8 минут, а решение при первом обращении составляло лишь 52%.

Наша система на архитектуре RAG (генерация с дополненным извлечением) векторизует все источники знаний компании и индексирует их в базе данных Qdrant. При поступлении запроса релевантные фрагменты документов извлекаются семантическим поиском и предоставляются как контекст LLM. Ссылки на источники добавляются автоматически. Система работает через клиентские каналы и внутреннюю интеграцию со Slack.

Архитектура системы

InterfaceUnderstandingDialogKnowledgeWebSocketMessageIntentActionQueryRetrieveContextStreamLogChat WidgetWebSocket APINLU EngineIntent RouterDialog ManagerRAG PipelineResponse GenKnowledge BaseChat History

Ключевые моменты

  • Архитектура RAG: векторная БД Qdrant + семантический поиск
  • Автоматическое извлечение знаний из 12 000+ документов
  • Генерация ответов со ссылками на источники (контроль галлюцинаций)
  • Мультиканальная поддержка (веб-виджет, мобильный SDK, Slack)
  • Автоматическое создание тикетов поддержки (интеграция Zendesk)

Результаты

Решение при первом обращении выросло с 52% до 78%
Объём колл-центра сократился на 41% через самообслуживание
Среднее время ответа — 2,3 секунды
Время доступа к внутренним знаниям сократилось на 68%