Synology è un fornitore di soluzioni per la gestione dei dati. Con una base utenti globale di 13 milioni di installazioni, gestiamo circa 280.000 richieste di supporto tecnico all’anno, che spaziano da semplici domande sui prodotti a consulenze complesse per configurazioni in ambienti IT aziendali. Per offrire un’esperienza di servizio clienti di alta qualità e rapidità, abbiamo istituito un team di intelligenza artificiale quattro anni fa e utilizzato tecniche di apprendimento automatico per raccomandare materiali di riferimento pertinenti agli utenti quando pongono domande. Questo approccio consente di risolvere rapidamente circa 50.000 dei nostri casi annuali di supporto tecnico.
Poi è arrivata l’ascesa dei modelli linguistici di grandi dimensioni (LLM) come GPT-3 nel 2020 e ChatGPT alla fine del 2022, che hanno rivoluzionato il campo dell’elaborazione del linguaggio naturale. Questi modelli hanno dimostrato capacità senza precedenti nell’interpretare e generare testo simile a quello umano, aprendo nuove possibilità per migliorare i sistemi di supporto clienti.
Dare priorità alla privacy dei dati come fondamento
Il nostro sistema di supporto basato su RAG (Generazione Potenziata dal Recupero) è costruito su un’architettura a quattro fasi progettata per garantire la privacy dei clienti, l’accuratezza e l’efficienza.
Il processo inizia con la creazione di un database RAG, in cui utilizziamo dati storici del servizio tecnico che vanno da un anno fa fino al presente. Questo passaggio cruciale include un accurato processo di de-identificazione per proteggere la privacy dei nostri clienti.
Dopo la de-identificazione, procediamo con il chunking (suddivisione in blocchi) e l’indicizzazione dei dati, rendendo il processo più efficiente nella costruzione del database RAG. Inoltre, applichiamo l’embedding semantico a questi blocchi, permettendo ricerche avanzate basate sulla somiglianza semantica. Questo consente di identificare e recuperare contenuti contestualmente rilevanti.
Dalla nostra esperienza, è preferibile mantenere più dati contestuali durante il chunking, consentendo una certa sovrapposizione tra ciascun segmento di dati. Questo approccio genera risultati di ricerca che si allineano meglio con le intenzioni del cliente.
Insegnare all’IA a “comprendere” le esigenze del cliente
La fase successiva riguarda l’elaborazione delle nuove richieste di supporto. Quando un cliente invia un ticket, iniziamo con la de-identificazione per anonimizzare le informazioni sensibili e proteggere la sua privacy. Successivamente, analizziamo il ticket per comprendere l’intento del cliente e determinare se è necessaria una risposta da parte dell’IA. Ad esempio, se il ticket del cliente riguarda la richiesta di un consulente per il supporto tecnico, come nel caso in cui il cliente richieda una diagnosi remota o una risoluzione dei problemi, non è necessario che l’IA fornisca una risposta.
Il punto chiave della fase di analisi dell’intento risiede nei criteri di risposta, poiché è fondamentale definire le strategie di risposta del sistema per i diversi intenti dei clienti e determinare quando il sistema debba trasferire la richiesta a uno specialista, chiedere ulteriori informazioni al cliente, oppure estrarre e generare direttamente contenuti dal database.
Recuperare informazioni pertinenti dal database RAG
Una volta che l’IA comprende meglio il contesto, il terzo passaggio consiste nell’implementare un meccanismo di ricerca solido. La domanda del cliente viene riscritta per ottimizzarla al fine di estrarre informazioni dal nostro database RAG. Utilizziamo anche un metodo di ricerca semantica che ci consente di estrarre ticket passati di tipologie rilevanti e fornire un contesto ricco per generare risposte.
La qualità dei nostri risultati di ricerca dipende fortemente dal nostro approccio alla segmentazione dei dati. Per affrontare questo aspetto, stiamo sviluppando un modello avanzato di Re-ranking, che utilizza il deep learning per ricalibrare i risultati di ricerca in base ai punteggi di somiglianza calcolati. Questo strato di elaborazione aggiuntivo mira a migliorare ulteriormente la pertinenza e l’accuratezza delle informazioni che forniamo, migliorando così la nostra capacità di soddisfare le esigenze dei clienti in modo più preciso.
Generare risposte conformi alle politiche con supervisione umana
Nell’ultimo passaggio, generiamo le risposte in base alle informazioni elaborate. Creiamo un prompt utilizzando l’intenzione analizzata, la domanda riscritta e i dati rilevanti estratti. La risposta generata viene quindi sottoposta a una serie di verifiche politiche e altre misure di sicurezza per assicurarci di non fornire informazioni sensibili come comandi della console, dettagli di accesso remoto o qualsiasi altra informazione che, pur essendo accurata nel contesto, potrebbe non essere disponibile o applicabile in determinate situazioni. Questi controlli aiutano a mantenere la sicurezza e a garantire che le risposte rimangano nell’ambito del supporto assistito dall’IA.
Infine, il sistema di sicurezza aiuterà a determinare se le risposte generate sono valide per una risposta automatica. Se il sistema di sicurezza determina che il ticket richiede l’intervento del personale di supporto, presentiamo la risposta generata dall’IA al nostro staff di supporto. Il personale di supporto emette quindi il giudizio finale sull’appropriatezza e l’accuratezza della risposta prima che venga inviata al cliente.
Risposte 20 volte più veloci, maggiore efficienza
L’architettura ci consente di integrare l’intelligenza artificiale generativa mantenendo gli elevati standard di accuratezza e sicurezza che i nostri clienti si aspettano dal supporto Synology. Sfruttando la potenza degli LLM e del RAG, mentre automatizziamo le risposte alle richieste di routine, abbiamo ottenuto tempi di risposta fino a 20 volte più veloci rispetto a prima.
Mentre continuiamo a perfezionare il nostro sistema di supporto basato sull’IA, ci concentriamo sul miglioramento dell’accuratezza e della pertinenza delle risposte per la nostra variegata base di utenti globale. Continueremo ad adattarci alle differenze regionali nelle preferenze dei prodotti, nelle problematiche comuni e nelle politiche di conformità. Questo approccio assicura che le nostre risposte generate dall’IA siano tecnicamente accurate e in linea con le normative e le pratiche locali.
Fornendo risposte più precise, puntiamo a liberare più risorse del nostro team di supporto per gestire questioni più complesse e urgenti che richiedono l’intervento umano. Questo ci aiuta a lavorare in modo più efficiente, garantendo comunque ai clienti Synology l’assistenza di alta qualità e personalizzata che si aspettano dal nostro team di supporto.