Instrumentele de inteligență artificială generativă (GenAI) revoluționează operațiunile întreprinderilor, oferind capacitatea de a crește rapid eficiența și de a rezolva probleme complexe. Cu toate acestea, acest potențial interesant vine la pachet cu o provocare semnificativă: confidențialitatea datelor.
În martie, un conglomerat coreean a ridicat o interdicție privind utilizarea GenAI, pentru a o restabili câteva săptămâni mai târziu, după ce angajații au partajat informații interne sensibile, inclusiv coduri de proprietate și înregistrări ale unor întâlniri. Acest incident evidențiază faptul că, în timp ce organizațiile urmăresc să utilizeze inteligența artificială pentru a crește productivitatea, ele trebuie să gestioneze și să controleze simultan riscurile de scurgere a datelor.
Pentru a preveni situații precum cea menționată în timpul utilizării tehnologiilor AI avansate, Synology a implementat tehnici complete de de-identificare și garduri de protecție meticuloase în cadrul fluxului nostru de lucru. Acest lucru asigură gestionarea responsabilă a informațiilor despre clienți și menține standarde ridicate de securitate și confidențialitate a datelor.
Efectuarea de-identificării într-un mediu conform GDPR
Synology a dezvoltat un sistem Retrieval-Augmented Generation (RAG) pentru a spori eficiența și acuratețea asistenței noastre tehnice. Am construit, de asemenea, o bază de date a cazurilor de asistență acreditate din ultimul an, care oferă informații actualizate specifice produselor Synology și soluții aprobate de ingineri profesioniști de asistență tehnică.
Atunci când se primește o nouă cerere, sistemul RAG analizează întrebarea clientului și extrage rezoluțiile relevante din baza de date, rezultând răspunsuri de o calitate superioară în comparație cu cele generate de GenAI antrenat pe date publice.
Acest sistem se bazează pe protejarea confidențialității clienților printr-un mecanism cuprinzător de de-identificare care asigură anonimizarea tuturor datelor din cazurile anterioare și din biletele nou primite înainte de a fi utilizate:
1. Identificarea Regex: Expresiile regulate (Regex) identifică modele precum e-mailurile și numerele de telefon de pe tichetele de asistență.
2. Recunoașterea entităților numite (NER): Desfășurată cu procesarea limbajului natural pentru a detecta entități prin înțelegerea contextului acestora.
3. Validarea sumei de control: Asigură acuratețea acestor modele.
4. Analiza contextului: Analizează textul din jur pentru a crește încrederea în detectare.
5. Tehnici de anonimizare: Securizarea informațiilor sensibile detectate.
Cel mai important, acest proces complet de de-identificare este realizat într-un mediu conform GDPR, asigurând conformitatea completă cu reglementările și anonimizarea datelor.
Prevenirea ieșirilor dăunătoare, tendențioase sau nedorite în alt mod cu ajutorul barierelor de protecție
După reprelucrarea pentru de-identificare, toate răspunsurile generate de inteligența artificială trec prin două bariere de protecție în sistem pentru verificări de politică, pentru a preveni orice divulgare involuntară de informații sensibile sau sfaturi potențial dăunătoare.
1. Verificarea politicii interne: Prima barieră de protecție verifică dacă există încălcări ale politicilor interne sau riscuri de pierdere de date pentru utilizatori. De exemplu, dacă un bilet solicită fișiere de instalare, DSM sau versiuni de aplicații care ar putea afecta mediile existente ale utilizatorilor, asistență cu privire la problemele legate de vulnerabilitățile și expunerile comune (CVE) sau face trimitere la alte bilete de asistență, sistemul nu mai răspunde și furnizează inginerului de asistență tehnică un rezumat al principalilor factori care au stat la baza deciziei, în vederea unei potențiale escaladări.
2. Verificarea siguranței conținutului: A doua barieră de protecție se asigură că răspunsurile generate nu furnizează informații sensibile, cum ar fi comenzi de consolă, detalii privind accesul de la distanță sau alte date precise din punct de vedere contextual care pot fi indisponibile sau inadecvate în anumite scenarii. După ce trece de această barieră de protecție, sistemul va decide în cele din urmă dacă să răspundă automat sau să transmită biletul personalului de asistență pentru revizuire.
Concluzie
Acest flux de lucru automatizat de asistență bazat pe inteligență artificială a îmbunătățit semnificativ acuratețea și relevanța răspunsurilor, îmbunătățindu-ne timpii de răspuns de douăzeci de ori. Prin implementarea unor procese riguroase de de-identificare și a unor bariere de protecție solide, asigurăm confidențialitatea datelor și aderăm la protocoale stricte de confidențialitate.
Prin experiența noastră în dezvoltarea sistemului de asistență pentru clienți bazat pe inteligență artificială, am realizat pe deplin că, în timp ce inteligența artificială are capacități puternice de rezolvare a problemelor, aceasta trebuie să fie restricționată complet cu mecanisme de control și revizuire pentru a asigura un echilibru între eficiență și confidențialitate. În continuare, Synology își va menține angajamentele privind confidențialitatea și va valorifica potențialul AI, protejând în același timp datele valoroase ale clienților.