Algoretica: trasparenza nei call center IA, il consumatore ha diritto di sapere

6 Agosto 2025

Nessuna etica dell’IA è ancora codificata, ma il principio della trasparenza è di primaria importanza. Il futuro digitale deve garantire il diritto dei consumatori a distinguere se parlano con un’intelligenza artificiale o un operatore umano.

🔵 Che cos’è l’algoretica e perché è importante

Il termine “algoretica” nasce dal riconoscimento di una nuova esigenza: far emergere i valori etici e le garanzie alla base dell’uso degli algoritmi, soprattutto quando interagiscono con i cittadini.

Papa Francesco, nel gennaio 2024, ha formalmente richiamato l’attenzione su questo tema, invocando un’etica degli algoritmi, un trattato vincolante, organismi internazionali e una regolamentazione fin dalla fase di progettazione dell’IA.

Una visione oggi raccolta e rilanciata da Papa Leone XIV, che nella sua prima presa di posizione sull’intelligenza artificiale parla chiaramente di “nuova questione sociale”: “l’IA può trasformare in modo definitivo le nostre relazioni con il tempo, con il lavoro, con la conoscenza, con l’altro, con Dio stesso”.

Non è quindi solo un tema tecnico o industriale, ma un nodo antropologico, culturale e spirituale. Fondamentale quindi porre l’umano al centro, garantendo che nessuna decisione algoritmica possa mai sostituire la coscienza, la relazione, il rispetto della dignità umana.

🔵 Norme europee già attive e in arrivo

Nel 2019 la Commissione UE ha emanato Linee Guida sull’“Artificial Intelligence” affidabile, con sette requisiti chiave (tra cui trasparenza, sorveglianza umana, privacy, robustezza).
L’AI Act (Regolamento UE 2024/1689), entrato in vigore, pone obblighi stringenti per i sistemi ad alto rischio (anche alcuni chatbot nei call center rientrano in questa categoria):
13: trasparenza, le piattaforme devono identificare il provider, la finalità e i rischi del sistema;
14: “human in the loop”, cioè sorveglianza umana obbligatoria;
27: valutazione preventiva d’impatto su utenti e diritti fondamentali.

Il principio della trasparenza e della responsabilità va applicato in ogni ambito in cui l’IA prende decisioni o interagisce con le persone: dalla selezione del personale ai sistemi di credito, dalle piattaforme di e-commerce ai servizi sanitari digitali, fino alle applicazioni pubbliche come la sicurezza e il monitoraggio del traffico.

L’AI Act europeo e le Linee guida UE sull’IA affidabile pongono infatti regole generali che valgono per tutti i sistemi di intelligenza artificiale, indipendentemente dal settore. Questo significa che i criteri come spiegabilità delle decisioni, sorveglianza umana e assenza di discriminazioni devono essere garantiti a monte, già nella fase di progettazione, e poi mantenuti nella pratica quotidiana.

Ad oggi, mentre la tecnologia corre in maniera inspiegabile, tanto che diventa quasi difficile starle dietro, occorre una cultura etica diffusa, capace di guidare l’IA ovunque essa operi.

🔵 Servizio clienti e IA: cosa manca oggi

Ad oggi nessuna normativa obbliga a dichiarare esplicitamente al consumatore se sta interagendo con un sistema automatizzato o con un operatore umano.
Le linee guida internazionali raccomandano prassi virtuose:

informare il cliente in modo chiaro,
chiedere consenso informato (opt-in),
offrire opzioni di escalation a operatore umano,
garantire equità e assenza di bias.

🔹 Buone pratiche aziendali

Alcune grandi aziende internazionali hanno iniziato a implementare politiche di trasparenza:

notifiche iniziali tipo “Sto parlando con un assistente automatico”,
possibilità di richiedere transfer immediato a un operatore,
audit interni per bias o errori,
conservazione dei dati e spiegabilità dell’algoritmo per controllo interno.

🔹Come Assoutenti, crediamo che il tema dell’algoretica non possa restare confinato ai tavoli di esperti o ai convegni di settore.

È una questione concreta, che riguarda ogni cittadino, ogni volta che un algoritmo prende una decisione che lo riguarda o interagisce con lui.

I consumatori devono sapere se stanno parlando con un’IA o con una persona e su quali basi viene fornita la risposta: è un contenuto generato automaticamente? È influenzato da profilazione o da logiche commerciali?
Fiducia come valore: la trasparenza non è un optional, ma un pilastro della fiducia tra aziende e cittadini. Senza chiarezza, l’IA rischia di essere percepita come opaca e manipolatoria.
L’etica dell’IA deve essere trasversale: dalla sanità alla finanza, dall’e-commerce al servizio clienti, ogni applicazione deve rispettare standard di trasparenza, controllo umano e spiegabilità delle decisioni.

Non possiamo permettere che la tecnologia, nata per servire l’uomo, si trasformi in un sistema inaccessibile e incontrollabile. La vera innovazione non è quella che sostituisce la relazione umana, ma quella che la rafforza con strumenti trasparenti, sicuri e rispettosi dei diritti.