AI e lavoro, il Garante Privacy avverte una start‑up italiana: sotto esame il plug‑in che analizza linguaggio, emozioni e stress dei dipendenti

Plug-in sotto accusa. Il Garante per la protezione dei dati personali ha rivolto un avvertimento a una start‑up italiana che ha sviluppato un plug‑in per Slack e Teams capace di analizzare, tramite IA, linguaggio, emozioni e livello di stress dei lavoratori. L’Autorità richiama i limiti imposti dalla normativa privacy, dallo Statuto dei lavoratori e dal Regolamento europeo sull’IA, che vieta sistemi destinati a dedurre emozioni nei contesti lavorativi.

Plug-in IA e lavoro, il Garante richiama una start‑up italiana sui rischi per i diritti dei dipendenti

Il Garante Privacy ha inviato un formale avvertimento a una start‑up italiana che ha sviluppato un plug‑in basato su intelligenza artificiale e analisi semantica delle chat aziendali. Il componente aggiuntivo, integrabile in Slack e Microsoft Teams, consente ai lavoratori, su base volontaria, di monitorare il proprio livello di stress psicologico e ricevere suggerimenti personalizzati.

L’intervento dell’Autorità è scattato dopo alcune notizie di stampa e ha portato a verificare che la start‑up agisce come titolare del trattamento, mentre il datore di lavoro non può accedere né ai contenuti delle conversazioni né ai risultati individuali generati dal sistema.

Dati emotivi e stress: informazioni “ultra‑sensibili” vietate al datore di lavoro

Il Garante ha sottolineato la estrema delicatezza dei dati trattati: informazioni legate allo stato emotivo, al linguaggio e allo stress rientrano tra quelle che il datore di lavoro non può in alcun modo acquisire, nemmeno in forma indiretta.

L’Autorità ha inoltre evidenziato che il servizio prevede la possibilità di fornire report aggregati sul livello di stress dei dipendenti. Anche in questo caso, la start‑up dovrà adottare misure tecniche e organizzative tali da impedire ogni rischio di re‑identificazione o accesso improprio.

Il richiamo al Regolamento europeo sull’IA: vietata l’analisi delle emozioni sul lavoro

Il Garante ha ricordato che il nuovo Regolamento europeo sull’intelligenza artificiale (AI Act) vieta espressamente l’uso di sistemi destinati a dedurre o analizzare le emozioni delle persone nei contesti lavorativi.

Un divieto che si affianca alle tutele previste dal GDPR e dallo Statuto dei lavoratori, che impediscono al datore di lavoro di monitorare aspetti psicologici o comportamentali dei dipendenti.

Rischi di opacità, bias e discriminazioni

L’Autorità ha infine richiamato i rischi connessi ai sistemi basati su modelli linguistici e analisi semantica: risultati non sempre trasparenti, spiegabili o verificabili possono generare bias, errori interpretativi e potenziali discriminazioni, con impatti diretti sui diritti dei lavoratori.