Anthropic: tra un anno i dipendenti virtuali AI saranno realtà nelle aziende

Jason Clinton, Chief Information Security Officer di Anthropic,
ha dichiarato in un�intervista esclusiva ad Axios che i dipendenti
virtuali animati da intelligenza artificiale arriveranno nelle reti
aziendali gi� nel corso del prossimo anno. Si tratta di un cambio di
paradigma epocale, che rappresenta nuove opportunit� per l’innovazione, ma
anche sfide e rischi per la sicurezza tecnologica.

Laddove gli agenti IA attuali sono fondamentalmente limitati a
compiti programmabili e ben definiti, come pu� essere ad esempio la
risposta automatica a segnalazioni di phishing o altri indicatori di
minacce, i futuri dipendenti virtuali avranno un livello di autonomia
nettamente superiore: queste entit� digitali disporranno di una
propria �memoria�, di ruoli ben definiti all�interno dell�azienda e
persino di account e password aziendali personali, elementi che li
renderanno molto pi� simili a veri e propri colleghi umani rispetto agli
agenti AI tradizionali.

Appare immediatamente chiaro come la gestione delle identit� di questi
“dipendenti virtuali” implichi una profonda revisione delle strategie
di cybersecurity. Nell’intervista,
Clinton sottolinea che “in questo nuovo mondo ci sono moltissimi problemi
di sicurezza che non abbiamo ancora risolto e che dovremo affrontare”. Un
tema dibattuto � la gestione della responsabilit� qualora un dipendente
IA, operativo per settimane, dovesse compiere azioni dannose come, ad
esempio, compromettere i sistemi dove viene testato e integrato il nuovo
codice prima del rilascio.

Anthropic, dal canto suo, si assume due responsabilit� chiave per
affrontare queste sfide: la prima � sottoporre i modelli Claude a test
approfonditi per garantirne la resistenza agli attacchi informatici, la
seconda � monitorare costantemente le problematiche di sicurezza e
intervenire per mitigare i rischi di abuso da parte di attori malevoli.

Clinton osserva che gli amministratori di rete sono gi� oggi in
difficolt� nel monitorare quali account abbiano accesso a diversi
sistemi
e nel difendersi da attacchi che sfruttano credenziali di dipendenti
rivendute sul dark web. L�introduzione di dipendenti virtuali rischia di
aggravare ulteriormente questa complessit�, rendendo ancora pi� difficile
la gestione e la protezione degli accessi.

Clinton prevede che la sicurezza dei dipendenti virtuali
rappresenter� una delle principali aree di investimento per le aziende
IA nei prossimi anni: al momento sono gi� in fase di sviluppo
soluzioni che consentono di tracciare in modo dettagliato le attivit�
degli account dei lavoratori virtuali e strumenti per creare nuovi sistemi
di classificazione degli account, pi� adatti a gestire le identit�
digitali autonome e a rilevare eventuali attivit� sospette non
riconducibili ad una traccia umana.