La decisione di United Airlines di bloccare gli agenti AI nelle prenotazioni dei voli segna un punto cruciale nel rapporto tra intelligenza artificiale autonoma, sicurezza digitale e servizi regolamentati. La compagnia intende limitare l’accesso agli assistenti di terze parti che cercano di acquistare o gestire prenotazioni per conto dei clienti. Il problema non è l'AI in sé, ma la potenziale perdita di controllo quando un software opera con credenziali personali, dati di pagamento, miglia fedeltà e autorizzazioni operative.
I rischi per la sicurezza secondo United Airlines
United motiva la scelta con rischi concreti: esposizione di informazioni sensibili, acquisti indesiderati, modifiche agli account e uso improprio delle miglia MileagePlus. Nel settore aereo, l’identità digitale del passeggero abilita la gestione del biglietto, le modifiche dell'itinerario e il check-in. Gli agenti AI, se autorizzati tramite password condivise o sessioni delegate in modo opaco, possono diventare un punto debole nella catena di fiducia.
La questione presenta anche implicazioni normative. Esiste il rischio di incompatibilità con obblighi federali, come la conferma personale durante il check-in sull’assenza di sostanze vietate nei bagagli.
Questo dettaglio è decisivo: alcune azioni non sono semplici clic amministrativi, ma dichiarazioni attribuite a una persona fisica. Delegarle a un assistente autonomo apre problemi di responsabilità, tracciabilità e validità del consenso effettivo.
Approcci divergenti: United e Southwest
L'orientamento di United trova conferma, ma si evidenzia come non tutte le compagnie aeree stiano seguendo la stessa strada. Southwest Airlines, al contrario, ha annunciato un plug-in ChatGPT concepito per aiutare i clienti a scoprire e acquistare voli. Questo confronto mostra due modelli opposti: l’AI vista come un canale non autorizzato da contenere, o l’AI integrata in un percorso progettato e controllato dall’azienda.
Questa divergenza è cruciale. Un assistente sviluppato o approvato direttamente dal vettore può essere soggetto a limitazioni funzionali, audit specifici, separazione dalle credenziali sensibili e collegato a procedure di consenso esplicito. Un agente generico, al contrario, potrebbe operare come un utente umano senza esserlo realmente, rendendo più complessa la distinzione tra comportamento legittimo, errore automatizzato e potenziale abuso. Per tali ragioni, gli agenti AI stanno emergendo come una sfida che va oltre il semplice prodotto, toccando aspetti fondamentali della governance.
