Intelligenza Artificiale: perché è così importante per il controllo del traffico aereo?

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

Intelligenza Artificiale: perché è così importante per il controllo del traffico aereo?

Di Marco Riccato

Sommario Tra il 2019 e il 2020 Eurocontrol ha realizzato un percorso di formazione per presentare all’ampia platea dei rappresentanti del settore dell’aviazione (compagnie aeree, aeroporti, ANSP, aziende produttrici, enti pubblici civili e militari, associazioni di categoria) il mondo complesso ed affascinante di Intelligenza Artificiale (AI) e Machine Learning (ML) e favorire le condizioni per accelerarne lo sviluppo. Tale percorso, denominato “FLY-AI”, ha ispirato questo articolo, che mira a migliorare la consapevolezza del lettore sul potenziale dell’AI nella gestione del traffico aereo (ATM) attraverso una panoramica delle attività di ricerca in atto, a sfatare alcuni miti, a fornire una visione generale della portata e dell’impatto che le applicazioni di AI e ML avranno nei prossimi anni nel mondo dell’aviazione.

Introduzione L’Intelligenza Artificiale è parte integrante della strategia della Commissione Europea per la costruzione del mercato unico digitale già dal 2017, sostenuta da un cofinanziamento di 1,5 miliardi di euro nell’ambito del programma Horizon 2020 dal 2018 al 2020 [1]. A questo è seguita, nel 2018, l’istituzione della European AI Alliance [2] e di una roadmap per consentire all’Europa di diventare un leader nella rivoluzione dell’AI. EUROCONTROL ha tenuto un forum inaugurale sull’IA nel Marzo del 2019, che ha riunito i principali stakeholder del settore ed è servito come base di lancio per una rete europea di AI per l’aviazione. In tale occasione è stato creato il European Aviation

High Level Group on AI (AI HLEG) un team di esperti con lo scopo di studiare come la AI possa essere utilizzata nel mondo ATM. Nel marzo 2020 AI HLEG ha rilasciato la prima edizione del report ‘FLY-AI’ [3], che fornisce una rassegna dell’uso attuale dell’AI nell’aviazione e valuta il suo potenziale futuro per trasformare il settore. EUROCONTROL, a livello tecnico, gioca un ruolo centrale all’interno della strategia della Commissione, in quanto gestisce già oggi una grande quantità di dati ATM nel suo ruolo di Network Manager (NM) e questo offre molte opportunità per il ML e l’AI. Il repository di EUROCONTROL contiene, oltre ai piani di volo e le tracce radar, i dati meteorologici, i dati degli incidenti di sicurezza ed eventi speciali, che possono essere interconnessi, ad esempio, per elevare gli standard di sicurezza, affrontare i fattori ambientali e migliorare l’efficienza dei costi. Nel 2018 e 2019, IFATCA, che è uno dei partecipanti a AI HLEG, ha organizzato due conferenze su questo argomento [4] e ha pubblicato articoli e materiale didattico [5], con lo scopo di preparare la comunità ATCO per una modernizzazione che avverrà nei prossimi anni in modo incrementale e costante. Tutta questa attenzione è motivata da quella che a volte viene chiamata “rivoluzione industriale 4.0”, guidata dalla crescita esponenziale delle scorte di dati accessibili che ha iniziato ad emergere in questi anni. Si prevede che entro il 2030 circa 200 miliardi di dispositivi, sensori e persone saranno interconnessi.

8

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

Le possibilità di utilizzo di questi dati, come vedremo più avanti, sono numerose e tutti i settori saranno interessati. Nonostante la riduzione dei voli dovuta alla pandemia da COVID-19, la domanda supererà la capacità in più parti del sistema ATM globale nel prossimo futuro. Secondo la IATA “la gente vuole volare, la domanda di viaggi aerei nei prossimi due decenni è destinata a raddoppiare”. La IATA prevede che 7,2 miliardi di passeggeri viaggeranno nel 2035, quasi il doppio rispetto ai 3,8 miliardi di viaggiatori del 2016 [6]. C’è quindi bisogno di più capacità sia in rotta che negli aeroporti. AI e ML possono contribuire ad evitare le congestioni e migliorare l’efficienza, fornendo possibili soluzioni alle sfide attuali.

Intelligenza Artificiale L’Intelligenza Artificiale (AI) è la capacità, mostrata da particolari programmi o macchine, di risolvere problemi complessi in maniera creativa [7]. Questa definizione è molto ampia e lascia spazio a versioni piuttosto fantasiose di macchine intelligenti. L’AI, invece, riguarda programmi o macchine che mimano sostanzialmente l’intelligenza umana (HI), utilizzando l’esperienza pregressa, per risolvere problemi anche senza ricorrere all’uso di veri e propri algoritmi. Quindi, per comprendere cosa sia l’AI, è necessario riflettere su cosa sia l’intelligenza umana, o HI. Uno studente che prende 10 in Chimica è più o meno intelligente di uno che può scrivere una partitura musicale dopo aver ascoltato un brano una sola volta? Sono stati proposti numerosi criteri per stabilire cosa sia l’intelligenza umana, come ad esempio il famoso Test di Turing [8] , tuttavia ad oggi non esiste una definizione che soddisfi tutti [9]. In molti concordano che l’intelligenza comporti almeno le seguenti capacità: ragionare, scoprire significati, generalizzare, estrapolare, prevedere i risultati, prendere decisioni complesse o imparare dall’esperienza passata. Queste capacità, quindi, sono quelle che si vorrebbero dare a una macchina intelligente. Una prima distinzione in seno alla ricerca sull’AI è quella di intelligenza artificiale “debole” (weak AI) e intelligenza artificiale “forte” (strong AI). Una delle principali differenze tra gli esseri umani e le macchine è che gli esseri umani interagiscono continuamente con l’ambiente

“Si prevede che entro il 2030 circa 200 miliardi di dispositivi, sensori e persone saranno interconnessi.”

circostante. La percezione degli eventi e dell’ambientecircostante forma l’esperienza forse anchepiù delle funzioni cognitive. Inoltre gli esseriumani sono in grado di provare emozioni, le qualispesso sono un motore formidabile del processodecisionale. Gli esseri umani sono riflessivi e hannocoscienza di sé. La “strong AI” (detta anche“general AI”) ha come obiettivo la ricerca di macchineche abbiano una capacità intellettiva esattamentepari a quella dell’uomo e riproducanotutte le funzioni della mente umana. Essa è fortementelimitata dalla conoscenza del funzionamentodel nostro cervello e anche, spesso, dallacapacità di calcolo disponibile. Spesso si tratta dimere speculazioni tra la filosofia e la fantascienza.La “weak AI” (detta anche “narrow AI”), invece,ha come obiettivo la ricerca di macchine in gradodi automatizzare funzioni copiando il comportamentoumano e basate sugli algoritmi di apprendimentoautomatico. Generalmente queste macchinesono in grado di svolgere esclusivamenteun solo compito e sono quelle che incontriamosempre più spesso nel lavoro e nella vita di tuttii giorni. Tali macchine funzionano meglio, rispettoagli esseri umani, con problemi matematicidifficili e grandi quantità di dati. La AI, rispettoall’HI, ha i seguenti vantaggi: migliore capacitàdi memoria, più facile da replicare, coerente efacilmente trasferibile, minor costo. Questi elementisono alla base del grande successo della AI(“narrow AI”, per la precisione)[10].

Figura 1: La AI e i suoi cugini

9

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

Machine Learning Il Machine Learning (ML) è una branca dell’Informatica che studia macchine in grado di imparare senza essere esplicitamente programmate ed è quindi una sottoclasse della AI. Tali macchine sono in grado di portare a termine un compito senza l’uso di esplicite istruzioni, partendo da dati storici e ricorrendo a modelli e calcoli statistici. Si usano per diverse operazioni, come ad esempio la traduzione di testi, il riconoscimento di immagini, la previsione del prezzo di un determinato bene, la manutenzione predittiva. Il loro funzionamento, semplificando un po’, è il seguente: alla macchina vengono forniti dei dati di test, con i quali effettua il cosiddetto processo di apprendimento. A questo punto la macchina genera un set di regole, detto “learning model” con le quali successivamente può essere portato a termine un determinato compito. Il punto fondamentale è che le regole vengono create dalla macchina stessa, attraverso il processo di apprendimento, non dal programmatore. Vediamo un esempio: 3 - 9 4 - 16 8 - 64 9 - ? Che numero manca? Come si ricava 81? Questo è il processo di apprendimento, con cui la macchina “impara dai dati”. L’istruzione da compiere viene “appresa” direttamente compiendo operazioni sui

dati, non affidandosi ad un modello matematico prestabilito (in questo caso sarebbe bastata una semplice equazione). Le prestazioni, in genere, sono tanto migliori quanto più alto è il numero di campioni disponibili per l’apprendimento. La macchina individua eventuali regole presenti all’interno dei dati ed eventualmente migliora i risultati continuando ad apprendere continuamente dai nuovi dati. E’ facilmente intuibile come la bontà dei risultati dipenda principalmente dalla qualità dei dati con cui viene effettuato l’apprendimento, perciò molto spesso il processo di apprendimento è preceduto da una laboriosa fase di preparazione dei dati (“data cleaning”). Questo aspetto verrà approfondito più avanti. Una importante sottoclasse del ML, che merita di essere menzionata, è il Deep Learning (DL): si tratta di sistemi di ML basati su particolari modelli di apprendimento, dette “neural network”, che sono ispirati al funzionamento del cervello umano. Le “neural network” imitano le strutture e le funzioni dei neuroni, organizzando i dati grezzi per livelli, ciascuno dei quali realizza una astrazione del livello precedente. In un software per il riconoscimento di immagini, ad esempio, questa caratteristica consente di trovare dapprima i margini di una figura, poi la disposizione degli spigoli, poi le parti di un volto come il naso e gli occhi, infine di riconoscere che l’immagine rappresenta effettivamente un volto. La parola “deep” fa riferimento al numero di livelli in cui i dati vengono trasformati [11].

Figura 2: Struttura tipo di un progetto di ML10

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

Figura 3: Riconoscimento di un volto. Fonte: medium.com

Figura 4: L’autopilota della Tesla model 3 utilizza il deep learning per il riconoscimento di immagini. Fonte: electrek.co

Il Machine Learning utilizza tre principali paradigmi di apprendimento, che lo dividono in altrettante categorie:

1. Supervised Learning: il sistema riceve inizialmente dei dati di esempio su i quali basare il proprio compito. Ad esempio, se il compito è di riconoscere immagini di cani e gatti, vengono forniti al sistema immagini di cani e gatti con la relativa descrizione (label). Il sistema quindi formula, sulla base dei dati forniti, la regola per determinare se l’immagine mostra un cane o un gatto ed eventualmente la migliora in base a dei feedback successivi;

2. Unsupervised Learning: il sistema raggruppa autonomamente i dati in base a delle categorie che esso stesso individua. Questa modalità è molto utile quando vogliamo comprendere la struttura dei nostri dati, come ad esempio individuare un segmento di mercato o raggruppare i dati in categorie (ad es.: clustering);

3. Reinforcement Learning: il sistema riceve una “ricompensa” numerica ogni volta che si comporta correttamente. Questa modalità si applica quando vi sono da prendere decisioni sequenziali, in cui l’azione da compiere dipende dallo stato attuale del sistema e ne determina quello futuro. Una situazione che, ad esempio, nella gestione del traffico aereo, è molto ricorrente.

La Data Science e l’accesso ai dati La Data Science (DS) è un campo interdisciplinare che coniuga conoscenze derivanti dalla statistica, informatica, analisi e conoscenze settoriali [12]. Ha come obiettivo l’estrarre valore e informazioni dall’ampia varietà di dati disponibili oggi. L’oggetto della DS sono i cosiddetti “big data”: dati dal volume così grande da richiedere tecniche e metodi specifici per poter essere analizzati in un tempo ragionevole. Tipicamente i “big data” vengono generati e scambiati attraverso Internet da dispositivi connessi e relativi software (es. IoT, “Internet of Things”).

Figura 5: Esempio di supervised learning: riconoscimento di immagini per rilevare malattie funginee di una pianta in base a fotografie delle foglie.

11

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

Figura 6: Maturity assessment of selected aviation/ATM AI applications. Fonte: EUROCONTROL

C’è un legame molto stretto tra AI e DS: il successo della prima, come abbiamo visto, dipende drasticamente dai dati con cui viene effettuato il processo di apprendimento ma, al contrario, è possibile utilizzare le tecniche di ML già viste per analizzare, organizzare e strutturare i dati, producendo ulteriori dati di feedback e, in un certo senso, chiudendo il cerchio [13]. Quasi mai i dati sono adatti ad un utilizzo immediato. Mediamente la loro preparazione per l’AI (“data cleaning”) richiede fino al 60% del tempo dell’intero progetto [14]. L’accesso ai dati è un fattore chiave per liberare il pieno potenziale dell’AI per l’aviazione. In ambito europeo ed internazionale ci sono numerose iniziative che favoriscono la creazione di piattaforme di analisi collaborativa in cui soggetti pubblici e privati condividono dati e risultati. Un ulteriore aspetto da tenere presente è che l’AI richiede un’enorme potenza di calcolo e la richiesta è destinata ad aumentare nel tempo. La gestione collaborativa dei dati consente di suddividere la richiesta di potenza tra più soggetti e quindi di aumentare la potenza di calcolo complessiva disponibile. Alcuni esempi di piattaforme collaborative sono:

• Skywise (Airbus): piattaforma open data, nata per accelerare lo sviluppo dell’A350 e poi estesa a più di 140 compagnie aeree per la manutenzione predittiva [15];

• TopSky (Thales): piattaforma per l’aggregazione di dati operativi, pensata per l’ottimizzazione dei centri ATC. Ai clienti è offerta la possibilità di accedere a dati già preparati, così come di generare set di dati anonimi per la condivisione con terze parti [16];

• Data4Safety (EASA): programma di raccolta e analisi dei dati per sostenere il miglioramento della safety e la riduzione dell’impatto

ambientale [17];

• NM B2B Web Services: interfaccia web fornita dal Network Manager di Eurocontrol, con la quale è possibile scambiare informazioni rilevanti ai fini ATC a livello globale. Il NM B2B invia mensilmente diversi terabyte di dati a 239 organizzazioni in 45 paesi. Infine, merita di essere menzionata una iniziativa legislativa della Commissione Europea, il Data Governance Act (DGA) [18], che mira a creare un quadro normativo che faciliterà la condivisione dei dati. Si tratta di una proposta di legge presentata per la prima volta dal commissario europeo Margarethe Vestager il 25 Novembre 2020. Il DGA riguarda sia dati pubblici che privati, con l’obiettivo di condividere in modo sicuro dati sensibili detenuti da enti pubblici e di regolare la condivisione dei dati da parte di soggetti privati [19].

Applicazioni pratiche di AI e ML A qualcuno può ancora sembrare fantascienza, ma smartphone, auto, banche, abitazioni usano quotidianamente l’AI. Il nostro smartphone ci guida verso il distributore più vicino o ci suggerisce il percorso più breve quando scopre che abbiamo appena lasciato l’abitazione per recarci al lavoro. Un esempio meno scontato: la nostra banca ci avverte di una possibile frode riguardo movimenti sospetti sulla nostra carta di credito. Le macchine intelligenti sono ovunque ed hanno già un forte impatto nella nostra vita quotidiana. Il report “FLY-AI” elenca oltre 20 esempi di impiego di AI in aviazione. Nella figura in alto sono rappresentati con il relativo stato di maturità del progetto. Ne riportiamo alcuni, rinviando il lettore interessato ad approfondire gli altri direttamente nel report.

12

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

EUROCONTROL, presso il Maastricht Upper Area Control Centre (MUAC), sta conducendo il progetto TPI (Traffic Predictions Improvements), che mira a migliorare la previsione della traiettoria del traffico, nella prima fase sul piano orizzontale, successivamente anche nel profilo verticale e nel tempo, utilizzando una combinazione di dati ADS-B e metodi AI. I risultati mostrano un miglioramento dell’attendibilità della posizione prevista del traffico del 47% sul piano orizzontale e di oltre il 27% sul piano verticale, rispetto alle previsioni tradizionali, con benefici sia sulla previsione del carico dei settori, due ore prima dei voli, sia sulla gestione tattica fino a 30 minuti prima. Il NATS, ente gestore del traffico aereo del Regno Unito, all’aeroporto di Heathrow, sta utilizzando l’AI per ridurre i ritardi: mediante l’uso di telecamere Ultra-HD 4K e un algoritmo di AI, la piattaforma denominata AIMEE, sviluppata da Searidge Technologies, traccia i voli e informa il controllore sull’effettiva liberazione della pista, permettendo di decidere se autorizzare un successivo arrivo. In condizioni di scarsa visibilità ciò permette una riduzione dei ritardi e un aumento della capacità aeroportuale. Questo progetto fa parte di un investimento di 2,5 milioni di sterline che NATS ha impiegato per realizzare un “laboratorio di torre digitale” situato all’interno della torre di controllo di Heathrow. Nel laboratorio si testano un numero di applicazioni basate su AI e presto utilizzabili in campo operativo, ad esempio:

• uso delle telecamere per rilevare il punto di fuoriuscita del carrello in atterraggio. Il momento in cui esce il carrello viene collegato alla traccia radar per rilevare la posizione e proporre buone pratiche per ritardare l’uscita, pur in modo sicuro, e quindi ridurre la rumorosità degli arrivi;

• rilevamento automatico di FOD (detriti) in pista e sull’area di manovra;

• rilevamento delle fasi di turnaround di un volo (es. arrivo del camion rifornimento, collegamento del finger, ecc) tramite riconoscimento di immagini e relativo studio di ottimizzazione. Honeywell Forge è un tool basato su ML che consente alle compagnie aeree enormi risparmi sui costi di carburante. Il tool raccoglie, riordina, pulisce ed analizza una gran varietà di dati di compagnia, utili per effettuare una valutazione predittiva. I risultati ci sono già, come ad esempio

una riduzione dei ritardi e cancellazioni del 30%alla Cathay Pacific. I risparmi maggiori provengonodal minor uso di carburante, che sappiamoessere una delle maggiori fonti di costo perle compagnie, tuttavia al pilota vengono forniteuna gran quantità di altre informazioni utili permigliorare l’efficienza del volo, sia in rotta cheal suolo, come ad esempio l’opportunità dispegnere un motore durante il taxi e la via piùbreve per lo stand di parcheggio.

“Può ancora sembrare fantascienza, ma smartphone, auto, banche, abitazioni usano quotidianamente l’AI.”

Il GBAS (Ground-Based Augmentation System)è un sistema critico per la sicurezza dell’aviazionecivile che migliora, a livello dell’aeroporto, la posizionesatellitare fornita dalla costellazione GNSSprimaria, permettendo operazioni satellitari intutte le fasi di avvicinamento, atterraggio, partenzae al suolo, in particolare in condizioni di scarsavisibilità. Uno dei principali errori di misurazionedel GBAS-GNSS è il ritardo di propagazione attraversola ionosfera. Per superare questo problemaEUROCONTROL ha sviluppato un modello ionosferico,basato sui dati raccolti nell’ultimo decennio.Il rilevamento del gradiente della ionosfera ècomplesso e impegnativo: una quantità significativadi dati grezzi GNSS deve essere elaborata ele attuali tecniche di elaborazione forniscono ungran numero di gradienti “falsi” provenienti da artefattidi misura. L’applicazione di tecniche di MLè riuscita a superare questo problema, fornendouna classificazione tra gradienti di misurazioneveri e artefatti 3 volte migliore della tecnica dielaborazione tradizionale e migliorando quindi ilmodello della ionosfera e la precisione del GBAS.ACAS X è la generazione di sistemi anticollisione involo che gradualmente sostituirà gli attuali TCAS II(ACAS II), in corso di sviluppo sotto lo standardRTCA SC-147/EUROCAE WG-75 (in corso didefinizione).ACAS X estende le funzioni del TCAS II a categoriedi aeromobili che ne sono escluse come aviazionegenerale e UAS, inoltre è compatibile con i nuoviconcetti operativi SESAR e NextGen che fanno largouso di nuove tecnologie di sorveglianza basatesu satellite e ADS-B, che, riducendo lo spaziamento

13

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

del traffico, potrebbero generare un numero di falsi allarmi tale da rendere il TCAS II inutilizzabile. Il sistema ACAS X continuerà a basarsi solo sui transponder di bordo e utilizzerà le stesse antenne del TCAS II, tuttavia ha un cuore completamente basato su AI. ACAS X è basato su un modello probabilistico della posizione futura del traffico. Tale modello viene sviluppato offline mediante algoritmi di reinforced learning, in modo che il sistema run-time riesca ad individuare l’azione che genera i maggiori benefici (ad esempio una manovra di evitamento efficace dal punto di vista dei costi che permetta di mantenere la separazione).

cessità di progettare un’automazione “conforme” all’uomo oppure “trasparente” all’uomo. Oppure servono entrambe le caratteristiche? Per rispondere a queste domande, MAHALO svilupperà uno strumento di rilevamento e risoluzione dei conflitti basato sull’AI, in cui i livelli di conformità e trasparenza possono essere manipolati dai ricercatori. I controllori del traffico aereo, tra cui alcuni soci ANACNA, useranno lo strumento in scenari realistici, sperimentando diversi livelli di trasparenza e conformità. L’impatto sulla fiducia, l’accettazione, la comprensione del sistema e le prestazioni saranno misurate e saranno tratte conclusioni sul miglior compromesso tra questi due concetti.

“Il miglioramento della safety è stato storicamente ottenuto analizzando gli eventi accaduti in modo da evitare che si verifichino di nuovo.”

Le istruzioni ATC e le relative risposte sono perlopiùtrasmesse via voce in VHF. Ciò significa chei controllori fanno un sacco di input manuali permantenere i dati del sistema aggiornati (es. rerouting).In questo ambito il riconoscimento vocaleautomatico può offrire una valida alternativa,convertendo il discorso in testo da inserire nel sistema.Il progetto MALORCA (Machine Learningof Speech Recognition Models for ControllerAssistance), dal 2016 al 2018, ha prodotto unasoluzione a basso costo che adatta gli strumentidi riconoscimento vocale esistenti per l’uso inambito di aeroporto. I risultati hanno mostrato untasso di riconoscimento iniziale tra il 60% e l’80%.Sono stati poi forniti dei dati di input per migliorareil learning model, misurando la percentualedi riconoscimenti corretti all’aumentare dellaquantità di dati di apprendimento forniti. La curvadi apprendimento risultante si è stabilizzata tral’83% e il 92%, dimostrando la possibilità concretadi impiego di questi sistemi. Su Assistenza al Volon.1/2021 sono presentati diversi progetti (rilevamentoerrori di readback, riconoscimento nominativi,ecc.) basati su questa tecnologia, che apparemolto promettente.Il progetto MAHALO (Modern ATM via Human/AutomationLearning Optimisation)(http://mahaloproject.eu/), al quale partecipaattivamente anche ANACNA, si interroga sulla ne-

AI e la Safety L’aviazione fa parte delle cosiddette “High Reliability Organization” (HRO). La safety è una caratteristica fondamentale dell’aviazione ed è costruita grazie alle professionalità che vi operano e da decenni di evoluzione di sistemi, best practice e procedure. Con l’introduzione dell’AI, naturalmente, diventa essenziale mantenere, se non ulteriormente migliorare, i livelli di safety. Perciò c’è molta attenzione verso gli eventuali problemi emergenti dall’adozione di soluzioni basate su AI, che riguardano una moltitudine di fattori: livello di automazione/autonomia, livelli di garanzia del software, responsabilità, fattori umani, fiducia, etica, sicurezza informatica, formazione, licenze, gestione della qualità dei dati e processi e strumenti di verifica/validazione e riproducibilità. L’AI ha il potenziale per migliorare la safety, ma è possibile assicurare un risultato che, come abbiamo visto, è per sua natura di tipo probabilistico? Il miglioramento della safety è stato storicamente ottenuto analizzando gli eventi passati per evitare che si verifichino di nuovo. Talvolta la prova di risultati passati in termini di safety è difficile, perché non esistono dati storici sufficienti, nel qual caso ci si affida al giudizio di esperti. La digitalizzazione e l’AI aprono nuove possibilità, poiché enormi quantità di dati possono ora essere elaborate per identificare modelli di incidenti sconosciuti e il rilevamento precoce di “segnali deboli”. Numerosi progetti stanno esplorando i benefici dell’AI, in primo luogo, come nel caso del ACAS X, la possibilità di superare le performance degli attuali sistemi TCAS mediante l’uso di neural networks.

14

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

“Esiste una pressione sociale affinché l’uomo resti il controllore del sistema.”

Standardizzazione di sistemi basati su AIL’obiettivo della certificazione di un sistemaavionico è quello di fornire la certezza che il sistemasia corretto e sicuro per la funzione prevista. Perraggiungere una sufficiente fiducia nel sistema,l’attuale processo di certificazione di sistemi neprende in considerazione l’intero ciclo di vita, assicurandouna completa tracciabilità e la raccoltadi dati deterministici da ogni fase del ciclo di vita.Poiché l’IA, e in particolare il Machine Learning, sibasano sulla capacità della macchina di imparareda sola in modo automatizzato, c’è sicuramentebisogno di cambiare l’approccio con cui si affrontala loro certificazione.Per fornire i servizi di controllo del traffico aereo(ATC) un individuo deve possedere una licenzaATCO, conseguita in seguito ad un addestramentoiniziale seguito dall’addestramento nella propriaunità operativa. Allo stesso modo un pilotanecessita di una licenza per volare. Entrambi i percorsisi basano sulla dimostrazione di conoscenzee abilità attraverso 100+ ore di addestramentoe valutazione, anche con l’uso di simulatori. Perquanto riguarda i prodotti software basati su AI,la fase chiave è quella dell’apprendimento, dopola quale il software è in grado di prevedere gli outputper un set di input mai incontrato in precedenza.Un potenziale approccio di certificazionedel software potrebbe essere quello di utilizzaretecniche di formazione simili a quelle applicatealle licenze ATCO. Potrebbe essere richiestoal software, ad ogni modifica, di testare rapidamentel’intera gamma di output desiderati sia incondizioni nominali che anormali, prima di riportarloin operazioni.La creazione di uno standard di certificazione perimplementazioni AI in aviazione è l’obiettivo delgruppo di lavoro EUROCAE WG-114 (da breve unitoinsieme al gruppo di lavoro SAE G-34). Gli obiettividel gruppo di lavoro sono la pubblicazionedi una serie di rapporti tecnici per stabilire le preoccupazionirelative agli attuali standard industrialie selezionare, implementare e certificare latecnologia AI per l’uso con i sistemi aeronauticisia nei veicoli aerei che nei sistemi di terra.

Interfaccia uomo-macchina (HI-MI) e “spiegabilità” della AI L’impiego sempre maggiore di sistemi automatici porta con sé il rischio che, se vengono superate le capacità dell’uomo di supervisionare ed interagire con il sistema, il suo ruolo di controllore venga meno. D’altra parte, in molti casi, esiste anche una pressione sociale affinché l’uomo rimanga il controllore finale del sistema e portatore di responsabilità di ciò che accade. Si pensi ad esempio alle automobili a guida autonoma e all’accettabilità sociale di un eventuale incidente stradale causato da un’auto senza pilota. Come abbiamo visto, l’uomo ha molte capacità ma limitate (possiamo fare molte cose ma nessuna perfettamente) mentre la macchina ha poche capacità ma molto sviluppate (le macchine sono bravissime a svolgere una gamma limitata di compiti specifici). Questo suggerisce che i migliori risultati si possano ottenere laddove uomo e macchina riescono ad unire le forze in un sistema di tipo collaborativo [20], nel quale l’interfaccia uomo-macchina diventa cruciale. I sistemi basati su AI si possono suddividere in modelli “white box” e “black box”. I primi sono quelli i cui risultati sono comprensibili ad operatori esperti in un determinato dominio, i secondi sono quelli i cui risultati non sono comprensibili, nemmeno ai propri progettisti. Si definisce Explainable AI [21] (XAI, AI “spiegabile”) l’intelligenza artificiale ispirata ai principi di trasparenza, interpretabilità dei risultati e, appunto, “spiegabilità”. Non esiste ancora, per quest’ultima, una definizione comunemente accettata, tuttavia si fa riferimento al fatto che le cause che hanno contribuito, affinché il sistema prenda una determinata decisione, siano comprensibili. In tutti gli ambiti dove è necessario costruire una fiducia nei confronti delle decisioni prese dall’AI, il controllo del traffico aereo è naturalmente uno di questi, è necessario utilizzare la XAI, evitando quindi modelli di tipo “black box”. Il tema dell’inclusione o meno dell’operatore umano nel processo decisionale, noto come “human in command” (HIC) o “human in the loop” (HITL), è molto ampio, soprattutto quando si tratta di mantenere l’operatore all’interno del processo decisionale senza sacrificare eccessivamente le performance tipiche di un sistema automatico.

15

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

Come abbiamo visto, è anche, e soprattutto, un problema di interfaccia uomo-macchina, quindi molte volte la soluzione si può trovare ricorrendo a interfacce più evolute basate su AI, come le cosiddette interfacce “multi-modali”: riconoscimento vocale o delle espressioni facciali, monitoraggio del battito cardiaco, schermi touch e controlli di tipo “gesture” ne sono alcuni esempi. Nelle automobili più recenti, ad esempio, vi è un grande display touch-screen che, durante la marcia, rappresenta la strada così come è “vista” dal sistema di navigazione di bordo. Questo è un modo, semplice, veloce ed efficace, di mantenere la consapevolezza del guidatore sia su ciò che accade lungo il percorso, sia su come l’assistente alla guida sta interpretando la strada, il traffico, ecc., contemporaneamente generando fiducia nel comportamento della macchina e rendendolo, appunto, “spiegabile” [22].

“L’obiettivo della certificazione di un sistema avionico è quello di fornire la certezza che il sistema sia corretto e sicuro per la funzione prevista.”

Una roadmap per l’AI in EuropaQuale sarà il percorso che porterà a svilupparesistemi basati su AI nel settore dell’aviazione? Nelmese di Febbraio 2021, EASA ha pubblicato unaroadmap per l’AI in aviazione [23]. Lo scopo, oltre adiffondere la visione di EASA sullo sviluppo dell’AInel settore, è quello di creare una base di confrontocon tutti gli stakeholders coinvolti. La timelineproposta è molto incalzante, in quanto prevede ilrilascio delle prime certificazioni per applicazioniAI già nel 2025.

Figura 8: Roadmap EASA per lo sviluppo dell’AI. Fonte: easa.europa.eu

16

Assistenza Al Volo - ANNO XLVI - NUMERO 3/2021

“La timeline proposta è molto incalzante, in quanto prevede il rilascio delle prime certificazioni già nel 2025.”

ConclusioniAI e ML sono possibili grazie agli esseri umani chesviluppano, controllano e gestiscono la grandemole di dati che sono necessari alla loro implementazione.Inoltre è necessario comprendereapprofonditamente come vengono prese le decisionidagli algoritmi di AI e ML. Esse sono giàapplicate con successo in moltissimi settori e possonoessere usate in molti modi.AI e ML non prenderanno il posto dei controllori deltraffico aereo umani, ma cambieranno il modo incui lavorano, supportando il processo decisionalee migliorando la Safety, aumentando l’efficienzadel sistema ATM e risolvendo i problemi di capacitàche dovessero aver luogo nel mondo.L’interazione uomo-macchina dovrebbe trovareil “meglio dei due mondi” e far si che la macchinasia una valida “spalla” per supportare gli esseriumani, anziché un rivale.La responsabilità condivisa tra i programmatorie gli sviluppatori di AI e gli utenti finali, cioè gliATCO, è un aspetto cruciale e necessita di essereapprofondito, così come la certificazione dei nuovisistemi.

Note:

[1]

https://ec.europa.eu/programmes/horizon2020/en/home

[2]

https://digital-strategy.ec.europa.eu/en/policies/european-ai-alliance

[3]

https://www.eurocontrol.int/sites/default/files/2020-03/eurocontrol-fly-aireport-032020.pdf

[4]

DigitATMisation

http://www.ifatca.org/digitalisation-inair-traffic-management/

[5]

In particolare un working paper ARTIFICIAL INTELLIGENCE AND

MACHINE LEARNING IN ATC presentato alla 59a Conferenza Annuale IFAT-

CA a Singapore, da cui questo articolo trae molti riferimenti.

[6]

IATA – 20 Year Passenger Forecast, www.iata.org/publications, Oct

2018

[7]

George F. Ludger (2009). Artificial Intelligence - Structures and

strategies for complex problem solving. 5th Edition, Pearson.

[8]

Pensate di essere in chat con una persona: che domande potreste

farle per scoprire se è veramente lei a scrivere oppure un’altra? E se a rispondere

fosse invece un computer? In quel caso si potrebbe dire che tale

computer supera il Test di Turing.

[9]

Lo stesso fondatore della AI, John McCarty, lo scriveva nel 1950.

McCarthy, John, “Basic Questions”. Stanford University.

[10]

HUMAN-MACHINE INTELLIGENCE INTERACTION IN AVIATION

Aysen K. Taylor T. Steven Cotter Old Dominion University Systems Engineering

and Research Building Norfolk, VA 23529

[11]

https://www.ai4business.it/intelligenza-artificiale/deep-learning/

[12]

http://brenocon.com/Cleveland1991DataScience.pdf

[13]

https://enterprisersproject.com/article/2019/10/how-big-data-andai-worktogether

[14] https://www.eurocontrol.int/sites/default/files/2020-03/eurocontrol-fly-aireport-032020.pdf, pag 23 [15] https://skywise.airbus.com/ [16] https://www.thalesgroup.com/en/topsky-atc [17] https://www.easa.europa.eu/newsroom-and-events/news/data- 4safety-partnershipdata-driven-aviation-safety-analysis-europe [18] https://en.wikipedia.org/wiki/Data_Governance_Act [19] la regolamentazione della condivisione di dati da parte di enti pubblici è già normata dalla “Open Data Directive” Direttiva EU 2019/1024 entrata in vigore il 16 Luglio 2019 [20] Un approccio simile si definisce “MABA-MABA” (men are best at-machine are best at) e punta a raccogliere il meglio tra i due domini. [21] https://en.wikipedia.org/wiki/Explainable_artificial_intelligence [22] Carsten, Oliver & Martens, Marieke. (2019). How can humans understand their automated cars? HMI principles, problems and solutions. Cognition, Technology & Work. [23] https://www.easa.europa.eu/sites/default/files/dfu/EASA-AI-Roadmapv1.0.pdf

17