Abbiamo già spiegato come un’auto a guida autonoma percepisce il mondo — la fase di percezione che costruisce un modello in tempo reale di tutto ciò che circonda il veicolo. Quel modello, per quanto accurato, da solo è inutile: deve essere trasformato in una decisione, ripetutamente, più volte al secondo. Questo è il secondo stadio della pipeline percepire, pensare, agire che ogni veicolo automatizzato attraversa, ed è probabilmente il più difficile, perché “pensare” per un’auto significa prevedere cosa stanno per fare esseri umani imprevedibili, poi scegliere un’azione che un tribunale potrebbe in seguito chiedere di giustificare.
Da oggetti a una storia: la previsione
La percezione consegna allo stadio “pensare” un elenco di oggetti — auto, ciclisti, pedoni — ciascuno con una posizione e una velocità. Questa è un’istantanea, non un piano, e un’auto non può agire su un’istantanea: deve sapere dove sta andando quel ciclista, non solo dove si trova in questo momento. La previsione del comportamento prende la storia recente del movimento e il contesto — quel pedone sta guardando il telefono, l’indicatore di quell’auto è acceso, siamo in una zona scolastica alle 15 — e proietta in avanti diversi scenari plausibili per i prossimi secondi, per ogni attore sulla strada simultaneamente. I guidatori umani fanno una versione di questo istintivamente e in continuazione; codificarlo in un sistema che deve avere ragione quasi sempre, ed essere sicuro nelle rare occasioni in cui sbaglia, è gran parte di ciò che rende difficile la decisione automatizzata.
Dalla previsione a un percorso: la pianificazione
Una volta che l’auto ha un futuro previsto per tutti gli altri sulla strada, la pianificazione del percorso genera la traiettoria del veicolo stesso attraverso quel futuro previsto: una linea fluida, fisicamente percorribile, che raggiunge la destinazione mantenendo un margine di sicurezza rispetto al percorso previsto di ogni altro attore, rispettando il codice della strada, e restando confortevole per chi è a bordo. La pianificazione deve avvenire in continuazione, perché ognuna di quelle previsioni sugli altri utenti della strada viene rivista man mano che arrivano nuovi dati dai sensori, il che significa che il percorso pianificato dell’auto viene silenziosamente ricalcolato di continuo, non deciso una sola volta per manovra.
Il problema della scatola nera
I moderni sistemi di pianificazione e previsione si affidano sempre più a modelli di deep learning addestrati su enormi dataset di guida, e sono, in termini strettamente misurabili, estremamente bravi in questo — ma il ragionamento interno di una rete neurale è notoriamente difficile da spiegare pienamente anche per i suoi stessi ingegneri. Questo è un problema serio nel momento in cui un’auto a guida autonoma è coinvolta in un incidente: un regolatore, un’assicurazione o un tribunale prima o poi chiederanno perché l’auto ha frenato, sterzato, o non l’ha fatto, e “il modello ha pesato queste caratteristiche in questo modo” raramente è una risposta accettabile da sola. Questo ha spinto un intero campo di ricerca, l’Explainable AI (XAI), specificamente dentro la guida autonoma: l’obiettivo non è solo una decisione accurata, ma una il cui ragionamento possa essere ricostruito e difeso a posteriori.
Dove punta lo stato dell’arte: la ricerca UE sulla decisione affidabile
Tre parti genuinamente diverse di questo problema sono ciascuna oggetto di ricerca dedicata finanziata dall’UE. AIthena (2022-2025, €6,00M, coordinato da Vicomtech in Spagna, Horizon Europe partenariato CCAM) sta costruendo Explainable AI specificamente per lo sviluppo e il test della CCAM, studiando l’interpretabilità a livello di dati, modello e output affinché l’AI di un’auto a guida autonoma possa essere fidata e verificata invece di essere trattata come una scatola nera inspiegabile che produce risultati “migliori dell’uomo” di cui nessuno può rendere conto. interACT (2017-2020, €5,53M, coordinato da DLR, il Centro Aerospaziale Tedesco) ha affrontato un divario diverso: i veicoli automatizzati sono bravi a rilevare ostacoli, ma storicamente disastrosi nel comunicare le proprie intenzioni agli umani attorno a loro, così interACT ha studiato come un veicolo autonomo dovrebbe interpretare i segnali impliciti emessi dagli altri utenti della strada — e come dovrebbe segnalare la propria prossima mossa a loro — specificamente per il traffico misto in cui veicoli automatizzati e a guida umana condividono la strada. Anche il lato puramente algoritmico del “pensare” ha la sua ricerca dedicata: EMP (2019-2021, €2,49M, sviluppato dall’azienda svizzera specializzata in motion planning Embotech), finanziato tramite lo strumento EIC per le PMI, ha portato nell’uso automotive un motore di pianificazione del movimento deterministico e basato sulla fisica, già collaudato in aerospaziale e robotica industriale, generando traiettorie certificabili in tempo reale — per manovre che vanno dal parcheggio con valet al pilota autostradale e urbano — capaci di girare su centraline automotive standard invece dell’hardware specializzato che un software di pianificazione simile aveva richiesto in passato. È lo strato che trasforma una scena prevista e una manovra scelta in un percorso reale, percorribile.
Perché conta più della scheda tecnica
Un veicolo autonomo che percepisce perfettamente ma decide male non è significativamente più sicuro di uno con sensori peggiori ma giudizio migliore — motivo per cui questo stadio, non le specifiche grezze dei sensori, è dove si trova la maggior parte del divario rimanente verso una guida di Livello 4 davvero affidabile. Una volta presa una decisione, però, deve ancora diventare un comando reale di sterzata, frenata o accelerazione che l’hardware dell’auto possa eseguire in sicurezza — ed è l’ultimo pezzo della pipeline, in arrivo nel prossimo articolo.
Foto: © Car-Shooters