Sei nella sezione Scienza   -> Categoria:  Tecnologia  
La pandemia ha eluso i sistemi predittivi di intelligenza artificiale

La pandemia ha eluso i sistemi predittivi di intelligenza artificiale
Autore: Luca Sambucci - Redazione Nuove Tecnologie
Data: 16/05/2020

Quasi di colpo l’intera popolazione di un Paese (e successivamente di molti altri Paesi e interi continenti) smette di andare al cinema, di cenare al ristorante, non fa quasi più carburante, usa molte più ore di Internet e cerca di acquistare online mascherine chirurgiche a iosa, guanti in lattice e cuffie con microfono.

I modelli di machine learning che fino a quel momento cercavano di prevedere i nostri acquisti, i nostri comportamenti e magari di influenzare le nostre abitudini iniziano a sbagliare tutto. Non comprendono quello che succede (a essere pignoli non lo “comprendevano” neanche prima, ma almeno riuscivano a prevederlo) e diventano di colpo inutili, dannosi, o perlomeno inaffidabili.

La pandemia ha mostrato tutta la fragilità di certi modelli di machine learning, che non sono abituati a gestire cambiamenti repentini dopo anni di variazioni graduali. Chi può ha messo mano al codice inserendo modifiche e correzioni manuali, ma non tutti sono in grado di farlo: molte aziende acquistano soluzioni di intelligenza artificiale senza avere poi al loro interno personale con le competenze necessarie per gestirle. E se lasciate incontrollate alcune automazioni – pensiamo alla finanza, alla logistica o agli acquisti – possono causare danni economici non indifferenti. Come ad esempio i sistemi che effettuano ordini automatici di materie prime deperibili, per la lavorazione o la rivendita, anche là dove invece (e gli umani questo già lo sanno) le vendite si stanno per fermare e lo resteranno a lungo. Se lasciata senza controllo l’AI rischia di riempire un magazzino di prodotti che andranno a male senza essere mai venduti.

I modelli predittivi hanno fallito il loro primo vero appuntamento con un cambiamento epocale – certo, di quelli che si trovano solo nei libri di storia – e nel settore dell’intelligenza artificiale questi problemi non sono presi sottogamba. Sappiamo tutti che il machine learning lavora con i dati che gli vengono forniti e non ha la capacità che abbiamo noi umani di prendere un’informazione in un certo ambito (“si sta diffondendo un virus che creerà un’epidemia”) e applicarla a un ambito completamente diverso (“devo disdire il viaggio del mese prossimo”, oppure “la prossima settimana non ci sarà bisogno di ordinare tutto quel cibo per il mio ristorante”).

Ma questa débâcle non fa che dare linfa a chi oggi si batte per ridurre l’importanza del deep learning “spinto”, arricchendolo (o condizionandolo) con elementi simbolici, conoscenze già acquisite che integrino ragionamento e intuizione per “guidare” le reti neurali, cercando di far loro evitare aberrazioni e stranezze.

Chi però secondo me ha colto nel segno uno degli aspetti principali del problema è Thomas G. Dietterich, professore emerito presso la Oregon State University ed ex presidente della Association for the Advancement of Artificial Intelligence (AAAI), che in un tweet di risposta al thread di Gary Marcus ha evidenziato come una delle caratteristiche di un sistema di machine learning dovrebbe essere quella di segnalare episodi troppo anomali. Una spia che dovrebbe far dire al modello “attenzione, qualcosa di grosso mi ha portato fuori strada: non sono più affidabile“.

To paraphrase you seem to be suggesting that "we are almost on the verge of having human-level (or maybe even surpassing) AI. Just that a one or two more ingredients are missing, that's it!." Reality seems very far from it atleast to novices like me.

 

Oh no. I don't mean to imply that. We ARE seeing ML systems break when the data distribution changes. But these changes should also be detectable so that the ML system can at least raise an alarm to say "I'm no longer trustworthy" 1/

Visualizza altri Tweet di Thomas G. Dietterich

 

Con un segnale del genere da parte del modello si potrebbero attivare tutta una serie di azioni, come un blocco delle procedure automatiche, un avviso ai controllori umani e magari una prima analisi su quali siano i dati che il sistema ritiene così divergenti da aver generato un’eccezione.

Ma al di là di questo campanello d’allarme, i “singhiozzi” che molti modelli predittivi hanno avuto durante i primi giorni o le prime settimane di pandemia devono far riflettere chi, come spesso accade, cerca di semplificare l’intelligenza artificiale o l’automazione come soluzione chiavi-in-mano. Come mi piace ricordare a chi ogni tanto mi chiede una definizione, se è artificiale non è intelligente.

La vera intelligenza artificiale è un’aspirazione, un concetto in fieri, ne parliamo tanto ma non ci siamo ancora arrivati. I sistemi attuali non generalizzano e non capiscono causa ed effetto. Non abbiamo una intelligenza artificiale che legge le notizie, che deriva informazioni da varie fonti e che riesce a metterle insieme, comprendendo intimamente quello che sta succedendo. Ma anche se riuscisse a farlo, avere un software che prende decisioni innovative basandosi su questa mole di informazioni, così diverse, variegate e non strutturate, è di per sé un altro scoglio che ancora non siamo riusciti a superare. Nel caso poi ci riuscissimo, avremmo creato una intelligenza artificiale generale, o “forte”, di quelle che vediamo nei film di fantascienza. E in quel caso gli scenari cambierebbero radicalmente e per sempre, altro che pandemia.

L’autore: Luca Sambucci:

Dopo la laurea in Management ha conseguito una specializzazione in Business Analytics a Wharton e una certificazione Artificial Intelligence Professional da IBM. E’ socio fondatore del chapter italiano di Internet Society, membro dell’Associazione Italiana esperti in Infrastrutture Critiche (AIIC), della Association for the Advancement of Artificial Intelligence (AAAI) e dell’Associazione Italiana per l’Intelligenza Artificiale (AIxIA). Partecipa ai lavori della European AI Alliance della Commissione Europea e del Consultation Forum for Sustainable Energy in the Defence and Security Sector della European Defence Agency.

Abbiamo stipulato un accordo con l’autore, Luca Sambucci, per la diffusione dei suoi articoli. L’articolo originale si trova al seguente link: Notizie.ai




Cosa ne pensi?
Login
Inserisci il tuo username e la tua password per loggarti.
Username:


Password:

Remember me:

Non sei ancora iscritto?
Diventa subito uno sComunicato!

Dimenticata la password?
Clicca qui



aaaa

Per commentare l'articolo occorre essere loggati e rispettare la netiquette del sito.


Se sei registrato effettua il login dal box qui a sinistra.

Se ancora non sei registrato fallo cliccando qui
I commenti:

Commento 1)
La redazione ed il direttore hanno piacere di rispondere ai commenti dei nostri lettori. Facci sapere cosa ne pensi dell'articolo. La tua opinione è per noi importante.

Commento di: emilia.urso Ip:83.73.103.204 Voto: 7 Data 28/10/2020 12:41:52

Sei iscritto su Facebook, Twitter o G+?
Commenta e condividi l'articolo direttamente.

Login
Inserisci il tuo username e la tua password per loggarti.

Username:


Password:

Remember me:

Non sei ancora iscritto?
Diventa subito uno sComunicato!

Dimenticata la password?
Clicca qui

 
Iscrizione newsletter
Inserisci il tuo indirizzo email

Vuoi cancellarti?
Clicca qui
 
 
Search
Ricerca articolo
Ricerca
Dove
Da data
A Data:
Tipo ricerca:
Almeno una parola

Tutte le parole
 
 
Petizioni
Facciamo sentire la nostra voce
Dimettiamoci dalla carica di Cittadini Italiani

Cos'è uno Stato senza i cittadini? Nulla. Cosa sono i cittadini senza lo Stato? La risposta la conosciamo tutti, perchè lo Stato italiano palesemente, sta lasciando alla deriva la motivazione fondamentale della sua stessa esistenz



Data:10/08/2013
Categoria:Politica e Governo
Obbiettivo:50000 firme

 
Correlati in Tecnologia

Autore: Luca Sambucci - Redazione Nuove Tecnologie
Data: 23/05/2020
Ecco come un modello di deep learning “vede” il malware

I risultati, come sempre accade nella sicurezza informatica, variano a seconda di quanta sensibilità si vuole assegnare al classificatore. 

Leggi l'articolo

Autore: Luca Sambucci - Redazione Nuove Tecnologie
Data: 22/05/2020
Il numero dell’AI: la ricerca di una metrica universale

Vita e lavoro sono spesso scandite da alcune metriche che, giuste o sbagliate che siano, misurano la progressione, la crescita (o decrescita) rispetto a un determinato periodo. 

Leggi l'articolo

Autore: Marco Ferrario e Sara Antonelli - Redazione Nuov
Data: 13/05/2020
Amazon annuncia il lancio del Nuovo Fire HD 8

Il nuovo tablet Fire HD 8 presenta caratteristiche che tutti in famiglia apprezzano: contenuti di qualità, maggiore spazio di archiviazione, maggiore durata della batteria, il tutto a un prezzo incredibilmente conveniente

Leggi l'articolo

Autore: Luca Sambucci - Redazione Nuove Tecnologie
Data: 14/05/2020
L’intelligenza artificiale in Italia: intervista a Emanuela Girardi

Ho nuovamente parlato con Emanuela Girardi, Founder POP AI e Membro del Direttivo di AIxIA, l’Associazione Italiana per l’Intelligenza Artificiale, per fare il punto sullo stato dell’AI in Italia.

Leggi l'articolo
GERENZA: Gli Scomunicati - L'informazione per chi non ha paura e chi ne ha troppa - PluriSet timanale nazionale - Reg. Tribunale di Roma N° 3 del 21 Gennaio 2014
Testata ideata e diretta da Emilia Urso Anfuso. Note legali.  Per informazioni commerciali e per entrare in contatto con la redazione potete chiamare lo 06 92938726 (Tel. e Fax) -