Noi umani siamo insaziabilmente curiosi. Sin dagli albori della storia, ci poniamo domande riguardanti le nostre origini e il destino finale: “Da dove provengo? Dove sto andando?”. 

L’importanza di queste domande è ovvia e, mentre la risposta alla prima modella la concezione di chi siamo, la seconda ci fornisce gli obiettivi per cui vivere. Prese assieme, le risposte a queste domande fissano la nostra visione del mondo, la narrazione che dà significato alla nostra esistenza.

Il problema è che queste non sono domande semplici, e ce ne rendiamo conto dal fatto che vengono fornite molte risposte, spesso contraddittorie. Ma questo non ha rappresentato per gli uomini un ostacolo poiché, nel corso dei secoli, sono state formulate risposte suggerite dalla scienza, dalla filosofia, dalla religione, dalla politica, etc.

Due dei più famosi scenari futuristici sono descritti nei romanzi Il mondo nuovo, di Aldous Huxley (pubblicato nel 1931), e 1984, di George Orwell (pubblicato nel 1949).

Entrambi i libri sono stati considerati, in tempi diversi, molto influenti: per esempio, nel 2005, la rivista Time, ha inserito 1984 nell’elenco dei cento migliori romanzi in lingua inglese pubblicati fra il 1923 e il 2005. Entrambi i racconti sono distopici, infatti, secondo la definizione dell’Oxford English Dictionary, essi “descrivono un luogo o una condizione immaginaria che è la più brutta possibile”, in quanto “si prefigurano situazioni, sviluppi, assetti politico-sociali e tecnologici altamente negativi”. In ogni caso, gli scenari assai inquietanti che sono descritti nei due romanzi risultano tutt’altro che simili e le loro differenze, sulle quali torneremo in seguito, sono state brevemente spiegate dal sociologo Neil Postman:

Orwell immagina che saremo sopraffatti da un dittatore. Nella visione di Huxley non sarà il Grande Fratello a toglierci l’autonomia, e a privarci della cultura e della storia. La gente sarà felice di essere oppressa e adorerà la tecnologia che libera dalla fatica di pensare.

Orwell temeva che i libri sarebbero stati banditi; Huxley, non che i libri fossero vietati, ma che non ci fosse più nessuno desideroso di leggerli. Orwell temeva quelli che ci avrebbero privato delle informazioni; Huxley, quelli che ce ne avrebbero fornite troppe, fino a ridurci alla passività e all’egoismo. Orwell temeva che la verità sarebbe stata manipolata; Huxley che la verità sarebbe diventata irrilevante. Orwell temeva che la nostra sarebbe stata una civiltà di schiavi; Huxley, che sarebbe stata una cultura di cialtroni…In breve, Orwell temeva che saremmo stati distrutti da ciò che odiamo, Huxley, da ciò che amiamo.

Orwell ha introdotto le idee di una sorveglianza a tappeto in uno stato totalitario, di “controllo mentale” e di una “neolingua”; oggi queste si legano sempre più allo sviluppo dell’intelligenza artificiale, soprattutto con il tentativo di elaborare una tecnologia informatica in grado di replicare le potenzialità della mente umana attraverso lo sviluppo di una mente imitativa. Non sorprende, infatti, che vengano investiti miliardi di dollari nella ricerca di sistemi di IA, poiché c’è un grande interesse su dove tutto questo porterà. Per esempio, da un lato, il miglioramento della qualità della vita in virtù dell’assistenza digitale, dell’innovazione medica e del potenziamento umano, mentre dall’altro ci sono i timori per la perdita di posti di lavoro e la comparsa di uno scenario orwelliano legato a una capillare sorveglianza delle società.

Molti dei traguardi raggiunti finora nel campo dell’IA sono riconducibili alla costruzione di sistemi in grado di fare una sola cosa che, di norma, richiederebbe comunque l’uso dell’intelligenza umana. Ma il lato che si presta maggiormente alla speculazione (al momento) è quello della ricerca, molto più ambiziosa, tesa ad approntare sistemi in grado di fare tutto ciò che è prerogativa dell’intelligenza umana, vale a dire una Intelligenza Artificiale Generale che, sostengono alcuni, sorpasserà l’intelligenza umana in un tempo relativamente breve, intorno al 2084 o forse prima. Alcuni ritengono che l’Intelligenza Artificiale Generale, se mai ci arriveremo, agirà come un dio, mentre altri intravedono in essa l’immagine di un despota totalitario.

Che cos’è l’Intelligenza Artificiale?

Prendiamo in considerazione i robot. La parola robot deriva da robota, una parola ceca (e russa) che significa lavoro. Un robot è una macchina progettata e programmata da un’intelligenza umana per assolvere, in linea di massima, un singolo compito che, normalmente, dovrebbe svolgere un essere umano intelligente. In questo senso, il comportamento del robot simula l’intelligenza umana, circostanza che ha fatto sorgere un importante dibattito sull’opportunità di considerare o no il robot “intelligente”, anche se quell’intelligenza non è ciò che noi intendiamo quando pensiamo alle capacità cognitive dell’essere umano (ma questa è già, di per sé, un’altra questione).

Il termine “IA” fu coniato, nel 1956, durante un campus estivo tenutosi nel dipartimento di matematica della Dartmouth University organizzato da John McCarthy, il quale affermò che: “L’IA è il lavoro scientifico e ingegneristico volto a creare macchine intelligenti”.  Il termine ora viene usato per descrivere sia le macchine intelligenti sia le conoscenze scientifiche e tecnologiche che mirano alla costruzione di quest’ultime.

La ricerca in quest’area si sviluppa lungo due direttrici principali: in generale, la prima coincide con il tentativo di comprendere i processi del pensiero e del ragionamento umani mediante modelli generati al computer. La seconda si concretizza nello studio del comportamento umano e nel tentativo di costruire delle macchine in grado di imitarlo. La differenza è sostanziale: una cosa è creare una macchina capace di “simulare” una mano umana che alza un oggetto, altra cosa è creare una macchina che sia in grado di replicare i pensieri di un essere umano mentre alza un oggetto. È molto più facile creare la prima rispetto alla seconda e, se l’utilità è l’obiettivo cui si tende, la simulazione è ciò cui dobbiamo mirare. Facciamo un esempio: l’industria aeronautica è tesa alla realizzazione di macchinari che volano, ma non implica la costruzione di un cervello elettronico simile a quello di un uccello affinché l’aereo voli esattamente come farebbero gli uccelli, vale a dire battendo le ali.

I primi robot e i primi sistemi di intelligenza artificiale erano sprovvisti di ciò che chiamiamo “apprendimento automatico”, alla cui base c’è l’idea dell’algoritmo che può essere di vario tipo (simbolico, matematico, etc.…).

Oggi un algoritmo viene definito come “procedimento di calcolo esplicito e descrivibile con un numero finito di regole che conduce al risultato dopo un numero finito di operazioni, cioè di applicazioni delle regole […] insieme di istruzioni che deve essere applicato per eseguire un’elaborazione o risolvere un problema”.  Il concetto stesso di algoritmo viene fatto risalire, però, ai tempi dell’antica Babilonia (1800-1600 a.C.) e l’eminente informatico Donald Knuth della Stanford University, pubblicando questi algoritmi babilonesi, affermò che “i calcoli descritti nelle tavolette babilonesi non sono propriamente delle soluzioni a problemi individuali specifici, ma si tratta di procedure generali per risolvere una intera categoria di problemi”.  Questa è la caratteristica principale di un algoritmo: quando se ne comprende l’operatività, lo si può usare per risolvere intere classi di problemi e non solamente uno.

Come cambia la nostra vita?

Facciamo degli esempi di sistemi di IA, alcuni dei quali già noti al grande pubblico:

• Amazon usa algoritmi che tracciano tutti i prodotti che milioni di persone comprano online. Analizzando questo enorme database, vengono confrontate le liste dei nostri acquisti con prodotti simili che ancora non possediamo. Di fatto, gli algoritmi usano metodi statistici per selezionare quei prodotti acquistati da persone “come te” e finiscono per essere evidenziati durante la nostra navigazione.

• Un algoritmo informatico può vagliare un database composto da candidature di lavoro e suggerire gli individui più adatti per una determinata posizione lavorativa. Sono soggetti all’analisi da parte di intelligenze artificiali soprattutto quei posti di lavori che richiamano il maggior numero di candidati: l’IA conduce i primi colloqui nei quali non si limita a registrare i dati del candidato, le sue risposte alle domande, ma anche le sue reazioni emotive che vengono filmate e analizzate per determinare l’esisto di quello specifico colloquio.

• L’IA viene impiegata con successo nella progettazione di edifici più efficienti dal punto di vista energetico, di elettrodomestici connessi con “l’internet delle cose”, e di sistemi di trasporto integrati.

• I sistemi di Intelligenza Artificiale sono già adoperati in campo medico attraverso l’analisi di database riguardanti migliaia di lastre ai polmoni (per avere uno storico dei differenti stati clinici in cui i polmoni possono trovarsi), e fornendo anche una analisi medica professionale sullo stato di salute dei polmoni stessi. Il sistema confronta le lastre dei vostri polmoni con quelle presenti nel database per capire se siete affetti da una determinata malattia. Più precisamente, il sistema tende a creare delle statistiche a partire dal modello visivo dell’immagine ai raggi x e lo confronta con altri modelli estratti dal database. Questo tipo di sistemi, in certi casi, può effettuare delle diagnosi più accurate rispetto a quelle dei medici in carne e ossa.

• I veicoli a guida autonoma, essendo macchine non coscienti, hanno generato, fin da subito, problemi etici legati ai principi con i quali vengono programmati, soprattutto riguardo a ciò che questi veicoli dovrebbero cercare di evitare. È interessante notare che i sistemi di auto pilotaggio degli aerei non sono completamente autonomi, questo perché le compagnie aeree non si assumono un simile rischio in quanto, in caso di disastro aereo, ci sarebbero ben pochi dubbi su chi ricada la responsabilità, malgrado il sistema abbia agito in modo da far morire alcune persone per salvarne altre.

• I sistemi di riconoscimento facciale sono molto sviluppati. Un’applicazione piuttosto divertente è l’uso della tecnologia di riconoscimento facciale mediante IA in un pub per individuare chi sarà il prossimo a essere servito al bancone per poter, quindi, evitare il fenomeno dei furbetti che saltano la fila. Oggi le telecamere a circuito chiuso sono molto diffuse e servono alle forze di polizia per controllare le attività criminali. Ma questo tipo di sorveglianza può essere usato anche come forma di controllo sociale; vedremo in seguito le maggiori implicazioni etiche che scaturiscono dall’utilizzo di queste applicazioni.

• I sistemi di armi autonome, cioè in grado di scegliere e attaccare l’obiettivo autonomamente, hanno sollevato notevoli problemi etici e sono oggetto di acceso dibattito a livello internazionale.

Il problema che dobbiamo porci

Questa breve lista è sufficiente per capire come questi progressi tecnologici facciano sorgere dilemmi etici che vanno dalla condotta in campo finanziario al controllo sociale e della privacy. Il pericolo che s’intravede è quello dell’affermazione di una mentalità in forza della quale, se qualcosa può essere fatto allora deve essere fatto, trascurando la necessaria riflessione sui risvolti etici che una tale scelta comporta. Ad ogni modo, va riconosciuto che le questioni etiche occupano un’importanza sempre maggiore per chi è coinvolto nello sviluppo dell’IA. Una, in modo particolare, è rappresentata da una questione di ordine preliminare: come si può inserire la dimensione etica e morale in un algoritmo che, di per sé, è privo di cuore, anima e mente?

Articolo Tratto da
2084