Profilo utente

Se un sistema di “intelligenza artificiale” è in grado di tradurre quello che scriviamo, perché non sostenere che sia anche in grado di comprenderlo? Se può identificare un singolo individuo o classificarne correttamente alcuni tratti somatici, perché non sostenere che sia in grado altresì di riconoscere un ladro o un bravo lavoratore dalle loro fattezze esteriori o un malato di mente dalla voce? Perché non trasformare un sistema statistico, grazie alla polvere magica dell’“intelligenza artificiale”, in un oracolo in grado di prevedere i futuri reati di ogni individuo o il futuro rendimento scolastico di ogni singolo studente?

— Dieci miti sull'intelligenza artificiale. di Daniela Tafani (Pagina 24)

Il misterianesimo è l’idea secondo cui la cognizione umana, la mente, non possa essere compresa. Prendere questo concetto e applicarlo a meccanismi noti — sostenendo, ad esempio, che non sappiamo come funzionino sistemi ingegnerizzati, come le reti neurali artificiali (ANN), o che essi costituiscano delle scatole nere che possiamo aprire solo con difficoltà — è, nel migliore dei casi, inappropriato e, nel peggiore, malizioso. Conosciamo bene la struttura meccanicistica di tali modelli, poiché siamo stati noi a progettarli e a costruirli. (Guest, Nuñez Hernández, Blokpoel 2026)

— Dieci miti sull'intelligenza artificiale. di Daniela Tafani (Pagina 22)

In virtù della loro natura probabilistica, i sistemi di apprendimento automatico sono fragili: tracciando correlazioni statistiche di ogni genere – senza una com- prensione del loro significato o contesto – sono, per gli esseri umani che li utiliz- zano, sensibili a elementi irrilevanti e soggetti a esiti imprevedibili e assurdi, oltre che vulnerabili a attacchi avversari non rilevabili. Non si tratta, in senso stretto, di errori. Un sistema di apprendimento automatico per la “visione” fa la stessa cosa (costruisce modelli tracciando correlazioni tra gruppi di pixel) sia quando classifi- ca correttamente l’immagine di un aereo, sia quando, in virtù dell’alterazione di un singolo pixel, classifica la medesima immagine dell’aereo come “gatto”: in entram- bi i casi, fa qualcosa di completamente diverso da ciò che facciamo noi quando riconosciamo un aereo in una foto.

— Dieci miti sull'intelligenza artificiale. di Daniela Tafani (Pagina 21)

La tendenza all’antropomorfismo costituisce, della concezione magica dell’intelligenza artificiale, l’elemento spontaneo. Il pensiero magico può tuttavia presentarsi, al tempo stesso, come accade per altre manifestazioni della credulità popolare, come effetto di un’impostura: può cioè essere alimentato attraverso un inganno deliberato, per il conseguimento di specifici fini, pubblici o privati. La tendenza spontanea ad antropomorfizzare gli oggetti della tecnologia è sfruttata dalle aziende – e assecondata da alcuni governi – per indurre la convinzione che i loro prodotti siano in grado di comprendere, conoscere, consigliare o giudicare in senso proprio; correlativamente, il cervello è assimilato a un computer, gli esseri umani a macchine e i volti delle persone a codici a barre, così da giustificare il fatto che le persone siano effettivamente trattate come cose, nei processi in cui si decidono le loro sorti sulla base di statistiche automatizzate, a partire da etichette e collezioni di dati che – a qualsiasi titolo e pur senza alcun riferimento a contesti e significati – li riguardino.

— Dieci miti sull'intelligenza artificiale. di Daniela Tafani (Pagina 16)

In realtà, chi ci assimili a una macchina non sta in genere difendendo seriamente una tesi scientificamente indifendibile; sta compiendo, invece, un gesto politico: ci assimila a una macchina perché intende trattarci come una macchina, intende cioè – in modi che variamente gli gioveranno e che invariabilmente danneggeranno noi – violare i nostri diritti. L’incapacità di distinguere le persone dalle cose e di ascrivere alle persone un valore incondizionato, dignità e diritti è del resto, oltre che la caratteristica distintiva degli psicopatici, l’essenza stessa della crudeltà

— Dieci miti sull'intelligenza artificiale. di Daniela Tafani (Pagina 12)