Il paradigma fondamentale che deve guidare un’etica delle intelligenze artificiali deve essere pensato in termini di cooperazione. In altre parole, le intelligenze artificiali (machinae sapientes) non sono degli avversari evolutivi dell’Homo sapiens, bensì strumenti (artefatti) che devono essere pensati come cooperativi della persona. Di fatto le intelligenze artificiali devono essere realizzate per aumentare la capacità cognitiva, che è prerogativa unica e peculiare dell’uomo, e non sostituirsi mai a questa. […] Il modello allora è quello di una cognizione sintetica che sia il risultato della visione della realtà mediata all’uomo dal suo strumento in maniera trasparente e non l’acquisizione positiva di un risultato ottenuto secondo una modalità oscura. L’obiettivo funzionale quindi è offrire all’uomo una migliore possibilità di cognizione e non rendere mai invece la cognizione una funzione algoritmica sottratta all’uomo. Questo principio etico fondamentale – e le norme etiche che da questo derivano – deve essere traducibile ai due poli della relazione cognitiva sintetica: l’uomo e la macchina. Dal lato umano, ciò significa rendere trasparente e accessibile alla cognizione umana i criteri algoritmici che sottostanno alla macchina e al suo funzionamento. Dal lato macchina, ciò invece significa sviluppare algoritmi che sappiano “leggere” l’umano e tradurlo in “linguaggio macchina”. […]
Il cuore della questione in materia di gestione e sviluppo delle intelligenze artificiali è un ampio spazio di discernimento etico, che deve tener conto dell’effetto potenzialmente dirompente di queste tecnologie, legato al loro potenziale di innovazione tecnologica. Questo processo di innovazione ha quindi, per sua natura, un’intrinseca capacità di trasformazione sociale. Alla luce degli spunti emersi nella ricerca e delle istanze etico-sociali che questi sollevano, è apparso evidente come il processo innovativo delle intelligenze artificiali possa essere valutato positivamente solo nel caso in cui si caratterizzi come uno strumento giustificato e orientato a un progresso dal volto umano, che si concretizzi in un vero e sincero impegno morale dei singoli e delle istituzioni nella ricerca del bene comune. La gestione delle machinae sapientes e il loro sviluppo in un prossimo futuro richiede, quindi, un approccio di tipo politico-economico: è necessario instaurare una governance internazionale per lo sviluppo di queste tecnologie. In particolare, la governance delle intelligenze artificiali diviene, a motivo dell’attenzione alla persona umana che la costituisce, lo strumento con cui garantire che questa cognizione sintetica, resa possibile dall’innovazione tecnologica, non arrivi ad assumere forme disumanizzanti. La governance è lo spazio ove le considerazioni antropologiche ed etiche devono divenire forze efficaci e cultura organizzativa per plasmare e guidare l’innovazione tecnologica, autentica fonte di sviluppo umano. Questo spazio di azione politico-economica, che costituisce la governance delle tecnologie, si presenta allora come un appello etico obbligante: innovare e sviluppare nuove tecnologie si deve tradurre, quindi, nell’impegno per una governance delle tecnologie di intelligenza artificiale e in una responsabilità aziendale diffusa.
(da P. Benanti, Le macchine sapienti. Intelligenze artificiali e decisioni umane, Bologna, Marietti, 2018, pp. 113-114, 155-156)*