Paolo Caressa, IT expert per il Gestore dei Servizi Energetici (GSE), propone un’immagine precisa per descrivere il rapporto tra esseri umani e intelligenza artificiale: i modelli linguistici funzionano come uno specchio, restituendo in fondo la conseguenza di quello che noi stessi gli abbiamo insegnato. Una visione che si intreccia con quella di Serena Sensini, Innovation Leader in Dedalus, secondo cui l’etica dell’intelligenza artificiale non può ridursi a una checklist di princìpi da rispettare.

Due prospettive differenti, ma in grado di intrecciarsi e, perché no, diventare complementari. Le abbiamo raccolte in occasione di Coderful 2026, in un’intervista che diventa riflessione tra etica, “ignoranza” artificiale e differenza tra uomo e macchina.

Oltre la checklist: la domanda scomoda sull’etica dell’AI

Per Sensini, l’etica applicata all’intelligenza artificiale rischia di ridursi a una lista di voci da spuntare – fairness, trasparenza, responsabilità – senza affrontare la domanda più scomoda: le norme che ci siamo dati come società sono davvero giuste? Cosa delimitano, cosa governano, e soprattutto quali gruppi di esseri umani difendono? Il punto critico, è che l’etica di una persona può non coincidere con quella di un’altra, un interrogativo su cui riflettiamo ancora troppo poco.

Trattare le macchine come nostri pari

Caressa affronta il tema da un’altra angolazione, domandando cosa succede a noi umani quando iniziamo a trattare come se lo pensassero davvero. La sua proposta è di considerarle uno specchio: ciò che sanno è ciò che abbiamo insegnato loro durante l’addestramento, una simulazione del pensiero e del linguaggio costruita a nostra immagine. Trattarle con umiltà, come pari cognitivi anche se non umani, può essere un utile bagno di umiltà per una specie che si considera sempre al vertice della catena cognitiva del pianeta, dimenticando quanto siano intelligenti molte altre forme di vita.

Progettare per persone reali, non per utenti ideali

Un altro nodo sollevato nell’intervista riguarda il modo in cui l’intelligenza artificiale viene progettata: troppo spesso pensando a un utente ideale, competente, veloce, sempre connesso e lucido. Sensini osserva come il gap tra chi questi strumenti li padroneggia e chi non li ha ancora nemmeno incontrati sia enorme, e come chi lavora ogni giorno in questo settore viva spesso in una bolla che rende difficile percepirne la reale portata su settori ancora del tutto estranei a queste tecnologie. La soluzione, dunque, passa da un’educazione digitale che parta dalle basi, spiegando innanzitutto come funziona un sistema che comunica in modo simile a quello umano, pur ragionando in maniera profondamente diversa.

Ignoranza artificiale, ignoranza umana

Caressa, autore del libro “Ignoranza artificiale“, ribalta la prospettiva più comune sul dibattito attorno all’intelligenza artificiale: si parla molto di ciò che le macchine sanno fare, poco di ciò che ignorano. Le macchine, spiega, sanno essenzialmente quello che è stato loro insegnato, e possono rielaborarlo a modo loro, ma restano vincolate a quella base. Una condizione che, sostiene Caressa, riguarda anche gli esseri umani: siamo geneticamente portati a credere, ad accordare fiducia, in quanto animali sociali abituati a vivere in gruppo – e questa stessa predisposizione l’abbiamo trasmessa, insieme all’ignoranza, alle macchine che abbiamo costruito a nostra immagine. La consapevolezza più importante, per Caressa, resta quella dei limiti della propria ignoranza: un pensiero che gli esseri umani possono formulare, mentre per una macchina resta più complesso, per quanto molti modelli comincino oggi a segnalare i limiti delle proprie risposte.

Il passo falso di un’AI a un meetup

Alla domanda su quale sarebbe il primo passo falso di un’intelligenza artificiale invitata a un meetup di community tech, Sensini risponde senza esitazioni: spiegare troppo, e soprattutto cercare approvazione, un riflesso dell’ego umano che si ritrova nell’autocompiacimento tipico di molti modelli. Caressa aggiunge un dettaglio comico ma calzante: un’AI del genere non smetterebbe mai di parlare, continuando a chiedere “cos’altro posso fare per te?” fino a sfinire l’intera platea.

Asimov, i cinque sensi e i libri per l’estate

Passando a cosa consiglierebbe di leggere a un’intelligenza artificiale in crisi esistenziale, Caressa non ha dubbi: Asimov, e in particolare i racconti sui robot in cui la protagonista non è un ingegnere ma una psicologa, Susan Calvin, specializzata nello psicanalizzare i robot. Sul tema di cosa mancherebbe di più vivendo per una settimana come un’intelligenza artificiale, Caressa indica il corpo – e la possibilità di camminare nella natura – mentre Sensini punta sui cinque sensi, in particolare olfatto e vista.

Chiudendo sul tema dell’appiattimento dei contenuti nell’era dell’AI, Sensini consiglia un testo di Serena Mazzini, una raccolta di casi di studio su temi come lo sharenting e il cyberbullismo capace di far riflettere anche chi quelle scelte, in parte, le condivide. Caressa punta invece su “Il manoscritto del corvo” di Max Aub, testimonianza di un campo di prigionia della Seconda guerra mondiale raccontata dal punto di vista di un corvo, utile – dice – anche per confrontarsi con tecnologie che, come quel corvo, non sono del tutto umane.