Mi inoltrano Carla e Giorgio, una lettera “semiseria” o meglio una goliardica provocazione, su cui è necessario fare qualche ragionamento. La firma vera non è dei ricercatori CIMeC, ma di un Innominato, però informato. Eccola:

Siamo un gruppo di professori e ricercatori del Centro Interdipartimentale Mente e Cervello. Dopo aver passato anni a parlare con colleghi, studenti, dirigenti di impresa e rappresentanti politici, oggi abbiamo deciso di rivolgerci direttamente ai nostri concittadini. Non possiamo più tacere.
In un sussulto di umanità e di dignità, abbiamo preso coscienza che il nostro lavoro contribuisce a produrre uomini-macchina dentro una società-macchina. Le ricerche in scienze cognitive e in neurotecnologia – giustificate con la conoscenza dell’attività cerebrale e con la cura dei disturbi cognitivi – sono parte integrante di un sistema in cui l’informatica (in particolare l’Intelligenza Artificiale) si fonde con le biotecnologie e le nanotecnologie. Queste «tecnologie convergenti» – basti vedere qui in Trentino la collaborazione tra CIMeC, Fondazione Bruno Kessler, Fondazione Mach e Cibio – tendono ad integrare in un’unica piattaforma universale gli algoritmi e l’ingegneria genetica, la robotica e i nanomateriali, la sensoristica e la biologia computazionale. Ridurre la società e l’intero vivente a un flusso di informazioni – tracciabili, sequenziabili e ricomponibili – è il sogno che la cibernetica rincorre fin dagli anni Cinquanta. Ora quel sogno ha i mezzi della propria potenza. Lo stesso sistema che fabbrica auto a guida autonoma – per la cui circolazione servono città disseminate di sensori, droni e di rete 5G – è in grado di «editare» geneticamente le piante (e gli embrioni), coltivare la terra senza contadini, produrre carne in laboratorio e «ibridare» le menti con i computer. Qualsiasi tentativo di correggerlo con qualche normativa o qualche commissione etica è ridicolo. Si può solo cambiare modo di vivere, di decidere, di coltivare, di abitare.
Per questo abbiamo deciso di disertare il nostro lavoro di distruttori dell’umano per dedicarci alla panificazione, all’agricoltura, alla falegnameria, alla poesia. E invitiamo i nostri colleghi e le nostre colleghe a fare altrettanto.
Non è facile sapere quali sono le proverbiali gocce che fanno traboccare il vaso. Due cose ci hanno colpito in questi ultimi giorni – i giorni, per noi, della scelta. Aver letto sull’ultimo numero di «Nature Neuroscience» l’esperimento condotto da Alexander Huth, Jerry Tang e altri (ex) colleghi di Berkley e del Texas. Usando la risonanza magnetica funzionale – di cui anche noi ci siamo serviti – sono riusciti a ricostruire in modo piuttosto preciso i pensieri di un gruppo di volontari stimolati dalle conversazioni con un software di intelligenza artificiale (GPT-1, un precursore dell’ormai celebre ChatGPT). Ecco il commento dell’immancabile giornalista: «l’avanzamento di queste tecnologie potrebbe essere tale da rendere necessarie politiche di protezione della “privacy mentale”». L’altra cosa che ha contribuito a farci dire «Basta!» è aver saputo che al «Wired Next Fest» di Rovereto avrebbe parlato Francesca Rossi, «Global Leader per l’Etica dell’Intelligenza Artificiale» di IBM. Vogliamo ricordare qui, a proposito di etica, che è stata la collaborazione tra IBM e l’Ufficio Statisitica del Terzo Reich a rendere così performante la macchina dello sterminio nazista. IBM ha continuato a fornire le proprie innovative schede perforate e i propri lettori meccanografici anche quando sapeva che quei prototipi dei futuri computer servivano per l’individuazione degli ebrei e per l’organizzazione logistica dei lager. Se quello strumentario impallidisce di fronte all’attuale programma «Smart Planet» di IBM (l’odierno totalitarismo punta ad incarcerare tecnologicamente l’intera umanità, e a buttar via la chiave), è lecito pensare che la morale, oggi come ieri, resti nei guardaroba dei laboratori.
Non siamo certo dei rivoluzionari, ma da oggi i fabbricanti di schiavitù tecnologicamente equipaggiata non potranno più contare su di noi.
Rovereto, 6 maggio 2023

Alcuni professori e ricercatori del CIMeC

COMMENTO

Scherzi a parte, la lettera ha degli argomenti seri.

In effetti l’IBM aveva un contratto di assistenza tecnica preventiva (ovvio sono germanici) con il governo tedesco del Terzo Reich. Traduco: periodicamente (non ricordo la frequenza) un ingegnere americano dell’IBM faceva visita nei diversi campi per verificare il corretto funzionamento degli apparati (IBM). Resta da capire perchè nessun tecnico notò “cose” strane (genocidio, torture, ecc.).

Quanto alla pirateria-neuronale c’è poco da dire: è il classico problema del limite della liceità. Anche un coltello è utile, anzi indispensabile, fino a quando viene rivolto contro le persone (vietato).

LA IA non è migliore dell’uomo è semplicemente più veloce, ma, cosa importante, esegue quello che le è stato detto di fare, non per istruzione diretta, ma per sigmoide (correlazione).

Nella programmazione “classica” è il programmatore che dispone le istruzioni, mentre nel modello di IA più diffuso (rete forward) il sistema “impara” in base ai risultati. Quindi se i risultati, o meglio, i dati dei risultati sono imprecisi, altrettanto lo sarà il risultato dall’intelligenza artificiale.

La IA va bene per il gioco, ma dovrebbe essere vietata in tutti gli altri casi. É come la morfina: normalmente vietata, ma consentita ove necessario. Eppure la sostanza è sempre la stessa.

Ovviamente per vietare la IA è necessario conoscere il codice sorgente e qui la faccenda si collega all’Open-Source.

La IA va vietata perchè rappresenta può fornire risultati errati e pericolosi, mentre alla macchina è richiesta la “precisione”. D’altro canto “errare è umano e non della macchina. Chiaro no?