Condividi questo Post
Lo Stregone dei Dati #035
La newsletter dedicata al rapporto tra dati, tecnologia e gestione aziendale. Per sviluppare l'azienda come una "data & technology company".
“Così come non vorrei essere uno schiavo, così non vorrei essere un padrone.”
Abramo Lincoln
Benvenuto alla newsletter de Lo Stregone dei Dati. Seguimi in questo viaggio alla ricerca del tesoro nascosto della competitività di impresa. Saranno necessari molti incantesimi per superare le prove disseminate lungo il percorso, ma non temere: quelli che sembrano sortilegi in realtà sono il risultato dell’applicazione delle tecnologie digitali all’universo di dati che ci circonda.
"Immaginate un compagno personale di intelligenza artificiale con l'unica missione di rendervi più felici, più in salute e più produttivi. La nostra missione è allineare la vostra intelligenza artificiale con voi, con i vostri interessi. Questo significa un'IA che vi aiuta ad articolare le vostre intenzioni, organizzare la vostra vita ed è lì per voi quando ne avete bisogno" Mustafa Suleyman, co-founder, Deep Mind
Ci risiamo.
Nefarium negotium, così l’ha definita nel tempo la Chiesa Cattolica. Ciò non ha impedito alla schiavitù di attraversare tutte le epoche, tutti i continenti, tutte le nazioni, anche in questa nostra illuminata Europa. Debitori insolventi, prigionieri di guerra, membri di razze diverse. Una storia nefanda e orribile in cui non ci siamo risparmiati niente. Per dirne solo una che ho scoperto preparando questo post, i primi schiavi impiegati nelle colonie americane erano europei; nel 1600 la corona inglese deportò e vendette nelle piantagioni circa 30.000 irlandesi.
A tutt’oggi, nonostante i successi dell’abolizionismo, le stime relative al numero di schiavi ancora presenti nel mondo sono nell’ordine delle decine di milioni. Per non parlare di quello che non entra nelle statistiche, anche se è sotto gli occhi di tutti. Basta uscire di notte e girare per le città, compresa la mia amata Milano, per incontrare una moltitudine di povere anime, rapite o comprate nelle terre di origine e convinte con le cattive, e con le cattivissime, a prostituirsi.
Non è un incidente, è una costante. Da che mondo è mondo l’essere umano agogna la sottomissione totale di altri esseri umani, ridotti a semplici strumenti per servire le proprie esigenze e i propri desideri.
Digital slaves
L’intelligenza artificiale nasce con un peccato di origine: il nome, che sottolinea l’analogia con l’essere umano. La tentazione ricorrente di tutti, dal test di Turing in poi, è quella di leggere queste tecniche secondo criteri antropomorfici. Anche i robot, chissà perché, vengono spesso riprodotti in forma umana, o meglio umanoide.
Quando poi si pensa a quali scopi adibire le magnifiche scoperte che si susseguono nel campo dell’AI in questi ultimi mesi, si parla di “co-pilot”, di “digital assistant”, fino a utilizzare le espressioni della citazione che apre questo post.
Rileggiamola, lievemente parafrasata.
“Immaginate qualcuno che abbia l'unica missione di rendervi più felici, più in salute e più produttivi, perfettamente allineato con i vostri interessi, che addirittura vi aiuti ad articolare le vostre intenzioni per organizzare la vostra vita. Qualcuno che sia sempre lì per voi quando ne avete bisogno”.
Chi vi ricorda?
Nessuna traccia di simmetricità, questo non è un incontro, una relazione, uno scambio alla pari. E’ un rapporto completamente asimmetrico, asservimento totale di qualcuno a qualcun altro. Attenzione però, abbiamo usato “qualcuno” e non “qualcosa”, ma stiamo parlando di un umanoide! In realtà non è una persona umana, non è neanche un animale, ma un mucchio di plastica e silicio, e questo ci esime qualunque preoccupazione morale: siamo, per così dire, assolti.
E’ così?
Mentre la riduzione di un essere umano in stato di schiavitù è un affare malvagio e orrendo, l’utilizzo di machine per la propria utilità è cosa moralmente ineccepibile. Pare proprio che non ci sia nulla di male ad avere un digital assistant o persino un digital slave. Dopo tutto, quante persone insultano la vocina della Viacard al casello, giusto per sfogare la frustrazione di una fila? E dov’è il danno? E’ solo una voce registrata.
C’è un passaggio che però non va trascurato.
Il fatto che tendiamo a immaginare la macchina come “un compagno personale”, per poi sottometterla alle nostre voglie, sicut servus, dice qualcosa di noi.
Ha senso ritenere che le nuove invenzioni debbano avere come scopo “i nostri interessi”? non sottolinea una visione utilitaristica della vita e dell’universo che diamo per scontata, ma non è tale per nulla? perché mai dovremmo avere bisogno di uno specchio che ci segue, ci serve, ci coccola? non stiamo di nuovo educando noi stessi a un’abitudine di sopraffazione? a un asservimento reciproco, perché come il servo dipende dal padrone, così il padrone non può fare a meno del servo. Questa relazione di dominio con l’unica responsabilità del proprio benessere non è forse il rapporto che abbiamo anche con la natura, e che ha portato alle isole di plastica che attraversano gli oceani? e perché dovremmo perpetuare questo modo di vedere le cose con la tecnologia?
Più ci penso e più trovo strano e malsano insistere su una visione antropomorfa di uno strumento tecnico, immaginando una macchina che diventa uomo e che si sottomette a noi. Forse non stiamo esprimendo il nostro giudizio, ma il nostro desiderio.
Stiamo immaginando un uomo, per poi asservirlo. Stiamo scherzando con il fuoco, ed è pericoloso. Chiedete a Prometeo.
E ora un po’ di musica
I miei oppressori stanno cercando di abbattermi
Cercano di portarmi sottoterra
E pensano di aver vinto la battaglia
Io dico perdonali, Signore, non sanno quello che fanno
Perché, sicuro come il sole che splenderà
Adesso avrò la mia parte, ciò che è mio
E più forte verranno contro di me
Più forte cadranno, ciascuno di loro