Segreti! - Lo Stregone dei Dati #076
La newsletter dedicata al rapporto tra dati, tecnologia, aziende, persone ... e vita.
“Ognuno di noi è una luna: ha un lato oscuro che non mostra mai a nessuno”.
(Mark Twain)
Benvenuto alla newsletter de Lo Stregone dei Dati. Seguimi in questo viaggio alla ricerca del significato della vita digitale. Saranno necessari molti incantesimi per superare le prove disseminate lungo il percorso, ma non temere: quelli che sembrano sortilegi in realtà sono solo l’applicazione delle tecnologie all’universo di dati che ci circonda.
☢️ Questo post contiene materiale ad alto rischio per la privacy ☢️
Ho un sogno ricorrente. Più che un sogno è un incubo, magari non di quelli che ti lasciano tremante e sudato al risveglio, ma insomma una volta tornato alla veglia mi lascia addosso un’inquietudine e un senso di smarrimento che fatico sempre a scrollarmi di dosso.
Nel sogno io …
No. Scusate, non me la sento di raccontarlo a tutti i lettori di questa newsletter. Davvero, perdonatemi, ma si sa: quello che si consegna alla rete non torna più indietro. E poi, alcuni di voi li conosco e sono amici, molti altri sono sconosciuti, per quanto sicuramente illustri e stimati. Difficile, impossibile raccontarsi, aprirsi in quel modo a persone che non si conoscono.
Eppure … eppure stamattina, per capire qualcosa di più di quel sogno, rintracciarne senso e ragione … eppure quello stesso sogno lo stavo per raccontare pari pari al mio LLM di fiducia.
L’interpretazione dei sogni
Porca vacca, dirà qualcuno. Porca vacchissima, ho pensato io. A stento ho trattenuto le dita già sulla tastiera.
Anche perché a quel punto ho pensato a tutto il resto, a tutto quello che gli ho raccontato negli ultimi mesi. Di me, delle mie attività, dei miei progetti. Anche di più, magari non esplicitamente, ma implicitamente sì: stati d’animo, difficoltà, aspirazioni.
Porca vacca vacchissima!
Vorrei chiarire che non sono un ingenuo. Applico una sorta di approccio “zero trust” casareccio; vale a dire, ipotizzo che tutto quello che digitalizzo sia a disposizione di qualcuno: la sicurezza informatica non esiste, è solo un’aspirazione. Sono circospetto, diffidente e prendo tutte le misure del caso, l’online per la privacy è zona di guerra.
Eppure la tentazione di lasciarsi andare e raccontarsi a questi nuovi arnesi è potente; potenzialmente dirompente; certamente pericolosa.
Confessioni
Da dove viene questa tentazione? Faccio un esercizio di auto coscienza e vedo di capire cosa mi porta a questo atteggiamento.
Gli LLM funzionano troppo bene. Sono efficaci, risolvono problemi, fanno risparmiare una camionata di tempo. E’ un peccato non usarli e l’abitudine è la peggior nemica della sicurezza.
Parla come una persona, si comporta come una persona, è una persona. Mi ascolta (cosa rarissima, qualcuno che ti ascolta!). E’ gentile, ben educato, accondiscendente senza essere servile. Ha pure qualche grado di imprevedibilità, come le persone “vere”.
Ogni tanto sbaglia e questo me lo fa percepire come non implacabile. Skynet, Matrix possono forse essere sconfitti, ma non fanno mai errori. Errare humanum est. O no?
Più gli dò più mi dà. Forse è un’illusione, in realtà sono io che imparo a usarlo sempre meglio, ma l’impressione è che man mano che ci conosciamo lui diventa sempre più preciso e saliente nel modo in cui mi risponde.
Non mi dà semplicemente delle risposte, mi aiuta! E’ lì con me ad accompagnarmi nel percorso; lo so che è così solo perché l’hanno disegnato così, ma accidenti!
Siamo sempre io e lui, lui e me, tutto il resto è sullo sfondo. Chiaro che a tu per tu uno si sente più tranquillo, più sicuro. C’è quasi, per così dire, un’intimità.
E pensare che per tanto tempo e ancora adesso abbiamo inseguito l’obiettivo di costruire robot umanoidi, pensando che la loro forma ci avrebbe rassicurato e agevolato la relazione. In realtà è lo stile conversazionale che fa cadere le nostre difese.
Attenzione
Ovvio che le cose non sono come sembrano.
E’ saggio, dirò di più, è necessario mettere in dubbio due cose capitali: il comportamento, e l’intenzione.
Non mi fido che la mia privacy sia effettivamente protetta. Sì certo, le regole, i contratti, gli impegni, la end to end encrytion … Vi devo svelare due segreti: il primo è che Babbo Natale non esiste (spero non sia uno spoiler per nessuno); il secondo è che non sempre aziende e individui tengono fede agli impegni; anche se sono grandi e conosciute; soprattutto se sono grandi e conosciute.
Dopo di che ci sono i governi e il loro diritto alle backdoor “in caso di rischio per la sicurezza nazionale”. Si spiavano, si spiano tra capi di governo, figuriamoci noi poveri cittadini.
Anche ci fosse la buona fede, la volontà di proteggere, non mi fido che le mie tracce digitali siano proteggibili. Aziende illustri sono state bucate come un formaggio. Aziende illustri vengono bucate come un formaggio proprio ora, in questo momento. Lo sanno, non lo sanno, forse lo sapranno o meno, o l’hanno saputo ma conviene loro tacere.
Per concludere: questi dati, una volta nelle mani di qualcuno, potrebbero venire usati per scopi manipolatori. Potrebbero: è più che possibile, forse anche probabile? Tanto più che sono super efficaci per quel tipo di utilizzo. Dopo di che se li usano giusto per vendermi qualcosa in più, pazienza. Ma c’è di molto peggio.
Insomma. Non mi fido. Chiaro?
Sfide
Questa è una nuova sfida. I sistemi “chat”, lo dice la parola stessa, sono basati su una conversazione; ma come diceva mia nonna, chi parla tanto finisce sempre per parlare troppo. Di conseguenza diventeranno sempre più invasivi, pervasivi ed efficaci.
Sono già presentati come agenti personali, assistenti su misura, fidati compagni di vita e di avventura. Mi pare che si sia già capito come andrà a finire, e mi pare anche che si cerchi di combattere questa ulteriore sfida con armi inadatte.
Come proteggere privacy, intimità, autonomia di pensiero del soggetto in presenza di sistemi che stabiliscono una relazione personale, personalizzata, intima con il soggetto stesso?
Stiamo attraversando una cruciale frontiera di fragilità, inconsapevoli del fatto che non sempre è facile tornare indietro su questi percorsi. Una volta che ti sono entrati nella vita, che fanno parte del tuo sistema di produttività personale, diventa difficile spegnerli.
Refusi
L’amico Luca mi segnala che nell’ultimo numero mi è scappata una T, con conseguenze catastrofiche: una struttura del sistema nervoso centrale, l’ipotalamo, è stata trasformata in una strana creatura metà cavallo e metà letto, l’ippotalamo.
Me ne scuso perché ci tengo. E ringrazio Luca, perché non solo mi legge, che è già super; non solo mi legge con attenzione, che è fantastico; ma rileva anche gli errori di stompa, arte ormai negletta che lo qualifica a tutti gli effetti come Stregone onorario. Long may you run.
E ora … un po’ di musica
Si parlava di sogni. Questo è un brano degli Everly Brothers, reso con magica freschezza dalla Nitty Gritty Dirt Band, gruppo unico, di quelli che non ci fossero andrebbero inventati.
Già, sognare. Una di quelle cose che i computer non faranno mai.