Portieri e portinai: lo Stregone dei Dati #052
La newsletter dedicata al rapporto tra dati, tecnologia, aziende, persone ... e vita.
“Sii uno che apre le porte a coloro che vengono dopo di te, e non cercare di rendere l’universo un vicolo cieco”.
(Ralph Waldo Emerson)
Benvenuto alla newsletter de Lo Stregone dei Dati. Seguimi in questo viaggio alla ricerca del senso della vita digitale. Saranno necessari molti incantesimi per superare le prove disseminate lungo il percorso, ma non temere: quelli che sembrano sortilegi in realtà sono solo l’applicazione delle tecnologie all’universo di dati che ci circonda.
Prima di iniziare, una comunicazione di servizio. Molti amici mi seguono su queste pagine e capita che quando ci si incontra mi esprimano apprezzamento per quello che hanno letto. Ovviamente mi fa tanto tanto piacere, per cui oso chiedere di esprimere l’apprezzamento anche con un bel like su Substack. Così io ho un riscontro a quello che “funziona”, e magari l’algoritmo mi premia e si aggiunge qualche lettore. Sempre appunto che gradiate il post. Grazie!
Questa volta mi avventuro su un sentiero scivoloso e infido, roba da stregoni esperti, che molto hanno viaggiato e conoscono il mondo; d’altro canto, qualcuno dovrà pur dire certe cose!
I buttadentro
Dunque, succede che l’Unione Europea emani il Digital Markets Act per cercare di dare una regolata ai mercati digitali e a chi ci pascola, stile sceriffo Roy Bean, la legge a ovest del Rio Pecos.
E succede che contraddistingua alcuni, pochi attori, diciamo pure i soliti noti, con la qualifica di “gate keepers”, i tieni porta, i buttadentro o buttafuori. Si riconosce che questi gatekeeper regolano di fatto il rapporto tra imprese e consumatori da una parte, e importanti funzioni di piattaforma dall’altra. A livello di definizioni non è tutto proprio chiarissimo ma alle larghe ci siamo capiti.
Insomma, questi soggetti sono quelli che di dritto o di rovescio condizionano il rapporto di tutti con funzioni importanti della rete. Se proprio non ne detengono il monopolio, hanno sicuramente una posizione di rispetto che crea condizioni e condizionamenti alla vita sociale, politica, economica, intellettuale, insomma alla vita. Riconoscendone il ruolo li si vuole sottoporre a obblighi e regole che vorrebbero essere stringenti, tenerci un occhio insomma.
Fin qui tutto bene. Tutto bene?!? Non ne sono proprio sicuro, perché in questo modo si va di fatto a riconoscere un ruolo oserei dire istituzionale a soggetti privati; di cui 5 americani e uno cinese. Roba che neanche la Compagnia delle Indie Orientali ai tempi del colonialismo, almeno Elisabetta I scelse qualcuno di casa. Se è vero, infatti, che da un grande potere discendono grandi responsabilità, è vero anche il contrario: da grandi responsabilità si desume e in un qualche modo si autorizza un grande potere.
Succede che
Non è la prima volta. Qualche anno fa si sancì il diritto all’oblio, delegandone però l’attuazione alla piattaforma che pubblica o rende accessibili le informazioni da seppellire. E’ la piattaforma che decide, che ha la facoltà di dirmi di sì o di no. Un soggetto privato, naturalmente orientato al profitto, per giunta quasi sempre un soggetto estero, che decide dei miei diritti.
Ma non ci fermiamo qui.
Dopo avere appuntato le medaglie di gatekeeper, succede che uno dei sei lanci una versione del suo motore di AI. Per evitare svarioni, fake e cose inaccettabili di vario genere, la potenza generativa del motore è stata preventivamente assoggettata a una serie di regole che dovrebbero garantire la correttezza e l’accettabilità dei contenuti che verranno creati dagli utenti. Fatto sta che qualcuno ha esagerato, il troppo zelo stroppia anche in informatica, e per dirne una il motore genera immagini di soldati nazisti di carnagione nera (spero “di carnagione nera” si possa dire, ho copiato l’espressione da una illustre testata e se ho offeso qualcuno me ne scuso). Che non si sa se ridere o piangere, se offendersi, arrabbiarsi o scuotere la testa sconsolati.
Fermi tutti
Fermi tutti! Il motore si ripija, blocca tutto, ritira il prodotto e chiede un po’ di tempo per rivedere le regole che definiscono quello che è accettabile, in modo da guidare il mondo verso porti sicuri. Prossimamente su questi schermi.
Ma questo non va bene.
Cioè, si è immaginato un sistema che prevede strutturalmente al suo interno delle regole che consentono di generare alcune cose (testi, immagini, presto video) e escluderne altre.
E chi decide queste regole, che determinano quello che viene generato e quello che no, quello che popolerà la rete di testi, immagini, video, discorsi di un tipo, e ne escluderà degli altri? Un comitato di esperti? Una commissione etica? parlamenti? ministri? associazioni consumatori? un comitato di salute pubblica? un soviet supremo?
Nòccari! quello che vedremo e non vedremo lo decide chi ha sviluppato il motore di AI. Ma chi? L’amministratore delegato? La sua segretaria? Un CAO (Chief Acceptability Officer?)
Quando è troppo
Si è delegata di fatto a un soggetto privato la definizione e l’applicazione delle norme di buongusto, etica e accettabilità che governano il vivere civile. Con facoltà di sorvegliare, imporre, cancellare.
Una sorta di commissione di censura digitale, situata peraltro in stati extra UE, che legifera quello che a suo giudizio è giusto o sbagliato, accettabile o meno, mainstream o cringe. E che secondo quei criteri orienta la nostra vita digitale.
Dopo di che, si sa, i costumi e la morale pubblica si evolvono. Si evolvono o verranno fatti evolvere? Perché ormai è chiaro anche agli ingenui quanto questi sistemi possano attivamente formare e modellare quello che poi per noi diventa chiaro, scontato, accettabile o fonte di indignazione. Nei prossimi mesi e anni si rovesceranno sulla rete fantastiliardi di contenuti generati attraverso gli LLM. Contenuti audio, video, testi scritti, tutti filtrati e regolati da regole stabilite nelle sale riunioni di campus esteri.
Con tutto questo, l’Unione Europea fa un auto gol clamoroso e in questo caso uno più uno fa più di due. Non solo non interviene sulla costituzione de facto di questo sesto potere, addirittura con la supposta buona intenzione di regolare e mettere sotto controllo, di fatto gli rilascia una patente che assegna uno status particolare ed esclusivo.
Che la supposta buona intenzione diventa una supposta e basta, se scusate una battutaccia a un vecchio stregone che ne ha viste troppe; eppure, ogni volta è capace ancora di stupirsi.
E ora … un po’ di musica
Stai danzando sul fuoco al ritmo della musica. Pensi che sia una tua amica speciale perché il tuo volto è sempre lì riflesso nello specchio e la ragazza nella finestra non se ne va. Ma stai sprofondando in un grande sonno, vuoi sentire, vuoi ascoltare l’urlo della farfalla. Perché una volta che la musica sarà finita, potrai solo spegnere la luce.