Discover more from ora di pensiero
Ma si può fare attivismo con le immagini AI?
L'immagine 'All Eyes on Rafah' condivisa da 40 milioni di persone era fatta con AI. È un problema?
Arieccoci! Questa è ora di pensiero (nome work in progress) la newsletter in cui vi racconto i miei pensieri sul rapporto tra la tecnologia, l'AI, il mondo di internet e gli umani, e vi dico le cosine belle su internet che ho visto ultimamente.
Ho pensato che magari una persona arriva qui senza conoscermi e quindi può essere utile una intro. Se non siete arrivati da altrove, mi trovate anche su Instagram e Threads, e spero presto di nuovo su YouTube.
Oggi:
ma è un problema che l'immagine 'All Eyes on Rafah' che in milioni hanno condiviso sia fatta con l'AI?
E da dove viene?
E un altro esempio passato di immagine AI più problematica
Questa newsletter voleva essere tempestiva rispetto all'attualità ma io non so capace so lento ho bisogno di 30 ore al giorno boh, pure l'altra lettera in scrittura la volevo far uscire subito dopo l'uscita dell'Ai Pin, pensate un po'...anyway.
Abbiamo visto l'immagine ‘All Eyes on Rafah’ che ha fatto il giro di milioni di instagram dopo “““l'incidente””” a Rafah in cui Israele ha ucciso 45 persone e ferite centinaia.
Ricordiamoci quanto crescono le vittime civili in questo conflitto raccapricciante. Pensiamoci e ripensiamoci.
Ma siamo qui per parlare attraverso la lente della tecnologia e dell'AI, come al solito. (E come al solito sappiamo che l'intreccio della realtà non lascia fili isolati o 'neutri').
Per recuperare al volo il contesto: nei giorni scorsi questa immagine di apparenti tende che sono posizionate in modo da scrivere 'All Eyes on Rafah', evidentemente creata tramite AI, è stata condivisa massicciamente nelle storie Instagram tramite lo sticker 'tocca a te':
chi vede l'immagine nella storia di un'altra persona e clicca quel pulsante può rapidamente ricondividere l'immagine e aggiungersi a un contatore che appare nella storia, e che è cresciuto a grande velocità fino a raggiungere una 40ina di milioni di ricondivisioni.
Non voglio domandarmi in generale se serva questa forma di 'attivismo' in cui si condividono robe sui social; su questo vi rimando ai video di @gaiacontu e @esme_psithurisma.
Voglio invece riflettere su alcuni punti riguardo alla condivisione dell'immagine in quanto fatta da AI. Quello che ho sentito dire è stato:
“era meglio una immagine reale e non AI"
“Israele usa l'AI per uccidere/opprimere i palestinesi quindi usarla vuol dire avallare lo strumento del potere”
“È l'AI generativa il problema”
“Era meglio una immagine reale!”
Una delle obiezioni che ho visto la potremmo formulare così:
Bisogna mostrare le atrocità che stanno avvenendo con immagini reali, e non con immagini AI 'finte' che non fanno vedere le vittime e gli attacchi
A questa ho una breve risposta umana e poi una risposta 'tecnica'.
La risposta umana è che questa immagine così edulcorata è...più semplice da condividere. Ovviamente non possiamo limitarci a vedere sempre solo 'cose facili', a volte ci serve vedere immagini difficili.
Quello che intendo è che forse non te la senti di mettere una immagine particolarmente cruda nelle tue storie, diciamocelo.
Non perché vuoi far finta che non esistano cose crude ma per mille potenziali motivi; una immagine 'pulita' certamente diluisce il messaggio ma penso possa più facilmente arrivare a una platea più ampia. Come sempre, c'è un tradeoff.
In questo senso, l'immagine fatta da AI è estremamente conveniente, perché ci sono già degli step precedenti che rendono facile la pulizia: molti generatori bloccano richieste di immagini violente o esplicite (è giusto? se ne potrebbe parlare, ma non oggi).
Il lato 'tecnico' è anche algoritmico: Meta tende a limitare i contenuti espliciti: in parte perché...effettivamente le persone potrebbero avere una particolare sensibilità ed è ragionevole averne cura.
Ma ci sarebbe anche tutta la questione delle persone che moderano i contenuti dei social che magari si ritrovano tutto il giorno a guardare immagini molto esplicite e traumatizzanti per decidere se vanno bene o no sui social. C'è un bellissimo pezzo di Casey Newton a riguardo.
L'altra parte è che Meta...non vuole tutti i problemi e gli svantaggi dati dall'essere un luogo in cui si parla di politica e di notizie.
Quest'anno praticamente la metà delle persone al mondo va a votare: si vota da noi, fra pochi giorni, (poi ci torniamo alla fine), in India, si voterà in USA, si è votato in Indonesia, Pakistan, Bangladesh ecc ecc:
Ecco, proprio quest'anno Meta ha scelto di limitare la raccomandazione di contenuti politici; ne abbiamo parlato con un video qualche tempo fa:
devo dire sono contento di aver visto varie persone e anche partiti rendersene conto e comunicarlo.
Proprio pochi giorni fa Mosseri, CEO di Instagram e Threads, lo ha ribadito, cercando di essere furbo:
ha detto che Meta non vuole 'evitare' le notizie e la politica, ma non vuole incentivarla: preferiscono che si parli di sport, di moda, di musica e di cultura.
Cultura, musica ecc che notoriamente non sono ambiti politici no? :) Vabbè
Tutta questa digressione per dire che l'immagine AI che sfrutta lo sticker (il mezzo che Meta dà e incentiva), secondo me possono essere un modo per riappropriarci di quel discorso pubblico di cui abbiamo bisogno.
Di sfruttare questi mezzi privati e opachi che sono i social, in cui dobbiamo fare i salti mortali e scrivere Isr43l3 in leet code pregando che l'algoritmo non ti penalizzi e senza sapere bene se lo fa davvero o se ci siamo ricreati delle superstizioni inutili.
Di nuovo, una delle ragioni per cui vorrei coltivare questa newsletter è, come dicevo l'altra volta, che qui posso scrivere Israele e Palestina senza nemmeno pensare ad autocensurarmi.
Il vero tema forse quindi non è la singola persona che condivide l'immagine AI, ma è accorgersi che oggi nei social è più semplice che passi una immagine AI rispetto a una vera, e domandarsene gli effetti e le cause.
Ci sono delle buone ragioni per cui limitare le immagini esplicite, ma ce ne sono anche di meno buone. Però non stiamo decidendo noi né quanto né come.
“Israele usa l'AI, quindi usare l'AI per protestare non va bene”
Formuliamo così una seconda obiezione che ho visto:
Israele utilizza l'AI in questo conflitto per uccidere e opprimere il popolo palestinese, e quindi utilizzare l'AI per parlarne non va bene perché si sta avallando e usando uno strumento usato per opprimere.
Premetto che sono contento di vedere che c'è una consapevolezza almeno minima sul tema;
sì, certamente Israele usa (da tempo) strumenti tecnologici e di intelligenza artificiale per opprimere il popolo palestinese.
Poco tempo fa è uscito un reportage di 972 su come Israele usi l'AI per il targeting dei bersagli attraverso una serie di sistemi…in cui però verrebbe sostanzialmente accettata una quantità di morti collaterali decisamente più alta della norma;
di questo ne parleremo meglio spero in un contenuto a sé: a proposito, con Scomodo stiamo facendo una piccola serie sull'uso della tecnologia in Palestina.
Il primo video è stato sul fatto che a Gaza la rete mobile è ferma sostanzialmente al 2G e nella Cisgiordania il 3G è arrivato più di 10 anni dopo che nel resto del mondo (Israele compresa), e lo trovate qui:
Nel secondo parliamo invece del sistema di sorveglianza tramite riconoscimento facciale molto pervasivo che c'è anche nella West Bank, che Amnesty International chiama “Apartheid Automatizzata”.
Ma torniamo sulla traccia:
Su questo secondo me la vera domanda è: “cosa è l'AI?”
In senso lato, l'intelligenza artificiale è un intero campo di studi.
Al suo interno c'è il machine learning, e ancora dentro il deep learning, che comprendono una serie di tecniche ecc ecc, quelle robe che dico quando devo presentare l'AI partendo da zero e spiego che l'intelligenza artificiale non è ChatGPT.
E il punto a cui si arriva è: se usare l'AI non va bene perché Israele usa l'AI, allora non dovremmo nemmeno usare foto scattate con l'iPhone per parlare di Palestina? Non dobbiamo nemmeno usare Google? Perché l'AI è anche lì, è ovunque.
Se state pensando che il problema non è l'AI ma l'AI generativa ci arriviamo dopo.
Rimanendo sull'AI in generale secondo me questa obiezione suona come quando si scredita chi fa attivismo per il clima se ha uno smartphone.
La realtà è che giochiamo ad armi impari e il potere è sbilanciato.
Sarebbe legittimo richiedere di fare attivismo climatico senza alcun compromesso? Le persone che fanno attivismo per il clima dovrebbero parlare solo a voce senza usare carta o altri strumenti che provocano emissioni e spostarsi solo in bici?
Avoglia ad arrivare a net zero...
Per me personalmente vale lo stesso per i social e per la tecnologia; chiaro che c'è un valore nella consapevolezza dei meccanismi deleteri in moto e ci sono dei limiti che poi ci si pone, scegliendo i compromessi che è opportuno accettare, che in parte sono scelte individuali.
“Ok ma il problema non è l'AI in generale ma l'AI *generativa* perché è intrinsecamente exploitative”
Come se dice exploitative in italiano boh sfruttante?
Questo è un punto che capisco;
l'AI generativa è uno strumento che per forza di cose richiede tanti dati (in questo caso immagini) per esistere.
Ad oggi la realtà è che questi dati sono stati ottenuti in modo molto opaco e sostanzialmente con la tattica del 'fai le cose e poi vediamo' tipica della voglia di rottura dei paradigmi della Silicon Valley.
I modelli di diffusione che generano immagini hanno preso una gran quantità di immagini online senza aver chiesto il consenso e le hanno frullate con delle tecniche (molto affascinanti) per ottenere un sistema che a partire da una immagine di puntini riesce a ricostruire una immagine nuova.
Comprensibilmente, moltissimi artisti sono abbastanza arrabbiati a riguardo e sicuramente già ci sono effetti su tutti quei lavori 'entry level' per illustratori e designer che ora vengono fatti in modo mediocre con la macchina.
C'è tutto un tema di accentramento dei guadagni da parte delle piattaforme che creano questi strumenti, e tanto altro.
Non sono sempre d'accordo al 100% con tutte le obiezioni che sento, una fra tutte l'idea che l'arte richieda fatica e quindi l'AI non possa essere uno strumento d'arte;
quest'idea ci fa salire sullo scivolo in cui forse anche usare Photoshop e una tavoletta grafica non è arte rispetto a usare i colori a olio?
Chiusa questa parentesi, sono invece d'accordo che allo stato attuale i modelli che generano immagini abbiano tanti problemi;
non solo a livello etico su come sono state prese le immagini, ma anche nella pratica dei risultati: generano immagini piene di bias in cui il mondo si riduce a una visione abbastanza america-centrica fatta di stereotipi banalotti.
Ne parlammo in un altro numero:
Penso sia però importante dire che questi problemi sono specifici dello strumento AI generativa, e in parte specifici della sua implementazione attuale:
possiamo benissimo immaginare AI generative addestrate solo su opere di pubblico dominio e/o di artisti pienamente consenzienti (potremmo discutere di copyright e tutto quanto, ma non lo faremo).
Nulla, a parte la difficoltà economica di farlo, impedirebbe a questa implementazione di esistere.
(In parte Adobe vorrebbe dire che è già così per la loro AI, ma è un po’ grigia…)
Notate quanti paragrafi ho sbrodolato per tirare fuori questi pensieri: per me è indice del fatto che la questione delle AI generative ha delle sue specificità rispetto alla questione in generale dell'uso di AI da parte di Israele, e in questo senso ci fa bene dare a ogni questione la considerazione che si merita, senza appiattirla.
Mettiamola così:
Se avessi avuto una bacchetta magica non avrei scelto quell'immagine da condividere.
Forse avrei cercato qualcosa di più umano, come uno dei disegni dell'artista palestinese Maisara Baroud @maisarart che illustra ogni giorno Gaza e sta (dopo essersi spostato più volte) proprio a Rafah.
Allo stesso tempo, penso che quello che è capitato...è capitato: ci sono stati dei fattori che hanno spinto la popolarità dell'immagine AI, che è forse più didascalica, facile, fruibile rispetto ad altre opere.
Però penso ci siano state anche delle casualità che hanno portato quella e non un'altra ai suoi 40 milioni di condivisioni.
E questo mi porta a dire che il tema non è l'immagine AI, ma è il dopo; recriminare a singole persone che hanno condiviso quell'immagine lo trovo un po' poco utile, e forse troppo respingente.
Quello che ci serve è di parlare insieme e di accoglierci a vicenda, anche se le piattaforme rendono a volte difficile il farlo bene. E poi, ogni persona con il suo modo, può proseguire.
Un'altra immagine AI che invece è proprio un problema
Sull'immagine di Rafah, in definitiva, penso che il fatto che sia generata con AI sia accettabile.
C'è invece un episodio dell'anno scorso, simile ma con una differenza cruciale, una differenza che mi fa dire che quell'immagine fosse fortemente problematica. È questa qui:
Amnesty International la usò per parlare delle proteste del 2021 in Colombia e di come la polizia avesse trattato i manifestanti. Nell'immagine viene ritratta una persona portata via, presumibilmente ammanettata, dalla polizia.
Per queste immagini Amnesty ha ricevuto molte critiche, e ha infine scelto di rimuoverle. Quindi, perché queste qui erano certamente un problema, mentre quelle di Rafah no?
Beh molto semplicemente perché è molto più facile dire che quelle di Rafah sono finte: quelle di Amnesty provavano a ritrarre un vero avvenimento, quelle di Rafah sono chiaramente un simbolo.
Le immagini ‘realistiche’ (si fa per dire) dunque rischiavano di essere strumentalizzate, magari per far pensare che oltre alle foto anche gli avvenimenti fossero falsi. And that's not good.
Ma da dove viene?
Torniamo di nuovo all'immagine di Rafah per un'ultima domanda: ma questa immagine AI da dove viene?
All'inizio si parlava di @Shahv4012, la cui pagina compariva in fondo all'immagine e che quindi in molti hanno individuato come persona che aveva creato l'immagine...ma sembra che l'autore originale potrebbe non essere lui, come ha riportato inizialmente 404 Media.
NPR ha parlato con le due persone che reclamano di aver realizzato l'immagine: vengono entrambe dalla Malesia, ma una delle due ha una storia un po' più convincente.
La prima è Zila Abka, una insegnante di 39 anni attiva nel gruppo Facebook 'Prompters Malaya', in cui si raccolgono 250mila persone che creano immagini AI.
Abka racconta che voleva fare dell'arte politica a supporto della causa palestinese.
A Febbraio realizza questa immagine con Microsoft Image Creator, lo fa pensando alle parole pronunciate proprio in quei giorni da Rick Peeperkorn, Direttore dell'ufficio dell'OMS nei territori palestinesi occupati.
È lui che aveva detto “Tutti gli occhi su Rafah”.
Da notare che l'immagine di Abka riporta la scritta ''Ai generated by Zila Abka".
Dopo mesi, Abka rivede la sua immagine su Instagram, e analizzandola pensa sia uguale in tutto e per tutto alla sua, ma senza il watermark che ci aveva applicato.
A NPR dichiara che il fastidio che qualcun altro avesse usato la sua immagine scompare in poco: “Non penso che alcuna immagine generata con AI sia totalmente proprietà di qualcuno” – tanto per tornare al tema di prima.
Abka pensa che Amirul Shah, l'account che poi ha fatto diffondere massicciamente l'immagine, abbia tagliato l'immagine e poi usato un altro tool per espanderla, visto che l'immagine iniziale non era così verticale.
Shah nega di aver usato l'immagine di qualcun altro, ma dice di averla creata lui; forse con Microsoft Image Creator, ma non ricorda bene, e dice di non aver mai visto l'immagine di Abka.
Anche Shah dichiara che il suo obiettivo era il supporto alla causa palestinese e non la viralità, e che aveva notato che le immagini reali avevano una visibilità limitata su Instagram.
È interessante vedere che la danza di 'chi è l'autore' è sempre con noi, anche con questi strumenti. Le immagini fatte con AI sono intrinsecamente create tramite la collettività: il loro risultato allora, appartiene a qualcuno? O è di tutte e tutti?
Chiudo menzionando un altro pezzo di 404 Media che ci offre uno spunto su quello che è successo dopo l'immagine virale: altra gente sta provando a rifarlo, generando altre 'All Eyes on Rafah' e altro.
Una caratteristica delle immagini AI è che sono scalabili all'ennesima potenza: in pochi istanti chiunque può replicare più o meno qualche idea, magari con un po' di difetti, ma insomma creare un oceano di immagini tutte simili è facilissimo. Siamo pronti a gestirlo? Non lo so.
Cosette Interessanti
Riguardo ai video che stiamo facendo con Scomodo, vi lascio:
📄 Il report di Amnesty International ‘Automated Apartheid’ che è la fonte di quello che abbiamo detto in merito alla sorveglianza delle persone palestinesi
📹 Il video di Amnesty International sul tema, molto interessante. Specialmente la parte finale, in cui si parla del fatto che nonostante tutto le persone palestinesi resistono e non dobbiamo vederle solo come vittime inerti.
📹 Un video di Al Jazeera, anch'esso che riprende il tema e mostra anche delle testimonianze:
🎶 Questa canzone PAZZESCA fatta da bambini irlandesi total bop sentitela
👩 Con Gaia abbiamo parlato della nuova modalità di ChatGPT che...ci prova con te palesemente, e questa cosa riprende tutto un tema degli assistenti vocali con voci femminili, non è che rafforzano degli stereotipi di genre dannosi?
Infine fra poco si votaaaa!! Ovviamente non vi dico chi votare, ma vi invito, se potete, a farlo.
Vi segnalo tra l’altro questo post di @roberta_parigiani sulla questione di accessibilità al voto per le persone trans, che ho visto dalle storie di Elisa Belotti :)
Personalmente credo che nonostante ci siano tanti problemi, votare sia utile, e sia utile votare per il partito che è più vicino alle nostre posizioni. Se non sapete qual è, vi segnalo due risorse:
su Itamat trovate un quiz di 30 domande a cui rispondere sono d'accordo – non sono d'accordo, che alla fine vi dice quanto siete vicini ai diversi partiti.
Io adoro i quiz e i sondaggi quindi mi diverto sempre a farli. Tra l'altro sono stato al Festival della Democrazia di Itamat in cui c'erano i rappresentanti giovani dei vari partiti ed è stata una bella occasione, ne vorrei di più così!
L'altra è una app, Palumba, che funziona in modo simile ma con domande diverse.
Poi post elezioni vorrei sondare il campo di voi che mi seguite, chissà.
Buon voto 🇪🇺 e ci sentiamo!