
E’ QUESTIONE DI PIXEL
Uno strumento di nuova concezione chiamato Nightshade consente agli artisti di proteggere il loro lavoro creativo dall’uso non autorizzato da parte delle aziende di AI. Nightshade consente agli artisti di alterare i pixel delle loro opere, apportando modifiche invisibili all’occhio umano ma in grado di provocare il caos nei modelli generativi di AI se incorporati nei loro dati di addestramento. Questo strumento mira a sconvolgere i set di addestramento dei modelli AI generativi di immagini, come DALL-E e Midjourney, rendendo i loro risultati imprevedibili: i cani potrebbero diventare gatti, le auto potrebbero trasformarsi in mucche e così via.
Gli artisti sono sempre più preoccupati del fatto che le aziende di AI utilizzino le loro opere senza autorizzazione, con conseguenti battaglie legali. Nightshade è una risposta a questo problema, progettata per ridare potere agli artisti, o quantomeno per bilanciare i rapporti di forza tra le parti. Sviluppato da un team guidato da Ben Zhao dell’Università di Chicago, Nightshade sfrutta una vulnerabilità dei modelli di AI generativa, interrompendo i dati di addestramento su cui questi modelli si basano.
GLAZE
Oltre a Nightshade, i ricercatori hanno creato anche Glaze, uno strumento che consente agli artisti di mascherare il proprio stile personale, rendendo difficile per le aziende di AI la copiatura del loro lavoro. Nightshade sarà integrato in Glaze ed entrambi gli strumenti sono open source, per incoraggiare un uso più ampio e le iterazioni.
Lo strumento manipola i modelli di intelligenza artificiale per interpretare le immagini in modo diverso da quello previsto; ad esempio, le immagini di cappelli potrebbero essere interpretate come torte e le borse come tostapane. Queste manipolazioni sono difficili da eliminare e richiedono alle aziende tecnologiche di identificare ed eliminare faticosamente i campioni corrotti. I ricercatori hanno testato l’efficacia di Nightshade sui modelli di Stable Diffusion, dimostrando che anche un piccolo numero di immagini avvelenate può portare a distorsioni significative nei risultati generati dall’intelligenza artificiale.
USI IMPROPRI
Sebbene ci sia preoccupazione per un potenziale uso improprio, i ricercatori sostengono che gli aggressori avrebbero bisogno di migliaia di campioni avvelenati per avere un impatto significativo su modelli più grandi e potenti addestrati su miliardi di campioni di dati. Lo strumento funge quindi principalmente da deterrente, incoraggiando le aziende di AI a rispettare i diritti degli artisti e portando potenzialmente a forme di compenso più eque, sfidando le attuali politiche di opt-out che gli artisti ritengono inadeguate.
Gli artisti hanno espresso la loro gratitudine per strumenti come Nightshade e Glaze, che danno loro la fiducia necessaria per condividere nuovamente il loro lavoro online. Offrendo agli artisti i mezzi per proteggere le loro creazioni, questi strumenti stanno ridisegnando l’equilibrio di potere nel rapporto tra gli artisti e le aziende di IA, costringendo potenzialmente queste ultime a riconsiderare il loro approccio all’utilizzo delle opere degli artisti senza consenso.
RIFLESSIONI
Il vecchio detto “chi la fa, l’aspetti” assume ora un significato del tutto nuovo. Io mi auguro, che queste iniziative siano un richiamo alla trasparenza ed alla collaborazione tra piattaforme AI ed artisti e non rappresentino meramente un sistema che rallenti la ricerca nel settore. Se continuassimo con questa guerra del gatto col topo, credo che non gioverebbe a nessuno.
Provo a fare una riflessione, forse un po’ contro corrente. Quando un autore umano decide, per esempio, di scrivere un libro o di dipingere, certamente lo fa grazie alla sua esperienza personale, ma anche grazie agli insegnamenti dei maestri. Se oggi posso scrivere un libro, probabilmente è grazie alle letture di Yuval Harari, Jared Diamond, Ken Follet, Clive Cussler, Poe, Lovecraft e tutti gli altri miei autori preferiti. Nel caso dipingessi, in qualche misura sarei influenzato dalle meraviglie di Picasso, Van Gogh, Renoir e molti altri.
Riuscissi addirittura a pubblicare e vendere un libro o esporre e poi vendere un mio dipinto, non credo che Ken Follet o gli eredi di Picasso mi verrebbero a chiedere un compenso. L’intelligenza artificiale fa la stessa cosa, impara e riproduce in maniera più o meno univoca e raffinata. Perché quindi le piattaforme dovrebbero remunerare gli artisti e io no?
DIFFERENZE
Si potrebbe obiettare che, nel caso io scriva un libro, c’è una rielaborazione umana, mentre se lo fa un algoritmo è solo una macchina ad operare. Vero, ma quella macchina non è caduta dal cielo, è comunque frutto del lavoro di programmatori, tecnici e scienziati.
Potreste poi essere tentati di aggiungere che “un conto è lo sforzo individuale di un singolo… e un conto è una piattaforma spersonalizzata che svolge massivamente un servizio a milioni di persone”. Anche questo è vero e potrebbe essere l’origine del problema.
In generale mi sembra corretta l’affermazione che non tutto quello che è disponibile gratuitamente in rete, può essere usato da chiunque per qualsiasi scopo. Ritengo, semplicemente che le sfumature di questo argomento non siano ancora state dibattute a sufficienza. Per esempio, sono largamente favorevole al fatto che le piattaforme paghino un compenso ai creatori dei quali usano le creazioni. Preferirei però, che i soldi non andassero ai creatori in funzione delle loro “importanza” o del successo sul mercato. In ottica di democratizzazione del sistema, un’opera è esattamente uguale ad un’altra. Un libro di Grisham vale esattamente come quello dell’ultimo autore sconosciuto che ha fatto self publishing su Amazon. Gli autori sono pronti a questa riflessione?
Home – The Future Of (the-future-of.it)
VIDEO
LIBRI SUL FUTURO
Le 10 Grandi domande sul futuro



