Attacco all’intelligenza artificiale

Lo spazio dei curiosi di futuro

Attacco all'intelligenza artificiale

E’ QUESTIONE DI PIXEL

Uno strumento di nuova concezione chiamato Nightshade consente agli artisti di proteggere il loro lavoro creativo dall’uso non autorizzato da parte delle aziende di AI. Nightshade consente agli artisti di alterare i pixel delle loro opere, apportando modifiche invisibili all’occhio umano ma in grado di provocare il caos nei modelli generativi di AI se incorporati nei loro dati di addestramento. Questo strumento mira a sconvolgere i set di addestramento dei modelli AI generativi di immagini, come DALL-E e Midjourney, rendendo i loro risultati imprevedibili: i cani potrebbero diventare gatti, le auto potrebbero trasformarsi in mucche e così via.

Gli artisti sono sempre più preoccupati del fatto che le aziende di AI utilizzino le loro opere senza autorizzazione, con conseguenti battaglie legali. Nightshade è una risposta a questo problema, progettata per ridare potere agli artisti, o quantomeno per bilanciare i rapporti di forza tra le parti. Sviluppato da un team guidato da Ben Zhao dell’Università di Chicago, Nightshade sfrutta una vulnerabilità dei modelli di AI generativa, interrompendo i dati di addestramento su cui questi modelli si basano.

GLAZE

Oltre a Nightshade, i ricercatori hanno creato anche Glaze, uno strumento che consente agli artisti di mascherare il proprio stile personale, rendendo difficile per le aziende di AI la copiatura del loro lavoro. Nightshade sarà integrato in Glaze ed entrambi gli strumenti sono open source, per incoraggiare un uso più ampio e le iterazioni.

Lo strumento manipola i modelli di intelligenza artificiale per interpretare le immagini in modo diverso da quello previsto; ad esempio, le immagini di cappelli potrebbero essere interpretate come torte e le borse come tostapane. Queste manipolazioni sono difficili da eliminare e richiedono alle aziende tecnologiche di identificare ed eliminare faticosamente i campioni corrotti. I ricercatori hanno testato l’efficacia di Nightshade sui modelli di Stable Diffusion, dimostrando che anche un piccolo numero di immagini avvelenate può portare a distorsioni significative nei risultati generati dall’intelligenza artificiale.

USI IMPROPRI

Sebbene ci sia preoccupazione per un potenziale uso improprio, i ricercatori sostengono che gli aggressori avrebbero bisogno di migliaia di campioni avvelenati per avere un impatto significativo su modelli più grandi e potenti addestrati su miliardi di campioni di dati. Lo strumento funge quindi principalmente da deterrente, incoraggiando le aziende di AI a rispettare i diritti degli artisti e portando potenzialmente a forme di compenso più eque, sfidando le attuali politiche di opt-out che gli artisti ritengono inadeguate.

Gli artisti hanno espresso la loro gratitudine per strumenti come Nightshade e Glaze, che danno loro la fiducia necessaria per condividere nuovamente il loro lavoro online. Offrendo agli artisti i mezzi per proteggere le loro creazioni, questi strumenti stanno ridisegnando l’equilibrio di potere nel rapporto tra gli artisti e le aziende di IA, costringendo potenzialmente queste ultime a riconsiderare il loro approccio all’utilizzo delle opere degli artisti senza consenso.

RIFLESSIONI

Il vecchio detto “chi la fa, l’aspetti” assume ora un significato del tutto nuovo. Io mi auguro, che queste iniziative siano un richiamo alla trasparenza ed alla collaborazione tra piattaforme AI ed artisti e non rappresentino meramente un sistema che rallenti la ricerca nel settore. Se continuassimo con questa guerra del gatto col topo, credo che non gioverebbe a nessuno.

Provo a fare una riflessione, forse un po’ contro corrente. Quando un autore umano decide, per esempio, di scrivere un libro o di dipingere, certamente lo fa grazie alla sua esperienza personale, ma anche grazie agli insegnamenti dei maestri. Se oggi posso scrivere un libro, probabilmente è grazie alle letture di Yuval Harari, Jared Diamond, Ken Follet, Clive Cussler, Poe, Lovecraft e tutti gli altri miei autori preferiti. Nel caso dipingessi, in qualche misura sarei influenzato dalle meraviglie di Picasso, Van Gogh, Renoir e molti altri.

Riuscissi addirittura a pubblicare e vendere un libro o esporre e poi vendere un mio dipinto, non credo che Ken Follet o gli eredi di Picasso mi verrebbero a chiedere un compenso. L’intelligenza artificiale fa la stessa cosa, impara e riproduce in maniera più o meno univoca e raffinata. Perché quindi le piattaforme dovrebbero remunerare gli artisti e io no?

DIFFERENZE

Si potrebbe obiettare che, nel caso io scriva un libro, c’è una rielaborazione umana, mentre se lo fa un algoritmo è solo una macchina ad operare. Vero, ma quella macchina non è caduta dal cielo, è comunque frutto del lavoro di programmatori, tecnici e scienziati.

Potreste poi essere tentati di aggiungere che “un conto è lo sforzo individuale di un singolo… e un conto è una piattaforma spersonalizzata che svolge massivamente un servizio a milioni di persone”. Anche questo è vero e potrebbe essere l’origine del problema.

In generale mi sembra corretta l’affermazione che non tutto quello che è disponibile gratuitamente in rete, può essere usato da chiunque per qualsiasi scopo. Ritengo, semplicemente che le sfumature di questo argomento non siano ancora state dibattute a sufficienza. Per esempio, sono largamente favorevole al fatto che le piattaforme paghino un compenso ai creatori dei quali usano le creazioni. Preferirei però, che i soldi non andassero ai creatori in funzione delle loro “importanza” o del successo sul mercato. In ottica di democratizzazione del sistema, un’opera è esattamente uguale ad un’altra. Un libro di Grisham vale esattamente come quello dell’ultimo autore sconosciuto che ha fatto self publishing su Amazon. Gli autori sono pronti a questa riflessione?

Home – The Future Of (the-future-of.it)


VIDEO


I LIBRI DI THE FUTURE OF

Nel nostro perenne viaggio attraverso il tempo e lo spazio, “Le 10 Grandi Domande sul Futuro” ti porta in un’avventura unica, dove il passato incontra il futuro. In questo libro avvincente e informativo, esploro le profonde domande che hanno affascinato l’umanità per generazioni, ponendo interrogativi audaci su cosa riservi il futuro e come possiamo trarne ispirazione dai grandi innovatori del passato.
Attraverso una serie di conversazioni virtuali sorprendenti e coinvolgenti, ti ritroverai a dialogare con alcune delle menti più brillanti e influenti della storia, da Leonardo da Vinci a Marie Curie, da Nikola Tesla a Ada Lovelace, passando per Stephen Hawkings, Steve Jobs, Keplero, Richard Feynman e molti altri. Questi pionieri dell’innovazione condivideranno le loro prospettive uniche sul futuro, illuminando le strade possibili che l’umanità potrebbe intraprendere.
Nel corso di queste conversazioni mozzafiato, affronto domande ardite come: Qual è il destino dell’umanità nello spazio? Come possiamo sfruttare l’intelligenza artificiale per il bene dell’umanità? Quali sfide etiche ci aspettano nell’era della tecnologia avanzata? E molte altre.