News dal futuro – AI recruiting e bias, Sorveglianza con Ring, Cinquecento anni di Captcha, Il terzo pollice, Patent troll
In questa puntata:
- Uno. AI recruiting e bias. La ricerca e la selezione del personale viaggiano spediti verso l’uso sempre più massivo di strumenti che dicono di essere basati sull’AI, ma di intelligenza artificiale ne contengono molto poca e per di più piena di bias. Con l’aggravante di una mancanza di trasparenza scoraggiante.
- Due. Sorveglianza con Ring. Il videocitofono intelligente di Amazon, rappresenterebbe la più grande rete di sorveglianza del pianeta, cui le forze dell’ordine avrebbero accesso senza mandato negli USA. La cosa scatena polemiche e paure legittime che vi racconto.
- Tre. Cinquecento anni di Captcha. Per compilare i famosi test che dimostrano che siete umani e non un bot, ci vogliono 32 secondi in media, che per tutti gli utenti del mondo equivalgono ad una montagna di tempo. Cloudflare propone una soluzione alternativa.
- Quattro. Il terzo pollice. Un gruppo di scienziati insegna ad un gruppo di volontari ad usare un pollice prostetico e scopre come il cervello ne crei un’immagine per integrarlo nelle sue funzionalità ed adattare il comportamento. Ecco cosa succede quando ingegneri e neuroscienziati si incontrano.
- Cinque. Patent Troll. Negli USA finalmente un primo caso contro un’operatore che usa i suoi brevetti per fare cause predatorie di massa e chiudere a suo beneficio accordi economici vantaggiosi. Intanto l’Europa sta a guardare.
ASCOLTA LA PUNTATA SU SPREAKER
ASCOLTA LA PUNTATA SU SPOTIFY
AI RECRUITING e BIAS
Sul mercato esistono circa un migliaio di software, che si definiscono basati sull’intelligenza artificiale, che si occupano di selezione del personale. Al netto del solito balletto di cifre e tassi di crescita sulla dimensione della torta, che variano da fonte a fonte e secondo gli interessi, parliamo di un mercato in forte evoluzione, ma sostanzialmente ancora abbastanza piccolo. Anche se superasse il miliardo di dollari di valore nel 2025, il punto cruciale non è quanto vale, ma quanto può potenzialmente impattare sulla società.
E questo perché ogni società che usa tali strumenti ricerca e seleziona migliaia di candidati. Cominciando da alcune evidenze emerse dalla società di ricerca IndustryArc, il fenomeno sembra più diffuso in Nord America, particolarmente utilizzato nei settori dei servizi finanziari e delle assicurazioni e dedicato a produrre liste di potenziali candidati e fare un primo screening.
Con risultati modesti, molti rischi ed una preferenza molto chiara da parte delle persone a non volersi interfacciare con delle macchine.
I rischi sono ben noti, basta leggere un minimo di letteratura tecnologica per imbattersi in casi di software che discriminano lungo un’infinità di parametri: sesso, razza, età, colore delle pelle e chi più ne ha più ne metta. Il punto è semplice, molti programmi di riconoscimento facciale sono stati addestrati principalmente con volti di bianchi, spesso con volti di uomini bianchi e quando si mettono all’opera si portano dietro questa storia di partenza. Se un’azienda ha assunto in passato più maschi bianchi, l’algoritmo sarà portato a preferirli per esempio, alle ragazze di colore.
Sono incappate nell’errore Amazon, Uber, Microsoft e tante società di prestigio, tanto per intendersi.
REAZIONI
Le reazioni sono state di diverso tipo. Alcuni produttori hanno rivisto i loro algoritmi, cercando di eliminare i bias. Sapendo che sono le persone, prima degli algoritmi, ad avere dei bias, francamente mi chiedo se esista un modo per eliminare tali difetti da un software. Se possa esistere un software che astrattamente sia completamente privo di pregiudizi. E non parlo di quelli più manifesti come sesso, razza ed età, ma di quelli più sottili dei quali spesso non ci rendiamo conto neanche noi stessi.
Per esempio, quando ero più giovane ho avuto un capo molto in gamba che era irlandese e, per qualche motivo quindi, nutro una certa simpatia per le persone che provengono da quel Paese. Oppure, sono stato sempre affascinato dalle persone energetiche e grintose, mentre tendo ad essere più titubante sugli introversi e su quelli che parlano poco. Pur non scegliendo un candidato esclusivamente sulla base di queste esperienze e preferenze personali, sono convinto che in qualche modo influiscano sulle mie decisioni. Se ho io questi difetti, un algoritmo formato sulle mie esperienze, come potrebbe fare meglio?
ALTRI INCIAMPI
Altri hanno lanciato dei veri e propri servizi di intervista “blind” ai candidati, dove gli aspetti legati a razza, sesso e genere sono stati completamente eliminati e l’attenzione posta meramente sulle capacità tecniche. Peccato che, come sappiamo, la competenza tecnica è solo un aspetto e, spesso, quella relazionale può anche essere più importante.
Altri ancora hanno affiancato persone reali a fare da guardia agli algoritmi. Con il risultato che se le aziende pensavano di automatizzare certi processi, si sono poi ritrovate comunque il collo di bottiglia umano solo più a valle nel processo.
Una categoria di operatori ha invece provato a modellizzare gli impiegati migliori di un’azienda, per cercare candidati simili, dimenticandosi che se l’elenco dei migliori conteneva gli stessi bias di qualsiasi altro dataset, perché l’azienda magari in passato aveva assunto prevalentemente maschi bianchi, il problema ovviamente non poteva essere risolto. In altri casi esistono software che cercano di determinare le emozioni dei candidati e le confrontano con quelle di un qualche archetipo ideale.
TIPI DI AI
Ebbene, sarò molto chiaro, queste cose sono a malapena AI ed anche se lo fossero, sarebbero abbastanza inutili.
Ci sono tre tipi di intelligenza artificiale: descrittiva, predittiva e prescrittiva. Descrittiva ci dà informazioni su ciò che sta accadendo, predittiva ci mostra un’immagine del futuro, e prescrittiva ci dice cosa dovremmo fare sulla base di questi risultati.
L’AI nelle assunzioni è ancora nella fase descrittiva. Gli algoritmi aiutano i recruiter a trovare buoni candidati che potrebbero essere sfuggiti alla loro attenzione, ma come facciamo a prevedere effettivamente quali di questi candidati si comporteranno meglio nel lavoro?
Servirebbe codificare anche questo e poi darlo in pasto agli algoritmi. E per farlo servirà molto tempo.
Nel frattempo sarebbe opportuno introdurre dei correttivi a livello legislativo. Primo informare i candidati che sono stati individuati o scartati, tramite un algoritmo. Quante aziende sarebbero disposte a farlo? Secondo avere degli enti che certificano che i software utilizzati sono privi di bias. Cosa che farebbe sparire parte dei tool presenti sul mercato. Sia L’Europa che gli USA si stanno muovendo in tal senso. L’Europa con un focus sulla privacy. Gli USA con l’idea di proibire la commercializzazione di strumenti non adeguati.
E voi cosa ne pensate? Cosa proporreste per affrontare il problema?
SORVEGLIANZA CON RING
Nelle precedenti puntate di The Future Of vi ho parlato dei sistemi di sorveglianza di massa cinesi, che con telecamere dotate di software di riconoscimento facciale, sono in grado di tracciare i movimenti ed i comportamenti di milioni di persone. Nel mondo occidentale, vi ho anche raccontato dei sistemi di telecamere pubbliche e private che tracciano le targhe dei veicoli negli Stati Uniti e che sollevano analoghe perplessità, circa la privacy.
Oggi tocca a Ring. Tecnicamente, è un videocitofono di Amazon, che consente di interagire con l’ospite alla vostra porta dallo smartphone o dal computer. Dotato di telecamera che rileva il movimento e di una ottima visione anche in notturna, è un gadget apparentemente innocuo dal costo piuttosto contenuto, che è stato venduto in alcune centinaia di milioni di unità. Con un piccolo abbonamento consente anche di registrare e conservare quello che la sua telecamera vede e registra nello spazio di fronte a casa vostra.
RING E POLIZIA
E poi c’è un fatto, apparentemente secondario, che sta generando preoccupazioni e polemiche. Da quando Amazon ha acquistato Ring nel 2018, ha sottoscritto accordi facendo più di 1.800 partnership con le forze dell’ordine locali, che possono richiedere contenuti video registrati dagli utenti Ring senza un mandato. Cioè, in soli tre anni, Ring ha collegato circa un dipartimento di polizia su 10 in tutti gli Stati Uniti con la possibilità di accedere ai contenuti registrati da milioni di telecamere di sicurezza domestica all’interno di proprietà private.
Nel 2020 e fino ad aprile 2021, le forze dell’ordine americane, infatti, hanno fatto più di 22.000 richieste di accesso ai contenuti catturati e registrati sulle telecamere Ring. Poiché le telecamere Ring sono di proprietà di civili, alle forze dell’ordine viene data una backdoor per accedere a registrazioni video private di persone in spazi residenziali e pubblici che altrimenti sarebbero protette dal quarto emendamento. Collaborando con Amazon, le forze dell’ordine eludono queste protezioni costituzionali e legali, e la cosa negli USA non è stata affatto ben recepita dalla platea degli utilizzatori.
PREOCCUPAZIONI
Le preoccupazioni degli attivisti e degli studiosi sono state aggravate dagli sviluppi della tecnologia di riconoscimento facciale e da altre forme di machine learning che potrebbero essere plausibilmente applicate ai contenuti registrati e ai feed live di Ring. La tecnologia di riconoscimento facciale è stata infatti ampiamente denunciata dai ricercatori di intelligenza artificiale e dai gruppi per i diritti civili per i suoi pregiudizi razziali e di genere. Anche se Ring attualmente non utilizza il riconoscimento facciale nelle sue telecamere, proprio Amazon ha venduto questa tecnologia alla polizia in passato e quindi le preoccupazioni aumentano.
Forse non sapete che esiste un blog, sul noto portale Medium, intitolato Amazon Employees for Climate Justice, che raccoglie la voce di dipendenti di Amazon circa le più svariate tematiche sulle quali è impegnato il colosso americano.
Uno dei post di un softwarista riporta esattamente queste parole: “La diffusione di telecamere di sicurezza domestica connesse che permettono di interrogare i filmati a livello centrale non sono semplicemente compatibili con una società libera. I problemi di privacy non sono risolvibili con la regolamentazione e non c’è equilibrio che possa essere raggiunto. Ring dovrebbe essere spento immediatamente e mai più utilizzato”.
Ovviamente possiamo considerarla un’opinione personale e comunque è opportuno non lasciarsi prendere da isterie o facili considerazioni su argomenti così delicati; ma il fatto che queste tecnologie massive siano di fatto nelle mani di una grande corporation, che decide come usarle in piena autonomia e per scopi commerciali, sicuramente ci deve far accendere qualche lampadina.
500 ANNI DI CAPTCHA
Secondo il noto portale Cloudflare, l’umanità spreca circa 500 anni al giorno usando questa tecnologia. Che numero pazzesco, roba da far girare la testa.
Cos’è captcha lo sapete benissimo. Sono abbastanza sicuro che nell’ultimo mese, per poter accedere a qualche sito e dimostrare che siete umani, avete dovuto rispondere a quelle ridicole domande su quante biciclette, semafori o strisce pedonali vedete nell’immagine. Ecco questo è captcha.
Le aziende hanno bisogno di un modo per dire se un utente online è umano o no. Tipicamente queste ragioni riguardano la sicurezza o il rischio di abuso di un qualche servizio online. All’inizio del secolo, i captcha sono stati creati per fare proprio questo. Il primo fu sviluppato nel 1997, e il termine “Completely Automated Public Turing test to tell Computers and Humans Apart”, fu coniato nel 2003 da Luis von Ahn, Manuel Blum, Nicholas Hopper e John Langford.
E da lì in poi, si è diffuso fino a diventare uno strumento di uso comune. Secondo le stime di Cloudflare, che servendo milioni di siti internet ha una base dati grande ed affidabile, un utente impiega in media 32 secondi per completare un test captcha. Visto che ci sono 4,6 miliardi di utenti Internet nel mondo e supponendo che un tipico utente di Internet veda circa un captcha ogni 10 giorni, la stima è presto fatta. Il calcolo a ritroso equivale a circa 500 anni umani sprecati ogni giorno, solo per dimostrare la nostra umanità.
COSA FARE?
Bene e come possiamo fare per evitare tutto questo spreco di tempo individuale e cumulato? Se ricordate, vi avevo già citato in passato una bella startup italiana che sta lavorando sul tema con features ancora migliori, ma nel nostro paese parlare di tecnologie globali è sempre complicato. Dove c’è un big player mondiale, un champion, le cose riescono a procedere più rapidamente.
La soluzione del portale americano è comunque più veloce del captcha e richiede una serie di passaggi. A descriverli sembra una cosa lunga, in realtà parliamo di pochi secondi.
Dal punto di vista dell’utente, un attestato crittografico di “personalità umana” funziona come segue: l’utente accede a un sito web protetto da Attestazione Crittografica di Personalità, gli viene proposta una sfida, l’utente clicca su “I am human” e gli viene richiesto un dispositivo di sicurezza, decide di usare una chiave di sicurezza hardware, contenuta in una chiave usb che inserisce nel suo computer o collega al suo telefono per la firma wireless, l’attestato viene inviato al sito, che permette all’utente di entrare dopo la verifica del test di presenza che si risolve premendo un bottone. Tradotto, infili una chiave usb e clicchi un bottone. Tempo massimo 5 secondi.
CRITTOGRAFIA A CHIAVE PUBBLICA
Questa verifica si basa sulla crittografia a chiave pubblica ed i certificati digitali. La crittografia a chiave pubblica fornisce un metodo per produrre firme digitali non falsificabili. Un utente genera una chiave di firma che può firmare i messaggi e una chiave di verifica che può essere usata da chiunque per verificare che un messaggio sia autentico.
Il tutto senza cookies, senza possibilità di hacking lungo il sistema, e senza intermediari. Ed in più ovviamente, nessuno sa chi abbia premuto il bottone, perché non è importante. L’importante è che ci sia un umano dietro a farlo. Certo potreste immaginare un qualche dispositivo meccanico che schiaccia il bottone, ma oggettivamente mi sembra una fantasia.
Se invece ci fosse anche il riconoscimento dell’utente, Andrea Ferrante per esempio, l’unico modo di eludere il sistema sarebbe puntare una pistola alla mia testa e costringermi a schiacciare il bottone, ma questo sarebbe uno scenario da pensare solo in caso di ulteriore evoluzione dello strumento.
Per ora siamo ancora in fase di test, vediamo se questo approccio potrà diffondersi, perché è oggettivamente interessante e se riesce a funzionare in digitale, senza passare necessariamente da un hardware da portarsi in giro, ovviamente sarebbe anche meglio.
IL TERZO POLLICE
Se lo studio non fosse serissimo e pubblicato sulla prestigiosa rivista Science Robotics, capisco che l’argomento farebbe un po’ ridere. Ed invece è davvero importante, per poter parlare di augmented humans.
Alcuni scienziati hanno applicato alla mano di un volontario un sesto dito robotico ed hanno scoperto che la cosa cambia il modo in cui la mano è rappresentata nel cervello.
Il team di ricerca ha addestrato gli esseri umani a utilizzare un pollice extra robotico e ha scoperto che potevano eseguire efficacemente compiti complessi e destrorsi, compreso costruire una torre blocchi tipo lego o reggere una tazzina da caffè, usando la mano con l’appendice artificiale. Man mano che i partecipanti continuavano ad allenarsi, sottolineavano come si sentissero sempre più a proprio agio con la nuova parte robotica del proprio corpo.
THIRD THUMB
In particolare, il Third Thumb, questo il nome della protesi, è completamente stampato in 3D, il che significa che la personalizzazione sulle misure del singolo utilizzatore è piuttosto facile e veloce da realizzare. Viene indossato sul lato della mano, dal lato opposto al pollice in carne ed ossa, affiancato al mignolo. Chi indossa il Terzo Pollice può controllarlo tramite sensori di pressione equipaggiati sui piedi, sotto gli alluci. Collegati senza fili, i due sensori per le dita dei piedi manipolano il movimento del pollice robotico reagendo istantaneamente a sottili cambiamenti nella pressione dell’alluce sul sensore.
I ricercatori, hanno dato ad un gruppo di 20 persone il pollice robotico, chiesto loro di utilizzarlo anche a casa per almeno 6 ore al giorno e poi li ha sottoposti a dei test pratici. Ad un secondo gruppo di controllo è stato invece richiesto di indossare un pollice robotico statico, che restava immobile durante l’esecuzione dei medesimi compiti del gruppo principale.
In particolare, la scansione cerebrale dei partecipanti, ha rilevato cambiamenti sottili ma sostanziali nel modo in cui la mano aumentata con un pollice robotico è stata rappresentata nella corteccia senso motoria del cervello. Il nostro cervello rappresenta ogni dito in un modo distinto da tutti gli altri e, dopo l’addestramento del dito robotico, il nuovo modello di attività corrispondente al nuovo dito diventava più simile agli altri naturali. Questo vuol dire che il cervello si stava costruendo un’immagine della presenza e delle modalità di funzionamento del dito aggiuntivo.
Infatti, i volontari sono riusciti a usare il pollice anche quando erano distratti o addirittura bendati, e hanno riferito un forte senso di presenza dello strumento. La parola inglese usata nel paper, “embodiment”, rende molto meglio l’idea di quanto possa fare una traduzione approssimativa in italiano.
ADATTAMENTO
Il fatto che impariamo e ci adattiamo ovviamente non è una sorpresa per nessuno, ma nel campo della robotica è rilevante, perché indica come il lavoro congiunto di ingegneri e neuroscienziati sia necessario per migliorare il vasto mondo delle protesi e di come questo possano evolversi fino a diventare davvero parti di noi. E questo vale sia per chi ha malattie, disfunzioni o mancanza di arti, sia per chi potrebbe aver bisogno di estensioni artificiali del corpo per svolgere meglio determinati compiti.
Del resto, l’evoluzione non ci ha preparato a usare una parte del corpo in più, e abbiamo capito che per estendere le nostre capacità in modi nuovi e inaspettati, il cervello dovrà adattare la rappresentazione dello strumento artificiale a quella del corpo biologico. Un campo che abbiamo appena iniziato a sfiorare e che, comunque, potrebbe insegnarci molto anche su come interagiamo con oggetti qualsiasi al nostro esterno, aumentando per esempio la sicurezza, la velocità o l’accuratezza dei nostri movimenti.
Avere qualcosa di fisicamente attaccato al corpo e lavorare in tandem con esso è comunque diverso. I risultati che i ricercatori hanno ottenuto qui sono più vicini a ciò che vediamo nei pianisti esperti, l’allenamento a lungo termine porta a cambiamenti nella rappresentazione cerebrale delle dita. Qui ne abbiamo addirittura una in più.
Vi lascio sulla pagina web di The Future Of, un video di un volontario che “gioca” con il terzo pollice, andatelo a vedere, scommetto che vi lascerà abbastanza sorpresi.
PATENT TROLL
Chi siano e cosa facciano i troll nel moderno mondo digitale, specialmente sui social network, è abbastanza chiaro. Ma forse non sapete, che esistono dei troll che applicano dei comportamenti particolarmente scorretti, e purtroppo spesso molto remunerativi, anche nel mondo dei brevetti.
Non c’è una definizione univoca di patent troll, a volte si usa pirata dei brevetti, è un termine controverso, suscettibile di numerose definizioni, nessuna delle quali è considerata soddisfacente dal punto di vista della comprensione di come i patent troll dovrebbero essere trattati in diritto. Le definizioni includono una parte che fa una o più delle seguenti cose:
- Acquista un brevetto, spesso da una società in fallimento, e poi fa causa a un’altra società sostenendo che uno dei suoi prodotti viola il brevetto acquistato;
- Fa rispettare i brevetti contro i presunti contraffattori senza avere l’intenzione di produrre il prodotto brevettato o fornire il servizio brevettato; spesso non ha nemmeno una base di produzione o di ricerca;
- Fa valere diritti di violazione di brevetto contro chi non copia.
Se vogliamo ridurre all’osso la definizione, potremmo dire che un patent troll usa alcuni brevetti nella sua disponibilità per fare causa sistematicamente a tutti coloro che usano una qualche tecnologia simile. Con lo scopo non tanto di impedire loro di usarla, ma di arrivare a qualche tipo di transazione economica a suo vantaggio. Come per esempio, concedere una licenza a pagamento oppure chiudere la causa facendosi pagare qualcosa.
LANDMARK TECHNOLOGY
Per esempio, negli ultimi anni, almeno 10 aziende dello stato di Washington, sono state citate in giudizio da una società di nome Landmark Technology A, che disporrebbe di un brevetto abbastanza generico in materia di ecommerce, in quello che è noto come una caso conclamato di patent trolling. Secondo l’ufficio del procuratore generale dello stato, questa strategia “predatoria” usa rivendicazioni di brevetti in “malafede” per costringere le piccole imprese a trovare rapidi accordi in denaro e chiudere la causa rapidamente per paura di affrontare ulteriori spese legali, che negli USA si stima possano costare tra gli 1 ed i 2,5 milioni di dollari per una difesa completa.
LA PRIMA AD ESSERE CITATA IN GIUDIZIO
Ma Landmark potrebbe essere ripagata a breve con la sua stessa moneta. Giovedì, Landmark è diventata la prima azienda ad essere citata in giudizio in base al Patent Troll Protection Act dello stato di Washington, una legge del 2015 che era destinata a “reprimere” i ‘troll di brevetti’ che molestano e minacciano le piccole imprese con richieste di violazione di brevetto.
Secondo il procuratore, l’intero modello di business di Landmark Technology A consiste nell’esigere il pagamento di licenze da altre aziende. Tra gennaio 2019 e luglio 2020, la società ha inviato “lettere di richiesta identiche” a quasi 1.200 piccole imprese in tutto il paese. Alle aziende è stato detto che avevano violato un brevetto di proprietà di LTA che copre un’ampia fascia di operazioni di e-commerce e in molti casi sono stati minacciati di contenzioso a meno che non riconoscessero a Landmark una licenza di 65.000 dollari.
Provate ad immaginare quanto valga l’intera operazione, se anche una piccola percentuale dei 1.200 sfortunati, decidesse di arrivare ad una qualche forma di transazione economica.
DAGLI USA ALL’EUROPA
E non pensiate sia un caso isolato, secondo una ricerca pubblicata nel 2012, quindi piuttosto vecchia, in quell’anno almeno 2.900 cause negli USA erano riconducibili a situazioni etichettabili come patent troll. Possiamo solo immaginare che 9 anni dopo, i casi siano sostanzialmente aumentati, vista la costante digitalizzazione del mondo moderno.
La letteratura europea riporta un’impennata di casi anche nel nostro continente, specialmente tra il 2017 ed il 2018, con le aziende del mondo ICT messe nel mirino ed il 60% di cause provenienti proprio dagli USA, dove il fenomeno appunto sembra avere radici più solide. Tra l’altro, dato che l’assetto economico e dell’innovazione europeo è composto in prevalenza da piccole e medie imprese, piuttosto che da giganti ben attrezzati dal punto di vista legali, è più facile per i patent troll colpire. E purtroppo, pare che molte aziende preferiscano pagare e restare in silenzio, così è anche abbastanza difficile avere un track record preciso di quanto accaduto e di chi è coinvolto.
Purtroppo, da una veloce review della letteratura, sembra che l’Europa non si sia ancora ben attrezzata dal punto di vista legislativo, per combattere il fenomeno. Europa, cosa stai aspettando? Cara Von der Leyen ed esimi membri del parlamento europeo, cosa state aspettando?
SALUTI
Grazie per aver ascoltato The Future Of, davvero! Avresti potuto ascoltare la radio, avresti potuto far girare un vinile, avresti potuto mettere su una cassetta, avresti potuto usare uno stereotto, ehm, a sapere cosa fosse, e invece hai preferito The Future Of. E’ per questo che ti ringrazio, ed hai ancora centinaia di puntate da scoprire.
La frase della settimana. Franklin Delano Roosevelt ha detto, “l’unico limite alla nostra realizzazione del domani saranno i nostri dubbi di oggi. Andiamo avanti con una fede forte e attiva.”
NEWSLETTER
Qui il link all’archivio storico delle Newsletter.
Iscriviti. Gratuita. Scelta già da centinaia di appassionati.
SEGUI THE FUTURE OF
ULTIME PUNTATE DEL PODCAST
- Li-Fi trasferire i dati con la luce
- Batterie alla sabbia
- Summer Edition 2023
- Negli abissi con il Titan
- Arte e intelligenza artificiale
