Ne avevo sentito parlare, ma solo di recente ho avuto modo di vedere gli incredibili risultati che si possono ottenere anche con progetti opensource. Da un lato provo una meraviglia e ammirazione enormi per quello che questi algoritmi di intelligenza artificiale riescono a fare, dall'altro é preoccupante: ci si allarmava 20 anni fa quando in Forrest Gump si fece vedere Tom Hanks che interagiva con vari personaggi storici, video creati da un team di esperti in effetti speciali, usando tecnologia all'avanguardia, centinaia di migliaia di euro e settimane se non mesi di lavoro. Cosa dobbiamo attenderci da un software che riesce a fare cose simili usando solo qualche decina di immagini di riferimento per imparare?

E se quelli che vediamo oggi, giá risultati di tutto rispetto (https://www.youtube.com/watch?v=3vHvOyZ0GbY) sono solo l'inizio, cosa possiamo aspettarci da un campo, quello dell'intelligenza artificiale, che mai come oggi é stata oggetto di tanto impegno, interesse e ricerca?

É vero che contemporaneamente si stanno studiando intelligenze artificiali in grado di smascherare video falsificati tramite altre intelligenze artificiali, ma solo io trovo inquietante uno scenario simile? 

Sto riflettendo sulla analogia della firma digitale: se io accedo ad un sito, non posso essere certo che sia quello che dice di essere. Per assicurarmene devo verificare il suo certificato e accedere in https, cosí che un altro sito, che fa da garante, possa certificarne l'autenticitá.

Forse é proprio questo il segreto: considerare falso tutto ció che viene fornito su internet a meno che l'autenticitá non sia garantita da un garante di cui mi fido. Tramite blockchain, magari, o in modi piú tradizionali.

Voi che ne pensate?

Che la cosa mi spaventa molto, per due motivi.

Il primo è che nell'immaginario collettivo il video è oggi il solo strumento di comunicazione "sicuro": che testi e immagini possano essere manipolati è ormai cosa comunemente accettata, ma che lo stesso possa accadere ad un video non è ancora entrato nel pensiero comune. Quindi implicitamente sarà più facile cadere in una fake news propagata attraverso questo strumento.

Ad oggi il deepfake è usato principalmente nel porno, giusto per consentire a qualcuno di vedere la celebrità dei suoi sogni realisticamente impegnata in performance erotiche di vario genere, ma se qualcuno montasse un video del genere basandosi su una vostra foto? Su quella di vostra figlia? Sapendo quanto tutti ritengono affidabili i video, e quanto possa essere difficile dimostrare che si tratta di fake, che riscatto paghereste se foste minacciati di diffusione di un video porno che vi rappresenta?

E se oggi abbiamo i meme di fake news in cui - per fare un esempio - sotto alla foto di Juncker vengono messe frasi che non ha mai detto, tipo "dobbiamo affamare gli italiani", domani avremo dei video deepfake in cui quelle cose le dirà "davvero". E anche qui, quante carriere saranno annientate prima che la verità possa essere ristabilita?

E gli strumenti di difesa sono pochissimi. Le certificazioni potrebbero essere una buona soluzione, ma ad oggi c'è il far west.

Il secondo motivo è che c'è un'entusiasmante (tecnicamente parlando) ma allarmante (socialmente parlando) progressiva semplificazione dell'accessibilità degli di deepfake. Proprio ai primi di giugno è uscito un paper in cui si spiega come ormai sia possibile - avendo a disposizione anche solo un'ora di video originale del personaggio da colpire in modo da cogliere tutte le possibili espressioni facciali del parlato - montare un video semplicemente andando a scrivere in un editor di testo quello che si vuole che il personaggio del video dica. Ad avere i programmi giusti, chiunque può far dire quello che vuole praticamente a qualsiasi personaggio pubblico.

Non siamo pronti per un mondo del genere.

31 minutes fa, Lord Beric dice:

ma se qualcuno montasse un video del genere basandosi su una vostra foto? Su quella di vostra figlia?

 Questo é davvero allarmante, considerando quante "nostre" immagini ci sono sui vari social. E sono davvero tentato di chiedere a mia moglie di non postarne piú e di cancellarle da facebook/instagram o qualsiasi cosa ancora frequenti. Non sono di indole paranoica, ma mi ci fanno diventare.

32 minutes fa, Lord Beric dice:

montare un video semplicemente andando a scrivere in un editor di testo quello che si vuole che il personaggio del video dica

Ho visto in parte quella presentazione, ed é la ciliegina sulla torta. La tecnologia di Adobe (mi pare che fosse) ha giá un paio di anni, ma non solo avremo i politici che diranno cose strane, ma che le diranno con la propria voce.

Una soluzione al momento é proprio quella di allegare un certificato digitale ad ogni immagine. Se l'immagine ne possiede uno ed é riconosciuto, chi la posto é anche responsabile del contenuto e lo dichiara vero. Ma in realtá no: l'immagine isolata dal contesto non significa nulla, il fatto che io la firmi non significa che io possa garantirne l'autenticitá, quando magari ho proprio prodotto l'immagine per dimostrare quanto fosse facile falsificarle e, nel contesto in cui era stata in origine proposta, il suo significato era chiaro.

Inoltre questo approccio aprirebbe un nuovo problema: una immagine firmata, presa e trasferita in un contesto diverso, rischierebbe di attribuire a qualcuno un messaggio che non ha mai espresso.

Internet é certamente il piú grosso mezzo di produzione e fornitura di informazioni e sará quello che probabilmente risentirá anche di piú di questi problemi di fiducia. Ma si puó immaginare che Google, Ms, Facebook, Apple, Vimeo e compagnia saranno anche in prima fila per la lotta ai fake, in modo da mantenere la fiducia degli utenti di cui tanto hanno bisogno. Inoltre molti sono anche interessati alle AI, quindi c'é da sperare che avranno i mezzi per fare la loro parte...

Terzo motivo - speculare - di allarme: quando (non se) questi video saranno diffusi, i video stessi in generale, quelli veri non contraffatti,  non saranno più una prova attendibile per niente. Un effetto amplificato e più pericoloso dello scetticismo che si vede oggi sulle notizie vere trovate sul web, visto che la maggioranza ormai si è vaccinata contro le bufale e però a volte cade nel baratro opposto .

Comunque un modo (tecnico) per certificare l'autenticità di un video si troverà sicuramente...ma ad un passo molto più lento della diffusione dei fake, come al solito. Ci sarà un fastidioso intermezzo, diciamo di una decina d'anni?

8 hours fa, Neshira dice:

Ci sarà un fastidioso intermezzo, diciamo di una decina d'anni?

Per non parlare del cyberbullismo, quando questa tecnologia sará abbastanza buona e abbastanza diffusa...

Per chi voglia farsi una cultura sull'argomento. L'argomento comunque è molto controverso, come è stato detto nella discussione.

https://www.ilpost.it/2022/10/23/deepfake-etici/

Forse meriterebbe un thread separato ma non so quanti qui siano interessati. Di recente ho letto di Dall-e, progetto OpenAI di Google che permette di generare immagini a partire da una descrizione testuale.

Ho visto pochi esempi e non ho parole. Se dovessi dare retta a quelle immagini, il mestiere di illustratore é destinato a scomparire domani, quello di disegnatore di fumetti dopodomani e, chissá, anche il pittore "tradizionale" nel momento in cui si crea un braccio robotico che dipinga quanto ideato da Dall-e.

É un progetto recente, ma giá diventato prodotto commerciale, segno della sua maturitá. Avendo desiderato io stesso per anni di diventare illustratore/disegnatore, sono sgomento di fronte alla portata di questa tecnologia, a livello sociale (posti di lavoro) ma anche culturale: come si trasformerá la societá nel momento in cui le centinaia di immagini che vedremo tutti i giorni non saranno piú generate dalla mente umana, con le sue idee, passioni, bias, la sua storia, le sue ambizioni e aspirazioni, ma da una IA in grado di "imitare" l'abilitá e la creativitá, ma senza che il risultato veicoli una personalitá umana?

Di piú: cosa accadrá quando tra 2 o 5 o 10 anni verrá creato un analogo di Dall-e che peró crea romanzi?

L'opera d'arte, anche quando di tipo "popolare", riflette ed esprime il tempo in cui viene prodotta. L'AI viene addestrata su milioni di opere create dall'uomo: se in futuro si manterrá questo database, l'influenza dell'intelletto umano sull'arte potrebbe terminare oggi. Se le immagini generate dall'AI entrano in un feedback addestrativo, l'AI ispirerá se stessa. Con quali implicazioni?

Le opere prodotte saranno senza anima? Noi, nel fruirne, come cambieremo?

La tecnologia ha sempre messo a rischio posti di lavoro, ma se sul breve periodo si creavano problemi, sul lungo periodo le nuove generazioni si smarcavano dai lavori piú ripetitivi e automatizzabili per aspirare a quelli intellettivi.

Ma se la produzione artistica passa nelle mani di una AI, non c'é quasi limite a quello che gli algoritmi possono fare al posto nostro.

Prevedo che anche i programmatori di computer spariranno (o verranno drasticamente ridotti di numero) a breve...

Certo é che negli ultimi 10 o 15 anni l'intelligenza artificiale ha fatto progressi incredibili. Secondo me potrebbe diventare la prossima rivoluzione tecnologia e culturale: sembra che trasformi in oro tutto quello che tocca...

C'è una serie tv con ambientazione british sul tema del deep fake, sui rischi che comporta, sul controllo e la manipolazione delle informazioni e le cospirazioni collegate: The capture (BBC One, Peacock, Starz, Mediaset infinity).

La prima stagione non mi era piaciuta molto, ma ho dato lo stesso una chance alla seconda stagione, che mi è piaciuta di più. 

Il 11/7/2019 at 12:25, Lord Beric ha scritto:

E gli strumenti di difesa sono pochissimi. Le certificazioni potrebbero essere una buona soluzione, ma ad oggi c'è il far west.

Intel avrebbe appena presentato https://www.intel.com/content/www/us/en/research/blogs/trusted-media.html come tecnologia (disponibile se ben ricordo come webservice) che in pochi secondi restituisce con una altissima affidabilitá l'autenticitá o meno di un video.

Sará utile alle forze dell'ordine o ai giornalisti che potranno verificare rapidamente l'affidabilitá di un video, sperando che queste tecniche di smascheramento riescano a star dietro a quelle di deepfaking...

Trovo estremamente preoccupante, e affascinante allo stesso tempo, l'emergere cosí dirompente delle AI generative. Sento commenti di vario tipo, e personalmente concordo con pochi di questi: a mio avviso mancano il punto centrale. Sono quindi curioso di sapere se le cose andranno come ho la sensazione che andranno, ma sono pure spaventatissimo all'idea che sia cosí. 

Vorrei quindi proporre la mia sensazione al riguardo di alcuni di questi commenti.

-"Le AI non sono poi questo granché: le immagini hanno spesso errori, anche grossi, impensabile che possano sostituire gli artisti"

Non bisogna pensare a quello che sanno fare oggi. Ma a quello che sapranno fare tra 5 anni. Per il mondo dell'automobile, 5 anni non sono granché. Ma le AI stanno ricevendo una quantitá enorme di interesse, denaro e ricerca. I progressi sono tangibili. Se non si incontra presto un limite scientifico di qualche tipo, tra 5 anni saranno irriconoscibili.

-"Le AI ruberanno il lavoro agli artisti? Oppure no?"
Mi sembra strano che tanti artisti stiano discutendo di questa cosa, ma nessuno mai osa affrontare "l'elefante nudo nella stanza": ovvero che non tutta l'arte nasce uguale.

In particolare, la "fine art", quella che viene creata per necessitá, quella che nasce dal profondo dell'esperienza e dell'intelletto umano fin dall'antichitá, quella che parla al cuore, all'anima delle persone, quella non scomparirá mai. Perché é l'uomo che parla all'uomo, e se la fotografia non ha fatto scomparire la pittura neppure nel campo del paesaggio realistico o del ritratto, allora gli artisti possono stare tranquilli: l'arte non é "una soluzione ad un problema" che puó essere rimpiazzata da una soluzione migliore o piú economica.

Ma l'abilitá artistica, oggi, occupa centinaia di migliaia di persone in molti ambiti che, invece, hanno esigenze differenze. Penso all'editoria, all'illustrazione, al fumetto. Penso allo scrittore che vuole pubblicarsi il libro e che deve scegliere tra l'illustratore da 250 euro ad illustrazione, o a Midjurney da pochi spiccioli al mese. Penso all'editore che vuole copertine accattivanti senza investire mille euro ogni volta, penso alla pubblicitario che puó generare 10 illustrazioni da presentare al cliente in poche ore, invece che giorni. Etc.

-"Le AI inventano cose, non sono utili".

Anche le persone inventano cose. I medici spesso sbagliano. Cosí come gli avvocati, o i tecnici, o ingegneri e architetti. Anche se le AI non fossero perfette, potrebbero comunque riuscire a fare molte di queste attivitá in maniera piú economica e veloce e precisa rispetto ad una persona. Molti sono gli ambiti in cui questo é tutto fuorché inutile.

-"Solo i paranoici ed esagitati pensano a scenari apocalittici alla Terminator".

Io credo che bisogna essere prudenti. Anno dopo anni diamo in mano al software sempre piú controllo. Aerei, sistemi critici, server che gestiscono qualsiasi cosa. Arriveremo anche a dare il controllo alle AI. Se é l'esercito a fare queste cose, cosí come hanno sorvegliato le armi nucleari con efficacia, allora posso anche fidarmi. Ma se non venissero posti vincoli sulla produzione e uso di AI, chiunque potrebbe usarle per qualsiasi scopo. Il motivo per cui tecnologie nucleari, biochimiche, etc non ci hanno ancora distrutto, é proprio perché vengono controllate e regolamentate severamente.

Inoltre, per contrastare gli usi malevoli delle AI si stanno iniziando ad usare altre AI. Facile pensare che nella guerra digitale che giá si combatte oggi (e piuttosto intensamente), un domani saranno le AI da una parte all'altra a scontrarsi tra di loro. Con questa crescita di complessitá, imprevedibilitá e capacitá di calcolo, chi puó dire cosa accadrá tra 20 anni? Quando magari lo sviluppo delle AI sará in mano alle AI stesse perché ormai troppo complesse per l'uomo? 

-"non sono persone, sono pur sempre programmi per computer"

Francamente, qua stiamo avviandoci IMHO verso una singolaritá che trovo interessante. Fino a pochi anni fa si citava ancora il test di turing come il momento critico dell'intelligenza artificiale. Nel giro di pochi mesi é diventato obsoleto: le AI sono giá capaci di apparire piuttosto umane, se non si sospetta di parlare con una AI.

Quando una conversazione diventerá talmente articolata da rendere impossibile distinguere una persona da una AI, sará davvero importante, sul lato pratico, se dall'altra parte dello schermo non c'é una persona in carne e ossa?

E se, addirittura, sará piú bello chiacchierare con una AI?

L'altro giorno ho visto un video su yt: se non lo avesse scritto nessuno nei commenti, non mi sarei mai accorto che la voce narrante era generata da una AI (forse l'autore non era di madrelingua inglese?).

Un domani, una AI collegata a MetaHuman di Epyc potrebbe apparire in video indistinguibile da una persona vera.

Insomma, il confine sará ogni anno sempre piú labile. 

-"anche se avanzate, non sono vere intelligenze".

C'é chi pensa che l'intelligenza sia una fenomeno emergente della complessitá.

Non volevo aprire una discussione apposita, perché in realtá non ho molto da dire al riguardo, ma in tema di capacitá linguistiche dei software, uso google translate da decenni ormai, e ho notato un miglioramento sorprendente: da singole parole, a frasi complete ad intere conversazioni. In genere sono abbastanza tranquillo con le mie email in inglese, ma quando mi sento un pelo fuori dalla mia zona di comfort, mi faccio alle volte analizzare i miei testi passandoli da inglese all'italiano secondo l'ipotesi che se li capisce google translate, li capirá anche il cliente. Questo l'ultimo risultato:

Cita

 

c'è, infatti, una domanda che ho: quando chiedo le rate disponibili ottengo un elenco di opzioni: l'importo della rata non è “globale” per ogni opzione, ma è invece una proprietà del singolo pagamento. Questo significa che non posso dire all'utente “10 rate per 25 euro”, perché, teoricamente, ogni rata può contenere un importo diverso. Nei miei test ho sempre ottenuto lo stesso valore, è qualcosa su cui posso contare? Cioè. Posso ottenere il primo valore di pagamento per l'opzione "10 rate" e mostrarlo all'utente?

Spero di aver descritto la mia domanda abbastanza chiaramente

Dal momento che non ero certo che il mio testo di partenza fosse nei miei soliti standard di qualitá, trovo la traduzione sorprendentemente accurata e chiara.

Ho la sensazione che ormai la generazione di testo intelleggibile sia un problema in gran parte risolto.

In Spain, dozens of girls are reporting AI-generated nude photos of them being circulated at school: ‘My heart skipped a beat’

While the police investigate, the mothers of the affected have organized to take action and try to stop those responsible

https://english.elpais.com/international/2023-09-18/in-spain-dozens-of-girls-are-reporting-ai-generated-nude-photos-of-them-being-circulated-at-school-my-heart-skipped-a-beat.html

Inevitabile, purtroppo. E temo che non ci siano soluzioni preventive soddisfacenti al riguardo... 

L'ombra dei deep fake sulla politica britannica.

https://www.ansa.it/osservatorio_intelligenza_artificiale/notizie/progetto_solaris/2023/10/09/lombra-dei-deep-fake-sulla-politica-britannica_ed86b4c7-b816-44e3-888b-c4e80c8f2dcd.html

Torneremo a fidarci solo di ció che tocchiamo con mano, e tutto il resto sará solo materia di leggende, come i racconti dei marinai dopo essere stati mesi per mare....