Deepfake-urile AI sunt ieftine, ușoare și urmează pentru alegerile din 2024

Noile noastre episoade de joi din Decoder sunt toate despre scufundări profunde în subiecte mari din știri, iar în această săptămână, ne continuăm miniseria pe unul dintre cele mai mari subiecte dintre toate: AI generativă.

Săptămâna trecută, am aruncat o privire asupra valului de procese pentru drepturile de autor care ar putea în cele din urmă să oprească întreaga industrie. Acestea sunt practic o monedă - iar rezultatele sunt în depărtare, pe măsură ce acele cazuri își fac drum prin sistemul juridic. O problemă mai mare în acest moment este că sistemele AI sunt foarte bune în a face imagini și sunet false suficient de credibile - și cu instrumente precum noul Sora de la OpenAI, poate și video în curând.

Și, desigur, este din nou un an de alegeri prezidențiale aici, în SUA. Așadar, astăzi, editorul de politici Stiri Sucial, se alătură emisiunii pentru a discuta despre cum AI ar putea supraalimenta dezinformarea și minciuna într-o alegere care este deja la fel de controversată ca oricare din viața noastră - și ce s-ar putea face în acest sens.

Conversația despre manipularea mass-media pe platformele sociale vine și pleacă cu fiecare ciclu electoral. Alegerile din 2016 au fost marcate de campanii rusești de dezinformare pe Facebook; campania din 2020 a oferit o socoteală despre povestea laptopului Hunter Biden pe Twitter și apoi platformele majore l-au interzis în cele din urmă pe Donald Trump după atacurile din 6 ianuarie.

Acele explozii de atenție s-au retras, cu puțin sau nimic de arătat pentru ea - și în cazul Twitter, o retragere angro de la orice moderare, deoarece Elon Musk a transformat platforma în ceea ce este acum X. Și X este locul în care imaginile pornografice false ale Taylor Swift au fost distribuite pe scară largă - o previzualizare a problemelor cu care se confruntă fiecare platformă majoră.

Tacticile politice murdare sunt deja în amestec. A existat un apel automat fals pentru Joe Biden în New Hampshire luna trecută. Întotdeauna au existat minciuni în campanii, dar un magician care locuiește în prezent în New Orleans susține că i-a luat 20 de minute de timp și 1 dolar pentru a realiza un sunet fals, ceea ce spune multe despre cât de ușor și scalabil îl face AI generativ să mintă mai mult și minti mai repede.

Se pare că ar putea exista mai multe nuanțe în conversația de dezinformare din 2024 decât am avut înainte. Dar, ca și în cazul oricărei probleme spinoase legate de vorbirea online, există primul amendament cu care trebuie să ne luptăm. Există, de asemenea, dezbaterile existente privind politica și moderarea platformei cu privire la cel mai bun mod de a combate crearea și răspândirea pornografiei neconsensuale și unde există demarcație între comentariile protejate și dezinformarea rău intenționată.

Nimic din toate acestea nu este ușor. Dar aceste probleme nu vor dispărea și este important să facem un bilanț al modului în care companiile de inteligență artificială, platformele de social media și factorii de decizie politică încearcă să se ocupe de asta și ce ar trebui să avem în vedere noi, ca indivizi, pe măsură ce ciclul electoral intră în viteză.