Què és una imatge generada per IA?
Una imatge generada per IA la crea un model d’aprenentatge automàtic en lloc d’una càmera. El model ha après de milions d’imatges i en produeix una de nova a partir d’una descripció en text. Els models actuals (sobretot els models de difusió) construeixen la imatge pas a pas a partir de soroll: per això són excel·lents amb l’estil i la llum, però encara fallen en els detalls petits i lògics.
10 pistes visuals que cal revisar
Fes zoom i revisa aquestes zones una per una. Una sola pista no és una prova; diverses alhora són un senyal clar.
- Mans i dits: compta els dits, revisa les articulacions i les ungles, mira com subjecta la mà els objectes.
- Dents: les dents de la IA sovint es fonen en una sola franja blanca o tenen mides i nombres estranys.
- Ulls: compara les dues pupil·les i els reflexos de llum. En una foto real, els dos ulls reflecteixen la mateixa font de llum.
- Pell: la pell real té porus, petites taques i borrissol. La pell de la IA sol ser massa llisa, gairebé de cera.
- Cabells: mira les vores. Els rínxols de la IA es poden fondre amb el fons, la cara o la roba.
- Joies i accessoris: arracades que no coincideixen, cadenes que desapareixen, ulleres amb una muntura diferent a cada costat.
- Roba: tirants, costures, botons i cremalleres que comencen i acaben a l’atzar, estampats que canvien a la meitat.
- Fons: línies que haurien de ser rectes (portes, rajoles, prestatges) surten tortes, objectes que es barregen, persones deformades al fons.
- Textos: rètols, etiquetes i logotips amb lletres que semblen reals de lluny però que no es poden llegir de prop.
- Llum i ombres: ombres que cauen en direccions diferents, o una cara il·luminada des d’un costat i l’habitació des de l’altre.
Revisa el context, no només els píxels
Les millors imatges d’IA no tenen cap de les pistes anteriors. Llavors ajuda el context:
- Cerca inversa d’imatges (Google Lens, Bing, TinEye): una persona real sol tenir altres fotos a internet. Una cara d’IA sovint no en té cap.
- Content Credentials (C2PA): algunes càmeres, editors i eines d’IA afegeixen un historial signat al fitxer. Ho pots comprovar a contentcredentials.org/verify.
- L’origen: un perfil acabat de crear, una foto perfecta i una història que demana diners o dades privades són senyals clàssics d’un perfil fals.
Funcionen els detectors d’IA?
Els detectors en línia com Hive Moderation, Illuminarty o AI or Not donen una probabilitat. Són útils com a segona opinió, però es poden equivocar en els dos sentits, sobretot si la imatge s’ha comprimit, retallat o capturat de pantalla. Fes-los servir juntament amb el teu propi ull i la revisió del context.
Per què és important
Els retrats d’IA es fan servir per a perfils falsos a apps de cites i xarxes socials, estafes romàntiques, ressenyes falses i desinformació. Entrenar l’ull et porta uns minuts al dia i fa que sigui molt més difícil enganyar-te. Precisament per això hem creat el joc Real o IA?.