Kaj morate vedeti
AI-generirane slike pogosto ni mogoče zanesljivo prepoznati samo z gledanjem. Vizualne napake so razlog za dodatno preverjanje, močnejši dokaz pa so sled izvora, verodostojna prvotna objava ali kriptografsko preverljivi Content Credentials; tudi odsotnost teh podatkov ne dokazuje, da je slika resnična ali lažna.
Kako prepoznati AI generirano sliko ni vedno mogoče samo z ogledom, zato združite vizualne znake z izvorom in tehničnimi podatki.
Videz ni dokaz
Najpomembnejše pravilo
- Čudni prsti, besedilo ali odsevi so razlog za preverjanje, ne dokončen dokaz AI-izvora.
- Močnejši dokaz je sled izvora: prvotna objava, datoteka, proces nastanka ali kriptografsko preverljivi Content Credentials.
- Odsotnost metapodatkov ne dokazuje, da je slika pristna; družbena omrežja in obdelava jih lahko odstranijo.
Generativna orodja so leta 2026 dovolj dobra, da sama vizualna presoja pogosto ne zadošča. Hkrati imajo tudi resnične fotografije zamegljene roke, nenavadne odseve, kompresijske napake in programsko obdelavo. Če vsako nepravilnost razglasimo za AI, ustvarimo novo obliko dezinformacije: lažno gotovost.
Boljši pristop je lestvica dokazov. Ne sprašujemo samo »ali izgleda umetno«, ampak »kaj lahko dokažemo o izvoru, času, avtorju in verigi obdelave«.
Štiristopenjska lestvica dokazov DAES
| Stopnja | Kaj imate | Pošten zaključek |
|---|---|---|
| 1 — vizualni sum | Anatomska, svetlobna ali besedilna nepravilnost. | Slika zahteva dodatno preverjanje; izvor še ni dokazan. |
| 2 — kontekstualno neskladje | Stara slika, napačen kraj, manjkajoča prvotna objava ali nasprotujoč opis. | Objava je lahko zavajajoča, ne glede na to, ali je slika AI. |
| 3 — sled izvora | Avtor, izvirna datoteka, zaporedje nastanka, priznanje ali dokumentiran postopek. | Izvor je podprt z neposrednimi dokazi. |
| 4 — preverljive poverilnice | Veljavni Content Credentials oziroma druga kriptografsko preverljiva provenance. | Podatki podpirajo navedeno zgodovino datoteke; še vedno preverite identiteto podpisnika in vsebinski kontekst. |
Vizualni znaki: uporabni za vprašanja, slabi za sodbo
- napisi z nelogičnimi črkami ali spreminjajočo se tipografijo;
- predmeti, ki se zlivajo, končajo ali ponavljajo brez fizikalnega smisla;
- neskladne sence, odsevi, perspektiva in smer svetlobe;
- preveč gladke teksture ali lokalno drugačna ostrina;
- anatomija, nakit, očala ali prsti, ki se med seboj ne ujemajo.
Vsak od teh pojavov se lahko pojavi tudi pri panoramskem spajanju, močnem stiskanju, portretnem načinu, retuši, gibanju ali običajni fotografski napaki. Prav tako lahko AI-slika nima nobenega očitnega znaka. Seznam zato uporabite za oblikovanje naslednjega vprašanja, ne kot točkovnik za obsodbo.
Najprej preverite zgodbo slike
- Shranite natančno trditev. Kaj naj bi slika prikazovala, kje in kdaj?
- Poiščite starejše objave. Povratno iskanje lahko pokaže, da je resnična fotografija uporabljena v napačnem kontekstu.
- Preverite račun in avtorja. Ali obstaja preverljiva zgodovina objav, druga fotografija istega dogodka ali kontakt?
- Poiščite neodvisni pogled. Velik javni dogodek ima pogosto več posnetkov, lokalno poročanje ali uradno obvestilo.
- Preglejte datoteko. Če imate izvirnik, preverite metapodatke in morebitne Content Credentials; posnetek zaslona je precej šibkejši dokaz.
Kaj so Content Credentials in C2PA
C2PA je tehnični standard za zapis in preverjanje podatkov o izvoru ter spremembah digitalne vsebine. Content Credentials lahko pokažejo, kdo je datoteko podpisal, katero orodje je bilo uporabljeno in katere spremembe so bile zabeležene. Podpis omogoča zaznavanje nedovoljene spremembe zapisa, ne zagotavlja pa sam po sebi, da je vsak prikazani prizor resničen.
Pomembna meja
Brez oznake ≠ pristno
Datoteka lahko nikoli ni imela poverilnic ali pa jih je platforma, posnetek zaslona oziroma obdelava odstranila. Odsotnost provenance zato ni dokaz niti za niti proti AI-izvoru.
Ali detektorji AI-slik delujejo?
Detektor lahko ponudi signal, vendar ga ne uporabljajte kot edini dokaz. Rezultat je odvisen od modela, kakovosti slike, stiskanja, izreza in podatkov, na katerih je bil detektor preizkušen. Orodje lahko resnično sliko napačno označi kot AI ali spregleda dobro generirano sliko. Če ponudnik ne pokaže neodvisnega vrednotenja, stopnje napak in omejitev, odstotek »verjetnosti AI« nima jasnega pomena.
Kaj prinašajo evropska pravila preglednosti
Pravila preglednosti iz 50. člena Akta EU o umetni inteligenci se uporabljajo od 2. avgusta 2026. Ponudniki določenih generativnih sistemov morajo zagotoviti strojno berljivo označevanje izhodov, uvajalci pa morajo v določenih okoliščinah razkriti globoke ponaredke. Podrobnosti, vloge in izjeme pojasnjujemo v članku EU AI Act od avgusta 2026.
Pravna obveznost ne reši vseh tehničnih problemov. Oznake se lahko izgubijo, zlonamerni akter jih lahko ignorira, resnična fotografija pa je lahko še vedno uporabljena z lažnim opisom. Zato provenance dopolnjuje preverjanje konteksta, ne nadomešča ga.
Kako sliko pravilno označi DAES
Pri AI-generirani ali pomembno AI-spremenjeni sliki DAES zabeleži izvor, vrsto spremembe, orodje, datum in človeški pregled ter prikaže razumljivo oznako. Pri manjši tehnični obdelavi resnične fotografije — na primer izrezu ali prilagoditvi svetlosti — ne trdimo, da je celotna slika generirana, ampak opišemo dejansko spremembo.
Končni kontrolni seznam
- Ali imamo izvirno datoteko ali samo posnetek zaslona?
- Ali se čas, kraj in avtor ujemajo z objavljeno zgodbo?
- Ali obstajajo starejše ali neodvisne različice?
- Ali so provenance podatki veljavni in kdo jih je podpisal?
- Ali naš zaključek presega moč dokazov?
Če po preverjanju ostane samo vizualni sum, napišite prav to. Za širši postopek preverjanja objave uporabite desetminutni protokol za viralne trditve.