A Google a DeepMind SynthID segítségével címkéz AI képeket

2023-09-07 12:29
A Google bejelentette, hogy vízjelet tesztel az AI képek kiszürése érdekében. Ebben az újonnan fejlesztett DeepMind SynthID lesz segítségére.

Ahogy a mesterséges intelligencia (AI) által készített képek egyre fejlettebbé válnak, a vállalatok versenyt futnak, hogy megtalálják a félretájékoztatás elleni küzdelem módjait. A Google bejelentette, hogy vízjelet tesztel annak felismerésére, hogy egy képet mesterséges intelligenciával készítettek-e. Ebben pedig az újonnan fejlesztett DeepMind SynthID lesz segítségére.

Egy GIF különböző fotókat mutat, a felező kijelző vízjeles és vízjel nélküli képeket ábrázol.

Vizjel és vízjel nélküli verziók

A Google Imagen saját kiegészítője lesz a SynthID

A digitális vízjelet a cég technológiai monolit AI-ágazata, a DeepMind hozta létre. Az új eszköz, a DeepMind SynthID egyelőre bétaverzióban van, és a DeepMind közleménye szerint azon korlátozott számú Vertex AI-ügyfél számára teszik elérhetővé, akik az Imagen-t használják. Az Imagen a Google szöveg-kép diffúziós modellje, hasonló a Midjourney-re és a Dall-E-re.

"Ez a technológia digitális vízjelet ágyaz be közvetlenül a kép pixeleibe, így az emberi szem számára észrevehetetlenné, de azonosításra felismerhetővé válik" - magyarázza a közlemény.

A SynthID három bizalmi szintet biztosít: "Digitális vízjel észlelve", "Digitális vízjel nem észlelve" és "Digitális vízjel valószínűleg észlelve". Az utóbbit a DeepMind a következőképpen írja le: "Lehet, hogy generálható. Kezeljük óvatosan". Az első két lehetőség egyszerűen azt jelenti, hogy a művet valószínűleg vagy kevéssé valószínű hogy az Imagen hozta létre. Jól látható, hogy egyik opció sem jelent teljes bizonyosságot.

A DeepMind is hangsúlyozza, hogy a SynthID nem tökéletes, különösen az "extrém képmanipulációk" tekintetében. A Google azonban nem magyarázza meg, hogy mi számít extrémnek, illetve mi az, ami miatt a SynthID számára nagyobb kihívást jelenthet a képelemzés.

Az AI által generált, mások által készített munkák azonosításán túl a vízjel lehetővé teszi az Imagen felhasználók számára, hogy kommunikálják, hogy az ő képeik is AI által készítettek. Ez még akkor is lehetséges, ha ezeket a képeket később mások szerkesztik vagy megosztják.

A közlemény ezt egy olyan fotóval illusztrálja, amely többszörösen átesett szerkesztésen, de a jelentések szerint még mindig felismerhető SynthID vízjelet tartalmaz. A Google hozzáteszi, hogy mivel a SynthID vízjel észrevehetetlen, így nem kell aggódni amiatt, hogy rontja az esztétikát, és nehezebb is szerkesztés által eltüntetni.

Más AI-al használható a SynthID?

Nem világos azonban, hogy a SynthID használható-e a nem Imagen programmal készült, mesterséges intelligenciával létrehozott képeken. Az is kérdéses, hogy a felhasználók csatolhatnak-e SynthID vízjelet a más modellel létrehozott, mesterséges intelligenciával létrehozott tartalomhoz. Ez valószínűtlennek tűnik a közlemény alapján, amely szerint "a SynthID kiterjeszthető más AI-modellekre is". A PetaPixel felkereste a Google-t pontosításért, és a Google elmagyarázta, hogy a SynthID nem érhető el más AI-modellek számára, de remélik, hogy a jövőben ez változhat.

"Miközben a generatív AI hatalmas kreatív potenciált szabadíthat fel, új kockázatokat is rejt magában, például azt, hogy az alkotók hamis információkat terjeszthetnek - szándékosan vagy akaratlanul" - olvasható a DeepMind közleményében. "Az AI által generált tartalmak azonosításának képessége kritikus fontosságú ahhoz, hogy az emberek tudással rendelkezzenek arról, hogy mikor lépnek interakcióba a generált médiával, és hogy segítsenek megelőzni a félretájékoztatás terjedését."

Az AI által generált képek miatti félretájékoztatás mostanában egyre gyakoribb. Éppen a múlt héten egy mesterséges intelligenciával készített, Donald Trump volt elnökről készült arckép járta be a világhálót, mielőtt a valódi képet közzétették volna. A képgenerátoroknak általában vannak szabályaik a megfelelő tartalomra vonatkozóan, "rasszista és konspiratív" tartalmú hamis képek még ennek ellenére is könnyen készíthetőek.

Olvass tovább


Tavaszi iSpring Suite kedvezmény április végéig

Előfizetnél az iSpring Suite, Max, vagy Premium termékekre? Már használsz iSpring termékeket és szeretnél Suite-ra frissíteni? Akkor most figyelj, mert ezek a tavaszi kedvezmények neked szólnak!


Megérkezett a SketchUp 2024-es verziója!

Mostantól már a SketchUp 2024-es, legújabb verziójával alkothatunk, mely tele van újításokkal. Összeszedtük a legfontosabbakat.


JetBrains Annual Highlights 2024

Hol is tart a JetBrains? A vállalat szokás szerint kiadta az előző év eseményeiről szóló összesítést. Íme a JetBrains Annual Highlights 2024.

Copyright © 2023 Trans-Europe Zrt. Minden jog fenntartva.
linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram