A művészek visszavágnak az AI-nak

Az internet óriási változást hozott a művészetben: egy-egy alkotó könnyedén hírnévre tehet szert akár egy éjszaka leforgása alatt, ugyanakkor azzal, hogy online publikálja alkotásait, azok bárki számára elérhetőek és eltulajdoníthatóak lesznek.

A problémát tovább bonyolította a generatív AI megjelenése, aminek tréningjéhez a tech cégek művészek, írók online elérhető munkáit használják fel, hogy lényegében ezekből összelopkodva alkossanak valami “egyedit”. Most azonban egy új eszköz segítségével a művészek megelőzhetik mindezt.

A “Nightshade” elnevezésű eszközt a Chicagói Egyetem kutatócsoportja fejlesztette ki. Úgy működik, hogy “megmérgezi” a művész alkotását, finoman megváltoztatva a kép pixeleit, hogy az AI modellek ne tudják pontosan meghatározni, mit ábrázol a kép – írja az MIT Technology Review.

Bár az emberi szem nem képes észlelni ezeket az apró változtatásokat, a gépi tanulási modellt kellőképpen megzavarja ahhoz, hogy tévesen másnak címkézze a képet, mint amit valójában ábrázol. Mivel ezek a mesterséges intelligencia modellek pontos adatokra támaszkodnak, ez a folyamat lényegében használhatatlanná tenné a képet az AI betanítása szempontjából.

Ha elég sok ilyen “mérgezett” képet használnak fel a világhálóról egy mesterséges intelligencia képgenerátor betanítására, akkor előfordulhat, hogy maga a mesterséges intelligencia modell már nem lesz képes pontos képeket előállítani.

A kutatók például 50 hasonló módon manipulált kutyaképet tápláltak a Stable Diffusion nevű mesterséges intelligencia-képgenerátorral és egy saját maguk által készített mesterséges intelligencia-modellel, majd megkérték, hogy készítsen új képeket kutyákról. A generált képeken túl sok végtaggal rendelkező állatok vagy karikatúraszerű arcok szerepeltek, amelyek éppen hogy csak emlékeztettek egy kutyára – írja az MIT Technology Review. Amikor 50 helyett 300 hasonló képet tápláltak be a rendszerbe, a Stable Diffusion végül macskákról készült képeket kezdett el előállítani.

Hogyan működnek az AI képgenerátorok?

Miután bepötyögjük a promptokat, a tájékozatlan felhasználó számára valóban úgy tűnhet, hogy mesterséges intelligenciával van dolga, amely a semmiből hoz létre teljesen új képeket, de a valóság nem ez. Nem egy önálló, saját kreativitással rendelkező mesterséges intelligenciáról van szó, hanem generatív modellekről korábban betáplált adatok alapján.

A mesterséges intelligenciával foglalkozó vállalatok hatalmas adathalmazokon tanítják be a modelljeiket, amelyek segítenek meghatározni, hogy milyen képek milyen szavakhoz kapcsolódnak. Ahhoz, hogy egy mesterséges intelligenciamodell helyesen állítson elő egy rózsaszín zsiráfot ábrázoló képet, arra kell betanítani, hogy helyesen azonosítsa a zsiráfokat és a rózsaszín színt ábrázoló képeket.

A generatív mesterséges intelligencia rendszerek képzéséhez használt adatok nagy része a világhálóról származik. Bár az Egyesült Államokban legális, hogy a vállalatok adatokat gyűjtsenek nyilvánosan elérhető weboldalakról, és azokat különböző célokra használják fel, de a helyzet bonyolódik, ha művészeti alkotásokról van szó, mivel a művészek általában rendelkeznek ezek szerzői jogával, és hát valljuk be, senki sem repes az örömtől, ha a munkáját potenciálisan veszélyeztető AI betanítására használják.

Bár a művészek feliratkozhatnak “opt-out listákra” vagy “do-not-scrape direktívákra”, a gyakorlatban nehéz rávenni a vállalatokat, hogy ezeket valóban betartsák – írta a Glaze egy korábbi X-posztban.

„Egyik mechanizmus sem kikényszeríthető, vagy akár ellenőrizhető. A vállalatok megmutatták, hogy gondolkodás nélkül figyelmen kívül hagyhatják az opt-outokat” – írták akkor. „De még ha bele is egyeztek, ám végül másként járnának el, akkor sem tudná senki ezt ellenőrizni vagy bizonyítani (legalábbis ma még nem).”

Végső soron a kutatók azt remélik, hogy a Nightshade segít a művészeknek megvédeni az alkotásaikat. Az eszköz egyelőre nem elérhető a nyilvánosság számára, de benyújtották szakértői értékelésre, és remélik, hogy hamarosan elérhetővé teszik, adta hírül a Glaze.