A mesterséges intelligencia pótolhat hiányzó részleteket egy fotón, valószerű arcokat hozhat létre, de megtévesztően hiteles videókat is készíthet. Pető Márk, a Robert Bosch Kft. szenior szoftverfejlesztője és gépi tanulási mérnöke szerint az egyre meggyőzőbb deepfake, vagyis hamisított tartalom felismeréséhez már magát a mesterséges intelligenciát kell segítségül hívnunk. Cserteg Tamás, a HUN-REN SZTAKI Mérnöki és Üzleti Intelligencia Kutatólaboratóriumának tudományos segédmunkatársa úgy véli, mára különösen fontos lett, hogy pontosan tudjuk, mikor látunk módosított vagy mesterséges intelligenciával létrehozott tartalmat.
Több adatot árul el rólunk egy felvétel, mint gondolnánk
Kamerák működnek a telefonokban, az autókban, a modern háztartási eszközökben és a köztereken. Többnyire észre is vesszük őket, a háttérben zajló elemzésből viszont szinte semmit sem látunk. Pedig ugyanabból a néhány másodperces felvételből rengeteg különböző információhoz lehet hozzájutni. Az autó rendszere az arc és a tekintet változásaiból a vezető fáradtságára következtethet. Egy stadion kamerái folyamatosan követhetik a játékosok helyzetét, így akár tíz centiméteres pontossággal segíthetik a les megállapítását. A lakásban működő kamera észleli a mozgást, majd értesíti a tulajdonost. De ma már olyan telefon is létezik, amely az arc helyzetéből állapítja meg, hogy fekve vagy ülve nézzük-e a kijelzőt.
„Azt általában tudjuk, hogy felvétel készül rólunk, azt viszont már nem, milyen információt keres rajta az algoritmus, és mit képes megállapítani belőle. Ez még a szakemberek számára sem mindig egyértelmű” – mondta Pető Márk. A kamerák elhelyezéséből önmagában még nem derül ki, mire használjuk: ugyanaz a kép alkalmas lehet a mozgás követésére, egy arc azonosítására vagy egy szokatlan viselkedés felismerésére. A gépi látás ereje tehát abban rejlik, hogy egy hétköznapi felvételből is nagyon részletes adatokat képes feldolgozni.
A gép felismeri a mozgást, de az okát már kevésbé
Egyes képfelismerési teszteken a gép már jóval kevesebbet hibázik az embernél. Nagy mennyiségű képből tanul, így előre meghatározott szabályok nélkül is képes felismerni a visszatérő mintázatokat. Ez a fölény azonban mindig egy pontosan meghatározott feladatra vonatkozik. Egy algoritmus például könnyen felismeri, hogyha valaki fut az utcán. Azt már sokkal nehezebben állapítja meg, hogy miért teszi: sportol, próbálja elérni a villamost vagy menekül valami elől? Az ember a helyzet értelmezéséhez a környezetre, a korábbi tapasztalataira és a helyzet apró jeleire is támaszkodik, a gépnek mindezt külön-külön meg kell tanulnia.
„Egy adott feladatra már készíthetünk rendkívül pontos rendszert. Az ember előnye viszont továbbra is az általános tudásban rejlik. Ha bárhol a világon odaadunk valakinek egy almát, jó eséllyel felismeri, és azt is tudja, hogyan fogja meg. Ez a széles körű ismeret még messze nincs meg a gépekben” – fogalmazott Cserteg Tamás. A gép tehát egyre pontosabban megmondja, mit lát a képen, de annak megértése, hogy valójában mi történik, továbbra is jóval nehezebb, összetettebb feladat számára.
A gyártósoron éppen ez a pontosság az előny
A gyártósoron nincs szükség arra, hogy a gép értse egy alkatrész szerepét. Elég, ha minden alkalommal pontosan felismeri, hogyan néz ki a megfelelő darab, és azonnal jelez, ha eltérést talál. A Bosch gyártási folyamataiban több helyen is alkalmaznak gépi látást és gépi tanulást. A minőség-ellenőrző rendszer képekből tanulja meg a megfelelő termék jellemzőit, ezután kiszűri az ettől eltérő darabokat, a fejlettebb megoldások pedig már a hiba típusát is azonosíthatják. A rendszer akkor is jelezhet, ha olyan eltéréssel találkozik, amit korábban még nem mutattak meg neki. Felismeri, hogy a vizsgált darab különbözik a megfelelő mintától, majd további elemzés segíthet feltárni a hiba pontos okát.
A világ számos részén működnek már úgynevezett sötét gyárak, ahol teljesen automatizált gyártósorok dolgoznak. Ezekben az üzemekben nincs szükség kivilágított csarnokra. A kamerák ott és akkor kapnak fényt, ahol egy terméket meg kell vizsgálniuk, más rendszerek pedig radarokkal, hőkamerákkal vagy ultrahangos érzékelőkkel dolgoznak. Egy ipari kamera gyorsan dolgozik, nem fárad el, és a műszak végén is ugyanolyan figyelemmel vizsgálja a termékeket, mint az elején. A rendszerek működését ettől függetlenül szakemberek felügyelik.
Már azt is láthatjuk, amit a kamera nem is rögzített
Egy fénykép ma már olyan részleteket is tartalmazhat, amelyek a kép elkészítésekor nem is voltak ott. Ha eltávolítunk belőle egy tárgyat vagy egy teljes képrészletet, a mesterséges intelligencia a környezet alapján képes kitölteni az üres helyet. A végeredmény pedig annyira valósághűnek tűnhet, hogy nehéz észrevenni, melyik részletet hozta létre a mesterséges intelligencia. Az okostelefonok holdfotói jó példái annak, mennyire elmosódhat a határ a kép javítása és új részletek létrehozása között. Egyes készülékek felismerik az égitestet, majd automatikusan élesíthetik és javíthatják a felvételt. A látványos végeredményről már nehéz megmondani, mi származik a kamera érzékelőjéből, és mit adott hozzá a képfeldolgozás.
Míg egy rosszul sikerült családi fotó kijavítása ártalmatlan, egy közéleti szereplőről készített hamis videó már komoly károkat okozhat. A deepfake, a hamisított tartalom fejlődése eljutott arra a szintre, ahol az emberi szem sokszor már kevés a manipuláció felismeréséhez. „Az MI-t kell segítségül hívnunk az MI ellen, mert egy algoritmus könnyebben észreveszi a manipuláció nyomait, mint az ember” – mondta a Robert Bosch Kft. szenior szoftverfejlesztője és a gépi tanulási mérnöke. Miközben az algoritmus egyre többet tud megállapítani rólunk egy felvétel alapján, mi egyre nehezebben állapítjuk meg a felvételről, mennyi köze van a valósághoz.
Átláthatóság nélkül nehéz lesz megbízni a gépek látásában
A szakértők egyetértettek abban, hogy a technológia elfogadottsága azon múlhat, az emberek kapnak-e világos tájékoztatást arról, milyen célból elemzik a felvételeket, milyen adatokat nyernek ki belőlük, és kik férhetnek hozzá az eredményekhez. Ehhez egy hosszú adatkezelési tájékoztató önmagában kevés. Garanciára van szükség ahhoz, hogy ezekkel az adatokkal ne éljenek vissza.
Forrás: Bosch
