Te mindent elhiszel, amit látsz? A mesterséges intelligencia veszélyes hozadéka a deepfake

A kötetet - amely 14 szerző tanulmányából áll - dr. Aczél Petra, az NMHH kutatásvezetője és dr. Veszelszki Ágnes, az NMHH kutatásvezető-helyettese szerkesztette. Egyik fejezetében szó van egy digitális modellről, "akit" egy projekt részeként hoztak létre – mondta el Szadai Károly a könyv bemutatóján.

Ennek a mesterséges intelligencia által kreált digitális modellnek, aki egy nap alatt három évet öregedett, volt egy karrierje, voltak követői, majd meg is halt - magyarázta. Rendelkezett hagyatékkal is, amelyet zenévé alakítottak át. Ez mélyen emberi volt - mondta, jelezve a deepfake érzelmi vonatkozásait.

Mit jelent pontosan a deepfake?

Dr. Aczél Petra szavait idézve a deepfake nem más, mint a személy plágiuma, egy olyan médiatartalom, ami tulajdonképpen szimulálja az embert, ultrarealisztikus, és azt az érzetet kelti, mintha az amit látnánk, tényleg létezne, tényleg lenne, mintha az a személy azt mondta, akkor és ott és úgy, mint ahogy látjuk.

A fényképek retusálása, azaz technikai értelemben vett meghamisítása nem újkeletű gyakorlat, azonban a mesterséges intelligencia nemcsak a képek megváltoztatását, hanem azok létrehozását is lehetővé teszi.

A prompt a mesterséges intelligenciának adott szöveges utasítás, instrukció. A bemutatón arra tettek kísérletet, hogy a természetes intelligenciát és a jelen lévő szerzőket instruálják rövid kérdésekkel, mégpedig arra, hogy nagyon rövid válaszokat adjanak. A kérdések ugyan nagyon rövidek, de összetettek, nagyon komplexek voltak, viszont a válaszadásra mindössze egy perc állt a szerzők rendelkezésére. A kötet szerzői, akik mindannyian jelen voltak a bemutatón, további szempontokat fogalmaztak meg a témában.

Mekkora veszélyt jelent ez ránk?

„Az emberek nagyon hisznek az érzékelésükben, a deepfake pedig pontosan ezt az érzékelést teszi próbára, annyira, hogy azt látni, hogy az emberek azt hiszik, hogy ők majd észre fogják venni a csalást, de szerintem nem fogják észrevenni. Ez pedig alapvetően az ember és ember közti hitelességet és bizalmat tudja aláásni, te hát ha ezekben az érzékszervekben nem bízhatunk, akkor nem tudom, hogy miben.

– magyarázta Keleti Arthur kibertitok jövőkutató, a kötet egyik szerzője.

Továbbá szó esett a kiberbiztonságról, jogi, illetve személyiségjogi kérdésekről is. Nem tehetünk az ellen, ha egy AI által kreált arcképen felismerni véljük saját szemöldökünket, ha ez egyáltalán minden kétséget kizáró módon lehetséges - hangzott el.

Aczél Petra szerkesztő felvetette, hogy az AI többet tud-e annál, mint amit az ember médiatartalommá tett? Úgy vélte, többre képes, és bár még nem tud sokkal többet, de már képes hazudni. Ennek tudatában mostantól nem árt, ha minden médiatartalomra gyanakodni kell, mert a deepfake-et szinte lehetetlen beazonosítani.