Vigyázz! Mesterséges intelligencia segítségével hallgatják le az online beszélgetéseidet

Alex Bilzerian kutató és mérnök nemrég az X platformon osztotta meg, hogy az Otter AI nevű oldal, amelyet egy kockázatitőke-befektetői céggel folytatott Zoom-megbeszélés átiratának elkészítésére használt, a mesterséges intelligencia segítségével kiszivárogtatott egy bizalmas beszélgetést.

A mesterséges intelligencia segítségével hallgatják le az online beszélgetéseidet

Miután a megbeszélés véget ért, Bilzerian kapott egy e-mailt a hívás átiratával — és 

 Bár a befektetők „szégyenkezve bocsánatot kértek,” Bilzerian végül úgy döntött, hogy nem köt üzletet a cégükkel, nyilatkozta a Washington Postnak. Lehet, hogy „ésszerű feltételezés” lenne azt gondolni, hogy a mesterséges intelligencia asszisztensek képesek érzékelni, ha a résztvevők kilépnek egy megbeszélésről, és nem küldik el a további átiratokat, de Hatim Rahman, a Northwestern Egyetem Kellogg Menedzsment Iskolájának adjunktusa szerint a technológia nem mindig pontos.

Az Otter AI válaszolt Bilzerian X posztjára, hogy megerősítse elkötelezettségét a felhasználói adatvédelem iránt, és hangsúlyozta, hogy „értik az aggodalmakat”, és „elkötelezettek az adatok biztonsága és titkossága iránt.” „A felhasználók teljes mértékben ellenőrizhetik a beszélgetés megosztásának engedélyeit, és bármikor módosíthatják, frissíthetik vagy megszüntethetik az engedélyeket” — írta a cég.

„Ebben a konkrét esetben a felhasználóknak lehetőségük van arra, hogy ne osszák meg automatikusan az átiratokat senkivel, vagy csak azokkal a felhasználókkal, akik azonos munkaterületi domainen vannak.” Az OtterPilot, az MI asszisztens, amely a megbeszéléseket rögzíti és átiratot készít, csak a hívás hangját rögzíti, így nem veszi fel a némított résztvevők által mondottakat. A hívásban résztvevők értesítést is kapnak arról, hogy a megbeszélést rögzítik, és a virtuális asszisztens megjelenik, mint a megbeszélés résztvevője — olvasható a Washington Postban.

Brockwell arra figyelmeztetett, hogy az MI növeli a vállalati titkok kiszivárogtatásának kockázatát, és peres eljárások lehetőségét is megnyitja.

Will Andre, egy kiberbiztonsági tanácsadó, óvatosságra intett az MI eszközök széles körű, informálatlan alkalmazásával kapcsolatban a vállalatoknál. A Washington Postnak elmondta, hogy korábbi marketing munkája során találkozott egy felvétellel a cég nyilvános szerverein, amelyen a főnökei elbocsátásokról beszéltek.

„A vállalatoknak tudatosítaniuk kell, hogy különböző korú és technikai készségekkel rendelkező emberek fogják használni ezeket a termékeket” — tette hozzá Rahman. Az MI által vezérelt szoftverek és eszközök mostanában erős kritikák kereszttüzébe kerültek, mivel egyre több vállalat integrálja a technológiát a termékeibe.

Az Apple létrehozta az Apple Intelligence-t, míg a Google nemrég elindította a Geminit. A mesterséges intelligencia közösségi média platformokon való használata szintén felháborodást váltott ki a Meta felhasználói körében, amely nyilvánosan elérhető felhasználói adatokat használ a Meta AI képzéséhez.