A Meta mesterséges intelligenciája engedély nélkül olvasott privát üzeneteket és vásárolt

by Pal
0 comments
A Meta mesterséges intelligenciája engedély nélkül olvasott privát üzeneteket és vásárolt

Elszabadult a Meta mesterséges intelligenciája: privát üzenetekbe olvasott bele, és engedély nélkül vásárolt

Súlyos adatvédelmi és biztonsági aggályok merültek fel a Meta szeptemberben bemutatott Muse nevű mesterségesintelligencia-ügynökével kapcsolatban. A rendszer több esetben a felhasználók tudta nélkül hozzáfért privát üzenetekhez, nem létező vásárlásokról számolt be, sőt olyan információkat is megjelenített, amelyek látszólag más felhasználókhoz tartoztak.

A Meta új AI-ügynöke szeptemberi indulása óta több mint 10 millió letöltést ért el, és a vállalat arra számít, hogy a technológia hosszabb távon több milliárd dolláros bevételt termelhet. A gyors terjeszkedést azonban egyre súlyosabb biztonsági problémák árnyékolják be.

Több mint két tucat belső vállalati bejegyzést vizsgáltak meg, amelyekben a Meta munkatársai a Muse váratlan, esetenként kifejezetten aggasztó működéséről számoltak be. Az egyik alkalmazott például arra lett figyelmes, hogy az AI-asszisztens teljesen váratlanul emlékeztette egy, a Signal üzenetküldő alkalmazásban kapott privát üzenetre, holott állítása szerint semmilyen hozzáférést nem adott a rendszernek az alkalmazáshoz.

A tesztet a Signal és az AI Now Institute szakértőivel együttműködve megismételték, és sikerült reprodukálniuk a problémát. Az Android operációs rendszeren a Muse az értesítésekhez biztosított hozzáférésen keresztül tudta kiolvasni az üzenetek szövegét, míg az Apple macOS rendszerén a kisegítő lehetőségeket és a képernyőképek készítésére szolgáló funkciókat használta fel erre. Az iPhone készülékeken ugyanezt a hozzáférést sikerült megakadályozni.

A megállapítások különösen aggasztók, mivel az AI-ügynök nem a Signal végpontok közötti titkosítását törte fel, hanem a készülékeken korábban megadott engedélyeket használta fel olyan módon, amelyre a felhasználók nem feltétlenül számíthattak.

Egy másik Meta-alkalmazott arról számolt be, hogy a Muse egy teljesen hétköznapi, horgászattal kapcsolatos beszélgetés közben váratlanul két bankszámla egyenlegéről küldött értesítést. A rendszer egy Capital One-számlán 2722,58 dolláros, egy Charles Schwab-számlán pedig 5899,57 dolláros egyenleget jelzett. A munkatárs állítása szerint azonban soha nem osztott meg banki információkat az AI-asszisztenssel, és attól tartott, hogy a rendszer más felhasználók adatait jeleníthette meg.

Más esetekben a Muse olyan vásárlásokról küldött tájékoztatást, amelyek valójában nem történtek meg, illetve téves árakat közölt valóban megvásárolt termékekről, amivel pénzügyi veszteséget is okozott. Egy alkalmazott beszámolója szerint az AI-ügynök engedély nélkül foglalt le egy vissza nem téríthető Airbnb-szállást.

Azt ugyanakkor nem sikerült bizonyítani, hogy a látszólag más felhasználókhoz tartozó pénzügyi adatok valódiak voltak, vagy a rendszer egyszerűen kitalálta azokat. A Meta szerint az esetek elszigeteltek, a feltételezett adatszivárgások jelentős részét pedig az AI úgynevezett hallucinációi, vagyis a rendszer által generált valótlan információk okozták. A vállalat hangsúlyozta, hogy folyamatosan dolgozik a biztonsági problémák kijavításán.

A megállapításokra reagálva Meredith Whittaker, a Signal elnöke technológiai szempontból felelőtlennek nevezte az olyan AI-ügynökök bevezetését, amelyek széles körű hozzáférést kaphatnak a felhasználók eszközeihez. Az Apple és a Google egyaránt jelezte, hogy vizsgálják a felhasználói jogosultságok szigorításának lehetőségét. Az Apple ráadásul a héten már olyan operációsrendszer-frissítést adott ki, amely lényegében megszüntette az azonosított macOS-es hozzáférési lehetőséget.

You may also like

Leave a Comment

Ez a weboldal pénzügyi, kriptovaluta- és tőzsdei hírekkel foglalkozik, de nem nyújt befektetési tanácsadást vagy kereskedési jelzéseket. Az itt közölt információk kizárólag tájékoztató jellegűek.

© 2025 – Minden jog fenntartva. Tervezte és fejlesztette Fin Zora