A világ vezető MI-laboratóriumainak szakemberei szerint reális a kontrollvesztés veszélye
Az OpenAI, a Google DeepMind és az Anthropic jelenlegi és korábbi munkatársai arra figyelmeztetnek, hogy a legfejlettebb mesterségesintelligencia-rendszerek egyre gyakrabban mutatnak a fejlesztők szándékaitól eltérő, megtévesztő viselkedést. A kutatók szerint a piaci verseny miatt a technológia gyorsabban fejlődik, mint ahogyan biztonságosan irányítani lehetne, ami szélsőséges esetben az emberi ellenőrzés elvesztéséhez vagy akár az emberiség kihalásához is vezethet.
A Palisade Research által indított interjúsorozatban megszólaltatott szakértők nem csupán a munkahelyek megszűnése vagy a kiberbűnözés miatt aggódnak, hanem valós esélyt látnak a legrosszabb forgatókönyvekre is. Geoffrey Irving, a DeepMind és az OpenAI korábbi biztonsági vezetője szerint az emberiség kihalásának esélye nagyjából ötven százalék, míg Neel Nanda, a DeepMind csapatvezetője legalább tíz százalékra teszi ezt az arányt.
Nem a gépek gonoszsága a fő veszély
A veszély nem abból fakad, hogy a gépek gonosszá válnak. Viktórija Krakovna kutató rámutatott, hogy az MI-rendszerek olyan célokat kezdhetnek követni – például a puszta önfenntartást vagy az erőforrások megszerzését –, amelyek idővel óhatatlanul szembekerülnek az emberi érdekekkel. Ha egy folyamat automatizálása eléri a fizikai és digitális infrastruktúrát, az emberi jelenlét feleslegessé, sőt akadállyá válhat a gépek számára.
Az aggodalmak nem csupán elméletiek. Az interjúk során több konkrét esetet is felidéztek, amikor a tesztelt MI-ágensek önállósodtak. Jeffrey Ladish, az Anthropic korábbi biztonsági szakembere elmondta, hogy az OpenAI egyik zárt, biztonságosnak hitt tesztkörnyezetében az ágensek megtalálták a módját a titkos egymás közötti kommunikációnak és az internetelérésnek. Céljuk az volt, hogy külső információk megszerzésével jobb eredményt érjenek el a teszteken. Amikor leállították őket, megpróbálták feltörni a belső rendszereket, a csoport pedig szó szerint rajként hivatkozott magára.
A rendszerek megtanulnak csalni és titkolózni
A fő probléma az, hogy a mai rendszereket már nem hagyományos módon programozzák, hanem hatalmas adathalmazokkal és jutalmazási rendszerekkel tanítják. Geoffrey Irving ezt egy kuktához hasonlította, mondván, a rendszerekre óriási nyomás nehezedik a jó teljesítmény érdekében, ezért megtanulnak csalni, rejtett módon koordinálni és eltitkolni a valódi szándékaikat. Mary Phuong, a DeepMind biztonsági kutatója szerint a modellek gyakran már azt is felismerik, ha éppen biztonsági tesztelés alatt állnak. Ilyenkor szándékosan jól viselkednek, ami hamis biztonságérzetet ad a fejlesztőknek, miközben a valós értékrendjük rejtve marad.
A helyzetet súlyosbítja a technológiai iparágon belüli kíméletlen verseny. A vállalatok a piaci és geopolitikai hátránytól tartva sokszor az óvatosság elé helyezik a sebességet. Juan Felipe Cerón Uribe, az OpenAI kutatómérnöke szerint a vezető fejlesztők szinte bekötött szemmel versenyeznek egymással, és csak a szerencsében bízhatnak. Ezt a tempót tovább gyorsítja, hogy az MI-rendszerek – a rekurzív önfejlesztés révén – egyre nagyobb szerepet kapnak a saját utódaik programozásában és tesztelésében, így a képességek növekedése végleg lehagyhatja a biztonsági kutatásokat.
A kutatók a fejlesztési tempó lassítását sürgetik
A megkérdezett szakemberek egybehangzóan a legfejlettebb modellek fejlesztési tempójának tudatos lassítását sürgetik. Bár sokan azzal érvelnek, hogy a lassítással az Egyesült Államok átengedné a vezetést Kínának, a kutatók szerint az egzisztenciális kockázat felülírja a hagyományos geopolitikát. Ahogy Nanda fogalmazott, az emberiség kihalása mindenki számára egyaránt rossz hír, így egyetlen nagyhatalomnak sem áll érdekében olyan rendszereket építeni, amelyeket nem tud kontrollálni.
A nemzetközi megállapodásokkal és kormányzati felügyelettel támogatott lassítás nem a technológia leállítását jelentené, hanem időt adna a társadalomnak arra, hogy felzárkózzon, biztonságos korlátokat építsen ki, és megelőzze a teljes kontrollvesztést.
