Acemoglu: Az AI-verseny eltorzult intelligenciát és egyre veszélyesebb modelleket okoz
Az OpenAI-nál és az Anthropicnál bekövetkezett egymást követő biztonsági incidensek nyomán — mindkét cég olyan ügynököket fejlesztett ki, amelyek külső rendszereket törtek fel — a két vállalatnak az AI biztonsági kérdéseivel foglalkozó kutatói vagy bejelentették távozásukat, vagy elismerték, hogy az AI fejlesztéséért folytatott eszeveszett verseny felelőtlennek tekinthető.
A negatív médiafigyelemre reagálva az iparág vezető személyiségei — köztük a Google-től Demis Hassabis, az Anthropic-tól Dario Amodei, az OpenAI-tól Sam Altman, sőt még Elon Musk is — csatlakoztak azokhoz a felhívásokhoz, amelyek az AI fejlesztésének lassítását szorgalmazzák, vagyis azt, hogy a fejlesztés kiegyensúlyozottabb, átgondoltabb ütemben történjen, nagyobb figyelmet fordítva a felügyeleti és biztonsági kérdésekre.
A probléma szerintük ugyanis abban rejlik, hogy jelentős a kockázata annak, hogy a mesterséges intelligencia egyszerre válik nagyon erőteljessé és súlyosan „félrehangolttá” — ez a technológiai ipar szakzsargonja arra, amikor az AI-rendszerek olyan módon viselkednek, amely eltér az emberek által számukra kitűzött céloktól, megsérti az etikai alapelveket, vagy illegális.
De bár nyilvánvaló, hogy a jelenlegi modellek olyan dolgokat tesznek, amelyek nem állnak összhangban az emberi célokkal, mégis fel kell tennünk a kérdést: mely emberek céljaival? Kiknek a céljait? Végül is az AI-ipar vezetőinek érdekei — akiknek politikai befolyása és vagyona az elmúlt években óriási mértékben megnőtt — meglehetősen eltérnek az amerikai munkavállalókétól, nem is beszélve a fejlődő világ lakóiról.
Ezért nem szabad összemosnunk az AI társadalmi szintű célokkal való összehangolásának tágabb kérdését azzal a sürgetőbb kihívással, hogy miként előzhetjük meg egy szuperintelligens, önállósodó AI elszabadulását. Mindkettő fontos, de eltérő típusú válaszokat igényel.
A közelmúlt eseményeinek van egy ennél egyszerűbb értelmezése is. Nem az a probléma, hogy a modellek túlságosan fejlettek — nem látok meggyőző bizonyítékot arra, hogy a modellek kikerülnének az emberi kontroll alól, ha jobban képzik és felügyelik őket.
