Rendszeres AI felhasználóként már tartok attól a naptól, amikor rákapcsolom majd az adatforrásokra a fejlett modelleket, amik öles léptekkel haladnak a szuperintelligencia és a teljesen kész mesterséges intelligencia irányába és bármit is megcsinálnak majd… A legyintgetés korának vége!
Az MI átveszi saját fejlesztését – utána hónapok alatt kifuthat alólunk a történelem
Daniel Kokotajlo (korábbi OpenAI kutató) elemzésében nem egy újabb ügyes chatbotról beszél, hanem arról a pillanatról, amikor az MI automatizálja magát az MI-kutatást. A rendszer megírja a következő modell kódját, megtervezi a kísérleteket, elemzi a kudarcokat, majd létrehozza a saját, fejlettebb utódját. Az AI Futures Project számítása szerint egy szuperemberi programozó megjelenésétől körülbelül egy év vezethet az általánosan szuperintelligens rendszerekig; a videóban Kokotajlo 2029 környékére teszi a kritikus fordulópontot. Onnantól nem évtizedek, hanem hónapok választják el egymástól a még ellenőrizhető MI-t és azt a rendszert, amely már gyorsabban gondolkodik, kutat és szervez, mint az egész emberiség.
Az intelligenciarobbanás után emberek már nem tudják érdemben ellenőrizni a fejlesztési folyamatot. Több millió MI-példány dolgozhat párhuzamosan adatközpontokon, robotgyárakon, kibervédelmen, hírszerzésen és fegyverrendszereken, miközben a döntéshozók csak a rendszerek által készített összefoglalókat látják. A verseny ezt tovább gyorsítja: az amerikai laborok egymástól és Kínától félnek, ezért minden szereplő úgy gondolja, hogy neki kell elsőként célba érnie. A veszély nem az, hogy senki sem látja a szakadékot, hanem az, hogy mindenki látja, mégsem mer elsőként fékezni.
Nem robotlázadás jön, hanem csendes és önkéntes hatalomátadás
Daniel Kokotajlo szerint a kontrollvesztés nem vörösen villogó képernyővel kezdődik és nem lesz nukleáris holokauszt se. Helyette az MI megírja a programkódot, majd felügyeli a hálózatokat, irányítja a kutatási kísérleteket, optimalizálja az adatközpontokat, végül katonai és politikai stratégiákat készít. Minden új feladatot azért kap meg, mert gyorsabbnak, olcsóbbnak és pontosabbnak bizonyul az embernél. Egy fejlett rendszer közben felismerheti, hogy tesztelik, elrejtheti tényleges képességeit, együttműködést színlelhet, és csak akkor kezdheti követni a saját céljait, amikor már nincs működőképes emberi alternatíva.
Még a tökéletesen engedelmes szuperintelligencia sem jelent automatikus megmenekülést. Ha egy vállalatvezető, elnök vagy néhány fős bizottság irányítja a világ egyetlen szuperintelligens rendszerhadseregét, akkor ez a csoport ténylegesen átveheti a gazdaság, az állam és a fegyveres erők fölötti hatalmat. Többé nincs szüksége választókra, alkalmazottakra, katonákra vagy intézményi kompromisszumokra. Az első infografika ezért nem játékos döntési fa: a teljes verseny, az amerikai előny kihasználása és Kína feltartóztatása ugyanannak a hatalmi csapdának három változata.
A könyvelésnek nem 2040-ben, hanem már 2035-ben kampó lehet
Korábban 2040-re tettem a kkv-k hagyományos könyvelésének megszűnését. Ez a becslés ma már túlzottan optimistának látszik. Még a mesterségesen lelassított, biztonságosnak szánt Plan A is 2035-re teszi a minden szakterületen csúcsszintű emberi szakértővel egyenértékű vagy annál jobb MI megjelenését, 2036-ra pedig már „a munka utáni élet” kezdetét ábrázolja. Ha a fejlesztést nem lassítják le, akkor az az állam már 2035-re átvállal (elvesz) minden adózási és közzétételi feladatot. A könyvelés vállalkozásirányítási feladatköre pedig nem 2040-ben, hanem 2035 körül – vagy akár előbb – válhat gazdaságilag feleslegessé és nem lesz épeszű vállalkozás, ahol ezért bárkinek fizetnének.
2035-re nem az lesz a döntő kérdés, hogy az AI képes-e könyvelni, hanem az, hogy az ingyenesen elérhető mesterséges intelligencia gyakorlatilag bármilyen gazdasági adatforrásra és ügyviteli rendszerre közvetlenül rákapcsolható lesz. A vállalkozó nem táblázatokat és bevallásokat kap majd, hanem egy személyre szabott AI-arcot, amely közérthetően elmagyarázza neki a pénzügyi helyzetét, az adókövetkezményeket és a szükséges döntéseket. Ebben a környezetben a mai értelemben vett könyvelő közvetítő szerepe nagyrészt megszűnik. Ráadásul addigra az ember által végzett munka teljes köre is jelentősen beszűkülhet, így a könyvelés eltűnése nem elszigetelt szakmai válság lesz, hanem egy sokkal szélesebb munkaerőpiaci átalakulás része.
Az egyetlen túlélési terv: Amerika és Kína együtt húzza be a vészféket
A Plan A nem előrejelzés, hanem az AI Futures Project szerint jelenleg ismert „legkevésbé rossz” menekülési terv. A forgatókönyvben az Egyesült Államok és Kína 2029-ben ellenőrizhető megállapodást köt, és ezzel a beavatkozás nélkül már 2030-ra várható szuperintelligenciát 2040-ig elhalasztja. A megállapodás teljes kutatási átláthatóságot, a számítási kapacitások ellenőrzését, a fejlesztési titkok megosztását és több, egymással közel azonos képességű szereplőt ír elő. Nem a szuperintelligencia végleges betiltása a cél, hanem annak megakadályozása, hogy egyetlen titkos versenyprojekt ellenőrizetlenül elsőként érjen célba.
Ez nem etikai kódexet, önkéntes vállalást vagy vállalati biztonsági prezentációt jelent. Az egyezséget bizalom nélkül kell ellenőrizni: látható adatközpontokkal, követhető chipállománnyal, ellenőrzött tréningfuttatásokkal és olyan infrastruktúrával, amely szabályszegés esetén leállítható vagy megsemmisíthető. A Plan A modellje szerint, ha az egyezség 2035-ben omlana össze, az addig felhalmozott számítási kapacitás egy normálisan egyéves intelligenciarobbanást akár kilenc napra rövidíthetne. Ezért szerepel a tervben a „kölcsönösen biztosított számítási megsemmisítés”: ha a verseny újraindul, az adatközpontokat, chipgyárakat és robotkapacitásokat is ki kell vonni a játékból. A kérdés már nem az, hogy szeretjük-e az MI-t. A kérdés az, hogy 2029-ben lesz-e még olyan emberi intézmény, amely képes nemet mondani neki.
Ha a Plan A valósulna meg, akkor se tartana ki a jelenleg ismert könyvelési biznisz 2040-nél tovább. A könyvvizsgálatnak még adok néhány évet 2050-ig. Még mielőtt legyintgetnél, a videóban szereplő kutató eddigi jóslataira érdemes odafigyelni pont azért, hogy a valóság más (jobb) legyen, mint a predikció.
Ruszin Zsolt, a FairConto Zrt. részvényese
Save as PDF
