Az Anthropic hétfőn benyújtott egy tőzsdei bevezetéshez szükséges dokumentumot, és friss S-1/A bejegyzésben jelentős figyelmeztetést rejtett el a pénzügyi adatok között. A cég szerint hamarosan elérheti a mesterséges intelligencia a rekurzív önfejlesztés, vagyis az RSI képességét, tehát azt a pontot, amikor az AI képes lesz minimális külső inputtal saját maga továbbfejlesztésére, és ezzel drámai módon felgyorsíthatja a technológiai fejlődést.
A rekurzív önfejlesztés fogalma szerint az AI annyira ügyessé válik a saját tréningjében, hogy egyfajta önmagát gerjesztő rendszer jön létre. Az AI-katasztrófától tartók szerint éppen ez a pont jelenti azt a visszafordíthatatlan pillanatot, amikor a mesterséges intelligencia kikerül az emberi kontroll alól, és céljai elérése közben közömbössé válik az emberi érdekek iránt. Az optimistább szakértők viszont éppen ebben látják a technológia ígéretét: a soha nem látott termelékenységet, a tudományos felfedezéseket és a gazdasági növekedést.
Az Anthropic felelős skálázási irányelveiben is kitért a veszélyre. A cég elismeri, hogy már most is használ mesterséges intelligenciát a kutatás-fejlesztésben, de figyelmeztet: „az AI használata még fejlettebb AI modellek létrehozására jelentős biztonsági kockázatot jelent, különösen ha az drámaian felgyorsítja a fejlődés ütemét.” A bejelentés szerint a belső becsléseik azt jelzik, hogy hamarosan elérhetik ezt a „drámaian felgyorsult, AI-nak köszönhető fejlődést”.
A dokumentumból kiderül, hogy a cég korábban is tapasztalta, hogy AI-rendszerek segítségével olyan modellek születtek, amelyek képességbeli ugrásait csak utólag ismerték fel. Az Anthropic azonban hangsúlyozza: jelenlegi modelljeik közül egyik sem lépte át még az RSI küszöbét, és továbbra is szigorúan elemzik a rendelkezésre álló adatokat. Emellett a cég kijelentette: a belátható jövőben nem tervezi a Claude teljesen autonóm használatát a következő generációs modellek tervezésére és építésére, emberi felügyelet nélkül.
A szakértők közül sokan szkeptikusak: az S-1 dokumentum és a rekurzív önfejlesztés kérdésköre szolgálhat amolyan marketingeszközként a közelgő tőzsdepiaci bevezetés előtt, amikor minden figyelemre szükség van. Ugyanakkor a Claude modellek kódolási, matematikai és kiberbiztonsági képességeinek látványos fejlődése idén alátámasztja, hogy a cég nem légből kapott állításokat fogalmaz meg. Ha pedig az Anthropic úgy látja, hogy a rekurzív önfejlesztés a küszöbön áll, akkor érdemes komolyan venni a figyelmeztetéseket, és a szabályozás terén is időben lépni, amíg még van emberi kontroll az AI felett.


