Hirdetés

Közel az öngerjesztő önfejlesztő AI

An Anthropic szerint drámai módon felgyorsíthatja az AI saját maga továbbfejlesztését.

Az Anthropic hétfőn benyújtott egy tőzsdei bevezetéshez szükséges dokumentumot, és friss S-1/A bejegyzésben jelentős figyelmeztetést rejtett el a pénzügyi adatok között. A cég szerint hamarosan elérheti a mesterséges intelligencia a rekurzív önfejlesztés, vagyis az RSI képességét, tehát azt a pontot, amikor az AI képes lesz minimális külső inputtal saját maga továbbfejlesztésére, és ezzel drámai módon felgyorsíthatja a technológiai fejlődést.

Hirdetés

A rekurzív önfejlesztés fogalma szerint az AI annyira ügyessé válik a saját tréningjében, hogy egyfajta önmagát gerjesztő rendszer jön létre. Az AI-katasztrófától tartók szerint éppen ez a pont jelenti azt a visszafordíthatatlan pillanatot, amikor a mesterséges intelligencia kikerül az emberi kontroll alól, és céljai elérése közben közömbössé válik az emberi érdekek iránt. Az optimistább szakértők viszont éppen ebben látják a technológia ígéretét: a soha nem látott termelékenységet, a tudományos felfedezéseket és a gazdasági növekedést.

Az Anthropic felelős skálázási irányelveiben is kitért a veszélyre. A cég elismeri, hogy már most is használ mesterséges intelligenciát a kutatás-fejlesztésben, de figyelmeztet: „az AI használata még fejlettebb AI modellek létrehozására jelentős biztonsági kockázatot jelent, különösen ha az drámaian felgyorsítja a fejlődés ütemét.” A bejelentés szerint a belső becsléseik azt jelzik, hogy hamarosan elérhetik ezt a „drámaian felgyorsult, AI-nak köszönhető fejlődést”.

A dokumentumból kiderül, hogy a cég korábban is tapasztalta, hogy AI-rendszerek segítségével olyan modellek születtek, amelyek képességbeli ugrásait csak utólag ismerték fel. Az Anthropic azonban hangsúlyozza: jelenlegi modelljeik közül egyik sem lépte át még az RSI küszöbét, és továbbra is szigorúan elemzik a rendelkezésre álló adatokat. Emellett a cég kijelentette: a belátható jövőben nem tervezi a Claude teljesen autonóm használatát a következő generációs modellek tervezésére és építésére, emberi felügyelet nélkül.

A szakértők közül sokan szkeptikusak: az S-1 dokumentum és a rekurzív önfejlesztés kérdésköre szolgálhat amolyan marketingeszközként a közelgő tőzsdepiaci bevezetés előtt, amikor minden figyelemre szükség van. Ugyanakkor a Claude modellek kódolási, matematikai és kiberbiztonsági képességeinek látványos fejlődése idén alátámasztja, hogy a cég nem légből kapott állításokat fogalmaz meg. Ha pedig az Anthropic úgy látja, hogy a rekurzív önfejlesztés a küszöbön áll, akkor érdemes komolyan venni a figyelmeztetéseket, és a szabályozás terén is időben lépni, amíg még van emberi kontroll az AI felett.

Hirdetés

Előzmények

Korlátozta a Claude Code játékklónozási képességeit az Anthropic

Valós eredményekhez viszont ennyi kevés lesz, de láthatóan nagy problémába futott bele az ipar.

Ki vezeti pórázon az AI-t, ha az Anthropic tőzsdére lép?

Nem csak az számít, hogyan teljesítenek a modellek, hanem az is, hogy ki tereli a fejlődésüket.

Nem teljesít minden kérést az Anthropic új, programozóknak szánt LLM-je

A Claude Opus 5.5 erős limitációval érkezik, és ezt a cég nem is tagadja, noha a pontos korlátozást nem fejtik ki.

45 milliárd dollár aprópénzt szór az Anthropic szerverbérlésre

Csepp a tengerben a 2000 milliárd dolláros tőzsdei tervekhez képest.