Racka-4B: az ELTE új magyar nyelvű érvelő AI modellje

A Racka-4B az ELTE új magyar nyelvű érvelő AI modellje, amely kifejezetten a magyar nyelv jobb megértésére és feldolgozására készült. A magyar mesterséges intelligencia szempontjából fontos fejlesztésről van szó, mert a Racka-4B nem egyszerűen “tud magyarul”, hanem célzottan magyar nyelvi adatokon is továbbtanították.

A nagy nemzetközi nyelvi modellek többsége főként angol nyelven teljesít a legjobban, ezért a magyar nyelv sokszor hátrányból indul. A magyar ragozás, szóösszetételek, hosszabb mondatszerkezetek és sajátos kifejezések miatt nem mindegy, hogy egy modell mennyire van felkészítve magyar szövegek kezelésére.

A Racka-4B teljes neve: Regionális Adatokon Célzottan Kialakított Alapmodell. A modellt az ELTE kutatói fejlesztették, és a Qwen3-4B nevű nyelvi modellre épül. A cél az volt, hogy egy olyan magyar fókuszú mesterséges intelligencia modell készüljön, amely kisebb mérete ellenére is erős teljesítményt nyújthat magyar nyelvű feladatokban.

A modell fejlesztésénél külön figyelmet kapott a magyar nyelv hatékonyabb feldolgozása. Ez azért fontos, mert ha egy AI modell kevesebb darabra bontja a magyar szöveget, akkor gyorsabban és hatékonyabban tud dolgozni vele. A Racka-4B esetében ez a magyar nyelvű működés egyik legfontosabb előnye.

A tanításhoz nagy mennyiségű magyar, angol, német és programkódos adatot használtak. A magyar adatok között többféle forrás is szerepelt, például webes szövegek, hírek, Wikipédia, bírósági döntések, feliratok és akadémiai anyagok. Ez segíthet abban, hogy a modell változatosabb magyar nyelvi helyzetekben is használható legyen.

A Racka-4B érvelő modellként is érdekes, vagyis nemcsak rövid válaszok generálására, hanem összetettebb gondolkodást igénylő feladatokra is alkalmas lehet. Ez különösen fontos magyar nyelven, ahol eddig jóval kevesebb olyan nyíltan elérhető AI modell volt, amely kifejezetten magyar szempontok alapján készült.

A modell GGUF formátumban is elérhető, így lokálisan, például llama.cpp segítségével is kipróbálható. Ez azoknak lehet izgalmas, akik saját gépen szeretnének magyar nyelvű AI modellt futtatni, felhős szolgáltatás nélkül.

A Racka-4B jelentősége túlmutat egyetlen modellen. A magyar nyelv digitális jövője szempontjából fontos, hogy legyenek olyan nyílt, kutatható és magyar fókuszú AI fejlesztések, amelyek nem csak mellékesen támogatják a magyar nyelvet, hanem kifejezetten erre is épülnek.

*Legyél Te is Tagja az Mp3Pintyo csatornának*
https://www.youtube.com/channel/UC-3YkVvPQbZiApqrRXEOaPg/join

*Linkek*
HVG Tech: https://hvg.hu/tudomany/20260602_racka-4b-magyar-nyelvu-ervelo-ai-modell-elte-ik
Hugging Face elte-nlp/Racka-4B: https://huggingface.co/elte-nlp/Racka-4B
HF elte-nlp/Racka-4B-GGUF: https://huggingface.co/elte-nlp/Racka-4B-GGUF/tree/main
llama.cpp: https://github.com/ggml-org/llama.cpp

Futtatás 1:
:: --no-cache-prompt ^
@echo off
cd /d "d:\AI\llama.cpp\build\bin\Release"

llama-server.exe ^
-m "d:\AI\llama.cpp\Racka-4B-Q8_0.gguf" ^
--spec-type ngram-simple,ngram-mod,ngram-map-k4v ^
--ctx-size 32768 ^
-b 1024 ^
-ub 1024 ^
-ngl 99 ^
--flash-attn on ^
--temp 0.6 ^
--top-p 0.8 ^
--presence-penalty 1.1 ^
--top-k 50 ^
--repeat_penalty 1.1 ^
--no-mmproj ^
--host 0.0.0.0 ^
--port 8080 ^

pause

Futtatás 2:
:: --no-cache-prompt ^
@echo off
cd /d "d:\AI\llama.cpp\build\bin\Release"

llama-server.exe ^
-m "d:\AI\llama.cpp\Racka-4B-Q8_0.gguf" ^
-b 512 ^
-ub 512 ^
-ngl all ^
--flash-attn on ^
--temp 0.6 ^
--top-p 0.8 ^
--presence-penalty 1.1 ^
--top-k 50 ^
--repeat-penalty 1.1 ^
--no-mmproj ^
--host 0.0.0.0 ^
--port 8080 ^
--ctx-size 64000 ^
--rope-scaling yarn ^
--rope-scale 4 ^
--yarn-orig-ctx 32768 ^
--reasoning auto ^

pause

Ez a videó bemutatja a mesterséges intelligencia alkalmazását. Az AI (mesterséges intelligencia) rengeteg területen könnyíti és segíti az életünket.