A nyílt forráskódú AI eszközök Linuxon ingyen elérhetők, és saját gépen futtathatod őket. Ide tartoznak a helyi nyelvi modellek futtatói, a tanítást végző keretrendszerek és a klasszikus gépi tanulási könyvtárak. Ez a cikk hat bevált eszközt mutat be a hivatalos dokumentáció alapján. Megkapod a telepítési parancsokat és a választási szempontokat is.
- Ollama és llama.cpp: nyelvi modellek futtatása a saját gépeden.
- PyTorch, Transformers és TensorFlow: modellek építése és tanítása.
- scikit-learn: klasszikus gépi tanulás Python-könyvtárral.
- A telepítés pip-pel vagy a hivatalos szkripttel történik.
- A választást a feladat és a hardver dönti el.
Mik azok a nyílt forráskódú AI eszközök, és mire jók?
A nyílt forráskódú AI eszközök olyan programok és könyvtárak, amelyek forráskódja szabadon megtekinthető és használható. Linuxon ezekkel futtathatsz nyelvi modelleket, taníthatsz neurális hálókat és építhetsz gépi tanulási megoldásokat. Nem kell hozzájuk felhőszolgáltatás, mert a saját gépeden is működnek. Az alábbi hat eszköz a leggyakoribb kiindulópont.
Két nagy csoportot érdemes megkülönböztetned. Az első a modellek futtatása, amelyet az Ollama és a llama.cpp végez. A második a modellek építése és tanítása, amelyhez a PyTorch, a Transformers és a TensorFlow kell. A scikit-learn külön, a klasszikus gépi tanulás világába tartozik.
Tipikus hiba, hogy a kezdők rögtön tanítani akarnak, pedig a legtöbb feladathoz kész modell is elég. Először próbáld ki, mit tud egy helyben futó modell. A videokártyás gyorsításhoz kell az NVIDIA-illesztő is.
Melyik nyílt forráskódú AI eszköz mire való?
A nyílt forráskódú AI eszközök két csoportra oszthatók: futtatókra és fejlesztői keretrendszerekre. A futtatók kész modellt indítanak, a keretrendszerek modellt építenek vagy tanítanak. A táblázat összefoglalja, melyik eszköz mire való, és hogyan kezdhetsz hozzá. A parancsok a hivatalos dokumentációból származnak.
| Eszköz | Mire való | Kezdő lépés |
|---|---|---|
| Ollama | Nyelvi modellek helyi futtatása | ollama run gemma4:e2b |
| llama.cpp | Modellek futtatása C/C++ motorral | GGUF modell letöltése |
| PyTorch | Neurális hálók építése és tanítása | Parancs a pytorch.org választójából |
| Transformers | Kész modellek használata Pythonból | uv pip install "transformers[torch]" |
| TensorFlow | Mély tanulás és modelltanítás | python3 -m pip install 'tensorflow[and-cuda]' |
| scikit-learn | Klasszikus gépi tanulás Pythonban | pip3 install -U scikit-learn |
Hogyan futtass helyi modellt az Ollamával?
Az Ollama kényelmes módja annak, hogy nyelvi modellt futtass a saját Linux-gépeden. A hivatalos telepítőszkript egyetlen paranccsal feltelepíti a szolgáltatást. Utána egy paranccsal letöltöd és elindítod a kiválasztott modellt. A helyi API a dokumentáció példái szerint a http://localhost:11434 címen érhető el.
A telepítés a hivatalos szkripttel, majd a verzió ellenőrzése:
curl -fsSL https://ollama.com/install.sh | sh
ollama -vKézi telepítésnél letöltheted a tar.zst csomagot is, frissítésnél pedig futtasd újra a szkriptet. A szolgáltatás naplóját a journalctl -e -u ollama paranccsal nézheted meg. Kezdőként ezzel érdemes elindulni.
A dokumentáció a systemd-szolgáltatást ajánlja, külön ollama felhasználóval. Miután létrehoztad az ollama.service fájlt, ezekkel engedélyezheted és indíthatod:
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
sudo systemctl status ollamaModell letöltése és indítása:
ollama run gemma4:e2bA dokumentáció szerint a /bye paranccsal lépsz ki a csevegésből. NVIDIA kártyánál az nvidia-smi paranccsal ellenőrizd az illesztőt. AMD kártyához a ROCm v7 és egy külön csomag kell. Részletes lépések: Ollama telepítése Ubuntun.
Mire jó a llama.cpp, és mi az a GGUF formátum?
A llama.cpp egy C/C++ nyelven írt motor, amely nyelvi modelleket futtat processzoron és videokártyán is. Georgi Gerganov készítette, MIT licenc alatt, az első kiadás 2023 márciusában jelent meg. A modelleket GGUF formátumban használja. A Wikipedia szerint az Ollama és az LM Studio alapmotorja is.
A GGUF 2023 augusztusában jelent meg, és 2–8 bites kvantálást támogat. A kvantálás csökkenti a modell méretét, így kisebb memóriával is elfér. A llama.cpp többféle háttérrel dolgozik, például CUDA, HIP és Vulkan támogatással. Így nemcsak NVIDIA kártyán, hanem más hardveren is használható.
Tipikus hiba, hogy valaki a legnagyobb modellt tölti le, pedig az nem fér el a memóriájában. Ilyenkor válassz erősebben kvantált, kisebb GGUF-fájlt. Az Ollama ezt részben leveszi a válladról, mert letölti és elindítja a modellt. Közvetlen irányításhoz viszont a llama.cpp kínál több lehetőséget.
Hogyan indulj Pythonban a Transformers könyvtárral?
A PyTorch egy neurális hálókat építő keretrendszer, a Transformers pedig kész modelleket tölt be Pythonból. A Transformers dokumentációja Python 3.10 vagy újabb verziót és PyTorch 2.5-öt vagy újabbat kér. Érdemes virtuális környezetben dolgoznod, hogy a csomagok ne ütközzenek a rendszerrel. A PyTorch telepítő parancsát a get-started oldal választója állítja össze.
Virtuális környezet létrehozása az uv eszközzel, ahogy a dokumentáció javasolja:
uv venv .env
source .env/bin/activateA Transformers telepítése PyTorch-támogatással:
uv pip install "transformers[torch]"Az uv helyett a hagyományos pip is használható, ha elhagyod a parancsból az uv szót. NVIDIA kártyánál először telepítsd a megfelelő CUDA-illesztőket, és az nvidia-smi paranccsal ellenőrizd őket. Tipikus hiba, hogy a rendszer Pythonjába telepítenek, nem virtuális környezetbe.
A PyTorch gyors ellenőrzése a hivatalos oldal mintái alapján:
python3 -c "import torch; print(torch.rand(5, 3))"
python3 -c "import torch; print(torch.cuda.is_available())"Ha a második kimenet True, a PyTorch látja a videokártyát. A Transformers működését a hivatalos oldal sentiment-analysis példájával próbálhatod ki. Hibaüzenetnél ellenőrizd először a Python-verziót és a környezet aktiválását.
Mikor válaszd a TensorFlow-t vagy a scikit-learnt?
A TensorFlow mély tanulási keretrendszer, amelyet a dokumentáció szerint hivatalosan csak Ubuntun támogatnak. A scikit-learn klasszikus gépi tanulásra való Python-könyvtár, amelyet BSD licenc alatt adnak ki. Mindkettő pip-pel telepíthető, ezért virtuális környezetben érdemes kezdened. A TensorFlow dokumentációja külön kéri, hogy ne conda segítségével telepítsd.
A kettő eltérő feladatra készült, ezért ritkán váltják ki egymást. Mély tanuláshoz a TensorFlow vagy a PyTorch való, táblázatos adatokhoz a scikit-learn. Mindkét könyvtárat érdemes külön virtuális környezetbe telepítened.
A TensorFlow telepítése videokártya-támogatással:
python3 -m pip install 'tensorflow[and-cuda]'Csak processzorral a pip install tensorflow parancs elég. A dokumentáció pip 19.0 vagy újabb verziót kér. A 3.9-es Python támogatása a 2.21-es kiadástól megszűnt. Ha a program tenzort ír ki, a telepítés sikerült.
A TensorFlow ellenőrzése processzoron a hivatalos oldal parancsával:
python3 -c "import tensorflow as tf; print(tf.reduce_sum(tf.random.normal([1000, 1000])))"A scikit-learn telepítése virtuális környezetbe, majd ellenőrzés:
python3 -m venv sklearn-env
source sklearn-env/bin/activate
pip3 install -U scikit-learn
python3 -c "import sklearn; sklearn.show_versions()"A dokumentáció szerint a scikit-learn 1.7-es kiadása Python 3.10-et vagy újabbat kér. Táblázatos adatoknál a scikit-learn gyakran elég, mélyháló nélkül. Mélyháló tanításához már a PyTorch vagy a TensorFlow való.
Hogyan válassz a nyílt forráskódú AI eszközök közül?
A választást a feladat és a hardver dönti el, nem az eszköz népszerűsége vagy a letöltések száma. Ha csak kipróbálnál egy modellt, indulj az Ollamával. Ha Python-kódból dolgozol, a PyTorch és a Transformers a kiindulópont. Táblázatos adatokhoz a scikit-learn elegendő lehet, mélyháló nélkül is.
- Helyi chat és API: Ollama vagy llama.cpp.
- Modell tanítása vagy finomhangolása: PyTorch vagy TensorFlow.
- Kész modell használata Pythonból: Transformers.
- Klasszikus gépi tanulás: scikit-learn.
Tipikus hiba, hogy valaki videokártya nélkül akar nagy modellt tanítani. Ilyenkor futtass kisebb modellt, vagy válaszd a scikit-learnt. Az első lépésekhez a A TOP10 nyílt forráskódú AI eszköz Linux rendszerre cikk jó kiindulópont. Szerverként a Docker telepítése Ubuntun útmutató segít.
Gyakran ismételt kérdések
Mik azok a nyílt forráskódú AI eszközök?
Olyan programok és könyvtárak, amelyek forráskódja nyilvános. Linuxon nyelvi modelleket futtathatsz velük, vagy gépi tanulási megoldásokat építhetsz. Például az Ollama, a PyTorch és a scikit-learn ilyen. Nem kell hozzájuk felhőszolgáltatás.
Melyik eszközzel érdemes kezdeni Linuxon?
Nyelvi modell kipróbálásához az Ollama a legkézenfekvőbb. A telepítőszkript egy paranccsal feltelepíti, az ollama run paranccsal pedig modellt indítasz. Python-alapú munkához a virtuális környezet és a pip a jó kiindulópont. A scikit-learn is így telepíthető.
Kell videokártya a nyílt forráskódú AI eszközökhöz?
Nem mindig. A llama.cpp processzoron is fut, a TensorFlow pedig kap CPU-s telepítést is. A videokártya gyorsítja a munkát. Az Ollama NVIDIA kártyához CUDA-t, AMD kártyához ROCm-et kér.
Mi a különbség az Ollama és a llama.cpp között?
A llama.cpp a futtatómotor, amely a modelleket GGUF formátumban kezeli. A Wikipedia szerint az Ollama alapmotorja is. Az Ollama ehhez ad telepítőt, szolgáltatást és egyszerű parancsokat. Közvetlen irányításhoz a llama.cpp kínál több lehetőséget.
Mi a különbség a PyTorch és a TensorFlow között?
Mindkettő mély tanulási keretrendszer, de eltérő a telepítésük. A TensorFlow dokumentációja hivatalosan csak Ubuntut támogat. A Transformers jelenlegi dokumentációja a PyTorchot említi. A választást érdemes a használt modellekhez igazítanod.
Hogyan telepítsem a scikit-learnt Linuxra?
Hozz létre virtuális környezetet a python3 -m venv paranccsal, majd aktiváld. Utána a pip3 install -U scikit-learn parancs telepíti a könyvtárat. Az ellenőrzéshez használd a sklearn.show_versions() függvényt. A projekt BSD licenc alatt érhető el.
Miért kell virtuális környezet a Python-eszközökhöz?
A Transformers dokumentációja kifejezetten javasolja a virtuális környezetet. Így a csomagok nem ütköznek a rendszer Pythonjával. Több projekthez külön környezetet is létrehozhatsz. A hibás telepítést is könnyebb kitakarítani.
Ingyenesek a nyílt forráskódú AI eszközök?
Használatuk általában díjmentes, de a licenc eszközönként eltér. A llama.cpp MIT licenc alatt, a scikit-learn pedig BSD licenc alatt érhető el. A hardver és az áram költsége viszont rád hárul. Nagy modellhez erős videokártya kellhet.
Szerző: a Linuxinfok szerkesztősége. Utolsó frissítés: 2026-11-01. A parancsok a hivatalos dokumentáció alapján készültek, futtatás előtt ellenőrizd az aktuális oldalt.