Felhő alapú, vagy lokálisan elérhető? - Semantic

Felhő alapú, vagy lokálisan elérhető?

2025.08.12

A Semantic AI felhőalapú felhasználói élményt kínál, ugyanakkor lokálisan, saját szervergépén is futhat.
Ez különösen fontos azoknak a szervezeteknek, akiknek kiemelt az adatbiztonság, és nem kívánják cloud szolgáltatásokon (pl. OpenAI GPT, Google Gemini) keresztül feldolgozni adataikat.

Specből másolva: "Lokális AI modellek támogatása
Egyes szervezetek számára kiemelt fontosságú, hogy maximális adatbiztonságot nyújtson a rendszer az AI modellek tekintetében is, így esetükben nem jöhet szóba cloud AI modellek (pl OpenAI GPT, Google Gemini, stb.) használata, ezért fontos, hogy lokálisan tudjunk nagy nyelvi modelleket (Large Language Model, LLM) futtatni. Ehhez egy speciális AI szerver szükséges, ami fejlett GPU-val és nagy mennyiségű GPU memóriával (kb 40 GB vagy több) van ellátva. Ez azért is hasznos, mert így össze tudjuk hasonlítani a különféle open source vagy open weight lokális LLM megoldásokat (pl Meta Llama, Google Gemma, Microsoft Phi, stb) valós feladatokban, és az ügyfeleknek a számukra legmegfelelőbb megoldást tudjuk kínálni. A fejlesztés és tesztelés során is szükségünk van erre az AI szerverre, mivel hagyományos laptopokon, személyi számítógépeken ezek az LLM-ek nem futtathatóak, illetve az OCR feladatok futtatásához is nagy teljesítményű szerverre van szükség."