IZENA Ollama zerbitzaria
Ollama gailu lokaletan hizkuntza-modelo handiak (Large Language Models edo LLM) kudeatu eta exekutatzeko diseinatutako plataforma bat da. Adimen artifizialeko modelo hauek hodeirako konexiorik gabe deskargatu, exekutatu eta erabiltzeko modu erraza eskaintzen du.
Aplikazio-eremuak
Azpiegitura eta Informatika
Hedapena eta Aplikazioa
Garapenak
Garapenak
Hedapena eta Aplikazioa
Azpiegitura eta Informatika
EKIPO ETA OSAGAI GARRANTZITSUENAK
-
GPU zerbitzaria
16 GPU ko sistema (11-48GB)
-
GPU zerbitzaria
16 GPU ko sistema (11-48GB)
AKTIBOAK ESKAINTZEN DITUEN ZERBITZUAK
Ollama exekuzio zerbitzua
Ollama gailu lokaletan edo zerbitzarietan hizkuntza modelo handiak (Large Language Models edo LLM) kudeatu eta exekutatzeko diseinatutako plataforma bat da. Adimen artifizialeko modelo hauek hodeirako konexiorik gabe deskargatu, exekutatu eta erabiltzeko modu erraza eskaintzen du. Ollamak azpiegitura bat eskaintzen du modelo aurreratuak zuzenean makina lokaletan exekutatzeko, baliabideak optimizatuz eta kanpoko zerbitzarien menpekotasunik gabe latentzia murriztuz. MGEPek errendimendu handiko txartel grafikoekin hornitutako zerbitzari bat jartzen du enpresen eskura, Ollama ostatatzen duena, zerbitzari horietan modelo aurreratuak edo LLMak exekutatzeko egokia. Baliabide hau hizkuntza modeloak entrenatu eta hedatzeko, datu konplexuen analisia eta machine learning aplikazioak garatzeko erabil daiteke, enpresei hodeiaren menpekotasunik gabeko AA proiektuetarako azpiegitura optimizatua eskainiz.
Ollama exekuzio zerbitzua
Ollama gailu lokaletan edo zerbitzarietan hizkuntza modelo handiak (Large Language Models edo LLM) kudeatu eta exekutatzeko diseinatutako plataforma bat da. Adimen artifizialeko modelo hauek hodeirako konexiorik gabe deskargatu, exekutatu eta erabiltzeko modu erraza eskaintzen du. Ollamak azpiegitura bat eskaintzen du modelo aurreratuak zuzenean makina lokaletan exekutatzeko, baliabideak optimizatuz eta kanpoko zerbitzarien menpekotasunik gabe latentzia murriztuz. MGEPek errendimendu handiko txartel grafikoekin hornitutako zerbitzari bat jartzen du enpresen eskura, Ollama ostatatzen duena, zerbitzari horietan modelo aurreratuak edo LLMak exekutatzeko egokia. Baliabide hau hizkuntza modeloak entrenatu eta hedatzeko, datu konplexuen analisia eta machine learning aplikazioak garatzeko erabil daiteke, enpresei hodeiaren menpekotasunik gabeko AA proiektuetarako azpiegitura optimizatua eskainiz.
AKTIBOA KUDEATZEN DUEN ERAKUNDEA
Harremanetarako pertsona:
Aitor Aguirre Ortuzar
aaguirre@mondragon.edu