Vzpostavitev lastnega AI strežnika in modela

Naše podjetje se že vrsto let ukvarja s strežniškim gostovanjem, hkrati pa smo si vedno želeli narediti korak naprej v svetu umetne inteligence. Z razvojem naše infrastrukture smo končno dosegli raven zmogljivosti, ki nam omogoča izvajanje tudi najzahtevnejših odprtokodnih AI modelov.

Preboj

Zadnje mesece smo intenzivno preizkušali zmogljivosti naših strežnikov in z veseljem lahko sporočimo, da zdaj uspešno poganjamo DeepSeek R1 – enega izmed najnaprednejših odprtokodnih modelov umetne inteligence. Poleg tega še naprej razvijamo in optimiziramo lastne lokalne AI modele, prilagojene specifičnim potrebam podjetij.

Deepseek R1

Februarja 2025 smo izvedli testno implementacijo DeepSeek R1 in rezultati so zelo obetavni. V trenutni konfiguraciji dosegamo približno 40 generiranih tokenov na sekundo, kar potrjuje, da je naša infrastruktura kos tudi najzahtevnejšim nalogam na področju umetne inteligence. To nas dodatno motivira, da še naprej vlagamo v razvoj AI rešitev in ponudimo zmogljivo platformo za poslovne uporabnike ter raziskovalne projekte.

sl_SISlovenščina