AI jako služba - České Radiokomunikace nabízejí firmám k pronájmu grafické karty pro trénink AI modelů a provozování AI služeb

A právě pro takové společnosti připravily České Radiokomunikace (CRA) celou škálu možností, od volby GPU výkonu přes výběr natrénovaného AI modelu až po provozování vlastních AI služeb.

Grafické karty a  AI modely jako služba

„Jako infrastrukturální hráč a poskytovatel cloudu a datových center přicházíme na trh s řešením pro společnosti, které nechtějí nebo nemohou mít vlastní infrastrukturu s dostatečnou kapacitou. Naši cloudovou nabídku, která je primárně zaměřená na pronájem výpočetního výkonu a datových úložišť, jsme rozšířili o produkt GPU as a servis, tedy pronajímání grafických karet pro výpočty, trenování AI modelů, provozování AI aplikací nebo služeb,“ říká generální ředitel CRA Miloš Mastník.  „Už v relativně krátkém čase od uvedení produktu jsme byli schopni prodávat nedočkavým zákazníkům. Poptávka tady je a zároveň to je ta cesta, kterou chceme jít - umožnit firmám, které se AI zabývají, aby pro ně existovala i infrastrukturální platforma, kterou budou moci využívat,“ dodává Miloš Mastník.

Kromě toho CRA nabízí i službu AI Model as a Service, kde zájemci mohou využívat již natrénované modely umělé inteligence. Prostřednictvím standardizovaného API lze využívat širokou škálu AI modelů, aniž by bylo třeba investovat do vlastního hardwaru. Rozmanitost nabízených modelů a možnosti jejich přizpůsobení konkrétním požadavkům umožní pružně reagovat na rapidně rostoucí a měnící se nároky při práci s informacemi i komunikaci s klienty.

Tuto službu využívá například společnost AddAI. Předtrénovaný model jí umožnil především rychlé nasazení a zlevnění provozu, protože cena sužby je fixní (bez poplatků za tokeny, bez poplatků za přenos dat a dalších skrytých poplatků).

„Nyní můžeme nasazovat LLM modely v plně on-premise režimu, což otevírá nové možnosti využití našich AI služeb u zákazníků s vysokými bezpečnostními nároky a umožňuje nám poskytovat řešení i tam, kde je cloudové LLM z bezpečnostních nebo regulatorních důvodů nepřípustné. Governance a klíčové AI funkce tak mohou běžet zcela mimo veřejný cloud. Klientům garantujeme, že žádná citlivá data neopouštějí jejich infrastrukturu, což zásadně zjednodušuje compliance procesy,“ říká Jindřich Chromý ze společnosti AddAI. 

Benefity pronájmu GPU a AI modelů

Největšími benefity při využití těchto služeb jsou:

• Dedikovaný výkon - každý GPU server je vyhrazen pouze pro jednoho zákazníka
• Fixní cena - cena není závislá na počtu tokenech, nezpoplatňujeme přenesená data
• Bezpečné uložení dat v ČR - data jsou uložená pouze v DC ČRA na dedikovaném GPU serveru
• Flexibilita - CRA nabízí několik druhů GPU karet dle výkonnosti, zákazník dle potřeby může migrovat mezi jednotlivými GPU 
• Poradenství - CRA specialisti umí zákazníkům poradit vhodný AI model pro jejich potřeby
• Možnost bezplatného otestování na vybraném GPU serveru

V čem je řešení od CRA unikátní? Zejména v zabezpečení dat, lokalizaci v ČR. Zároveň nabízí širokou škálu AI modelů pro různé potřeby (chaty, vytěžování dokumentů, přepis audia, generování obrázků a videí a další).  V kombinaci s bezplatným otestováním tak zájemci dostanou výrazně jednodušší podmínky pro start svých vlastních produktů.

Více informací na https://www.cra.cz/ict-reseni/ai-cloud