AI a datacentra
Trénování AI modelu
AI Model Training
Proces, při kterém se model učí parametry z trénovacích dat pomocí rozsáhlých výpočtů.
Jednoduše řečeno
Při trénování se AI model učí z velkého množství dat a postupně upravuje své vnitřní parametry.
Praktický význam
Trénování velkých modelů vyžaduje mnoho akcelerátorů, rychlou síť a paměť. Pro infrastrukturu jde o kapitálově a energeticky náročný workload.
Příklad
Velký model může být trénován na clusteru tisíců akcelerátorů po dobu několika týdnů.
Podrobněji
Distribuované trénování rozděluje výpočty mezi více akcelerátorů. Efektivita závisí na komunikaci, paralelizaci, paměti a využití clusteru.
Na co si dát pozor
Růst výpočetního výkonu používaného pro trénování není totéž jako růst komerčního využití AI.