[#525] Zarządzanie zasobami GPU na środowiskach Kubernetes

Praca z modelami genAI jest łatwa, gdy są hostowane na chmurze korzystając z serwisów typu Azure AI studio, Vertex AI od GCP. Natomiast prawdziwa zabawa zaczyna się dopiero, gdy trzeba takie modele wdrożyć i pracować nad nimi w środowiskach on-premise na serwerach klienta. Powstają wtedy pytania o kartę graficzną: dlaczego jej potrzebujemy, jaką wybrać oraz jak zarządzać jej mocą? Jak sprawić, aby kontenery, np. na Kubernetes, mogły skorzystać z mocy obliczeniowej karty graficznej, w jaki sposób wirtualizować kartę graficzną i czy warto to robić oraz jak optymalizować zużycie karty graficznej przez model? Podczas prezentacji dowiecie się więcej o oprogramowaniu NVIDII wspierającym pracę na z kartami graficznymi na różnych platformach.