Multimedia

Prelegent:
Dominik Gubrynowicz

[#441] LLM na własność – wdrożenie prywatnego dużego modelu językowego w AWS

Rynek LLM rośnie niezwykle dynamicznie, a wraz z nim na rynku pojawiają się kolejne, bardziej zaawansowane rozwiązania o szerszych licencjach. Wraz z rozwojem technologii LLM, coraz większa liczba sektorów, także tych regulowanych, może w pełni wykorzystać potencjał dużych modeli językowych. W tej prelekcji przejdziecie z Dominikiem przez proces projektowy wdrożenia LLM zaczynając od analizy wymagań, poprzez prototypownie przy wykorzystaniu usługi SageMaker Jumpstart i kończąc na bardziej kontrolowanym wdrożeniu przy użyciu kontenerów i usługi ECS.

Zobacz także:

[#527] Konfiguracja kontekstu bezpieczeństwa dla Poda i Kontenera

[#526] Przegląd usług bezpieczeństwa w Azure Entra

[#525] Zarządzanie zasobami GPU na środowiskach Kubernetes

[#524] APIM ❤️ Azure OpenAI

Pokaż więcej

O nas

Paweł Ufnalewski i Mariusz Dalewski od zawsze żyli w pracy i po pracy światem IT. W 2015 roku założyli na Facebooku grupę SysOps/DevOps Polska. 3 lata później udało się sformalizować działania i dziś jesteśmy Fundacją. SO/DO Team w tym czasie się powiększył i moderuje cztery grupy na Facebooku, których łączna liczba uczestników przekroczyła 64 000.

SO/DO organizuje również cykliczne spotkania dla osób zainteresowanych tematyką SysOps, DevOps i SecOps. Spośród specjalistów wybraliśmy najlepszych w swoich dziedzinach i stworzyliśmy z nimi pełnowymiarowe szkolenia. Wspieramy też inne konferencje polskie i zagraniczne występując w roli prelegentów czy partnerów społecznościowych.