Multimedia

Prelegent:
Karol Horosin

[#554] Deployment LLM: praktyczne strategie, narzędzia, częste problemy

Deployment dużych modeli językowych (LLM) to złożone wyzwanie, które wymaga zmierzenia się z problemami takimi jak rozmiar modeli, wymagania sprzętowe czy szybkość ewolucji technologii. W trakcie tej prezentacji poznacie praktyczne strategie wdrażania LLM-ów w środowisku produkcyjnym. Omówimy publiczne, zarządzane i samodzielnie hostowane modele LLM, przez porównanie usług zarządzanych z samodzielnym hostowaniem, aż po zarządzanie zasobami i optymalizację kosztów. Poruszymy również kluczowe kwestie związane z bezpieczeństwem i prywatnością danych, monitorowaniem oraz utrzymaniem wdrożonych modeli.

Zobacz także:

[#553] AMBA w akcji: automatyzacja i ujednolicanie alertów w Azure

[#552] Bitwa trzech armii – czyli o wdrożeniu Karpentera w klastrze EKS

[#551] Architektura analityki z Microsoft Fabric

[#550] Lightning Talk: Azure Pipelines – dobre praktyki

Pokaż więcej

O nas

Paweł Ufnalewski i Mariusz Dalewski od zawsze żyli w pracy i po pracy światem IT. W 2015 roku założyli na Facebooku grupę SysOps/DevOps Polska. 3 lata później udało się sformalizować działania i dziś jesteśmy Fundacją. SO/DO Team w tym czasie się powiększył i moderuje cztery grupy na Facebooku, których łączna liczba uczestników przekroczyła 64 000.

SO/DO organizuje również cykliczne spotkania dla osób zainteresowanych tematyką SysOps, DevOps i SecOps. Spośród specjalistów wybraliśmy najlepszych w swoich dziedzinach i stworzyliśmy z nimi pełnowymiarowe szkolenia. Wspieramy też inne konferencje polskie i zagraniczne występując w roli prelegentów czy partnerów społecznościowych.