Kurs i obuka – MLOps i LLMOps – isporuka i evaluacija AI sistema

Kurs je namenjen ML inženjerima, DevOps stručnjacima i programerima koji uvode AI sisteme u rad. Stečene veštine mogu biti korisne u razvoju softvera, IT infrastrukturi, model servisima i timovima za održavanje AI rešenja.

Preporučeno prethodno znanje: Python, ML/LLM osnove, Git i osnove komandne linije.

Tokom nastave polaznik će kroz praktičan rad učiti da:

• životni ciklus modela – Eksperiment–registracija–isporuka–nadzor; uloge i metapodaci.
• reproduktivnost i verzionisanje – Git, verzionisanje skupova/modela, pipeline i praćenje eksperimenata.
• pakovanje i servisiranje – Docker koncepti, API servis, konfiguracija, tajne i zavisnosti.
• cI/CD i testiranje – Automatski testovi, validacija podataka/modela, release i rollback.
• monitoring ML i LLM sistema – Data drift, kvalitet predikcija, evaluacija odgovora, latencija, troškovi, tragovi.
• bezbednost i završni projekat – Ovlašćenja, evidencija, privatnost, operativni runbook i incidenti.

Znanja iz oblasti „MLOps i LLMOps – isporuka i evaluacija AI sistema“ mogu pomoći da se konkretnije pristupi zadacima kao što su verzionisanje eksperimenata i modela, pakovanje servisa, testiranje, isporuku i nadzor rada. Njihova vrednost je u pravilnom izboru postupka, jasnom dokumentovanju rada i proveri dobijenih rezultata.

Obuka pokriva radne principe i praktične primere, ne predstavlja zamenu za iskustvo u složenim produkcionim okruženjima.

Obuka se organizuje kao individualna nastava (1 polaznik) u trajanju od 40 školskih časova, mikro grupa (2–3 polaznika) u trajanju od 40 školskih časova ili standardna grupna nastava (4 i više polaznika) u trajanju od 48 školskih časova.

Nastava se može realizovati uživo u prostorijama Akademije Oxford ili online, prema odabranom modelu. U grupnoj nastavi predviđeno je više vremena za dodatne vežbe, diskusiju i zajedničku proveru rezultata.

Po završetku obuke polaznik će moći da sprovede osnovni radni postupak iz oblasti „MLOps i LLMOps – isporuka i evaluacija AI sistema“, primeni obrađene alate na zadati primer, proveri dobijene rezultate i predstavi praktično rešenje. Nivo samostalnosti zavisi od prethodnog znanja i složenosti konkretnog zadatka.

1. Životni ciklus modela – Eksperiment–registracija–isporuka–nadzor; uloge i metapodaci. Praktičan rad: Nacrtati arhitekturu toka od razvoja do produkcije.
2. Reproduktivnost i verzionisanje – Git, verzionisanje skupova/modela, pipeline i praćenje eksperimenata. Praktičan rad: Sačuvati parametre, podatke i rezultate eksperimenta.
3. Pakovanje i servisiranje – Docker koncepti, API servis, konfiguracija, tajne i zavisnosti. Praktičan rad: Pokrenuti jednostavan inference servis lokalno.
4. CI/CD i testiranje – Automatski testovi, validacija podataka/modela, release i rollback. Praktičan rad: Napraviti osnovni kontrolni pipeline za novu verziju.
5. Monitoring ML i LLM sistema – Data drift, kvalitet predikcija, evaluacija odgovora, latencija, troškovi, tragovi. Praktičan rad: Projektovati nadzornu tablu i uslove za alarm.
6. Bezbednost i završni projekat – Ovlašćenja, evidencija, privatnost, operativni runbook i incidenti. Praktičan rad: Predati mini deployment plan sa testovima i monitoringom.