Czy Nemotron zastąpi Gemini? W Poznaniu pokażą testy modelu pod obciążeniem

Czy Nemotron może przejąć rolę Gemini w działającej aplikacji? Podczas poznańskiego spotkania uczestnicy poznają doświadczenia z testowania modeli pod obciążeniem. Drugi temat dotyczy bezpiecznego wdrażania aplikacji tworzonych z pomocą AI przez osoby bez doświadczenia inżynierskiego. To dwa etapy pracy z technologią: wybór modelu i doprowadzenie gotowego narzędzia do użycia.

Piętnasta edycja AI & Tech Talks odbędzie się w środę, 4 listopada, o godz. 18 w Business Link Poznań przy ul. Wierzbięcice 1A, w budynku E na pierwszym piętrze. Spotkanie organizują Pearson i Business Link.

• Test Nemotrona obejmie działanie pod obciążeniem
• W Pearsonie aplikacje tworzone przez AI przechodzą kontrole

Test Nemotrona obejmie działanie pod obciążeniem

Grzegorz Bilewski, Lead Specialist i AI Scientist w Pearsonie, opowie o próbie zastąpienia Gemini modelami NVIDIA Nemotron w aplikacji do nauki. W prezentacji uwzględni uruchamianie mikroserwisów inferencyjnych NVIDIA NIM na chmurowych procesorach graficznych za pośrednictwem NVIDIA Brev oraz zachowanie systemu pod obciążeniem.

Dla zespołów rozważających odejście od komercyjnego API ważne będzie więc nie tylko porównanie samych modeli, lecz także sprawdzenie, jak cała usługa działa przy większym ruchu. Bilewski przedstawi wnioski, które mogą pomóc ocenić taką zmianę w praktyce.

Powiązany artykuł

AI & Tech Talks #15 – Nemotron i aplikacje AI w produkcji

Więcej aktualności z Poznania znajdziesz na stronie głównej faktypoznan.pl, a wydarzenia i imprezy na najbliższe dni zawsze na faktypoznan.pl/wydarzenie.

W Pearsonie aplikacje tworzone przez AI przechodzą kontrole

Maciej Janiszewski, Director of AI Enterprise Architecture w Pearsonie, przedstawi nadzorowany proces publikowania wewnętrznych aplikacji generowanych przez AI. Pracownik opisuje asystentowi, czego potrzebuje, a platforma wdraża narzędzie z kontrolami bezpieczeństwa oraz zatwierdzonym dostępem do danych i modeli językowych. Jeśli kontrola nie przejdzie pomyślnie, wynik wraca do AI, która poprawia aplikację.

Taki proces ma umożliwić tworzenie użytecznych narzędzi także osobom bez przygotowania inżynierskiego, bez konieczności samodzielnej obsługi infrastruktury. W programie przewidziano również quiz AI & Tech z nagrodami i networking przy pizzy. Organizatorzy zapowiadają też trzecie wystąpienie, którego szczegóły mają ujawnić później.

na podstawie: Urząd Miasta Poznania.