Własne AI na własnej karcie

Dla kogo jest ten kurs

Dla dwóch osób, które zadają to samo pytanie z dwóch stron:

• Masz kartę i chcesz z niej wycisnąć maksimum — bo dziś używasz jej na 30% możliwości i nie wiesz o tym.
• Rozważasz zakup i nie wiesz, czy warto — a każdy poradnik mówi co innego.

Co Cię tu nie spotka

Pięciu lekcji teorii, zanim cokolwiek zadziała. Pierwsza lekcja kończy się działającym modelem — zanim padnie słowo „kwantyzacja". Teoria wchodzi dopiero wtedy, gdy zaczyna Ci na niej zależeć.

Liczby, którym możesz zaufać

Każda liczba w tym kursie jest podpisana:

• ZMIERZONA — konkretna karta, konkretny dzień, opisane warunki pomiaru
• POLICZONA — arytmetyka pamięci, prawdziwa na każdym sprzęcie
• OSZACOWANA — wyliczona z przepustowości, z podanym sposobem liczenia

Nauczysz się też, jak mierzyć u siebie i jak rozpoznać trzy sposoby, którymi pomiar potrafi skłamać: pamięć podręczna udająca szybkość, nierozgrzany silnik i rozumowanie modelu wliczone w wynik. Bo liczba z cudzego benchmarku nie jest parametrem modelu — jest zapisem tego, co ktoś wtedy mierzył.

Program: 18 lekcji w pięciu krokach

1. Zadziałało — model w przeglądarce, czym właściwie jest plik modelu, pierwszy model na Twojej karcie
2. Twoja karta — ile naprawdę masz pamięci, jak 27 miliardów parametrów mieści się w 24 GB, co się u Ciebie zmieści i co kupić na jakim budżecie (z osobnym rozdziałem o kartach używanych)
3. Kiedy nie działa — pięć najczęstszych komunikatów i co NAPRAWDĘ znaczą, dlaczego model wywala się po dwudziestu minutach rozmowy, co robić, gdy działa, ale wolno
4. Wyciskanie maksimum — własne pomiary bez oszukiwania się, formaty i silniki, długi kontekst kontra kilka rozmów naraz, wiele modeli na jednym komputerze
5. Na co dzień — podłączenie do edytora i czatu, uczciwy bilans lokalnie kontra chmura, co się zmienia szybko, a co zostanie

Ćwiczenia interaktywne — w przygotowaniu

Kurs ma dziś pełną treść osiemnastu lekcji. Ćwiczenia w emulowanym środowisku (diagnostyka błędów uruchomienia, kalkulator pamięci, przełącznik karty 12 / 16 / 24 / 32 GB) dochodzą etapami — kto kupi teraz, dostaje je bez dopłaty, tak jak przy pozostałych kursach na tej platformie.

Czego w kursie nie ma

Trenowania własnych modeli (to inny temat), budowania aplikacji na modelach (to warstwa wyżej) i rankingów „który model najlepszy" — te starzeją się w miesiąc. Zamiast tego uczymy mierzyć.