Co znaczy lokalny model AI, a co API?
Lokalny model to model o otwartych wagach, który pobierasz i uruchamiasz na własnym komputerze, serwerze w biurze albo wynajętym serwerze, a API to usługa, w której wysyłasz tekst do serwerów dostawcy i płacisz za każdy przetworzony token. Do uruchamiania modeli lokalnie służą narzędzia o otwartym kodzie, na przykład Ollama, llama.cpp albo vLLM. Przez API dostępne są najmocniejsze modele OpenAI, Anthropic i Google, których wag nie da się pobrać. „Lokalny” nie musi oznaczać serwerowni w firmie: często to serwer z kartą graficzną wynajęty w europejskim centrum danych, na którym nikt poza Tobą nie przetwarza danych.
Jakie modele można uruchomić lokalnie i na jakiej licencji?
Najważniejsze modele otwarte mają licencję Apache 2.0, która pozwala na użycie komercyjne, ale Llama ma własną licencję z ograniczeniami, także dla firm z UE. Stan na październik 2026:
| Model | Twórca | Rozmiar | Licencja i uwagi |
|---|---|---|---|
| Bielik 11B v3.0 Instruct | SpeakLeash i ACK Cyfronet AGH | 11 mld parametrów | Apache 2.0. Model zoptymalizowany pod polski. Pobranie wymaga zaakceptowania udostępnienia danych konta Hugging Face. |
| Llama 4 Scout | Meta | 109 mld parametrów, 17 mld aktywnych | Llama 4 Community License: firmy z ponad 700 mln aktywnych użytkowników miesięcznie muszą prosić Metę o licencję, a produkt musi pokazywać „Built with Llama”. Polski nie jest na liście oficjalnie obsługiwanych języków. |
| Mistral Small 4 | Mistral AI | 119 mld parametrów, 6,5 mld aktywnych | Apache 2.0, okno kontekstu 256 000 tokenów. |
| gpt-oss-20b i gpt-oss-120b | OpenAI | 21 mld i 117 mld parametrów | Apache 2.0. Według OpenAI mniejszy działa w 16 GB pamięci, a większy na jednej karcie 80 GB. |
Czy firma z Polski może używać Llamy 4?
Modeli tekstowych tak, ale z multimodalnymi modelami Llama 4 jest problem: zasady użycia Mety mówią, że prawa z licencji do multimodalnych modeli Llama 4 nie są udzielane osobom mieszkającym w UE ani firmom z główną siedzibą w UE. Ograniczenie nie dotyczy końcowych użytkowników produktu, który taki model zawiera. Llama 4 Scout i Maverick to modele natywnie multimodalne, czyli przetwarzające także obrazy, więc firma z siedzibą w Polsce, która chce je sama uruchomić albo dostroić, powinna skonsultować licencję z prawnikiem. Prostszą drogą są modele na licencji Apache 2.0: Bielik, Mistral Small 4 albo gpt-oss.
Ile kosztuje sprzęt do lokalnego modelu AI?
Sama pamięć karty graficznej decyduje o tym, jaki model uruchomisz: według dokumentacji Hugging Face wagi modelu o X miliardach parametrów zajmują w precyzji bf16 około 2 razy X GB pamięci, a dochodzi do tego pamięć na kontekst rozmowy. Bielik 11B potrzebuje więc około 22 GB na same wagi w pełnej precyzji, a wersje skwantyzowane, czyli zapisane z mniejszą precyzją, mniej. Punkty odniesienia (stan na październik 2026):
- Karta konsumencka NVIDIA RTX 4090 ma 24 GB pamięci, a RTX 5090 32 GB.
- Karty serwerowe NVIDIA: L40S ma 48 GB, a H100 80 GB.
- Wynajem serwera Hetzner GEX45 z kartą RTX PRO 4000 Blackwell (24 GB) kosztuje 214 EUR miesięcznie netto plus 209 EUR jednorazowej opłaty za uruchomienie.
- Hetzner GEX63 z kartą RTX PRO 6000 Blackwell (96 GB) kosztuje 999 EUR miesięcznie netto plus 999 EUR za uruchomienie.
- Do tego czas osoby, która zainstaluje model, zabezpieczy serwer, będzie go aktualizować i monitorować.
Lokalny model i API w jednej tabeli
| Kryterium | Lokalny model otwarty | API OpenAI, Anthropic, Google |
|---|---|---|
| Jakość | Dobra w wąskich zadaniach: streszczenia, klasyfikacja, wyciąganie danych. Zwykle słabsza od najlepszych modeli w trudnym rozumowaniu. | Najmocniejsze dostępne modele, szybko aktualizowane. |
| Koszt stały | Serwer z GPU od około 214 EUR miesięcznie netto, niezależnie od liczby zapytań. | Brak, płacisz za użycie. |
| Koszt zmienny | Prawie zerowy, dopóki serwer wystarcza. | Za każdy token. Najtańsze modele kosztują około 0,10 USD za milion tokenów wejścia. |
| Dane | Nie opuszczają Twojej infrastruktury. | Trafiają do dostawcy jako podmiotu przetwarzającego, na podstawie umowy. |
| Utrzymanie | Twoje: aktualizacje, bezpieczeństwo, awarie, skalowanie. | Po stronie dostawcy. |
| Skalowanie | Więcej użytkowników naraz wymaga mocniejszej karty albo kolejnego serwera. | Dostawca skaluje, w granicach limitów konta. |
| Zmiana modelu | Pobierasz nowy i testujesz sam. | Dostawca wycofuje stare modele według swojego harmonogramu. |
Czy API OpenAI, Anthropic i Google jest zgodne z RODO?
Może być, jeśli podpiszesz umowę powierzenia przetwarzania danych i ustalisz podstawę przekazania danych poza UE, bo dostawca API przetwarza dane w Twoim imieniu. Art. 28 RODO mówi, że administrator korzysta wyłącznie z usług podmiotów przetwarzających, które zapewniają wystarczające gwarancje, a przetwarzanie odbywa się na podstawie umowy. Przekazywanie danych do firm w USA ułatwia decyzja wykonawcza Komisji (UE) 2023/1795 z 10 lipca 2023 roku (Data Privacy Framework) dla firm z listy DPF. Co oferują dostawcy (stan na październik 2026):
- OpenAI: dane wysyłane do API nie są używane do trenowania modeli bez zgody klienta. Rezydencja danych w Europie działa przez adres eu.api.openai.com, ale wymaga zatwierdzenia przez OpenAI kontroli monitorowania nadużyć i podpisania aneksu o zmienionym przechowywaniu danych.
- Anthropic: we własnym API parametr miejsca przetwarzania ma tylko wartości „global” i „us”, a dane w spoczynku są przechowywane w USA. Modele Claude w regionach europejskich są dostępne przez chmury partnerów, na przykład Google Cloud Vertex AI.
- Google: w Europejskim Obszarze Gospodarczym, Szwajcarii i Wielkiej Brytanii do aplikacji dla użytkowników wolno używać tylko płatnych usług Gemini API, w których Google nie wykorzystuje promptów ani odpowiedzi do ulepszania produktów. Vertex AI ma region w Warszawie (europe-central2).
Kiedy co wybrać
- API
- Asystent dla klientów, trudne zadania z rozumowaniem, mała lub zmienna liczba zapytań, brak osoby do utrzymania serwera. Najczęstszy wybór małej firmy.
- API w europejskim regionie chmury
- Dane osobowe klientów i wymóg przetwarzania w UE, ale bez własnego serwera. Na przykład modele w Vertex AI albo Bedrock w regionach UE.
- Lokalny model
- Tajemnica przedsiębiorstwa, dokumentacja medyczna albo prawna, umowa z klientem zakazująca przekazywania danych, duża i stała liczba prostych zadań.
- Połączenie
- Lokalny model wstępnie anonimizuje albo klasyfikuje dokumenty, a do API trafia tylko to, co nie zawiera danych wrażliwych.
Słabe strony obu podejść
- Lokalny model: koszt serwera płacisz także wtedy, gdy nikt z niego nie korzysta, a jedna karta graficzna obsłuży ograniczoną liczbę osób naraz.
- Lokalny model: bezpieczeństwo serwera, kopie i aktualizacje są po Twojej stronie. Model na niezabezpieczonym serwerze to większe ryzyko niż API z umową.
- Lokalny model: mniejsze modele częściej się mylą w trudnych zadaniach, a testy jakości musisz zrobić sam.
- API: dane wychodzą poza firmę, a dostawca może zmienić ceny, warunki i wycofać model, na którym oparłeś proces.
- API: limity zapytań i awarie po stronie dostawcy przekładają się na przestój Twojego procesu.
Jak zacząć bez dużej inwestycji
- Spisz, jakie dane będą przetwarzane i czy wolno je przekazać zewnętrznemu dostawcy na podstawie umowy.
- Jeśli tak, zacznij od API i zmierz miesięczne zużycie tokenów na prawdziwych zadaniach.
- Jeśli nie, przetestuj Bielika albo Mistrala na komputerze z mocną kartą graficzną albo na serwerze wynajętym na godziny.
- Porównaj jakość na tych samych 20-30 przykładach z Twojej pracy.
- Dopiero potem zdecyduj o stałym serwerze, gdy wiesz, ile zapytań będzie i czy jakość wystarcza.
Nasze zdanie
Dla większości małych firm proponujemy API, bo jakość i brak serwera do utrzymania przeważają, a umowy powierzenia i regiony europejskie rozwiązują sprawy danych. Lokalny model polecamy przy wąskim, powtarzalnym zadaniu na danych, które nie mogą opuszczać firmy, i tylko wtedy, gdy wiadomo, kto będzie go utrzymywał. Dobór modelu i miejsca przetwarzania danych jest częścią usługi wdrożenie AI w firmie, a automatyzacje, które z niego korzystają, opisujemy na stronie automatyzacja procesów biznesowych. Wdrożenia zaczynają się u nas od 2 290 zł netto. Ten tekst nie jest poradą prawną.
Źródła
- Hugging Face: Bielik-11B-v3.0-Instruct
- Hugging Face: Llama 4 Scout 17B-16E Instruct
- Meta: Llama 4 Community License Agreement
- Meta: Llama 4 Acceptable Use Policy
- Hugging Face: Mistral Small 4
- Hugging Face: gpt-oss-20b
- Hugging Face: optymalizacja LLM, zapotrzebowanie na pamięć
- NVIDIA: GeForce RTX 4090
- NVIDIA: H100
- Hetzner: serwery dedykowane z GPU
- OpenAI: dane w API i rezydencja w UE
- Anthropic: rezydencja danych w API
- Anthropic: cennik API
- Anthropic: wdrożenia regionalne Claude
- Google: warunki Gemini API
- Google Cloud: lokalizacje Vertex AI
- [RODO, rozporządzenie (UE) 2016/679, art. 28](http://publications.europa.eu/resource/celex/32016R0679)
- Komisja Europejska: przekazywanie danych do USA (Data Privacy Framework)
Autor: Marcin Tyc, założyciel Tycode · opublikowano 24 października 2026 · aktualizacja 24 października 2026