Czym są modele decyzyjne AI

Zwykły model językowy (LLM) odpowiada tekstem. Gdy program zapyta go „czy ten e-mail to reklamacja?”, dostanie zdanie, z którego trzeba dopiero wyłuskać „tak” albo „nie”. Model czasem doda komentarz, zmieni format albo odpowie nie na temat. Model decyzyjny odpowiada wyłącznie liczbami, w z góry ustalonym formacie.

Zwykły model językowy a model decyzyjny Zwykły model językowy dostaje e-mail i pisze odpowiedź słowo po słowie, np. „Tak, to wygląda na reklamację, ponieważ…”, a program musi z tego wyłuskać odpowiedź: ryzyko złego formatu i dodatkowego komentarza, czas liczony w sekundach. Model decyzyjny dostaje e-mail i pytania, w jednym przebiegu zwraca liczby: reklamacja 0,93, pilne 0,71, dział „serwis”, a program od razu działa, w dziesiątki do setek milisekund. ZWYKŁY MODEL (LLM) MODEL DECYZYJNY e-mail e-mail + pytania model pisze odpowiedź słowo po słowie jeden przebieg „Tak, to wygląda na reklamację, ponieważ…” reklamacja: 0,93 pilne: 0,71 dział: „serwis” program musi wyłuskać odpowiedź program od razu działa zły format, komentarz czas: sekundy ten sam format czas: dziesiątki– setki ms
To samo pytanie zadane zwykłemu modelowi językowemu i modelowi decyzyjnemu. Wartości przykładowe.

Każde zapytanie do modelu decyzyjnego ma dwie części: stan, czyli tekst do oceny (e-mail, fragment umowy, opis zgłoszenia; niektóre modele przyjmują też obrazy), oraz pytania — jedno lub wiele naraz, każde jednego z trzech typów:

Tak / nie

„Czy to reklamacja?”

0,93

Model zwraca prawdopodobieństwo, że odpowiedź brzmi „tak”.

Wybór

„Do którego działu?”

reklamacje
0,78
faktury
0,15
handel
0,07

Model wybiera jedną opcję z listy podanej przez programistę i podaje prawdopodobieństwo każdej z nich.

Skala

„Jak pilne? (1–5)”

ocena: 4 z 5

Ocena na zdefiniowanych poziomach, z opisem każdego poziomu.

Wartości na kartach są przykładowe.

TypeSafe nazywa takie modele „System One”, od systemu 1 z książki Daniela Kahnemana „Pułapki myślenia. O myśleniu szybkim i wolnym”: to szybkie, intuicyjne decyzje zamiast powolnego rozumowania. Simon Willison, jeden z najbardziej znanych komentatorów rynku AI, za Maggie Appleton woli prostszą nazwę: modele decyzyjne. W omówieniach pada też porównanie do „inteligentnego ifa”, czyli warunku w kodzie, który zamiast porównywać liczby, rozumie tekst.

Jedno zastrzeżenie co do nazwy: w polskiej literaturze „model decyzyjny” to także pojęcie z zarządzania i badań operacyjnych (drzewa decyzyjne, macierze decyzyjne). Tutaj chodzi o coś innego: o modele sztucznej inteligencji zbudowane na bazie modeli językowych.

Jak działa model decyzyjny i dlaczego jest tak szybki

Większość otwartych modeli decyzyjnych powstaje podobnie. Punktem wyjścia jest zwykły otwarty model językowy, najczęściej z rodziny Qwen 3.5 lub Qwen 3.8 od Alibaby (więcej o tych modelach: chińskie modele open-weight). Następnie:

  1. usuwa się albo pomija warstwę, która generuje kolejne słowa (tzw. głowicę językową);
  2. w jej miejsce dokłada się małą „głowicę wskazującą”, która porównuje pytanie z każdą z dozwolonych odpowiedzi. W Strands Decider 2B ma ona nieco ponad milion parametrów;
  3. model dostraja się lekkimi adapterami (LoRA), a większość wag bazowych zostaje bez zmian.

Model czyta tekst i pytania raz, w jednym przebiegu, i od razu ocenia wszystkie opcje. Nie generuje odpowiedzi słowo po słowie i nie „myśli na głos”. Stąd szybkość: Cloudflare podaje medianę 38,8 ms na decyzję dla Clef-flash, TypeSafe 70–500 ms dla Jev, a duże modele z rozumowaniem potrzebują na to samo sekund. Stąd też cennik: płaci się tylko za tekst wejściowy, bo odpowiedź to kilka liczb.

Druga konsekwencja: model nie może zwrócić odpowiedzi spoza listy ani zepsuć formatu. TypeSafe nazywa to brakiem halucynacji, ale to obietnica dotycząca formatu, nie trafności. Model decyzyjny może wybrać z listy złą odpowiedź, jak każdy inny model.

Jev od TypeSafe AI — model, od którego zaczął się boom

Jev to model firmy TypeSafe AI, pokazany 15 września 2026 roku. Działa wyłącznie w chmurze producenta. Na starcie obowiązywała lista oczekujących, a 20 września TypeSafe ogłosiło otwarcie dostępu dla wszystkich; zasady dostępu zmieniały się od premiery kilka razy, więc warto je sprawdzić u producenta. Firma nie ujawnia modelu bazowego i nie publikuje wag. Opisuje tylko własną metodę treningu, RLCD: uczenie ze wzmocnieniem nastawione na skalibrowane decyzje.

Najważniejsze parametry według producenta:

  • czas odpowiedzi 70–500 ms;
  • 0,042 USD za milion tokenów wejściowych, odpowiedzi bez opłat (stan na 10.10.2026);
  • do 255 opcji w jednym pytaniu wyboru;
  • według TypeSafe 40–200 razy szybciej i nawet kilkaset razy taniej niż czołowe modele językowe w zadaniach decyzyjnych.

To liczby producenta, mierzone na jego własnych zadaniach. Dokumentacja TypeSafe przyznaje, że Jev słabo radzi sobie z liczbami, datami i tekstami pisanymi celowo po to, żeby go zmylić. Nazwa nawiązuje do Williama Stanleya Jevonsa i jego paradoksu: gdy coś tanieje, zużywa się tego więcej. Firma zakłada, że tak samo będzie z decyzjami podejmowanymi przez AI.

Clef, Strands Decider, pplx-decider i Decisions API — wysyp w dwa tygodnie

Jev działa tylko w chmurze i nie ma otwartych wag. Konkurencja odpowiedziała szybko i w większości otwarcie. 1 października 2026 roku, jednego dnia, swoje modele wydały Cloudflare, Amazon i Perplexity. Kilka dni później OpenAI otworzyło Decisions API dla wszystkich programistów.

Modele decyzyjne AI w trzy tygodnie

15.09

Jev

TypeSafe AI, pierwszy model decyzyjny, tylko w chmurze

29.09

Ollama 0.35 · OpenAI

Nimble i Tev1 lokalnie; OpenAI pokazuje Decisions API na DevDay

01.10

Clef · Strands Decider · pplx-decider

Cloudflare, Amazon i Perplexity jednego dnia, z otwartymi wagami

06.10

Decisions API · pplx v1.1

OpenAI w publicznej becie, Perplexity z nową wersją

09.10

Clef-omni

Cloudflare dodaje dźwięk i wideo, tnie cenę Clef-flash

Cloudflare Clef i Clef-flash

  • Dwa modele: Clef (27 mld parametrów, na bazie Qwen 3.8 27B) do najdokładniejszych decyzji i Clef-flash (9 mld, na bazie Qwen 3.5 9B) do zadań, w których liczy się każda milisekunda.
  • Licencja Apache 2.0, wagi na Hugging Face. Można je uruchomić na własnym sprzęcie albo w chmurze Cloudflare (Workers AI).
  • Clef rozumie też obrazy. 9 października doszedł Clef-omni, który przyjmuje dodatkowo dźwięk i wideo.
  • Ceny w Workers AI za milion tokenów wejściowych (stan na 10.10.2026): Clef 0,24 USD, Clef-flash 0,038 USD (obniżka z 0,09 USD; jednocześnie okno kontekstu Clef-flash w chmurze zmniejszono do 24 tys. tokenów), Clef-omni 0,15 USD.
  • Według Cloudflare mediana czasu decyzji na premierę wynosiła 38,8 ms dla Clef-flash, 209,3 ms dla Clef i 524,1 ms dla Jev, a w zestawie testów Jev Decision Index najlepszy wynik w 7 z 10 testów należał do Clef lub Clef-flash. 9 października Cloudflare podało, że przyspieszyło Clef 1,7–2 razy dzięki zmianom w serwowaniu. To pomiary Cloudflare, niezależnie jeszcze niepowtórzone.
  • Cloudflare deklaruje, że nie czyta, nie przechowuje i nie używa do treningu zapytań klientów, chyba że klient sam przekaże je do dostrajania.
  • Razem z modelami ruszyła usługa dostrajania Clef na danych firmy metodą uczenia ze wzmocnieniem. Na początek prowadzą ją inżynierowie Cloudflare.

Amazon Strands Decider 2B

  • Model z laboratorium Strands Labs w AWS. Pomysł wyszedł od Marca Brookera, inżyniera Amazona, który po premierze Jev zbudował własną wersję. Po dopracowaniu Amazon wydał ją oficjalnie.
  • Około 2 mld parametrów (1,9 mld według repozytorium), na bazie Qwen 3.5 2B z usuniętą warstwą generującą tekst. Model fizycznie nie potrafi napisać zdania. W repozytorium są też warianty zbudowane na modelach Gemma 4 od Google.
  • Licencja Apache 2.0. Obok wag opublikowano dane treningowe i skrypty, czyli przepis na powtórzenie treningu.
  • Przeznaczony do uruchamiania na własnym sprzęcie: na karcie NVIDIA, na Macu, a nawet na samym procesorze.
  • Według AWS mediana odpowiedzi to około 115 ms na karcie RTX 3090, czyli konsumenckiej karcie sprzed kilku lat.
  • Zastosowania wskazywane przez Amazon: wybór narzędzia przez agenta, kierowanie zadania do odpowiedniego modelu albo ścieżki, ocena wyników, zabezpieczenia (tzw. guardrails).

Perplexity pplx-decider-27b

  • pplx-decider-v1-27b wyszedł 1 października razem z Decisions API Perplexity. 6 października dołączyła wersja v1.1, z tym samym modelem bazowym i tym samym sposobem wywołania.
  • 27 mld parametrów, na bazie Qwen 3.8 27B, licencja Apache 2.0, wagi na Hugging Face. Do uruchomienia u siebie potrzeba karty z miejscem na około 49 GiB samych wag.
  • Przyjmuje tekst, dane JSON i obrazy. W jednym zapytaniu do 128 pytań, w pytaniu wyboru do 255 opcji, w skali do 10 poziomów.
  • W chmurze Perplexity wersja v1.1 kosztuje 0,02 USD za milion tokenów wejściowych (stan na 10.10.2026), czyli mniej niż połowę ceny Jev.
  • Według karty modelu v1.1 uzyskuje w zestawie Decision Index 61,56 pkt wobec 57,9 dla Jev. To dane Perplexity.
  • Ma własne API (adres /v1/decisions), niezgodne wprost z Jev, ale z tymi samymi typami pytań.

OpenAI Decisions API

  • Pokazane na konferencji DevDay 29 września, od 6 października w publicznej becie dla wszystkich programistów.
  • Tylko chmura i tylko jeden model: GPT-6 Luna. Wag nie ma.
  • Trzy typy pytań: predykat (prawdopodobieństwo, że warunek jest spełniony), wybór i ocena w skali. Na wejściu tekst i obrazy.
  • 0,10 USD za milion tokenów wejściowych, bez opłat za odpowiedź (stan na 10.10.2026). OpenAI podaje, że to około 10 razy szybciej niż zwykłe API.
  • Dla uprawnionych klientów: przetwarzanie danych w Europie (EOG i Szwajcaria) i opcja braku przechowywania danych (Zero Data Retention).
  • Model może odmówić odpowiedzi na pytanie, więc aplikacja musi obsłużyć taki przypadek.

Nimble, Tev1 i Kev — modele decyzyjne lokalnie, przez Ollamę

Najprostsza droga do modelu decyzyjnego na własnym komputerze prowadzi przez Ollamę, popularne darmowe narzędzie do uruchamiania modeli lokalnie. Od wersji 0.35 (29 września 2026) Ollama obsługuje modele decyzyjne pod osobnym adresem, wzorowanym na API Jev.

Nimble (Bespoke Labs) ma 9 mld parametrów i jest dostrojony z Qwen 3.5 9B. W teście Bespoke Labs na 13 publicznych zbiorach (3 880 decyzji oznaczonych przez ludzi) uzyskał średnio 75,7% trafności wobec 76,0% dla Jev 1.13. W ocenach w skali bywał lepszy od Jev, w pytaniach tak/nie słabszy, np. w moderacji komentarzy (70,3% wobec 81,0%). Ograniczenia: tylko tekst i do 8 192 tokenów na zapytanie razem z pytaniami. Ollama podaje 91 ms na decyzję na MacBooku Pro z układem M5 Max.

Tev1 (Together AI) to eksperymentalne modele 4B i 0,8B, również dostępne w Ollamie.

Kev to niezależny, otwarty projekt Jareda Palmera (Apache 2.0) w czterech rozmiarach:

ModelSprzęt według autora
Kev-0.8Bdowolna karta z 4 GB pamięci albo Mac z Apple Silicon
Kev-4Btestowany na kartach serwerowych (L40S, H100) i Macu z 32 GB
Kev-9Bokoło 17 GB pamięci karty
Kev-27Bokoło 66 GB pamięci: karta 80 GB albo Mac z 96–128 GB (niezmierzone)

Kev-27B w teście autora jest w granicach punktu procentowego od Jev na danych, których nie widział w treningu. W wiedzy ogólnej (test MMLU-Pro) jest wyraźnie słabszy: 0,675 wobec 0,840. Autor sam ostrzega, że kolejność opcji potrafi zmienić odpowiedź i że model słabo radzi sobie z datami. Uwaga praktyczna: Kev nie jest w katalogu PyPI, a polecenie pip install kev instaluje zupełnie inny pakiet.

Porównanie: małe modele decyzyjne w jednej tabeli

Stan na 10.10.2026, kolumna z naszym testem: 11–12.10.2026. Ceny za milion tokenów wejściowych; odpowiedzi we wszystkich usługach bez opłat.

ModelFirmaRozmiarWagi i licencjaGdzie działaFormat jak JevCena w chmurzeNasz test: trafność na poczcie
JevTypeSafe AInie ujawnionozamkniętytylko chmurawzorzec0,042 USDnie testowany — tylko chmura
ClefCloudflare27BApache 2.0chmura + lokalnietak0,24 USD85,3%
Clef-flashCloudflare9BApache 2.0chmura + lokalnietak0,038 USD79,6%
Strands Decider 2BAmazon (Strands Labs)ok. 2BApache 2.0, z danymi treningowymilokalnietak—76,4%
pplx-decider v1.1Perplexity27BApache 2.0chmura + lokalniewłasne API0,02 USD81,5%
Decisions APIOpenAInie ujawnionozamkniętytylko chmura (beta)własne API0,10 USDnie testowany — tylko chmura
NimbleBespoke Labs9BApache 2.0lokalnie (Ollama)tak—79,4%
Tev1Together AI4B i 0,8Botwarte wagi, eksperymentalnylokalnie (Ollama)tak—78,3% (4B)
Kevprojekt niezależny0,8B–27BApache 2.0lokalnietak—66,2% (4B)
d1 3BLiquid AI3BLFM 1.0 (licencja Liquid AI)lokalnietak—76,6%
K2-Type 0.9BIFM0,9BApache 2.0lokalnietak—62,7%
CLM 8BStanford + NVIDIA8BApache 2.0lokalnietak—33,3%

„Nasz test”: średnia trafność z trzech skrzynek pocztowych (hotel, bank, telekom), 600 polskich maili — szczegóły w teście modeli decyzyjnych.

Ten sam sposób wywołania co w Jev — czy da się podmienić model?

W dużej mierze tak, i to jeden z powodów tak szybkiego wysypu. Kev, Strands Decider (w trybie serwera), Ollama z modelami Nimble i Tev1 oraz Clef przyjmują zapytania w tym samym formacie co Jev. Kev wprost podaje, że z jego lokalnym serwerem działa oficjalna biblioteka TypeSafe dla Pythona, a Ollama pokazuje to na przykładzie: wystarczy zmienić adres serwera i nazwę modelu. Perplexity i OpenAI mają własne API z tymi samymi trzema typami pytań, więc przejście wymaga niewielkiej przeróbki.

Ten sam format nie oznacza jednak tych samych odpowiedzi. Bespoke Labs zastrzega przy Nimble, że modele warto porównywać tylko na tych samych przykładach i w ten sam sposób, a próg pewności trzeba sprawdzić na własnych danych. W praktyce: zanim podmienicie Jev na Clef, Nimble czy model lokalny, puśćcie oba na tym samym zestawie kilkuset prawdziwych przypadków i porównajcie wyniki. Przy cenach rzędu centów za milion tokenów taki test kosztuje grosze.

Do czego modele decyzyjne przydadzą się w firmie

Model decyzyjny nie zastąpi asystenta, który pisze pisma albo streszcza umowy. Pasuje tam, gdzie dziś człowiek przez cały dzień odpowiada na to samo pytanie zamknięte, albo tam, gdzie duży model językowy jest do takiego pytania za wolny i za drogi. Przykłady wskazywane przez producentów:

  • Rozdzielanie e-maili i zgłoszeń — który dział, czy pilne, czy to reklamacja. To pierwszy krok automatyzacji skrzynki, o której piszemy przy bocie do obsługi e-maili.
  • Klasyfikacja dokumentów — faktura, umowa, pismo z urzędu, oferta. Modele z obsługą obrazów (Clef, pplx-decider, OpenAI) przyjmują też skany.
  • Strażnik danych przed wysłaniem do chmury — pytanie „czy ten tekst zawiera dane osobowe albo tajemnicę firmy?”, zanim trafi do ChatGPT lub innego zewnętrznego modelu. Lokalny model decyzyjny może być pierwszą linią kontroli w bramce prywatności AI.
  • Sprawdzanie odpowiedzi innego modelu — czy odpowiedź opiera się na dokumencie, czy model coś zmyślił. Perplexity podaje tu 88,8% trafności wobec 77,3% dla Jev (test RAGTruth, wersja v1, dane Perplexity).
  • Sortowanie wyników wyszukiwania — zwykła wyszukiwarka wybiera sto kandydatów, a model decyzyjny ocenia trafność każdego. Takie podejście testuje Simon Willison.
  • Moderacja treści — komentarze, opinie, wiadomości z formularzy.

Modele decyzyjne w agentach AI

Agent AI to program, który sam wykonuje kolejne kroki: czyta zgłoszenie, sprawdza dane w systemie, odpisuje. Na każdym kroku podejmuje drobne decyzje: czy wywołać narzędzie, które, czy wynik jest dobry, czy przekazać sprawę człowiekowi. Dziś robi to zwykle duży model, który za każdym razem „myśli” kilka sekund. Modele decyzyjne mają przejąć właśnie te drobne decyzje, a dużemu modelowi zostawić pisanie i planowanie. Tak uzasadnia swój model Amazon: klienci AWS nie potrzebowali pełnego modelu językowego do każdego kroku agenta.

Ograniczenia: czego modele decyzyjne nie potrafią

  • Nie piszą. Żadnych uzasadnień, streszczeń ani odpowiedzi dla klienta. Nie widać też, dlaczego wybrały daną odpowiedź. Simon Willison zwraca uwagę, że to krok w stronę jeszcze bardziej nieprzejrzystej „czarnej skrzynki” niż zwykły model językowy.
  • Słabo radzą sobie z liczbami i datami. Przyznają to TypeSafe (Jev) i autor Kev. Pytanie „czy termin płatności minął?” lepiej rozstrzygnąć zwykłym kodem.
  • Rozumowanie wieloetapowe to nie ich specjalność. TypeSafe radzi rozbijać złożoną decyzję na kilka prostych, niezależnych pytań, a wyniki łączyć w kodzie.
  • Prawdopodobieństwo to nie gwarancja. Bespoke Labs wprost pisze, że prawdopodobieństwa Nimble nie gwarantują poprawności. Próg decyzji (np. „przekazuj automatycznie powyżej 0,9”) trzeba ustawić na własnych danych.
  • Kolejność opcji ma znaczenie. Autor Kev zauważył, że zmiana kolejności odpowiedzi potrafi zmienić wynik, a TypeSafe przyznaje, że Jev skłania się ku opcji podanej jako pierwsza.
  • Krótkie okna kontekstu. Nimble przyjmuje 8 192 tokeny, małe modele Kev około 8 tys., Clef-flash w chmurze 24 tys. Dłuższe dokumenty trzeba dzielić. Więcej mieszczą Clef (64 tys.) i API Perplexity (do 262 tys.).
  • Testy producentów. Prawie wszystkie liczby w tym artykule pochodzą od firm, które wydały modele. Niezależnych porównań jest na razie mało.
  • Język polski. Producenci nie publikują wyników dla polskiego, więc sprawdziliśmy to sami: czołówka osiąga 85–87% trafności na polskich mailach, a brak polskich znaków zmienia decyzję w 2–6% przypadków. Największy problem to wstrzyknięte polecenie dopisane w treści maila — obniża trafność o 8–32 punkty procentowe. Szczegóły: polski test modeli decyzyjnych.
  • Uprzedzenia i prawo. Willison przestrzega przed używaniem takich modeli np. do oceniania kandydatów do pracy, bo ukryte uprzedzenia trudno wykryć. W AI Act systemy AI do rekrutacji i selekcji kandydatów należą do kategorii wysokiego ryzyka (załącznik III), z dodatkowymi obowiązkami.

Lokalnie czy w chmurze? Sprzęt dla modeli decyzyjnych

Większość nowych modeli decyzyjnych ma otwarte wagi, więc dane nie muszą opuszczać firmy. To ważne przy e-mailach klientów, dokumentach kadrowych czy aktach spraw (więcej o lokalnym AI zamiast chmury). Wymagania sprzętowe zależą od rozmiaru modelu:

0,8–2B

Kev-0.8B, Tev1 0.8B, Strands Decider 2B

Komputer z kartą graficzną albo Mac z Apple Silicon. Strands Decider działa nawet na samym procesorze, tylko wolniej.

4–9B

Tev1 4B, Nimble, Kev-9B, Clef-flash

Karta graficzna z około 16–24 GB pamięci albo Mac z większą pamięcią. W Ollamie modele są dodatkowo skompresowane.

27B

Clef, pplx-decider, Kev-27B

Około 50–66 GB pamięci: karta serwerowa albo komputer z dużą pamięcią współdzieloną, np. ASUS Ascent GX10 lub NVIDIA DGX Spark ze 128 GB.

W naszym teście zmierzyliśmy pamięć i czas na mail z 4 pytaniami na jednym GX10: modele 27B — 51,5–54,7 GB i 0,8–1,5 s; 9B — ok. 20–21 GB i 0,26–1,4 s; Strands 2B, d1 3B i Tev1 4B — 6,3–10,9 GB i 0,06–0,32 s; Kev 4B — 21 GB i 145 ms; K2-Type 0.9B — 3,6 GB i 43 ms; CLM 8B — 48 GB i 96 ms. Wersje w chmurze (Jev, OpenAI, Perplexity, Cloudflare) nie wymagają sprzętu i łatwiej z nimi zacząć, ale każde zapytanie wysyła treść do zewnętrznego dostawcy. Przy danych osobowych potrzebna jest umowa powierzenia i sprawdzenie, gdzie dane są przetwarzane.

Bonsai 2 — mały model, który działa na zwykłym komputerze

Modele decyzyjne to jeden sposób na zmniejszenie AI (po angielsku mówi się o small language models): zawęzić model do jednego zadania. Drugi sposób to skompresować zwykły model językowy tak, żeby zmieścił się na domowym sprzęcie. Tu najciekawszy jest teraz Bonsai.

Ternary Bonsai 2 27B firmy PrismML (17 września 2026, Apache 2.0) to model Qwen 3.8 27B, w którym każdą wagę zapisano jako −1, 0 lub +1, czyli zamiast 16 bitów około 1,7–2 bitów. Plik modelu waży około 6–7 GB zamiast ponad 50 GB, a model zachowuje to, co umiał oryginał: długie okno kontekstu (262 tys. tokenów), obrazy na wejściu i wywoływanie narzędzi. PrismML podaje, że zachowuje 98,2% jakości oryginału; to dane producenta. W odróżnieniu od modeli decyzyjnych Bonsai pisze: e-maile, streszczenia, analizy.

Sprawdziliśmy go sami (test 25.09.2026, osiem zadań biurowych po polsku):

24 / 24

automatyczne sprawdzenia zaliczone

≈ 88%

jakości dużego modelu (7,6 / 10 wobec 8,6 / 10)

  • 24 z 24 automatycznych sprawdzeń zaliczone: fakty z 10-stronicowego regulaminu i 30-stronicowej umowy z numerami paragrafów, faktura zamieniona na dane bez błędu, poprawne wywołanie narzędzia, odczyt skanu z polskimi znakami, informacja odnaleziona w dokumencie długości około 350 stron;
  • około 88% jakości dużego modelu: w ocenie w ciemno, w której duży model open-weight (320 mld parametrów) porównywał odpowiedzi obu modeli, Bonsai dostał średnio 7,6/10 wobec 8,6/10. W wydobywaniu danych z dokumentów, odczycie skanów i wywoływaniu narzędzi był mu równy. Słabiej wypadł w wiedzy szczegółowej (prawo, daty) i w szlifie polszczyzny w długich tekstach. Sędzia też jest modelem językowym, więc wynik traktujemy jako orientacyjny.

„Zwykły komputer” wymaga jednego doprecyzowania: liczy się karta graficzna NVIDIA z co najmniej 8 GB pamięci, taka jak w typowym komputerze do gier.

Bonsai 2: ile trwa napisanie e-maila

Bonsai 2: ile trwa napisanie e-maila Czas napisania e-maila przez Bonsai 2 27B: pecet z RTX 5060 Ti 16 GB 5–7 s, pecet z RTX 5060 8 GB 6–8 s, laptop z RTX 5060 7–10 s, laptop z RTX 4060 8–12 s (szacunki), ASUS GX10 8,5 s (pomiar), komputer biurowy bez karty graficznej 1,1–1,8 min, laptop biurowy 1,6–3,4 min (szacunki, poza skalą wykresu). pecet z RTX 5060 Ti 16 GB szacunek 5–7 s pecet z RTX 5060 8 GB szacunek 6–8 s laptop z RTX 5060 szacunek 7–10 s laptop z RTX 4060 szacunek 8–12 s ASUS GX10 pomiar 8,5 s komputer biurowy bez karty graficznej szacunek 1,1–1,8 min laptop biurowy szacunek 1,6–3,4 min 0 s 5 s 10 s 15 s

Jasna część słupka to rozrzut szacunku. Komputery bez karty graficznej są poza skalą wykresu.

Pecety i laptopy z kartą NVIDIA: szacunek na podstawie pomiarów na ASUS GX10. GX10: pomiar. Test ailone, 25.09.2026.
  • Pecet z RTX 5060 Ti 16 GB (zestaw około 4–5,5 tys. zł, sama karta około 1,9–2 tys. zł, ceny z września 2026): około 35–43 tokenów na sekundę, e-mail w 5–7 s, streszczenie 10 stron w około 30–40 s.
  • Pecet z RTX 5060 8 GB albo laptop z RTX 4060 / 5060: wolniej, ale wciąż komfortowo (e-mail w 6–12 s), z krótszym oknem na długie dokumenty.
  • Komputer biurowy bez karty graficznej: model się uruchomi, ale e-mail powstaje 1–3,5 minuty, a streszczenie 10 stron 10–45 minut. Do codziennej pracy to za wolno.
  • Karta z 6 GB pamięci: model się nie mieści.

Wniosek: do pisania i analizy dokumentów przez jedną osobę wystarczy dziś pecet za około 5 tys. zł. Przy jednym użytkowniku taki pecet jest nawet szybszy od ASUS GX10, bo ma szybszą pamięć. GX10 ma sens dla zespołu, który pracuje jednocześnie, i dla dużych modeli. Więcej o doborze sprzętu: jaki komputer do AI.

Najczęstsze pytania o modele decyzyjne

Czym model decyzyjny różni się od zwykłego modelu językowego?

Model językowy (LLM) pisze tekst słowo po słowie. Model decyzyjny czyta tekst raz i zwraca liczby: prawdopodobieństwo „tak”, wybraną opcję z listy albo ocenę w skali. Dzięki temu jest dziesiątki razy szybszy i tańszy, ale nie napisze ani jednego zdania.

Czy modele decyzyjne halucynują?

Nie mogą zwrócić odpowiedzi spoza listy ani zepsuć formatu, ale mogą wybrać złą odpowiedź. Trafność trzeba sprawdzić na własnych przykładach, a próg pewności ustawić osobno dla każdego zastosowania.

Który model decyzyjny można uruchomić lokalnie?

Otwarte wagi mają Clef i Clef-flash (Cloudflare), Strands Decider 2B (Amazon), pplx-decider (Perplexity), Nimble, Tev1 i Kev. Najłatwiej zacząć od Ollamy w wersji 0.35 lub nowszej. Jev i Decisions API od OpenAI działają tylko w chmurze.

Czy modele decyzyjne działają po polsku?

Tak. W naszym teście na 2198 polskich dokumentach czołowe modele osiągnęły 85–87% trafności na polskich mailach. Brak polskich znaków zmienia decyzję w 2–6% przypadków, a kategorie można definiować po polsku — nazwy po angielsku nie poprawiają wyniku czołówki.

Czy Bonsai 2 27B działa na zwykłym komputerze?

Tak, jeśli komputer ma kartę graficzną NVIDIA z co najmniej 8 GB pamięci. Na pececie z RTX 5060 Ti 16 GB napisanie e-maila trwa 5–7 sekund. Na komputerze biurowym bez takiej karty model się uruchomi, ale odpowiedź trwa minuty.

Źródła