Długość pytań i odpowiedzi modeli AI liczy się w tokenach. Od ich liczby zależy koszt i limit kontekstu modelu.
Co to oznacza w praktyce?
Tokeny to małe fragmenty tekstu – części słów, całe słowa lub znaki – na które model AI dzieli tekst, zanim go przetworzy. Długość pytania, kontekstu i odpowiedzi liczy się właśnie w tokenach; w języku polskim jedno słowo to średnio 2–3 tokeny.
Dlaczego to ważne dla Twojej firmy?
Od liczby tokenów zależy koszt korzystania z AI przez API oraz to, ile informacji model może „pamiętać” naraz (okno kontekstu). To dlatego moduły AI mają niewielką opłatę miesięczną za zużycie.
Przykłady i dobre praktyki
- Krótkie, konkretne prompty są tańsze i często skuteczniejsze.
- Długie dokumenty mogą przekroczyć limit kontekstu modelu.
- Język polski zużywa więcej tokenów niż angielski.
- Koszt zależy od modelu – mocniejsze modele są droższe za token.
Jak to wygląda w Novi
W Novi koszty tokenów modułów AI (asystent, odpowiedzi na opinie, treści) są wliczone w stałą opłatę miesięczną 25–75 zł. Nie musisz niczego liczyć ani obawiać się niespodzianek na fakturze.
