basal 2.0 (4.5B)
basal 2.0 (4.5B) to otwarty model decyzyjny dla polskiego i angielskiego. Odpowiada na pytania o tekst (tak albo nie, wybór, ocena na skali), podaje prawdopodobieństwo każdej odpowiedzi i nie pisze tekstu.
- Nazwa w API
basal-2.0-4.5bDecyzje- Maks. zapytanie
- 32 768 tokenów, tekst i pytania
- Wejście
- 0,10 USD / mln tokenów
- Wyjście
- Bez opłat
Ceny podajemy w dolarach amerykańskich za milion tokenów, z VAT, jeśli się go nalicza, i pobieramy je ze środków na koncie na bieżąco. Środki doładujesz od 5 USD kartą, Apple Pay lub Google Pay. Gdy saldo spadnie do 0 USD, zapytania przestają działać i żaden rachunek nie przychodzi później.
O modelu
basal 2.0 (4.5B) to otwarty model decyzyjny dostrojony z Bielika v3. Wysyłasz mu tekst (state) i nazwane pytania przez /v1/systemone albo w formacie Decisions OpenAI przez /v1/decisions: tak albo nie (noul), jedna z 2 do 255 opcji (choice) albo poziom na skali (score). Każda odpowiedź wraca ze skalibrowanym prawdopodobieństwem każdej opcji, w jednym przebiegu, więc zawsze jest jedną z opcji, które podałeś. Kilka pytań o jeden tekst kosztuje niewiele więcej niż jedno. Płacisz tylko za tokeny wejściowe, bo model niczego nie generuje. Działa najlepiej, gdy każda opcja ma krótki opis, zasady są w tekście, a daty i kwoty liczy Twój kod. To nie jest model czatowy: /v1/chat/completions go nie przyjmie.
- Twórca
- projekt basal (github.com/rkinas/basal), na bazie Bielika v3
- Sprzęt
- własna karta H200 Blixild, w Polsce (UE)
- Szybkość
- 10 ms na jedno pytanie; 232 decyzje/s przy 32 klientach, w pomiarze
- Języki
- polski i angielski
- Pytania
- tak albo nie, wybór (od 2 do 255 opcji), ocena na skali; kilka w jednym zapytaniu o ten sam tekst
- Zastosowania
- kierowanie wiadomości i zgłoszeń, sprawdzanie zasad zapisanych w tekście, triaż z progiem pewności, następny krok agenta
- Nie nadaje się do
- pisania tekstu; obliczeń na datach i kwotach (licz je w swoim kodzie); tekstów dłuższych niż 32 768 tokenów (środek jest wycinany)
- Licencja
- Apache 2.0 · Karta modelu
Wypróbuj
curl https://api.blixild.com/v1/systemone \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "",
"state": "",
"questions": {
"refund": {
"type": "noul",
"instructions": "Is the customer asking for a refund?"
},
"team": {
"type": "choice",
"instructions": "Which team should handle the message?",
"criteria": {
"billing": "Payments, invoices and refunds",
"technical": "Errors and problems when calling the API",
"account": "Sign-in, account settings and API keys"
}
}
}
}'Wklej go do terminala. Model i tekst zmienisz wprost w poleceniu; oba pytania są tu stałe.