basal 2.0 mini

basal 2.0 mini (1.5B) to mały i szybki model decyzyjny basal dla polskiego i angielskiego. Odpowiada na pytania o tekst, podaje prawdopodobieństwo każdej odpowiedzi i nie pisze tekstu.

Nazwa w API
basal-2.0-miniDecyzje
Maks. zapytanie
8192 tokenów, tekst i pytania
Wejście
0,05 USD / mln tokenów
Wyjście
Bez opłat

Ceny podajemy w dolarach amerykańskich za milion tokenów, z VAT, jeśli się go nalicza, i pobieramy je ze środków na koncie na bieżąco. Środki doładujesz od 5 USD kartą, Apple Pay lub Google Pay. Gdy saldo spadnie do 0 USD, zapytania przestają działać i żaden rachunek nie przychodzi później.

Odbierz klucz API

O modelu

basal 2.0 mini (1.5B) to mały model decyzyjny basal, dostrojony z Bielika v3: przyjmuje te same zapytania co basal 2.0 (4.5B) przez /v1/systemone albo /v1/decisions i działa mniej więcej dwa razy szybciej, więc pasuje do dużej liczby prostych decyzji. Kieruje wiadomości i wybiera następne narzędzie agenta tak dobrze jak 4.5B, gdy każda opcja ma opis; przy pytaniach, w których kilka etykiet zależy od siebie, użyj 4.5B. Płacisz tylko za tokeny wejściowe. Teksty do 8192 tokenów. To nie jest model czatowy: /v1/chat/completions go nie przyjmie.

Twórca
projekt basal (github.com/rkinas/basal), na bazie Bielika v3
Sprzęt
własna karta H200 Blixild, w Polsce (UE)
Szybkość
4,5 ms na jedno pytanie; 446 decyzji/s przy 32 klientach, w pomiarze
Języki
polski i angielski
Pytania
tak albo nie, wybór (od 2 do 255 opcji), ocena na skali; kilka w jednym zapytaniu o ten sam tekst
Zastosowania
duża liczba prostych decyzji, wybór następnego narzędzia agenta
Nie nadaje się do
pisania tekstu; pytań, w których kilka etykiet zależy od siebie (użyj basal-2.0-4.5b); tekstów dłuższych niż 8192 tokeny
Licencja
Apache 2.0 · Karta modelu

Wypróbuj

curl https://api.blixild.com/v1/systemone \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "",
    "state": "",
    "questions": {
      "refund": {
        "type": "noul",
        "instructions": "Is the customer asking for a refund?"
      },
      "team": {
        "type": "choice",
        "instructions": "Which team should handle the message?",
        "criteria": {
          "billing": "Payments, invoices and refunds",
          "technical": "Errors and problems when calling the API",
          "account": "Sign-in, account settings and API keys"
        }
      }
    }
  }'

Wklej go do terminala. Model i tekst zmienisz wprost w poleceniu; oba pytania są tu stałe.

Na blogu

basal 2.0 mini przez API: cena i kontekst | Blixild AI