basal 2.0 mini
basal 2.0 mini (1.5B) to mały i szybki model decyzyjny basal dla polskiego i angielskiego. Odpowiada na pytania o tekst, podaje prawdopodobieństwo każdej odpowiedzi i nie pisze tekstu.
- Nazwa w API
basal-2.0-miniDecyzje- Maks. zapytanie
- 8192 tokenów, tekst i pytania
- Wejście
- 0,05 USD / mln tokenów
- Wyjście
- Bez opłat
Ceny podajemy w dolarach amerykańskich za milion tokenów, z VAT, jeśli się go nalicza, i pobieramy je ze środków na koncie na bieżąco. Środki doładujesz od 5 USD kartą, Apple Pay lub Google Pay. Gdy saldo spadnie do 0 USD, zapytania przestają działać i żaden rachunek nie przychodzi później.
O modelu
basal 2.0 mini (1.5B) to mały model decyzyjny basal, dostrojony z Bielika v3: przyjmuje te same zapytania co basal 2.0 (4.5B) przez /v1/systemone albo /v1/decisions i działa mniej więcej dwa razy szybciej, więc pasuje do dużej liczby prostych decyzji. Kieruje wiadomości i wybiera następne narzędzie agenta tak dobrze jak 4.5B, gdy każda opcja ma opis; przy pytaniach, w których kilka etykiet zależy od siebie, użyj 4.5B. Płacisz tylko za tokeny wejściowe. Teksty do 8192 tokenów. To nie jest model czatowy: /v1/chat/completions go nie przyjmie.
- Twórca
- projekt basal (github.com/rkinas/basal), na bazie Bielika v3
- Sprzęt
- własna karta H200 Blixild, w Polsce (UE)
- Szybkość
- 4,5 ms na jedno pytanie; 446 decyzji/s przy 32 klientach, w pomiarze
- Języki
- polski i angielski
- Pytania
- tak albo nie, wybór (od 2 do 255 opcji), ocena na skali; kilka w jednym zapytaniu o ten sam tekst
- Zastosowania
- duża liczba prostych decyzji, wybór następnego narzędzia agenta
- Nie nadaje się do
- pisania tekstu; pytań, w których kilka etykiet zależy od siebie (użyj basal-2.0-4.5b); tekstów dłuższych niż 8192 tokeny
- Licencja
- Apache 2.0 · Karta modelu
Wypróbuj
curl https://api.blixild.com/v1/systemone \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "",
"state": "",
"questions": {
"refund": {
"type": "noul",
"instructions": "Is the customer asking for a refund?"
},
"team": {
"type": "choice",
"instructions": "Which team should handle the message?",
"criteria": {
"billing": "Payments, invoices and refunds",
"technical": "Errors and problems when calling the API",
"account": "Sign-in, account settings and API keys"
}
}
}
}'Wklej go do terminala. Model i tekst zmienisz wprost w poleceniu; oba pytania są tu stałe.