Model garden

LlamaGuard 7b

Direct via de EU-router of als dedicated GPU-deployment. Data blijft in Europa.

LlamaGuard 7b is een open-source taalmodel van Meta met 6.7B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

meta-llama/LlamaGuard-7b
text->text · meta-llama · EU-hosted
6.7B
Parameters
Contextvenster
16GB
Minimale VRAM
POST /api/v1/chat/completions200 OK

Specificaties

Parameters 6.7B
Minimale VRAM 16 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie llama2
Modaliteit text->text
Uitgebracht December 2023
Uitgever meta-llama ↗

Prijzen

€0.05
Input (per 1M tokens)
€0.10
Output (per 1M tokens)

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend — zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/LlamaGuard-7b",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik LlamaGuard 7b in de EU draaien?

Ja. HostYourAI draait LlamaGuard 7b op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is LlamaGuard 7b hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost LlamaGuard 7b?

Via de gedeelde EU-router betaal je €0.05 per miljoen input-tokens en €0.10 per miljoen output-tokens, zonder vaste kosten. Voor hoge volumes of isolatie kun je LlamaGuard 7b ook als dedicated GPU-instance per uur draaien.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Meta

Probeer LlamaGuard 7b gratis

Account aanmaken duurt een minuut. Test LlamaGuard 7b direct in de playground.

Start gratis