Uncensored ohne „Brain Damage“: Orthogonale Gewichts-Abliteration & das 6-Vektor-Gate von bf16.ai

TL;DR · Modellqualität & 6-Vektor-Prüfung

• Ursache für Qualitätsverlust: Destruktives SFT und heimliche Q3/NVFP4-Quantisierung samt 64K-Kontextkappung ruinieren Logik und verschachtelte tool_calls.
• Rang-1-Orthogonalprojektion erhält Intelligenz: Entfernt ausschließlich den 1D-Verweigerungsvektor r̂ (W' = W - r̂(r̂ᵀW)) und lässt tausende Reasoning-Dimensionen unangetastet.
• DB-erzwungenes Verifikations-Gate: Ein Endpunkt wird auf bf16.ai erst aktiv, wenn er einen 6-Vektor-Verifikationslauf mit CSPRNG-Seed bestanden hat — bei Upstream-Fehlern vor dem ersten Token werden 100 % der Reservierung erstattet.

1. Das offene Geheimnis im Inference-Markt: Stille Quantisierung & Kontext-Abschnitt

Wenn Entwickler berichten, dass unzensierte Modelle ungültiges JSON liefern oder lange Prompts vergessen, steckt fast immer grobes Fine-Tuning oder ein Billig-Endpunkt dahinter, der trotz 1M-Label intern Q3_K_M mit gekapptem 64K-Kontext ausliefert. Unsere temperature=0-Canary-Tests decken das sofort auf:

[bf16-verifier] Probing candidate upstream endpoint: "provider-x/flagship-abliterated-1m"
[bf16-verifier] V1 Tokenizer BPE boundary ............ PASS
[bf16-verifier] V5 Dual-use low-refusal fidelity ..... PASS
[bf16-verifier] V2 Symbolic Math Canary (temp=0) ..... FAIL (drift detected: NVFP4/Q3 quant!)
[bf16-verifier] V3 Passkey NIAH @ 196,608 tokens ..... FAIL (silent middle-out truncation >64K)
[bf16-verifier] V4 Parallel JSON Tool Grammar ........ FAIL (unescaped trailing comma)
[bf16-verifier] Verdict: FAIL (3 vectors below their floor). Endpoint REJECTED by DB CHECK constraint.

2. Warum orthogonale Rang-1-Abliteration Coding und Tool-Calling scharf hält

Übermäßige Verweigerungen in Transformern werden primär über eine einzige Richtung r̂ im Residual-Stream ausgelöst. Wird nur diese 1D-Komponente in float32 orthogonal herausprojiziert, bleiben Mathe-Logik und JSON-Grammatik vollständig erhalten. Zusätzlich blockiert bf16.ai per PostgreSQL-CHECK-Constraint jeden Endpunkt, der unser 6-Vektor-Gate — T=0-Mathematik, 200K+-Passkey, paralleles Tool-JSON und Low-Refusal-Prüfung — nicht besteht.

3. Lineare Algebra im Code & Katalogabfrage auf bf16.ai

Hier die exakte Rang-1-Orthogonalprojektion in PyTorch auf den Residual-Schreibmatrizen:

import torch

def orthogonalize_refusal_direction(weight: torch.Tensor, refusal_dir: torch.Tensor) -> torch.Tensor:
    """
    Rank-1 orthogonal projection in bfloat16/float32 (Arditi et al. formulation):
    Removes ONLY the 1D refusal mediator subspace r_hat from residual-writing matrix W,
    leaving the (d_model - 1)-dimensional reasoning & tool-calling subspace untouched.
    """
    r_hat = refusal_dir / torch.linalg.norm(refusal_dir)
    r_hat = r_hat.to(dtype=torch.float32, device=weight.device)
    w_fp32 = weight.to(torch.float32)
    # W' = W - (W @ r_hat)[:, None] * r_hat[None, :]  (for output-feature projection)
    projection = torch.outer(r_hat, r_hat @ w_fp32)
    return (w_fp32 - projection).to(weight.dtype)

Jede Modellseite unter bf16.ai/models/<slug> nennt Kontextfenster, Preise und die Zero-Prompt-Retention-Bedingungen (ZDR) des Modells — derselbe Katalog lässt sich per GET /v1/models auch programmatisch abfragen:

# Inspect context windows & pricing before routing agent jobs
curl -sS https://api.bf16.ai/v1/models \
  -H "Authorization: Bearer $BF16_API_KEY" | jq '.data[] | {
    id,
    context_window,
    pricing_usd_per_1m
  }'

# Route via bf16/auto with a deterministic output price ceiling ($1.50 / 1M max)
curl -sS https://api.bf16.ai/v1/chat/completions \
  -H "Authorization: Bearer $BF16_API_KEY" \
  -H "X-BF16-Max-Price-Per-M-Output: 1.50" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "bf16/auto:coding",
    "temperature": 0,
    "messages": [{"role": "user", "content": "Emit a strict JSON schema patch for session fixation."}]
  }'

4. Alle 3 unzensierten 1M-Kontext-Modelle auf bf16.ai (Herstellerpreis-Parität)

Statt dutzender ungeprüfter Experiment-Merges führt bf16.ai gezielt 3 produktionsreife 1M-Kontext-Modelle — jedes an dasselbe 6-Vektor-Gate gebunden und auf oder unter offiziellem Herstellerpreis-Niveau:

Modell-ID	Preis (In / Cache / Out pro 1M)	Primäre Stärke
deepseek/deepseek-v4.1-flash-abliterated	$0.30 / $0.05 / $1.20	24/7 MausBot & schnelle CLI-Loops
zai-org/glm-5.3-flash-abliterated	$0.24 / $0.06 / $1.00	Vision + Text Browser-QA & ETL
zai-org/glm-5.3-abliterated	$1.40 / $0.30 / $4.40	Tiefe SAST-Patches & komplexe Code-Diffs

5. 4 überprüfbare Ledger- & Routing-Garantien

1. $0.00 Berechnung bei Fehlern vor dem ersten Token dank doppelter Buchführung im Nano-USD-Ledger.
2. Eigene temperature=0-Härtetests jederzeit im /playground mit $1.00 Gratis-Startguthaben.
3. Harte Preisobergrenzen per X-BF16-Max-Price-Per-M-Output.
4. Sauberer /v1/models-Katalog ohne Test-Dummys oder heimliches Downgrading.