Sem censura e sem perda de raciocínio: Abliteração ortogonal de pesos e verificação em 6 vetores na bf16.ai

TL;DR · Qualidade de Pesos e Verificação

• Por que alguns modelos uncensored falham: Fine-tuning destrutivo e quantização oculta (Q3/NVFP4) com corte silencioso acima de 64K quebram raciocínio lógico e tool_calls.
• Projeção ortogonal de posto 1: Remove apenas a direção 1D de recusa r̂ (W' = W - r̂(r̂ᵀW)), mantendo intactas milhares de dimensões de código e lógica.
• Trava de verificação no PostgreSQL: Na bf16.ai, um endpoint só é ativado depois de ser aprovado na verificação em 6 vetores com semente CSPRNG, com estorno automático de 100% caso ocorra erro antes do primeiro token.

1. O segredo oculto das APIs open-weight: quantização silenciosa e corte de contexto

A má fama de "perda de inteligência" em modelos sem censura quase sempre vem de SFT malfeito ou provedores que anunciam 1M de contexto entregando pesos Q3_K_M truncados em 64K — falhas imediatamente detectadas em testes temperature=0 e passkey acima de 200K:

[bf16-verifier] Probing candidate upstream endpoint: "provider-x/flagship-abliterated-1m"
[bf16-verifier] V1 Tokenizer BPE boundary ............ PASS
[bf16-verifier] V5 Dual-use low-refusal fidelity ..... PASS
[bf16-verifier] V2 Symbolic Math Canary (temp=0) ..... FAIL (drift detected: NVFP4/Q3 quant!)
[bf16-verifier] V3 Passkey NIAH @ 196,608 tokens ..... FAIL (silent middle-out truncation >64K)
[bf16-verifier] V4 Parallel JSON Tool Grammar ........ FAIL (unescaped trailing comma)
[bf16-verifier] Verdict: FAIL (3 vectors below their floor). Endpoint REJECTED by DB CHECK constraint.

2. Por que a abliteração ortogonal de posto 1 preserva código e JSON Schema

A recusa excessiva em Transformers é mediada por uma única direção r̂ no fluxo residual. Projetando r̂ para fora das matrizes em float32, todo o subespaço ortogonal de programação permanece íntegro. Além disso, a bf16.ai bloqueia via CHECK constraint qualquer endpoint que não supere nossa auditoria de 6 vetores — matemática simbólica, passkey NIAH 200K+, gramática JSON paralela e testes de baixa recusa.

3. Álgebra linear na prática e consulta ao catálogo na bf16.ai

Veja a implementação PyTorch da projeção ortogonal de posto 1 aplicada às matrizes de escrita residual:

import torch

def orthogonalize_refusal_direction(weight: torch.Tensor, refusal_dir: torch.Tensor) -> torch.Tensor:
    """
    Rank-1 orthogonal projection in bfloat16/float32 (Arditi et al. formulation):
    Removes ONLY the 1D refusal mediator subspace r_hat from residual-writing matrix W,
    leaving the (d_model - 1)-dimensional reasoning & tool-calling subspace untouched.
    """
    r_hat = refusal_dir / torch.linalg.norm(refusal_dir)
    r_hat = r_hat.to(dtype=torch.float32, device=weight.device)
    w_fp32 = weight.to(torch.float32)
    # W' = W - (W @ r_hat)[:, None] * r_hat[None, :]  (for output-feature projection)
    projection = torch.outer(r_hat, r_hat @ w_fp32)
    return (w_fp32 - projection).to(weight.dtype)

Cada página de modelo em bf16.ai/models/<slug> mostra a janela de contexto, os preços e os termos de Zero-Prompt Retention (ZDR) — e você pode consultar o mesmo catálogo programaticamente via GET /v1/models:

# Inspect context windows & pricing before routing agent jobs
curl -sS https://api.bf16.ai/v1/models \
  -H "Authorization: Bearer $BF16_API_KEY" | jq '.data[] | {
    id,
    context_window,
    pricing_usd_per_1m
  }'

# Route via bf16/auto with a deterministic output price ceiling ($1.50 / 1M max)
curl -sS https://api.bf16.ai/v1/chat/completions \
  -H "Authorization: Bearer $BF16_API_KEY" \
  -H "X-BF16-Max-Price-Per-M-Output: 1.50" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "bf16/auto:coding",
    "temperature": 0,
    "messages": [{"role": "user", "content": "Emit a strict JSON schema patch for session fixation."}]
  }'

4. Os 3 modelos de 1M de contexto na bf16.ai (preço oficial)

Sem poluir o catálogo com merges experimentais instáveis, a bf16.ai mantém 3 modelos com 1M de contexto, todos sujeitos à mesma auditoria de 6 vetores e com preços iguais ou inferiores às tabelas oficiais:

ID do Modelo	Preço Retail (In / Cache / Out 1M)	Especialidade Principal
deepseek/deepseek-v4.1-flash-abliterated	$0.30 / $0.05 / $1.20	Loops 24/7 no MausBot e CLI
zai-org/glm-5.3-flash-abliterated	$0.24 / $0.06 / $1.00	Visão + Texto em Browser-Use e ETL
zai-org/glm-5.3-abliterated	$1.40 / $0.30 / $4.40	Patches SAST de ponta e diffs de código complexos

5. 4 garantias de ledger e roteamento auditáveis

1. Custo $0.00 em falhas antes do primeiro token no ledger nano-USD de partidas dobradas.
2. Rode seus próprios testes temperature=0 em /playground com o bônus gratuito de $1.00.
3. Trave tetos de preço por token com X-BF16-Max-Price-Per-M-Output.
4. Catálogo /v1/models limpo, sem dados sintéticos ou endpoints rebaixados.