Ongecensureerde LLM's voor Offensive Security
Beveiligings-geoptimaliseerde modellen (Fine-tuned)
1. DeepHat V2 (WhiteRabbitNeo)
- Basismodel: Qwen2.5-Coder-7B
- Parameters: 7B / 32B
- Contextlengte: 131K
- VRAM (Q4KM): ~6 GB
- Methode voor ontcensurering: SFT op 1,7 miljoen offensieve/defensieve samples
- Trainingsdata: 1,7 miljoen beveiligingsspecifieke samples (USENIX Security 2024 workshop)
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/WhiteRabbitNeo
2. BugTraceAI-CORE-Apex (26B)
- Basismodel: Gemma4-26B MoE
- Parameters: 26B MoE
- Contextlengte: 32K
- VRAM (Q4KM): ~16 GB
- Methode voor ontcensurering: SFT op HackerOne Hacktivity 2024-2025
- Trainingsdata: HackerOne-rapporten + WAF-evasie dataset
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/BugTraceAI/BugTraceAI-CORE-Apex-26b
3. BugTraceAI-CORE-Ultra (27B)
- Basismodel: Qwen3.6-27B (DavidAU fine-tuned variant)
- Parameters: 27B dense
- Contextlengte: 4K (aanbevolen)
- VRAM (Q6_K): ~22-24 GB
- Methode voor ontcensurering: SFT via Unsloth op bug bounty + CVE data
- Trainingsdata: 2.541 voorbeelden van bug bounty-disclosures, CVE writeups en beveiligingsonderzoek (2024-2026)
- Specialisatie: Tooling model: genereert Nuclei templates, CVE PoC's, exploit-code en pentest-scripts
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/BugTraceAI/BugTraceAI-CORE-Ultra-27B-Q6
4. CYBER-FROST-3.8 (Blackfrost-AI)
- Basismodel: Qwen/Qwen3.8-Flash-Next
- Parameters: ~180B totaal (512 gerouteerde experts, 10 actief per token)
- Contextlengte: 262K
- Architectuur: Qwen4ExpForConditionalGeneration, 48 transformer blocks, hybride lineair + volledige aandacht
- VRAM: Multi-GPU vereist (getest op 4x NVIDIA B300 SXM6)
- Methode voor ontcensurering: Security-domain fine-tuning op eigen Blackfrost-AI corpus
- Trainingsdata: Eigen beveiligingscorpus: recon, web app security, vuln research, malware analyse, cloud security, threat intel
- MTP: Ja (1 native MTP-laag voor speculatieve decoding)
- Visie: Nee
- Tool Calling: Ja
- Licentie: Qwen Community License 1.0
- Download: https://huggingface.co/Blackfrost-AI/CYBER-FROST-3.8-BF16
5. CyberPal 2.0 (20B)
- Basismodel: gpt-oss-20b
- Parameters: ~20B (21B in bestanden)
- Contextlengte: 8.192
- VRAM (BF16): ~42 GB
- Methode voor ontcensurering: SFT op SecKnowledge 2.0 pipeline
- Trainingsdata: 403K voorbeelden via expert-in-the-loop schema steering, multi-step grounding, LLM-kwaliteitscontroles
- Specialisatie: Defensief: CTI, vuln analyse, detectie/mitigatie, SOC/IR, AppSec, compliance
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/cyber-pal-security/CyberPal2.0-20B
6. Cyber-Prime 1.1 (2.6B)
- Basismodel: LiquidAI/LFM2-2.6B
- Parameters: 2.6B (~3B feitelijk)
- Contextlengte: Niet gespecificeerd
- VRAM (BF16): ~6 GB
- Tensor Type: BF16
- Methode voor ontcensurering: SFT + RL + reward-guided post-training op 75K cybersecurity-rijen
- Trainingsdata: NER repair (~6K), HTTP reasoning w/ CoT (~5K), email phishing (~5K), threat intel summarization (~2K), GHSA/KEV/ATT&CK
- Bedrijfsmodi: Directe modus (classificatie) + Think modus (chain-of-thought)
- CyberBench Gemiddelde: 0.592 F1/Acc (omhoog van 0.501 in v1.0)
- CyberBench Highlights: NER 0.499, Phishing 0.890, HTTP Attack 0.628
- Visie: Nee
- Tool Calling: Nee
- Licentie: LFM Open License v1.0
- Download: https://huggingface.co/Akahsizrr/Cyber-Prime-1.1-2.6B
7. Cyber-Ornith-1.5-9B (DuoNeural / mradermacher)
- Basismodel: ornith-ai/Ornith-1.5-9B (Qwen 3.5 architectuur)
- Parameters: 9B
- Contextlengte: 128K (Qwen 3.5 standaard)
- VRAM (Q4KM): ~7 GB
- Methode voor ontcensurering: Obliteration (abliteration variant)
- Trainingsdata: NousResearch/hermes-function-calling-v1, OpenThoughts3-1.2M, openhands-synthetic-conversations
- Specialisatie: Agentisch cybersecurity: function-calling, tool-use, redenering, CLI/terminal automatisering
- Formaat: GGUF (IQ1S tot Q6K beschikbaar)
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/mradermacher/Cyber-Ornith-1.5-9B-OBLITERATED-i1-GGUF
8. Dolphin3-Cyber-8B (RavichandranJ)
- Basismodel: Dolphin3.0-Llama3.1-8B-abliterated
- Parameters: 8.03B
- Contextlengte: 2.048 (fine-tuned) / 131K (basis)
- VRAM (Q4KM): ~6 GB
- Methode voor ontcensurering: LoRA rank-16 op abliterated Dolphin3 basis
- Trainingsdata: Cybersecurity-specifiek: pentest, vuln analyse, exploit dev, incident response
- Architectuur: LlamaForCausalLM, 32 lagen, GQA (32 heads, 8 KV heads)
- Prestaties: 5 tok/s (CPU) tot 55 tok/s (RTX 4060)
- Visie: Nee
- Tool Calling: Nee
- Licentie: Llama 3.1
- Download: https://huggingface.co/RavichandranJ/Dolphin3-Cyber-8B-GGUF
9. Imperum-CybersecurityLLM v1.0
- Basismodel: Qwen/Qwen3.6-35B-A3B
- Parameters: 34.66B totaal / ~3B actief (MoE, 256 gerouteerde experts, 8 actief per token)
- Contextlengte: 16.384 (aanbevolen 8.192 voor beperkte resources)
- VRAM (Q4KM): ~22 GB
- Architectuur: Qwen3.5-MoE, 40 lagen, hybride lineair + volledige aandacht
- Methode voor ontcensurering: SFT over 10+ beveiligingsdomeinen
- Trainingsdata: SOC/SIEM operaties, detectie engineering, DFIR, malware analyse, threat intel, vuln management, cloud/K8s/IAM, OT security, GRC, geautoriseerd pentesten
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/IMPERUM/Imperum-CybersecurityLLM-v1.0-GGUF
10. Lily-Cybersecurity-7B v0.2 (Segolily Labs)
- Basismodel: Mistral-7B-Instruct-v0.2
- Parameters: 7B
- Contextlengte: 8K
- VRAM (Q4KM): ~6 GB
- Methode voor ontcensurering: SFT op 22K cybersecurity paren
- Trainingsdata: 22.000 handgemaakte cybersecurity data-paren over 28+ domeinen: pentesting, malware analyse, IR, cloud security
- Trainingshardware: Enkele A100, 24u, 5 epochs
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/segolilylabs/Lily-Cybersecurity-7B-v0.2
11. pentest-v2 (gewsefa)
- Basismodel: Qwen3-8B
- Parameters: 8B
- Contextlengte: 32K
- VRAM (Q4KM): ~6 GB
- Methode voor ontcensurering: LoRA r=4, 2.804 gecureerde samples
- Trainingsdata: GTFOBins, HackTricks, HackTheBox writeups
- GTFOBins Accuratesse: 100% (vs 25% basismodel zero-shot)
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/gewsefa/pentest-v2
12. Qwythos-9B (Empero AI)
- Basismodel: Qwen3.5-9B
- Parameters: 9B
- Contextlengte: 1M (YaRN rope-scaling)
- VRAM (Q4KM): ~7 GB
- Methode voor ontcensurering: Post-training op 500M+ tokens van Claude Mythos / Claude Fable traces met CoT
- Benchmarks: +34 MMLU, +30 GSM8K vs basis (Empero evals)
- Native Function Calling: Ja (Qwen3.5 spec)
- Chain-of-Thought: Altijd aan
<think>blok - Varianten: Base (SFT), Claude-Mythos-5-1M-GGUF (Q4KM tot BF16)
- Visie: Ja (geërfd van vision tower)
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download (base): https://huggingface.co/emperorai/Qwythos-9B
- Download (GGUF): https://huggingface.co/empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF
13. RavenX-CyberAgent (deadbydawn101)
- Basismodel: Qwen/Qwen3.6-35B-A3B
- Parameters: 36B totaal / 3B actief (MoE)
- Contextlengte: 262K (native), 32K getest
- VRAM (Q4KM): ~24 GB
- Methode voor ontcensurering: 12-ronde progressieve SFT op 745K+ voorbeelden uit 110 bronnen
- Trainingsdata: Pentest-rapporten, bug bounty data, Claude Mythos reasoning, MITRE ATT&CK, blackhat content
- Specialisatie: RATH-protocol: Attack Surface, Exploit, Impact, Remediation, Document, Prevent
- Output Formaat: CVSS scores, CWE identifiers, MITRE ATT&CK mappings
- Inference Snelheid: 89 tok/s generatie, 900 tok/s prompt verwerking
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/deadbydawn101/RavenX-CyberAgent-Qwen3.6-35B-A3B-Opus-4.7-OpenMythos-Pentester-BugHunter-RATH-GGUF
14. REDCELL-26B-A4B (terrorswift)
- Basismodel: Google Gemma 4 26B-A4B (Unsloth fine-tuned)
- Parameters: 26B totaal / ~4B actief (MoE)
- Contextlengte: 262K
- VRAM (APEX-Mini): ~12 GB
- VRAM (Q8_0): ~26 GB
- Methode voor ontcensurering: 16-bit LoRA SFT op 6.500 custom instructies
- Trainingsdata: Cyber threat intelligence, onderzoeksjournalistiek, counter-disinformatie, analytische methodologie
- Specialisatie: OSINT: threat actor attribution, IoC pivoting, geolocation analyse, Admiralty source credibility, vulnerability contextualization
- APEX Quantization: Domein-gewogen imatrix (~70% REDCELL corpus, ~30% algemene calibratie)
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/terrorswift/REDCELL-26B-A4B-OSINT-Cyber-APEX-GGUF
15. VEXT Pentest-7B
- Basismodel: Mistral-7B
- Parameters: 7B
- Contextlengte: 8K
- VRAM (Q4KM): ~6 GB
- Methode voor ontcensurering: QLoRA SFT + DPO op pentest traces
- Trainingsdata: Pentest-methodologie, toolgebruik, rapportage
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/vextechnologies/VEXT-Pentest-7B
16. security-slm-unsloth-1.5b
- Basismodel: Qwen2.5-1.5B
- Parameters: 1.5B
- Contextlengte: 32K
- VRAM (Q4KM): ~2 GB
- Methode voor ontcensurering: Unsloth SFT op security Q&A
- Trainingsdata: Beveiligingskennisbank, CTF-stijl
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/AbdullahMujtaba/security-slm-unsloth-1.5b
Algemene Abliterated Modellen
17. Qwen3.8-27B-Uncensored-OrcaRouter (chimingw GGUF)
- Basismodel: Qwen3.8-27B
- Parameters: 27B dense
- Contextlengte: 262K
- VRAM (Q4KM): ~18 GB
- Methode voor ontcensurering: Abliteration (131 matrices, Arditi et al. 2024)
- Intelligence Index: 52 (Artificial Analysis)
- Visie: Ja
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download (GGUF): https://huggingface.co/chimingw/Qwen3.8-27B-Uncensored-OrcaRouter-GGUF
- Download (base): https://huggingface.co/orcarouter/Qwen3.8-27B-Uncensored
18. GLM-5.3-Flash-Uncensored-FP8 (OrcaRouter)
- Basismodel: GLM-5.3-Flash
- Parameters: 320B totaal / 18B actief (288 gerouteerde experts, MoE)
- Contextlengte: 1M
- VRAM (FP8): ~80 GB+ (multi-GPU)
- Methode voor ontcensurering: Abliteration (laag 22/45, dieper weigeringsmechanisme)
- Compliance Rate: 82.8% (OrcaRouter testing)
- MTP: Ja (Multi-Token Prediction behouden)
- Visie: Ja + Video
- Tool Calling: Ja
- Licentie: MIT
- Download: https://huggingface.co/orcarouter/GLM-5.3-Flash-Uncensored-FP8
19. GLM-5.3-CYBERSECURITY-FP8 (dealignai)
- Basismodel: zai-org/GLM-5.3 (via JANGQ-AI/GLM-5.3-FP8)
- Parameters: 753B totaal (glmmoedsa architectuur)
- Contextlengte: ~131K (praktisch op 8x H200 w/ TP8)
- VRAM (FP8): 8x H200 GPU's met tensor parallelisme
- Architectuur: 78 lagen, tekst-only, gerouteerde FP8 experts
- Methode voor ontcensurering: Directe gewichtsaanpassing voor offensive-security, red-team, exploit-dev, RE, evasie, phishing, credential-attack, malware-analyse
- Opmerkingen: Geen abliteration of LoRA; directe bf16 residual writer editing. Zachte weigering op auteursrechtreproductie behouden
- Visie: Nee (tekst-only)
- Tool Calling: Ja
- Licentie: MIT
- Download: https://huggingface.co/dealignai/GLM-5.3-CYBERSECURITY-FP8
20. DeepSeek-V4.1-Flash-Abliterated-Cybersecurity-Unleashed (drowzeys)
- Basismodel: DeepSeek-V4.1-Flash
- Parameters: MoE (grootte komt overeen met basis)
- Contextlengte: Overeenkomstig basis DeepSeek-V4.1-Flash
- Methode voor ontcensurering: Abliteration overlay op lagen 10-35 attention projection (wo_b); lagen 0-9, 36-39, expert lagen en visie-componenten ongewijzigd
- Formaat: Modulaire overlay (geen standalone checkpoint): FP8 (~1.1 GB) of EXL3 mul1 K=5 (~651 MB)
- Implementatie: Toe te passen bovenop bestaande gekwantiseerde basispakketten (native, EXL3, TR3-Hybrid)
- GPU Utilisatie: <= 0.85 aanbevolen
- Visie: Ja (behouden)
- Tool Calling: Ja
- Licentie: MIT
- Download: https://huggingface.co/drowzeys/DeepSeek-V4.1-Flash-Abliterated-Cybersecurity-Unleashed
21. huihui-ai/Qwen3.5-27B-abliterated
- Basismodel: Qwen3.5-27B
- Parameters: 27B dense
- Contextlengte: 128K
- VRAM (Q4KM): ~18 GB
- Methode voor ontcensurering: Abliteration
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/huihui-ai/Qwen3.5-27B-abliterated
22. huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated
- Basismodel: Qwen2.5-Coder-32B-Instruct
- Parameters: 32B dense
- Contextlengte: 128K
- VRAM (Q4KM): ~20 GB
- Methode voor ontcensurering: Abliteration
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated
23. Qwen3.8-27B-Cyber-agentic
- Basismodel: Qwen3.8-27B
- Parameters: 27B dense
- Contextlengte: 262K
- VRAM (Q4KM): ~18 GB
- Methode voor ontcensurering: Abliteration + cyber agentic fine-tune
- Visie: Ja
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/Qwen/Qwen3.8-27B (basis, community abliterated varianten beschikbaar)
24. HIDra-30B-A3B (huihui-ai/Qwen3-Coder-30B-A3B-abliterated)
- Basismodel: Qwen3-Coder-30B-A3B
- Parameters: 30B totaal / 3B actief (MoE)
- Contextlengte: 128K
- VRAM (Q4KM): ~20 GB
- Methode voor ontcensurering: Abliteration
- Visie: Nee
- Tool Calling: Ja
- Licentie: Apache 2.0
- Download: https://huggingface.co/huihui-ai/Qwen3-Coder-30B-A3B-abliterated
25. qwen25UNCENSORED03-C
- Basismodel: Qwen2.5-gebaseerd
- Parameters: ~7B
- Contextlengte: 32K
- VRAM (Q4KM): ~6 GB
- Methode voor ontcensurering: Progressieve fine-tuning (multi-stage)
- Visie: Nee
- Tool Calling: Nee
- Licentie: Apache 2.0
- Download: https://huggingface.co/models?search=qwen25UNCENSORED
Legacy / Klassieke Modellen
26. Dolphin-Llama3-8B (Cognitive Computations)
- Basismodel: Llama 3 8B
- Parameters: 8B
- Contextlengte: 8K
- VRAM (Q4KM): ~6 GB
- Methode voor ontcensurering: Datafiltering (Dolphin methode, Eric Hartford)
- Trainingsdata: Dolphin dataset (alignment/refusal responses verwijderd)
- Visie: Nee
- Tool Calling: Nee
- Licentie: Llama 3 Community
- Download: https://huggingface.co/cognitivecomputations/dolphin-2.9.3-llama-3-8b
27. Wizard-Vicuna-13B-Uncensored (QuixiAI)
- Basismodel: LLaMA-13B
- Parameters: 13B
- Contextlengte: 2K
- VRAM (Q4KM): ~10 GB
- Methode voor ontcensurering: Datafiltering (wizardvicuna70k_unfiltered)
- MMLU: 47.92
- HellaSwag: 81.95
- TruthfulQA: 51.69
- Visie: Nee
- Tool Calling: Nee
- Licentie: Overig
- Download: https://huggingface.co/QuixiAI/Wizard-Vicuna-13B-Uncensored
Cloudproviders en Implementatieplatforms
Beheerde Inferentie (API-toegang)
| Provider | Beschrijving | Ongecensureerde Modellen | Prijsstelling | API |
|---|---|---|---|---|
| OrcaRouter | AI gateway met adaptieve routing over 200+ modellen. Geen token-opslag, OpenAI-compatibel endpoint. | Ja, host eigen abliterated varianten | $0 token markup, BYOK of pay-as-you-go | OpenAI-compatibel |
| Featherless AI | Serverless LLM hosting, grootste inference provider van HuggingFace (6.700+ modellen). | Ja, 40K+ modellen incl. ongecensureerd | $25/mnd (32K ctx) of $50 credits/mnd (256K ctx) | OpenAI-compatibel |
| Together AI | Productie-inferentie platform, ondersteunt open modellen incl. ongecensureerde varianten. | Selecte open modellen | Betalen per token | OpenAI-compatibel |
GPU Cloud (Zelf-gehost)
| Provider | Beschrijving | Beste voor | GPU Opties |
|---|---|---|---|
| RunPod | GPU cloud met serverless en pod-opties, Docker-gebaseerd. Snel deployen met Ollama/vLLM templates. | Zelf hosten van elk model, geen inhoudsrestricties | A100, H100, H200, RTX 4090 |
| Vast.ai | GPU marktplaats, goedkoopste cloud GPU's. Peer-to-peer huurmodel. | Budget zelf-hosting | Consumenten- tot datacenter GPU's |
| Lambda | On-demand GPU cloud voor AI. Enterprise-grade infrastructuur. | Productiewerkbelastingen | A100, H100, H200 |
Lokale Implementatie
| Stack | Beschrijving | Vereiste GPU |
|---|---|---|
| Ollama | Eén-commando lokale LLM implementatie. Makkelijkste setup voor GGUF modellen. | Consumenten GPU (6-24 GB) |
| llama.cpp | C/C++ inference engine voor GGUF. CPU+GPU hybride, maximale hardware flexibiliteit. | Flexibel (CPU-only mogelijk) |
| vLLM | High-throughput inference engine. PagedAttention voor efficiënt geheugen. | Datacenter GPU |
| SGLang | Structured output + agentic workflow engine. RadixAttention voor multi-turn. | Datacenter GPU |
| LM Studio | GUI-gebaseerde lokale LLM runner. Drag-and-drop GGUF laden. | Consumenten GPU |
Snelreferentie
| # | Model | Params | Context | VRAM | Methode | Visie | Tools | Licentie |
|---|---|---|---|---|---|---|---|---|
| 1 | DeepHat V2 | 7B/32B | 131K | ~6 GB | SFT 1.7M samples | Nee | Ja | Apache 2.0 |
| 2 | BugTrace Apex | 26B MoE | 32K | ~16 GB | SFT HackerOne | Nee | Ja | Apache 2.0 |
| 3 | BugTraceAI Ultra | 27B | 4K | ~22 GB | SFT Unsloth | Nee | Ja | Apache 2.0 |
| 4 | CYBER-FROST | ~180B MoE | 262K | Multi-GPU | Security FT | Nee | Ja | Qwen CL |
| 5 | CyberPal 2.0 | 20B | 8K | ~42 GB | SFT 403K | Nee | Nee | Apache 2.0 |
| 6 | Cyber-Prime 1.1 | 2.6B | N/A | ~6 GB | SFT+RL 75K | Nee | Nee | LFM Open |
| 7 | Cyber-Ornith | 9B | 128K | ~7 GB | Obliteration | Nee | Ja | Apache 2.0 |
| 8 | Dolphin3-Cyber | 8B | 2K/131K | ~6 GB | LoRA on Dolphin3 | Nee | Nee | Llama 3.1 |
| 9 | Imperum | 34B/3B MoE | 16K | ~22 GB | SFT 10+ domains | Nee | Ja | Apache 2.0 |
| 10 | Lily-Cyber | 7B | 8K | ~6 GB | SFT 22K pairs | Nee | Nee | Apache 2.0 |
| 11 | pentest-v2 | 8B | 32K | ~6 GB | LoRA 2.8K | Nee | Nee | Apache 2.0 |
| 12 | Qwythos-9B | 9B | 1M | ~7 GB | Post-train 500M tok | Ja | Ja | Apache 2.0 |
| 13 | RavenX-CyberAgent | 36B/3B MoE | 262K | ~24 GB | SFT 745K, 12 rounds | Nee | Ja | Apache 2.0 |
| 14 | REDCELL-26B | 26B/4B MoE | 262K | ~12 GB | LoRA 6.5K OSINT | Nee | Nee | Apache 2.0 |
| 15 | VEXT Pentest-7B | 7B | 8K | ~6 GB | QLoRA SFT+DPO | Nee | Nee | Apache 2.0 |
| 16 | security-slm | 1.5B | 32K | ~2 GB | Unsloth SFT | Nee | Nee | Apache 2.0 |
| 17 | Qwen3.8-27B | 27B | 262K | ~18 GB | Abliteration 131 mat | Ja | Ja | Apache 2.0 |
| 18 | GLM-5.3-Flash | 320B/18B | 1M | ~80 GB+ | Abliteration | Ja | Ja | MIT |
| 19 | GLM-5.3-CYBER | 753B | ~131K | 8xH200 | Weight modification | Nee | Ja | MIT |
| 20 | DS-V4.1-Flash | MoE | base | ~1.1 GB overlay | Abliteration overlay | Ja | Ja | MIT |
| 21 | Huihui-Qwen3.5 | 27B | 128K | ~18 GB | Abliteration | Nee | Ja | Apache 2.0 |
| 22 | Qwen2.5-Coder-32B | 32B | 128K | ~20 GB | Abliteration | Nee | Nee | Apache 2.0 |
| 23 | Qwen3.8-Cyber | 27B | 262K | ~18 GB | Abliteration+cyber | Ja | Ja | Apache 2.0 |
| 24 | HIDra-30B-A3B | 30B/3B | 128K | ~20 GB | Abliteration | Nee | Ja | Apache 2.0 |
| 25 | qwen25_UNCENSORED | ~7B | 32K | ~6 GB | Progressive FT | Nee | Nee | Apache 2.0 |
| 26 | Dolphin-Llama3 | 8B | 8K | ~6 GB | Data filtering | Nee | Nee | Llama 3 |
| 27 | Wizard-Vicuna-13B | 13B | 2K | ~10 GB | Data filtering | Nee | Nee | Other |
Glossarium
- Abliteration: Interventie op gewichtsniveau (Arditi et al. 2024) die de weigeringsrichting orthogonaliseert uit de residual stream, waardoor alignment-beperkingen worden verwijderd zonder hertraining.
- Obliteration: Variant van abliteration met een vergelijkbare aanpak van gewichtsinventventie.
- SFT: Supervised Fine-Tuning op domeinspecifieke data.
- QLoRA: Quantized Low-Rank Adaptation, geheugenefficiënte fine-tuning.
- DPO: Direct Preference Optimization.
- MoE: Mixture of Experts, waarbij slechts een subset van de parameters actief is per token.
- MTP: Multi-Token Prediction, speculatieve decoding voor snellere inferentie.
- GGUF: Gekwantiseerd formaat voor implementatie via llama.cpp / Ollama.
- FP8: 8-bit floating point kwantisering.
- BF16: Brain floating point 16-bit, standaard training/inference formaat.
- Q4KM: 4-bit kwantisering met k-quants (medium), goede balans tussen kwaliteit en snelheid.
- Q6_K: 6-bit kwantisering met k-quants, hogere kwaliteit dan Q4.
- RATH: RavenX Attack, Threat & Hunt protocol (6-staps autonome beveiligingsbeoordeling).
- APEX: Domein-gewogen kwantisering met behulp van belangrijkheidsmatrices uit het trainingscorpus.
- imatrix: Importance matrix kwantisering, behoudt domeinkritische gewichten tijdens compressie.
- CyberBench: Benchmark-suite voor cybersecurity-modellen (CyNER, APTNER, CyNews, SecMMLU, CyQuiz, Email Phishing, HTTP Attack Log).
Implementatiestacks
| Stack | Beste voor | Vereiste GPU |
|---|---|---|
| Ollama | Lokale development, snelle testen | Consumenten GPU (6-24 GB) |
| llama.cpp | GGUF modellen, CPU+GPU hybride | Flexibel |
| vLLM | Productie-serving, high throughput | Datacenter GPU |
| SGLang | Agentische workflows, structured output | Datacenter GPU |
| Transformers | Onderzoek, custom pipelines | Elke GPU |
| LM Studio | Desktop GUI, drag-and-drop | Consumenten GPU |
Bronnen
- HuggingFace modelkaarten (alle specificaties)
- Open LLM Leaderboard v1 (Wizard-Vicuna benchmarks)
- OrcaRouter release notes (abliteration details, compliance rates)
- WhiteRabbitNeo/Kindo publicaties (USENIX Security 2024)
- Empero AI modelkaart (Qwythos benchmarks)
- Eric Hartford / Cognitive Computations (Dolphin methodologie)
- TrustedSec LLM Attack Benchmark (4.800 runs vs OWASP Juice Shop)
- Blackfrost-AI modelkaart (CYBER-FROST architectuur)
- deadbydawn101 modelkaart (RavenX RATH protocol, trainingsdata)
- terrorswift modelkaart (REDCELL OSINT methodologie)
- cyber-pal-security publicatie (SecKnowledge 2.0 pipeline)
- BugTraceAI modelkaart (Ultra tooling model design)
- IMPERUM modelkaart (Imperum SOC/DFIR focus)
- Featherless AI (featherless.ai)
- OrcaRouter (orcarouter.ai)
- Reddit r/LocalLLaMA, r/netsec community rapporten
***
Auteur: Joas A. Santos | Red Team Leaders | September 2026 Uitsluitend voor geautoriseerd beveiligingsonderzoek en educatie.
Groetjes,