Files
bnd.wtf/content/colibri.md
T
2026-09-03 09:36:51 +02:00

7 lines
293 B
Markdown

---
title: "Colibri"
---
# Colibri
[Colibri](https://github.com/JustVugg/colibri) ist eine kleine LLM-Engine, die sehr große LLM auf handelsüblicher Hardware ausführen kann. Dafür werden die Model Weights nicht komplett im Arbeitsspeicher gehalten, sondern von einer NVMe-SSD gestreamed.