┌────────────┐ │ IBBOED │ └────────────┘
IBBOED is een hobbyproject dat bestaat uit een LLM en een zelfgebouwd voorkantje om hiermee te chatten.
Dit project is mogelijk omdat de ontwikkelingen rond LLMs razendsnel gaan. Iedere maand komen er nieuwe modellen uit: steeds kleiner (op goedkopere hardware te draaien), en ook nog eens beter presterend dan de voorgaande reeks.
Inmiddels is dit zo ver ontwikkeld dat ik zelfs op mijn hardware thuis al een aardig model lokaal kan draaien 🎉
Zelf een model draaien heeft veel voordelen: zo ben ik compleet onafhankelijk van de reguliere providers als OpenAI en Anthropic, en kan ik nu zelf bepalen:
Kortom: ik heb nu een soort licht zoemend orakel staan, dat ik volledig naar eigen wens aan kan sturen. Hoe leuk als ik dat met vrienden en familie kan delen!
Uiteraard zijn er wat nadelen, zo is het model minder goed dan de nieuwste "state of the art" modellen, en kan het minder goed omgaan met grote hoeveelheden data (lange teksten of grote bestanden). Ook is het soms wat trager. Maar je krijgt er dus wel veel andere leuke dingen voor terug (privacy!!!!)!
Mocht je dit nou leuk vinden dan kun je ook bijdragen met een donatie: al het geld gaat uitsluitend naar het experimenteren met self-hosted LLMs, waaronder het upgraden van de hardware (zodat ik grotere modellen kan draaien), en het groen maken van mijn server. Zo zou ik hem heel graag op wat zonnepanelen en een accu hebben draaien!
- Wouter
IBBOED is helemaal gratis, want het is een hobbyproject. Mocht je het toch een vet initiatief vinden dan kun je een financieel steentje bijdragen.
Ik zet alle donaties in om:
Wat je ervoor terugkrijgt: donateurs krijgen hogere tokenlimieten per dag en per maand, zodat ze langer en vaker kunnen chatten. Laat bij je donatie je gebruikersnaam achter in de omschrijving, dan zet ik het voor je klaar.
NL29 INGB 0001 9875 13