Waarom standaard demo's falen
Elke kandidaat kan binnen een uur een Streamlit-app in elkaar zetten die een OpenAI-endpoint aanroept. AI-werkgevers en lead engineers prikken hier direct doorheen. Ze zoeken geen mensen die simpelweg prompts kunnen versturen, maar engineers die systemen kunnen bouwen die schalen, falen opvangen, latency beperken en omgaan met data-privacy.
Wil je je theoretische kennis verdiepen voordat je aan je portfolio bouwt? Bekijk dan ook onze gids op llmnet.nl/leren/ voor fundamentele engineering-leertrajecten.
1. Een Lokaal RAG-systeem met Hybride Zoeken en Evaluatie
Wat je ermee laat zien
Je begrijpt dat vector-zoekopdrachten niet heilig zijn en dat traditionele keyword-zoekopdrachten (BM25) vaak nodig zijn voor precisie. Je toont aan dat je RAG-pipelines kunt opzetten zonder blinde afhankelijkheid van externe managed services.
Kerncomponenten
- Implementatie van hybride zoeken (Dense vectoren + Sparse BM25 via rank fusion).
- Lokale orchestratie met open-source modellen (bijv. via Ollama of llama.cpp).
- Een geautomatiseerde evaluatiestap (bijv. Ragas of deepeval) om hallucinaties en context-relevantie te meten.
Hoe je dit documenteert
Schrijf een technische README op GitHub met een architectuurdiagram. Deel in een korte blogpost welke uitdagingen je tegenkwam bij chunking-strategieën en hoe je de retrieval-accuraatheid hebt gemeten met echte testdatasets.
2. Asynchrone AI-Agent Pipeline met Robuuste Error Recovery
Wat je ermee laat zien
AI-modellen zijn non-deterministisch en API's vallen regelmatig uit. Dit project bewijst dat je productiesystemen kunt bouwen die tegen een stootje kunnen, state beheren en autonoom complexe workflows uitvoeren.
Kerncomponenten
- Event-driven architectuur of taakwachtrij (bijv. Celery, Temporal of Redis Streams).
- Stricte output-validatie (met Pydantic) om te garanderen dat agent-stappen nooit malformed JSON retourneren.
- Automatische retries met exponentiële backoff en logging van agent-redeneerstappen (tracing).
Hoe je dit documenteert
Zet een korte demonstratievideo op je repo waarin je laat zien hoe het systeem herstelt wanneer een LLM-aanroep faalt of foute data teruggeeft. Documenteer de state machine in een duidelijke state diagram.
3. Cost- en Latency-Optimized LLM Gateway / Proxy
Wat je ermee laat zien
Bij schalen lopen kosten en responstijden snel uit de hand. Als AI-engineer moet je slim omgaan met resource-allocatie. Dit project toont aan dat je bedrijfseconomisch en operationeel meedenkt.
Kerncomponenten
- Een caching-laag (semantic caching) op basis van embeddings om identieke of vergelijkbare vragen lokaal af te handelen.
- Dynamische model-routing: eenvoudige vragen sturen naar een klein, snel lokaal model; complexe taken naar een zwaarder model.
- Rate-limiting en token-budgettering per gebruiker of API-key.
Hoe je dit documenteert
Toon benchmarks in je repository. Vergelijk de latency en kosten per duizend requests mét en zónder jouw caching- en routing-mechanisme. Harde cijfers uit je eigen benchmarks overtuigen elke hiring manager.
Hoe je jouw projecten presenteert
Een werkgever beoordeelt je niet op de hoeveelheid code, maar op de kwaliteit van je documentatie en je technische keuzes:
- Zet de code openbaar: Schone, geteste code met type hints en een heldere directory-structuur.
- Beschrijf trade-offs: Vertel niet alleen *wat* je hebt gebouwd, maar vooral *waarom* je bepaalde technologieën hebt gekozen en welke beperkingen je bewust hebt geaccepteerd.
- Voorkom AI-spam: Zorg dat je elke regel code begrijpt. Tijdens een technisch interview word je gevraagd naar de architectuurbeslissingen.