QA & AI Evaluation Engineer

Rol en context

Als QA & AI Evaluation Engineer waak je over de kwaliteit, betrouwbaarheid en veiligheid van het AIHub Platform. Dit is het centrale, intern ontwikkelde AI-platform van Delen Private Bank, dat geïntegreerd is in de processen en systemen van de bank.

AI-oplossingen gedragen zich niet altijd voorspelbaar. Daarom gaat kwaliteit hier verder dan alleen de vraag: “Werkt de functionaliteit zoals bedoeld?” Jij bepaalt hoe we meten of een AI-toepassing correct, consistent, veilig en bruikbaar is. Daarnaast zorg je ervoor dat dit ook zo blijft na wijzigingen aan modellen, prompts of data.

Je werkt nauw samen met AI Engineers, developers, business analysts, domeinexperten en stakeholders. Daarbij combineer je sterke QA-expertise met analytisch inzicht in AI-systemen. Je vertaalt verwachtingen vanuit de business naar meetbare evaluatiecriteria, bouwt en onderhoudt evaluation datasets en integreert geautomatiseerde evaluaties in onze delivery pipelines.

Verantwoordelijkheden

Analyse & Evaluation Design

• Je werkt samen met business analysts en domeinexperten om verwachtingen rond het gedrag van AI te vertalen naar meetbare acceptatie- en evaluatiecriteria.

• Je definieert evaluation datasets (golden datasets) die realistische gebruiksscenario’s weerspiegelen, inclusief edge cases en failure scenarios.

• Je bepaalt evaluation rules, zowel:

  • deterministisch: bijvoorbeeld format validation, schema checks, exacte of gestructureerde matches, verplichte bronvermelding en correcte tool calls;

  • non-deterministisch: bijvoorbeeld LLM-as-a-judge, semantic similarity, groundedness en relevance.

• Je kalibreert LLM-as-a-judge evaluations ten opzichte van menselijke beoordelingen, zodat geautomatiseerde scores betrouwbaar blijven.

• Je helpt mee de evaluation strategy, coverage en quality thresholds te bepalen, zowel per use case als voor het platform als geheel.

  
  

Test Execution & Validation

• Je voert functionele en non-functionele tests uit op verschillende platformcomponenten, zoals API’s, integraties, dataverwerking en user interfaces.

• Je evalueert RAG applications op retrieval quality, groundedness en correcte bronvermelding.

• Je test agentic flows, waaronder correcte tool selection, parameters, multi-turn behaviour en error handling.

• Je voert adversarial testing en red teaming uit, bijvoorbeeld rond prompt injection, jailbreaks, het lekken van vertrouwelijke of persoonlijke gegevens en ongewenste of misleidende output.

• Je valideert of guardrails en content filters correct werken.

• Je registreert bugs in Azure DevOps, volgt de oplossing ervan actief op en valideert opgeloste issues.

• Je faciliteert UAT-sessies met eindgebruikers en verzamelt gestructureerde feedback.

  
  

Automation & Continuous Improvement

• Je monitort regression bij model upgrades en prompt changes en vergelijkt verschillende versies op een objectieve manier.

• Je onderhoudt evaluation datasets op basis van online evaluations en feedback uit productie. Onvoorziene edge cases zet je om in permanente test cases binnen de standaard eval sets.

• Je volgt de kwaliteit in productie op via monitoring & tracing, bijvoorbeeld aan de hand van quality scores, drift en gebruikersfeedback, en signaleert achteruitgang tijdig.

• Je gebruikt zelf AI tooling om test cases en synthetische testdata te genereren en resultaten sneller te analyseren.

  
  

Collaboration & Platform Enablement

• Je helpt bij het uitbouwen van herbruikbare evaluation standards, templates en guidelines, zodat teams die op AIHub bouwen zelf de kwaliteit van hun use cases kunnen meten.

• Je schrijft annotation guidelines en betrekt domeinexperten bij het reviewen en labelen van output.

• Je communiceert bevindingen helder naar zowel technische als niet-technische stakeholders.

  
  

Profiel en competenties

• Je hebt een uitstekende kennis van het Nederlands en een goede kennis van het Engels. Kennis van het Frans is een plus, onder andere met het oog op meertalige evaluaties.

• Je hebt ervaring als QA Engineer binnen een agile IT-omgeving en beschikt over sterke analytische vaardigheden.

• Je hebt hands-on ervaring met het testen of evalueren van LLM applications, of je kunt aantonen dat je binnen dit domein al een sterke maturiteit hebt opgebouwd.

• Je begrijpt de uitdagingen van non-deterministic systems en weet hierover op een betrouwbare en statistisch onderbouwde manier te rapporteren.

• Je hebt een kritische en creatieve “break it”-mindset waarmee je actief op zoek gaat naar edge cases en abuse scenarios.

• Je werkt nauwkeurig, gestructureerd en kwaliteitsgericht.

• Je bent een echte teamplayer met uitstekende communicatieve vaardigheden.

  
  

Basiskennis van of ervaring met

• Python voor test automation en evaluation scripts, bijvoorbeeld pytest;

• LLM evaluation frameworks, zoals LangSmith, Azure AI Foundry Evaluations, promptfoo, DeepEval, Ragas en Langfuse;

• concepten zoals RAG, embeddings, prompt engineering, agents en tool calling;

• API testing, bijvoorbeeld met Postman, REST en OpenAPI;

• Azure DevOps voor test management en CI/CD;

• SQL / JSON voor het valideren van data en interfaces;

• observability tooling, zoals OpenTelemetry en Application Insights;

• ervaring met of affiniteit voor de (private) banking sector;

• Agile ways of working, zoals Scrum en Kanban.