QA IA - Freelance (H/F)

À propos de l'entreprise

Notre client est un grand cabinet d'audit et de conseil. Il développe et opère en interne une quinzaine de produits applicatifs en C# .NET / Vue.js sur Microsoft Azure, destinés à ses métiers Audit, Advisory et à ses fonctions support.

Missions

• Concevoir, développer et améliorer des agents IA de conception et de scripting de tests : génération de cas de test, de scénarios et de scripts automatisés
• Définir et mettre en œuvre la stratégie de qualification des solutions IA (LLM, RAG, agents)
• Mettre en place des méthodes d'évaluation adaptées à l'IA générative :
• jeux de tests de référence
• métriques de qualité (pertinence, fidélité, hallucinations)
• non-régression des prompts et des modèles
• Sécuriser le passage du POC au produit : critères d'acceptation, robustesse, sécurité (injection de prompt, fuite de données), performance et maîtrise des coûts
• Intégrer les tests dans les chaînes CI/CD (Azure DevOps / GitHub)
• Accompagner les équipes produit sur les bonnes pratiques qualité appliquées à l'IA
• Expérience confirmée en QA / ingénierie de la qualité, niveau Senior / Expert
• Indispensable : une solide expérience en automatisation des tests, avec conception et maintenance de frameworks automatisés en production (Playwright, Selenium, Cypress, SpecFlow ou équivalent) et intégration dans les chaînes CI/CD
• Indispensable : la maîtrise d'au moins un langage d'automatisation (C#, Python ou TypeScript), avec du code de test écrit au quotidien
• Indispensable : une expérience concrète et démontrable de développement assisté par IA et de mise en production d'applications à base de LLM (Azure OpenAI / AI Foundry ou équivalent)
• Indispensable : une réalisation IA à présenter en entretien, sous forme d'agent, d'application LLM en production, de dépôt de code ou de démonstration
• Pratique des briques IA générative : prompt engineering, RAG, frameworks d'agents (Semantic Kernel, LangChain, AutoGen ou équivalent)
• Seraient un plus :
• connaissance des outils d'évaluation LLM (Azure AI Foundry evaluation, Promptfoo, DeepEval, Ragas.)
• environnement Azure : Azure OpenAI, AI Search, Azure DevOps

Autres informations

Taux journalier (TJM): 550