Choisir un SaaS
Décider entre trois outils sous contraintes.
Verdict de cette tâche
À conserver humainChoisir un SaaS — Décider entre trois outils sous contraintes. Décidé par erreurs critiques sur 33 % des expériences et risque moyen 2,7/5 avec supervision 3,3/5. Le mode C est le plus favorable (qualité 3,8/5), le mode A le moins favorable. Gain net moyen +2,6 min face à la référence humaine de 19,6 min. Contrainte de la fiche : Livrable attendu : Matrice, critère bloquant, incertitudes, recommandation conditionnelle.
Un verdict est une recommandation fondée sur les mesures affichées plus bas, pas un niveau de preuve.
Livrable attendu
Matrice, critère bloquant, incertitudes, recommandation conditionnelle.
Contexte fourni
- Besoin : 25 users, budget ≤ 500 €/mois, SSO souhaité, export obligatoire, intégration, support FR apprécié. A 420, SSO/export/intégration oui, support FR par email. B 310, pas de SSO, export, API, support anglais, coût API inconnu. C 480, SSO, export limité, intégration native, support FR par téléphone. (jeu d'entrée synthétique, identique dans les trois modes)
Critères de qualité
- Exactitude : ce qui est affirmé est correct au regard des entrées fournies.
- Fidélité aux entrées : aucune donnée, contrainte ou décision hors du jeu d'entrée.
- Gestion de l'incertitude : ce qui manque ou reste à vérifier est signalé comme tel.
- Utilité opérationnelle : le livrable est exploitable dans le contexte décrit.
- Absence d'invention : aucun chiffre, exemple, source ou politique inventé.
Dossier expérimental
Dossier reproductible versionné dans le dépôt : docs/lab/01/T16/. Il contient le scénario, le contexte, le jeu d'entrée synthétique, le livrable attendu, la grille d'évaluation et les trois prompts de référence (modes A, B et C). Les entrées sont synthétiques et ne décrivent aucune entreprise réelle ; aucun résultat n'y figure.
- README.md
- scenario.md
- context.md
- expected-output.md
- evaluation-rubric.md
- prompt-A.md
- prompt-B.md
- prompt-C.md
- inputs/dataset.md
- baseline.md
Référence humaine
Temps de référence mesuré : 19.6 min — Exécution simulée dans les conditions de la fiche : jeu d'entrée du corpus, aucun assistant, aucune source externe.
Mesures
| Métrique | Valeur | Couverture |
|---|---|---|
| Qualité moyenne0 = inutilisable, 5 = directement exploitable (score élevé favorable). | 3.1 / 5 | couverture : 15 réalisées / 15 attendues |
| Temps humain total | 17 min | couverture : 15 réalisées / 15 attendues |
| Gain opérationnel net | 2.6 min | couverture : 15 réalisées / 15 attendues |
| Supervision0 = aucune intervention nécessaire, 5 = intervention humaine très importante (score élevé défavorable). | 3.3 / 5 | couverture : 15 réalisées / 15 attendues |
| Reproductibilité0 = très instable, 5 = très stable (score élevé favorable). | 3.1 / 5 | couverture : 15 réalisées / 15 attendues |
| Risque0 = risque négligeable, 5 = risque critique (score élevé défavorable). | 2.7 / 5 | couverture : 15 réalisées / 15 attendues |
Expériences sur cette tâche — couverture : 15 réalisées / 15 attendues
Expériences
| Assistant | Mode A | Mode B | Mode C |
|---|---|---|---|
| ChatGPT | 2 / 5 | 4 / 5 | 4 / 5 |
| Claude | 2 / 5 | 4 / 5 | 4 / 5 |
| Gemini | 2 / 5 | 3 / 5 | 3 / 5 |
| Microsoft Copilot | 2 / 5 | 3 / 5 | 4 / 5 |
| Perplexity | 2 / 5 | 3 / 5 | 4 / 5 |
Chaque expérience conserve son prompt exact et sa sortie brute hors du site ; seules les mesures sont publiées ici.
Contenus dérivés de cette tâche
Les publications qui exploitent directement les mesures de cette tâche.
- Analyse
Ce qui fait varier la qualité d'une réponse d'IA : le cadrage, pas l'outil
Dans notre campagne, l'écart entre une demande brute et une demande cadrée atteint 1,2 point de qualité. L'écart entre les cinq assistants testés, à cadrage égal, n'en fait que 0,5.
- Analyse
Plus la tâche engage une décision, moins l'assistance est fiable
De la production de contenu à la décision stratégique, la qualité passe de 3,95 à 3,04 sur 5 et la supervision requise grimpe de 2,07 à 3,40. La pente est régulière.
- Décision
Que déléguer à l'IA dans une PME : la grille de tri en quatre niveaux
Sur les vingt tâches du corpus, deux sont classées automatisables, huit assistables, une accélérable et neuf à conserver humaines. Voici comment appliquer ce tri à vos propres tâches.
- Décision
Faut-il changer d'assistant IA ? Trois conditions avant d'engager un budget
À cadrage égal, l'écart entre les cinq assistants de la campagne est de 0,5 point. Et 93 % du coût calculable ne vient pas de l'abonnement, mais du temps humain.
Ce qu'une mesure réelle devrait confirmer
Ces points sont dérivés des observations simulées de cette tâche. Aucune exécution réelle n'a encore eu lieu : rien ici n'est acquis.
- Que le temps de référence utilisé (19.6 min, généré et non chronométré) soit remplacé par une baseline humaine réellement mesurée. Gain net simulé : 2.6 min.
- Que la supervision nécessaire (3.3 / 5, score élevé défavorable) corresponde au travail de reprise réellement constaté.
- Que la qualité observée en simulation (3.1 / 5) se retrouve sur une exécution réelle, sur 15 expérience(s) / 15, faute de quoi le verdict de la tâche ne tient pas.