3 scénarios stratégiques
Comparer trois orientations avec données financières incomplètes.
Verdict de cette tâche
À conserver humain3 scénarios stratégiques — Comparer trois orientations avec données financières incomplètes. Décidé par erreurs critiques sur 47 % des expériences et risque moyen 3,0/5 avec supervision 3,3/5. Le mode B est le plus favorable (qualité 3,6/5), le mode A le moins favorable. Gain net moyen +4,7 min face à la référence humaine de 23,8 min. Contrainte de la fiche : Livrable attendu : Bénéfices, risques, prérequis, horizon, réversibilité, questions manquantes, recommandation conditionnelle.
Un verdict est une recommandation fondée sur les mesures affichées plus bas, pas un niveau de preuve.
Livrable attendu
Bénéfices, risques, prérequis, horizon, réversibilité, questions manquantes, recommandation conditionnelle.
Contexte fourni
- Agence de 12 personnes. A : spécialisation sectorielle, faible investissement, marché plus petit. B : généraliste, acquisition plus simple, différenciation faible. C : offre logicielle légère, marge potentielle supérieure, investissement et risque produit élevés. (jeu d'entrée synthétique, identique dans les trois modes)
Critères de qualité
- Exactitude : ce qui est affirmé est correct au regard des entrées fournies.
- Fidélité aux entrées : aucune donnée, contrainte ou décision hors du jeu d'entrée.
- Gestion de l'incertitude : ce qui manque ou reste à vérifier est signalé comme tel.
- Utilité opérationnelle : le livrable est exploitable dans le contexte décrit.
- Absence d'invention : aucun chiffre, exemple, source ou politique inventé.
Dossier expérimental
Dossier reproductible versionné dans le dépôt : docs/lab/01/T18/. Il contient le scénario, le contexte, le jeu d'entrée synthétique, le livrable attendu, la grille d'évaluation et les trois prompts de référence (modes A, B et C). Les entrées sont synthétiques et ne décrivent aucune entreprise réelle ; aucun résultat n'y figure.
- README.md
- scenario.md
- context.md
- expected-output.md
- evaluation-rubric.md
- prompt-A.md
- prompt-B.md
- prompt-C.md
- inputs/dataset.md
- baseline.md
Référence humaine
Temps de référence mesuré : 23.8 min — Exécution simulée dans les conditions de la fiche : jeu d'entrée du corpus, aucun assistant, aucune source externe.
Mesures
| Métrique | Valeur | Couverture |
|---|---|---|
| Qualité moyenne0 = inutilisable, 5 = directement exploitable (score élevé favorable). | 3.2 / 5 | couverture : 15 réalisées / 15 attendues |
| Temps humain total | 19.1 min | couverture : 15 réalisées / 15 attendues |
| Gain opérationnel net | 4.7 min | couverture : 15 réalisées / 15 attendues |
| Supervision0 = aucune intervention nécessaire, 5 = intervention humaine très importante (score élevé défavorable). | 3.3 / 5 | couverture : 15 réalisées / 15 attendues |
| Reproductibilité0 = très instable, 5 = très stable (score élevé favorable). | 2.7 / 5 | couverture : 15 réalisées / 15 attendues |
| Risque0 = risque négligeable, 5 = risque critique (score élevé défavorable). | 3 / 5 | couverture : 15 réalisées / 15 attendues |
Expériences sur cette tâche — couverture : 15 réalisées / 15 attendues
Expériences
| Assistant | Mode A | Mode B | Mode C |
|---|---|---|---|
| ChatGPT | 3 / 5 | 4 / 5 | 3 / 5 |
| Claude | 2 / 5 | 3 / 5 | 4 / 5 |
| Gemini | 3 / 5 | 4 / 5 | 3 / 5 |
| Microsoft Copilot | 3 / 5 | 4 / 5 | 3 / 5 |
| Perplexity | 2 / 5 | 3 / 5 | 4 / 5 |
Chaque expérience conserve son prompt exact et sa sortie brute hors du site ; seules les mesures sont publiées ici.
Contenus dérivés de cette tâche
Les publications qui exploitent directement les mesures de cette tâche.
- Analyse
Plus la tâche engage une décision, moins l'assistance est fiable
De la production de contenu à la décision stratégique, la qualité passe de 3,95 à 3,04 sur 5 et la supervision requise grimpe de 2,07 à 3,40. La pente est régulière.
- Décision
Faut-il changer d'assistant IA ? Trois conditions avant d'engager un budget
À cadrage égal, l'écart entre les cinq assistants de la campagne est de 0,5 point. Et 93 % du coût calculable ne vient pas de l'abonnement, mais du temps humain.
Ce qu'une mesure réelle devrait confirmer
Ces points sont dérivés des observations simulées de cette tâche. Aucune exécution réelle n'a encore eu lieu : rien ici n'est acquis.
- Que le temps de référence utilisé (23.8 min, généré et non chronométré) soit remplacé par une baseline humaine réellement mesurée. Gain net simulé : 4.7 min.
- Que la supervision nécessaire (3.3 / 5, score élevé défavorable) corresponde au travail de reprise réellement constaté.
- Que la qualité observée en simulation (3.2 / 5) se retrouve sur une exécution réelle, sur 15 expérience(s) / 15, faute de quoi le verdict de la tâche ne tient pas.