La bonne réponse est le n-uplet {2,5,6,7,8}.
Preuve
Comptons le nombre de 5-uplets possibles au départ : C510=252
Comme aucun des mathématiciens ne peut conclure d'emblée, cela signifie que : chacun des 4 nombres P,A,E,D obtenus par les 4 compères peut être obtenu à partir d'un autre n-uplet de 5 nombres.
Il suffit donc, pour chaque opération, de lister les résultats possibles en fonction des 5 nombres de départ, et d'éliminer ceux pour lesquels il y a un seul n-uplet qui donne ce résultat.
Exemple : pour le produit, le produit 120 ne peut être obtenu qu'avec {1,2,3,4,5}, cette combinaison peut donc être exclue.
Chacun des compères fait ce raisonnement pour son opération, et à la fin de la première heure, fait le raisonnement pour les 4 opérations, car personne n'a pu conclure.
Ils en déduisent alors une liste de combinaisons réduite (identique pour les 4 compères, ils ont fait le même raisonnement).
Puis on itère le processus, on procédant de la même manière, et celui-ci va converger à 1 seule combinaison possible au bout de la 23ème itération.
Voici, obtenue à l'aide d'un petit programme (très fastidieux sinon, à mon avis !) le nombre de combinaisons restantes après chaque itération :
Heure 1 : 140 combinaisons restantes
Heure 2 : 100 combinaisons restantes
Heure 3 : 85 combinaisons restantes
Heure 4 : 73 combinaisons restantes
Heure 5 : 64 combinaisons restantes
Heure 6 : 62 combinaisons restantes
Heure 7 : 60 combinaisons restantes
Heure 8 : 57 combinaisons restantes
Heure 9 : 54 combinaisons restantes
Heure 10 : 50 combinaisons restantes
Heure 11 : 47 combinaisons restantes
Heure 12 : 44 combinaisons restantes
Heure 13 : 40 combinaisons restantes
Heure 14 : 36 combinaisons restantes
Heure 15 : 33 combinaisons restantes
Heure 16 : 31 combinaisons restantes
Heure 17 : 28 combinaisons restantes
Heure 18 : 24 combinaisons restantes
Heure 19 : 19 combinaisons restantes
Heure 20 : 13 combinaisons restantes
Heure 21 : 8 combinaisons restantes
Heure 22 : 4 combinaisons restantes
Heure 23 : 1 combinaison restante
23 itérations pour trouver {2,5,6,7,8}
Je pense par contre qu'à la main, c'est infaisable. Personnellement j'ai écrit un petit script PHP.