Il me semble que la réponse est $\sqrt{5}-2 = 0.236067977...$

Notons $p$ la probabilité que le nom de famille s'éteigne.
Après une génération, cette probabilité est égale à
$$\phi(p)=(1+3p+3p^2+p^3)/8=(1+p)^3/8$$
On doit donc avoir
$$\phi(p)=p$$
$$(1+p)^3=8p$$
$$p^3+3p^2-5p+1=0$$
$$(p-1)(p^2 + 4p - 1)=0$$
Donc
$$p=-\sqrt{5}-2,\ \sqrt{5}-2,\ 1$$
Comme $0\leq p<1$, on a donc $p=\sqrt{5}-2$ .
Voilà !

Bonjour,
Sans me lancer dans de fastidieux calculs, je pense que la probabilité recherchée est de 1/2, identique à celle d'avoir une fille.
Bonne soirée.
Frank

La solution est en effet rapide.

Je ne connais pas cette méthode toutefois je suis arrivé à 0.23 de cette manière:
J'ai attribué un chiffre entre 0 et 3 qui représente le nb de garçons d'une génération, et écrit les chiffres des générations successives dans l'ordre pour former un nombre,  puis établi la liste complète des nombres de k chiffres qui aboutissent à l'extinction et à partir de laquelle le calcul de proba est simple.
Par exemple pour k=4 j'ai trouvé ces nombres:
1 1 1 0
1 2 00
2 01 0
2 10 0
3 000

Le 0.23 est le résultat des calculs jusqu'à k=6 compris

Saurez vous établir la liste des nombres à 7 chiffres ?