Je conjecture qu'un telle primitive n-ième est de la forme :
[TeX]F_n(x)=\frac{x^n}{n!}(\ln^2(x)-a_n\ln(x)+b_n)[/TeX]
avec [latex]a_n[/latex] et [latex]b_n[/latex] à déterminer !
A suivre ...

EDIT 1
[TeX]a_n=2\sum_{k=1}^n\frac1k[/latex] avec la convention [latex]a_0=0[/TeX]
EDIT 2
[TeX]b_n=2\sum_{p=1}^n\sum_{k=1}^p\frac1{pk}[/latex] et [latex]b_0=0[/TeX]
Je ne sais pas si je peux simplifier l'écriture de [latex]b_n[/latex] ?

Je n'ai rien contre les maths mais est-ce bien le bon endroit pour poser cette question ?

Vasimolo

On intègre par parties.
[TeX]\int ln^2x.dx=[x.\ln^2 x]-2\int \ln x.dx[/TeX]
[TeX]\int ln^2x.dx=x(\ln^2 x-2ln x+2)+C[/TeX]
etc... de proche en proche

pour n=2, on trouve déjà :
[TeX]c1.x+c2+\frac{7x^2}4+\frac{x^2\ln^2 x}2-\frac {3x^2\ln x}2[/TeX]
En supposant c1, c2, ...cn=0
n=2        [latex]\frac{x^2}2 (\ln^2 x-3\ln x+\frac 7 2)[/latex]

n=3       [latex]\frac {x^3}6 ({\ln^2 x}-\frac {11}3 \ln x+\frac {85}{18})[/latex]

n=4        [latex]\frac {x^4} {24}(\ln^2 x-\frac{25\ln x}6+\frac{415}{72})[/latex]

Ça commence toujours par [latex]\frac {x^n \ln^2 x}{n!}[/latex] mais la suite se complique.

Etant relativement incompétent, je me suis pris au jeu de répondre en laissant presque tous les calculs à Wolfram Alpha:

Je lui ai fait calculer les dérivées premières, secondes, troisième, quatrième et j'ai constaté que la dérivée n-ième est de la forme :
[TeX]\frac{a_n - b_n \log(x)}{x^n}\times (-1)^n[/latex] avec [latex]b_1=2[/latex] et [latex]a_1 = 0[/TeX]
je lui ai fait dérivé cette forme générale et il trouve : 
[TeX](-1)^{n+1} x^{-(n+1)} (a_n n + b_n - b_n n\log(x))[/TeX]
ce qui me donne des relations de récurrence sur [latex]a_n[/latex] et [latex]b_n[/latex] :
[TeX]b_{n+1} = n.b_n[/latex], soit [latex]b_n = 2.(n-1)!=2\Gamma(n)[/latex] (Wolfram préfère utiliser la fonction Gamma : [latex]\Gamma(n)[/latex] au lieu de [latex](n-1)![/latex]. Affaire de style.)

et

[latex]a_{n+1} = n.a_n + b_n = n.a_n + 2.\Gamma(n)[/TeX]
qu'on peut exprimer directement et succinctement (d'après Wolfram Alpha) par :
[TeX]a(n) = 2 \Gamma(n) (\psi(n)+\gamma)[/TeX]
où [latex]\psi[/latex] la fonction digamma et [latex]\gamma[/latex] est la constante d'Euler-Mascheroni ([latex]=-\psi(1)[/latex] ).

Quel bel outil que ce Wolfram Alpha !

Démonstration
J'ai d'abord calculé une primitive de [latex]\ln^2(x)[/latex], puis un primitive seconde. Je vous passe les calculs, mais ça m'a permis de conjecturer la formule de récurrence suivante :
[TeX]F_n(x)=\frac{x^n}{n!}(\ln^2(x)-a_n\ln(x)+b_n)[/TeX]
Je dérive ensuite F_{n+1} (je passe quelques calculs simples)
[TeX]F'_{n+1}(x)=\frac{x^n}{n!}\left(\ln^2(x)-(a_{n+1}-\frac2{n+1})\ln(x)+b_{n+1}-\frac{a_{n+1}}{n+1}\right)[/TeX]
Je définis ensuite les 2 suites [latex]a_n[/latex] et [latex]b_n[/latex] ainsi :
[TeX]a_0=b_0=0
a_{n+1}=a_n+\frac2{n+1}
b_{n+1}=b_n+\frac{a_{n+1}}{n+1}
[/TeX]
En dérivant n fois l'expression de F_n, on aura bien [latex]F^{(n)}_n(x)=\ln^2(x)[/latex]

Toutes les primitives n-ièmes de [latex]\ln^2(x)[/latex]

L'expression de a_n est simple à trouver :
[TeX]\fbox{a_n=2\sum_{k=1}^n\frac1k}[/TeX]
Pour trouver [latex]b_n[/latex], je somme pour p allant de 1 à n la relation de récurrence sur les [latex]b_p[/latex]
[TeX]b_{p}-b_{p-1}=\frac{a_{p}}{p}[/TeX]
Cela donne :
[TeX]\sum_{p=1}^n\left(b_{p}-b_{p-1}\right)=\sum_{p=1}^n\frac{a_{p}}{p}[/TeX]
Les termes de gauche se télescopent, et en remplaçant à droite par la valeur trouvée pour les [latex]a_p[/latex], on arrive à :
[TeX]\fbox{b_n=2\sum_{p=1}^n\sum_{k=1}^p\frac1{pk}}[/TeX]
Toutes les primitives n-ièmes de [latex]\ln^2(x)[/latex] s'écrivent ainsi  ([latex]n \ge 1[/latex])
[TeX]\fbox{f(x)=P_{n-1}(x)+\frac{x^n}{n!}\left(\ln^2(x)-2\ln(x)\sum_{k=1}^n\frac1k+2\sum_{p=1}^n\sum_{k=1}^p\frac1{pk}\right)}[/TeX]
où [latex]P_n[/latex] est un polynôme quelconque de degré au plus n

Excellente démonstration de Looping. Parfait.

C'est déjà pas mal, Shadock

Gasole, [latex]I_n[/latex] est effectivement de cette forme. Tu pourrais factoriser davantage et ton terme [latex]a_n[/latex] devrait t'apparaître évident .