Par définition : $\varphi \ : \ E \to F$ est une application linéaire ssi $$ \text{$\forall (u,v) \in E^2$, $\forall \lambda \in \mathbb{R}$ on a $\varphi( \lambda u + v ) = \lambda \varphi( u ) + \varphi( v )$} $$

$\forall (P,Q) \in \mathbb{R}_n[X]^2$, $\forall \lambda \in \mathbb{R}$ on a $ \begin{eqnarray} \varphi( \lambda P + Q ) &=& (X+1) \times (\lambda P + Q) (X+1) - X \times (\lambda P + Q) (X+1) \qquad \text{ par définition de } \varphi \\ &=& \lambda ( (X+1) \times P(X) - X \times P(X+1) ) + ( (X+1) \times Q(X) - X \times Q(X+1) ) \\ &=& \lambda \varphi( P ) + \varphi( Q ) \end{eqnarray} $
donc $\varphi$ est une application linéaire.

isoler les cas $j=0$ et $j=1$ puis $j \geq 2$.

$\varphi(1) = (X+1) \times 1 - X \times 1 = 1$
$\varphi(X) = (X+1) \times X - X \times (X+1) = 0$
$ \varphi(X^2) = (X+1) \times X^2 - X \times (X+1)^2 = (X^3 +X^2) - (X^3 +2 X^2 +X) = -X^2 -X$
et de façon générale, pour tout $j \geq 2$ on a $ \begin{eqnarray*} \varphi(X^j) &=& (X+1) \times X^j - X \times (X+1)^j \\ &=& (X^{j+1} + X^j) - X \times \sum\limits_{p=0}^{j} {{j}\choose{p}} X^p \text{ par développement du binôme de Newton } \\ &=& (X^{j+1} +X^j) - X \times \left( X^j + j X^{j-1} + \sum\limits_{p=0}^{j-2} {{j}\choose{p}} X^{p} \right) \\ &=& (1-j) X^j - \sum\limits_{p=0}^{k-2} {{j}\choose{p}} X^{p+1} \text{ par simplification} \\ &=& (1-j) X^j - \sum\limits_{i=1}^{k-1} {{j}\choose{i-1}} X^{i} \text{ changement d'indice $i=p+1$} \end{eqnarray*} $ et $j \geq 2$ donc $1-j \neq 0$ et donc $\varphi(X^j)$ est de degré $j$.
Par conséquent, $\forall j \in [\![ 0;n]\!]$, $\varphi(X^j) \in \mathbb{R}_n[X]$.

Les polynômes $(X^j)_{0 \leq j \leq n}$ forment la base canonique de $E = \mathbb{R}_{n}[X]$. Donc $\text{Im}( \varphi) = Vect ( ( \varphi(X^j) )_{0 \leq j \leq n} )$ ; or si $j \in [\![0;n]\!]$ alors $\varphi(X^j) \in \mathbb{R}_{n}[X]$.
Et $\mathbb{R}_{n}[X]$ est un espace vectoriel ; par conséquent, $\text{Im}( \varphi) = Vect ( ( \varphi(X^j) )_{0 \leq j \leq n} ) \subset \mathbb{R}_{n}[X]$.

$\varphi$ est linéaire et définie sur $E = \mathbb{R}_{n}[X]$ et on a $\text{Im}( \varphi) \subset \mathbb{R}_{n}[X]=E$ donc $\varphi$ est un endomorphisme de $E =\mathbb{R}_n[X] $.

Il s'agit d'exprimer les images des vecteurs $X^j$ de la base canonique par rapport à cette même base.

On a vu que :
$\varphi(1) = 1$
$\varphi(X) = 0$
et de façon générale, pour tout $j \geq 2$ on a $\varphi(X^j) = (1-j) X^j - \sum\limits_{i=1}^{j-1} {{j}\choose{i-1}} X^{i}$ et $k \geq 2$ donc $1-k \neq 0$ et donc $\varphi(X^k)$ est de degré $k$. Par conséquent, $Mat_{{\mathcal B}}(\varphi) $ est triangulaire suprieure, de dimension $(n+1) \times (n+1)$ : $Mat_{{\mathcal B}}(\varphi) = A = \left( \begin{array}{cccccc} 1 & 0 & 0 & ... & ... & 0 \\ 0 & 0 & -1 & -1 & ... & -1 \\ 0 & 0 & -1 & -3 & ... & -n \\ 0 & 0 & 0 & -2 & ... & \vdots \\ 0 & 0 & 0 & 0 & \ddots & -n \\ 0 & 0 & 0 & 0 & \ddots & -(n-1) \\ \end{array} \right) \ \in {\mathcal M}_{n+1} ( {\mathbb R} ) $ $$ \forall (i,j) \in [\![ 0 ;n ]\!]^2, \quad a_{i,j} = \left\lbrace \begin{array}{lll} 0 & \quad \text{ si } i >j & \text{(sous la diagonale)} \\ 1-j & \quad \text{ si } i=j & \text{(diagonale)} \\ 0 & \quad \text{ si } i=0 \text{ et } 1 \leq j \leq n & \text{(ligne $0$)} \\ - {{j}\choose{i-1}} & \quad \text{ si } 1 \leq i \leq j-1 \end{array} \right. $$

le rang de l'application linéaire est aussi le rang de la matrice écrite dans des bases de $E$ et $F$.

$\text{rg} (\varphi)= \text{rg} \left( Mat_{{\mathcal B}}(\varphi) \right) = \text{rg} \left( A \right)$.
$A = Mat_{{\mathcal B}}(\varphi)$ est une matrice de ${\mathcal M}_{n+1} ( {\mathbb R} )$, en notant $(C_1,C_2, \ldots, C_n)$ ses vecteurs colonnes, on a :
$ \text{rg} \left( A \right) = \text{rg} \left( \begin{array}{cccccc} 1 & 0 & 0 & ... & ... & 0 \\ 0 & 0 & -1 & -1 & ... & -1 \\ 0 & 0 & -1 & -3 & ... & -n \\ 0 & 0 & 0 & -2 & ... & \vdots \\ 0 & 0 & 0 & 0 & \ddots & -n \\ 0 & 0 & 0 & 0 & \ddots & -(n-1) \\ \end{array} \right) = \text{rg} \left( C_1,C_2,C_3, \ldots, C_n \right) $
en supprimant la colonne nulle $C_2$, on a : $ \text{rg} \left( A \right) = \text{rg} \left( C_1,C_3, \ldots, C_n \right) $
Donc $ \text{rg} \left( A \right) = \text{rg} \left( \begin{array}{cccccc} \fbox{1} & 0 & ... & ... & 0 \\ 0 & -1 & -1 & ... & -1 \\ 0 & \fbox{-1} & -3 & ... & -n \\ 0 & 0 & \fbox{-2} & ... & \vdots \\ 0 & 0 & 0 & \ddots & -n \\ 0 & 0 & 0 & \ddots & \fbox{-(n-1)} \\ \end{array} \right) $ et cette famille de $n$ vecteurs est libre à cause du décalage des termes non nuls encadrés.
On a donc $\text{rg}(\varphi) = n$.

$E$ est un e-v de dimension finie, utiliser le théorème du rang... on trouve que le noyau est de dimension $1$. Il ne reste plus qu'à trouver un vecteur non nul du noyau...

$E = \mathbb{R}_n[X]$ est un espace de dimension finie $n+1$ donc on peut appliquer le théorème du rang à $\varphi$ :
$\text{Im}( \varphi)$ est de dimension finie et $\dim(E) = \dim(\ker(\varphi) ) + \text{rg}( \varphi ) $ ; ce qui donne ici $$ n+1 = \dim(\ker(\varphi) ) + n $$ donc $\dim(\ker(\varphi) ) = 1$.
On a vu à la question 2 (et aussi à la question 3) que $\varphi(X) = 0$ donc $X \in \ker(\varphi)$. Donc $Vect(X) \subset \ker(\varphi)$. Mais $Vect(X)$ et $\ker(\varphi)$ sont de même dimension finie. Il sont donc égaux : $\ker(\varphi) = Vect(X) $.

Faire le lien avec $\varphi$ et choisir convenablement le $n$.

On remarque que si $n$ est choisi alors $\varphi$ est la restriction de $\psi$ à $\mathbb{R}_n[X]$ : $\varphi = \psi_{\mid_{\mathbb{R}_n[X]}}$.
Si on considère un polynôme $P$ non nul tel que $P \in \ker(\psi)$, alors en posant $n$ son degré, on a $P \in \mathbb{R}_n[X]$ et donc $P \in \ker(\varphi)$. Et d'après la question 5, on a $P(X) = \lambda X$ avec $\lambda \in \mathbb{R}$.
Réciproquement, $X \in \ker( \psi)$ et $\ker(\psi)$ est un espace vectoriel donc $Vect(X) \subset \ker(\psi)$.

En conclusion, $ \ker(\psi) = Vect(X)$.