$\left\lbrace \begin{array}{l} x^3y(1+y)+x^2y^2(2+y)+xy^3=30 \\ x^2y+x(1+y+y^2)+y-11=0 \end{array} \right.$

Đề bài:

\begin{equation} \label{eq:14.I} \left\lbrace \begin{array}{l} x^3y(1+y)+x^2y^2(2+y)+xy^3=30 \\ x^2y+x(1+y+y^2)+y-11=0 \end{array} \right. \end{equation}

Lời giải:

\begin{align} \eqref{eq:14.I} & \Leftrightarrow \left\lbrace \begin{array}{l} x^3y+x^3y^2+2x^2y^2+x^2y^3+xy^3=30 \\ x^2y+x+xy+xy^2+y=11 \end{array} \right. \nonumber \\ & \Leftrightarrow \left\lbrace \begin{array}{l} xy\left(x^2+2xy+y^2\right)+x^2y^2(x+y)=30 \\ xy(x+y)+x+y+xy=11 \end{array} \right. \nonumber \\ \label{eq:14.1} & \Leftrightarrow \left\lbrace \begin{array}{l} xy\left(x+y\right)^2+(xy)^2(x+y)=30 \\ xy(x+y)+x+y+xy=11 \end{array} \right. \end{align}
Đặt $x+y=a$; $xy=b$ $(a^2\geqslant 4b)$
\begin{align} \eqref{eq:14.1} & \Rightarrow \left\lbrace \begin{array}{l} ab^2+a^2b=30 \\ ab+a+b=11 \end{array} \right. \nonumber \\ & \Leftrightarrow \left\lbrace \begin{array}{l} ab(a+b)=30 \\ ab+a+b=11 \end{array} \right. \nonumber \end{align}
Áp dụng định lý $Viete$ đảo ta có $ab,a+b$ là nghiệm của phương trình $$X^2-11X+30=0 \Leftrightarrow \left[\begin{array}{l} X=5 \\ X=6\end{array}\right. \Rightarrow \left[ \begin{array}{l} \left\lbrace\begin{array}{l} ab=5 \\ a+b=6\end{array}\right. \\ \left\lbrace\begin{array}{l} ab=6 \\ a+b=5\end{array}\right. \end{array} \right.$$
Xét trường hợp $ab=6$; $a+b=5$
Áp dụng định lý $Viete$ đảo ta có $a,b$ là nghiệm của phương trình
$$X^2-6X+5=0 \Leftrightarrow \left[\begin{array}{l} X=5 \\ X=1\end{array}\right. \Rightarrow \left[\begin{array}{l} \left\lbrace\begin{array}{l} a=5 \\ b=1\end{array}\right. \\ \left\lbrace\begin{array}{l} a=1 \\ b=5\end{array}\right. \text{ (không thỏa $a^2 \geqslant 4b$)} \end{array}\right. \Rightarrow \left\lbrace\begin{array}{l} x+y=5 \\ xy=1\end{array}\right.$$
Lại áp dụng định lý $Viete$ đảo ta có $x,y$ là nghiệm của phương trình
$$X^2-5X+1=0 \Leftrightarrow \left[\begin{array}{l} X=\dfrac{5+\sqrt{21}}{2} \\ X=\dfrac{5-\sqrt{21}}{2}\end{array}\right. \Rightarrow \left[\begin{array}{l} \left\lbrace\begin{array}{l} x=\dfrac{5+\sqrt{21}}{2} \\ y=\dfrac{5-\sqrt{21}}{2}\end{array}\right. \\ \left\lbrace\begin{array}{l} x=\dfrac{5-\sqrt{21}}{2} \\ y=\dfrac{5+\sqrt{21}}{2} \end{array}\right. \end{array}\right.$$
Xét trường hợp $ab=5$; $a+b=6$
Áp dụng định lý $Viete$ đảo ta có $a,b$ là nghiệm của phương trình
$$X^2-5X+6=0 \Leftrightarrow \left[\begin{array}{l} X=3 \\ X=2\end{array}\right. \Rightarrow \left[\begin{array}{l} \left\lbrace\begin{array}{l} a=3 \\ b=2\end{array}\right. \\ \left\lbrace\begin{array}{l} a=2 \\ b=3\end{array}\right. \text{ (không thỏa $a^2 \geqslant 4b$)} \end{array}\right. \Rightarrow \left\lbrace\begin{array}{l} x+y=3 \\ xy=2\end{array}\right.$$
Lại áp dụng định lý $Viete$ đảo ta có $x,y$ là nghiệm của phương trình
$$X^2-3X+2=0 \Leftrightarrow \left[\begin{array}{l} X=1 \\ X=2 \end{array}\right. \Rightarrow \left[\begin{array}{l} \left\lbrace\begin{array}{l} x=1 \\ y=2 \end{array}\right. \\ \left\lbrace\begin{array}{l} x=2 \\ y=1 \end{array}\right. \end{array}\right.$$
$$\S=\left\lbrace \left(\dfrac{5+\sqrt{21}}{2}; \dfrac{5-\sqrt{21}}{2}\right); \left(\dfrac{5-\sqrt{21}}{2}; \dfrac{5+\sqrt{21}}{2}\right); \left(1; 2\right); \left(2; 1\right) \right\rbrace$$