Если область определения действительные числа, то всё давольно прозаично.
Берём первое уравнение
[tex]x^{2}+4yx+y^{2}-1=0[/tex]
и решаем его как обычное квадратное уравнение вида
[tex]ax^{2}+bx+c=0[/tex]
корни которого находятся по известной формуле
[tex]\frac{-b \pm \sqrt{b^{2}-4ac} }{2a}[/tex]
В данном случае
[tex]a=1[/tex]
[tex]b=4y[/tex]
[tex]c= y^{2}-1[/tex]
Подставляем эти значения и находим
[tex]x= \sqrt{3 y^{2}+1 }-2y[/tex]
[tex]x= - \sqrt{3 y^{2}+1 }-2y[/tex]
Подставляем эти выражения во второе уравнение и находим [tex]y[/tex]:
[tex]y= \sqrt{4 \sqrt{ \frac{2}{23} }-1 }[/tex]
[tex]y=- \sqrt{4 \sqrt{ \frac{2}{23} }-1 }[/tex]
подставляем эти значения в выражения для [tex]x[/tex] , имеем
[tex]x= \sqrt{2+8 \sqrt{ \frac{2}{23} } }[/tex]
[tex]x= -\sqrt{2+8 \sqrt{ \frac{2}{23} } }[/tex]
Те же значения [tex]y[/tex] поставляем в третье уравнение и находим [tex]z[/tex] :
[tex]z= \pm \sqrt{4 \sqrt{ \frac{2}{23} }-1 }+ \sqrt{3 \sqrt{ \frac{2}{23} } - \frac{1}{2} }[/tex]
[tex]z= \pm \sqrt{4 \sqrt{ \frac{2}{23} }-1 }- \sqrt{3 \sqrt{ \frac{2}{23} } - \frac{1}{2} }[/tex]

А область определения какая?

Помогите решить систему