Bom se eu entendi direito você precisa resolver o sistema em função de a e b, para isso considere a matriz formada pelos coeficientes de x, y e z: \begin{pmatrix} 1 & -2 & -a & 0 \\ 1 & -1 & -1 & 2 \\ 0 & 1 & 1 & b \end{pmatrix} Escalonando a matriz você deve obte...