Ajuda Matemática

Preciso de uma formula pra mim chegar no resultado ,a resposta e a letra (a) mais não sei o como e a formula pra chega ao resultado...

Encontrei como resposta a letra b.
Tem certeza que seria a letra a?
Abraço

Olá lucastorres26,

Eu recomendo que você assista as vídeo-aulas do Neckie sobre sistemas lineares. O endereço do canal é:
http://www.youtube.com/nerckie

Se a dúvida persistir, então poste-a aqui.