Não me confundiste. Eu simplesmente peguei no sistema de 3 equações que colocaste e resolvi-o da forma matricial. Qualquer matriz representa um sistema de equações lineares e qualquer sistema de equações lineares pode ser escrito como uma matriz.
Quando eu obtive a=1, b=-7 e c=10, isto significa que a tua função do segundo grau é

.
Assim, a resposta à tua pergunta, "quanto vale o produto abc", é -70.