soluçao:
vamos tomar o primeiro quadrante para efeito de calculo,mas vale para qquer quadrante.
seja M(x,0) e N(0,y) os ponto dos eixos extremos do segmento que contem o ponto(a,b).
entao temos a seguinte configuraçao,vamos imaginar.uma reta inclinada,passando por (a,b),formando um triangulo retangulo com os eixos,onde o angulo reto seja a origem,ou seja o triang.retangulo MON.construamos dentro desse triang.retangulo o triangulo MbP,onde b,é o ponto (0,b) e P(a,b).esses triangulos sao semelhante,logo teremos as proporçoes:
daqui isolamos y=f(x),com algebrismos comuns(faça-os!),teremos:
bom,sabemos que o segmento MN, é a hipotenusa do triangulo maior,MON,logo:
![MN=\sqrt[]{{x}^{2}+{y}^{2}}=\sqrt[]{{x}^{2}+{(bx/(x-a))}^{2}}](/latexrender/pictures/4868172b09e95c20d9da886cde048f09.png "MN=\sqrt[]{{x}^{2}+{y}^{2}}=\sqrt[]{{x}^{2}+{(bx/(x-a))}^{2}}")
derivando MN,em relaçao a x, e igualando a zero,encontraremos o valor de x=f(a,b).esse sera o valor minimo ou valor maximo de MN.
verificaremos calculando a
derivada segunda de MN,e verificando seu valor,que no caso deva ser positivo para qquer a e b,
mostrando ser ponto de minimo.entao aos interessados,termine-o...é calculo "pacas",mas compensa como exercicio e preparaçao...
substitui-se 
não existem zeros.Senão vejamos
.Como se pode observar o vertice está acima do eixo Ox, estando parabola virada para cima, o vertice é um mínimo absoluto.Então basta calcular a função para os valores dos extremos do intervalo.