Rešenje:Zamenimo koordinate triju tačaka:
[tex]\left\{\begin{array}{l} 4a-2b+c=7 \\ a-b+c=3 \\ 9a+3b+c=7 \end{array}\right.[/tex]
Oduzimanjem prve jednačine od treće dobijamo [tex]5a+5b=0[/tex], tj. [tex]b=-a[/tex]; tada je [tex]6a+c=7[/tex] i [tex]2a+c=3[/tex], odakle je [tex]a=1[/tex], [tex]b=-1[/tex], [tex]c=1[/tex] i
[tex]f(x)=x^2-x+1[/tex]
Prava [tex]BD[/tex] ima koeficijent pravca [tex]\frac{7-3}{3+1}=1[/tex], pa je njena jednačina [tex]y=x+4[/tex], a [tex]BD=\sqrt{4^2+4^2}=4\sqrt{2}[/tex]. Dijagonala [tex]BD[/tex] deli [tex]ABCD[/tex] na trouglove [tex]ABD[/tex] i [tex]CBD[/tex], pri čemu [tex]A[/tex] i [tex]C[/tex] leže sa različitih strana prave [tex]BD[/tex].
Trougao [tex]ABD[/tex] je fiksiran: [tex]AD[/tex] leži na pravoj [tex]y=7[/tex], [tex]AD=5[/tex], a rastojanje tačke [tex]B[/tex] od te prave je [tex]4[/tex], pa je
[tex]S_{ABD}=\frac{1}{2}\cdot 5\cdot 4=10[/tex]
Tačka [tex]A[/tex] je iznad prave [tex]BD[/tex] (za [tex]x=-2[/tex] na pravoj je [tex]y=2\lt 7[/tex]), pa [tex]C[/tex] mora biti ispod nje:
[tex]x^2-x+1\lt x+4\Leftrightarrow (x+1)(x-3)\lt 0\Leftrightarrow -1\lt x\lt 3[/tex]
Neka je [tex]C\left(t; t^2-t+1\right)[/tex], gde je [tex]-1\lt t\lt 3[/tex]. Vertikalno rastojanje tačke [tex]C[/tex] od prave je [tex](t+4)-(t^2-t+1)=4-(t-1)^2[/tex], a pošto prava zaklapa ugao od [tex]45^\circ[/tex] sa osama, rastojanje tačke [tex]C[/tex] od [tex]BD[/tex] je [tex]\frac{4-(t-1)^2}{\sqrt{2}}[/tex]. Zato je
[tex]S_{CBD}=\frac{1}{2}\cdot 4\sqrt{2}\cdot \frac{4-(t-1)^2}{\sqrt{2}}=2\left(4-(t-1)^2\right)\le 8[/tex]
pri čemu jednakost važi samo za [tex]t=1[/tex], tj. za [tex]C(1; 1)[/tex] (tačka u kojoj je tangenta [tex]y=x[/tex] paralelna sa [tex]BD[/tex]). Za [tex]C(1; 1)[/tex] duži [tex]AC[/tex] i [tex]BD[/tex] seku se u tački [tex]\left(-\frac{1}{3}; \frac{11}{3}\right)[/tex], koja je unutrašnja za obe, pa je [tex]ABCD[/tex] zaista konveksan četvorougao sa dijagonalama [tex]AC[/tex] i [tex]BD[/tex]. Najveća površina je
[tex]S_{ABCD}=S_{ABD}+S_{CBD}=10+8=18[/tex]
