Решение:Пусть [tex]K[/tex] и [tex]L[/tex] — середины [tex]AB[/tex] и [tex]CD[/tex]. В равнобедренном треугольнике [tex]ABM[/tex] медиана [tex]MK[/tex] является и высотой, [tex]MK\perp AB[/tex]; так как [tex](ABM)\perp(ABCD)[/tex], то [tex]MK\perp(ABCD)[/tex], т.е. [tex]MK=h[/tex] — высота пирамиды.
Воспользуемся следующим фактом: если плоскость [tex]\beta[/tex] перпендикулярна плоскости [tex]\gamma[/tex] и [tex]O'[/tex] — ортогональная проекция точки [tex]O[/tex] на [tex]\gamma[/tex], то расстояние от [tex]O[/tex] до [tex]\beta[/tex] равно расстоянию от [tex]O'[/tex] до прямой [tex]\beta\cap\gamma[/tex] (прямая [tex]OO'[/tex] параллельна [tex]\beta[/tex], а перпендикуляр в [tex]\gamma[/tex] из [tex]O'[/tex] к [tex]\beta\cap\gamma[/tex] перпендикулярен [tex]\beta[/tex]).
Предположим, что в пирамиду вписана сфера с центром [tex]O[/tex] и радиусом [tex]\rho[/tex]; тогда точка [tex]O[/tex] лежит внутри пирамиды и удалена на расстояние [tex]\rho[/tex] от всех пяти граней.
Во-первых, [tex]AB\perp KL[/tex] и [tex]AB\perp MK[/tex], поэтому [tex]AB\perp(MKL)[/tex], а также [tex]CD\perp(MKL)[/tex], так как [tex]CD\parallel AB[/tex]. Значит, плоскости [tex](ABCD)[/tex], [tex](ABM)[/tex], [tex](CDM)[/tex] перпендикулярны [tex](MKL)[/tex] и пересекают её по прямым [tex]KL[/tex], [tex]KM[/tex], [tex]LM[/tex]. Проекция пирамиды на [tex](MKL)[/tex] — треугольник [tex]MKL[/tex] ([tex]A[/tex] и [tex]B[/tex] проектируются в [tex]K[/tex], а [tex]C[/tex] и [tex]D[/tex] — в [tex]L[/tex]), поэтому проекция [tex]O'[/tex] точки [tex]O[/tex] лежит внутри этого треугольника на расстоянии [tex]\rho[/tex] от трёх его сторон. Итак, [tex]O'[/tex] — центр окружности, вписанной в [tex]\triangle MKL[/tex], и [tex]\rho=r_1[/tex] — её радиус.
Во-вторых, [tex]BC\perp AB[/tex] и [tex]BC\perp MK[/tex], поэтому [tex]BC\perp(ABM)[/tex], а также [tex]AD\perp(ABM)[/tex]. Значит, плоскости [tex](ABCD)[/tex], [tex](BCM)[/tex], [tex](ADM)[/tex] перпендикулярны [tex](ABM)[/tex] и пересекают её по [tex]AB[/tex], [tex]BM[/tex], [tex]AM[/tex]. Проекция пирамиды на [tex](ABM)[/tex] — треугольник [tex]ABM[/tex], и точно так же [tex]\rho=r_2[/tex] — радиус окружности, вписанной в [tex]\triangle ABM[/tex]. Следовательно, должно быть [tex]r_1=r_2[/tex].
Оба треугольника имеют площадь [tex]\frac{ah}{2}[/tex]: [tex]\triangle MKL[/tex] прямоугольный с прямым углом при вершине [tex]K[/tex] и катетами [tex]h[/tex] и [tex]KL=a[/tex], а [tex]\triangle ABM[/tex] имеет основание [tex]a[/tex], высоту [tex]h[/tex] и боковые стороны [tex]AM=BM=\sqrt{h^2+\frac{a^2}{4}}[/tex]. По формуле [tex]r=\frac{2S}{P}[/tex] ([tex]S[/tex] — площадь, [tex]P[/tex] — периметр)
[tex]r_1=\frac{ah}{a+h+\sqrt{a^2+h^2}}; \quad r_2=\frac{ah}{a+\sqrt{a^2+4h^2}}[/tex]
Но
[tex]\left(h+\sqrt{a^2+h^2}\right)^2=a^2+2h^2+2h\sqrt{a^2+h^2}\gt a^2+2h^2+2h\cdot h=a^2+4h^2[/tex]
поэтому [tex]h+\sqrt{a^2+h^2}\gt\sqrt{a^2+4h^2}[/tex] и [tex]r_1\lt r_2[/tex]. Это противоречие показывает, что в пирамиду нельзя вписать сферу.
