а) Пусть диагонали AC и BD пересекаются в точке O, \(BN = x,\) \(ND = 3x,\) \(NO = x,\) \(AM = 2y,\) \(MC = 4y,\) \(MO = y.\) Пусть прямая MN пересекает стороны BC и AD в точках K и P соответственно. По теореме Менелая для треугольника CBO и прямой MN:
\(\dfrac{{CK}}{{KB}} \cdot \dfrac{{BN}}{{NO}} \cdot \dfrac{{OM}}{{MC}} = 1\,\,\,\,\, \Leftrightarrow\)
\(\Leftrightarrow \,\,\,\,\,\dfrac{{CK}}{{KB}} \cdot \dfrac{x}{x} \cdot \dfrac{y}{{4y}} = 1\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\dfrac{{CK}}{{KB}} = 4.\)
Пусть \(BK = a,\) тогда \(CK = 4a\) и \(BC = 5a.\) Прямоугольные треугольники BNK и DPN подобны (\(\angle BNK = \angle PND\) как вертикальные). Следовательно: \(\dfrac{{BK}}{{PD}} = \dfrac{{BN}}{{ND}}\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\dfrac{a}{{PD}} = \dfrac{x}{{3x}}\,\,\,\,\, \Leftrightarrow \,\,\,\,\,PD = 3a.\) Проведём через точку B прямую, параллельную прямой KP, которая пересекает AD в точке H. Четырёхугольник PHBK является прямоугольником, поэтому \(PH = BK = a.\) Следовательно, \(AH = AD-HP-PD = 5a-a-3a = a.\) По определению косинуса из прямоугольного треугольника ABH: \(\cos \angle BAD = \dfrac{{AH}}{{AB}} = \dfrac{a}{{5a}} = \dfrac{1}{5}.\) Что и требовалось доказать.
б) Пусть \(\angle BAC = \angle DAC = \alpha .\) Тогда \(\angle AMP = \angle MNO = {90^ \circ }-\alpha \) и \(\angle MNO = \alpha .\) Так как: \(\cos 2\alpha = \dfrac{1}{5},\) то:
\(2{\cos ^2}\alpha -1 = \dfrac{1}{5}\,\,\,\,\, \Leftrightarrow \,\,\,\,\,\cos \alpha = \sqrt {\dfrac{{\dfrac{6}{5}}}{2}} = \sqrt {\dfrac{3}{5}} .\)
В треугольнике MNO: \(NO = MN \cdot \cos \alpha = 5 \cdot \sqrt {\dfrac{3}{5}} = \sqrt {15} ,\) значит: \(BD = 4NO = 4\sqrt {15} .\) Используя основное тригонометрическое тождество:
\(\sin \alpha = \sqrt {1-{{\cos }^2}\alpha } = \sqrt {1-{{\left( {\sqrt {\dfrac{3}{5}} } \right)}^2}} = \sqrt {\dfrac{2}{5}} .\)
Тогда \(MO = MN \cdot \sin \alpha = 5 \cdot \sqrt {\dfrac{2}{5}} = \sqrt {10} ,\) значит: \(AC = 6MO = 6\sqrt {10} .\) Следовательно:
\({S_{ABCD}} = \dfrac{1}{2} \cdot AC \cdot BD = \dfrac{1}{2} \cdot 6\sqrt {10} \cdot 4\sqrt {15} = 60\sqrt 6 .\)
Ответ: \(60\sqrt 6 .\)