Đặt \(DM=x;\,BN=y\,\,\left( 0<x,\,y<1 \right)\)
Ta có \({{S}_{\Delta AMN}}={{S}_{ABCD}}-{{S}_{\Delta ABN}}-{{S}_{\Delta ADM}}-{{S}_{\Delta CMN}}\)\( =1-\frac{1}{2}\left[ x+y+\left( 1-x \right)\left( 1-y \right) \right]\)\( =\frac{1}{2}\left( 1-xy \right)\)
Xét tam giác vuông \(CMN\): \(M{{N}^{2}}\)\( ={{\left( 1-x \right)}^{2}}+{{\left( 1-y \right)}^{2}}\,\,\left( 1 \right)\).
Áp dụng định lí \(\cos \( cho tam giác \(\Delta AMN\): \(M{{N}^{2}}\)\( =A{{M}^{2}}+A{{N}^{2}}-2.AM.AN.\cos 45{}^\circ \)\( =1+{{x}^{2}}+1+{{y}^{2}}-\sqrt{2}.\sqrt{{{x}^{2}}+1}.\sqrt{{{y}^{2}}+1}\,\,\,\,\left( 2 \right)\)
Từ (1) và (2) suy ra
\(\begin{align}
& {{\left( 1-x \right)}^{2}}+{{\left( 1-y \right)}^{2}}=1+{{x}^{2}}+1+{{y}^{2}}-\sqrt{2}.\sqrt{{{x}^{2}}+1}.\sqrt{{{y}^{2}}+1} \\
& \Leftrightarrow 2x+2y=\sqrt{2\left( {{x}^{2}}+1 \right)\left( {{y}^{2}}+1 \right)} \\
& \Leftrightarrow {{x}^{2}}+{{y}^{2}}={{x}^{2}}{{y}^{2}}+1-4xy\,\,\left( 3 \right) \\
\end{align}\)
Ta có \({{x}^{2}}+{{y}^{2}}\ge 2xy\,\,\left( 4 \right)\)
Từ (3) và (4) suy ra \({{x}^{2}}{{y}^{2}}+1-4xy\ge 2xy\Leftrightarrow {{\left( xy \right)}^{2}}-6xy+1\ge 0\)
\(\Leftrightarrow \left[ \begin{align}
& xy\ge 3+2\sqrt{2}\,\,\left( loai \right) \\
& xy\le 3-2\sqrt{2} \\
\end{align} \right.\)
\(\Rightarrow \)\({{S}_{\Delta AMN}}=\frac{1}{2}\left( 1-xy \right)\ge \sqrt{2}-1\)
\(\Rightarrow \)\({{V}_{S.AMN}}=\frac{1}{3}.SA.{{S}_{\Delta AMN}}\ge \frac{\sqrt{2}-1}{3}\)
Dấu \(”=”\) xảy ra
\(\left\{ \begin{align}
& x=y \\
& xy=3-2\sqrt{2} \\
\end{align} \right.\Leftrightarrow x=y=\sqrt{3-2\sqrt{2}}\)
Vậy thể tích nhỏ nhất của khối chóp \(S.AMN\) bằng \(\frac{\sqrt{2}-1}{3}\)