برای حل این مسئله، فرض می‌کنیم سن برادر کوچکتر \( x \) سال باشد. بنابراین سن برادر بزرگتر \( x + 5 \) سال خواهد بود. سه سال دیگر، سن برادر کوچکتر \( x + 3 \) و سن برادر بزرگتر \( x + 8 \) خواهد بود. بنابراین معادله زیر را داریم:
\[
(x + 3)(x + 8) = 204
\]
با حل این معادله، داریم:
\[
x^2 + 8x + 3x + 24 = 204
\]
\[
x^2 + 11x + 24 = 204
\]
\[
x^2 + 11x - 180 = 0
\]
می‌توان با روش فرمول درجه دوم آن را حل کرد. برای این معادله داریم:
\[
x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a}
\]
که در اینجا \( a = 1 \)، \( b = 11 \) و \( c = -180 \) هستند:
\[
x = \frac{-11 \pm \sqrt{11^2 + 720}}{2}
\]
\[
x = \frac{-11 \pm \sqrt{841}}{2}
\]
\[
x = \frac{-11 \pm 29}{2}
\]
دو جواب ممکن است:
\[
x = \frac{18}{2} = 9
\]
\[
x = \frac{-40}{2} = -20
\]
اما چون سن نمی‌تواند منفی باشد، بنابراین سن برادر کوچکتر 9 سال و سن برادر بزرگتر 14 سال است.
