Így elsőre csak csúnya megoldásom van. Kéne legyen valami szép is.

Először azt kéne tudni, hol maximális az a*sin(x)+b*cos(x). Az egyszerűség kedvéért tegyük fel, hogy a, b > 0. Akkor x-et a 0 ... pi/2 intervallumban keressük. Szerintem menni kéne ennek elemi úton is, de deriváljuk most és nézzük a 0 helyét (szélsőérték keresés): d/dx(a sin x + b cos x) = a cos x - b sin x. Ennek a 0 helyére igaz, hogy tg x = a/b.

Ekkor, tudva, hogy tg x = a/b:

a sin x + b cos x = a*gyök((1-cos2x)/2)+b*gyök((1+cos2x)/2

Most az kell, hogy cos 2x = (1-tg^2(x))/(1+tg^2(x))=(b^2-a^2)/(a^2+b^2)

Ezt az előzőbe helyettesítve kijön.