Nem tudom, hogy pontosan mi a megoldandó problémád, de esetleg megpróbálkozhatsz azzal, hogy megfordítod a probléma bizonyos részeit, azaz a 2 radix alapú FFT-t használod az együtthatók kiszámítására, és a bemeneti adatsorodat alakítod át úgy, hogy a hossza 2 hatványa legyen - persze úgy, hogy a bemeneti "függvény" jellegét nem változtatod meg. Erre a legyegyszerűbb módszer (és a tapasztalatok szerint teljesen megfelelő), hogy a bemeneti adathalmazt egy egyszerű lineáris interpolációval "nyújtod ki" a szükséges hosszra, ezen pedig a normál FFT-kkel lehet ügyködni, a kapott együtthatók jelentése tkp. nem változik (az eredetiben is az adott felharmonikust jelenti).
Az egyik jelenlegi munkámban is így dolgozom, és a tapasztalatok alapján teljesen jól működik a dolog.