Без картинок, конечно трудно понять, о чём речь, но возможно, на водопаде WSJT-X, вы видите неравномерность своей АЧХ, а на WSJT этого не было видно с включенным "Flatten Spectra", у WSJTX подобная функция "Flatten" то же есть (галочка в меню водопада) но работают они визуально, по разному.
Вот примеры "горбатой" АЧХ, которая на водопаде WSJTX будет неравномерно расцвечена, и АЧХ ровной.
У себя, можете проверить, включив WSJT в FSK441 mode, там есть окошко.