Александр, приветствую!
Все-таки 26 ГГц, а не 24 ГГц и, очевидно, геометрические размеры (длина) не оптимальны. Во-вторых,- это неоднородности. Мне думается, что надо попробовать ввести подстроечные элементы (винты) на расстоянии четверти длины волны до и после трехступенчатого трансформатора, которые должны скомпенсировать реакцию неоднородностей.