Андрей, ЗДР!
Здесь несколько не совсем корректных моментов (из топологии).
1. Вряд ли оправдано применение фильтра 6 порядка - обычно применяются в широкополосных (сверхширокополосных) устройствах, например в SAT - конвертерах нужно получить полосу 2 ГГц (это 20% для 11 ГГц). У нас можно сказать, вообще одночастотный вариант - для ПЧ 432М достаточно 3 порядка, для 144М - 4 порядка. Как следствие компенсации затухания от вносимых потерь - необходимо компенсировать увеличением усиления. От этого остальные проблемы. Если возбуд только в РА - попробуй в предпоследнем (двухкаскадном) каскаде (это чтобы ничего не переделывать) установить SGA6489 - у нее нормированный Ft ок 3,5 ГГц, на 5,7 ГГц Ку более 10 дБ, при этом более высокая устойчивость. Если нет таких - см. сейчас напишу в Е-мейл.
2.
Прямое включение МПЛ фильтра
резко "сваливает" устойчивость каскада - одинаково, как по входу, так и по выходу. Проверено неоднократно. Физически - это прямое включение "подков" фильтра к Вх/Вых (как излучателей)
...ВЧ току есть где "разгуляться"...
Лечится легко - разрезается МПЛ подключения Вх и (или) Вых и в разрыв впаивается конденсатор. Причем паять его лучше прямо в центр полоски МПЛ фильтра (в то место где программы "рисуют" порт подключения). Обычно всегда хочется добиться полного включения для уменьшения потерь, но специально проверял (в устойчивом каскаде) на Кпередачи без емкости (прямое включение) и с конденсатором. Мало того - с конденсатором (С=0,47...0,68...1пФ - для частОт 2...6ГГц) - Кпередачи обычно лучше - из-за более полноценной реализации МПЛ фильтра от меньшего шунтирования Вх/Вых звеньев фильтра. 73!