Да ADIsimPLL примерно так и выдает для приведенного вами примера (не хватает частоты перегиба шумовой характеристики и уровня шума в этой точке для более точного расчета), это за счет большей частоты сравнения и деления частоты VCO на 2 если частотой шагнуть выше 2,2ГГц то делитель на выходе 1 и шум возрастает, с параметрами Гиацинта 5МГц для частоты 1.968ГГц ADIsimPLL выдает -92,5дБн/Гц@10кГц (что в принципе ожидаемо) И для простого умножения 10 МГц OCXO (-154 дБн/Гц @10 кГц) до 4500 имеем расчетные -100-101дБн/Гц@10кГц
Вот и вопрос стоит огород городить ради 6-8Дб разницы или нет....