Desativa o overclock no monitor (no menu dele tem a opção) e faz o teste primeiro se vai aceitar os 144hz. Ai depois, se não for, vamos a possíveis questões:
Tu instalou o driver do monitor? Tá usando driver mais novo, ou mais antigo da Nvidia?
Você tem como dizer na hora que cria a resolução pelo CRU ou no NCP a quantas fica o pixel clock de saída? Se for algo além deou igual a 540 pra confirmar?
Da uma olhada na situação abaixo pra saber, e no NCP tem no tópico dedicado aqui na área (de overclock do monitor etc.), o valor sempre é mostrado pelo painel da Nvidia e AMD também.
Pra tentar a custom com possibilidade de sucesso pelo cru, tenta o seguinte:
Edita o monitor fazendo a situação acima e adicionando o seguinte caso não esteja (as opções marcadas também):
V Rate 30 - 144
H Rate 34 - 209
O Max pixel se não estiver setado após o patch, joga ele para 740. Depois disso vai na detailed e cria a resolução com a resolução e frequência.
Pra essa resolução, a saída DP teria que ir ao necessário que seria algo de 530mhz + (tem os poréns abaixo que não caem exatamente nesse valor), por isso a pergunta lá acima.
Eu sei que se ainda assim não for, tu pode testar descer a taxa de atualização até algo por volta dos 128-130, se for o caso de limitação da saída da VGA via DP, pois achei isso aqui:
http://en.community.dell.com/support-forums/desktop/f/3515/t/19663064?pi21953=2
https://forums.geforce.com/default/...support-for-120hz-on-displays-above-1080p-/1/
Sendo DP 1.2/2a é 540mhz o máximo, mas como tem os poréns de ajuste de timings CVT esse valor de "530. algo" que seriam os supostos necessários pra ter a resolução funcionando com o monitor sobe pra mais, e pode ser esse o motivo todo do problema de não pegar tal refresh, o necessário é 586.586mhz dito pelo painel da Nvidia.
Os valores pelo CRU ou até pelo Nvidia CP seria algo do tipo em, valor bruto:
Horizontal Freq:
221,970
Vert Freq:
143,856
Pixel Clock:
605,978
Sendo que no total de pixels horizontal: 2.730, e vertical: 1.543,0, e isso resultou usando a tabela oficial CVT / Vesa, pra 1440p @ 144hz. Se não bater algo similar o monitor não vai dar vídeo mesmo, sai de sync (idem caso realmente a vga não vá além como foi dito nos tópicos acima).
Tentaria também ao invés de por como RGB 4:4:4, descer pra 4:2:2 (espaço limitado ou 16-255 dependendo do que mostra no painel da Nvidia) na saída de vídeo, com isso tem diminuição de banda e pode ser que role (claro que as cores não vão ser tão boas).