Eu acho que você deve testar a memória separado do processador para você ter precisão sobre onde surge a instabilidade.... Para fazer isso eu recomendo você usar o XFR sem alterar nada nele, porque aí é certeza que o CPU é estável, depois teste sua memória e logo em seguida tente criar um parâmetro estável no XFR + memória, a partir daí você muda para o over manual no CPU e tenta ver se mantem estável, senão ficar, você já sabe que é o CPU/SOC, mas não a memória. Em relação aos timmings, cada memória, cada placa mãe possui um ajuste e amadurecimento do firmware, o que posso recomendar é que você siga a calculadora do usmus como uma base( De forma geral, todos meus perfis estáveis foram semelhantes aos timmings da calculadora) e tente ir fazendo testes até tentar reduzir esses erros ao mínimo ao ponto de faltar apenas um detalhe para a estabilidade. Claro, na prática é mais difícil, mas não há muito o que dizer, tem que ir testando.
Dicas básicas:
Um SOC estável em tal valor tende a ser o ideal para os outros parâmetro de overclock.
Descubra um Clock e um Vcore 100% estável para o seu CPU.
Se a memória começa a dar tela azul na inicialização, aumente a voltagem da memória.
Se você testar um perfil e ele tiver erros mínimo, ative o GMD e veja se os erros persistam...
etc...