Tudo bem colega?
O GPON Password que você anotou está em hexadecimal, converta ele para ASCII.
Hexadecimal code to ASCII/Unicode text string translator.
www.rapidtables.com
É um pouco confuso mesmo, o campo GPON Password deve ser em 10 dígitos ASCII, o campo GPON Serial Number deve ser 16 dígitos hexadecimal. Por ser formatos diferentes nos dois campos, isso acaba induzindo ao erro.
No seu caso, coloque somente o GPON Password, deixe o GPON Serial Number conforme o padrão do TX-6610.
A parte de VLAN caso você tenha TV/Telefone deverá usar o modo transparente do TX-6610 e fazer o VLAN Tag e atribuição de portas pra Internet, TV e Telefone no roteador.
Caso você possua só Internet, pode optar por fazer ao VLAN Tag no próprio TX-6610 e transmitir somente a Vlan 10 (Internet) para a porta WAN do seu roteador, nesse caso não configure nada de VLAN no roteador, só a conexão PPPoE.
Observação, caso queira IPv6, a conexão IPv6 deve ser configurada como DHCPv6 PD (Preffix Delegation), o tamanho de prefixo até hoje só vi /64, mas deixe no automático que deve dar certo.
Eu particularmente estou fazendo o VLAN Tag no próprio TX-6610 pois estou usando Open WRT no meu roteador, ainda não sei configurar VLAN usando linha de comando e essa opção não existe na interface Luci.