Bom Dia
Primeiramente so deixo uma dica para vc, quando formatar um computador nao faça isso com a GV ja ligada no PC.
Segundo vc estar conectando a placa nos canais de saida de imagem e nao aparecer imagem nenhuma pode ser algum problema com Driver e Software.
Terceiro imagens aparecendo duplicado indica um problema na GV, ja vi este problema ser causado por drivers e software tambem, mais e muito dificil.
E mais um detalhe a GV nao possui incompatibilidade com a placa mae ASUS ate mesmo pq eu so utilizo esta placa que vc citou para os meu clientes.
Para verificar apenas os drivers e o software que vc esta usando me diga o que esta escrito na GV tipo GV 3.53/3.54 e que versao vc esta usando.
Ele alegou algum problema em sua camera, mais na verdade querendo dizer que se houver algum problema na instalação e se fechar algum curto na ligação da camera vc podera queimar uma das saidas de imagem da GV ou acabar fechando algum curto em suas polaridades
Qualquer duvida ou nvoidade volte a postar aqui para nos