Olá amigo!
Pela sua descrição parece algum problema com o sistema de cor da câmera ou da placa de captura. Verifique se a câmera é NTSC ou PAL, e ajuste a configuração da placa de captura de acordo com o sistema da câmera.
Em alguns sistemas é necessário reinstalar o software para escolher o sistema de cor, não sei te informar quanto a VTV.
Outro detalhe esta configuração geralmente é única para todas as câmeras, ou seja todas devem ser NTSC ou PAL, não podendo misturar os dois tipos no mesmo sistema.
Abraço
Marcelo Peres
Guia do CFTV