Olá amigo,
Para distâncias pequenas vai funcionar sem problemas, mas para grandes distâncias provavelmente você vai ter perda de qualidade e talvez até perda do sinal de vídeo, pelo descasamento de impedância do cabo e dos equipamentos nas pontas.
Não tenho como afirmar se ficaria melhor a imagem, mas um teste básico seria verificar a imagem na saída da câmera com um monitor ligado direto na câmera e comparar com a imagem na ponta do cabo, se a imagem for similar então não teria diferença a utilização do cabo de 75ohms.
Uma outra alternativa é a utilização do cabo RF que também possui uma bitola bem mais fina que o RG59 e está disponível na impedância de 75ohms.
Um abraço