O melhor programa que tens para esse tipo de tarefas (que na realidade e um "pack" de programas) é o GordianKnot.
Quanto ao Codec de video, recomendo-te o XviD ou DivX5, devido as suas excelente taxas de compressao (pessoalmente prefiro o primeiro).
Atenção que deveras ter tambem em conta que um filme com muitas cores brilhantes, imagens rapidas (assim tipo o Moulin Rouge) ficarao com uma fraca qualidade quando apenas colocados em um CD (700Mb). Não so pelas suas imagens rapidas e brilhante mas tambem pela duração.
Resumindo, quando fores converter um DVD para DivX/XviD teras de ter em conta as seguintes caracteristicas do filme:
-duração (1h30/1h40 - 700Mb (1 CD). Acima dessa duração aconselho-te 1400Mb (2 CD's))
-se e um filme rapido ou com cores muito brilhante, ou o contrario (pode ser determinante para escolheres o tamanho final do filme, pois certos filmes de, por ex., 1h50 conseguimos colocar apenas num CD)
-o numero de passos com que irás converter o video
Atenção que a qualidade de som que escolhes tambem e muito importe, pois quanto mais qualidade de som tiveres, menor será a de video, e vice-verça, logo teras de encontrar um meio-termo.
Podes sempre visitar este site e o seu forum, pois la poderás esclarecer todas as tuas duvidas:
http://www.doom9.org/