Se tivesses 4GB RAM, diria que Vista x64, mas sendo assim, podes optar pelo XP x86, Vista x86 ou Ubuntu x86. Como não disseste o que ias fazer com o PC, inlcui o Linux, mas pela VGA dá para entender que queres jogar uns joguitos de xadrez
Não vais notar grande diferença entre DX9 e DX10, pelo menos nos FPS como o Crysis, a não ser que pares para admirar a paisagem. Em DX10 notas é uma quebra de fps por via da maior exigência de processamento do GPU.
Dado o teu CPU e RAM, eu diria para ficares pelo XP x86, até porque poupas algumas dores de cabeça com as compatibilidades.
Pessoalmente uso Vista x64, mas tenho um pouco mais de RAM e CPU que tu. Por enquanto não tenho problemas de compatibilidade, mas só é preciso um problema para estragar tudo. Como por exemplo uma Webcam ou uma Mobo um pouco mais antiga...
Se não ficaste convencido, escolhe um jogo DX10 e instala em Vista e em XP e logo vês a diferença de desempenho e qualidade gráfica.
"Os brinquedos das crianças e dos adultos diferem em duas coisas: tamanho e preço".