Parece que esse modelo de 5850 que recomendei, como tem um cooler especial, é mais comprido que o modelo normal da 5850. Possivelmente o modelo normal será mais indicado no teu caso por isso mesmo.
A 5850 normal tem mais 1/1,5cm que a 3870 pelo que apurei googlando, e ainda tem duas ligações que é preciso fazer na extremidade (3ª foto da seguinte página):
http://www.techpowerup.com/reviews/HIS/HD_5850/4.html
(no caso da 5870 a alimentação é feita não na extremidade mas no topo, o que é melhor em termos de espaço)
A 3870 é mais ou menos equivalente à 9600gt que aparece aqui:
http://www.techpowerup.com/reviews/ASUS ... Cu/28.html
Por cerca de 150€ tens a 5770 e por pouco mais de 200€ a 5830, ambas mais de acordo com o que tinhas proposto pagar.
No entanto a 5850 é um salto em termos de performance, daí recomendar-ta.