Poste doch mal die Sektionen aus deiner /etc/X11/xorg.conf zu Monitor und Grafikkarte.
Kommentare und nicht aktive Optionen kannst du ja weglassen.
Ich könnte mir vorstellen, daß es evtl. ungünstige Horiz/Vert-Frequenzen sind
oder aktive Modelines, die nicht passen.
Poste doch auch mal die Ausgabe von
egrep "^\(WW\)|^\(EE\)" /var/log/Xorg.0.log