Zu 1.
Schau mal, ob du das Paket diffutils installiert hast. Wenn nicht, dann nachinstallieren.
Zu 2.
Ich vermute, daß deine xorg.conf in der Screen-Section keine Angaben zu den
Modes enthält. Deshalb wird aus Monitor+GraKa versucht das Maximale rauszuholen.
Die Beschränkung auf 1024x786 solltest du erreichen indem du deine xorg.conf
in etwas so anpaßt:
Section "Screen"
...
DefaultDepth 24
SubSection "Display"
Depth 24
Modes "1024x768" "800x600" "640x480"
EndSubSection
...
Diese Mode-Zeile halt für alle Farbtiefen die du verwendest.
Durch das letzte Update auf Xorg 7.3 ist der Xserver nicht mehr auf eine xorg.conf
angewiesen. Wenn diese nicht vorhanden ist wird intern eine erstellt.