Die Speicherriegel passen von Haus aus schon mal schlecht zusammen.

Entweder 3x den gleichen oder besser nur die 2x1gb drin lassen.

Sind die von der Taktung gleich ?

Das mit dem AGP is auch noch ein Tipp. Richtig. CPUz oder im Bios die AGP Taktung checken. Vielleicht ist auch die AGP Memory Size falsch eingestellt.