Было такое со стандартным монитором samsung 740N. Только карточка была gf440 mx2, максимальное разрешение не выставлялось с проприетарными дровами, а с nv все работало. А вы не пробовали nv драйвер? Сейчас активно пилится nouvea, почему-то из альта он пропал хотя в 3.0 был.