Dread,
такие артефакты возникают при переразгоне памяти и/или подаче завышенного напряжения на чипы памяти. Попробуй снизить частоту памяти программами, предназначенными для этих целей (напр. RivaTuner). Если после этого артефакты исчезнут, надо будет прошить биос видеокарты с полученными частотами.
Как сказал Snatch, возможно поможет снижение частоты чипа. Но лучше понизить частоту памяти - меньше потеряешь в производительности.