Jeszcze raz zapytam - czy odinstalowałeś całkowicie GF Experience i 3d vision? Przy instalacji nowych sterowników należy wejść w opcje zaawansowane i odznaczyć te 2 opcje (domyślnie wszystko się zaznacza).
RAM polecam Kingston HyperX Fury 2x 8 GB możesz spróbować np takie: https://www.ceneo.pl/29410533
Wcześniej jednak radzę na próbę włożyć więcej RAM w sklepie i sprawdzić, czy pomoże.
Gdybym był na Twoim miejscu zacząłbym od instalacji Win 7 (10 to dla mnie szpiegujący szajs).