An sich kannst du jede Grafikkarte von jedem Hersteller einbauen, da alle so gut wie den selben Anschluss haben (nur aufpassen beim einbauen, dass die richtig rum liegt)
Da du aber ein, sagen wir mal, eher leistungsschwaches und veraltetes System hast würde sich ein Upgrade nicht groß lohnen, da die CPU bei den meisten Arbeiten auch sehr wichtig ist.

An deiner Stelle würde ich gleich in ein neues System investieren, falls dir "nur" eine Grafikkarte reicht, würde ich im Leistungsvergleich eine NVIDIA GTX 970TI empfehlen oder (eine Grafikkarte die du nicht ganz ausnutzen kannst, wegen des eher schlechtem Rests) eine GTX 1070ti die wohl immernoch im besten Preis-Leistungsverhältnis steht.

Hast du die aktuellsten Treiber heruntergeladen. Wenn es um die Anschlüsse des Mainboard geht einfach mal online nach dem Treiber (bzw den Treibern) suchen und installieren.