Si tenés una placa Nvidia moderna (700 para adelante), seguramente traiga ShadowPlay. La próxima VGA que compre va a tener Shadowplay.
Yo uso Bandicam con el codec H264 de AMD: http://www.bandicam.com/support/tips/h264-fourcc/
El DXStory también rinde.
Lo bueno de estos 2, comparado al Fraps, es que casi no afectan el framerate ingame. O sea, podés estar corriendo 100 FPS fijos y el video grabando a 30 o 60 fps sin impacto en el rendimiento.