IDirect3D9::CheckDeviceMultiSampleType
http://msdn.microsoft.com/ru-ru/library/windows/desktop/bb174311(v=vs.85).aspx
Код
HRESULT CheckDeviceMultiSampleType(
[in] UINT Adapter,
[in] D3DDEVTYPE DeviceType,
[in] D3DFORMAT SurfaceFormat,
[in] BOOL Windowed,
[in] D3DMULTISAMPLE_TYPE MultiSampleType,
[out] DWORD *pQualityLevels
);
D3DADAPTER_DEFAULT
D3DDEVTYPE_HAL
d3dFormat
FALSE
D3DMultiSampleType( FSAA )
NULL
где FSAA - Full-Scene Antialiasing
Ответ по FSAA , по шейдерам нужны конкретные вопросы, а не расплывчатые формулировки типа: "мне не нравится как оно выглядит".