Versión -exacta- de Photoshop (supongo) y de sistema operativo?
Ha funcionado, en el mismo sistema, antes el filtro con imagenes de tamaño similar?
Si no lo habias probado indica por favor el procesador, memoria y tarjeta gráfica del equipo.
Normalmente el problema se debe a no estar actualizada la versión del program o el controlador de la tarjeta gráfica, pero sin ningun dato es dificil precisar.