]> git.sesse.net Git - narabu/blobdiff - encoder.shader
A sign fix in the FDCT.
[narabu] / encoder.shader
index c49a3feab0c3c06b3ec1d248f98f7d6cb982f4a1..7f0822acbf7779b2fbdee52ec7bd883837348c7f 100644 (file)
@@ -82,9 +82,9 @@ void dct_1d(inout float y0, inout float y1, inout float y2, inout float y3, inou
        const float p4_6 = p2_6 * a4 + (p2_4 - p2_6) * a5;
 
        // phase 5
-       const float p5_2 = p4_2 + p2_3;
-       const float p5_3 = p4_2 - p2_3;
-       const float p5_5 = p4_5 + p1_7;
+       const float p5_2 = p2_3 + p4_2;
+       const float p5_3 = p2_3 - p4_2;
+       const float p5_5 = p1_7 + p4_5;
        const float p5_7 = p1_7 - p4_5;
        
        // phase 6