]> git.sesse.net Git - ffmpeg/commitdiff
avfilter/vf_v360: use lrintf() in kernel
authorPaul B Mahol <onemda@gmail.com>
Sat, 21 Sep 2019 08:45:15 +0000 (10:45 +0200)
committerPaul B Mahol <onemda@gmail.com>
Sat, 21 Sep 2019 09:00:28 +0000 (11:00 +0200)
libavfilter/vf_v360.c

index 8af7985435e009f9c988c09477230e4f1ce446b7..4f7d22f11e57cc9b2337f0b3107668131c7bd647 100644 (file)
@@ -353,10 +353,10 @@ static void bilinear_kernel(float du, float dv, const XYRemap *rmap,
         }
     }
 
-    ker[0] = (1.f - du) * (1.f - dv) * 16385;
-    ker[1] =        du  * (1.f - dv) * 16385;
-    ker[2] = (1.f - du) *        dv  * 16385;
-    ker[3] =        du  *        dv  * 16385;
+    ker[0] = lrintf((1.f - du) * (1.f - dv) * 16385.f);
+    ker[1] = lrintf(       du  * (1.f - dv) * 16385.f);
+    ker[2] = lrintf((1.f - du) *        dv  * 16385.f);
+    ker[3] = lrintf(       du  *        dv  * 16385.f);
 }
 
 /**
@@ -399,7 +399,7 @@ static void bicubic_kernel(float du, float dv, const XYRemap *rmap,
         for (int j = 0; j < 4; j++) {
             u[i * 4 + j] = rmap->u[i][j];
             v[i * 4 + j] = rmap->v[i][j];
-            ker[i * 4 + j] = du_coeffs[j] * dv_coeffs[i] * 16385;
+            ker[i * 4 + j] = lrintf(du_coeffs[j] * dv_coeffs[i] * 16385.f);
         }
     }
 }
@@ -452,7 +452,7 @@ static void lanczos_kernel(float du, float dv, const XYRemap *rmap,
         for (int j = 0; j < 4; j++) {
             u[i * 4 + j] = rmap->u[i][j];
             v[i * 4 + j] = rmap->v[i][j];
-            ker[i * 4 + j] = du_coeffs[j] * dv_coeffs[i] * 16385;
+            ker[i * 4 + j] = lrintf(du_coeffs[j] * dv_coeffs[i] * 16385.f);
         }
     }
 }