]> git.sesse.net Git - ffmpeg/blobdiff - tests/checkasm/checkasm.c
Merge commit '15ee419b7abaf17f8c662c145fe93d3dbf43282b'
[ffmpeg] / tests / checkasm / checkasm.c
index f6719809e3b71a0f835e9ee2a0ee40a349767f17..ecfa5d2109d7f070e67898b20a3c523bb8122ff1 100644 (file)
@@ -217,7 +217,7 @@ int float_near_ulp(float a, float b, unsigned max_ulp)
         return a == b;
     }
 
-    if (abs(x.i - y.i) <= max_ulp)
+    if (llabs((int64_t)x.i - y.i) <= max_ulp)
         return 1;
 
     return 0;