]> git.sesse.net Git - ffmpeg/commitdiff
swscale: fix NEON hscale init
authorJosh de Kock <josh@itanimul.li>
Thu, 7 May 2020 11:01:16 +0000 (12:01 +0100)
committerJosh de Kock <josh@itanimul.li>
Fri, 15 May 2020 09:29:30 +0000 (10:29 +0100)
The NEON hscale function only supports X8 filter sizes and should only
be selected when these are being used. At the moment filterAlign is
set to 8 but in the future when extra NEON assembly for specific sizes is
added they will need to have checks here too.

The immediate usecase for this change is making the hscale checkasm
test easier and without NEON specific edge-cases (x86 already has these
guards).

Signed-off-by: Josh de Kock <josh@itanimul.li>
libswscale/aarch64/swscale.c

index 54a3beabe856e91fb61d8164f08ba4914325a87e..eecbea88ca8e8ed14108ad252cc36faf2fd17c41 100644 (file)
@@ -34,7 +34,10 @@ av_cold void ff_sws_init_swscale_aarch64(SwsContext *c)
     int cpu_flags = av_get_cpu_flags();
 
     if (have_neon(cpu_flags)) {
-        if (c->srcBpc == 8 && c->dstBpc <= 14) {
+        if (c->srcBpc == 8 && c->dstBpc <= 14 &&
+            (c->hLumFilterSize % 8) == 0 &&
+            (c->hChrFilterSize % 8) == 0)
+        {
             c->hyScale = c->hcScale = ff_hscale_8_to_15_neon;
         }
         if (c->dstBpc == 8) {