]> git.sesse.net Git - ffmpeg/blob - libavcodec/ttaencdsp.c
avcodec/wmv2dec: Check end of bitstream in parse_mb_skip() and ff_wmv2_decode_mb()
[ffmpeg] / libavcodec / ttaencdsp.c
1 /*
2  * This file is part of FFmpeg.
3  *
4  * FFmpeg is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * FFmpeg is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with FFmpeg; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
17  */
18
19 #include "libavutil/attributes.h"
20 #include "ttaencdsp.h"
21 #include "config.h"
22
23 static void ttaenc_filter_process_c(int32_t *qm, int32_t *dx, int32_t *dl,
24                                     int32_t *error, int32_t *in, int32_t shift,
25                                     int32_t round) {
26     if (*error < 0) {
27         qm[0] -= dx[0]; qm[1] -= dx[1]; qm[2] -= dx[2]; qm[3] -= dx[3];
28         qm[4] -= dx[4]; qm[5] -= dx[5]; qm[6] -= dx[6]; qm[7] -= dx[7];
29     } else if (*error > 0) {
30         qm[0] += dx[0]; qm[1] += dx[1]; qm[2] += dx[2]; qm[3] += dx[3];
31         qm[4] += dx[4]; qm[5] += dx[5]; qm[6] += dx[6]; qm[7] += dx[7];
32     }
33
34     round += dl[0] * qm[0] + dl[1] * qm[1] + dl[2] * qm[2] + dl[3] * qm[3] +
35              dl[4] * qm[4] + dl[5] * qm[5] + dl[6] * qm[6] + dl[7] * qm[7];
36
37     dx[0] = dx[1]; dx[1] = dx[2]; dx[2] = dx[3]; dx[3] = dx[4];
38     dl[0] = dl[1]; dl[1] = dl[2]; dl[2] = dl[3]; dl[3] = dl[4];
39
40     dx[4] = ((dl[4] >> 30) | 1);
41     dx[5] = ((dl[5] >> 30) | 2) & ~1;
42     dx[6] = ((dl[6] >> 30) | 2) & ~1;
43     dx[7] = ((dl[7] >> 30) | 4) & ~3;
44
45     dl[4] = -dl[5]; dl[5] = -dl[6];
46     dl[6] = *in - dl[7]; dl[7] = *in;
47     dl[5] += dl[6]; dl[4] += dl[5];
48
49     *in -= (round >> shift);
50     *error = *in;
51 }
52
53 av_cold void ff_ttaencdsp_init(TTAEncDSPContext *c)
54 {
55     c->filter_process = ttaenc_filter_process_c;
56
57     if (ARCH_X86)
58         ff_ttaencdsp_init_x86(c);
59 }