]> git.sesse.net Git - ffmpeg/blob - libavcodec/snow.h
Merge commit '49623f531972be5dc2dd8c1b4b8748cad7c424ff'
[ffmpeg] / libavcodec / snow.h
1 /*
2  * Copyright (C) 2004 Michael Niedermayer <michaelni@gmx.at>
3  * Copyright (C) 2006 Robert Edele <yartrebo@earthlink.net>
4  *
5  * This file is part of FFmpeg.
6  *
7  * FFmpeg is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * FFmpeg is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with FFmpeg; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #ifndef AVCODEC_SNOW_H
23 #define AVCODEC_SNOW_H
24
25 #include "libavutil/motion_vector.h"
26
27 #include "hpeldsp.h"
28 #include "me_cmp.h"
29 #include "qpeldsp.h"
30 #include "snow_dwt.h"
31
32 #include "rangecoder.h"
33 #include "mathops.h"
34
35 #define FF_MPV_OFFSET(x) (offsetof(MpegEncContext, x) + offsetof(SnowContext, m))
36 #include "mpegvideo.h"
37 #include "h264qpel.h"
38
39 #define MID_STATE 128
40
41 #define MAX_PLANES 4
42 #define QSHIFT 5
43 #define QROOT (1<<QSHIFT)
44 #define LOSSLESS_QLOG -128
45 #define FRAC_BITS 4
46 #define MAX_REF_FRAMES 8
47
48 #define LOG2_OBMC_MAX 8
49 #define OBMC_MAX (1<<(LOG2_OBMC_MAX))
50 typedef struct BlockNode{
51     int16_t mx;
52     int16_t my;
53     uint8_t ref;
54     uint8_t color[3];
55     uint8_t type;
56 //#define TYPE_SPLIT    1
57 #define BLOCK_INTRA   1
58 #define BLOCK_OPT     2
59 //#define TYPE_NOCOLOR  4
60     uint8_t level; //FIXME merge into type?
61 }BlockNode;
62
63 static const BlockNode null_block= { //FIXME add border maybe
64     .color= {128,128,128},
65     .mx= 0,
66     .my= 0,
67     .ref= 0,
68     .type= 0,
69     .level= 0,
70 };
71
72 #define LOG2_MB_SIZE 4
73 #define MB_SIZE (1<<LOG2_MB_SIZE)
74 #define ENCODER_EXTRA_BITS 4
75 #define HTAPS_MAX 8
76
77 typedef struct x_and_coeff{
78     int16_t x;
79     uint16_t coeff;
80 } x_and_coeff;
81
82 typedef struct SubBand{
83     int level;
84     int stride;
85     int width;
86     int height;
87     int qlog;        ///< log(qscale)/log[2^(1/6)]
88     DWTELEM *buf;
89     IDWTELEM *ibuf;
90     int buf_x_offset;
91     int buf_y_offset;
92     int stride_line; ///< Stride measured in lines, not pixels.
93     x_and_coeff * x_coeff;
94     struct SubBand *parent;
95     uint8_t state[/*7*2*/ 7 + 512][32];
96 }SubBand;
97
98 typedef struct Plane{
99     int width;
100     int height;
101     SubBand band[MAX_DECOMPOSITIONS][4];
102
103     int htaps;
104     int8_t hcoeff[HTAPS_MAX/2];
105     int diag_mc;
106     int fast_mc;
107
108     int last_htaps;
109     int8_t last_hcoeff[HTAPS_MAX/2];
110     int last_diag_mc;
111 }Plane;
112
113 typedef struct SnowContext{
114     AVClass *class;
115     AVCodecContext *avctx;
116     RangeCoder c;
117     MECmpContext mecc;
118     HpelDSPContext hdsp;
119     QpelDSPContext qdsp;
120     VideoDSPContext vdsp;
121     H264QpelContext h264qpel;
122     MpegvideoEncDSPContext mpvencdsp;
123     SnowDWTContext dwt;
124     AVFrame *input_picture;              ///< new_picture with the internal linesizes
125     AVFrame *current_picture;
126     AVFrame *last_picture[MAX_REF_FRAMES];
127     uint8_t *halfpel_plane[MAX_REF_FRAMES][4][4];
128     AVFrame *mconly_picture;
129 //     uint8_t q_context[16];
130     uint8_t header_state[32];
131     uint8_t block_state[128 + 32*128];
132     int keyframe;
133     int always_reset;
134     int version;
135     int spatial_decomposition_type;
136     int last_spatial_decomposition_type;
137     int temporal_decomposition_type;
138     int spatial_decomposition_count;
139     int last_spatial_decomposition_count;
140     int temporal_decomposition_count;
141     int max_ref_frames;
142     int ref_frames;
143     int16_t (*ref_mvs[MAX_REF_FRAMES])[2];
144     uint32_t *ref_scores[MAX_REF_FRAMES];
145     DWTELEM *spatial_dwt_buffer;
146     DWTELEM *temp_dwt_buffer;
147     IDWTELEM *spatial_idwt_buffer;
148     IDWTELEM *temp_idwt_buffer;
149     int *run_buffer;
150     int colorspace_type;
151     int chroma_h_shift;
152     int chroma_v_shift;
153     int spatial_scalability;
154     int qlog;
155     int last_qlog;
156     int lambda;
157     int lambda2;
158     int pass1_rc;
159     int mv_scale;
160     int last_mv_scale;
161     int qbias;
162     int last_qbias;
163 #define QBIAS_SHIFT 3
164     int b_width;
165     int b_height;
166     int block_max_depth;
167     int last_block_max_depth;
168     int nb_planes;
169     Plane plane[MAX_PLANES];
170     BlockNode *block;
171 #define ME_CACHE_SIZE 1024
172     unsigned me_cache[ME_CACHE_SIZE];
173     unsigned me_cache_generation;
174     slice_buffer sb;
175     int memc_only;
176     int no_bitstream;
177     int intra_penalty;
178     int motion_est;
179     int iterative_dia_size;
180
181     MpegEncContext m; // needed for motion estimation, should not be used for anything else, the idea is to eventually make the motion estimation independent of MpegEncContext, so this will be removed then (FIXME/XXX)
182
183     uint8_t *scratchbuf;
184     uint8_t *emu_edge_buffer;
185
186     AVMotionVector *avmv;
187     int avmv_index;
188 }SnowContext;
189
190 /* Tables */
191 extern const uint8_t * const ff_obmc_tab[4];
192 extern uint8_t ff_qexp[QROOT];
193 extern int ff_scale_mv_ref[MAX_REF_FRAMES][MAX_REF_FRAMES];
194
195 /* C bits used by mmx/sse2/altivec */
196
197 static av_always_inline void snow_interleave_line_header(int * i, int width, IDWTELEM * low, IDWTELEM * high){
198     (*i) = (width) - 2;
199
200     if (width & 1){
201         low[(*i)+1] = low[((*i)+1)>>1];
202         (*i)--;
203     }
204 }
205
206 static av_always_inline void snow_interleave_line_footer(int * i, IDWTELEM * low, IDWTELEM * high){
207     for (; (*i)>=0; (*i)-=2){
208         low[(*i)+1] = high[(*i)>>1];
209         low[*i] = low[(*i)>>1];
210     }
211 }
212
213 static av_always_inline void snow_horizontal_compose_lift_lead_out(int i, IDWTELEM * dst, IDWTELEM * src, IDWTELEM * ref, int width, int w, int lift_high, int mul, int add, int shift){
214     for(; i<w; i++){
215         dst[i] = src[i] - ((mul * (ref[i] + ref[i + 1]) + add) >> shift);
216     }
217
218     if((width^lift_high)&1){
219         dst[w] = src[w] - ((mul * 2 * ref[w] + add) >> shift);
220     }
221 }
222
223 static av_always_inline void snow_horizontal_compose_liftS_lead_out(int i, IDWTELEM * dst, IDWTELEM * src, IDWTELEM * ref, int width, int w){
224         for(; i<w; i++){
225             dst[i] = src[i] + ((ref[i] + ref[(i+1)]+W_BO + 4 * src[i]) >> W_BS);
226         }
227
228         if(width&1){
229             dst[w] = src[w] + ((2 * ref[w] + W_BO + 4 * src[w]) >> W_BS);
230         }
231 }
232
233 /* common code */
234
235 int ff_snow_common_init(AVCodecContext *avctx);
236 int ff_snow_common_init_after_header(AVCodecContext *avctx);
237 void ff_snow_common_end(SnowContext *s);
238 void ff_snow_release_buffer(AVCodecContext *avctx);
239 void ff_snow_reset_contexts(SnowContext *s);
240 int ff_snow_alloc_blocks(SnowContext *s);
241 int ff_snow_frame_start(SnowContext *s);
242 void ff_snow_pred_block(SnowContext *s, uint8_t *dst, uint8_t *tmp, ptrdiff_t stride,
243                      int sx, int sy, int b_w, int b_h, const BlockNode *block,
244                      int plane_index, int w, int h);
245 int ff_snow_get_buffer(SnowContext *s, AVFrame *frame);
246 /* common inline functions */
247 //XXX doublecheck all of them should stay inlined
248
249 static inline void snow_set_blocks(SnowContext *s, int level, int x, int y, int l, int cb, int cr, int mx, int my, int ref, int type){
250     const int w= s->b_width << s->block_max_depth;
251     const int rem_depth= s->block_max_depth - level;
252     const int index= (x + y*w) << rem_depth;
253     const int block_w= 1<<rem_depth;
254     BlockNode block;
255     int i,j;
256
257     block.color[0]= l;
258     block.color[1]= cb;
259     block.color[2]= cr;
260     block.mx= mx;
261     block.my= my;
262     block.ref= ref;
263     block.type= type;
264     block.level= level;
265
266     for(j=0; j<block_w; j++){
267         for(i=0; i<block_w; i++){
268             s->block[index + i + j*w]= block;
269         }
270     }
271 }
272
273 static inline void pred_mv(SnowContext *s, int *mx, int *my, int ref,
274                            const BlockNode *left, const BlockNode *top, const BlockNode *tr){
275     if(s->ref_frames == 1){
276         *mx = mid_pred(left->mx, top->mx, tr->mx);
277         *my = mid_pred(left->my, top->my, tr->my);
278     }else{
279         const int *scale = ff_scale_mv_ref[ref];
280         *mx = mid_pred((left->mx * scale[left->ref] + 128) >>8,
281                        (top ->mx * scale[top ->ref] + 128) >>8,
282                        (tr  ->mx * scale[tr  ->ref] + 128) >>8);
283         *my = mid_pred((left->my * scale[left->ref] + 128) >>8,
284                        (top ->my * scale[top ->ref] + 128) >>8,
285                        (tr  ->my * scale[tr  ->ref] + 128) >>8);
286     }
287 }
288
289 static av_always_inline int same_block(BlockNode *a, BlockNode *b){
290     if((a->type&BLOCK_INTRA) && (b->type&BLOCK_INTRA)){
291         return !((a->color[0] - b->color[0]) | (a->color[1] - b->color[1]) | (a->color[2] - b->color[2]));
292     }else{
293         return !((a->mx - b->mx) | (a->my - b->my) | (a->ref - b->ref) | ((a->type ^ b->type)&BLOCK_INTRA));
294     }
295 }
296
297 //FIXME name cleanup (b_w, block_w, b_width stuff)
298 //XXX should we really inline it?
299 static av_always_inline void add_yblock(SnowContext *s, int sliced, slice_buffer *sb, IDWTELEM *dst, uint8_t *dst8, const uint8_t *obmc, int src_x, int src_y, int b_w, int b_h, int w, int h, int dst_stride, int src_stride, int obmc_stride, int b_x, int b_y, int add, int offset_dst, int plane_index){
300     const int b_width = s->b_width  << s->block_max_depth;
301     const int b_height= s->b_height << s->block_max_depth;
302     const int b_stride= b_width;
303     BlockNode *lt= &s->block[b_x + b_y*b_stride];
304     BlockNode *rt= lt+1;
305     BlockNode *lb= lt+b_stride;
306     BlockNode *rb= lb+1;
307     uint8_t *block[4];
308     // When src_stride is large enough, it is possible to interleave the blocks.
309     // Otherwise the blocks are written sequentially in the tmp buffer.
310     int tmp_step= src_stride >= 7*MB_SIZE ? MB_SIZE : MB_SIZE*src_stride;
311     uint8_t *tmp = s->scratchbuf;
312     uint8_t *ptmp;
313     int x,y;
314
315     if(b_x<0){
316         lt= rt;
317         lb= rb;
318     }else if(b_x + 1 >= b_width){
319         rt= lt;
320         rb= lb;
321     }
322     if(b_y<0){
323         lt= lb;
324         rt= rb;
325     }else if(b_y + 1 >= b_height){
326         lb= lt;
327         rb= rt;
328     }
329
330     if(src_x<0){ //FIXME merge with prev & always round internal width up to *16
331         obmc -= src_x;
332         b_w += src_x;
333         if(!sliced && !offset_dst)
334             dst -= src_x;
335         src_x=0;
336     }
337     if(src_x + b_w > w){
338         b_w = w - src_x;
339     }
340     if(src_y<0){
341         obmc -= src_y*obmc_stride;
342         b_h += src_y;
343         if(!sliced && !offset_dst)
344             dst -= src_y*dst_stride;
345         src_y=0;
346     }
347     if(src_y + b_h> h){
348         b_h = h - src_y;
349     }
350
351     if(b_w<=0 || b_h<=0) return;
352
353     if(!sliced && offset_dst)
354         dst += src_x + src_y*dst_stride;
355     dst8+= src_x + src_y*src_stride;
356 //    src += src_x + src_y*src_stride;
357
358     ptmp= tmp + 3*tmp_step;
359     block[0]= ptmp;
360     ptmp+=tmp_step;
361     ff_snow_pred_block(s, block[0], tmp, src_stride, src_x, src_y, b_w, b_h, lt, plane_index, w, h);
362
363     if(same_block(lt, rt)){
364         block[1]= block[0];
365     }else{
366         block[1]= ptmp;
367         ptmp+=tmp_step;
368         ff_snow_pred_block(s, block[1], tmp, src_stride, src_x, src_y, b_w, b_h, rt, plane_index, w, h);
369     }
370
371     if(same_block(lt, lb)){
372         block[2]= block[0];
373     }else if(same_block(rt, lb)){
374         block[2]= block[1];
375     }else{
376         block[2]= ptmp;
377         ptmp+=tmp_step;
378         ff_snow_pred_block(s, block[2], tmp, src_stride, src_x, src_y, b_w, b_h, lb, plane_index, w, h);
379     }
380
381     if(same_block(lt, rb) ){
382         block[3]= block[0];
383     }else if(same_block(rt, rb)){
384         block[3]= block[1];
385     }else if(same_block(lb, rb)){
386         block[3]= block[2];
387     }else{
388         block[3]= ptmp;
389         ff_snow_pred_block(s, block[3], tmp, src_stride, src_x, src_y, b_w, b_h, rb, plane_index, w, h);
390     }
391     if(sliced){
392         s->dwt.inner_add_yblock(obmc, obmc_stride, block, b_w, b_h, src_x,src_y, src_stride, sb, add, dst8);
393     }else{
394         for(y=0; y<b_h; y++){
395             //FIXME ugly misuse of obmc_stride
396             const uint8_t *obmc1= obmc + y*obmc_stride;
397             const uint8_t *obmc2= obmc1+ (obmc_stride>>1);
398             const uint8_t *obmc3= obmc1+ obmc_stride*(obmc_stride>>1);
399             const uint8_t *obmc4= obmc3+ (obmc_stride>>1);
400             for(x=0; x<b_w; x++){
401                 int v=   obmc1[x] * block[3][x + y*src_stride]
402                         +obmc2[x] * block[2][x + y*src_stride]
403                         +obmc3[x] * block[1][x + y*src_stride]
404                         +obmc4[x] * block[0][x + y*src_stride];
405
406                 v <<= 8 - LOG2_OBMC_MAX;
407                 if(FRAC_BITS != 8){
408                     v >>= 8 - FRAC_BITS;
409                 }
410                 if(add){
411                     v += dst[x + y*dst_stride];
412                     v = (v + (1<<(FRAC_BITS-1))) >> FRAC_BITS;
413                     if(v&(~255)) v= ~(v>>31);
414                     dst8[x + y*src_stride] = v;
415                 }else{
416                     dst[x + y*dst_stride] -= v;
417                 }
418             }
419         }
420     }
421 }
422
423 static av_always_inline void predict_slice(SnowContext *s, IDWTELEM *buf, int plane_index, int add, int mb_y){
424     Plane *p= &s->plane[plane_index];
425     const int mb_w= s->b_width  << s->block_max_depth;
426     const int mb_h= s->b_height << s->block_max_depth;
427     int x, y, mb_x;
428     int block_size = MB_SIZE >> s->block_max_depth;
429     int block_w    = plane_index ? block_size>>s->chroma_h_shift : block_size;
430     int block_h    = plane_index ? block_size>>s->chroma_v_shift : block_size;
431     const uint8_t *obmc  = plane_index ? ff_obmc_tab[s->block_max_depth+s->chroma_h_shift] : ff_obmc_tab[s->block_max_depth];
432     const int obmc_stride= plane_index ? (2*block_size)>>s->chroma_h_shift : 2*block_size;
433     int ref_stride= s->current_picture->linesize[plane_index];
434     uint8_t *dst8= s->current_picture->data[plane_index];
435     int w= p->width;
436     int h= p->height;
437     av_assert2(s->chroma_h_shift == s->chroma_v_shift); // obmc params assume squares
438     if(s->keyframe || (s->avctx->debug&512)){
439         if(mb_y==mb_h)
440             return;
441
442         if(add){
443             for(y=block_h*mb_y; y<FFMIN(h,block_h*(mb_y+1)); y++){
444                 for(x=0; x<w; x++){
445                     int v= buf[x + y*w] + (128<<FRAC_BITS) + (1<<(FRAC_BITS-1));
446                     v >>= FRAC_BITS;
447                     if(v&(~255)) v= ~(v>>31);
448                     dst8[x + y*ref_stride]= v;
449                 }
450             }
451         }else{
452             for(y=block_h*mb_y; y<FFMIN(h,block_h*(mb_y+1)); y++){
453                 for(x=0; x<w; x++){
454                     buf[x + y*w]-= 128<<FRAC_BITS;
455                 }
456             }
457         }
458
459         return;
460     }
461
462     for(mb_x=0; mb_x<=mb_w; mb_x++){
463         add_yblock(s, 0, NULL, buf, dst8, obmc,
464                    block_w*mb_x - block_w/2,
465                    block_h*mb_y - block_h/2,
466                    block_w, block_h,
467                    w, h,
468                    w, ref_stride, obmc_stride,
469                    mb_x - 1, mb_y - 1,
470                    add, 1, plane_index);
471     }
472 }
473
474 static av_always_inline void predict_plane(SnowContext *s, IDWTELEM *buf, int plane_index, int add){
475     const int mb_h= s->b_height << s->block_max_depth;
476     int mb_y;
477     for(mb_y=0; mb_y<=mb_h; mb_y++)
478         predict_slice(s, buf, plane_index, add, mb_y);
479 }
480
481 static inline void set_blocks(SnowContext *s, int level, int x, int y, int l, int cb, int cr, int mx, int my, int ref, int type){
482     const int w= s->b_width << s->block_max_depth;
483     const int rem_depth= s->block_max_depth - level;
484     const int index= (x + y*w) << rem_depth;
485     const int block_w= 1<<rem_depth;
486     const int block_h= 1<<rem_depth; //FIXME "w!=h"
487     BlockNode block;
488     int i,j;
489
490     block.color[0]= l;
491     block.color[1]= cb;
492     block.color[2]= cr;
493     block.mx= mx;
494     block.my= my;
495     block.ref= ref;
496     block.type= type;
497     block.level= level;
498
499     for(j=0; j<block_h; j++){
500         for(i=0; i<block_w; i++){
501             s->block[index + i + j*w]= block;
502         }
503     }
504 }
505
506 static inline void init_ref(MotionEstContext *c, uint8_t *src[3], uint8_t *ref[3], uint8_t *ref2[3], int x, int y, int ref_index){
507     SnowContext *s = c->avctx->priv_data;
508     const int offset[3]= {
509           y*c->  stride + x,
510         ((y*c->uvstride + x)>>s->chroma_h_shift),
511         ((y*c->uvstride + x)>>s->chroma_h_shift),
512     };
513     int i;
514     for(i=0; i<3; i++){
515         c->src[0][i]= src [i];
516         c->ref[0][i]= ref [i] + offset[i];
517     }
518     av_assert2(!ref_index);
519 }
520
521
522 /* bitstream functions */
523
524 extern const int8_t ff_quant3bA[256];
525
526 #define QEXPSHIFT (7-FRAC_BITS+8) //FIXME try to change this to 0
527
528 static inline void put_symbol(RangeCoder *c, uint8_t *state, int v, int is_signed){
529     int i;
530
531     if(v){
532         const int a= FFABS(v);
533         const int e= av_log2(a);
534         const int el= FFMIN(e, 10);
535         put_rac(c, state+0, 0);
536
537         for(i=0; i<el; i++){
538             put_rac(c, state+1+i, 1);  //1..10
539         }
540         for(; i<e; i++){
541             put_rac(c, state+1+9, 1);  //1..10
542         }
543         put_rac(c, state+1+FFMIN(i,9), 0);
544
545         for(i=e-1; i>=el; i--){
546             put_rac(c, state+22+9, (a>>i)&1); //22..31
547         }
548         for(; i>=0; i--){
549             put_rac(c, state+22+i, (a>>i)&1); //22..31
550         }
551
552         if(is_signed)
553             put_rac(c, state+11 + el, v < 0); //11..21
554     }else{
555         put_rac(c, state+0, 1);
556     }
557 }
558
559 static inline int get_symbol(RangeCoder *c, uint8_t *state, int is_signed){
560     if(get_rac(c, state+0))
561         return 0;
562     else{
563         int i, e, a;
564         e= 0;
565         while(get_rac(c, state+1 + FFMIN(e,9))){ //1..10
566             e++;
567             if (e > 31)
568                 return AVERROR_INVALIDDATA;
569         }
570
571         a= 1;
572         for(i=e-1; i>=0; i--){
573             a += a + get_rac(c, state+22 + FFMIN(i,9)); //22..31
574         }
575
576         e= -(is_signed && get_rac(c, state+11 + FFMIN(e,10))); //11..21
577         return (a^e)-e;
578     }
579 }
580
581 static inline void put_symbol2(RangeCoder *c, uint8_t *state, int v, int log2){
582     int i;
583     int r= log2>=0 ? 1<<log2 : 1;
584
585     av_assert2(v>=0);
586     av_assert2(log2>=-4);
587
588     while(v >= r){
589         put_rac(c, state+4+log2, 1);
590         v -= r;
591         log2++;
592         if(log2>0) r+=r;
593     }
594     put_rac(c, state+4+log2, 0);
595
596     for(i=log2-1; i>=0; i--){
597         put_rac(c, state+31-i, (v>>i)&1);
598     }
599 }
600
601 static inline int get_symbol2(RangeCoder *c, uint8_t *state, int log2){
602     int i;
603     int r= log2>=0 ? 1<<log2 : 1;
604     int v=0;
605
606     av_assert2(log2>=-4);
607
608     while(log2<28 && get_rac(c, state+4+log2)){
609         v+= r;
610         log2++;
611         if(log2>0) r+=r;
612     }
613
614     for(i=log2-1; i>=0; i--){
615         v+= get_rac(c, state+31-i)<<i;
616     }
617
618     return v;
619 }
620
621 static inline void unpack_coeffs(SnowContext *s, SubBand *b, SubBand * parent, int orientation){
622     const int w= b->width;
623     const int h= b->height;
624     int x,y;
625
626     int run, runs;
627     x_and_coeff *xc= b->x_coeff;
628     x_and_coeff *prev_xc= NULL;
629     x_and_coeff *prev2_xc= xc;
630     x_and_coeff *parent_xc= parent ? parent->x_coeff : NULL;
631     x_and_coeff *prev_parent_xc= parent_xc;
632
633     runs= get_symbol2(&s->c, b->state[30], 0);
634     if(runs-- > 0) run= get_symbol2(&s->c, b->state[1], 3);
635     else           run= INT_MAX;
636
637     for(y=0; y<h; y++){
638         int v=0;
639         int lt=0, t=0, rt=0;
640
641         if(y && prev_xc->x == 0){
642             rt= prev_xc->coeff;
643         }
644         for(x=0; x<w; x++){
645             int p=0;
646             const int l= v;
647
648             lt= t; t= rt;
649
650             if(y){
651                 if(prev_xc->x <= x)
652                     prev_xc++;
653                 if(prev_xc->x == x + 1)
654                     rt= prev_xc->coeff;
655                 else
656                     rt=0;
657             }
658             if(parent_xc){
659                 if(x>>1 > parent_xc->x){
660                     parent_xc++;
661                 }
662                 if(x>>1 == parent_xc->x){
663                     p= parent_xc->coeff;
664                 }
665             }
666             if(/*ll|*/l|lt|t|rt|p){
667                 int context= av_log2(/*FFABS(ll) + */3*(l>>1) + (lt>>1) + (t&~1) + (rt>>1) + (p>>1));
668
669                 v=get_rac(&s->c, &b->state[0][context]);
670                 if(v){
671                     v= 2*(get_symbol2(&s->c, b->state[context + 2], context-4) + 1);
672                     v+=get_rac(&s->c, &b->state[0][16 + 1 + 3 + ff_quant3bA[l&0xFF] + 3*ff_quant3bA[t&0xFF]]);
673                     if ((uint16_t)v != v) {
674                         av_log(s->avctx, AV_LOG_ERROR, "Coefficient damaged\n");
675                         v = 1;
676                     }
677                     xc->x=x;
678                     (xc++)->coeff= v;
679                 }
680             }else{
681                 if(!run){
682                     if(runs-- > 0) run= get_symbol2(&s->c, b->state[1], 3);
683                     else           run= INT_MAX;
684                     v= 2*(get_symbol2(&s->c, b->state[0 + 2], 0-4) + 1);
685                     v+=get_rac(&s->c, &b->state[0][16 + 1 + 3]);
686                     if ((uint16_t)v != v) {
687                         av_log(s->avctx, AV_LOG_ERROR, "Coefficient damaged\n");
688                         v = 1;
689                     }
690
691                     xc->x=x;
692                     (xc++)->coeff= v;
693                 }else{
694                     int max_run;
695                     run--;
696                     v=0;
697                     av_assert2(run >= 0);
698                     if(y) max_run= FFMIN(run, prev_xc->x - x - 2);
699                     else  max_run= FFMIN(run, w-x-1);
700                     if(parent_xc)
701                         max_run= FFMIN(max_run, 2*parent_xc->x - x - 1);
702                     av_assert2(max_run >= 0 && max_run <= run);
703
704                     x+= max_run;
705                     run-= max_run;
706                 }
707             }
708         }
709         (xc++)->x= w+1; //end marker
710         prev_xc= prev2_xc;
711         prev2_xc= xc;
712
713         if(parent_xc){
714             if(y&1){
715                 while(parent_xc->x != parent->width+1)
716                     parent_xc++;
717                 parent_xc++;
718                 prev_parent_xc= parent_xc;
719             }else{
720                 parent_xc= prev_parent_xc;
721             }
722         }
723     }
724
725     (xc++)->x= w+1; //end marker
726 }
727
728 #endif /* AVCODEC_SNOW_H */