]> git.sesse.net Git - ffmpeg/blob - libavcodec/vdpau_internal.h
libopusdec: fix out-of-bounds read
[ffmpeg] / libavcodec / vdpau_internal.h
1 /*
2  * Video Decode and Presentation API for UNIX (VDPAU) is used for
3  * HW decode acceleration for MPEG-1/2, H.264 and VC-1.
4  *
5  * Copyright (C) 2008 NVIDIA
6  *
7  * This file is part of Libav.
8  *
9  * Libav is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public
11  * License as published by the Free Software Foundation; either
12  * version 2.1 of the License, or (at your option) any later version.
13  *
14  * Libav is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with Libav; if not, write to the Free Software
21  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
22  */
23
24 #ifndef AVCODEC_VDPAU_INTERNAL_H
25 #define AVCODEC_VDPAU_INTERNAL_H
26
27 #include <stdint.h>
28 #include <vdpau/vdpau.h>
29
30 #include "libavutil/frame.h"
31
32 #include "avcodec.h"
33 #include "vdpau.h"
34
35 /** Extract VdpVideoSurface from an AVFrame */
36 static inline uintptr_t ff_vdpau_get_surface_id(AVFrame *pic)
37 {
38     return (uintptr_t)pic->data[3];
39 }
40
41 union VDPAUPictureInfo {
42     VdpPictureInfoH264        h264;
43     VdpPictureInfoMPEG1Or2    mpeg;
44     VdpPictureInfoVC1          vc1;
45     VdpPictureInfoMPEG4Part2 mpeg4;
46 #ifdef VDP_DECODER_PROFILE_H264_HIGH_444_PREDICTIVE
47     VdpPictureInfoH264Predictive h264_predictive;
48 #endif
49 #ifdef VDP_DECODER_PROFILE_HEVC_MAIN
50     VdpPictureInfoHEVC        hevc;
51 #endif
52 };
53
54 typedef struct VDPAUHWContext {
55     AVVDPAUContext context;
56     VdpDevice device;
57     VdpGetProcAddress *get_proc_address;
58     char reset;
59     unsigned char flags;
60 } VDPAUHWContext;
61
62 typedef struct VDPAUContext {
63     /**
64      * VDPAU device handle
65      */
66     VdpDevice device;
67
68     /**
69      * VDPAU decoder handle
70      */
71     VdpDecoder decoder;
72
73     /**
74      * VDPAU device driver
75      */
76     VdpGetProcAddress *get_proc_address;
77
78     /**
79      * VDPAU decoder render callback
80      */
81     VdpDecoderRender *render;
82
83     uint32_t width;
84     uint32_t height;
85 } VDPAUContext;
86
87 struct vdpau_picture_context {
88     /**
89      * VDPAU picture information.
90      */
91     union VDPAUPictureInfo info;
92
93     /**
94      * Allocated size of the bitstream_buffers table.
95      */
96     int bitstream_buffers_allocated;
97
98     /**
99      * Useful bitstream buffers in the bitstream buffers table.
100      */
101     int bitstream_buffers_used;
102
103    /**
104      * Table of bitstream buffers.
105      */
106     VdpBitstreamBuffer *bitstream_buffers;
107 };
108
109 int ff_vdpau_common_init(AVCodecContext *avctx, VdpDecoderProfile profile,
110                          int level);
111 int ff_vdpau_common_uninit(AVCodecContext *avctx);
112
113 int ff_vdpau_common_start_frame(struct vdpau_picture_context *pic,
114                                 const uint8_t *buffer, uint32_t size);
115 int ff_vdpau_common_end_frame(AVCodecContext *avctx, AVFrame *frame,
116                               struct vdpau_picture_context *pic);
117 int ff_vdpau_mpeg_end_frame(AVCodecContext *avctx);
118 int ff_vdpau_add_buffer(struct vdpau_picture_context *pic, const uint8_t *buf,
119                         uint32_t buf_size);
120
121 #endif /* AVCODEC_VDPAU_INTERNAL_H */