]> git.sesse.net Git - ffmpeg/blob - libavformat/yuv4mpegenc.c
crypto: consistently use size_t as type for length parameters
[ffmpeg] / libavformat / yuv4mpegenc.c
1 /*
2  * YUV4MPEG muxer
3  * Copyright (c) 2001, 2002, 2003 Fabrice Bellard
4  *
5  * This file is part of Libav.
6  *
7  * Libav is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU Lesser General Public
9  * License as published by the Free Software Foundation; either
10  * version 2.1 of the License, or (at your option) any later version.
11  *
12  * Libav is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * Lesser General Public License for more details.
16  *
17  * You should have received a copy of the GNU Lesser General Public
18  * License along with Libav; if not, write to the Free Software
19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
20  */
21
22 #include "libavutil/pixdesc.h"
23 #include "avformat.h"
24 #include "internal.h"
25 #include "yuv4mpeg.h"
26
27 #define Y4M_LINE_MAX 256
28
29 static int yuv4_generate_header(AVFormatContext *s, char* buf)
30 {
31     AVStream *st;
32     int width, height;
33     int raten, rated, aspectn, aspectd, n;
34     char inter;
35     const char *colorspace = "";
36
37     st     = s->streams[0];
38     width  = st->codecpar->width;
39     height = st->codecpar->height;
40
41     // TODO: should be avg_frame_rate
42     av_reduce(&raten, &rated, st->time_base.den,
43               st->time_base.num, (1UL << 31) - 1);
44
45     aspectn = st->sample_aspect_ratio.num;
46     aspectd = st->sample_aspect_ratio.den;
47
48     if (aspectn == 0 && aspectd == 1)
49         aspectd = 0;  // 0:0 means unknown
50
51     switch (st->codecpar->field_order) {
52     case AV_FIELD_TT: inter = 't'; break;
53     case AV_FIELD_BB: inter = 'b'; break;
54     default:          inter = 'p'; break;
55     }
56
57     switch (st->codecpar->format) {
58     case AV_PIX_FMT_GRAY8:
59         colorspace = " Cmono";
60         break;
61     case AV_PIX_FMT_YUV411P:
62         colorspace = " C411 XYSCSS=411";
63         break;
64     case AV_PIX_FMT_YUV420P:
65         switch (st->codecpar->chroma_location) {
66         case AVCHROMA_LOC_TOPLEFT: colorspace = " C420paldv XYSCSS=420PALDV"; break;
67         case AVCHROMA_LOC_LEFT:    colorspace = " C420mpeg2 XYSCSS=420MPEG2"; break;
68         default:                   colorspace = " C420jpeg XYSCSS=420JPEG";   break;
69         }
70         break;
71     case AV_PIX_FMT_YUV422P:
72         colorspace = " C422 XYSCSS=422";
73         break;
74     case AV_PIX_FMT_YUV444P:
75         colorspace = " C444 XYSCSS=444";
76         break;
77     }
78
79     /* construct stream header, if this is the first frame */
80     n = snprintf(buf, Y4M_LINE_MAX, "%s W%d H%d F%d:%d I%c A%d:%d%s\n",
81                  Y4M_MAGIC, width, height, raten, rated, inter,
82                  aspectn, aspectd, colorspace);
83
84     return n;
85 }
86
87 static int yuv4_write_packet(AVFormatContext *s, AVPacket *pkt)
88 {
89     AVStream *st = s->streams[pkt->stream_index];
90     AVIOContext *pb = s->pb;
91     AVFrame *frame;
92     int* first_pkt = s->priv_data;
93     int width, height, h_chroma_shift, v_chroma_shift;
94     int i;
95     char buf2[Y4M_LINE_MAX + 1];
96     char buf1[20];
97     uint8_t *ptr, *ptr1, *ptr2;
98
99     frame = (AVFrame *)pkt->data;
100
101     /* for the first packet we have to output the header as well */
102     if (*first_pkt) {
103         *first_pkt = 0;
104         if (yuv4_generate_header(s, buf2) < 0) {
105             av_log(s, AV_LOG_ERROR,
106                    "Error. YUV4MPEG stream header write failed.\n");
107             return AVERROR(EIO);
108         } else {
109             avio_write(pb, buf2, strlen(buf2));
110         }
111     }
112
113     /* construct frame header */
114
115     snprintf(buf1, sizeof(buf1), "%s\n", Y4M_FRAME_MAGIC);
116     avio_write(pb, buf1, strlen(buf1));
117
118     width  = st->codecpar->width;
119     height = st->codecpar->height;
120
121     ptr = frame->data[0];
122     for (i = 0; i < height; i++) {
123         avio_write(pb, ptr, width);
124         ptr += frame->linesize[0];
125     }
126
127     if (st->codecpar->format != AV_PIX_FMT_GRAY8) {
128         // Adjust for smaller Cb and Cr planes
129         av_pix_fmt_get_chroma_sub_sample(st->codecpar->format, &h_chroma_shift,
130                                          &v_chroma_shift);
131         // Shift right, rounding up
132         width  = AV_CEIL_RSHIFT(width, h_chroma_shift);
133         height = AV_CEIL_RSHIFT(height, v_chroma_shift);
134
135         ptr1 = frame->data[1];
136         ptr2 = frame->data[2];
137         for (i = 0; i < height; i++) {     /* Cb */
138             avio_write(pb, ptr1, width);
139             ptr1 += frame->linesize[1];
140         }
141         for (i = 0; i < height; i++) {     /* Cr */
142             avio_write(pb, ptr2, width);
143             ptr2 += frame->linesize[2];
144         }
145     }
146     return 0;
147 }
148
149 static int yuv4_write_header(AVFormatContext *s)
150 {
151     int *first_pkt = s->priv_data;
152
153     if (s->nb_streams != 1)
154         return AVERROR(EIO);
155
156     if (s->streams[0]->codecpar->codec_id != AV_CODEC_ID_WRAPPED_AVFRAME) {
157         av_log(s, AV_LOG_ERROR, "ERROR: Codec not supported.\n");
158         return AVERROR_INVALIDDATA;
159     }
160
161     if (s->streams[0]->codecpar->format == AV_PIX_FMT_YUV411P) {
162         av_log(s, AV_LOG_ERROR, "Warning: generating rarely used 4:1:1 YUV "
163                "stream, some mjpegtools might not work.\n");
164     } else if ((s->streams[0]->codecpar->format != AV_PIX_FMT_YUV420P) &&
165                (s->streams[0]->codecpar->format != AV_PIX_FMT_YUV422P) &&
166                (s->streams[0]->codecpar->format != AV_PIX_FMT_GRAY8)   &&
167                (s->streams[0]->codecpar->format != AV_PIX_FMT_YUV444P)) {
168         av_log(s, AV_LOG_ERROR, "ERROR: yuv4mpeg only handles yuv444p, "
169                "yuv422p, yuv420p, yuv411p and gray pixel formats. "
170                "Use -pix_fmt to select one.\n");
171         return AVERROR(EIO);
172     }
173
174     *first_pkt = 1;
175     return 0;
176 }
177
178 AVOutputFormat ff_yuv4mpegpipe_muxer = {
179     .name              = "yuv4mpegpipe",
180     .long_name         = NULL_IF_CONFIG_SMALL("YUV4MPEG pipe"),
181     .mime_type         = "",
182     .extensions        = "y4m",
183     .priv_data_size    = sizeof(int),
184     .audio_codec       = AV_CODEC_ID_NONE,
185     .video_codec       = AV_CODEC_ID_WRAPPED_AVFRAME,
186     .write_header      = yuv4_write_header,
187     .write_packet      = yuv4_write_packet,
188 };