git.sesse.net Git - kdenlive/blob - src/kthumb.cpp

   1 /***************************************************************************
   2                         krender.cpp  -  description
   3                            -------------------
   4   begin                : Fri Nov 22 2002
   5   copyright            : (C) 2002 by Jason Wood
   6   email                : jasonwood@blueyonder.co.uk
   7   copyright            : (C) 2005 Lcio Fl�io Corr�
   8   email                : lucio.correa@gmail.com
   9   copyright            : (C) Marco Gittler
  10   email                : g.marco@freenet.de
  11
  12 ***************************************************************************/
  13
  14 /***************************************************************************
  15  *                                                                         *
  16  *   This program is free software; you can redistribute it and/or modify  *
  17  *   it under the terms of the GNU General Public License as published by  *
  18  *   the Free Software Foundation; either version 2 of the License, or     *
  19  *   (at your option) any later version.                                   *
  20  *                                                                         *
  21  ***************************************************************************/
  22
  23 #include <qxml.h>
  24 #include <QImage>
  25 #include <QApplication>
  26 #include <QCryptographicHash>
  27
  28 #include <kio/netaccess.h>
  29 #include <kdebug.h>
  30 #include <klocale.h>
  31 #include <kdenlivesettings.h>
  32 #include <kfileitem.h>
  33 #include <kmessagebox.h>
  34 #include <KStandardDirs>
  35
  36 #include <mlt++/Mlt.h>
  37
  38 #include "clipmanager.h"
  39 #include "renderer.h"
  40 #include "kthumb.h"
  41 #include "kdenlivesettings.h"
  42 #include "events.h"
  43
  44
  45 void MyThread::init(QObject *parent, KUrl url, QString target, double frame, double frameLength, int frequency, int channels, int arrayWidth) {
  46     stop_me = false;
  47     m_parent = parent;
  48     m_isWorking = false;
  49     f.setFileName(target);
  50     m_url = url;
  51     m_frame = frame;
  52     m_frameLength = frameLength;
  53     m_frequency = frequency;
  54     m_channels = channels;
  55     m_arrayWidth = arrayWidth;
  56 }
  57
  58 bool MyThread::isWorking() {
  59     return m_isWorking;
  60 }
  61
  62 void MyThread::run() {
  63
  64     if (!f.open(QIODevice::WriteOnly)) {
  65         kDebug() << "++++++++  ERROR WRITING TO FILE: " << f.fileName() << endl;
  66         kDebug() << "++++++++  DISABLING AUDIO THUMBS" << endl;
  67         KdenliveSettings::setAudiothumbnails(false);
  68         return;
  69     }
  70     m_isWorking = true;
  71     Mlt::Profile prof((char*) KdenliveSettings::current_profile().toUtf8().data());
  72     Mlt::Producer m_producer(prof, m_url.path().toUtf8().data());
  73
  74
  75     if (KdenliveSettings::normaliseaudiothumbs()) {
  76         Mlt::Filter m_convert(prof, "volume");
  77         m_convert.set("gain", "normalise");
  78         m_producer.attach(m_convert);
  79     }
  80
  81     //QApplication::postEvent(m_parent, new ProgressEvent(-1, (QEvent::Type)10005));
  82
  83     int last_val = 0;
  84     int val = 0;
  85     kDebug() << "for " << m_frame << " " << m_frameLength << " " << m_producer.is_valid();
  86     for (int z = (int) m_frame;z < (int)(m_frame + m_frameLength) && m_producer.is_valid();z++) {
  87         if (stop_me) break;
  88         val = (int)((z - m_frame) / (m_frame + m_frameLength) * 100.0);
  89         if (last_val != val & val > 1) {
  90             QApplication::postEvent(m_parent, new ProgressEvent(val, (QEvent::Type)10005));
  91
  92             last_val = val;
  93         }
  94         m_producer.seek(z);
  95         Mlt::Frame *mlt_frame = m_producer.get_frame();
  96         if (mlt_frame && mlt_frame->is_valid()) {
  97             double m_framesPerSecond = mlt_producer_get_fps(m_producer.get_producer());   //mlt_frame->get_double( "fps" );
  98             int m_samples = mlt_sample_calculator(m_framesPerSecond, m_frequency, mlt_frame_get_position(mlt_frame->get_frame()));
  99             mlt_audio_format m_audioFormat = mlt_audio_pcm;
 100
 101             int16_t* m_pcm = mlt_frame->get_audio(m_audioFormat, m_frequency, m_channels, m_samples);
 102
 103             for (int c = 0;c < m_channels;c++) {
 104                 QByteArray m_array;
 105                 m_array.resize(m_arrayWidth);
 106                 for (uint i = 0; i < m_array.size(); i++) {
 107                     m_array[i] = ((*(m_pcm + c + i * m_samples / m_array.size())) >> 9) + 127 / 2 ;
 108                 }
 109                 f.write(m_array);
 110
 111             }
 112         } else {
 113             f.write(QByteArray(m_arrayWidth, '\x00'));
 114         }
 115         if (mlt_frame)
 116             delete mlt_frame;
 117     }
 118     kDebug() << "done";
 119     f.close();
 120     m_isWorking = false;
 121     if (stop_me) {
 122         f.remove();
 123     }
 124     QApplication::postEvent(m_parent, new ProgressEvent(-1, (QEvent::Type)10005));
 125
 126 }
 127
 128 void ThumbThread::init(QObject *parent, Mlt::Producer *prod, int width, int height) {
 129     stop_me = false;
 130     m_parent = parent;
 131     m_isWorking = false;
 132     m_prod = prod;
 133     m_width = width;
 134     m_height = height;
 135     m_frame1 = -1;
 136     m_frame2 = -1;
 137 }
 138
 139 bool ThumbThread::isWorking() {
 140     return m_isWorking;
 141 }
 142
 143 void ThumbThread::setThumbFrames(Mlt::Producer *prod, int frame1, int frame2) {
 144     if (!m_prod) m_prod = prod;
 145     m_frame1 = frame1;
 146     m_frame2 = frame2;
 147 }
 148
 149 void ThumbThread::run() {
 150     if (m_frame1 != -1 && m_prod) {
 151         //mutex.lock();
 152         m_prod->seek(m_frame1);
 153         Mlt::Frame *avframe = m_prod->get_frame();
 154         //mutex.unlock();
 155         if (!avframe) {
 156             kDebug() << "///// BROKEN FRAME";
 157         } else {
 158             mlt_image_format format = mlt_image_yuv422;
 159             int frame_width = m_width;
 160             int frame_height = m_height;
 161             avframe->set("normalised_height", m_height);
 162             avframe->set("normalised_width", m_width);
 163             uint8_t *data = avframe->get_image(format, frame_width, frame_height, 0);
 164             uint8_t *new_image = (uint8_t *)mlt_pool_alloc(frame_width * (frame_height + 1) * 4);
 165             mlt_convert_yuv422_to_rgb24a((uint8_t *)data, new_image, frame_width * frame_height);
 166
 167             QImage image((uchar *)new_image, frame_width, frame_height, QImage::Format_ARGB32);
 168
 169             if (!image.isNull()) {
 170                 emit gotStartThumb(image.rgbSwapped());
 171                 //QApplication::postEvent(m_parent, new ThumbEvent(m_frame1, image.rgbSwapped(), (QEvent::Type)10006));
 172                 //pix = QPixmap::fromImage(image.rgbSwapped());
 173             } /*else
 174   pix.fill(Qt::red);*/
 175             mlt_pool_release(new_image);
 176             delete avframe;
 177         }
 178         //pix.fill(Qt::red);
 179
 180     }
 181     if (m_frame2 != -1 && m_prod) {
 182         //mutex.lock();
 183         m_prod->seek(m_frame2);
 184         Mlt::Frame *avframe = m_prod->get_frame();
 185         //mutex.unlock();
 186         if (!avframe) {
 187             kDebug() << "///// BROKEN FRAME";
 188         } else {
 189             mlt_image_format format = mlt_image_yuv422;
 190             int frame_width = 0;
 191             int frame_height = 0;
 192             avframe->set("normalised_height", m_height);
 193             avframe->set("normalised_width", m_width);
 194             uint8_t *data = avframe->get_image(format, frame_width, frame_height, 0);
 195             uint8_t *new_image = (uint8_t *)mlt_pool_alloc(frame_width * (frame_height + 1) * 4);
 196             mlt_convert_yuv422_to_rgb24a((uint8_t *)data, new_image, frame_width * frame_height);
 197
 198             QImage image((uchar *)new_image, frame_width, frame_height, QImage::Format_ARGB32);
 199
 200             if (!image.isNull()) {
 201                 emit gotEndThumb(image.rgbSwapped());
 202                 //QApplication::postEvent(m_parent, new ThumbEvent(m_frame2, image.rgbSwapped(), (QEvent::Type)10006));
 203                 //pix = QPixmap::fromImage(image.rgbSwapped());
 204             } /*else
 205   pix.fill(Qt::red);*/
 206             mlt_pool_release(new_image);
 207             delete avframe;
 208         }
 209         //pix.fill(Qt::red);
 210         //QApplication::postEvent(m_parent, new ThumbEvent(m_frame2, pix, (QEvent::Type)10006));
 211     }
 212 }
 213
 214
 215 KThumb::KThumb(ClipManager *clipManager, KUrl url, QObject * parent, const char *name): QObject(parent), m_clipManager(clipManager), m_url(url), m_producer(NULL), m_dar(1) {
 216     QCryptographicHash context(QCryptographicHash::Sha1);
 217     context.addData((KFileItem(m_url, "text/plain", S_IFREG).timeString() + m_url.fileName()).toAscii().data());
 218     m_thumbFile = KGlobal::dirs()->saveLocation("tmp" , "kdenlive") + context.result().toHex() + ".thumb";
 219     kDebug() << "thumbfile=" << m_thumbFile;
 220 }
 221
 222 KThumb::~KThumb() {
 223     if (audioThumbProducer.isRunning()) audioThumbProducer.exit();
 224 }
 225
 226 void KThumb::setProducer(Mlt::Producer *producer) {
 227     m_producer = producer;
 228     m_dar = producer->profile()->dar();
 229 }
 230
 231 void KThumb::updateClipUrl(KUrl url) {
 232     m_url = url;
 233     if (m_producer) {
 234         char *tmp = Render::decodedString(url.path());
 235         m_producer->set("resource", tmp);
 236         delete[] tmp;
 237     }
 238 }
 239
 240 //static
 241 QPixmap KThumb::getImage(KUrl url, int width, int height) {
 242     if (url.isEmpty()) return QPixmap();
 243     return getImage(url, 0, width, height);
 244 }
 245
 246 void KThumb::extractImage(int frame, int frame2) {
 247     if (m_url.isEmpty() || !KdenliveSettings::videothumbnails() || m_producer == NULL) return;
 248
 249     int twidth = (int)(KdenliveSettings::trackheight() * m_dar);
 250     if (m_producer->is_blank()) {
 251         QPixmap pix(twidth, KdenliveSettings::trackheight());
 252         pix.fill(Qt::black);
 253         emit thumbReady(frame, pix);
 254         return;
 255     }
 256     if (frame != -1) {
 257         //videoThumbProducer.getThumb(frame);
 258         QPixmap pix = getFrame(m_producer, frame, twidth, KdenliveSettings::trackheight());
 259         emit thumbReady(frame, pix);
 260     }
 261     if (frame2 != -1) {
 262         //videoThumbProducer.getThumb(frame2);
 263         QPixmap pix = getFrame(m_producer, frame2, twidth , KdenliveSettings::trackheight());
 264         emit thumbReady(frame2, pix);
 265     }
 266 }
 267
 268 QPixmap KThumb::extractImage(int frame, int width, int height) {
 269     return getFrame(m_producer, frame, width, height);
 270 }
 271
 272 //static
 273 QPixmap KThumb::getImage(KUrl url, int frame, int width, int height) {
 274     Mlt::Profile profile((char*) KdenliveSettings::current_profile().data());
 275     QPixmap pix(width, height);
 276     if (url.isEmpty()) return pix;
 277
 278     char *tmp = Render::decodedString(url.path());
 279     //"<westley><playlist><producer resource=\"" + url.path() + "\" /></playlist></westley>");
 280     //Mlt::Producer producer(profile, "westley-xml", tmp);
 281     Mlt::Producer *producer = new Mlt::Producer(profile, tmp);
 282     delete[] tmp;
 283
 284     if (producer->is_blank()) {
 285         pix.fill(Qt::black);
 286         delete producer;
 287         return pix;
 288     }
 289     pix = getFrame(producer, frame, width, height);
 290     delete producer;
 291     return pix;
 292 }
 293
 294 //static
 295 /*
 296 QPixmap KThumb::getImage(QDomElement xml, int frame, int width, int height) {
 297     Mlt::Profile profile((char*) KdenliveSettings::current_profile().data());
 298     QPixmap pix(width, height);
 299     QDomDocument doc;
 300     QDomElement westley = doc.createElement("westley");
 301     QDomElement play = doc.createElement("playlist");
 302     doc.appendChild(westley);
 303     westley.appendChild(play);
 304     play.appendChild(doc.importNode(xml, true));
 305     char *tmp = Render::decodedString(doc.toString());
 306     Mlt::Producer producer(profile, "westley-xml", tmp);
 307     delete[] tmp;
 308
 309     if (producer.is_blank()) {
 310         pix.fill(Qt::black);
 311         return pix;
 312     }
 313     return getFrame(producer, frame, width, height);
 314 }*/
 315
 316 //static
 317 QPixmap KThumb::getFrame(Mlt::Producer *producer, int framepos, int width, int height) {
 318     if (producer == NULL) {
 319         QPixmap p(width, height);
 320         p.fill(Qt::red);
 321         return p;
 322     }
 323
 324     producer->seek(framepos);
 325     Mlt::Frame *frame = producer->get_frame();
 326     if (!frame) {
 327         kDebug() << "///// BROKEN FRAME";
 328         QPixmap p(width, height);
 329         p.fill(Qt::red);
 330         return p;
 331     }
 332
 333     mlt_image_format format = mlt_image_yuv422;
 334     int frame_width = 0;
 335     int frame_height = 0;
 336     frame->set("normalised_height", height);
 337     frame->set("normalised_width", width);
 338     QPixmap pix(width, height);
 339     uint8_t *data = frame->get_image(format, frame_width, frame_height, 0);
 340     uint8_t *new_image = (uint8_t *)mlt_pool_alloc(frame_width * (frame_height + 1) * 4);
 341     mlt_convert_yuv422_to_rgb24a((uint8_t *)data, new_image, frame_width * frame_height);
 342
 343     QImage image((uchar *)new_image, frame_width, frame_height, QImage::Format_ARGB32);
 344
 345     if (!image.isNull()) {
 346         pix = QPixmap::fromImage(image.rgbSwapped());
 347     } else
 348         pix.fill(Qt::red);
 349
 350     mlt_pool_release(new_image);
 351     delete frame;
 352     return pix;
 353 }
 354 /*
 355 void KThumb::getImage(KUrl url, int frame, int width, int height)
 356 {
 357     if (url.isEmpty()) return;
 358     QPixmap image(width, height);
 359     char *tmp = KRender::decodedString(url.path());
 360     Mlt::Producer m_producer(tmp);
 361     delete tmp;
 362     image.fill(Qt::black);
 363
 364     if (m_producer.is_blank()) {
 365  emit thumbReady(frame, image);
 366  return;
 367     }
 368     Mlt::Filter m_convert("avcolour_space");
 369     m_convert.set("forced", mlt_image_rgb24a);
 370     m_producer.attach(m_convert);
 371     m_producer.seek(frame);
 372     Mlt::Frame * m_frame = m_producer.get_frame();
 373     mlt_image_format format = mlt_image_rgb24a;
 374     width = width - 2;
 375     height = height - 2;
 376     if (m_frame && m_frame->is_valid()) {
 377      uint8_t *thumb = m_frame->get_image(format, width, height);
 378      QImage tmpimage(thumb, width, height, 32, NULL, 0, QImage::IgnoreEndian);
 379      if (!tmpimage.isNull()) bitBlt(&image, 1, 1, &tmpimage, 0, 0, width + 2, height + 2);
 380     }
 381     if (m_frame) delete m_frame;
 382     emit thumbReady(frame, image);
 383 }
 384
 385 void KThumb::getThumbs(KUrl url, int startframe, int endframe, int width, int height)
 386 {
 387     if (url.isEmpty()) return;
 388     QPixmap image(width, height);
 389     char *tmp = KRender::decodedString(url.path());
 390     Mlt::Producer m_producer(tmp);
 391     delete tmp;
 392     image.fill(Qt::black);
 393
 394     if (m_producer.is_blank()) {
 395  emit thumbReady(startframe, image);
 396  emit thumbReady(endframe, image);
 397  return;
 398     }
 399     Mlt::Filter m_convert("avcolour_space");
 400     m_convert.set("forced", mlt_image_rgb24a);
 401     m_producer.attach(m_convert);
 402     m_producer.seek(startframe);
 403     Mlt::Frame * m_frame = m_producer.get_frame();
 404     mlt_image_format format = mlt_image_rgb24a;
 405     width = width - 2;
 406     height = height - 2;
 407
 408     if (m_frame && m_frame->is_valid()) {
 409      uint8_t *thumb = m_frame->get_image(format, width, height);
 410      QImage tmpimage(thumb, width, height, 32, NULL, 0, QImage::IgnoreEndian);
 411      if (!tmpimage.isNull()) bitBlt(&image, 1, 1, &tmpimage, 0, 0, width - 2, height - 2);
 412     }
 413     if (m_frame) delete m_frame;
 414     emit thumbReady(startframe, image);
 415
 416     image.fill(Qt::black);
 417     m_producer.seek(endframe);
 418     m_frame = m_producer.get_frame();
 419
 420     if (m_frame && m_frame->is_valid()) {
 421      uint8_t *thumb = m_frame->get_image(format, width, height);
 422      QImage tmpimage(thumb, width, height, 32, NULL, 0, QImage::IgnoreEndian);
 423      if (!tmpimage.isNull()) bitBlt(&image, 1, 1, &tmpimage, 0, 0, width - 2, height - 2);
 424     }
 425     if (m_frame) delete m_frame;
 426     emit thumbReady(endframe, image);
 427 }
 428 */
 429 void KThumb::stopAudioThumbs() {
 430     if (audioThumbProducer.isRunning()) audioThumbProducer.stop_me = true;
 431 }
 432
 433
 434 void KThumb::removeAudioThumb() {
 435     if (m_thumbFile.isEmpty()) return;
 436     stopAudioThumbs();
 437     QFile f(m_thumbFile);
 438     f.remove();
 439 }
 440
 441 void KThumb::getAudioThumbs(int channel, double frame, double frameLength, int arrayWidth) {
 442
 443     if ((audioThumbProducer.isRunning() && audioThumbProducer.isWorking()) || channel == 0) {
 444         return;
 445     }
 446
 447     QMap <int, QMap <int, QByteArray> > storeIn;
 448     //FIXME: Hardcoded!!!
 449     int m_frequency = 48000;
 450     int m_channels = channel;
 451
 452     QFile f(m_thumbFile);
 453     if (f.open(QIODevice::ReadOnly)) {
 454         QByteArray channelarray = f.readAll();
 455         f.close();
 456         if (channelarray.size() != arrayWidth*(frame + frameLength)*m_channels) {
 457             kDebug() << "--- BROKEN THUMB FOR: " << m_url.fileName() << " ---------------------- " << endl;
 458             f.remove();
 459             return;
 460         }
 461         kDebug() << "reading audio thumbs from file";
 462         for (int z = (int) frame;z < (int)(frame + frameLength);z++) {
 463             for (int c = 0;c < m_channels;c++) {
 464                 QByteArray m_array(arrayWidth, '\x00');
 465                 for (int i = 0; i < arrayWidth; i++)
 466                     m_array[i] = channelarray[z*arrayWidth*m_channels + c*arrayWidth + i];
 467                 storeIn[z][c] = m_array;
 468             }
 469         }
 470         emit audioThumbReady(storeIn);
 471     } else {
 472         if (audioThumbProducer.isRunning()) return;
 473         audioThumbProducer.init(this, m_url, m_thumbFile, frame, frameLength, m_frequency, m_channels, arrayWidth);
 474         audioThumbProducer.start(QThread::LowestPriority);
 475         kDebug() << "STARTING GENERATE THMB FOR: " << m_url << " ................................";
 476     }
 477 }
 478
 479 void KThumb::customEvent(QEvent * event) {
 480     if (event->type() == 10005) {
 481         ProgressEvent* p = static_cast <ProgressEvent*>(event);
 482         m_clipManager->setThumbsProgress(i18n("Creating thumbnail for %1", m_url.fileName()), p->value());
 483     }
 484 }
 485
 486
 487
 488 #include "kthumb.moc"
 489