Я работаю над экспериментом по отслеживанию видео и застрял с видео, которые довольно плохо сжаты кодеком MPEG4 DivX 5x/6x. Я довольно новичок в форматах изображений, кодеках и сжатии, но, кажется, я понял, что застряну с этим качеством, если только не нарушу второй закон термодинамики.
Теперь, для отслеживания моих насекомых (да, именно этим я и занимаюсь), мне интересны только I-кадры (частота кадров достаточно высока), и мне не интересны цветовые каналы U и V, поскольку они имеют только одно значение для каждого блока и, следовательно, не дают мне нужного разрешения. Именно Y-канал содержит всю информацию, которая мне интересна. Я сам написал свой трекер, и он не может анализировать видео, поэтому ему нужна папка со стоп-кадрами.
Теперь мой вопрос: как мне извлечь все I-кадры в изображения в оттенках серого (только канал Y) БЕЗ дальнейшей потери качества? Я работаю в Ubuntu 14.04 и предпочел бы использовать ffmpeg или imageJ, поскольку они уже присутствуют в моем конвейере. Где я сейчас:
Думаю, я понял, что каждый второй кадр — это I-кадр, но я в этом не уверен. Я использовал:
ffprobe -show_frames movie.avi | grep -A2 "video" | grep "key_frame"
output:
key_frame=1
key_frame=0
key_frame=1
key_frame=0
key_frame=1
key_frame=0
key_frame=1
key_frame=0
key_frame=1
key_frame=0
--
this goes on for exactly the number of frames, as this bit of code tells me:
ffprobe -show_frames movie.avi | grep -A2 "video" | grep -c "key")
13369
Теперь я думаю, что понял, как извлечь каждый I-кадр:
ffmpeg -i movie.avi -vf '[in]select=eq(pict_type\,I)[out]' /picture%d.jpg
Но, похоже, это возвращает мне все кадры.
ls *jpg | wc -l
133370
Что я делаю не так? Вот что мне выдает ffmpeg:
ffmpeg version N-77455-g4707497 Copyright (c) 2000-2015 the FFmpeg developers
built with gcc 4.8 (Ubuntu 4.8.4-2ubuntu1~14.04)
configuration: --extra-libs=-ldl --prefix=/opt/ffmpeg --mandir=/usr/share/man --enable-avresample --disable-debug --enable-nonfree --enable-gpl --enable-version3 --enable-libopencore-amrnb --enable-libopencore-amrwb --disable-decoder=amrnb --disable-decoder=amrwb --enable-libpulse --enable-libdcadec --enable-libfreetype --enable-libx264 --enable-libx265 --enable-libfdk-aac --enable-libvorbis --enable-libmp3lame --enable-libopus --enable-libvpx --enable-libspeex --enable-libass --enable-avisynth --enable-libsoxr --enable-libxvid --enable-libvo-aacenc --enable-libvidstab
libavutil 55. 11.100 / 55. 11.100
libavcodec 57. 20.100 / 57. 20.100
libavformat 57. 20.100 / 57. 20.100
libavdevice 57. 0.100 / 57. 0.100
libavfilter 6. 21.101 / 6. 21.101
libavresample 3. 0. 0 / 3. 0. 0
libswscale 4. 0.100 / 4. 0.100
libswresample 2. 0.101 / 2. 0.101
libpostproc 54. 0.100 / 54. 0.100
Guessed Channel Layout for Input Stream #0.1 : stereo
Input #0, avi, from 'movie.avi':
Duration: 00:08:54.76, start: 0.000000, bitrate: 3006 kb/s
Stream #0:0: Video: mpeg4 (Simple Profile) (DX50 / 0x30355844), yuv420p, 720x576 [SAR 16:15 DAR 4:3], 1462 kb/s, 25 fps, 25 tbr, 25 tbn, 25 tbc
Stream #0:1: Audio: pcm_s16le ([1][0][0][0] / 0x0001), 48000 Hz, 2 channels, s16, 1536 kb/s
[swscaler @ 0x3c2e920] deprecated pixel format used, make sure you did set range correctly
Output #0, image2, to './picture%d.jpg':
Metadata:
encoder : Lavf57.20.100
Stream #0:0: Video: mjpeg, yuvj420p(pc), 720x576 [SAR 16:15 DAR 4:3], q=2-31, 200 kb/s, 25 fps, 25 tbn, 25 tbc
Metadata:
encoder : Lavc57.20.100 mjpeg
Side data:
unknown side data type 10 (24 bytes)
Stream mapping:
Stream #0:0 -> #0:0 (mpeg4 (native) -> mjpeg (native))
Press [q] to stop, [?] for help
frame=13370 fps=506 q=24.8 Lsize=N/A time=00:08:54.80 bitrate=N/A dup=6685 drop=0 speed=20.2x
video:157591kB audio:0kB subtitle:0kB other streams:0kB global headers:0kB muxing overhead: unknown
Итак, пара вопросов:
- Что я делаю не так? Почему он возвращает мне все кадры?
- Приведет ли jpeg к дальнейшим потерям? Или это то же сжатие, что используется внутри кадра в mpeg4? Может быть, мне следует использовать tiff вместо этого?
- Как извлечь только Y-канал?
- Нормально ли, что я получаю I-кадр каждый второй кадр? Я немного считывал кодировку MPEG4, и похоже, что в качестве опорных используются не целые кадры, а скорее блоки? Извлекаю ли я затем все кадры, содержащие такие блоки? Есть ли более высокий уровень с «реальными» целыми опорными кадрами?
- Полагаю, нет способа восстановить большее качество?
Огромное спасибо за вашу помощь!
С наилучшими пожеланиями,
Рик Вердонк
решение1
ffmpeg неявно использует частоту кадров источника, если явно не указано иное. Если количество кадров, предоставленных декодером/фильтром, отличается от этой частоты, то кадры дублируются или отбрасываются для ее достижения. Это можно исправить, создав новые временные метки для каждого выбранного кадра или указав частоту кадров, которая соответствует частоте I-кадров в секунду видео. Безопаснее сделать первое.
Вы можете использовать TIFF или PNG или BMP вместо JPEG, чтобы избежать дальнейшего сжатия. Не уверен, одинаковы ли схемы прогнозирования для кодеков JPEG и MPEG.
I-кадр через кадр нетипичен для кодека MPEG-4, но вы сказали, что они были плохо закодированы. Кто-то установил либо GOP, т.е. интервал ключевого кадра, равный 2, либо очень низкий порог смены сцены, скорее всего, первое.
Подводя итог, используйте
ffmpeg -i movie.avi -vf "select=eq(pict_type\,I),setpts=N/25/TB" -pix_fmt gray /picture%d.png
Отредактировано
Для прямого извлечения компонента Y используйте
ffmpeg -i movie.avi -vf "select=eq(pict_type\,I),setpts=N/25/TB,extractplanes=y" -pix_fmt gray /picture%d.png