Subtitle extraction from streaming media manifests #247

Authored by fstirlitz
Modified from: https://github.com/ytdl-org/youtube-dl/pull/6144

Closes: #73
Fixes:
https://github.com/ytdl-org/youtube-dl/issues/6106
https://github.com/ytdl-org/youtube-dl/issues/14977
https://github.com/ytdl-org/youtube-dl/issues/21438
https://github.com/ytdl-org/youtube-dl/issues/23609
https://github.com/ytdl-org/youtube-dl/issues/28132

Might also fix (untested):
https://github.com/ytdl-org/youtube-dl/issues/15424
https://github.com/ytdl-org/youtube-dl/issues/18267
https://github.com/ytdl-org/youtube-dl/issues/23899
https://github.com/ytdl-org/youtube-dl/issues/24375
https://github.com/ytdl-org/youtube-dl/issues/24595
https://github.com/ytdl-org/youtube-dl/issues/27899

Related:
https://github.com/ytdl-org/youtube-dl/issues/22379
https://github.com/ytdl-org/youtube-dl/pull/24517
https://github.com/ytdl-org/youtube-dl/pull/24886
https://github.com/ytdl-org/youtube-dl/pull/27215

Notes:
* The functions `extractor.common._extract_..._formats` are still kept for compatibility
* Only some extractors have currently been moved to using `_extract_..._formats_and_subtitles`
* Direct subtitle manifests (without a master) are not supported and are wrongly identified as containing video formats
* AES support is untested
* The fragmented TTML subtitles extracted from DASH/ISM are valid, but are unsupported by `ffmpeg` and most video players
    * Their XML fragments can be dumped using `ffmpeg -i in.mp4 -f data -map 0 -c copy out.ttml`.
        Once the unnecessary headers are stripped out of this, it becomes a valid self-contained ttml file
    * The ttml subs downloaded from DASH manifests can also be directly opened with <https://github.com/SubtitleEdit>
* Fragmented WebVTT files extracted from DASH/ISM are also unsupported by most tools
    * Unlike the ttml files, the XML fragments of these cannot be dumped using `ffmpeg`
    * The webtt subs extracted from DASH can be parsed by <https://github.com/gpac/gpac>
    * But validity of the those extracted from ISM are untested

[threeqsdn] Extract subtitles from streaming manifests

[canvas] Extract subtitles from streaming manifests

[wat] Extract subtitles from streaming manifests

[atresplayer] Extract subtitles from streaming manifests

[francetv] Extract subtitles from the HLS manifest

[uplynk] Extract subtitles from HLS manifests

[twitter] Extract subtitles from HLS manifests

[srgssr] Extract subtitles from HLS manifests

[nytimes] Extract subtitles from HLS manifests

[roosterteeth] Use common code for subtitle extraction

[elonet] Use common code for subtitle extraction

[tv4] Extract subtitles from streaming manifests

[byutv] Extract subtitles from streaming manifests

[generic] Extract subtitles from direct SSTR manifest links

[generic] Extract subtitles from direct DASH manifest links

[generic] Extract subtitles from direct HLS manifest links

[downloader/ism] Support muxing TTML subtitles

[downloader/hls] Handle MPEG-2 PES timestamp overflow

[downloader/hls] Remove duplicate cues using a sliding window of candidates

[downloader/hls] Assemble single-file WebVTT subtitles from HLS segments

[test] Test SSTR manifest parsing

[test] Test subtitle extraction from DASH manifests

[test] Test subtitle extraction from HLS manifests

[extractor/common] Extend _extract_akamai_formats to also extract subtitle tracks

[extractor/common, downloader/ism] Extract SSTR subtitle tracks

_parse_ism_formats was extended into _parse_ism_formats_and_subtitles;
all direct users were updated, though _extract_ism_formats was left
as a compatibility wrapper.

The SSTR downloader was also modified in order to prepare for muxing
subtitle streams, although no support for any subtitle codecs was
added in this commit.

[extractor/common] Extract DASH subtitle tracks

_extract_mpd_formats and _parse_mpd_formats were extended into
_…_formats_and_subtitles; wrappers with old names are provided
for compatibility.

[extractor/common] Extract HLS subtitle tracks

_extract_m3u8_formats is renamed to _extract_m3u8_formats_and_subtitles
and extended to handle subtitle tracks instead of skipping them;
a wrapper with the old name is provided for compatibility.

_parse_m3u8_formats is likewise renamed and extended, but without adding
the compatibility wrapper; the test suite is adjusted to test the enhanced
method instead.

[extractor/common] Generalise _merge_subtitles

This allows modifying a subtitles dictionary in-place.

[downloader/ism] Prevent writing the header again when resuming an interrupted download

[downloader/fragment] Allow persisting extra state when a download is interrupted

[utils] Improve bug_report_message

Add an optional argument specifying the text that should go before
the message.

[zee5] Fix extraction for some URLs (#279)

Closes: #278

[mediasite] Generalize URL pattern (#275)

Authored by: fstirlitz

Fix case sensitivity of format selector
Bug introduced in f8d4ad9ab00bca71808cd769c04806f51c3578f0

[limelight] Obey `allow_unplayable_formats`

[FormatSort] Fix for when some formats have quality and others don't

Py2 compatibility for `FileNotFoundError`

[niconico] Fix title and thumbnail extraction (#273)

Authored by: CXwudi

[Mxplayer] Add MxplayerShowIE (#270)

Authored by: Ashish0804

[utils] Encode URLs in `YoutubeDLCookieProcessor`
Closes #263

[tubi] Raise "no video formats" error when video url is empty
Related: #266

[francetvinfo] Improve video id extraction
Closes #261

[version] update :ci skip all

Release 2021.04.22

[documentation] Fix typos

[ci] Disable fail-fast

[lazy_extractor] Do not load plugins

Update to ytdl-commit-7e8b3f9

[youtube] Remove unused code
https://github.com/ytdl-org/youtube-dl/commit/7e8b3f9439ebefb3a3a4e5da9c0bd2b595976438

[mildom] Remove proxy (#260)

Closes #251
Makes 2cff49599769dcc131c385cbc24bab35d0b182ad, ab406a1c0e7f0afde7e80818c0159bfa2847481f, #252 obsolete

Authored by: fstirlitz

[BilibiliChannel] Fix pagination
Closes #222

https://github.com/nao20010128nao/ytdl-patched/commit/ccca21d7f57f1330a205f07d369e31883ba006c2
Coauthored by: nao20010128nao, pukkandan

[documentation] Clarify which deprecated options still work

Improve output template (see desc)
* Objects can be traversed like `%(field.key1.key2)s`
* A number can be added to the field as `%(field+n)s`
* Deprecates `--autonumber-start`

Add option `--skip-playlist-after-errors`
Allows to skip the rest of a playlist after a given number of errors are encountered

[go] Fix `_VALID_URL`
Closes #255

[mildom] Warn user of proxy

[MetadataFromField] Improve regex and add tests

[youtube] Bugfix in `_extract_ytcfg`

Improve --sub-langs (see desc)
* Treat `--sub-langs` entries as regex
* `all` can be used to refer to all the subtitles
* the language code can be prefixed with `-` to exclude it
* Deprecates `--all-subs`
Closes #253

[mildom:user:vod] Download only necessary amount of pages

[mildom:vod] Remove proxy
* Proxy is needed only for live videos

[mildom] Change proxy
Related: #251
Closes #252

[twitcasting] Fix extractor
* `Origin: https://twitcasting.tv` must be sent when requesting the webpage. Otherwise the extracted `m3u8` will always give a `502`
* Fix regex for when `data-movie-playlist` is a dict containing the needed list
* media initialization is fully supported; so change downloader to native

Closes #220

[rai] Add support for http formats (#208)

Authored by: nixxo

Improve the yt-dlp.sh script (#248)

* Quote the `$0` variable to correctly handle spaces
* Change the shebang line to `/bin/sh` to avoid unnecessarily depending on bash
* Use the `exec` command to avoid having the shell process linger unnecessarily
* Change the mode to make the script directly executable

Authored by: fstirlitz

:ci skip all

Update to ytdl-commit-9f6c03

[cbsnews] Fix extraction for python <3.6
https://github.com/ytdl-org/youtube-dl/commit/9f6c03a00602eb1119e43a522cf50682f6d6a6dd

[youtube:tab] Reload with unavailable videos for all playlists

If the unavailable video is in a later page, the warning and button are not shown in the initial webpage
So we force all playlists' initial page to reload with the correct params

Add option `--ignore-no-formats-error`
* Ignores the "no video format" and similar errors
* Experimental - Some extractors may still throw these errors

Fix inconsistent use of `report_warning`

[downloader] Fix ffmpeg selection for m3u8_native

[youtube:tab] Show unavailable videos in playlists (#242)

Closes #231

Authored by: colethedj

Fix some linter and typos

[viu:ott] Fix extractor (see desc)
* add language_flag_id query param
* add support for premium account (untested since I dont have a premium account)
* support entire series

Code from:
https://github.com/blackjack4494/youtube-dlc/pull/211
https://github.com/ytdl-org/youtube-dl/pull/15182
https://github.com/ytdl-org/youtube-dl/pull/26775

Fixes:
https://github.com/yt-dlp/yt-dlp/issues/219
https://github.com/ytdl-org/youtube-dl/issues/27946
https://github.com/ytdl-org/youtube-dl/issues/27863
https://github.com/ytdl-org/youtube-dl/issues/27812
https://github.com/ytdl-org/youtube-dl/issues/27464
https://github.com/ytdl-org/youtube-dl/issues/26788
https://github.com/blackjack4494/yt-dlc/issues/136

Possibly also fixes (untested):
https://github.com/ytdl-org/youtube-dl/issues/16992
https://github.com/ytdl-org/youtube-dl/issues/26701

Co-authored by: lkho, pukkandan

[Exec] Ensure backward compatibility when the command contains `%`

[youtube] Standardize API calls for tabs, mixes and search (#245)

Authored by: colethedj

[youtube] Ignore invalid stretch ratio
Closes #244

[downloader] Fix downloader selection for m3u8
Bug introduced by: 52a8a1e1b93dbc88f0018d4842f1e90ba96e095f and a31953b0e69f710f737643cb36b0ca1caf69e04c

[TubiTv] Add TubiTvShowIE (#243)

Authored by: Ashish0804

[youtube] Improve channel syncid extraction to support ytcfg (#241)

Authored by: colethedj

Ensure `mergeall` selects best format when multistreams are disabled

[downloader] Fix external downloader selection for m3u8
Closes #239

[version] update

:ci skip all

Release 2021.04.11

[documentation] Improvements

Add option `--convert-thumbnails`
Closes: https://github.com/yt-dlp/yt-dlp/issues/99 https://github.com/yt-dlp/yt-dlp/issues/102

Allow running some `postprocessors` before actual download

[youtube] Parse API parameters from initial webpage (#230)

* Obtain innertube_context, api_key and x-goog-visitor-id from webpage
* Generalize the header & Innertube_context extraction across YouTube extractors

Related: https://github.com/ytdl-org/youtube-dl/commit/1b0a13f33cfb3644cc718d35951ea85bb1905459

Authored by: colethedj

[youtube] Fix thumbnail URL
Closes: https://github.com/yt-dlp/yt-dlp/issues/233 https://github.com/ytdl-org/youtube-dl/issues/28023

Pass any field to `--exec` using similar syntax to output template
Related: https://github.com/ytdl-org/youtube-dl/issues/28642

Fix `mergeall` when requested formats are unavailable

Update to ytdl-commit-4fb25ff

[maoritv] Add new extractor
https://github.com/ytdl-org/youtube-dl/commit/4fb25ff5a3be5206bb72e5c4046715b1529fb2c7

Except:
[vimeo] improve extraction https://github.com/ytdl-org/youtube-dl/commit/3ae9c0f410b1d4f63e8bada67dd62a8d2852be32
[youtube:tab] Pass innertube context... https://github.com/ytdl-org/youtube-dl/commit/1b0a13f33cfb3644cc718d35951ea85bb1905459

[downloaders] Fix API access
Bug introduced by: 52a8a1e1b93dbc88f0018d4842f1e90ba96e095f

Deprecate more options

* `--all-formats` = `-f all`
* `--include-ads` is not implemented

Fix default of `dynamic_mpd`

Option to choose different downloader for different protocols

* Renamed `--external-downloader-args` to `--downloader-args`
* Added `native` as an option for the downloader
* Use similar syntax to `--downloader-args` etc. Eg: `--downloader dash:native --downloader aria2c`
* Deprecated `--hls-prefer-native` and `--hls-prefer-ffmpeg` since the same can now be done with `--downloader "m3u8:native"` and `m3u8:ffmpeg` respectively
* Split `frag_urls` protocol into `m3u8_frag_urls` and `dash_frag_urls`
* Standardize shortening of protocol names with `downloader.shorten_protocol_name`

Improve argument parsing for `-P`, `-o`, `-S`

* `-P "subtitle,thumbnail:PATH"` is now possible. Similarly for `-o`
* `-S "fps,br" -S "res,codec"` is now interpreted as `-S res,codec,fps,br`. Previously, `-S fps,br` was ignored in this case.

Format selector `mergeall` to download and merge all formats

[youtube] Fix _extract_alerts

* Sometimes one warning is split between multiple runs
* Also simplified code

[nebula] Add extractor (watchnebula.com) (#122)

Authored by: hheimbuerger

[NFHSNetwork] Add extractor (#217)

Authored by: llacb47