merge youtube-dl master 22.09.2020

[downloader/http] Properly handle missing message in SSLError (closes #26646)

[downloader/http] Fix access to not yet opened stream in retry

Merge pull request #129 from jbruchon/master

Switch from binary search tree to Python sets

release 2020.09.20

[ChangeLog] Actualize
[ci skip]

[redtube] Extend _VALID_URL (#26506)

[twitch] Switch streams to GraphQL and refactor (closes #26535)

Switch from binary search tree to Python sets

Signed-off-by: Jody Bruchon <redacted>

[telequebec] Fix issues (closes #26368)

[telequebec] Add support for brightcove videos (closes #25833)

[pornhub] Extract metadata from JSON-LD (closes #26614)

[extractor/common] Relax interaction count extraction in _json_ld

[extractor/common] Extract author as uploader for VideoObject in _json_ld

[pornhub] Fix view count extraction (#26621) (refs #26614)

Randomize the ArchiveTree the proper Python way

Signed-off-by: Jody Bruchon <redacted>

[skip travis] Update issue templates

Merge pull request #125 from jbruchon/master

Keep download archive in memory for better performance

Style revisions

Merge remote-tracking branch 'upstream/master'

[hotstar] regex the second.

Fix wrong variable in position swap corrupting archive list

It's always a simple error in the end, you know?

Signed-off-by: Jody Bruchon <redacted>

Randomize archive order before populating search tree

This doesn't result in an elegant, perfectly balanced search tree,
but it's absolutely good enough. This commit completely mitigates
the worst-case scenario where the archive file is sorted.

Signed-off-by: Jody Bruchon <redacted>

[downloader/hls] Fix incorrect end byte in Range HTTP header for media segments with EXT-X-BYTERANGE (#24512) (closes #14748)

The end of the byte range is the first byte that is NOT part of the to
be downloaded range. So don't include it into the requested HTTP
download range, as this additional byte leads to a broken TS packet and
subsequently to e.g. visible video corruption.

Fixes #14748.

Try to mitigate the problem of loading a fully sorted archive

Sorted archives turn the binary tree into a linked list and make
things horribly slow. This is an incomplete mitigation for this
issue.

[extractor/common] Handle ssl.CertificateError in _request_webpage (closes #26601)

ssl.CertificateError is raised on some python versions <= 3.7.x

[downloader/http] Improve timeout detection when reading block of data (refs #10935)

[downloader/http] Retry download when urlopen times out (#26603) (refs #10935)

Remove recursion in at_insert()

Remove debugging print statements

Keep download archive in memory for better performance

The old behavior was to open and scan the entire archive file for
every single video download. This resulted in horrible performance
for archives of any remotely large size, especially since all new
video IDs are appended to the end of the archive. For anyone who
uses the archive feature to maintain archives of entire video
playlists or channels, this meant that all such lists with newer
downloads would have to scan close to the end of the archive file
before the potential download was rejected. For archives with tens
of thousands of lines, this easily resulted in millions of line
reads and checks over the course of scanning a single channel or
playlist that had been seen previously.

The new behavior in this commit is to preload the archive file
into a binary search tree and scan the tree instead of constantly
scanning the file on disk for every file. When a new download is
appended to the archive file, it is also added to this tree. The
performance is massively better using this strategy over the more
"naive" line-by-line archive file parsing strategy.

The only negative consequence of this change is that the archive
in memory will not be synchronized with the archive file on disk.
Running multiple instances of the program at the same time that
all use the same archive file may result in duplicate archive
entries or duplicated downloads. This is unlikely to be a serious
issue for the vast majority of users. If the instances are not
likely to try to download identical video IDs then this should
not be a problem anyway; for example, having two instances pull
two completely different YouTube channels at once should be fine.

Signed-off-by: Jody Bruchon <redacted>

[hotstar] regex fix

[skip travis] winver

bump version 2020.09.16

[Core] hls manifests, dynamic mpd

Merge branch 'Zocker1999NET-ext/remuxe-video'

Merge branch 'ext/remuxe-video' of https://github.com/Zocker1999NET/youtube-dl into Zocker1999NET-ext/remuxe-video

Merge pull request #110 from JensTimmerman/patch-5

Update README.md

Update README.md

cleanup + typo fix

Merge branch 'tpikonen-elonet'

Merge branch 'elonet' of https://github.com/tpikonen/youtube-dl into tpikonen-elonet

Merge branch 'fix-mitele' of https://github.com/DjMoren/youtube-dl

Merge branch 'DjMoren-fix-mitele'

Merge branch 'arbitrary-merges' of https://github.com/fstirlitz/youtube-dlc

Merge branch 'ytdl-org-master'

Support arbitrary stream merges

With this change, the merge operator may join any number of media streams,
video or audio. The streams are downloaded in the order specified.

Also, fix the metadata post-processor so that it doesn't leave out
any streams.

merge ytdl-master

Merge pull request #105 from JensTimmerman/patch-3

Update README.md

release 2020.09.14

[ChangeLog] Actualize
[ci skip]

[postprocessor/embedthumbnail] Fix issues (closes #25717)
* Fix WebP with wrong extension processing
* Fix embedding of thumbnails with % character in path

[postprocessor/embedthumbnail] Add support for non jpeg/png thumbnails (closes #25687)

Update README.md

[rtlnl] Extend _VALID_URL for new embed URL schema

[rtlnl] Extend _VALID_URL (#26549) (closes #25821)

[youtube] Fix empty description extraction (#26575) (closes #26006)

[srgssr] Extend _VALID_URL (closes #26555, closes #26556, closes #26578)

[googledrive] Use redirect URLs for source format (closes #18877, closes #23919, closes #24689, closes #26565)

Merge pull request #102 from blackjack4494/gdcvault-fix

[gdcvault] fix extractor

flake8

[skip travis] bump version

[svtplay] Fix id extraction (closes #26576)

Merge pull request #96 from blackjack4494/kakao-new-apis

[kakao] new apis

Merge pull request #95 from blackjack4494/daserste-ndr

[ndr] support Daserste ndr

[kakao] new apis

there are also ageLimit and GeoBlock attributes provided by api_json if needed

[redbulltv] improve support for rebull.com TV localized URLS(#22063)

Merge pull request #94 from blackjack4494/conv_subs_when_skipped

[youtube] Convert subs when download is skipped

flake8

[youtube] convert subtitles with --skip-download

add json3 back but don't use it as default.

exclude json3 for now

[gdcvault] fix extractor

at least when not logged in?

[skip travis] create faq.md

how to redirect to another extractor

[redbulltv] Add support for new redbull.com TV URLs(closes #22037)(closes #22063)

[dispeak] mark the "slides" stream as video-only

[soundcloud] Reduce pagination limit to fix 502 Bad Gateway errors when listing a user's tracks. (#26557)

Per the documentation here https://developers.soundcloud.com/blog/offset-pagination-deprecated the maximum limit is 200, so let's respect that (even if a higher value sometimes works).

Co-authored-by: tfvlrue <tfvlrue>

[skip travis] update supportedsites and make_win.bat

[skip travis] bump version

Merge branch 'skyme5-tiktok'

Merge branch 'tiktok' of https://github.com/skyme5/youtube-dl into skyme5-tiktok

Merge branch 'lkho-pr/duboku'

Merge branch 'pr/duboku' of https://github.com/lkho/youtube-dl into lkho-pr/duboku

Merge branch 'hugohaa-alura'

Merge branch 'alura' of https://github.com/hugohaa/youtube-dl into hugohaa-alura

Merge branch 'adrianheine-26564'

Merge branch '26564' of https://github.com/adrianheine/youtube-dl into adrianheine-26564

Merge branch 'ddland-master'

Merge branch 'master' of https://github.com/ddland/youtube-dl into ddland-master

Merge branch 'nixxo-patch-2'

Merge branch 'patch-2' of https://github.com/nixxo/youtube-dl into nixxo-patch-2

Merge remote-tracking branch 'origin/master'

Merge branch 'fonkap-myvideo_ge'

Merge branch 'myvideo_ge' of https://github.com/fonkap/youtube-dl into fonkap-myvideo_ge

Merge pull request #69 from blackjack4494/viki-subtitles_and_more

[Viki] subtitles, formats

Merge branch 'iamleot-rai-update'

Merge branch 'rai-update' of https://github.com/iamleot/youtube-dl into iamleot-rai-update

Merge branch 'JensTimmerman-JensTimmerman-patch-1'

Merge branch 'JensTimmerman-patch-1' of https://github.com/JensTimmerman/youtube-dl into JensTimmerman-JensTimmerman-patch-1

Merge branch 'ytdl-org-master'

Merge branch 'legraphista-fix/google-drive-cookie-issue'