Merge pull request #215 from wlonk/colorization

Colorization
I've added some logic to align usernames and wrap tweets. It's preliminary, but hopefully useful. I have tied it in to the ANSI format, because that seems the most human-oriented format.

I'm happy to talk about this more and go back and forth on it, and I hope it's useful!

Merge pull request #216 from edi-bice/master

--follow-redirects hangs indefinitely on certain urls
urllib2 opener open lacked a timeout parameter causing it to hang indefinitely on certain URLs where the host does not send back any data - added timeout=1 for now and will expose as parameter later - also added socket.timeout exception to list of exceptions handled

urllib2 opener open lacked a timeout parameter causing it to hang indefinitely on certain URLs where the host does not send back any data - added timeout=1 for now and will expose as parameter later - also added socket.timeout exception to list of exceptions handled

Using upstream ANSI colors.

Corrections to width numbers.

Improved display of multiline tweets.

Oops, left debugging cruft on there.

Added spacing for usernames.

Merge pull request #214 from edi-bice/master

Fixed broken rate limiting error handling in archiver/follow.
Twitter changed rate limiting response objects quite a bit in v1.1.
In addition there were bugs due to import of time module and time object from datetime module.

Fixed broken rate limiting error handling in archiver/follow.
Twitter changed rate limiting response objects quite a bit in v1.1.
In addition there were bugs due to import of time module and time object from datetime module.

Merge pull request #213 from RouxRC/fix-twitterrate

Fix routing to rate_limit_status calls (Fix #157)

Fix routing to rate_limit_status calls (Fix #157)

Version 1.14.1.

Merge pull request #211 from justinclift/master

Trivial typo fix

Merge pull request #212 from justinclift/friends_timeline_update

Update README with friends_timeline() replacement

Merge pull request #210 from sixohsix/stream_cleanup_two

Stream cleanup twoSecond time... or third time's a charm. I hope this is it.

- code is actually understandable
- NO MORE UNICODE ERRORS
- NO MORE 100% CPU usage
- return data chunks ASAP
- handle "old school" non-blocking mode (for those who still want it)
- works on all stream servers I have access to

Trivial typo fixes

Update README with friends_timeline() replacement

We don't need range.

Remove a pdb. Handle very long timeouts better.

Handle old-school non-blocking.

Simplify code. Produce data faster by handling bizarre CRLF behaviour.

Okay. It works now. Omg.

Version 1.14.0

Merge pull request #208 from RouxRC/pr-userstream-keywords-example

Add possibility to use keywords track with user/site streams in script sample
To help illustrate further comments to come on #205

Merge pull request #205 from sixohsix/stream_cleanup

Explicit support for heartbeat handling
Yet another crack at the stream iterator.

Now we explicitly track timeouts and heartbeat timeouts separately. Regular timeouts produce `Timeout` tokens (dicts). Heartbeat timeouts produce `HeartbeatTimeout` and StopIteration if iterated again. This is a solid fix for issue #202.

If the stream is set to use `timeout=None, block=False`, then we yield only data or `None`. If `timeout` is set to a number, we yield data or `Timeout` tokens, never `None`. If we are set to `block=True` then we yield only data.

Also: improve the documentation and remove some code weirdness.

Also: make the example stream program highly configurable to test every bizarre combination from the command line.

Make possible to use track keywords with user/site streams in sample script (cf #205)

Fix Python 3.x support.

Let's use the stdlib io system for great sanity.

Further simplification in progress.

Merge pull request #206 from polm/patch-1

oauth dance should use https.
HTTP URL generated by OAuth dance just gives a blank page, but changing it to HTTPS fixes it.

oauth dance should use https.

HTTP URL generated by OAuth dance just gives a blank page, but changing it to HTTPS fixes it.

Explicitly control heartbeat timeouts.

Better help for example.

Use timeout and block args for all streams in example.

Simplify further. New args to example script. Update documentation.

Simplify streaming code.

Merge pull request #203 from RouxRC/pr-fix-timeout

Fix streams timeout & hangup behavior + ensure python2.6 compat
Here are the changes to fix the misbehavior of the timeout in case of low tweets by catching Twitter's keep-alive heartbeat signals thanks to the select.select originally added in #178 and still problematic as pointed out by @ksecrist in #202

I also generalized the hangup to all cases since there is no reason to stay in infinite loop after a hangup in non-blocking mode.

And to make things easier and avoid merging issues, I adapted the refacto and fixed python2.6 compatibility from @adonoho's #201

please @adonoho

revert to regular no yield in timeout mode until further non-blocking+timeout option

use non timeout mode for all streams in the sample tester

fix python2.6 compat and refacto per as @Adonoho's #201

hangup should happen also in noblock mode

yield None as well in timeout mode when no tweet received

take twitter's keepalive signals into account for the timeout

Fix exception on hangedup streams in 2.6

Version 1.13.1.

Restore Python 2.6 compatibility by restoring the old version of recv_chunk, only used for Py 2.6.

Version 1.13.0. Ends support for Python 2.6.

Merge pull request #199 from adonoho/use-bytearray-buffer

Reduce memory usage by writing directly into byte array buffer.
Gentlefolk,

The whole point of using a `bytearray` as opposed to concatenating reads of `bytes` was to reduce memory usage. This pull request now takes that strategy to its logical conclusion by writing the balance of the chunk directly into the `bytearray`. This saves the creation of a temporary `bytes` array, up to 8KiB in size.

It does this by creating a `memoryview` of the `bytearray`. While this is still an allocation, the `memoryview`s are much smaller and are, presumably, reclaimed faster.

This patch has been running for over 24 hours and has processed over 4 MTw under Python v3.3.3 on OS X 10.8.5. It has also been run for about 10 minutes on Python v2.7.6 on a similar machine. `memoryview` does not appear to have been backported to Python v2.6.*. Hence, this pull request is incompatible with that platform.

Anon,
Andrew

P.S. The changes in this pull request are larger than strictly necessary for adding this functionality. I chose to improve the naming of my variables and move some of them closer to where they are used.

Clarify comment.

Merge branch 'use-bytearray-buffer'

Directly read the balance of the HTTP chunk into the byte array. This eliminates at least one large allocation. Adjust names to match new logic.

Version 1.12.1

Merge pull request #198 from adonoho/fix-busy-wait

Follow the hangup message with a break out of the loop.
And clarify a comment and just use a normal string as an initial value.

Follow the hangup message with a break out of the loop. Clarify a comment and just use a normal string as an initial value.

Merge pull request #197 from RouxRC/pr-rouxrc

Add image support + fix diverses issues
All right, Mike's motivation was contagious and I cherry-picked and merged my pending commits regarding the other parts than the streaming.
This should fix a few more pending issues I tagged back then : #127 #177 #192 #126 #10 #64
I also seized the occasion to add @adonoho among the authors as well.

new version and include @adonoho in authors

Merge https://github.com/sixohsix/twitter into pr-rouxrc

friends_timeline is deprecated in API v1.1, remove it from all examples and ircbot

Version 1.11.1.

Fix tilde fixing...

convert non string before replacing in it...
(follows da33e70db0a0469dd8990b1ca3e7b06445529ea2 )

Complete tildes fix for python 2

The fix #64 by @grahame was fixing the issue of sending tweets with
'~' for python 3 but not for python 2 due to urllib.urlencode's lack
of safe functions. Here's a dirty hack to do it anyway.
Any better fix welcome :)

Merge https://github.com/sixohsix/twitter into pr-rouxrc

authorship

Actually, the POST 'place' method is deprecated and removed.

Handle multipart oauth to use image sending api

So the calls to send media (update_with_media, update_profile_image,
update_profile_background_image and update_profile_banner) require
to send queries differently, as multipart form, and oauth needs to be
signed without taking any parameter into account.
This does the trick, following the rules here and there:
https://dev.twitter.com/docs/uploading-media
https://dev.twitter.com/docs/api/1.1/post/statuses/update_with_media
https://dev.twitter.com/discussions/1059

Closes #127

Merged from 0a6fe85f7cc72d940b4393d2522d88d74b05ad22

Fix broken follow create/destroy in cmdline & bot

Adapt argument calls to the intended behavior

Fixes #177 #192 #126 #10

Don't crash with 'python -OO'.

Merge https://github.com/sixohsix/twitter into pr-rouxrc

Ignore .pyo

Make the logger work again.

Merge https://github.com/sixohsix/twitter

Use POST for all methods requiring it in specs

Added all missing methods from https://dev.twitter.com/docs/api/1.1
Also included some of the streaming methods which work with both GET
and POST but accept arguments like "track" which can quickly require
POST.

(Closes #187 #145 #188)

Update follow/unfollow API calls for 1.1.

Make stream example print message if no args are given.

Version 1.11.0

Initialize error instance correctly. Based on @kemkin's patch.

Merge pull request #196 from adonoho/pr-fix-stream

A Simpler Fix to the Streaming Code due to Changes from Twitter on Jan. 13, 2014.
Gentlefolk,

This is a candidate release patch. I propose it become the formal branch of this library and have dubbed it version v1.10.3. I once again formally thank RouxRC for his efforts moving this library forward. Any errors in this patch remain mine and do not reflect upon RouxRC or his code.

This library is a high performance streaming library. Compared to other Twitter libraries, it is easily an order of magnitude faster at delivering tweets to your application. Why is that? When streaming, this library pierces Python's urllib abstraction and takes control of the socket. It interprets the HTTP stream directly. That makes it fast. It also makes it vulnerable to changes. It needed to be upgraded when Twitter upgraded the protocol version.

Twitter's switch to HTTP v1.1 was long overdue.

Summary of changes:

- Based upon RouxRC's code, I turned off gzip compression. My version is slightly different than RouxRC's version.
- Instead of incrementally reading arbitrary lengths of bytes from the socket and seeing if they parse in the JSON parser, a good technique, the switch to HTTP chunking forced us to process in chunk sized blocks. Based upon inspection, Twitter never sends partial JSON in a chunk. They also send keep-alive delimiters in single 7 byte long chunks. This code depends upon both of these observations. It does not do general purpose HTTP chunk processing. It is a Twitter specific HTTP chunk parser.
- Chunk oriented processing allowed me to isolate stream interpretation to the chunk code and migrate the wrapper code to operate exclusively using strings. This makes the wrapper code more readable.
- Once I had opened up the wrapper code, I cleaned it up. This involved modest edits in how certain socket parameters were determined and moving data exclusive to the generator into the generator and out of the containing object.
- As this is exclusively socket oriented code, the HTTP exception catching was removed from the method. The exception was moved to wrap the opening of the socket by url lib.
- Due to reading the data in larger chunks and, hence, running it through the JSON parser less often, this code is about 10% faster than the prior generation.
- When Twitter hangs up on us, this code emits a `hangup` message in the stream.
- This code has been tested using Python v2.7.6 and v3.3.3 on OS X 10.8.5 (Mountain Lion). I have tested it on the high volume sample stream and on a user stream under both versions of Python. It is believed, but not tested, that it will function under Python v2.6.x. It uses the bytearray type. I believe that has been back ported all the way to Python v2.6.x. As the code is not particularly tricky, I do not foresee that it has introduced any new issues that were not already apparent in this library.
- I use this patch in production and have captured 50M+ tweets with it. It is solid and reliable. If you find it to not be so, please contact me. I use it in production and have a vested interest in ensuring that it catches all corner cases.

Thank you for your patience while I refine this patch and I ask Mr. Verdone to select this patch as the basis for moving this library forward.

Enjoy and Anon,
Andrew

Merge branch 'fix-stream' into pr-fix-stream

Clarify the comment about edge cases.

Add comments detailing why we can avoid handling certain edge cases in the Twitter stream.

Handle HTTP chunks that only contain keep-alive delimiters.
A few cosmetic edits of the iterator function.

Set a timeout on the main sample stream to test that code path.

Remove socket timeout mutation code.
Simplify protocol parsing checks.
Move HTTP exception catching to where it might actually be thrown.

Remove all keep-alive delimiters to allow the hangup patch to function.

Bump the version number.

Further refine socket management.
All HTTP chunks are read in their entirety.
Cosmetic code improvements. (The socket's blocking state is set in a more compact form after a DeMorgan's boolean transformation.)
Hangups by Twitter, as with timeouts, are signaled via a message to allow gracious recovery.

As Twitter appears to send complete JSON in the chunks, we can simplify buffer management to only operate on strings and not re-encode the string as bytes. This improves readability at the expense of breakage if Twitter starts spanning JSON across HTTP chunks. This is an unlikely change to their infrastructure. That said, this is a totally optional patch.

Move variables out of the iterator class and into the generator function. This slightly improves locality of code and data.

Move recv_chunk() into a stand alone function. Further minimize memory use by using a chunk sized bytearray.

Merge branch 'fix-stream' into pr-fix-stream

Cosmetic edits.

Minimize string decoding and move to use a bytearray for the buffer. This reduces memory consumption and is faster than the += operator for buffer concatenation and trimming.

Merge branch 'fix-stream' into pr-fix-stream

Cosmetic edit

Bring HTTP chunk downloading into its own separate method.

Add support for both user and site streams.

Increase the size of the read buffer to be larger than the average tweet.

Move the potentially uninitialized values out of the if test.