Metadata-Version: 2.1
Name: redis-queue-tool
Version: 4.2.6
Summary: reids高并发队列(高并发爬虫利器)
Home-page: https://github.com/abo123456789/RedisQueue
Author: cc
Author-email: abcdef123456chen@sohu.com
Maintainer: cc
Maintainer-email: abcdef123456chen@sohu.com
License: MIT License
Description:  [中文文档](README.md)  | [English Docs](README_EN.md)  
        ## redis高并发队列  
        ##### [介绍文档]
        
        * 支持版本: python 3.0+
        
        ### 下载安装
        
        * pip安装:
        ```shell
        pip install redis-queue-tool
        ```
        
        ### DEMO说明
        
        ##### 1.发布消费字符串类型任务
        ```python
            from redis_queue_tool.RedisQueue import RedisPublish, RedisCustomer, init_redis_config
        
            # redis连接配置
            init_redis_config(host='127.0.0.1', password='', port=6379, db=8)
        
            for zz in range(1, 501):
                # 发布字符串任务 queue_name发布队列名称 fliter_rep=True任务自动去重(默认False)
                RedisPublish(queue_name='test1', fliter_rep=False).publish_redispy_str(zz)
        
        
            def print_msg_str(msg):
                print(f"msg_str:{msg}")
        
        
            # 消费字符串任务 queue_name消费队列名称  process_num进程数(默认值1) threads_num线程数(默认值50) max_retry_times错误最大自动重试次数(默认值3)
            RedisCustomer(queue_name='test1', consuming_function=print_msg_str, process_num=2, threads_num=100,
                          max_retry_times=5, is_support_mutil_param=False).start_consuming_message()
        ```
        
        ##### 2.发布消费多参数类型任务
        ```python
            from redis_queue_tool.RedisQueue import RedisPublish, RedisCustomer, init_redis_config
        
            # redis连接配置
            init_redis_config(host='127.0.0.1', password='', port=6379, db=8)
        
        
            for zz in range(1, 501):
                 # 写入字典任务 {"a":zz,"b":zz,"c":zz}
                 param = {"a": zz, "b": zz, "c": zz}
                 RedisPublish(queue_name='test2').publish_redispy(param)
        
        
            def print_msg_dict(a, b, c):
                print(f"msg_dict:{a},{b},{c}")
        
        
            # 消费多参数类型任务 queue_name消费队列名称 qps每秒消费任务数(默认没有限制)
            RedisCustomer(queue_name='test2', consuming_function=print_msg_dict,
                          qps=50).start_consuming_message()
        ```
        
        ##### 3.批量提交任务消费
        
        ```python
            from redis_queue_tool.RedisQueue import RedisPublish,  RedisCustomer, init_redis_config
            from gevent import monkey 
            monkey.patch_all()
        
            # redis连接配置
            init_redis_config(host='127.0.0.1', password='', port=6379, db=8)
        
            # #### 3.批量提交任务
            result = [{'a': i, 'b': i, 'c': i} for i in range(1, 501)]
            # 批量提交任务 queue_name提交任务队列名称 max_push_size每次批量提交记录数(默认值50)
            RedisPublish(queue_name='test3', max_push_size=100).publish_redispy_list(result)
            def print_msg_dict1(a, b, c):
                print(f"msg_dict1:{a},{b},{c}")
            # 消费者类型 string 支持('thread','gevent') 默认thread，若使用gevent请在代码开头加入：from gevent import monkey monkey.patch_all()
            RedisCustomer(queue_name='test3', consuming_function=print_msg_dict1, customer_type='gevent',
                          qps=50).start_consuming_message()
        ```
        
        ##### 4.切换任务队列中间件为sqlite(默认为redis)
        
        ```python
            from redis_queue_tool.RedisQueue import RedisPublish, RedisCustomer
        
            for zz in range(1, 101):
                RedisPublish(queue_name='test4', middleware='sqlite').publish_redispy(a=zz, b=zz, c=zz)
        
            def print_msg_dict2(a, b, c):
                print(f"msg_dict:{a},{b},{c}")
        
            RedisCustomer(queue_name='test4', consuming_function=print_msg_dict2, middleware='sqlite',
                          qps=50).start_consuming_message()
        
        ```
        
        
        ### 使用场景和特色说明
        ##### 【1分钟内能熟练运用该框架爬取数据,无需学习复杂文档.轻松扩展各种中间件】
        
        ```shell
        1 . 高并发分布式爬虫(经过线上千万级数据爬取验证)
        
        2 . 分布式数据清洗(清洗自动去重,支持任意时刻中断后继续清洗)
        
        3 . 短视频处理(视频下载上传,带宽足够无需等待)
        
        4 . 异步实时在线查询接口(速度达到毫秒级别)
        
        5 . 其它使用场景扩展中
        
        ```
        
        ### reids安装
        [reids 普通安装](https://www.runoob.com/redis/redis-install.html)
        
        reids docker安装
        ```shell
        docker run  -d -p 6379:6379 redis
        ```
        
        ### 更新说明
        
        
        ```java
        2020-06-11 版本4.1.5 新增支持gevent协程消费参数 customer_type='gevent'
        
        2020-05-20 新增消费函数超时时间参数
        
        2020-05-10 新增sqlite中间件支持
        
        2020-04-13 消费函数新增自动控制线程数
        
        2020-04-10 消费函数新增限频参数
        
        2020-01-08 消费函数支持多参数类型
        
        2019-12-06 简化多线程消费队列类
        
        2019-10-14 新增消费函数错误重试机制,默认重试3次
        
        2019-10-12 任务去重忽略参数顺序
        
        2019-09-27 修复提交列表任务BUG
        
        2019-05-25 新增添加任务时动态传参
        
        2019-04-06 新增爬取任务自动去重功能
        
        2019-03-23 新增单线程异步批量提交功能
        ```
        
Platform: all
Classifier: Development Status :: 4 - Beta
Classifier: Operating System :: OS Independent
Classifier: Intended Audience :: Developers
Classifier: License :: OSI Approved :: MIT License
Classifier: Programming Language :: Python
Classifier: Programming Language :: Python :: Implementation
Classifier: Programming Language :: Python :: 3.6
Classifier: Topic :: Software Development :: Libraries
Description-Content-Type: text/markdown
