本文介绍了分布式任务调度系统Celery，包括安装，开发使用，并且配合supervisor，flower等工具进行系统化部署和使用。

（一）安装和代码开发使用示例

一，简介

Celery是一个分布式任务调度系统，简单、灵活、可靠，是一个处理大量消息的分布式系统。专注于实时处理的异步任务队列，同时也支持任务调度。

Celery的架构由三部分组成：

AMQP broker：即消息中间件，Celery本身不提供消息服务，但是可以方便的和第三方提供的消息中间件集成。包括，rabbitmq, Redis等。

celery workers：即任务执行单元，是Celery提供的任务执行的单元，worker并发的运行在分布式的系统节点中。

task result store：即任务执行结果存储，用来存储Worker执行的任务的结果，Celery支持以不同方式存储任务的结果，包括AMQP, redis等。

二，Celery安装

2.1 安装celery相关包

pip3 install eventlet

pip3 install celery

pip3 install pymongo

pip3 install flower

2.2 配置环境变量

export PATH=/usr/local/Python3/bin:$PATH

echo "PATH=/usr/local/python3/bin:$PATH" >> /etc/profile.d/python3.sh

cd /etc/profile.d/

chmod 777 python3.sh

2.3 oracle环境变量配置

如果用到oracle数据库，需要增加oracle环境变量配置信息到python3.sh

cat /etc/profile 查看oracle环境变量配置

export PATH=/opt/oracle/instantclient_11_2:$PATH

echo "PATH=/opt/oracle/instantclient_11_2:$PATH" >> /etc/profile.d/python3.sh

cd /etc/profile.d/

chmod 777 python3.sh

# locate libclntsh.so.11.1

/opt/oracle/instantclient_11_2/libclntsh.so.11.1

# vim /etc/ld.so.conf

在最后一行添加如下内容：

/opt/oracle/instantclient_11_2

执行ldconfig

# ldconfig

三，Celery使用

3.1 celery –help

3.2 celery work –help

3.3 应用实例代码结构

3.4 运行后rabbitmq中内容

3.5 启动worker命令

（二）Supervisor使用

一，简介

Supervisor是一个进程管理工具，也可以理解为进程守护监控，当进程中断的时候Supervisor能自动重新启动它。Supervisor是用Python开发的一套通用的进程管理程序，能将一个普通的命令行进程变为后台daemon，并监控进程状态，异常退出时能自动重启。

在线上环境中，为了celery高可用性，肯定需要配置celery自动失败重启和开机自启动等，保证celery服务端和客户端的可用性。

二，Supervisor安装

2.1 下载包地址

https://files.pythonhosted.org/packages/2f/43/130066cd6003233401142f5f98cd09c93165f5c6408f850dd965b4f2470e/supervisor-4.2.0-py2.py3-none-any.whl

2.2 安装下载包

pip3 install supervisor

2.3 创建配置文件

创建
/etc/supervisor/supervisord.conf配置文件

vim /etc/supervisor/supervisord.conf

内容如下：

[unix_http_server]

file=/tmp/supervisor.sock ; path to your socket file

port=127.0.0.1:9001

[supervisord]

logfile=/var/log/supervisord/supervisord.log ; supervisord log file

logfile_maxbytes=50MB ; maximum size of logfile before rotation

logfile_backups=10 ; number of backed up logfiles

loglevel=info ; info, debug, warn, trace

pidfile=/var/run/supervisord.pid ; pidfile location

nodaemon=false ; run supervisord as a daemon

minfds=1024 ; number of startup file descriptors

minprocs=200 ; number of process descriptors

user=root ; default user

childlogdir=/var/log/supervisord/ ; where child log files will live

[rpcinterface:supervisor]

supervisor.rpcinterface_factory = supervisor.rpcinterface:make_main_rpcinterface

[supervisorctl]

serverurl=unix:///tmp/supervisor.sock ; use unix:// schem for a unix sockets.

[include]

# Uncomment this line for celeryd for python

;files=celeryd.confi

files = /etc/supervisor/supervisord.conf.d/*.conf

2.4 创建文件

创建celeryd_worker.conf文件

vim /etc/supervisor/supervisord.conf.d/celeryd_worker.conf

[program:celery]

command=/usr/local/python3/bin/celery -A app worker -l info -n 192.168.12.150 -Q add

directory=/tmp/pycharm_project_146 # 运行命令的目录

numprocs=1

# 设置log的路径

stdout_logfile=/var/log/supervisor/celeryworker.log

stderr_logfile=/var/log/supervisor/celeryworker.log

autostart=true

autorestart=true

startsecs=10

stopwaitsecs = 600

priority=15

2.5 创建日志文件目录

mkdir -p /var/log/supervisor

mkdir -p /var/log/supervisord

2.6 创建service文件

创建
/etc/systemd/system/supervisord.service文件

此文件用于在centos中通过服务器supervisord,需要赋予777权限

vim /etc/systemd/system/supervisord.service

chmod 777 supervisord.service

三，Supervisord使用

3.1 启动Supervisord

运行systemctl start supervisord，启动supervisor，之后celery会自动启动

3.2 命令查看celery运行状态

运行supervisorctl status查看可发现celery成功运行

3.3 woker启动进程数和服务器cpu核数相关

查看逻辑核数：

cat /proc/cpuinfo| grep "processor"| wc -l

（三）flower安装部署和使用

一，简介

Flower是基于web的监控和管理Celery的工具。也是基于python实现的，用flower的前提是flower所在服务器能和任务队列所在服务器连通。

最牛逼的是起了flower后，你可以选择通过API调用方式来对任务和worker进行管理，而不用flower自带的web界面，等于是你可以自己开发个web界面来调flower的接口。

二、Flower安装和使用

2.1 Flower安装

pip3 install flower

2.2 Flower启动

方式一：

cd /tmp/pycharm_project_146

flower -A app –port=5555 –address=0.0.0.0 –persistent=True，-A指定项目名，port指定web端监听端口，address指定地址，persistent为true指定flower在本地保存当前状态。

方式二：

cd /tmp/pycharm_project_146

celery flower -A app –port=5555 –address=0.0.0.0 –persistent=True

方式三：

使用带认证

celery flower -A app –port=5555 –address=0.0.0.0 –persistent=True –basic_auth=root:123456

2.3 界面访问

浏览器访问
http://192.168.12.150:5555/dashboard

flower作为web页面来管理celery后台任务，和任务队列是隔离的，也就是flower的运行与否并不会影响到任务队列的真正执行，但是flower中也可以通过API接口来管理celery中的任务执行。