快速的消息队列 SquirrelMQ

Apache
C/C++
Linux
2011-09-10
liexusong

SquirrelMQ是一个快速的消息队列。

 

SquirrelMQ特性:

1. SquirrelMQ使用Slab内存分配算法来降低内存碎片,使用epoll来解决高并发问题。效率比redis要高,使用简单。

2. 另外SquirrelMQ支持持久化,在down机的情况下也不用担心数据丢失。

3. SquirrelMQ支持lua脚本,你可以制定自己的处理队列程序,只要在cron/main.lua中编写代码即可。

 

一,SquirrelMQ使用

下面,我们介绍使用SquirrelMQ消息队列来完成上面所说的应用吧。

1) 安装Lua。

 

2) 首先下载编译SquirrelMQ:

#> wget http://squirrel-message-queue.googlecode.com/files/squirrel-with-lua-v1.2.zip

#> tar –zxvf squirrel-with-lua-v1.2.zip

#> cd squirrel-with-lua-v1.2

#> make

3) 修改SquirrelMQ配置(squirrel.conf文件):

# 侦听端口

listingPort 6061

# 最大可以使用内存数(单位:字节)

memoryLimitUsed 524288000

# 多长时间进行存储数据到硬盘(防止down机时数据丢失,单位为秒)

secondsToSaveDisk 30

# 多少次数据变化才进行存储数据到硬盘(防止写数据过于频繁)

chagesToSaveDisk 30

# 客户端连接多长时间不操作自动关闭(单位为秒)

clientExpiredTime 60

# 多长时间运行一次cron(单位为毫秒)

cronLoops 5000

# 是否开启Lua处理线程

enableLuaThread 1

# 是否使用守护进程模式运行

daemonize 0

我们根据自己的需求来修改配置,特别说明一下的是,当开启Lua处理线程时,我们可以编写Lua脚本来处理队列(在cron/main.lua)。这样就可以让服务器本身来处理消息队列的数据,而不用另外写一个cron程序来处理。下面我们会介绍。

4) 运行SquirrelMQ:

#> ./squirrel –c squirrel.conf

 

二,使用客户端API

SquirrelMQ提供一个PHP访问的API,在php/squirrel.class.php。我们可以使用这个API文件轻松地访问SquirrelMQ。

这个API文件把所有访问SquirrelMQ的操作封装成一个类,叫Squirrel,在使用时直接new一个Squirrel的对象即可,如下:

 

<?php
include
("squirrel.class.php");
$smq
= new Squirrel('127.0.0.1', 6061);
$smq
->push_tail("INSERT INTO mytable(uid, username, password)VALUES(NULL, 'liexusong', '123456');");
?>

这样,我们就可以把一条消息插入到消息队列了。我们可以使用size()方法来获取SquirrelMQ的消息条数:

<?php
include
("squirrel.class.php");
$smq
= new Squirrel('127.0.0.1', 6061);
$size
= $smq->size();
echo
"The SquirrelMQ size: $size";
?>

SquirrelMQ支持的API有:

1)插入到队列的头部:

$smq->push_head($message);

2)插入到队列的尾部:

$smq->push_tail($message);

3)取得队列的第一条消息,并从队列中删除:

$message = $smq->pop_head();

4)取得队列的最后一条消息,并从队列中删除:

$message = $smq->pop_tail();

5)取得队列的第n条消息,并且从队列中删除:

$message = $smq->pop_index($index);

6)取得队列的第一条消息,但不从队列中删除:

$message = $smq->get_head();

7)取得队列的最后一条消息,但不从队列中删除:

$message = $smq->get_tail();

8)取得队列的第n条消息,但不从队列中删除:

$message = $smq->get_index($index);

9)取得队列的大小:

$size = $smq->size();

10)取得队列的状态:

$stat = $smq->stat();

 

三,使用Lua处理队列

SquirrelMQ的一个令人兴奋的特性就是支持使用Lua处理队列中的消息,下面我们来介绍一下这个功能。

要开启Lua处理线程,需要在配置文件中把enableLuaThread设置为1。这样SquirrelMQ就会开启Lua处理线程。我们可以在cron/main.lua文件中编写我们的Lua代码来处理队列中的消息。在cron/main.lua文件中,必须编写一个 main 的函数,SquirrelMQ就是以这个函数作为入口,如:

 

function __main__()
......
end

 main 函数中,我们可以使用一些SquirrelMQ提供的API函数取得队列中的消息,如smq_pop_head()和smq_pop_tail()等。 main 函数可以这样写:

require "luasql.mysql"

function __main__()
    env
= luasql.mysql()
    con
= env:connect("database", "username", "password", "127.0.0.1", 3306)

   
while true do
       
local ok, sql = smq_pop_head()
       
if ok then
           res
= con:execute(sql)
       
end
   
end

    con
:close()
    env
:close()
end

记住,SquirrelMQ提供的API都是阻塞的,也就是说,当队列为空时,API会阻塞知道队列有消息可以获取为止,这样做的目的是为了尽量减少Lua线程的运行时间。

在上面例子中,我们使用smq_pop_head()来取得队列的第一条消息,然后执行此消息(con:execute(sql))。

SquirrelMQ提供给Lua线程使用的API有:

# ok, item = smq_pop_head()

# ok, item = smq_pop_tail()

# ok, item = smq_pop_index()

# ok, item = smq_get_head()

# ok, item = smq_get_tail()

# ok, item = smq_get_index()

# size = smq_queue_size()

# ok = smq_push_head(item)

# ok = smq_push_tail(item)

上面的API对应PHP客户端的API。

有问题可以联系我,新浪微薄:旭松_Lie

加载中

评论(1)

谁家今夜扁舟子
谁家今夜扁舟子
共勉:http://www.codeyyy.com/linux/149-191-157.html

暂无资讯

1
回答
比较莫名其妙的SquirrelMQ

push一条消息平均在3s左右,接收消息很莫名其妙,推一条收两条,最后还附带一个i <?php include('squirrel.class.php')...

2012/05/17 10:48
1
回答
队列持久化的时候,会不会把内存中的内容删除了?

2、队列持久化 /* Disk store functions */ int diskStoreAction() { 遍历队列的时候,代码如下: whil...

2012/04/21 16:30

没有更多内容

加载失败,请刷新页面

没有更多内容

【原创】RabbitMQ 之 TTL 详解(翻译)

RabbitMQ官方文档中关于TTL的内容

2013/01/12 10:24
5.6K
1
Message、Handler、Message Queue、Looper之间的关系

在单线程模型下,为了解决线程通信问题,Android设计了一个通信机制。Message Queue(消息队列), 线程间的通信可以通过Message Queue、Handler和Looper进行信息交换。下面将对它们进行逐一介...

2016/12/07 19:36
5
0
RabbitMQ Queue中Arguments属性参数过期队列,过期消息,超时队列的声明

创建队列时指定参数 队列属性:x-message-ttl 可以控制被publish到queue中的message 被丢弃前能够存活的时间,当某个message在queue 存留的时间超过了配置的TTL值 我们就说该message“已死”...

2018/06/30 15:46
615
0
PHP下操作Linux消息队列完成进程间通信的方法

来源:http://www.jb51.net/article/24353.htm 关于Linux系统进程通信的概念及实现可查看:http://www.ibm.com/developerworks/cn/linux/l-ipc/   关于Linux系统消息队列的概念及实现可查看...

2016/09/29 16:22
16
0
RabbitMQ之AMQP协议

一. 协议 AMQP协议是分层的,类似于OSI或TCP/IP协议分层。从图中可以看出分三层: 1. Model Layer:规范服务器端Broker的行为。 2. Session Layer:定义客户端 与服务器端Broker的Context。 ...

2015/02/04 21:36
731
0
RabbitMQ源码解析前奏--AMQP协议

AMQP即高级消息队列协议,接下来从三个方面来浅析该协议。 一、协议 AMQP协议分层类似于OSI或TCP/IP协议分层。从图中可以看出分三层: 图1 AMQP协议分层图 1、Model Layer 规范服务器端Broke...

2016/02/01 10:38
58
1

没有更多内容

加载失败,请刷新页面

返回顶部
顶部