$ redis-benchmark -n 100000 -q
PING_INLINE: 69783.67 requests per second
PING_BULK: 68306.01 requests per second
SET: 68634.18 requests per second
GET: 67659.00 requests per second
INCR: 67294.75 requests per second
LPUSH: 61236.99 requests per second
LPOP: 62460.96 requests per second
SADD: 63451.78 requests per second
SPOP: 64724.92 requests per second
LPUSH (needed to benchmark LRANGE): 64808.82 requests per second
LRANGE_100 (first 100 elements): 62189.05 requests per second
LRANGE_300 (first 300 elements): 64267.35 requests per second
LRANGE_500 (first 450 elements): 66934.41 requests per second
LRANGE_600 (first 600 elements): 61462.82 requests per second
MSET (10 keys): 60096.15 requests per second
LeanCache 使用指南
LeanCache 使用 Redis 5.x 版本来提供高性能、高可用的 Key-Value 内存存储,主要用作缓存数据的存储,也可以用作持久化数据的存储。它非常适合用于以下场景:
下图为 LeanCache 和云引擎配合使用的架构:
恰当使用 LeanCache 不仅可以极大地提高应用的服务性能,还能降低成本,因为某些高频率的查询不需要走存储服务(存储服务按调用次数收费)。你可以在 leanengine-nodejs-demos 中找到一些有关 LeanCache 的示例:
主要特性
创建实例
在云服务控制台 > 云引擎 > LeanCache (Redis)页面点击创建实例即可创建新实例。
LeanCache 实例一旦生成,就开始计费,因此请认真对待该操作。
创建实例时可设置的参数有:
volatile-lru
,更多选择请参考 数据删除策略。创建好的实例会在控制台显示基本信息,包括实例名称、创建时间、运行状态、当前连接数、已用容量、访问地址、数据删除策略、Redis 版本。 点击调整容量按钮可以扩容或缩容。 点击管理共享按钮可以查看可以访问该 LeanCache 实例的应用,
数据删除策略
目前我们支持如下几种策略:
noeviction
allkeys-lru
volatile-lru
allkeys-random
volatile-random
volatile-ttl
请注意,如果所有的 key 都不设置过期时间,那么
volatile-lru
、volatile-random
、volatile-ttl
这三种策略会等同于noeviction
(不删除)。更详细的内容请参考 Using Redis as an LRU cache。LeanCache 实例一旦生成后,该属性不可修改。
删除实例
在云服务控制台 > 云引擎 > LeanCache (Redis)页面的每个实例卡片中,点击删除按钮即可删除实例。
删除其他应用共享的实例需要至该实例所属应用删除。
使用
LeanCache 目前支持通过云引擎访问。实例创建完毕后,云引擎应用就可以从环境变量中获取
REDIS_URL_<实例名称>
的 Redis 连接字符串,通过该信息连接并使用 Redis。LeanCache 不提供外网直接访问。如果需要进行简单的数据操作或者查看状态,可以查看控制台:
或者使用命令行工具。
在命令行工具中使用
LeanCache 用户可以使用命令行工具来连接线上的 LeanCache 实例,对数据进行增删改查。
在一个已经关联过 LeanCache 实例的云引擎项目中,使用
lean cache
命令,即可连上对应的 LeanCache 实例。另外需要注意的是,每个 LeanCache 实例,默认会分成 16 个 db,方便管理。没有特殊设置的话,默认使用的都是 db0。连接成功之后,可以直接执行命令来对数据进行操作,比如查看某个 key 的值:
LeanCache 基于 Redis,所以大部分 Redis 命令都可以使用。关于 Redis 的命令,请参考官方文档 。
可以通过下列命令查询当前应用有哪些 LeanCache 实例:
注意:命令行工具操作 LeanCache 时,是通过 HTTPS 请求来进行通讯的,因此类似
pub/sub
、blpop
等需要长连接的命令不能直接使用。但是线上没有这个限制,可以直接使用。在云引擎中使用(Node.js 环境)
首先添加相关依赖到云引擎应用中:
然后可以使用下列代码获取 Redis 连接:(假定实例名称为
MYCACHE
)在云引擎中使用(Python 环境)
首先添加相关依赖到云引擎应用的
requirements.txt
中:然后可以使用下列代码获取 Redis 连接:(假定实例名称为
MYCACHE
)在云引擎中使用(PHP 环境)
首先添加 redis 库的依赖,比如 predis:
然后在 PHP 应用中通过环境变量获取 Redis 地址并创建链接,如:(假定实例名称为
MYCACHE
)在云引擎中使用(Java 环境)
在
pom.xml
中添加 redis client 的依赖:并引入依赖:
从环境变量中获取链接字符串,然后再创建 redis client 实例即可。(假定实例名称为
MYCACHE
)并发请求较高的情况下可以考虑使用连接池:
在云引擎中使用(.NET Core 环境)
首先在项目里面安装 nuget 依赖:
直接使用 StackExchange.Redis 里面构建的方式。
假设在控制台创建了一个名字叫做
dev
LeanCache 实例,如下代码将演示如何连接这个实例,并且存储、读取数据:关于
IConnectionMultiplexer
的用法和相关文档请参阅:StackExchange.Redis,这个库是 .NET Core 环境中比较推荐的 Redis Client。在本地调试依赖 LeanCache 的应用
目前不支持直接连接线上的 LeanCache 进行调试,所以需要先在本地安装好 Redis。
brew install redis
来安装 Redis,然后使用redis-server
启动服务。apt-get install redis-server
yum install redis
默认情况下,在本地运行时程序没有 LeanCache 的环境变量,因此会使用本地的 Redis 服务器地址。
如果部署到预备或生产环境时遇到类似
redis err: Error: Redis connection to 127.0.0.1:6379 failed - connect ECONNREFUSED 127.0.0.1:6379
错误,请核实以上代码中REDIS_URL_<实例名称>
这个环境变量的值是否替换正确,也可参考 在云引擎中使用(Node.js 环境) 的示例。更详细的 Redis 操作说明请参考 Redis 官方文档。
多应用间共享使用
可以使用控制台上的「管理共享」功能将 LeanCache 实例共享给其他应用,相关的环境变量就会出现在其他应用的云引擎中,调用方法和上述例子一样。
对于某些使用场景,譬如 O2O 行业的用户端和管理端,或者网络租约车平台的乘客端和司机端,需要多个应用共享同一个 LeanCache 数据,这一点将会非常有用。
性能
下面是使用 redis-benchmark 测试一个典型的容量为 2 GB 的 LeanCache 实例的性能表现:
可靠性
每个 LeanCache 实例使用 Redis Master-Slave 主从热备,其下的多个观察节点每隔 1 秒钟观察一次主节点的状态。如果「主节点」最后一次有效响应在 5 秒之前,则该观察节点认为主节点失效。如果超过总数一半的观察节点发现主节点失效,则自动将「从节点」切换为主节点,并会有新的从节点启动重新组成主从热备。这个过程对应用完全透明,不需要修改连接字符串或者重启,整个切换过程应用只有几秒钟会出现访问中断。
与此同时,从节点还会以 AOF 方式 将数据持久化存储到可靠的中央文件中,每秒刷新一次。如果很不巧主从节点同时失效,则马上会有新的 Redis 节点启动,并从 AOF 文件恢复,完成后即可再次提供服务,并且会有新的从节点与之构成主从热备。
极端情况下的数据丢失
当一个实例中的主节点失效,而最新的数据没有同步到对应的从节点时,主从切换会造成这部分数据丢失。
当主、从节点同时失效,未同步到从节点和从节点未刷新到磁盘 AOF 文件中的数据将会丢失。
在线扩容
你可以在线扩大(或者缩小) LeanCache 实例的最大内存容量。整个过程可能会持续一段时间,在此期间 LeanCache 会中断几秒钟进行切换,其他时间都正常提供服务。如果你的应用访问量较大的话,LeanCache 中断的这几秒可能会对你的云引擎实例产生较为明显的影响(例如内存增加),可以考虑将扩容安排在低峰时刻。
缩小容量之前,请务必确认现有数据体积小于目标容量,否则可能造成数据丢失。
多实例
有些时候,你可能希望在一个应用里创建多个 LeanCache 实例:
添加实例的方式请参考 创建实例。
价格
因为用户可能需要随时调整 LeanCache 实例的容量,所以为了方便计算,我们按照每个实例当天所使用的「最大容量」来结算,而不是「实际使用容量」。
不同容量的 LeanCache 实例的价格,请参考官网报价。不同的节点使用不同的结算货币,价格会有差异,敬请留意。
费用计算
LeanCache 采取按天扣费,使用时间不足一天按一天收费,次日凌晨系统从账户余额中扣费。付费范围包括当前账户下隶属于每个应用的所有 LeanCache 实例,取每个实例当天使用的最大容量的价格,累计相加计算出总的使用费用。
如果在系统扣费之时,账户没有充足余额,那么在扣费当天的上午 10 点,账户内所有应用使用的全部实例会停止服务,但数据仍会保留,期限为 1 个月。
已停止服务的实例状态显示为「未运行」。要恢复服务,需要向账户充值。在账户余额补足后的 5 分钟内,已停止服务的所有实例将会自动恢复运行。
删除无用实例
为了避免发生不必要的使用费,请及时删除不再使用的实例,步骤请参考 删除实例。
常见问题
与自建的 HashTable 相比较,LeanCache 有什么优势?
与自己在程序的全局作用域中维护一个 HashTable 相比,使用 LeanCache 的优势在于:
报错:Redis connection gone from end event
LeanCache 或者任何网络程序都有可能出现连接闪断的问题,可能是因为网络波动,或是服务器负载、容量调整等等。这时只需要重建连接即可使用。而 Redis Client 一般都有断开重连的机制,未连接期间指令会保存到队列,待连接成功后再发送队列中的指令(Redis client library 便是如此实现)。所以如果这个错误偶尔发生,一般不会有什么问题;同时建议在应用中 增加 Redis 的 on error 事件处理。
如果这个错误频繁出现,那么很可能 LeanCache 节点处于非受控状态,请联系技术支持进行处理。