簡介

Redis是一個開源(BSD許可)的內存數據結構存儲,用作資料庫、緩存和消息代理。它支持諸如字元串、散列、列表、集、帶範圍查詢的排序集、點陣圖、hyperloglog、帶半徑查詢和流的地理空間索引等數據結構。

Redis具有內置的複製、Lua腳本、LRU清除、事務和不同級別的磁碟持久性,並通過Redis Sentinel和Redis集羣的自動分區提供高可用性。

事務

為了保證多條命令組合的原子性,Redis提供了簡單的事務功能以及集成Lua腳本來解決這個問題。簡單介紹Redis中事務的使用方法以及它的侷限性。

Redis提供了簡單的事務功能,將一組需要一起執行的命令放到multi和exec兩個命令之間。

  • multi命令代表事務開始
  • exec命令代表事務結束
  • 它們之間的命令是原子順序執行的。
  • 不支持事務中的回滾特性

發布訂閱

Redis提供了基於「發布/訂閱」模式的消息機制,此種模式下,消息發布者和訂閱者不進行直接通信,發布者客戶端向指定的頻道(channel)發布消息,訂閱該頻道的每個客戶端都可以收到該消息。

發布消息

publish channel:sports "Tim won the championship

訂閱消息

subscribe channel:sports

有關訂閱命令有兩點需要注意

  • 客戶端在執行訂閱命令之後進入了訂閱狀態,只能接收subscribe、

psubscribe、unsubscribe、punsubscribe的四個命令。

  • 新開啟的訂閱客戶端,無法收到該頻道之前的消息,因為Redis不會對發布的消息進行持久化。

Redis發布訂閱與成熟MQ的比較

  1. MQ支持多種消息協議,包括AMQP,MQTT,Stomp等,並且支持JMS規範,但Redis沒有提供對這些協議的支持;
  2. MQ提供持久化功能,但Redis無法對消息持久化存儲,一旦消息被發送,如果沒有訂閱者接收,那麼消息就會丟失;
  3. MQ提供了消息傳輸保障,當客戶端連接超時或事務回滾等情況發生時,消息會被重新發送給客戶端,Redis沒有提供消息傳輸保障。

總之,MQ所提供的功能遠比Redis發布訂閱要複雜,畢竟Redis不是專門做發布訂閱的,但是如果系統中已經有了Redis,並且需要基本的發布訂閱功能,就沒有必要再安裝MQ了,因為可能MQ提供的功能大部分都用不到,而且你可以容忍redis發布訂閱的缺點的話,可以考慮用它。

持久化

Redis支持RDB和AOF兩種持久化機制,持久化功能有效地避免因進程退出造成的數據丟失問題,當下次重啟時利用之前持久化的文件即可實現數據恢復。

RDB持久化

RDB持久化是把當前進程數據生成快照保存到硬碟的過程,觸發RDB持久化過程分為手動觸發和自動觸發。

RDB的優缺點

優點:

  1. RDB是一個緊湊壓縮的二進位文件,代表Redis在某個時間點上的數據快照。非常適用於備份,全量複製等場景。比如每6小時執行bgsave備份,並把RDB文件拷貝到遠程機器或者文件系統中(如hdfs),用於災難恢復。
  2. Redis載入RDB恢複數據遠遠快於AOF的方式。

缺點:

  1. RDB方式數據沒辦法做到實時持久化/秒級持久化。因為bgsave每次運行都要執行fork操作創建子進程,屬於重量級操作,頻繁執行成本過高。
  2. RDB文件使用特定二進位格式保存,Redis版本演進過程中有多個格式的RDB版本,存在老版本Redis服務無法兼容新版RDB格式的問題。

針對RDB不適合實時持久化的問題,Redis提供了AOF持久化方式來解決。

AOF持久化

AOF(append only file)持久化:以獨立日誌的方式記錄每次寫命令,重啟時再重新執行AOF文件中的命令達到恢複數據的目的。

AOF的主要作用是解決了數據持久化的實時性,目前已經是Redis持久化的主流方式。

開啟AOF,通過修改redis.conf配置文件

appendonly yes ##默認不開啟。

AOF文件名通過appendfilename配置設置,默認文件名appendonly.aof。保存路徑同RDB持久化方式一致,通過dir配置指定。

AOF的工作流程如下圖:

  1. 所有的寫入命令會追加到aof_buf(緩衝區)中。
  2. AOF緩衝區根據對應的策略向硬碟做同步操作。
  3. 隨著AOF文件越來越大,需要定期對AOF文件進行重寫,達到壓縮的目的。
  4. 當Redis伺服器重啟時,可以載入AOF文件進行數據恢復。

溫馨提示

場景:AOF文件可能存在結尾不完整的情況,比如機器突然掉電導致AOF尾部文件命令寫入不全。

解決方法:

  1. 對於錯誤格式的AOF文件,先進行備份,然後採用redis-check-aof --fix命令進行修復,修復後使用diff-u對比數據的差異,找出丟失的數據,有些可以人工修改補全。
  2. Redis為我們提供了aof-load-truncated配置來兼容這種情況,默認開啟。載入AOF時,當遇到此問題時會忽略並繼續啟動,同時列印如下警告日誌:

# !!! Warning: short read while loading the AOF file !!!
# !!! Truncating the AOF at offset 397856725 !!!
# AOF loaded anyway because aof-load-truncated is enabled

持久化的優化

Redis持久化功能一直是影響Redis性能的高發地。主要有以下方面

1. fork操作

起因:對於高流量的Redis實例OPS可達5萬以上,如果fork操作耗時在秒級別將拖慢Redis幾萬條命令執行,對線上應用延遲影響非常明顯。正常情況下fork耗時應該是每GB消耗20毫秒左右。可以在info stats統計中查latest_fork_usec指標獲取最近一次fork操作耗時,單位微秒。

優化

  1. 優先使用物理機或者高效支持fork操作的虛擬化技術,避免使用Xen。
  2. 控制Redis實例最大可用內存,fork耗時跟內存量成正比,線上建議每個Redis實例內存控制在10GB以內。
  3. 合理配置Linux內存分配策略,避免物理內存不足導致fork失敗。
  4. 降低fork操作的頻率,如適度放寬AOF自動觸發時機,避免不必要的全量複製等。

CPU

  • CPU開銷分析。子進程負責把進程內的數據分批寫入文件,這個過程屬於CPU密集操作,通常子進程對單核CPU利用率接近90%。
  • CPU消耗優化。Redis是CPU密集型服務,不要做綁定單核CPU操作。由於子進程非常消耗CPU,會和父進程產生單核資源競爭。
  • 不要和其他CPU密集型服務部署在一起,造成CPU過度競爭。如果部署多個Redis實例,盡量保證同一時刻只有一個子進程執行重寫工作。

內存

內存消耗優化:

  1. 同CPU優化一樣,如果部署多個Redis實例,盡量保證同一時刻只有一個子進程在工作。
  2. 避免在大量寫入時做子進程重寫操作,這樣將導致父進程維護大量頁副本,造成內存消耗。

硬碟

優化方法如下:

  • 不要和其他高硬碟負載的服務部署在一起。如:存儲服務、消息隊列服務等。
  • AOF重寫時會消耗大量硬碟IO,可以開啟配置no-appendfsync-on-rewrite,默認關閉。表示在AOF重寫期間不做fsync操作。
  • 當開啟AOF功能的Redis用於高流量寫入場景時,如果使用普通機械磁碟,寫入吞吐一般在100MB/s左右,這時Redis實例的瓶頸主要在AOF同步硬碟上。
  • 對於單機配置多個Redis實例的情況,可以配置不同實例分盤存儲AOF文件,分攤硬碟寫入壓力。

註:配置no-appendfsync-on-rewrite=yes時,在極端情況下可能丟失整個AOF重寫期間的數據,需要根據數據安全性決定是否配置。

AOF追加阻塞

當開啟AOF持久化時,常用的同步硬碟的策略是everysec,用於平衡性能和數據安全性。對於這種方式,Redis使用另一條線程每秒執行fsync同步硬碟。當系統硬碟資源繁忙時,會造成Redis主線程阻塞,

阻塞流程分析:

  1. 主線程負責寫入AOF緩衝區。
  2. AOF線程負責每秒執行一次同步磁碟操作,並記錄最近一次同步時間。
  3. 主線程負責對比上次AOF同步時間:如果距上次同步成功時間在2秒內,主線程直接返回。如果距上次同步成功時間超過2秒,主線程將會阻塞,直到同步操作完成。

本文到此結束!喜歡的朋友可以點點關注和贊,感謝支持。持續更新更多的乾貨

我整理了一些互聯網公司java程序員在面試中涉及到的絕大部分架構面試題及答案做成了文檔和架構視頻資料免費分享給大家(包括Dubbo、Redis、Netty、zookeeper、Spring cloud、分散式、高並發等架構技術資料)也可以關注獲得更多的面試資料,節省大家收集的時間!

獲取資料的方式:轉發+私信【資料】領取!


推薦閱讀:
相關文章