【騰訊bugly乾貨分享】微信 Android 熱補丁實踐演進之路

NO IMAGE

本文來自於騰訊bugly開發者社群,非經作者同意,請勿轉載,原文地址:http://bugly.qq.com/bbs/forum.php?mod=viewthread&tid=1264&extra=page%3D1

繼外掛化後,熱補丁技術在2015年開始爆發,目前已經是非常熱門的Android開發技術。其中比較著名的有淘寶的Dexposed、支付寶的AndFix以及QZone的超級熱補丁方案。微信對熱補丁技術的研究並不算早,大約開始於2015年6月。經過研究與嘗試現有的各個方案,我們發現它們都有著自身的一些侷限性。微信最終採用不同於它們的技術方案,走出了自己的實踐演進之路。

另外一方面,技術應當只是熱補丁方案中的一環。隨著對熱補丁的多次嘗試與應用,微信建立起自身的流程規範,同時也不斷的嘗試拓展它的應用場景。通過本文,我希望大家不僅能夠全面的瞭解各項熱補丁技術的優缺點,同時也能對它的應用場景有著更加全面的認識。在此基礎上,大家或許能更容易的決定是否在自己的專案中使用熱補丁技術,以及應當如何使用它。

為什麼需要熱補丁

熱補丁:讓應用能夠在無需重新安裝的情況實現更新,幫助應用快速建立動態修復能力。

從上面的定義來看,熱補丁節省Android大量應用市場釋出的時間。同時使用者也無需重新安裝,只要上線就能無感知的更新。看起來很美好,這是否可以意味我們可以儘量使用補丁來代替釋出呢?事實上,熱補丁技術當前依然存在它的侷限性,主要表現在以下幾點:

  1. 補丁只能針對單一客戶端版本,隨著版本差異變大補丁體積也會增大;

  2. 補丁不能支援所有的修改,例如AndroidManifest;

  3. 補丁無論對程式碼還是資源的更新成功率都無法達到100%。

既然補丁技術無法完全代替升級,那它適合使用在哪些場景呢?

一. 輕量而快速的升級

熱補丁技術也可以理解為一個動態修改程式碼與資源的通道,它適合於修改量較少的情況。以微信的多次釋出為例,補丁大小均在300K以內,它相對於傳統的釋出有著很大的優勢。

以Android使用者的升級習慣,即使是相對活躍的微信也需要10天以上的時間去覆蓋50%的使用者。使用補丁技術,我們能做到1天覆蓋70%以上。這也是基於補丁體積較小,可以直接使用行動網路下載更新。

正因如此,補丁技術非常適合使用在灰度階段。在過去,我們需要在正式釋出前保證所有嚴重的問題都已經得到修復,這通常需要我們經過三次以上的灰度過程,而且無法快速的驗證這些問題在同一批使用者的修復效果。利用熱補丁技術,我們可以快速對同一批使用者驗證修復效果,這大大縮短了我們的釋出流程。

若釋出版本出現問題或緊急漏洞,傳統方式需要單獨灰度驗證修改,然後重新發布新的版本。利用補丁技術,我們只需要先上線小部分使用者驗證修改的效果,最後再全量上線即可。但是此種釋出對線上使用者影響較大, 我們需要謹慎而為。本著對使用者負責的態度,釋出補丁等同於釋出版本,它也應該嚴格執行完整的測試與上線流程。

總的來說,補丁技術可以降低開發成本,縮短開發週期,實現輕量而快速的升級。

二. 遠端除錯

一入Android深似海,Android開發的另外一個痛是機型的碎片化。我們也許都會遇到”本地不復現”,”日誌查不出”,”聯絡使用者不鳥你”的煩惱。所以補丁機制非常適合使用在遠端除錯上。即我們需要具備只特定使用者傳送補丁的能力,這對我們查詢問題非常有幫助。

利用補丁技術,我們避免了騷擾使用者而默默的為使用者解決問題。當然這也需要非常嚴格的許可權管理,以防惡意或隨意使用。

三. 資料統計

資料統計在微信中也佔據著非常重要的位置,我們也非常希望將熱補丁與資料統計結合的更好。事實上,熱補丁無論在普通的資料統計還是ABTest都有著非常大的優勢。例如若我想對同一批使用者做兩種test, 傳統方式無法讓這批使用者去安裝兩個版本。使用補丁技術,我們可以方便的對同一批使用者不停的更換補丁。

在資料統計之路,如何與補丁技術結合的更好,更加精準的控制樣本人數與比例,這也是微信當前努力發展的一個方向。

四. 其他

事實上,Android官方也使用熱補丁技術實現Instant Run。它分為Hot Swap、Warm Swap與Cold Swap三種方式,大家可以參考英文介紹,也可以看參考文章中的翻譯稿。最新的Instant App應該也是採用類似的原理,但是Google Play是不允許下發程式碼的,這個海外App需要注意一下。

微信熱補丁技術的演進之路

在瞭解補丁技術可以與適合做什麼之後,我們回到技術本身。由於Dexposed無法支援全平臺,並不適合應用到商業產品中。所以這裡我們只簡單介紹Andfix、QZone、微信幾套方案的實現,以及它們方案面臨著的問題,大家也可以參考資料中的各大熱補丁方案分析和比較一文。

一. AndFix

AndFix採用native hook的方式,這套方案直接使用dalvik_replaceMethod替換class中方法的實現。由於它並沒有整體替換class, 而field在class中的相對地址在class載入時已確定,所以AndFix無法支援新增或者刪除filed的情況(通過替換initclinit只可以修改field的數值)。

也正因如此,Andfix可以支援的補丁場景相對有限,僅僅可以使用它來修復特定問題。結合之前的釋出流程,我們更希望補丁對開發者是不感知的,即他不需要清楚這個修改是對補丁版本還是正式釋出版本(事實上我們也是使用git分支管理 cherry-pick方式)。另一方面,使用native替換將會面臨比較複雜的相容性問題。

相比其他方案,AndFix的最大優點在於立即生效。事實上,AndFix的實現與Instant Run的熱插拔有點類似,但是由於使用場景的限制,微信在最初期已排除使用這一方案。

二. QZone

QZone方案並沒有開源,但在github上的Nuwa採用了相同的方式。這個方案使用classloader的方式,能實現更加友好的類替換。而且這與我們載入Multidex的做法相似,能基本保證穩定性與相容性。具體原理在這裡不再細說,大家可以參考這篇文章

本方案為了解決unexpected DEX problem異常而採用插樁的方式,從而規避問題的出現。事實上,Android系統的這些檢查規則是非常有意義的,這會導致QZone方案在Dalvik與Art都會產生一些問題。

  • Dalvik; 在dexopt過程,若class verify通過會寫入pre-verify標誌,在經過optimize之後再寫入odex檔案。這裡的optimize主要包括inline以及quick指令優化等。

若採用插樁導致所有類都非preverify,這導致verify與optimize操作會在載入類時觸發。這會有一定的效能損耗,微信分別採用插樁與不插樁兩種方式做過兩種測試,一是連續載入700個50行左右的類,一是統計微信整個啟動完成的耗時。

平均每個類verify optimize(跟類的大小有關係)的耗時並不長,而且這個耗時每個類只有一次。但由於啟動時會載入大量的類,在這個情況影響還是比較大的。

  • Art; Art採用了新的方式,插樁對程式碼的執行效率並沒有什麼影響。但是若補丁中的類出現修改類變數或者方法,可能會導致出現記憶體地址錯亂的問題。為了解決這個問題我們需要將修改了變數、方法以及介面的類的父類以及呼叫這個類的所有類都加入到補丁包中。這可能會帶來補丁包大小的急劇增加。

這裡是因為在dex2oat時fast*已經將類能確定的各個地址寫死。如果執行時補丁包的地址出現改變,原始類去呼叫時就會出現地址錯亂。這裡說的可能不夠詳細,事實上微信當時為了查清這兩個問題,也花費了一定的時間將Dalvik跟Art的流程基本搞透。若大家對這裡感興趣,後續在單獨的文章詳細論述。

總的來說,Qzone方案好處在於開發透明,簡單,這一套方案目前的應用成功率也是最高的,但在補丁包大小與效能損耗上有一定的侷限性。特別是無論我們是否真正應用補丁,都會因為插樁導致對程式執行時的效能產生影響。微信對於效能要求較高,所以我們也沒有采用這套方案。

三. 微信熱補丁方案

有沒有那麼一種方案,能做到開發透明,但是卻沒有QZone方案的缺陷呢?Instant Run的冷插拔與buck的exopackage或許能給我們靈感,它們的思想都是全量替換新的Dex。即我們完全使用了新的Dex,那樣既不出現Art地址錯亂的問題,在Dalvik也無須插樁。當然考慮到補丁包的體積,我們不能直接將新的Dex放在裡面。但我們可以將新舊兩個Dex的差異放到補丁包中,最簡單我們可以採用BsDiff演算法。

簡單來說,在編譯時通過新舊兩個Dex生成差異path.dex。在執行時,將差異patch.dex重新跟原始安裝包的舊Dex還原為新的Dex。這個過程可能比較耗費時間與記憶體,所以我們是單獨放在一個後臺程序:patch中。為了補丁包儘量的小,微信自研了DexDiff演算法,它深度利用Dex的格式來減少差異的大小。它的粒度是Dex格式的每一項,可以充分利用原本Dex的資訊,而BsDiff的粒度是檔案,AndFix/QZone的粒度為class。

這塊後面我希望後面用單獨的文章來講述,這裡先做一個鋪墊,大致的效果如下圖。在最極端的情況,由於利用了原本dex的資訊完全替換一個13M的Dex,我們的補丁大小也僅僅只有6.6M。

但是這套方案並非沒有缺點,它帶來的問題有兩個:

  1. 佔用Rom體積;這邊大約是你修改Dex數量的1.5倍(dexopt與dex壓縮成jar)的大小。

  2. 一個額外的合成過程;雖然我們單獨放在一個程序上處理,但是合成時間的長短與記憶體消耗也會影響最終的成功率。

微信的熱補丁方案叫做Tinker,也算緬懷一下Dota中的地精修補匠,希望能做到無限重新整理。

限於篇幅,這裡對Dex、library以及資源的更多技術細節並沒有詳細的論述,這裡希望放在後面的單獨文章中。我們最後從整體比較一下這幾種方案:

若不care效能損耗與補丁包大小,QZone方案是最簡單且成功率最高的方案(沒有單獨的合成過程)。相對Tinker來說,它的佔用Rom體積也更小。另一方面,QZone與Tinker的成功率大約相差3%左右。

事實上,一個完整的框架應該也是一個容易使用的框架。Tinker對補丁版本管理、程序管理、安全校驗等都有著很好的支援。同時我們也支援gradle與命名行兩種接入方式。希望在不久的將來,它可以很快的跟大家見面。

微信的熱補丁應用現狀

上一章節我們簡單比較了各個熱補丁的技術方案,它們解決了如何生成與載入補丁包的問題。但一個完善的熱補丁系統不應該僅限於此,它還需要包括以下幾個方面:

  • 網路通道;這裡要解決的問題是決定補丁以何種方式推送給哪部分的使用者。

  • 上線與後臺管理平臺;這裡主要包括熱補丁的上線管理,歷史管理以及上報分析,報警監控等;

一. 網路通道現狀

網路通道負責的將補丁包交付給使用者,這個包括特定使用者與全量使用者兩種情況。事實上,微信當前針對熱補丁有以下三種通道更新:

  • pull通道; 在登陸/24小時等時機,通過pull方式查詢後臺是否有對應的補丁包更新,這也是我們最常用的方式;

  • 指定版本的push通道; 針對版本的通道,在緊急情況下,我們可以在一個小時內向所有使用者下發補丁包更新。

  • 指定特定使用者的push通道;對特定使用者或使用者組做遠端除錯。

事實上,對於大部分的應用來說,假設不實現push通道,CDN pull通道實現起來還是較為容易。

二. 上線與管理平臺現狀

上線與管理平臺主要為了快速上線,管理歷史記錄,以及監控補丁的執行情況等。

事實上,微信釋出熱補丁是非常慎重的。它整個釋出流程與升級版本是保持一致的,也必須修改版本號、經過嚴格的完整測試流程等。我們也會通過灰度的方式上線,同時監控補丁版本的各個指標。這裡的為了完整的監控補丁的情況,我們做的工作有:

  • 1分鐘粒度的每小時/每天的各版本累積使用者,及時監控補丁版本的人數與活躍;

  • 3分鐘粒度的Crash統計,基準版本與補丁版本的Crash每小時/每天的兩個維度對照;

  • 10分鐘粒度的補丁監控資訊上報。

三. 補丁成功率現狀

應用成功率= 補丁版本人數/補丁釋出前該版本人數
由於可能存在基準或補丁版本使用者安裝了其他版本,所以本統計結果應略為偏低,但它能現實的反應補丁的線上覆蓋情況。

使用Qzone方案,微信補丁在10天后的應用成功率大約在98.5%左右。使用Tinker大約只有95.5%左右,主要原因在於空間不足以及後臺程序被殺。在這裡我們也在嘗試使用重試的方式以及降低合成的耗時與記憶體,從而提升成功率。

熱補丁技術發展的很快,Android推出的Instant App也令人期待。但是在國內,似乎我們還是指望自己更靠譜一點。每一個的應用的需求都不太一致,這裡大致講了一些微信的實踐經驗,希望對大家有幫助。

未來工作

隨著微信部門內從“單APP”向“多APP”演進,微信也正在邁入開源化的開發實踐。我們希望將各個功能元件化,從而做可以到快速複製與應用。微信的熱補丁框架“Tinker”當前也在經歷從微信分離,又合入到微信的過程。希望在不久的將來,我們也可以將“Tinker”以及微信中一些其他的元件開源出去。

我們也希望可以找一個App作為內測,給我們提供寶貴的意見。若對微信的Tinker方案感興趣的使用者,可以單獨發訊息或在文章末留言。註明姓名、所在公司以及負責的App,我們希望挑選部分產品作為內測。

參考文章

  1. Dexposed github (https://github.com/alibaba/dexposed)

  2. AndFix github (https://github.com/alibaba/AndFix)

  3. Nuwa github (https://github.com/jasonross/Nuwa)

  4. QZone實現原理解析 (https://mp.weixin.qq.com/s?__biz=MzI1MTA1MzM2Nw==&mid=400118620&idx=1&sn=b4fdd5055731290eef12ad0d17f39d4a)

  5. Instant Run英文原文 (https://medium.com/google-developers/instant-run-how-does-it-work-294a1633367f)

  6. Instant Run工作原理及用法中文翻譯稿 (http://www.jianshu.com/p/2e23ba9ff14b)

  7. Buck exopackage 介紹 (https://buckbuild.com/article/exopackage.html)

  8. 各大熱補丁方案分析和比較 (http://blog.zhaiyifan.cn/2015/11/20/HotPatchCompare/)

更多精彩內容歡迎關注bugly的微信公眾賬號:

騰訊 Bugly是一款專為移動開發者打造的質量監控工具,幫助開發者快速,便捷的定位線上應用崩潰的情況以及解決方案。智慧合併功能幫助開發同學把每天上報的數千條 Crash 根據根因合併分類,每日日報會列出影響使用者數最多的崩潰,精準定位功能幫助開發同學定位到出問題的程式碼行,實時上報可以在釋出後快速的瞭解應用的質量情況,適配最新的 iOS, Android 官方作業系統,鵝廠的工程師都在使用,快來加入我們吧!