從“云”到“霧”：云計(jì)算將死亡取而代之的是分布式的點(diǎn)對點(diǎn)網(wǎng)絡(luò)

2017-11-10 11:30:28 36氪　點(diǎn)擊量：評論 (0)

編者按：在云計(jì)算發(fā)展一片火熱的時(shí)候，英國數(shù)字咨詢公司RedBadger的技術(shù)主管ViktorCharypar卻在VentureBeat上發(fā)文表示，云服務(wù)將會迎來末日。并指出點(diǎn)對點(diǎn)網(wǎng)絡(luò)將會是將來的發(fā)展方向。文章由36氪編譯。云將會走向

如果你聽說過BitTorrent（比特流），那么下面這些內(nèi)容聽起來應(yīng)該會很熟悉。在BitTorrent上，網(wǎng)絡(luò)用戶不需要任何中央機(jī)構(gòu)授權(quán)就可以將大數(shù)據(jù)文件分成更小的塊或片段（每個塊都有一個唯一的ID）。要下載一個文件，你只需要一個“神奇”數(shù)字，也就是一個哈希（hash），即內(nèi)容的指紋就行了。然后，你的BitTorrent客戶端將會按照“內(nèi)容指紋”找到那些擁有文件片段的用戶，并從他們那里把一個個文件片段下載下來，直到你擁有所有的片段。

一個有趣的點(diǎn)是如何去匹配用戶。BitTorrent使用了一種名為Kademlia的協(xié)議。在Kademlia，網(wǎng)絡(luò)上的每個對等點(diǎn)都有一個唯一的ID號，其長度與唯一的塊ID相同。它會將一個帶有特定ID的塊存儲在一個節(jié)點(diǎn)上，該節(jié)點(diǎn)的ID與該塊的ID“最接近”。塊和網(wǎng)絡(luò)對等點(diǎn)的隨機(jī)ID，在整個網(wǎng)絡(luò)中存儲的分布應(yīng)該是相當(dāng)一致的。不過，塊ID并不需要隨機(jī)選擇，而是使用一種加密散列——這是塊本身內(nèi)容的唯一指紋，這是有好處的。保證這些塊是可尋址的。這也使得驗(yàn)證塊的內(nèi)容更加容易（通過重新計(jì)算和比較指紋），并能夠保證用戶不可能下載原始的數(shù)據(jù)之外的其他數(shù)據(jù)。

另一個有趣的特性是，通過將一個塊的ID嵌入到另一個塊的內(nèi)容中，你可以將二者以一種不會被篡改的方式連接在一起。如果鏈接塊的內(nèi)容發(fā)生變化，它的ID將會改變，鏈接也會被破壞。如果修改了嵌入式鏈接，那么包含塊的ID也會隨之改變。

這種將一個區(qū)塊的ID嵌入到另一個區(qū)塊的機(jī)制，使得創(chuàng)建這樣的區(qū)塊鏈成為可能（比如為比特幣和其他加密貨幣驅(qū)動的區(qū)塊鏈），甚至是更復(fù)雜的結(jié)構(gòu)，通常被稱為有向無環(huán)圖（DirectedAcyclicGraphs），簡稱DAG。（在RalphMerkle發(fā)明了這種鏈接之后，通常被稱為“Merkle鏈接”。所以，如果你聽到有人在談?wù)揗erkelDAGs時(shí)，你大概能知道他們在說什么。）MerkleDAG的一個常見例子就是Git存儲庫。Git將提交歷史和所有目錄和文件都保存在一個巨大的MerkleDAG中。

這就導(dǎo)致了基于內(nèi)容尋址的分布式存儲的另一個有趣特性：它是不可變的。內(nèi)容無法改變。取而代之的是，新的修訂被存儲在現(xiàn)有的修訂版本旁邊。在兩次修訂之間沒有變更的塊會被重用，因?yàn)楦鶕?jù)定義，它們具有相同的ID。這也意味著相同的文件不能在這樣的存儲系統(tǒng)中復(fù)制，轉(zhuǎn)化為高效的存儲。所以在這個新網(wǎng)絡(luò)上，每一張獨(dú)一無二的搞笑圖片都只存在一次（盡管在整個群體中有多個副本）。

像Kademlia，Merkle鏈和MerkleDAG這樣的協(xié)議，給我們提供了建模文件層次和修訂時(shí)間線的工具，并在一個大型的P2P網(wǎng)絡(luò)中分享它們。已經(jīng)有一些協(xié)議使用這些技術(shù)來構(gòu)建符合我們需求的分布式存儲。看起來很有希望的是IPFS。

名稱和共享問題

好了，通過以上這些技術(shù)，我們可以解決我在開始時(shí)提出的一些問題：我們在連接到網(wǎng)絡(luò)的設(shè)備上得到分布式的、高度冗余的存儲，這些設(shè)備可以記錄文件的歷史，并在需要的時(shí)候保留所有版本。這（幾乎）解決了可用性、容量、持久性和內(nèi)容驗(yàn)證問題。它還解決了帶寬問題——因?yàn)槎际鞘褂命c(diǎn)對點(diǎn)傳輸數(shù)據(jù)，因此不會出現(xiàn)服務(wù)器承受不了的情況。

我們還需要一個可擴(kuò)展的計(jì)算資源，但這并不難：現(xiàn)在每個人的筆記本電腦和手機(jī)都比大多數(shù)應(yīng)用程序所需要的功能更強(qiáng)大（包括相當(dāng)復(fù)雜的機(jī)器學(xué)習(xí)計(jì)算），而且計(jì)算通常都是可伸縮的。因此，只要我們能讓每一臺設(shè)備都為用戶做必要的工作，就不會出現(xiàn)大問題。

所以現(xiàn)在我在Slack上看到的搞笑圖片可以來自坐在我旁邊的同事，而不是來自Slack的服務(wù)器（在這個過程中沒有跨越任何“海洋”）。不過，為了發(fā)布一張搞笑照片，我需要更新一個通道（channel）（也就是說，通道將不再是我發(fā)消息之前的樣子了，它將會發(fā)生改變）。這個聽起來相當(dāng)簡單的事情卻是整個體系中最難的部分。

最困難的部分：實(shí)時(shí)更新

一個實(shí)體的概念會隨著時(shí)間的推移而改變，這實(shí)際上只是人類專屬的想法，讓世界在我們的頭腦中擁有秩序感和穩(wěn)定。我們還可以把這樣的實(shí)體看作是一個身份或名稱，隨著時(shí)間的推移，它會呈現(xiàn)出一系列不同的價(jià)值（這是靜態(tài)的，不可改變的）。（RichHickey在他的演講中解釋得很好，戳此觀看）。在電腦中模擬信息是一種更自然的方式，會產(chǎn)生更自然的結(jié)果。如果我告訴你一件事，我就再也不能改變我對你說的話了，也沒辦法讓你忘卻。例如，美國總統(tǒng)是誰，不會隨時(shí)間而改變;只是會被同樣性質(zhì)（身份和名字）的其他事實(shí)（人）所取代。在Git的示例中，一個ref（分支或標(biāo)記）可以在不同的時(shí)間點(diǎn)指向（持有一個ID和一個值）不同的提交，并提交一個提交來替換當(dāng)前所持有的值。Slack通道也代表了一種身份，隨著時(shí)間的推移，它的價(jià)值也在不斷增長。

真正的問題是，我們并不是唯一一個擁有通道的人。很多人試圖發(fā)布消息和改變通道，有時(shí)是同時(shí)進(jìn)行，需要有人來決定結(jié)果應(yīng)該是什么。

在中心化的系統(tǒng)中，當(dāng)前幾乎所有的web應(yīng)用程序，都有一個中央實(shí)體來決定這個結(jié)果，并對事件進(jìn)行序列化。然而，在一個分布式系統(tǒng)中，每個人都是平等的，因此需要有一種機(jī)制來確保網(wǎng)絡(luò)上能夠達(dá)成共識。

對于一個真正的分布式網(wǎng)絡(luò)來說，要想解決這個問題，最困難的問題就是我們今天正在使用的所有應(yīng)用。它不僅會影響并發(fā)更新，還會影響其他需要“實(shí)時(shí)”更新的更新——隨著時(shí)間的推移，“真相的單一來源”正在發(fā)生變化。這個問題對于數(shù)據(jù)庫來說尤其困難，它也會影響到其他關(guān)鍵服務(wù)，比如DNS。以分散的方式為特定的塊ID或一系列ID注冊一個人的名字意味著每個參與者都需要同意一個現(xiàn)有的名稱有一個特定的含義，否則兩個不同的用戶就可以看到兩個不同的文件在同一個名稱下?；趦?nèi)容的尋址解決了機(jī)器的問題（記住一個名字只能指向一個特定的匹配內(nèi)容），而不是人類的問題。

在處理分布式的共識方面，有一些主要的策略。其中一個問題是，選擇一個相對較小的“群體”經(jīng)理，他們的機(jī)制是選出一個決定真相的“領(lǐng)導(dǎo)者”（如果你感興趣的話，看看Paxos和Raft協(xié)議）。所有的變化都要經(jīng)過這些經(jīng)理。這實(shí)質(zhì)上是一個集中式的系統(tǒng)，可以彌補(bǔ)網(wǎng)絡(luò)中的中央決策實(shí)體或中斷（“分區(qū)”）的丟失。

另一種方法是像比特幣區(qū)塊鏈這樣的基于驗(yàn)證的系統(tǒng)，在這種系統(tǒng)中，通過讓用戶解決一個“難題”來編寫一個更新（例如，在Merkle鏈中添加一個有效的區(qū)塊）來達(dá)成共識。這個“難題”很難解決，但很容易就能查到，如果沖突仍然存在，還需要一些額外的規(guī)則來解決。其他幾個分布式的區(qū)塊鏈?zhǔn)褂昧嘶隍?yàn)證的共識，同時(shí)減少了解題所需的能源需求。如果你感興趣的話，你可以在BitFury這份白皮書中讀到的相關(guān)的證據(jù)。

針對具體問題的另一種方法是圍繞著CRDT——無沖突的復(fù)制數(shù)據(jù)類型，這在特定情況下根本不會遭受共識問題的困擾。最簡單的例子是一個遞增的計(jì)數(shù)器。如果所有更新只是“添加一條”，只要我們確保每次更新只應(yīng)用一次，順序就不重要，結(jié)果將是相同的。

這個問題似乎沒有一個明確的答案，可能永遠(yuǎn)也不會只有一個答案，但有很多聰明的人正在努力解決這個問題，而且已經(jīng)有很多有趣的解決方案可供選擇。你只可以對其進(jìn)行權(quán)衡。這種取舍通常體現(xiàn)在你“瞄準(zhǔn)”的群體的規(guī)模上，并從你愿意讓渡的共識中挑選出的一種特性——可用性或一致性（或者，從技術(shù)上講，是網(wǎng)絡(luò)劃分，但在一個高度分布的系統(tǒng)中，這似乎很難避免，就像我們正在討論的系統(tǒng)一樣）。大多數(shù)應(yīng)用程序似乎都支持可用性而不是即時(shí)的一致性——只要狀態(tài)在合理的時(shí)間內(nèi)是一致的即可。

公共文件網(wǎng)絡(luò)中的隱私問題

需要解決的一個明顯問題是隱私問題。即如何在不公開的情況下將內(nèi)容存儲在分布式的集群中呢？如果它能夠隱藏東西，那么內(nèi)容地址存儲是一個不錯的選擇，因?yàn)闉榱苏业侥硺訓(xùn)|西，你需要知道它的內(nèi)容的散列。所以本質(zhì)上我們有三個層次的隱私：公共的、隱藏的和私密的。對于第三個問題的答案似乎是在密碼學(xué)中-對存儲的內(nèi)容進(jìn)行強(qiáng)加密并且要有“外在”的共享密鑰（比如用紙分享、NFC設(shè)備傳輸或者掃描二維碼等）。

依賴于加密技術(shù)一開始可能聽起來很冒險(xiǎn)（畢竟，黑客總是會發(fā)現(xiàn)漏洞），但實(shí)際上并沒有比我們今天做的更糟糕。事實(shí)上，這在實(shí)踐中有可能會更好。企業(yè)和政府通常以無法與公眾分享的方式存儲敏感數(shù)據(jù)（包括數(shù)據(jù)所涉及的個人）。相反，只有擁有這些數(shù)據(jù)的組織所雇用的數(shù)量不多的員工才能夠訪問，而且至少在密碼方面受到保護(hù)。通常情況下，如果你能訪問存儲這些數(shù)據(jù)的系統(tǒng)，你就可以擁有所有這些數(shù)據(jù)。

但是，如果我們轉(zhuǎn)而以一種本質(zhì)上是公開的方式來存儲私人數(shù)據(jù)，那么我們就不得不保護(hù)它（使用強(qiáng)大的加密技術(shù)），這樣對任何獲得訪問權(quán)限的人來說都是不好的。這個想法與安全相關(guān)軟件的開發(fā)者開源代碼的初衷是一樣的，這樣任何人都可以查看并發(fā)現(xiàn)問題。知道安全系統(tǒng)是如何工作的，不應(yīng)該幫助你打破它。

這種對訪問的控制一個有趣特性是，一旦你授予某人訪問某些數(shù)據(jù)的權(quán)限，他們就會永遠(yuǎn)對數(shù)據(jù)進(jìn)行修改。當(dāng)然，你可以隨時(shí)更改加密密鑰。這也并不比我們今天的情況更糟，盡管它可能并不明顯：只要獲得一些數(shù)據(jù)的訪問權(quán)限，任何人都可以復(fù)制它。

這一領(lǐng)域的有趣挑戰(zhàn)是，在一群需要隨時(shí)間推移而改變的人群中建立一個能夠驗(yàn)證身份并共享私有數(shù)據(jù)的良好系統(tǒng)。例如，在一個私有的Git存儲庫中有一組協(xié)作者。這絕對可以通過一些私鑰密碼和旋轉(zhuǎn)密鑰的組合實(shí)現(xiàn)，但讓用戶獲得流暢的體驗(yàn)可能是一項(xiàng)挑戰(zhàn)。

從云到霧

盡管要解決一些難題，我們從云計(jì)算中遷移出去，將會是一個非常令人興奮的未來。首先，在技術(shù)方面，我們應(yīng)該從點(diǎn)對點(diǎn)網(wǎng)絡(luò)中獲得相當(dāng)多的改進(jìn)。內(nèi)容可尋址存儲可以在不受信任的授權(quán)情況下，提供對內(nèi)容本身的加密驗(yàn)證，并進(jìn)行永久的托管（只要有人對它感興趣），我們應(yīng)該能看到其速度的顯著提升，即使是在遠(yuǎn)離數(shù)據(jù)中心的發(fā)展中世界的邊緣（甚至是在另一個星球上）。

在某個時(shí)候，甚至連數(shù)據(jù)中心都可能成為歷史。消費(fèi)設(shè)備變得如此強(qiáng)大，無處不在，計(jì)算能力和存儲空間幾乎隨處可見。

對于運(yùn)行web應(yīng)用程序的企業(yè)來說，這一變化將會節(jié)省巨大的成本。企業(yè)也將能夠減少對宕機(jī)風(fēng)險(xiǎn)的關(guān)注，更多地關(guān)注增加客戶價(jià)值，讓所有人受益。我們?nèi)匀恍枰仆泄芊?wù)器，但它們只是眾多同類服務(wù)器中的一種。我們還可以看到更多樣化的應(yīng)用程序，在這些應(yīng)用程序中，并非所有的應(yīng)用程序都是一樣的——在同一個應(yīng)用程序中，有面向消費(fèi)者的和后臺的，而差別只是訪問權(quán)限不同而已。

對企業(yè)和客戶來說，另一個巨大的好處是對客戶數(shù)據(jù)的處理。當(dāng)不再需要集中存儲大量的客戶信息時(shí)，丟失這些數(shù)據(jù)的風(fēng)險(xiǎn)就會降低。軟件工程界的領(lǐng)導(dǎo)者們（如Erlang的創(chuàng)始人JoeArmstrong，他的談話很值得關(guān)注）長期以來一直認(rèn)為，在互聯(lián)網(wǎng)上，客戶向企業(yè)的程序發(fā)送數(shù)據(jù)的設(shè)計(jì)是一種退化，企業(yè)應(yīng)該向客戶發(fā)送程序，以讓他們能夠執(zhí)行私人的數(shù)據(jù)，而這些數(shù)據(jù)不會被直接共享。這樣的模式似乎更安全，并且也不會以任何方式阻止企業(yè)收集他們所需的有用的用戶指標(biāo)。

而且，當(dāng)前沒有什么方式能阻止混合的服務(wù)模式，這些服務(wù)不透明，并保留了私人數(shù)據(jù)。

這種類型的應(yīng)用程序架構(gòu)似乎是一種更自然的方式，來提供大規(guī)模計(jì)算和軟件服務(wù)，而且也更接近于開放信息交換的想法，任何人都可以方便地向他人轉(zhuǎn)發(fā)內(nèi)容，并控制可以發(fā)布和訪問的內(nèi)容，而不是由擁有服務(wù)器的私有實(shí)體來控制。

對我來說，這是非常令人興奮的。這就是為什么我想要組建一個小團(tuán)隊(duì)，在幾周內(nèi)，用上面提到的一些技術(shù)來構(gòu)建一個簡單的移動應(yīng)用，來證明概念，并展示可以通過點(diǎn)對點(diǎn)網(wǎng)絡(luò)來做些什么。目前我所擁有的唯一一個足夠小的想法，能夠相對快速、足夠有趣，足以證明這種方法的特性是一個點(diǎn)對點(diǎn)的、真正無服務(wù)器的克隆版Twitter，但這并不特別令人興奮。

原標(biāo)題:從“云”到“霧”：云計(jì)算將死亡，取而代之的是分布式的點(diǎn)對點(diǎn)網(wǎng)絡(luò)