對話火山引擎總裁譚待:從同質化的雲服務中突圍 | 數字思考者50人

鈦媒體app 發佈 2024-01-07T22:03:06.824554+00:00

鈦媒體特別專題策劃《數字思考者50人》:探訪中國50位獨具代表的數位化思考者。我們理解的「TechThinker」 ,涵蓋了中國數位化浪潮中的技術踐行者、政策制定者與投資決策者。在這場長達10年的乘風破浪中,我們每個人都在分享技術進步的果實,卻鮮有人知道結果背後的故事。

鈦媒體特別專題策劃《數字思考者50人》:探訪中國50位獨具代表的數位化思考者。我們理解的「TechThinker」 ,涵蓋了中國數位化浪潮中的技術踐行者、政策制定者與投資決策者。在這場長達10年的乘風破浪中,我們每個人都在分享技術進步的果實,卻鮮有人知道結果背後的故事。我們期待通過《50人》,還原中國數位化推進過程中的關鍵決策,同時也為你呈現數字思考者們的管理與經營之道。

中國的雲市場正值酣戰,但廣大的市場空間和快速的技術疊代,依然給後來者留出了充足的位置。

隨著技術的日漸成熟,多雲也正成為雲計算新的趨勢,企業客戶在IT架構上選擇多雲策略,避免供應商鎖定或確保業務連續性。「大概幾年前來自第三方的調研數據顯示,平均每家企業會使用三朵雲。去年,我們也針對4000多家在雲上消耗超過100萬的企業客戶進行調研發現,這一數字已經上升到了五朵雲,並且已經有88%的企業採用多雲架構。這是一個歷史新高,以及未來這一數字還會上升。」火山引擎總裁譚待用自己的調查數據來看這個大趨勢。

而在另一個維度,一些成熟的客戶正在提出更高需求,這也在倒逼雲計算服務商不斷升級。但與國際整體局面截然相反的局面是,國內IaaS市場份額較高,但毛利率最低,因為過去公有云為主導的服務商策略是不斷降價,依靠規模提高邊際效益。相較而言,PaaS+SaaS業務雖然有巨大的發展空間,但現階段滲透率並不高。而最近一段時間,ChatGPT的橫空出世,給了雲計算全新的想像空間。因為大模型所需的海量計算資源遠遠超過了絕大部分企業的能力,所以上雲成為企業獲取智能化能力唯一的選擇。

火山引擎正處於這樣極快的市場變化中。雖然入局晚,但它具備自己獨有的實踐經驗:採用與字節跳動內外同源的技術架構,計算資源池實現共享。高峰期Serverless的QPS可達到過億量級,每天6萬多人在使用大量的數據引擎,數據BP(數據業務夥伴)制定出0987的服務標準……同時,抖音在全球炙手可熱的生態,也成為火山引擎給生態賦能的強力基本盤。

所有這些,也構成火山引擎對於雲計算一些獨特的判斷。

去年7月,火山引擎提出雲上增長三要素:體驗創新、數據驅動、敏捷疊代。譚待認為,數據驅動是企業增長的最核心環節,但很多企業數據中台的失敗,不是技術問題,而是缺乏應用場景,「過去很多企業花費了大量時間構建數據中台,但最後失敗了,找不到數據應用的場景,價值也沒有發揮出來。其本質在於,企業沒有將數據驅動整個體系設計好。」為此,火山引擎圍繞數據消費來設計整個飛輪體系,是希望將數據驅動這件事情更往前走一步。

過去兩三年,火山引擎依據內外實踐和服務經驗,構建出相對完整的技術棧:從IaaS層的自研DPU、搶占式實例SPOT,到分布式雲原生平台、混合雲veStack、多雲安全平台、面向智能推薦的大模型訓練引擎,再到圍繞數據飛輪展開的一系列數據治理產品,以及各類體驗創新解決方案如內容創作、數字人。

火山引擎的思路是,不會完全按照「上個時期」賣一模一樣的公有雲產品,只依靠降價與其他服務商死磕,這種路徑並不可取。「雲本來就應該不斷降低成本,只有在規模上做到足夠大,有足夠資源支持技術團隊創新,自然會有更多成本優化的空間。雲服務應該將這部分省出來的利益讓渡客戶,客戶也才會持續用雲。」譚待說。

而對於存在變化、可產生新機會的領域,火山引擎則會持續發力、加大研發投入,自研DPU是,升級模型訓練平台是,構建數據飛輪體系也是。這樣的好處在於,對內服務會有更極致的性價比,在雲市場未來也會帶來階段性的競爭優勢。

走到這個階段,雲的差異性可能並沒有想像中那麼明顯。但火山引擎總會在你認為雲只存在唯一解法的時候,站在業務視角,帶給你新的解決思路。

火山引擎總裁 譚待

4月18日,火山引擎發布一系列面向雲原生架構的產品,宣布與字節跳動國內業務並池。在發布會之前,火山引擎總裁譚待和鈦媒體聯合創始人劉湘明就火山引擎的發展戰略,以及當下雲市場的趨勢等話題,進行了深入的一次溝通,展現了火山引擎對於雲計算獨特的判斷和價值觀。

觀點摘錄:

1.「不急於推出只有30分的大模型,核心是賦能其他人做這件事情」

2.「一切圍繞數據消費設計數據飛輪,不會一開始就搭建過於靜態的數據體系」

3.「可能在資源有限的範圍內能做好,但如果要做1000個集成項目,就做不好」

4.「雲和辦公協同是兩個完全獨立的賽道,如果非常重視這兩件事情的公司,應該讓他們分開發展,做好協同」

5.「雲服務仍有很多創新點沒實現,目標將pay as you go做到更細顆粒度」

多雲是趨勢

劉湘明:字節是一個雲原生的企業,怎麼總結字節自己在應用雲技術方面的經驗和方法論?

譚待:雲原生很早就有其標準定義,現在再去談雲原生,它的意義已經發生了泛化。更重要的是,企業如何利用雲的特性重新設計應用架構,將雲的價值(如彈性、成本)最大化利用,實現在數位化轉型中的快速疊代。能做到這一點,我認為是雲原生的企業。

具體如何展開?一是在基礎層,利用容器、微服務、DevOps等關鍵技術組件進行統一管理和編排,以支撐業務的彈性擴縮容。企業多餘的IT資源進一步釋放,降低運營成本;二是構建多雲架構,企業通過私有雲將關鍵數據保留在本地,也同時需要公共雲支撐其他業務,使業務能夠在多個雲之間快速遷移;三是利用更先進的PaaS、SaaS加速業務疊代,減少重複造輪子。

無論是我們自己用雲,還是做雲都會關注到這一點。

劉湘明:所以你們多雲的經驗很豐富,對吧。

譚待:在多雲方面的實踐,字節可以說是經驗最豐富的一家。很多雲廠商說自己有經驗,卻沒有親身實踐過。我們相信未來一定是多雲架構,每個雲都有自身所擅長的特徵,且企業也不希望被一家雲供應商鎖定,尤其是希望做全球化業務時,一定是多雲的選擇。

大概幾年前來自第三方的調研數據顯示,平均每家企業會使用三朵雲。去年,我們也針對4000多家在雲上消耗超過100萬的企業客戶進行調研發現,這一數字已經上升到了五朵雲,並且已經有88%的企業採用多雲架構。這是一個歷史新高,以及未來這一數字還會上升。

沒有必要跟客戶一定要綁定,還不如大方講出來。目前我們構建的基礎設施和平台產品,在幫助企業構建多雲體系的同時,實現雲原生。

劉湘明:多雲也是火山引擎反覆強調的一個優勢。從技術到應用層面,多雲會遇到怎樣的挑戰?

譚待:無論是從成本,還是供應商鎖定、安全等角度考慮,企業都會選擇多雲或多供應商策略:自己構建平台或集成第三方PaaS能力,通過更高層次的抽象實現多雲管理。例如,在容器環境下,大部分的業務負載可以實現聯邦集群調度、多雲CDN調度;同時,針對某些有狀態的應用如存儲、資料庫等,也可以實現容器化(雲原生)改造。只有做到這一點,企業才能有足夠的選擇權,與任何一家供應商進行合作。

我們的思路是,順應多雲趨勢,以構建更多的多雲工具。火山引擎構建了基於K8s的分布式雲原生平台,能將私有雲、公有雲或其他雲實現聯邦調度,幫助企業實踐多雲,在此基礎之上,加上IaaS層通過持續的自主研發、技術創新不斷追求極致性價比,實現為企業長期合作的策略。

劉湘明:Serverless的進一步發展,對多雲策略也應該是個利好。

譚待:是的。Serverless帶來了對雲更高層次的抽象,對雲的使用也會更加極致。但Serverless給雲服務商也帶來了許多挑戰,比如隔離技術、小型化、集群的擴縮容等問題。

字節跳動本身就在大量使用Serverless形態的應用/功能。比如,抖音的負載有很多是基於事件驅動型應用,如「交互」、「評論」,就可以基於Serverless構建。在高峰期,(單節點)Serverless的QPS可達到過億量級,在響應、延時等方面都已實現很高的水平。

Serverless概念十年前就出現了,但當時技術並不成熟,Serverless也無法支撐大量的在線業務。如今,Serverless不僅改變了雲的計算方式,還可以結合數據分析、數據湖實現新的方案,企業也在基於Serverless進行多雲遷移。

劉湘明:Serverless的出現,使雲基本達到了當初設想的狀態。

譚待:但還是要不斷向前走。企業本身是一個複雜的決策體,比如它之前已經有很多遺留資產,如果想要全部改造成Serverless,本身就存在一定的難度,而且未必會對這些老舊系統有幫助,這時就需要有更多新的解決方案出現,才能推動企業順利邁向下一階段。

劉湘明:公有雲的競爭日趨白熱化和同質化,不久前阿里雲也在宣布降價,火山引擎的優勢在什麼地方?

譚待雲應該具備多快好省的特點,本來就應該不斷降低成本。規模足夠大,應用的創新技術越來越多,自然會有更多成本優化的空間。對於雲服務商而言,應該將這部分利益讓渡給客戶。這也是客戶為什麼會持續用雲的一個原因。

雖然火山引擎在ToB市場還是個新入者,但我們採取的是字節跳動內外同源的技術架構,計算資源池實現共享。例如,抖音、頭條採用的都是火山引擎的計算服務,通過內外統一的資源管理和優化,可調用百萬台雲伺服器,具備足夠大的計算規模。

正是有這樣的實踐基礎,才能保證我們長期保持足夠強的競爭力。雲市場依然存在增量,仍留有足夠多的位置留給後來者。

大模型對算力的影響

劉湘明:彈性對於網際網路企業是個特別頭疼的問題,但對於很多傳統企業就不是個問題,因為基本上它的增長都是線性的。原來為什麼要上雲一直是個靈魂拷問,對很多企業來說,上雲成本跟本地計算綜合算下來相差無幾,還面臨知識體系升級的挑戰。但GPT是個很大的機會,GPT的計算需求環境超過了絕大部分企業的資源,要實現智能化,上雲變成唯一選擇。

譚待:無論是大模型還是GPT,它的出現對雲而言肯定是一件好事,因為它把計算的門檻提高了。企業或個人開發者,自己訓練一套模型的成本很高,需要有雲平台作為支撐。但問題是,現在大模型出現了,雲廠商並沒有做得很好,或給出更好的解決方案。

其次,過去,企業的數位化應用可能只是將數據存儲起來,而現在它還可以用訓練好的模型分析更多的Insight,對業務優化產生更大的價值,在內部流程、工作效率各方面進行提升。這要求企業擁抱更多的AI技術,進一步帶動對算力的需求,由於這些需求最終能為企業帶來整個生產力的提升,所以對於企業而言也是賺的。

劉湘明:火山引擎的大模型,會在什麼時候降臨市場?火山引擎的大模型解決方案里包含什麼特色能力,企業選擇火山引擎大模型的優勢是什麼?

譚待:關於大模型,未來可能是這樣一個邏輯:IaaS+MaaS+應用。

在這個階段,MaaS(Model as a Service)其實都沒有做到很好的狀態,包括國際上做的比較好的還處於開始階段,國內也存在很大差距。就像GPT-3剛出現時也挺火熱,但並沒有在產業界掀起太大浪花,是因為GPT-3的能力還沒到及格線,只是一個玩具。當前基於大模型做應用創新,時間還太早,要先將Model做好。

至於誰來做?OpenAI就是個例子。很多相對獨立的公司反而有能力將這件事情做得很好。火山引擎會先把基礎層服務好,然後再看如何服務上層場景,場景是很確定的。一方面可以摸著別人過河,比如微軟的Office Copilot、Adobe的Firefly已經有了諸多嘗試;另一方面,也會與MiniMax、智譜AI、崑崙等企業進行深度合作,通過構建工程化能力更強的機器學習平台,提高大模型訓練的速度。

我們不急於推出一個只有30分且只能適用於本地部署的大模型,這不是最關鍵的,核心是賦能其他人做這件事情。

劉湘明:如果將GPT的出現看作是一次機會,它是不是也會對雲的底層資源進行重新封裝,提供一種新的交互界面?

譚待:其實語音轉文字(ASR)的過程就是一種Serverless形態,它已經將場景往前推了一步。在此之前,企業基本上是在技術層面實現效率提升,終端用戶的感知是比較弱的。

劉湘明:我最近也在重新思考一個問題,什麼是軟體?原來軟體開發有大量工作,開發人員大量的精力花在了界面設計上,GPT的出現將這一問題進行極大的簡化,只要把Prompt做好就可以。

譚待:以前的GUI都需要描述功能,現在可根據需求動態生成。很多人在講「軟體未來都會面臨重寫一遍。」這是個很美好的未來,大家也雄心勃勃,但過一段時間又會面臨技術Hypercycle的問題。

數據飛輪和數據中台的關係

劉湘明:數據飛輪核心的邏輯是什麼,能帶來什麼樣的業務價值?

譚待:火山引擎去年提出了雲上增長三要素:體驗創新、數據驅動、敏捷疊代,其中數據驅動是最核心的一個環節,也是今天數據飛輪提出的起源。數據飛輪包含三個環節:數據生產、數據應用、數據消費,要將這些環節連接起來,相互促進之下,才會越轉越順。

過去很多企業花費了大量時間構建數據中台,但最後失敗了,找不到數據應用的場景,價值也沒有發揮出來。其本質在於,企業沒有將數據驅動整個體系設計好,數據中台只是數據生產的一個環節。甚至也有企業會專門設立數據相關部門,但最終會出現一個悖論:做數據的部門無法通過數據來說明自身的價值。

字節跳動非常強調數據驅動理念,每天有6萬人在使用大量的數據工具,這是一個非常誇張的數字。字節跳動內部數據平台團隊提出了一個比較通用且有價值的度量標準:0987,0是零事故;9是滿足90%的需求;8是80%的需求能夠通過技術優化實現秒級調用;7是NPS,即通過業務部門評價達到70分以上。

所以數據飛輪的提出,是希望數據驅動這件事情更往前走一步,同時一切圍繞數據消費來設計整個飛輪體系,而不是一開始就將搭建完整且過於靜態數據體系為目標。

現在有些文章在談論「拆中台」這件事,我覺得本質是大家還沒有認清楚,中台建設與否的背後邏輯是什麼。

劉湘明:現在很多人談到中台總是用01來論成敗,焦點都是集中在要不要。其實中台是個灰度,只是變厚或變薄的問題。另外,你剛才提到的數據消費是數據飛輪中的靈魂問題,與之配套的,一個是場景問題,很多企業都還沒有做到需要很長時間落地,另一個是工具,你們現在會有哪些產品化動作?

譚待:過去我們曾發布了A/B測試、DataFinder、VeCDP、DataWind等各類工具,在數據底層還引入了批處理、湖倉、Flink等技術方案,未來也會持續升級。此次我們還將發布一個新產品——管理駕駛艙Plus,面向數據驅動的一號位,也就是企業CEO提供服務,實現敏捷、可交互、移動化。

劉湘明:火山引擎數據BP機制很吸引人,什麼樣的企業可以觸發這樣的機制?

譚待:數據BP是數據飛輪的一部分,也是與企業共創、與夥伴合作的環節。數據BP團隊的存在,需要一批人員派駐到數據應用的業務場景。他們會與客戶直接溝通,為客戶解決實際業務問題,同時還會作為「教練」幫客戶構建自己的數據BP。在未來,還會有廣泛的方式如訓練營,讓客戶更好地了解運作機制。目前我們跟華泰證券、得到進行了不錯的嘗試。

劉湘明:這件事情有點個性化,畢竟你們的資源有限,能做BP的人也是一定的。

譚待:其實最理想的應該是有第三方夥伴。火山引擎只用做其中的一小部分或者比較難需要開創性的工作,更多的服務是夥伴來完成。

劉湘明:今年有個政策趨勢是數據資產化,這對很多企業也是個全新挑戰。但大量企業並不知道如何利用、管理好這些資產。字節本身在這一方面應該是先行者,火山引擎認為正確的姿勢和流程是什麼?

譚待:隱私、安全、合規是做一切事情的前提,要把紅線劃清晰。技術層面,可以用聯邦學習、隱私計算、隱私網關等等;其次就是數據用好的問題,很多企業都處於剛開始階段;然後才是數據資產化,實話講,我們自己也在探索,但至少把前兩步做好,不然所謂的數據定價、交易這些事情都沒辦法實現。

雲計算的商業路徑

劉湘明:你怎麼描述火山引擎的典型客戶?

譚待:如果用一個典型的詞來概括,應該是「重視數據驅動」的企業,都是我們會關注的客戶。無論企業側的業務支撐和流程優化,還是產業側所倡導的「數實融合」、「數字中國」,本質上都需要做到數據驅動,絕大多數行業都會逐漸走到這一步。

可能這種說法比較「虛」,但實際應用是非常之多。

例如,在零售消費行業,企業希望對消費者進行更好的洞察,會通過全流程的用戶行為管理,提升用戶黏性;在汽車行業,以前車企根本不知道客戶在哪兒,多以4S店分銷模式呈現,現在車企可以利用數據在線,實現對用戶全生命周期的數位化運營,指導生產過程優化、產品演進等等。此外,像自動駕駛、輔助駕駛場景,已經完全依靠數據驅動,對雲與機器學習都有大量的訴求。

劉湘明:火山引擎是很多工具的組合,但對於很多行業用戶來說,往往會感覺無從下手。你認為應用火山引擎的正確姿勢和流程應該是什麼樣的?

譚待:有很多工具和技術只是一方面。企業自身的複雜性導致流程和機製成為最大的卡點。我們希望能與每個行業里有潛力的標杆客戶深度共創,然後形成行業里的標準方案。

另外,這件事情能夠實現得更快,前提是需要彼此更開放,對雙方的組織能力都有很強的考驗,打破以往落地難的問題。

劉湘明:共創其實是很多網際網路公司都會做的事情。但是共創之後怎麼形成產品能力?

譚待:這也是一個灰度問題。重要的是先想清楚哪些是不能做的事情,哪些是註定不可能產品化的,列好負面清單。這樣再去嘗試,你的試錯成本就會低一些。

很多客戶會講火山引擎開發APP的能力會特別強,會希望我們全部幫他們實現APP開發。這一點,我們是堅決不做,因為它無法實現產品化。

劉湘明:你們的負面清單有多長?

譚待:也沒有太長,而且很難一開始就全部想好。可以事件驅動,在立項之初就會基本判斷清楚。

現在雲廠商會反思不做集成的生意,是一樣的道理。你可能在資源有限的範圍內,能將集成做好,但是如果要做1000個集成項目,可能就做不好。

劉湘明:以銀行客戶共創為例,如果要做產品化,應該怎麼做?

譚待:首先要明確目標,然後拆解共同目標下,彼此的職責和邊界。對於需要共創的,比如手機銀行App要提高月活和用戶黏性,就需要有足夠多關於個性化推薦的內容供給,足夠多的內容分發入口,以及足夠高的分發效率。這個過程勢必會涉及到行業和符合企業調性,這時需要彼此花一定精力共商一套標準,標準也可以在未來固化到火山引擎的產品方案中。

劉湘明:目前企業內部應用的交互界面有向內部通信應用整合的趨勢,火山引擎的交付界面是否會有意識向飛書統一?或者在協同方面有更加密切結合的可能性?

譚待:我們現在跟飛書也是很緊密的合作,同時我們也有彼此深入的客戶。但是,雲和辦公協同是兩個完全獨立的賽道,比如微軟的Azure和Office也是完全分開的。這兩個領域的空間都足夠大,如果是一家非常重視這兩件事情的公司,應該讓他們分開發展,做好協同。

劉湘明:如何建立好生態,去更有效地釋放火山在後台積聚的能量?

譚待:企業需要有交鑰匙的一套解決方案,這件事情靠我們自己肯定是做不了,就需要生態夥伴支持。我們的生態夥伴會比較多元,能夠為企業提供一整套更完整的數位化解決方案,包括雲業務,也包括電商和營銷業務。目前,我們也在跟巨量引擎、抖音電商進行合作。

一定要守住自己的邊界,不要老想做夥伴的事情。最終是要為客戶創造價值。

劉湘明:未來會怎麼考慮火山引擎的商業模式,還是會按照雲的路徑?

譚待:雲經濟本身就是一個很好的商業模式,也是最成功的共享經濟模式,並且一直在創新。在pay as you go這個模式下,過去是按實例付費,現在可以按函數計算的調用次數付費,未來大模型也可以按token服務付費。

這條路徑是可以一直持續的,仍然有很多創新點沒有實現,我們的目標是將這種付費做到更細的顆粒度,幫客戶省更多的錢。

劉湘明:能不能具體講一下token這種模式。你對整個token的定價標準,有過研究嗎?

譚待:其實微軟就在做這件事情。它的邏輯是模型每預測一個token就會消耗一次計算,就可以按照token進行收費。未來的優化方向可能是儘量減少token的使用,從而降低成本。

不過,目前可能還沒到token定價標準,這一步反而是比較清晰或者沒有差異點的。當前階段,尤其在國內,能不能拿出一個90分的模型,才是最重要的事情。

劉湘明:除了對基礎層面構建極致性價比產品外,雲成本管理(FinOps)也是當下在談論的話題,火山引擎在這一方面有沒有思考或產品化的動作?

譚待:我們在FinOps上做得非常強,從字節內部的實踐來看,在火山引擎未成立之前,已經將內部所有的技術平台商品化,對內做定價結算,這是FinOps的基礎。

目前客戶對這些事情也非常感興趣,我們會提供一些諮詢服務,同時也在思考如何將這個過程產品化。

劉湘明:最近一段時間,火山引擎也計劃開放海外數據中心,對於服務出海有哪些規劃?

譚待:4月會啟動東南亞1區,希望更好地服務出海客戶。其中遊戲、電商行業客戶肯定是主力,也會優先去服務這些客戶。此外,在抖音電商、抖音本地生活開展業務的很多中小客戶,首先需要的不是雲,而是能夠圍繞其開展生意的一系列SaaS效率工具。為此,我們可以將這些工具打包成一個方案,比如「生意雲」。

劉湘明:服務出海第一步最難的問題是什麼?

譚待:最重要的還是case。基於海外合規資質,設計出符合客戶業務形態最好的方案。

劉湘明:過去一年,雲廠商都在進行大幅組織架構的調整,火山引擎在當前這樣一個階段,如果有必要會朝著哪個方向進行改進?

譚待:組織調整本身是一件很正常的事情。在業務不同發展階段,都會有最適合自身的組織形態。火山引擎也有類似的形態,從剛成立到推出雲基礎服務,再到開展更多行業,這都是到某個階段才會考慮的事情。我有個教訓,就是不要做組織的over design,有多大的業務就構建多大的組織。

(本文首發鈦媒體APP,作者 | 楊麗,編輯 | 劉湘明)

關鍵字: