新火種
2023-11-22 
2023中國高新技術論壇主旨演講——思科大中華區(qū)互聯網事業(yè)部CTO張超
尊敬的各位來賓，參加此次論壇的觀眾，大家下午好！
我是來自思科互聯網團隊CTO張超，我今天非常榮幸代表思科來參加這次高新技術論壇，我今天給大家分享的技術話題是和AI相關，在這個全民AI的時代，我想聊一下思科如何幫企業(yè)做好數字化轉型，講一下思科在AI上投入了哪些，以及有哪些產出。剛才嘉賓們多多少少都聊到了AI的話題，我想這個論壇的主題“改變世界的新興技術”，AI在很長時間永遠不會缺席。我這邊的分享想從網絡通信的角度分享一下AI的話題，希望可以給大家?guī)硪恍┙梃b的意義。
首先，我們先來聊一下AI技術本身，AI技術的分類其實有很多種，從剛才很多嘉賓都提過的監(jiān)督的、非監(jiān)督的，從技術分類是視覺AI算法，解決金融問題的時間序列算法，AI分類很多。從思科的角度，我們把它分為預測式AI和生成式AI兩個分支。
我們先來聊一下預測式AI，它是2017年進入成熟期，其實預測式AI的基礎算法-反向傳播算法在上世紀60年代已經發(fā)表了相關的論文，而視覺AI、金融的時序AI算法90年代也已經成熟，受制于GPU算力的影響，很多應用場景沒有辦法落地。從2016-2017年以來，隨著高性能GPU的推出，以及算力不斷增強，這些應用場景像雨后春筍一樣的爆發(fā)出現，所以我們看到2017年左右，預測式AI在很多場景落地，包括AlphaGo等。預測式AI的實質是通過歷史數據預測未來的事件、行為和趨勢發(fā)展，這種AI方式不會產生新的內容或者想法，這是有別于生成式AI的，主要的應用場景是用在預測和自動化的場景上。
還有一個是生成式AI的人工智能，從去年Chat GPT發(fā)布以來，生成式AI的場景也是雨后春筍般的出現，生成式AI的本質是使用大量算力資源通過現有的數據集創(chuàng)造新的內容和想法。一般來說，生成式AI需要大量算力資源，也就是需要企業(yè)去建立大語言模型的算力集群，或者是有些企業(yè)也可以通過已經算好的一些結果去做一些推理模型的應用，這是兩種不同的用法。目前據我們統計，現在國內做了大語言模型的企業(yè)和機構大概有100多家，所以說生成式AI近年來非常火熱的。
AI對于硬件和軟件投入是非常大的。思科是一家網絡公司，在大家印象中，思科是以硬件為主，但我要給大家說一個數據，思科是全球10大收入最高的軟件公司之一，思科軟件加服務的收入超過硬件部分，占到全年營收50%以上，思科對AI投入巨大，我們主要聚焦于下面這四個領域，我可以為大家歸納一下。第一個領域是網絡基礎設施領域，我們簡單的通俗來講，網絡AI的基礎架構。第二個領域是網絡安全AI領域。第三塊是網絡協作辦公領域，這個里面包含了一些音視頻系統，會議系統，以及企業(yè)協作系統。第四塊就是FSO，全棧可視化，用現在流行的話來說就是全鏈路可視化系統。我下面一一闡釋這四個方面。
第一個領域是AI網絡架構和芯片方面。思科很有前瞻性的在2019年發(fā)布了新一代網絡芯片Silicon One，到現在已經迭代了三代，從最小的3.2T單芯片能力，到最新的為AI設計的51.2T的芯片能力，我們有全系列的芯片家族。我們最新為AI設計的51.2T的芯片有超強性能，也就是說擁有更高的網絡吞吐率以及更低的延時，可以使AI的計算完成時間更短，計算效率更高。與此同時，思科推出的AI網絡方案是基于以太網，我們的可拓展性和成本更低，更重要的是我們有廣泛的互操作性，可以和其他生態(tài)進行集成。
除了思科主流的網絡設備，用了我們的思科Silicon One芯片之外，我們也和我們的客戶、合作伙伴打造了一些白盒網絡系統，就是利用我們芯片的SDK和SAI接口，用戶可以編寫自己的網絡操作系統，打造自己的網絡生態(tài)系統，擁有自主知識產權的網絡生態(tài)。我們的芯片是為大語言模型所專門優(yōu)化的，我們有非常多的專用特性，包括逐包負載均衡，因為如何解決負載均衡是AI關鍵又復雜的問題。我們使用增強型以太網，并且是基于全調度以太網構造的大模型架構。我們還有目前業(yè)界最高的400G以及800G的接口，更高的速率接口代表機架的容量比之前提升一倍，可以節(jié)省出來大量的機架空間，大量的模塊節(jié)省，大量連接線的節(jié)省，我們測算了一下，至少可以降低40%的CAPEX和OPEX。最后一個是我們現在很多企業(yè)強調可持續(xù)發(fā)展，低碳以及ESG的概念，我們現在的AI芯片每100G的耗電量僅僅1.25瓦左右，這是在以前不可想象的事。
現在的大語言模型動輒是千億級，甚至是萬億級的神經元，如果要構建這樣的網絡架構，需要我們把神經元的參數計算工作分布在數千張或者數萬張GPU卡上。網絡利用率在95%以上，網絡上不能有丟包，丟包會對AI的結果造成很大影響，通過我們的芯片可以輕松構建千卡、萬卡這樣的集群。思科協同業(yè)內的其他九大行業(yè)巨頭，我們共同組建了超級以太網聯盟，這個組織的一個宗旨就是為所有生態(tài)、用戶打造更加開放，更加高效，更加解耦的以太網AI環(huán)境。各位如果對這方面有興趣的，可以關注超級以太網聯盟UEC后續(xù)白皮書的發(fā)布。
第二部分聊一下AI的軟件部分。比如對于ChatGPT來說，普通用戶使用的交互界面是APP，是API的調用，這都是用代碼了完成的，網絡AI的軟件部分也至關重要。網絡的AI軟件特性的目標是使我們的AI自動化運維系統更加主動管理網絡，優(yōu)化最終用戶的體驗，最終目的是提升網絡的SLA，達到滿足AI新興應用的發(fā)展。最后一個是保障，傳統的網絡排障是非常困難的，主要利用工程師的經驗和手工的方式去排障的。我們的網絡保障系統就要是更加高效解決網絡故障問題，甚至是管理員發(fā)現這個故障發(fā)生前，已經自動化的解決掉這個故障。AI網絡可以有更強大的可視化能力，所有的網絡流量都可以了如指掌。
右邊是比較有意思的東西，是虛擬網絡管理助手，這個是可以改變未來IT的運維模式。當你新建一個網絡，新建一個業(yè)務應用時候，它可以利用生成式AI技術自動幫你生成網絡配制或者優(yōu)化已有的網絡配制，并且可以進行動態(tài)調優(yōu)，可以調整鏈路質量、配置、策略，這個說起來可能有點抽象，我們接下來可以看一個視頻。
（現場播放視頻）
這就是未來IT運維方式，其實這個未來并不遙遠，思科計劃在明年就會推出類似的功能，大家可以期待一下。
剛才例子是用網絡安全的設備-防火墻來做演示的，之所以選擇用防火墻做演示，是因為對一般企業(yè)來說，防火墻的策略最復雜，有成千上萬條策略，人為管理異常困難，這樣棘手的問題交給AI來處理再合適不過。既然說到安全，我們就說第二個領域，思科投入近年來最大的領域是思科安全AI領域，這上面所有LOGO是思科在2023年收購的安全類的公司，左上角是做人工智能威脅防護的公司，Armorblox，右上角是做防御攻擊的公司。下面三個公司是做安全云AI的公司，右邊還有一個“......”，是思科正在進行的收購，是專門做安全認證分析以及運維認證分析的公司，這家公司是思科安全AI很重要的引擎之一。思科AI安全就是要給運維團隊一個簡單的運維排障和管理的技術，可以保障加固大語言模型的安全，同時防止數據丟失，以及規(guī)避一些合規(guī)性問題。我個人認為，最最重要的是，思科安全的AI可以幫到的企業(yè)的SOC團隊進行威脅情報處理，可以預防復雜性攻擊。
這個Talos平臺是AI安全情報支持，我們的安全每天是500億條，有些是網絡安全事件，一些web的安全事件、郵件的安全事件，思科有500個安全威脅處理的專家，每天在不斷的改善AI驅動算法，優(yōu)化驅動算法，讓這個系統通過AI引擎生成攻擊和威脅的特征，使得企業(yè)的SOC部門能夠快速應對威脅處理。
第三塊內容是疫情之后比較火熱的話題，協作辦公領域。思科有著名的協作平臺Webex，可以是說這個領域的鼻祖，近年來我們通過AI算法優(yōu)化不斷提升客戶體驗，我們利用預測式AI算法提升音視頻質量，包括噪音消除、視頻分辨率提升，我們也通過一些自然語言處理的算法，做到了實時字幕、實時翻譯功能。也通過視覺AI技術做到人臉識別、肖像模式增強功能。通過生成式AI技術會議助手可以幫您實時做AI會議紀要和總結。
最后一塊內容是思科投入的第四個領域，全棧可視化領域。為什么有這樣的需求？我們可以總結出來三句話，第一句話，現在的網絡發(fā)展，Intenet是新一代的骨干網，現在自從云代理安全網關的發(fā)展，以及SDWAN技術的出現，我們現在互聯網便成了新一代的骨干網。第二句話，現在云是新一代數據中心，我們現在出現了很多公有云、私有云平臺，現在很多企業(yè)沒有自建數據中心，把所有業(yè)務放在公有云上面。第三句話就是SaaS服務是新一代應用棧，我們了解到很多企業(yè)是用SaaS和無服務架構去進行構建應用的，自己完全沒有服務器和自建應用系統。還有是隨著技術發(fā)展，像IOT，BYOD的出現，終端類型越來越多，圖中的五個區(qū)域都是相對來說事獨立的，所以說AI技術可以幫助大家做到端到端的可視化，以及消除不同域之間體驗不一致的情況。思科AI在這方面投入非常大，我們自從2020年收購了千眼公司，做NPM網絡性能檢測的公司。思科之前還有APM的應用性能檢測產品AppDynamic，思科有能力為用戶提供端到端全棧式AI可視化的能力。
最后一張是我的總結，思科AI投入的成果主要集中在四個領域，分別AI網絡、AI安全、寫作辦公、全棧可視化領域。我們通過生成式AI無以及預測式AI的技術豐富這四大領域的應用場景，讓大家能夠真實的利用AI技術提升自己IT的運維水平，真正做到可以向AI時代的數字化目標轉型。
今天是因為受篇幅的影響，我沒有辦法羅列思科所有的AI技術，如果大家對這個感興趣，可以聯系我或者思科的客戶經理，我今天的分享就到這里，謝謝大家。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
