亚洲精品无码乱码成人|最近中文字幕免费大全|日韩欧美卡一卡二卡新区|熟妇性饥渴一区二区三区|久久久久无码精品国产AV|欧美日韩国产va在线观看|久久精品一本到99热动态图|99国产精品欧美一区二区三区

還記得今年3月Meta CEO扎克伯格(Mark Zuckerberg)曬出的這張與英偉達(dá)CEO黃仁勛的合照嗎?當(dāng)時(shí)小扎稱，黃仁勛是“科技界的Taylor Swift”。

這被認(rèn)為是兩個(gè)億萬富翁的世紀(jì)會(huì)面。

而就在剛剛，北京時(shí)間7月30日凌晨，黃仁勛與扎克伯格兩人再度現(xiàn)身計(jì)算機(jī)圖形學(xué)頂會(huì)SIGGRAPH 2024上，不僅迎來 AI 行業(yè)的世紀(jì)對談，探討 AI 和虛擬世界的基礎(chǔ)研究與未來。而且最后，小扎送黃仁勛一件定制皮衣，黃仁勛用自己標(biāo)志性的“全新”皮衣與扎克伯格交換，留下了精彩一刻。

(資料圖)

扎克伯格在對談中表示，從互聯(lián)網(wǎng)到移動(dòng)互聯(lián)網(wǎng)之后，F(xiàn)acebook這類軟件在蘋果iOS系統(tǒng)平臺(tái)上受到了極大的限制，而如今，以Llama為首的開源AI模型將成為打敗蘋果封閉生態(tài)、微軟PC平臺(tái)的下一個(gè)新的至寶。“我非常樂觀地認(rèn)為，在下一代比賽中，開源 AI 將會(huì)為Meta贏得勝利。”

“我未來10年或15年的事情之一，就是我只想確保Meta能夠建立基礎(chǔ)技術(shù)，并將在此基礎(chǔ)上建立社交體驗(yàn)，因?yàn)槲乙呀?jīng)嘗試了太多的東西。

如果你剛剛被告知，在某種程度上，你需要通過平臺(tái)來構(gòu)建它，我只是想，不，去他媽的下一代(fuck that for the next generation)，就像我們要一直往下構(gòu)建，并確保在那里。”扎克伯格再度炮轟蘋果封閉生態(tài)對于Meta公司的打擊。

黃仁勛則強(qiáng)調(diào)，AI 正在變革一切。而“我們(英偉達(dá)十年前)改變了公司的一切，從處理器到系統(tǒng)，再到軟件堆棧，所有的算法和視頻基礎(chǔ)研究都轉(zhuǎn)向深度學(xué)習(xí)。”

老黃小扎對談：開源AI正變革互聯(lián)網(wǎng)時(shí)代

“This is SIGGRAPH， these 90 % PhDs.”一上臺(tái)，黃仁勛就調(diào)侃了小扎，稱這個(gè)會(huì)議上的人90%都是博士，暗指小扎輟學(xué)創(chuàng)立Facebook的事情。

相比于大學(xué)本科期間就打造出Facebook并退學(xué)創(chuàng)業(yè)的扎克伯格，黃仁勛是在30歲才成為英偉達(dá)的聯(lián)合創(chuàng)始人。于是他提到：“我要是知道得花這么長時(shí)間才能成功的話……”

“你打從一開始就不會(huì)做這些了?”扎克伯格問道。

“不，我會(huì)像你一樣從大學(xué)輟學(xué)然后早點(diǎn)開始。” 黃仁勛表示。

實(shí)際上，英偉達(dá)和Meta之間的關(guān)系頗有淵源。當(dāng)全球最強(qiáng)開源模型LLaMA一代推出之時(shí)，Meta采用英偉達(dá)A100 GPU卡進(jìn)行訓(xùn)練，如今最新的Llama 3則是英偉達(dá)H100進(jìn)行訓(xùn)練推理形成的。

早前扎克伯格承諾，到今年年底，Meta將擁有35萬塊英偉達(dá)H100 GPU，算力總和將接近于60萬塊H100所能提供的算力，預(yù)計(jì)投入成本高達(dá)70億美金以上。

扎克伯格在對話當(dāng)中表示，Meta有一套算力集群訓(xùn)練技術(shù)方案。如今，多模態(tài)模型對于算力要求越來越高，而 AI 已經(jīng)深入到每家公司，在這其中構(gòu)建GPU基礎(chǔ)設(shè)施和運(yùn)行大型推薦系統(tǒng)變得異常重要。

談到開源 AI，扎克伯格有些激動(dòng)的表示，開源 AI 模型技術(shù)將成為 AI 時(shí)代下打敗閉源模型的重要?jiǎng)恿Α?/p>

“所以在這方面(Meta)有很多歷史。隨著時(shí)間的推移，我們做了很多開源工作。坦率地說，我認(rèn)為部分原因是我們在其他一些科技公司之后開始建設(shè)分布式計(jì)算基礎(chǔ)設(shè)施和數(shù)據(jù)中心。正因?yàn)槿绱耍?dāng)我們建造這些東西的時(shí)候，它并不是一個(gè)競爭優(yōu)勢。所以我們想，好吧，我們最好把它打開，然后我們將受益于圍繞它(開放)的生態(tài)系統(tǒng)。所以我們有很多這樣的項(xiàng)目。我認(rèn)為，最大的一個(gè)可能是開放計(jì)算，我們采用了服務(wù)器設(shè)計(jì)和網(wǎng)絡(luò)設(shè)計(jì)。最終，數(shù)據(jù)中心設(shè)計(jì)并發(fā)布了所有這些內(nèi)容。通過讓它成為某種行業(yè)標(biāo)準(zhǔn)，所有的供應(yīng)鏈基本上都圍繞它組織起來，這對每個(gè)人都有省錢的好處。”扎克伯格表示。

黃仁勛也同意開源 AI 的重要性，也支持Meta公司的愿景。他表示，模型開源之后，每個(gè)人都可以有個(gè)AI ，每個(gè)企業(yè)都可以有一個(gè)AI，每個(gè)工程師和每個(gè)軟件開發(fā)人員都有一個(gè)AI。“我相信你也相信每個(gè)人和每個(gè)公司都應(yīng)該能夠制造自己的AI，所以你(Meta模型)實(shí)際上是開源的。”

“所以這是一項(xiàng)非常棒的體驗(yàn)。當(dāng)Llama出現(xiàn)的時(shí)候，我們有點(diǎn)積極地傾向于為 AI 模型做這件事。具體來說，我想我有幾種方式來看待這個(gè)問題。我的一個(gè)想法是，在過去的20年里，在公司里建造東西真的很有趣。但最困難的一件事是，我們必須通過競爭對手的移動(dòng)平臺(tái)(蘋果)發(fā)布我們的應(yīng)用程序。所以一方面，移動(dòng)平臺(tái)對這個(gè)行業(yè)來說是巨大的恩惠，這是非常棒的。

但另一方面，通過你的競爭對手來交付你的產(chǎn)品是具有挑戰(zhàn)性的。在我成長的那個(gè)時(shí)代，F(xiàn)acebook第一個(gè)版本是在網(wǎng)絡(luò)上，而且是開放的。然后作為向移動(dòng)設(shè)備的過渡，有利的一面是，現(xiàn)在每個(gè)人的口袋里都有一臺(tái)‘電腦’。所以那很好。但缺點(diǎn)是，我們能做的事情受到了更多的限制。當(dāng)你看這幾代計(jì)算時(shí)，有一種很大的限制和偏見，每個(gè)人都只看著移動(dòng)設(shè)備，認(rèn)為因?yàn)榉忾]的生態(tài)系統(tǒng)，因?yàn)樘O果基本上贏了，并制定了條款。

從技術(shù)上講，我知道市面上有更多的安卓手機(jī)，但蘋果基本上擁有整個(gè)市場和所有的利潤?；旧?，安卓在發(fā)展方面有點(diǎn)像蘋果。所以我認(rèn)為蘋果很明顯贏得了這一代人。但并不總是這樣?；蛘呒词鼓慊氐揭淮艘郧?，蘋果也在做他們那種封閉的事情。

但是微軟，顯然不像這個(gè)完全開放的公司，但與蘋果相比，Windows運(yùn)行在所有不同的原始設(shè)備制造商和不同的軟件，不同的硬件上。這是一個(gè)更加開放的生態(tài)系統(tǒng)和窗口。Windows是領(lǐng)先的生態(tài)系統(tǒng)。它基本上是那種PC時(shí)代的東西，開放的生態(tài)系統(tǒng)之一。我有點(diǎn)希望，在下一代計(jì)算中，我們將回到開放生態(tài)系統(tǒng)獲勝并處于領(lǐng)先地位的領(lǐng)域。然后，總會(huì)有一個(gè)封閉的和一個(gè)開放的。我認(rèn)為兩者都有理由去做，兩者都有好處。我不是這方面的狂熱者，并不是我們發(fā)布的所有東西都是開放的。

但我認(rèn)為，總的來說，對于整個(gè)行業(yè)正在構(gòu)建的計(jì)算平臺(tái)來說，這是很有價(jià)值的。如果軟件特別開放，這真的塑造了我的哲學(xué)，無論是與Llama AI，還是我們在AR和VR方面所做的工作，我們基本上是在做基于開源技術(shù)的系統(tǒng)架構(gòu)，比如在AR上構(gòu)建系統(tǒng)。因此，從某種意義上說，Android或Windows基本上是這樣的，但我們將能夠與許多不同的硬件公司合作，制造各種不同的設(shè)備。我們基本上只是想把生態(tài)系統(tǒng)恢復(fù)到開放的水平。”扎克伯格這一段言論，直接炮轟蘋果封閉系統(tǒng)對于Meta產(chǎn)品和收入的影響。

隨后，扎克伯格就開啟了“fuck”之旅，他說“讓我談?wù)摲忾]的平臺(tái)，我就會(huì)生氣”。

黃仁勛隨后繼續(xù)稱贊Meta的開源愿景，認(rèn)為這種方式能讓所有人使用 AI 技術(shù)。

隨后談及虛擬現(xiàn)實(shí)的發(fā)展，扎克伯格指出，利用現(xiàn)有非常高質(zhì)量的 AI 技術(shù)，AR技術(shù)能夠在全息AR出現(xiàn)之前以非?？斓乃俣茸兊酶谩?ldquo;幸運(yùn)的是，我們處于有利地位，因?yàn)槲覀冋罱K得到只是一系列不同價(jià)位、不同技術(shù)水平的眼鏡產(chǎn)品。所以我認(rèn)為，基于我們現(xiàn)在看到的雷朋Meadows，我會(huì)猜測 AI 眼鏡在300美元的價(jià)位上將會(huì)是一個(gè)量級(jí)非常大的產(chǎn)品，數(shù)千萬或數(shù)億人最終將會(huì)擁有(它)。”

“我們開始建立一個(gè)GPU芯片?，F(xiàn)在，當(dāng)您部署GPU時(shí)，您仍然將其稱為H100。所以你們知道，當(dāng)扎克伯格稱它建立擁有60萬H100的數(shù)據(jù)中心的時(shí)候，我認(rèn)為出現(xiàn)了好‘顧客’。但這件事太不可思議了我有一個(gè)巨大的系統(tǒng)，非常難以協(xié)調(diào)、難以運(yùn)行。你說你進(jìn)入GPU的旅程比大多數(shù)人都晚，但你的規(guī)模比任何人都大。我祝賀你所做的一切真是難以置信，這真是個(gè)時(shí)尚偶像。”黃仁勛在演講結(jié)尾表示。

NVIDIA NIM時(shí)代已來

值得注意的是，伴隨這次訪談，本次SIGGRAPH 2024上，英偉達(dá)公布20多份研究論文和產(chǎn)品。其中，黃仁勛重點(diǎn)展示了一項(xiàng)英偉達(dá)的“第二曲線”業(yè)務(wù)——推理微服務(wù)NVIDIA NIM。

7月29日，英偉達(dá)推出了一套全新的NIM微服務(wù)，專門針對不同工作流提供定制服務(wù)，包括OpenUSD、3D建模、物理學(xué)、材質(zhì)、機(jī)器人、工業(yè)數(shù)字孿生和物理AI，旨在賦能開發(fā)人員，特別是在DGX Cloud上集成Hugging Face推理即服務(wù)。

同時(shí)，Shutterstock還推出了一項(xiàng)生成式3D服務(wù)。而在AI和圖形領(lǐng)域，英偉達(dá)發(fā)布了全新的OpenUSD NIM微服務(wù)和參考工作流，專為生成式物理AI應(yīng)用而設(shè)計(jì)。這包括一項(xiàng)通過面向機(jī)器人仿真的全新NIM微服務(wù)來加速人形機(jī)器人開發(fā)計(jì)劃。

實(shí)際上，所謂英偉達(dá)Nvidia inference microservices(NIMs)是通過經(jīng)優(yōu)化的容器的形式提供模型，以部署在云、數(shù)據(jù)中心或工作站上，是NVIDIA AI Enterprise業(yè)務(wù)的一部分。借助 NVIDIA NIM，全球超過2800萬名開發(fā)者能夠輕松地為Copilots、聊天機(jī)器人等構(gòu)建生成式 AI 應(yīng)用，所需時(shí)間從數(shù)周縮短至幾分鐘。

簡單來說，你可以理解為NIM是一種軟件模型服務(wù)即平臺(tái)，與無問芯穹推理模型服務(wù)、Hugging Face有點(diǎn)類似。

事實(shí)上，隨著2022年底OpenAI推出ChatGPT聊天機(jī)器人產(chǎn)品，GPT大模型技術(shù)在幾個(gè)月內(nèi)積累了超過 1 億用戶，幾乎推動(dòng)了各行各業(yè)的開發(fā)活動(dòng)激增。

而到了2023 年，開發(fā)者開始使用 Meta、Mistral、Stability等公司的 API 和開源社區(qū)模型創(chuàng)建模型或技術(shù)服務(wù)。

如今，2024年起，企業(yè)組織正將注意力轉(zhuǎn)向大規(guī)模生產(chǎn)部署，其中包括將 AI 模型連接到現(xiàn)有企業(yè)基礎(chǔ)設(shè)施、優(yōu)化系統(tǒng)延遲和吞吐量、日志記錄、監(jiān)控和安全性等。但是，這種生產(chǎn)路徑既復(fù)雜又耗時(shí)，需要專門的技能、平臺(tái)和流程，尤其是大規(guī)模部署。

就在此時(shí)，NVIDIA NIM應(yīng)運(yùn)而生。

今年3月，英偉達(dá)首次公布該產(chǎn)品，并在 今年6月Computex電腦展上正式宣布，包括Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近200家技術(shù)合作伙伴正在將 NIM 集成到他們的平臺(tái)中，以加快特定領(lǐng)域應(yīng)用的生成式 AI 部署，例如Copilot、代碼助手和數(shù)字人虛擬形象等。另外，從 Meta Llama 3 開始，在 Hugging Face 上現(xiàn)已開始提供 NIM。

黃仁勛在今年6月表示：“每個(gè)企業(yè)都希望在其運(yùn)營中融入生成式 AI，但并非每個(gè)企業(yè)都擁有專門的 AI 研究團(tuán)隊(duì)。NVIDIA NIM 可被集成到任意平臺(tái)中，任何地方的開發(fā)者都可以訪問，并且可以在任意環(huán)境中運(yùn)行——它正在助力科技行業(yè)將生成式 AI 普及到每一個(gè)企業(yè)組織。”

具體來說，NVIDIA NIM主要有五個(gè)優(yōu)勢：

隨時(shí)隨地部署：NIM 專為可移植性和可控性而構(gòu)建，支持跨各種基礎(chǔ)設(shè)施 (從本地工作站到云再到本地?cái)?shù)據(jù)中心) 進(jìn)行模型部署。其中包括 NVIDIA DGX、 NVIDIA DGX 云、 NVIDIA 認(rèn)證系統(tǒng)、 NVIDIA RTX 工作站和 PC。預(yù)構(gòu)建的容器和 Helm Chart 打包了優(yōu)化模型，并在不同的 NVIDIA 硬件平臺(tái)、云服務(wù)提供商和 Kubernetes 發(fā)行版中進(jìn)行了嚴(yán)格驗(yàn)證和基準(zhǔn)測試。這支持所有 NVIDIA 驅(qū)動(dòng)的環(huán)境，并確保組織可以在任何地方部署其生成式 AI 應(yīng)用，同時(shí)保持對其應(yīng)用及其處理的數(shù)據(jù)的全面控制。使用行業(yè)標(biāo)準(zhǔn) API 進(jìn)行開發(fā)：開發(fā)者可以通過符合每個(gè)領(lǐng)域行業(yè)標(biāo)準(zhǔn)的 API 訪問 AI 模型，從而簡化 AI 應(yīng)用的開發(fā)。這些 API 與生態(tài)系統(tǒng)中的標(biāo)準(zhǔn)部署流程兼容，使開發(fā)者能夠快速更新其 AI 應(yīng)用 (通常只需 3 行代碼)。這種無縫集成和易用性有助于在企業(yè)環(huán)境中快速部署和擴(kuò)展 AI 解決方案。利用特定領(lǐng)域的模型：NIM 還通過幾個(gè)關(guān)鍵功能滿足了對特定領(lǐng)域解決方案和優(yōu)化性能的需求。它包含特定于領(lǐng)域的 NVIDIA CUDA 庫，以及為語言、語音、視頻處理、醫(yī)療健康等各個(gè)領(lǐng)域量身定制的專用代碼。這種方法可確保應(yīng)用程序準(zhǔn)確無誤并與其特定用例相關(guān)。在優(yōu)化的推理引擎上運(yùn)行：NIM 針對每個(gè)模型和硬件設(shè)置利用經(jīng)過優(yōu)化的推理引擎，在加速基礎(chǔ)設(shè)施上提供盡可能好的延遲和吞吐量。這降低了在擴(kuò)展推理工作負(fù)載時(shí)運(yùn)行推理工作負(fù)載的成本，并改善了最終用戶體驗(yàn)。除了支持優(yōu)化的社區(qū)模型外，開發(fā)者還可以通過使用從未離開數(shù)據(jù)中心邊界的專有數(shù)據(jù)源對模型進(jìn)行對齊和微調(diào)，從而實(shí)現(xiàn)更高的準(zhǔn)確性和性能。支持企業(yè)級(jí) AI：作為 NVIDIA AI Enterprise 的一部分，NIM 采用企業(yè)級(jí)基礎(chǔ)容器構(gòu)建，通過功能分支、嚴(yán)格的驗(yàn)證、通過服務(wù)級(jí)別協(xié)議提供的企業(yè)級(jí)支持以及針對 CVE 的定期安全更新，為企業(yè) AI 軟件提供堅(jiān)實(shí)的基礎(chǔ)。全面的支持結(jié)構(gòu)和優(yōu)化功能突出了 NIM 作為在生產(chǎn)環(huán)境中部署高效、可擴(kuò)展和定制的 AI 應(yīng)用的關(guān)鍵工具的作用。

與此同時(shí)，開發(fā)者可以使用 NVIDIA 托管的云 API 測試新的生成式 AI 模型，或者通過下載 NIM 來自行托管模型，并在主要云提供商或本地使用 Kubernetes 快速部署，以減少開發(fā)時(shí)間、復(fù)雜性和成本。而且，NIM 微服務(wù)通過打包算法、系統(tǒng)和運(yùn)行時(shí)優(yōu)化并添加行業(yè)標(biāo)準(zhǔn) API 來簡化 AI 模型部署流程。

因此，借助 NIM，企業(yè)可以優(yōu)化其 AI 基礎(chǔ)架構(gòu)，以更大限度地提高效率和成本效益，而無需擔(dān)心 AI 模型開發(fā)的復(fù)雜性和容器化。在加速 AI 基礎(chǔ)架構(gòu)的基礎(chǔ)上，NIM 有助于提高性能和可擴(kuò)展性，同時(shí)降低硬件和運(yùn)營成本。

另外，基于NIM，英偉達(dá)還提供跨不同領(lǐng)域定制模型服務(wù)。比如，NVIDIA NeMo使用專有數(shù)據(jù)為大模型、語音 AI 和多模態(tài)模型提供微調(diào)功能;NVIDIA BioNeMo通過生成生物學(xué)化學(xué)和分子預(yù)測模型集合加速藥物研發(fā);NVIDIA Picasso通過Edify模型實(shí)現(xiàn)更快的創(chuàng)意工作流程。這些模型在視覺內(nèi)容提供商的許可庫中進(jìn)行訓(xùn)練，從而能夠部署自定義的生成式 AI 模型，以創(chuàng)建視覺內(nèi)容。

目前，開發(fā)者現(xiàn)在可以從 Hugging Face AI 平臺(tái)上，訪問 Meta Llama 3 模型的 NVIDIA NIM 微服務(wù)。通過基于 NVIDIA GPU 的 Hugging Face 推理端點(diǎn)，只需點(diǎn)擊幾下，開發(fā)者就能在其選擇的云平臺(tái)上輕松地訪問和運(yùn)行 Llama 3 NIM。

具體到案例中，英偉達(dá)透露，作為全球最大的電子制造商，鴻海集團(tuán)(Foxconn)正在使用 NIM 開發(fā)針對特定領(lǐng)域的大模型，并將這些模型嵌入到其 AI 工廠的各種內(nèi)部系統(tǒng)和流程中，用于智能制造、智慧城市和智能電動(dòng)汽車;而西門子正在將其運(yùn)營技術(shù)與 NIM 微服務(wù)整合，用于車間 AI 工作負(fù)載，此外西門子還利用NIM為Machine Operators 構(gòu)建了一個(gè)本地部署版本的 Industrial Copilot。

另外，英偉達(dá)稱，數(shù)十家醫(yī)療公司正在一系列應(yīng)用中部署 NIM，以便在手術(shù)規(guī)劃、數(shù)字助手、藥物研發(fā)和臨床試驗(yàn)優(yōu)化等一系列應(yīng)用中為生成式 AI 推理提供動(dòng)力。而且，埃森哲、德勤、Infosys、Latentview、Quantiphi、SoftServe、塔塔咨詢服務(wù)(TCS)和威普羅(Wipro)已經(jīng)建立了 NIM 能力，以幫助全球企業(yè)快速開發(fā)和部署生產(chǎn)型 AI 策略技術(shù)。

黃仁勛曾表示，未來，每臺(tái)設(shè)備都將運(yùn)行 AI 軟件。因此，各個(gè)國家必須要做自己的主權(quán) AI，而當(dāng)前，企業(yè)以及制定主權(quán) AI 戰(zhàn)略的國家正希望創(chuàng)建具有特定領(lǐng)域知識(shí)的自定義大語言模型，以便生成式 AI 應(yīng)用能夠反映其獨(dú)特的業(yè)務(wù)或文化。因此，這些新服務(wù)的推出恰逢其時(shí)。

黃仁勛強(qiáng)調(diào)，英偉達(dá)用“加速計(jì)算”技術(shù)重新發(fā)明了計(jì)算機(jī)。在過去的8年里，英偉達(dá)提高了每個(gè)GPU芯片性能，AI 算力性能提高了1000倍。

“現(xiàn)在，你可以擁有一臺(tái)搭載GPU顯卡、速度快100倍、能效高20倍、成本低20倍的計(jì)算機(jī)，能夠解決復(fù)雜問題以及 AI 技術(shù)。”黃仁勛稱，“事實(shí)上，我創(chuàng)造了‘加速計(jì)算’這個(gè)詞。”

黃仁勛解釋說，機(jī)器人技術(shù)需要三臺(tái)計(jì)算機(jī)：一臺(tái)用于訓(xùn)練AI，一臺(tái)用于在精確的物理模擬環(huán)境中測試AI，另一臺(tái)則安裝在機(jī)器人內(nèi)部。

“幾乎每個(gè)行業(yè)都將受到這項(xiàng)技術(shù)的影響，無論是科學(xué)計(jì)算以更少的能源更好地預(yù)測天氣，還是與創(chuàng)作者合作生成圖像，或?yàn)楣I(yè)可視化創(chuàng)建虛以場景。生成式AI還將徹底改變機(jī)器人自動(dòng)駕駛汽車領(lǐng)域。”黃仁勛表示。

黃仁勛強(qiáng)調(diào)，未來，客戶服務(wù)這一職業(yè)仍將由人類主導(dǎo)，但會(huì)有AI參與其中。所有這些創(chuàng)新技術(shù)，就像任何新工具一樣，都有望增強(qiáng)人類的生產(chǎn)力和創(chuàng)造力。“想象一下，有了這些工具，你將能夠講述哪些新故事。”