原文連結: COMPUTEX 2025 Keynote: MediaTek

開場致詞

各位女士先生,請歡迎 Titra 執行長 Simon Wong。

大家好,早安。很高興今天能在此與各位相見於 Computex。今天,作為 Computex 的主辦單位,我非常高興能歡迎晶片產業的全球巨擘 MediaTek。

他們去年首次在此發表主題演講,我們很興奮能再次邀請他們。MediaTek 支援著我們每天使用的眾多智慧裝置,從邊緣到雲端,像是手機、智慧家庭、汽車、資料中心等等。他們是全球領先的半導體公司之一。

更令人印象深刻的是,他們持續快速成長。領導 MediaTek 的是 Dr. Rick Thai,一位深思熟慮、高瞻遠矚的領導者,在全球科技領域擁有豐富經驗。在他的領導下,MediaTek 在 AI 和連接能力方面不斷突破界限,為每個人賦予一個互聯的智慧世界。

各位女士先生,請給予 MediaTek 副董事長暨執行長 Dr. Rick Thai 熱烈的歡迎。[鼓掌][音樂]

謝謝 Simon,非常感謝你溫暖的介紹。大家早安。非常高興在去年首次亮相後,今天再次來到這個舞台。在開始我的演講之前,我首先要感謝 Hydra Simon 董事長 James Hong 給予我們這個機會,今天與大家分享我們的故事。

我也要感謝所有媒體朋友和媒體團隊,是你們讓這次演講成為可能。沒有你們的努力,就沒有這次演講。我只是個傳話的。

而且,對於 MediaTek 的我們來說,非常重要的一點是,我們要感謝台灣的人民、社會、社群,多年來給予我們所有的支持,這樣我們才能在台灣不僅生存、茁壯,還能繁榮發展,並且我們也正在全球擴張。同時,我們也為台灣社會帶來好的工作、好的薪資。

在我們的業務範圍內,我們也為台灣社會帶來所有美好的事物,我對台灣的所有人民深表感謝。謝謝大家。

從邊緣到雲端的 AI 無所不在

好,看看我這裡有什麼。好的,我的主題是什麼?AI。嗯,AI,天啊。無論走到哪裡,都不能不聽到 AI。所以我也在這裡。AI 為每個人服務,從邊緣到雲端。

我想告訴大家 MediaTek 的故事。我想告訴大家我們為這個美麗的、智慧的、互聯的 AI 世界所擘劃的藍圖 (blueprint)。但最重要的是,我希望你們能聽到我們的故事。我們的故事。我敢說,我們是極少數幾家能夠說我們能將 AI 從邊緣帶到雲端,並且做得非常好的公司之一。

所以在這之前,我說我想講 MediaTek 的故事。MediaTek 的故事是什麼?MediaTek 成立於 28 年前,1997 年。我們從未停止過不懈地追求創新和技術領先地位。這家公司就是建立在持續不懈地追求這些目標上。一直以來都是。

但在這樣做的過程中,我們真正想做的是利用這些能力、技術和創新來提升人們的生活並豐富人們的生活。這是我們的使命。這是我們的董事長 MK,我們的創辦人所開創的。這始終是他的願景。我們在這裡,與你們一起,實現這個願景。

過去的足跡:產品與市場

那麼我們一直在做什麼?快速回顧我們 28 年來的歷程。有些人可能還記得我們的光碟機、我們的 DVD、我們的電視。有些人甚至可能還在使用許多這些產品。但如你們所知,當行動世界來臨時,我們積極地投入到手機領域,從 2G 到 3G 到 4G,一直處於領先地位。當然,現在是 5G SOC。四年前,在疫情期間,我們進入了旗艦級 SOC 行動 SOC。從那時起,我們取得了巨大成功。

此外,我們同時投入了大量精力,因為我們明白這是一個互聯的世界。所以我們希望成為所有連接解決方案的領導者,包括數據機 (modem)、Wi-Fi、藍牙 (Bluetooth)、GNSS,以及衛星等等。我們已經完成了所有這些。然後我們利用所有這些技術、IP 和能力,轉向運算領域,首先是 Chromebook,而且我們也

做了很多你們可能還不太了解的、無所不在的 IoT 裝置。兩年前,我們也正式進入了汽車領域。而現在,進入了 AI 時代。我將展示我們在 AI 領域正在做什麼,無論是從超級晶片 (super chip) 的角度,還是從特殊應用積體電路 (ASIC) 客製化晶片解決方案的角度。

MediaTek 製造很多晶片,正如你們在開場時所說的,如你們在開場影片中所看到的,很多晶片。

市場進入與成長

這些是一些範例:大市場包括智慧型手機、電視、Chromebook、智慧音箱。我們在此展示的橘色虛線代表 MediaTek 進入市場的時間,你們可以看到這些市場的爆炸性成長。隨著 MediaTek 進入這些市場,我們生產、我們創造了所有這些高性能、低功耗和無所不在的晶片,並以巨大的產量出貨,以便提升和豐富人們的生活。

簡單來說,我們在這些年裡出貨了超過 200 億個裝置晶片。這是一個簡單的數學,如果你用 70 億人來分,大約每人有 2.5 個裝置。我希望你們擁有更多,你們最好在這個新世界擁有 10 個、20 個或 30 個。好的。

但是,嘿,這是一些有趣的事情。一些有趣的事情。但這些是我們已經完成的技術、產品,而我們沒有忘記我們想做什麼來提升和豐富人們的生活。

豐富與提升人們的生活 (影片)

所以我想給你們看一個短片,這是我們在印度的員工團隊製作的。我想與你們分享一個來自印度中部 Ku Co 部落的故事,希望你們喜歡。

[音樂] 在印度心臟地帶,隱藏於 Satpura Hills 間,坐落著 Corko 部落。一個數代以來與自然和諧共處的社群。但這裡的日常生活伴隨著挑戰。孩子們首先承擔著。精神堅強,但未能倖免於困難。希望輕柔、悄悄地找到了方向。這次是透過螢幕的光芒,指尖的輕觸。從寂靜的火花,新世界開啟,夢想找到翅膀。在 MediaTek 賦能的教室裡,學習更貼近、更明亮。[歡呼] 耶!隨著每一個微笑和驚奇的火花,改變正在發生。堅實、穩定、勢不可擋。從線上教室到無現金交易,這些工具不僅僅是裝置。它們是生命線,通往更光明、更包容未來的入口。在 MediaTek 創新的賦能下,學習不再受舊有限制。它現在激發好奇心和快樂,塑造明日的創造者和變革者。在印度偏遠角落,夢想正藉由創新尋找新的道路,去想像、學習和表達。孩子們不僅改變自己的生活。他們提升家庭,轉變社群。因為當機會觸及每個人,改變不僅僅是可能。它是必然的。我們很榮幸能推動這份改變,共同提升和豐富生活。[音樂]

你們不喜歡那個笑容嗎?你們不喜歡那個笑容嗎?我在這裡有點緊張,但看到那個影片,我忍不住笑了起來。當我第一次看到那個影片時,我非常感動。我相信我們不僅僅是做這個偉大的例子,我們在世界各地都在做這樣的事情。

但我不僅感動,我還非常高興。我非常高興。我非常興奮並充滿活力,因為我真的相信,我們的同事們也如此認為,我們可以為人們做這些事情,豐富人們的生活,讓他們的未來更光明。我認為,這最終就是我們做這些事情的意義所在。我希望我們都能分享這份感受。我們都分享這份感受。

過去一年的成就

好吧,讓我們回到正軌。我認為這是去年的投影片,這就是我去年所說的四個支柱。重要的事情是,天啊,一年過得真快,已經五月了,五月下旬,第二季就要結束了,我很快又要準備我的財報會議了,那不有趣,但談論這些有趣

談論這些,以及我們在短短一年裡取得的成就,這很有趣。好的,在運算方面,我們繼續推出優秀而強大的 9400 9400 plus 旗艦 SOC 晶片。9400 當然是我們的第四代,我向你們保證,你們會看到 9500 9600 等等,每年都會像時鐘一樣出現,實際上是加速的時鐘,對吧 JC。而且,就在手機旁邊的是精彩的 GGX Spark,昨天 Jensen,你們中的一些人或許多人可能已經在他的精彩主題演講中看到過了,那個精彩的盒子,可能幾乎是等比例的。

在最尖端的 AI 加速器技術方面,我們現在已經具備經過晶圓驗證的 224G SerDes,這是最先進的技術,我們正邁向下一代。我們正邁向 2.5D 到 3D 封裝,所有你們多次聽過的 CoWoS 技術,與我們的合作夥伴 TSMC 緊密合作。我們有非常緊密的合作,我們稱之為設計技術協同優化 (Design Technology Co-Optimization) 和系統技術協同優化 (System Technology Co-Optimization),與 TSMC 的朋友們一起工作。

現在無線連接方面 RDNA RDNA。我們當然有 M90 數據機、衛星通訊,以及我們稱之為 RedCap 的技術,它是 reduced capacity modem,一種 5G 數據機,這意味著它是一種低功耗、低成本、無所不在的數據機能力,例如用於 IoT 裝置和許多其他穿戴式裝置。

最後,但非常重要的是,我們繼續與我們的生態系合作夥伴緊密合作,包括 TSMC、Nvidia、Android、ARM。我看到 Will 在這裡。謝謝 Will。我看到 Synopsis。我看到 Cadence。我非常感謝我們的生態系合作夥伴給予的所有合作與支持。

加速 AI 創新:從邊緣到雲端

現在,這是我們已經完成的工作。現在讓我談談我們正在做和將持續做的工作。AI,我們正在加速 AI 創新,從邊緣到雲端。你們會聽到關於我們手機、Chromebook、IoT、汽車、超級電腦和 ASIC 的內容,所以基本上是為每個人提供的 AI。我想接下來應該有一個影片。好的。

技術基石:晶片與連接能力

在影片開始之前,我想說,嘿,再次強調 AI,特別是現在的生成式 AI (agentic AI)。我不知道你們怎麼樣,我大部分時間都會感到困惑。所以我說,嘿,讓我們做一些事情,讓我們拍一個影片來向人們展示它們如何在你們的生活中真正發揮作用。

所以讓我們看看。哦,所以我們有這個東西先。這是 David 的聲音。好的。好的。好的。讓我看看。好的。倒帶。倒帶到我需要先講 Kevin 的部分。

技術。技術。技術。記得 CPU、GPU、MPU。當然,我們與 TSMC 緊密合作。我們也在自己的架構上工作,並與 ARM 以及所有那些人一起在核心架構上工作。都是偉大的合作夥伴。

所以,CPU 效能提升了 3.1 倍,GPU 提升了 7.4 倍,而 MPU 驚人地提升了 29 倍。MPU 當然是 AI 運算的骨幹,這些主要發生在行動裝置領域,但你們也知道,當你們在行動裝置上玩遊戲時,你們不想感覺被燙到。所以電源效率,或說電源效率的提升,是我們技術的另一個目標。我們為遊戲用戶減少了 65% 的系統功耗,而對於更一般的使用者,則減少了 26%。

但同樣重要且更重要的是,我們現在正邁向 2 奈米。我們正在進入 2 奈米。我們將於今年九月投片 (tape out) 我們的第一個 2 奈米晶片。當然,這是一個高產量晶片。這是一個高產量晶片。你們大概可以猜到是什麼,但我不能宣布,JC 在這裡。但我們肯定會走這條路。對於長期而言,2 奈米,對嗎?是 A14 嗎?是 A16 A14 以及之後的任何東西,MediaTek 都在其中。

但除此之外,這些是運算和其他東西。連接能力,數據機,隨著世界逐漸進入 6G 時代。我向你們保證,6G 技術將伴隨 AI 輔助能力而來,而 MediaTek 將處於絕佳位置,可以利用 AI 能力向世界推出 6G 功能。

我的下一張投影片是什麼?哦,這就是我剛才向你們承諾的影片。

AI 代理人應用情境 (影片)

早安。今天的會議提前了一小時。你常去的咖啡館在早上 8 點非常受歡迎。你現在想預訂嗎?好的,現在預訂。

[音樂]

你預定在 5 分鐘後有一個會議。需要我協助你任何事情嗎?我有一個全球電話會議即將開始。請協助即時語音翻譯和會議記錄。好的。我們進入會議室嗎?好的。AI 即時翻譯現已啟動。

大家好。讓我介紹我的新專案。

[音樂]

我已開啟座椅通風和空調。23°C 對你來說舒適嗎?太棒了。你今天換了個新造型。你是要去 Pink Star 見 Nancy 嗎?是的。你很聰明。準備出發了嗎?最佳路線需要 20 分鐘。我們走吧。

右邊這棟建築好特別。它是什麼?這是 Pink Star。我第一次來這裡。是什麼讓它如此特別?讓我查一下。Pink Star 是一個結合文化、藝術和時尚的創意空間。它提供了一個創意展覽環境,吸引了許多全球藝術家和創作者定期展示他們的作品。

一個包裹已送達你的家門口。是什麼包裹?

[音樂]

根據最近的購買記錄,你的妻子向一家美妝店訂購了一些護膚產品。目前的室外溫度是 32°C,包裹內含對熱敏感的物品。我建議你立即去領取。好的,我現在就去拿。你有一個包裹。

這個包包對我來說太完美了。這是包包的購買連結,你可以在這裡查看更多細節。你想下訂單嗎?請下訂單。

偵測到孩子已睡著。正在調暗燈光並調整空調至舒適溫度。

[音樂]

AI 代理人:讓生活更美好

好的。這是一個在某些部分已經存在,而在某些部分即將到來的世界。我不知道你們怎麼樣,但我必須說影片中的這位先生表現得非常得體。他不僅拿起了對溫度敏感的包裹,可能是為他妻子準備的許多化妝品,他還笑著聽從他妻子的話,訂購了那個漂亮的包包。我當時想,嗯,我會怎麼回應?當然,會好好回應,非常樂意地。

但嘿,這是一個很棒的影片,主要原因是我認為它現在告訴我們 AI,生成式 AI 如何幫助你,如何讓你的生活更美好、更舒適、更容易、更安全。你的家人。我認為這是,那是其中一個部分,我,我喜歡,再次強調生活,你的日常生活。

但說了這麼多,我也明白 MediaTek 可以提供硬體、晶片,我們與我們的裝置客戶合作,讓所有這些能力在家裡、在汽車裡、在辦公室等等地方都能使用。但如果沒有模型,AI 模型,這些東西就毫無用處。所以我非常高興地報告,MediaTek 多年來一直在與我們的全球 AI 開發者社群合作。

我們現在在我們的邊緣平台上有超過 540 個 AI 模型,從手機一直到汽車。僅就手機而言,就有 240 個模型,包括流行的和熟悉的,如 Geminis、Llamas、DeepSeek、Qwen,它們在我們的 9400 9400 plus 晶片上得到了支援,並且為你現在的手機提供了許多使用場景。此外,例如對於 IoT 平台,我們透過與 Nvidia 的 Tao 平台合作,擁有超過 100 個模型。

邊緣 AI:智慧型手機

因此,我想談談我們的一些個別晶片。首先當然是我們的 Dimensity 9400 9400 plus,這是一款用於邊緣 AI 的強大晶片。正如我剛才所說,我們在四年前,也就是疫情期間,開始了這項工作。在最糟糕的時候是投資的最佳時機,我們的出貨量在短短時間內增長了 350%。去年,我們為我們的股東創造了超過 20 億美元的營收。對我們的股東而言,這是一個巨大的成功。

讓我展示一下這款手機使用生成式 AI 功能的一些能力。看看。抱歉。AI 不僅僅是大型語言模型 (LLM)。這是一種由 MediaTek 研發團隊開發的計算攝影演算法 (computational photography algorithm)。然而,在其內部實現了生成式 AI 技術,這意味著什麼呢?這隻可愛的壁虎,這隻非常小的壁虎。照片是在大約 20 公尺外拍攝的。這隻壁虎大約只有三公分。三公分大概這麼大。好的。20 公尺大約是從舞台到牆邊的距離。

這張照片是由一款優秀的手機 Vivo X200 Pro 拍攝的。你們看在這麼大的螢幕上,圖片多麼清晰,多麼銳利,與我們競爭對手的某款手機相比。我相信這隻壁虎一定對自己非常滿意。

邊緣 AI:深度推理能力

太棒了。我想感謝 Kevin。

但現在是代理人 (agents),AI 代理人,這確實是最熱門的話題,還有深度推理 (deep reasoning) 能力。嗯,自從中國的 DeepSeek 在大約六個月前宣布他們的成就後,我們可以說這已經成為一種現象。但當然,深度推理模型的工作不是一天兩天的事情,也不是一年兩年的事情,它已經持續了一段時間。但現在隨著 AI 的持續改進,深度推理模型技術變得越來越重要。

在 MediaTek,我們在我們的行動裝置中內建了推理模型,例如來自 Microsoft 的 Phi-3 mini,大小為 38 億個參數。嗯,另一個名稱太難發音了。你可以自己讀或者拍照。但重要的是,深度推理能力已經內建在我們的 9400 plus 晶片中。當然,我們將隨著時間的推移繼續成長和改進。

所有這些事情只有透過它們才能實現你們剛才在影片中看到的。AI 代理人能為你做什麼。你可以擁有什麼樣的直覺式、自然的體驗,當然不僅僅是你的手機,將來在你的汽車、你的客廳、你的臥室等等。

我認為硬體改進、演算法模型開發者、整個生態系合作的結合,這就是 MediaTek 以善於做的而聞名的地方,而且我們做得非常好。

邊緣 AI:Chromebook

現在轉到其他裝置。Chromebook,它實際上是一台 AIPC。我們當然與 Google 合作了很長時間。現在我們正邁向真正的高端、領先的 Chromebook。這款晶片採用 TSMC 3 奈米製程製造。它提供 50 TOPS 的 AI 運算能力,電池續航時間長達 20 小時。我認為這些當然可以用在你的專業生活中,但更重要的是,我們預期許多這類 Chromebook 將被世界各地的孩子們、學童用於支持他們未來的成長。

邊緣 AI:物聯網 (IoT)

然後是 IoT,我們以前沒有談論太多,但 MediaTek 在這方面已經有好幾年了。我們最新的 Genius 720 晶片,IoT 裝置並非總是握在你的手中。它可以,它可以... 它無所不在地存在於你的個人生活中,例如許多運動器材、裝置都配備了具有 AI 功能的 IoT。在你的企業中,許多人,嗯,我們支援了許多智慧 POS (Point of Service),在超市或我最喜歡的 Costco 裡銷售點。而且,在工業領域。我們現在正與機器人製造商合作,使用我們的 IoT 晶片來應用於飯店服務。

邊緣 AI:汽車

所有這些都在邊緣裝置上。這些是小型的邊緣裝置。現在讓我們轉向大型的。汽車邊緣,它是一種邊緣裝置,但非常大。非常大。MediaTek 再次於兩年前宣布了我們與 Nvidia 的合作夥伴關係。我們開發了一款超級駕駛艙晶片 (super cockpit chip)。這款晶片我們稱之為 CX1。它可以從主流到旗艦級。它真的非常強大。它擁有 MediaTek 自製的強大 CPU。它擁有最先進的 Nvidia RTX 顯示晶片 (chiplet) 以及 GPU 和 MPU 雙重 AI 加速功能。這款 SOC 真正能賦予力量。它確實是為未來而生。

但它是真實存在的。我們有晶片 (silicon)。晶片正在我們的一個客戶那裡進行設計導入 (design in),並且很快就會在真正的汽車中運作。非常快。我對與 Nvidia 共同完成的這項工作感到非常高興,非常自豪。

他們做什麼呢?我認為在汽車領域,這基本上就是我們在影片中展示的內容。讓我們來看看影片。它可以管理 12 個攝影機、多個螢幕、音響、出色的音響系統、影片系統,所有這些東西。總之,我認為這款晶片為汽車中的駕駛員和家人提供了安全的駕駛體驗,愉快的駕駛體驗。你可以透過生成式 AI 了解你周圍的環境,你可以在後座玩遊戲,享受沉浸式的音響系統,這樣在你開車時就不會被你的孩子打擾。我的意思是,也許是你的配偶,我不知道,但它的概念基本上是將汽車視為你家的延伸,或者有了沉浸式的音響系統,聽起來甚至比你的客廳更好。

雲端 AI

現在,談完所有邊緣裝置的討論和介紹後,我想轉向雲端的 AI。這是 MediaTek 在這兩三年裡真正努力推動的領域,非常努力。為此,我們有兩個方面。一方面是客製化晶片,我們稱之為 ASIC AI 晶片,主要用於資料中心客戶的加速器。另一方面就是我剛才說的,我們與 Nvidia 共同開發的超級晶片。當然,它是 Nvidia 的 DGX Spark 產品。

雲端 AI:特殊應用積體電路 (ASIC)

讓我先談談我們的 ASIC 歷程。人們會問,因為通常當你談論 AI 資料中心晶片時,它是一個非常大的裝置。人們很多時候會疑惑,嗯,MediaTek 能做到嗎?你以消費性電子公司而聞名。我想先說,是的,我們可以。我們有這方面的往績記錄 (track record)。

我們這裡有四種不同尺寸的晶片,從手機晶片到汽車晶片,再到兩個大型網路晶片。其中一個嵌入了 HBM,它是一種晶片組合架構 (chiplet architecture),我忘了是 85 對 85。哈。好的。這就是你需要你的員工在這裡的原因。91 對 91。嘿,一個大家伙,已經量產超過一年了。

所以這就是我們,這當然也為我們進入 AI ASIC 世界奠定了基礎。

AI 加速器的技術挑戰與解決方案

好的,讓我進入一些相當困難的部分。這種計算複雜性 (computational complexity) 正以指數級增長,我們每年都在進步。這當然是一個通用的架構,就像許多 AI 加速器一樣。所以它是一個通用的架構。我們用它來做說明。你可以看到,根據你的架構設計,可能有也許一個,也許兩個,也許三個計算晶粒 (compute die),然後你有 IO 晶粒 (IO die),然後側面有 HBM,上下左右有很多很多的 IO。所以這是一個非常非常複雜的晶片。當然,它是許多晶粒組合在一起的。這是一個巨大的晶片,有很多晶粒。運算晶粒現在是 3 奈米,明年很快就會是 2 奈米或更高。互連 (interconnect),正如我所說的,現在是 224G,並且很快會邁向 448G。由於頻寬需求,電轉光互連 (electrical to optical interconnect) 封裝是關鍵之一。封裝是 AI 加速器的主要發展方向之一。封裝與製程節點 (process node) 同樣重要。2.5D 是必需的。然後我們需要邁向 3D 和 3.5D。所以晶圓尺寸 (radical size) 會是 3 倍,甚至會是多個多個倍的晶圓尺寸。

記憶體,或者你們,你們看到記憶體公司的版圖 (landscape) 因為 HBM 而發生了巨大變化。現在主要是三家,很快明年就會有 HBM 4 和 4E,以及來自資料中心客戶、使用者的客製化需求,他們想要更低的功耗、更高的效能、更好的總體擁有成本 (TCO)。所以這種複雜性對任何晶片公司都帶來了巨大的挑戰。MediaTek 就是其中之一。

MediaTek 的 ASIC 策略

那麼我們正在做什麼?我認為我去年也說過類似的話。技術領導地位,我們在 IP 組合上投入了大量資金。我們與生態系合作夥伴密切合作,而且我們與資料中心客戶有著非常具策略性的合作模式。策略性。為什麼?因為我們不僅能夠提供技術、IP 或架構設計,我們可以一起改善 TCO,而且我們在與客戶的合作方式上非常靈活。我們可以經歷不同技術的循環。對我們來說,最主要的是讓我們的客戶能夠以非常快的上市速度推出世界領先的 AI 加速器。

技術部分,先進製程節點 (advanced node),我想我已經說過好幾次了,你們知道,5、7、6、5、4、3、1.4 等等。我們做得很好。晶粒密度 (Diva density) 都非常出色。我們非常感謝 TSMC 的夥伴和我們的研發技術團隊。

封裝 (Packaging)。我們與 TSMC 在 CoWoS S、CoWoS R、CoWoS L 等技術上有著非常緊密的關係,從 3 倍晶圓尺寸到多個多個倍的晶圓尺寸,以及 2.5D 到堆疊。

這對我們來說是新的東西——整合電源傳輸 (integrated power delivery)。電源當然是最重要的因素,在許多情況下也是資料中心業務的限制因素。現在我們談論的是每個晶片可以消耗 1000 瓦甚至更多,甚至幾千瓦。而晶片內或基板上的整合電源傳輸變得勢在必行。MediaTek 正在這方面進行投資。

最後,非常重要的是,抱歉觸碰太快了,CPO (Co-packaged optics)。我們這裡也談到了。這是 IP。所以如果你回想起那個巨大的晶片,這個巨大的晶片,以及在 2 奈米製程中的運算,這種計算複雜性確實對這裡的一切的頻寬和功耗帶來了巨大的負擔。所以 IO,互連 IP,極其重要,極其重要。

如果你回想一下,我知道很難回想起來,但那個巨大的,那個巨大的佈局,首先,它是一種晶粒間互連 (die-to-die interconnect),MediaTek 擁有自己的專有高速低功耗 MLink IP,但我們也設計和支援業界標準的 UCIe。所以客戶可以有他們的選擇。他們可以選擇標準,或者他們可以使用來自 MediaTek 的專有更快的 IP。

然後是晶片與晶片之間的連接,我的意思是,在主板上,你有加速器,你有 CPU,你有 DPU 等等,等等,以及從晶片到晶片之間的連接,那是 SerDes 和 PCIe。MediaTek,正如我所說的,224G 已驗證,我們正在邁向 448G,PCIe 也是如此,從 Gen 6 到 Gen 7。

然後在機架內,你知道,從板到板或從機架到機架,透過乙太網的連接。有一些業界標準的 UAL 和 UEC,MediaTek 當然正在積極參與這些 IP 的開發。我們基本上想要,並且正在透過我們的 IP 投資和我們的 IP 組合來賦能我們的資料中心客戶或潛在客戶。

最後,記憶體。另一個限制因素。四個 HBM 4 4E,基於客製化晶圓堆疊。這些是業界最熱門的主題之一。客戶、記憶體供應商、晶圓廠供應商、MediaTek 都參與其中。這不僅從技術角度來看非常複雜,而且從生態系合作的角度來看也非常複雜。有很多參與者,你需要,這就是我所說的關於策略性合作模式的能力,你還需要那種工作關係,那種信任關係才能讓這件事情順利進行,希望是無縫的。

另一種生態系合作和合作模式,這也是 Jensen 昨天在他演講中宣布的內容。他正在啟動 MVLink Fusion ASIC 模型。MediaTek 非常非常非常高興能成為 Nvidia 在這個模式中的早期合作夥伴之一。再次強調,我們正在與 Nvidia 非常緊密地合作。我們希望能夠提供 MediaTek 設計的 ASIC,也許與 Nvidia 的 MVLink 晶片組合在一起,這樣我們就能為客戶提供差異化的解決方案。更低的 TCO,有時甚至更重要的是更快的上市時間。這是一個新的模式。這是一個新的模式,但這是一個非常引人入勝、令人興奮的新模式。

與 NVIDIA 合作:DGX Spark 超級電腦

好的,我們把最好的留到最後了,我不知道是不是這樣。我們有很多最好的東西,但這肯定是最好的之一。Jensen 的 DGX Spark 是一個用於雲端開發者的 AI 超級電腦,這讓我感到驚訝。他昨天說得很清楚,非常清楚。我忘了錢的部分。他沒有說錢。他說他很快就會出貨。你可以在聖誕節前買到一個,對吧?他是這麼說的。

但是,嘿,我們在這裡做什麼?MediaTek 與 Nvidia 共同設計了一顆 CPU,一顆 20 核心的 ARM CPU。Will 看到這個了嗎?Will,你得對我們好一點。10 個 Cortex X925 核心和 10 個 Cortex A725 核心。它運行在 3.9 GHz,4 GHz,或者隨便什麼速度。但是這是一顆出色的 CPU 晶片。當然,我們還有出色的 Nvidia Blackwell EPU。這整個系統可以達到一千兆次 AI 運算 (thousand LLM AI tops),一個 Petalflop。這確實是一台超級電腦。

我們為能成為其中一部分感到如此自豪,如此高興。我們真的,我們真的非常感謝 Jensen 和 Nvidia 團隊。

我想分享一個短片。我們稱之為 DGX Spark。DGX Spark。你們會感到驚訝。20 個 CPU 核心。我們與 MediaTek 合作為我們打造了這個。他們做得非常棒。與 Rick Thai 和 MediaTek 團隊合作是一件非常愉快的事。我非常感謝他們的合作。

他們為我們打造了一個晶片對晶片 (chip-to-chip) 的 MVLink CPU 到 GPU 連接。我永遠無法說得比 Jensen 快。所以,順帶一提,這是他在三月份聖荷西的 GTC 大會上發布的短片。我當然無法說得比 Jensen 快。

與 Jensen Huang 的對談

那麼,不如我們歡迎 Jensen 來到這裡的舞台上。[鼓掌]

嘿。

嘿 Rick。

嘿 JC。見到你。

不,真正的明星在這裡。

別開玩笑了。

嗯,Jensen,我跟你說,首先,我非常感謝我們在這裡的所有合作,包括汽車、IoT、超級電腦、雲端 ASIC。我也非常喜歡你三月份和昨天的演講,而且它們非常不同,你知道嗎?它們都非常非常有力量,而且如此沒有排練感。我想這就是他想說的。

不,不,不,不,不。我的意思是,你永遠無法打敗他。但是,我的意思是,它們總是很震撼我。我一直告訴我的人,我不知道你是如何在一年內處理這麼多事情的。你有這麼多新的東西。這麼多產品、硬體、軟體、子系統,這很容易。

哦不。

告訴我們,告訴我們,你只需要告訴人們你想要什麼,然後它就實現了。我想我們有 Nvidia 的人在這裡,對嗎?嘿,你們在哪裡?

我不需要自己做。我只需要它被完成。我們的人明白這一點嗎?

嗯,Rick,你知道,聽著,我愛我們的合作夥伴關係。事實是,我敢說在座的大部分人不知道 MediaTek 在 AI 基礎設施方面的規模。原因是因為他們正在進行先進的 AI 研究,開發 AI 模型,創造所有這些你可以在消費性電子產品、家庭電子產品中使用的驚人技術,你知道嗎?所有這些家庭影院技術、超級解析度技術,以及你汽車的音響技術,你正在把汽車變成一個家庭影院。所以這是第一點,就是我們一起做的所有 AI 工作,以及你所做的投資,你對 AI 基礎設施的奉獻。MediaTek 有許多偉大的 AI 研究人員。你知道的,對吧?

好的。在那邊。

是的。沒錯。這是第一點。第二點,我們在汽車產業中一起做的工作。我對此非常高興。我真的希望你為世界各地的家庭影院提供的那些令人難以置信的多媒體技術也能進入汽車。

然後我們在當然,我們稱之為革命性產品 DGX Spark。現在 CPU 和 GPU 都是最先進的,但令人驚訝的是,你看到了,它們透過這個 MVLink 連接在一起。事實上,那個專案啟發了我們去思考 MVLink Fusion。事實是,我們能夠合作創造這顆晶片,而且這顆晶片是最先進的。它第一天就啟動運行了。它正在以全速運行。效能令人難以置信,你知道,當我們進入生產時,那將是一個奇蹟。人們會對它能做什麼感到震驚。

現在記住,這個東西可以運行一個 2 億參數的模型,2 億個參數。如果你將兩個 DGX Spark 連接在一起,就是 4 億,因為它是乘以二。這太令人難以置信了。所以,所以我認為,那個...那個重要的想法是這樣:看,個人電腦在這裡。行動裝置在這裡。我們已經有我們的個人裝置了。但在 AI 原生應用程式的世界裡,享受 AI 的唯一方法是連接到雲端。沒有辦法擁有豐富的 AI,你知道,2 億參數的 AI,相當重要的語言模型、生成模型。唯一的辦法是在雲端。

所以我們決定應該為 AI 為先的世界建造一個個人裝置,一台個人電腦。這就是 DGX Spark。如果你是一名開發者,它連接到你的方式就像你連接到雲端一樣。當你完成開發後,你可以託管它,你知道,你的所有應用程式就像那樣,好像它就在雲端一樣。所以每個 AI 開發者都會想要一個這樣的裝置。每個學生、研究員,全世界有 3000 萬。我們將高產量生產 DGX Spark,這也是為什麼我們需要這麼多合作夥伴的原因。我們讓這麼多人為它興奮,所以全世界的 OEM 都將成為分銷管道的一部分。他們都將推出差異化的版本,將其推向市場。所以我們有 DGX Spark。

但想法,重要的想法是 Envying Fusion。你知道,AI 是一種非常不同的計算模型,而超大規模 (hyperscale) 是少數應用程式在一台電腦的一個 CPU 上的虛擬化環境 (virtualizer) 上運行,在虛擬機器管理程式 (hypervisor) 上運行。但在 AI 的世界裡,它是許多電腦一起工作來生成、推理、思考、回答你的查詢。所以所有這些電腦都以一種聰明快速的方式一起工作來回應。同時,你不是那個雲端的唯一客戶。所以一大堆其他客戶也在使用同一台電腦。所以注意區別是它不僅僅是虛擬化一台電腦,它真的是關於共享一個分散式高效能運算 AI 超級電腦。

所以運算模型是不同的。我們發明了這種結構,叫做 MVLink,可以連接到 Infiniband 或者連接到 Spectrum X,這樣我們就可以將電腦擴大 (scale up),使其變大,並將電腦擴展 (scale out) 以進行分散式運算。所以這種結構是 Nvidia AI 領導地位的基礎。這就是我們從一個處理器公司轉變為一個 AI 基礎設施公司或 AI 資料中心公司的方式。所以這個價值,這種令人難以置信的能力,是使得我們能夠做到我們所做的事情的原因。

那麼,我們決定做的是開放這個基礎設施。所以你可以使用一個我們一起合作的晶片對晶片 (chip-to-chip) 晶片組合 (chiplet) 來連接到 Nvidia 的規模擴大 MVLink、規模擴展 Spectrum X 和規模擴展 Infiniband。所以無論你決定連接一個 CPU 到它,或者決定連接一個 ASIC 到它,你現在都可以將你的智慧財產、你的差異化連接到我們的結構中。所以無論是從客戶的角度,他們現在可以獲得這種令人難以置信的技術的好處;還是從我們的角度,我們的生態系可以與任何人的生態系連接。所以這對每個人都是雙贏的。

總之,這就是重要的想法,而且每個人都很驚訝 Nvidia 會向所有人開放這個智慧財產,這說明了它有多麼令人難以置信地寶貴。這是第五代 NVLink,NVLink 不僅僅是以太網加上輕量協議。好的,NVLink 是終極的計算結構。

這就是為什麼我們非常興奮,而且因為我們現在真的有很強的合作關係。你可能不知道 Jensen,我們的工程師們真的很享受與你的人合作,儘管有挑戰,而且我的意思是,開發那顆 CPU 是一件困難的事情,但他們真的很享受與你的人合作。他們享受開放的溝通。

是啊。

是啊。

我必須說這個。我的意思是,你們都知道的,對吧?因為我們真的很好。

聽著,你要確保告訴你的工程師。好的。

不,他們不好。我很好。我只是...

不,我是認真的。聽著,這件事,這件真正重要的事情是,我們從一個電腦公司轉變了。我們現在一起做的事情是為整個地球建立 AI 基礎設施。每個公司都將擁有 AI 工廠。當然,你也有一個。每個產業都將擁有 AI 基礎設施。全世界都將有 AI 基礎設施。這是一個如此龐大的倡議,而且你已經開始建立客製化 ASIC,而且我認為,順帶一提,MediaTek 在合作方面非常厲害。事實是,我們將這兩個晶片放在一起。事實上,任何一個晶片單獨運作都是一個奇蹟。將它們組合在一起,你知道,當你有 10% 的工作概率加上 7%。我的是 10%,你的是 7%。你將這兩個放在一起。我只是開玩笑。

所以,總之,當你拿兩個複雜的東西並把它們放在一起時,它能正常工作的可能性非常小。然而,介面是,對嗎?它是最先進的。好的。所以,所以,所以,你們所擁有的 IP,所有的 SerDes,所有的設計方法論,記住,這兩個晶片第一次就成功了。這兩個晶片第一次就成功了,在兩個不同的公司製造,融合在一起,而不是通過 PCI Express 連接,而是融合在一個共同的封裝中。除了你們,它正常工作的機率是 0%。我只是不想在開始時大聲說出來,直到我被證明是錯的。但是,總之,這兩個工程團隊真的很喜歡一起工作,因為他們都非常優秀。

所以,我喜歡你正在為全球的超大規模資料中心建立半客製化 (semi-custom) 的加速器。我們正在一起做的事情,除了這些之外,本質上我們正在建立半客製化的 AI 基礎設施。所以現在在整個資料中心的規模上,我們有一個結構,這個 MVLink 和 Spectrum X,MVLink 和 Quantum,無論你選擇哪一個。但是你擁有這個 MVLink 結構,你現在可以將我們的 GPU 插進去,你的 CPU 插進去,他們的 ASIC 插進去,我的 CPU 插進去,我們可以創造一個本質上是半客製化的基礎設施。然後我們,你知道,下一步就是用它覆蓋整個地球。

Vans,聽到了嗎?就這麼容易。

讓我看看。現在我至少可以借用你一半的話了。這個人是 AI 基礎設施專家。記得昨天嗎?我是個建築工人。是的,我們是半基礎設施專家。[笑聲]

很高興再次在這裡見到你,Jensen。我非常感謝你的支持和幫助。我熱愛我們的合作夥伴關係,對我們的公司,對我們的人民,工程師們。他們都喜歡。謝謝你。而且,非常感謝你。我從我二十多歲就開始和 Rick 合作了。真的嗎?我當時多大了?或者我當時多年輕?不,其實離得很近。我從三十多歲就開始和 Rick 合作了。是的。是的。我的三十出頭。是的。

這是一個美好的回憶,也是一個我個人曾經觀看和欣賞的偉大成就。謝謝你。當我開始和 Rick 合作時,他比我現在年輕。[鼓掌]

好吧,我把這當作讚美收下了。好的。

台灣夜市的禮物

所以,為了回報你的讚美,我今天為你準備了一些東西,Jensen。

現在回想一下,三月份 GTC 的時候,你用一份來自 Denny's 的美味豐富的煎餅加香腸款待了我,記得嗎?

是的。

那是我...我的專長。

是的。他的專長。他穿著 Denny's 的紅色圍裙出來。我不知道他為誰工作,但就是 Denny's。我大咬了一口。我很享受,但我沒有咬第二口,因為其他人都只是把它放在那裡。我想表現我的沉穩,而不是一口氣吃掉整個東西。所以,但它很棒。很棒。但我今天確實為你準備了一些東西。

我們都知道 Jensen 在台灣最喜歡什麼。夜市。除了生意之外,最好的之一就是夜市,對吧?你最喜歡的,我想是那位水果攤的老闆娘。她今天的新鮮水果。

不可能!

我有番茄。

太棒了!

我有綠芒果。

哇。

哇。這些都是我最喜歡的。

而且我有芭樂。

天啊。全部都是原始包裝。好的。你們可以看到這是我們台灣夜市的包裝。沒有重新包裝過。當然除了...哇。

所以,Jensen,我想把這個送給你。

你讓我這麼興奮。我以為我要得到一瓶好威士忌之類的。

我需要申請那個預算。

但我認為,謝謝這個。嘿,這真是...謝謝你。太棒了。

這是寶藏。謝謝你。我想我們需要拍張照。這是,這是真正的寶藏。等一下。讓我拿出來。這個綠芒果太好吃了。你們這裡有西方人嗎?我覺得這是寶藏。這是黃金。

是的,她很棒。如果你不...

是啊。去看看她。她叫水果老闆娘 (Fruit Lady)。大家,大家都叫她水果老闆娘。現在她顯然已經變得非常有明星氣質了。

是啊。

除了賦能 AI 基礎設施這個大家伙之外,Jensen 還賦能了許多小生意,比如你剛才談到的餐館老闆娘,鮮花。

鮮花。

他拿不到...他拿不到定位,因為都被我們當地的買家訂滿了。對。

那是真的。

所以我只是沒訂位就去了。所有的客人都非常友善。他們重新安排了自己的座位,讓我可以坐下來。他們每個人都和你合影。我跟每個人都合影了。

這就是真誠。Jensen,我...哦,我沒說過,但我想公開說。我非常感謝...

別讓我難為情。

是啊,真誠。我的意思是,真誠。當你自己說出那個詞時,還有親切感。每個人,嗯,今天不是,現在不是。好的。但當你在街上看到他時,可以拍照。

再次,非常感謝。我希望,希望你今天喜歡 MediaTek 的故事,也喜歡 Jensen 在這裡。他很棒。謝謝你。對我們有很大的幫助。謝謝你。

我想感謝 MediaTek 和你們所有的工程師、管理團隊。你們真的是一家真正世界級的公司,擁有技術,擁有合作精神,以及那種「做得到」的態度。而且坦白說,你們第一次就做得很好。這些都是真正世界級的事情。

太棒了。

我們會做得更好。謝謝你。

謝謝你。

謝謝你,Rick。