蘋果Mac設(shè)備與英偉達(dá)顯卡的兼容問題長期困擾開發(fā)者。由于蘋果與英偉達(dá)多年前的合作中斷，macOS系統(tǒng)失去了對英偉達(dá)GPU的官方驅(qū)動支持，導(dǎo)致CUDA生態(tài)在該平臺上幾乎停滯，開發(fā)者不得不轉(zhuǎn)向蘋果自研的metal架構(gòu)。然而，這一局面近期出現(xiàn)突破性進(jìn)展。

開源社區(qū)傳來新消息：Tiny Corp發(fā)布的定制驅(qū)動通過雷靂5/USB4接口實(shí)現(xiàn)了外置顯卡與蘋果芯片Mac的直接通信。YouTube博主Alex Ziskind通過實(shí)測驗(yàn)證，將英偉達(dá)RTX 5090顯卡成功連接至Mac mini M4 Pro，并在macOS系統(tǒng)上運(yùn)行了Llama 3.1 8B大模型，實(shí)測性能達(dá)到7.48 Token/s。

這項(xiàng)技術(shù)突破的關(guān)鍵在于驅(qū)動架構(gòu)的創(chuàng)新。當(dāng)前版本依賴Tiny Grad編譯器進(jìn)行任務(wù)調(diào)度，雖未采用metal或CUDA的原生優(yōu)化，但仍展現(xiàn)出Blackwell架構(gòu)的獨(dú)特優(yōu)勢。測試數(shù)據(jù)顯示，RTX 5090的首Token響應(yīng)速度比metal原生方案快3-4倍，不過整體運(yùn)算效率因編譯器限制仍落后10倍左右。Alex Ziskind在演示視頻中特別指出，現(xiàn)有驅(qū)動尚未完全釋放顯卡性能潛力。

盡管當(dāng)前方案存在性能損耗，但這仍是蘋果生態(tài)中首個可直接運(yùn)行大模型的外接顯卡解決方案。相比傳統(tǒng)虛擬機(jī)方案，該技術(shù)通過硬件直連避免了性能折損，為Mac開發(fā)者提供了新的硬件加速途徑。業(yè)內(nèi)人士分析，隨著驅(qū)動持續(xù)優(yōu)化，未來可能縮小與metal原生方案的性能差距，但短期內(nèi)仍難以完全替代成熟的metal開發(fā)環(huán)境。