證明生成的過(guò)程中，約有60%的時(shí)間花在MSM上，其余時(shí)間由NTT/FTT主導(dǎo)。MSM和NTT都存在性能挑戰(zhàn)，通常的解決辦法：

●MSM可以在多線程上執(zhí)行，從而支持并行處理。然而，當(dāng)處理大型數(shù)據(jù)向量時(shí)，例如6700萬(wàn)個(gè)參數(shù)，乘法運(yùn)算可能仍然很慢，并且需要大量的內(nèi)存資源。此外，MSM存在可擴(kuò)展性方面的挑戰(zhàn)，即使在廣泛并行化的情況下也可能保持緩慢。

綜上來(lái)看，內(nèi)存和帶寬是限制證明生成的主要瓶頸。對(duì)于顯卡來(lái)說(shuō)，這里的內(nèi)存指的是顯存，并不是主板上的內(nèi)存，主板上的內(nèi)存主要是參與CPU的計(jì)算。當(dāng)然目前有些芯片技術(shù)可以打通主板上的內(nèi)存和顯存，讓內(nèi)存為顯存計(jì)算來(lái)用。

芯片的硬件指的是運(yùn)行指令的物理平臺(tái)，包括處理器、內(nèi)存、存儲(chǔ)設(shè)備等等。芯片數(shù)據(jù)中常出現(xiàn)的“晶體管數(shù)量”、“7nm制程”、“存儲(chǔ)”等，往往指的就是硬件參數(shù)。

軟件則包括固件、驅(qū)動(dòng)程序、操作系統(tǒng)、應(yīng)用程序、算子、編譯器和開發(fā)工具、模型優(yōu)化和部署工具、應(yīng)用生態(tài)等等。這些軟件指導(dǎo)硬件如何響應(yīng)用戶指令、處理數(shù)據(jù)和任務(wù)，同時(shí)通過(guò)特定的算法和策略優(yōu)化硬件資源的使用。芯片數(shù)據(jù)中常出現(xiàn)的“x86指令集”、“深度學(xué)習(xí)算子”、“CUDA平臺(tái)”等，往往指的就是芯片軟件。

早在2021年，英偉達(dá)就曾公開表示過(guò)“禁止使用轉(zhuǎn)換層在其他硬件平臺(tái)上運(yùn)行基于CUDA的軟件”，2024年3月，英偉達(dá)更是將其升級(jí)為“CUDA禁令”，直接添加在了CUDA的終用戶許可協(xié)議中，已禁止用轉(zhuǎn)譯層在其他GPU上運(yùn)行CUDA軟件