除了器件計算資源的靈活性,賽靈思的任意到任意 I/O 靈活性能夠確保器件可無縫集成到現(xiàn)有的基礎架構,例如直接連接到網(wǎng)絡或存儲設備,無需使用主機 CPU。I/O 靈活性還允許平臺針對基礎架構的變化或更新進行調整。
片上存儲器
如表 2 所示,賽靈思器件提供業(yè)界領先的靈活、高帶寬、低時延的 500Mb 片上存儲器.如此大的片上存儲器緩存意味著工作負載的很大一部分存儲器要求都能通過片上存儲器來滿足,從而減小外部存儲器訪問帶來的存儲器瓶頸問題,以及高存儲器帶寬解決方案(例如 HBM2)的功耗和成本問題。例如,針對大多數(shù)深度學習網(wǎng)絡技術(例如 GoogLeNet)的系數(shù)/特性圖都可存在片上存儲器中,以提高計算效率和降低成本。
表 2:器件片上存儲器大小
片上存儲能消除片外存儲器訪問引起的巨大時延問題,將系統(tǒng)的實時性能最大化。
封裝內的 HBM
針對需要高帶寬存儲器的情況,賽靈思在部分 Virtex UltraScale+ 器件中提供 HBM。除了封裝內 HBM 堆棧的 460GB/s 存儲器帶寬,賽靈思 HBM 存儲器控制器還增加更大的靈活性,以便將工作負載高效映射到器件和可用存儲器帶寬,將效率和計算效率最大化。