在考慮GPU服務器的性能時，應該關注以下關鍵指標：

1、FLOPS（每秒浮點運算次數）：衡量GPU硬件計算能力的指標，表示GPU每秒能進行的浮點運算次數。

2、Occupancy（占有率）：衡量CUDA硬件執行效率的指標，是實際活動線程束數量與可能活動線程束數量的比值。

3、GEMM（矩陣乘法）：用來測試GPU的實際浮點計算能力，不同實現方法的GEMM效率有差異。

4、顯存類型：如DDR4、GDDR5、GDDR6等，影響數據傳輸速度。

5、顯存容量：影響顯卡性能，容量越大通常性能越強。

6、顯存帶寬：決定顯卡每秒鐘能傳輸的數據量，影響性能。

7、核心頻率：GPU芯片每秒鐘執行的次數，頻率越高性能越強。

8、CUDA核心數：顯卡處理器中的流處理器數量，數量越多性能越強大。

9、基本頻率和加速頻率：基本頻率是GPU芯片的基本工作頻率，加速頻率是短時間內能達到的最高頻率，兩者都影響性能。

10、Vulkan API和DirectX支持：支持這些API的顯卡在運行相應游戲或應用時性能更佳。

11、熱設計功耗（TDP）：顯卡運行時產生的最大熱量輸出，影響散熱和電源需求。

12、NVLink鏈路性能：GPU與GPU之間的帶寬吞吐量和訪問延時矩陣，對多GPU系統很重要。

13、內存帶寬性能：GPU到系統內存、系統到GPU內存、GPU到本地內存的帶寬。

14、流處理器：負責像素點的渲染工作，數量多并行運算的線程大，計算峰值高。

15、RT核心：用于光線追蹤效果的光追核心。

16、Tensor Core：用于深度學習任務，提升性能。

這些指標共同決定了GPU服務器在不同應用場景下的性能表現，包括圖形渲染、游戲體驗、視頻編輯、科學計算等。