DeepSeek API性能測試：火山引擎深圳速度達(dá)28.474 tokens每秒

近日，可觀測與應(yīng)用安全廠商基調(diào)，利用基調(diào)聽云撥測工具，模擬真實(shí)用戶的主動監(jiān)控，從網(wǎng)絡(luò)性能、接口響應(yīng)時間、推理速度、內(nèi)容生成速度等多個關(guān)鍵指標(biāo)，對多家廠商提供的DeepSeek-R1 API 服務(wù)進(jìn)行了深入測試。

根據(jù)測試后發(fā)布的《大模型服務(wù)性能評測 DeepSeek-R1 API版》第一期顯示，本次共對北京、上海、廣州、深圳、重慶、蘇州、成都等多個城市的DeepSeek-R1 API 服務(wù)進(jìn)行了測試，采集指標(biāo)方面，通過API返回的數(shù)據(jù)計算出來的指標(biāo)包含：平均速度(tokens/s)、首 Token 時間(s)、推理速度(tokens/s)、生成速度(tokens/s)，而通過聽云撥測客戶端計算的指標(biāo)包含：DNS 時間(s)、建連時間(s)、握手時間(s)、發(fā)出請求時間(s)、首包時間(s)、剩余包時間(s)、性能(s) 和可用性(%)。

參加測試的廠商包括火山引擎、DeepSeek官方、硅基流動、騰訊云、阿里云百煉。

在深圳本地的測試中，可用性方面，盡管火山引擎和硅基流動都達(dá)到了100%，但兩者在生成速度方面相差較大，火山引擎生成速度可以達(dá)到65.673 tokens/s，而硅基流動該項(xiàng)指標(biāo)則為16.966 tokens/s。阿里云百煉可用性也達(dá)到了91.94%，但生成速度僅為11.813 tokens/s。

DeepSeek R1評測結(jié)果（圖片來自基調(diào)聽云公眾號）

至于DeepSeek官方，雖然生成速度可以達(dá)到37.117 tokens/s，但可用性僅為41.94%，在參與測試的五家廠商中是最低的，這也意味著，很大一部分用戶的請求都不能得到響應(yīng)。

值得一提的是，在深圳本地的測試中，火山引擎在推理速度方面也獨(dú)占鰲頭，達(dá)到了30.083 tokens/s，排名緊隨其后的DeepSeek官方為25.378 tokens/s。

綜合評測結(jié)果顯示，火山引擎在 API 響應(yīng)性能上全面領(lǐng)先，各項(xiàng)指標(biāo)均顯著優(yōu)于其他服務(wù)商。

基調(diào)聽云表示，本次測評旨在為開發(fā)者提供深度數(shù)據(jù)支撐，助力其精準(zhǔn)洞察各服務(wù)商 API 接口的性能表現(xiàn)，從而有針對性地優(yōu)化產(chǎn)品體驗(yàn)。

對于開發(fā)者和企業(yè)用戶而言，這些數(shù)據(jù)可以作為服務(wù)商選擇的決策依據(jù)，從而更科學(xué)地甄別適配自身需求的技術(shù)方案。（作者：林松）