網友「炸鍋」:Colab推出pro+會員後,pro會員就用不了V100了,只能用T4?

  • 2021 年 9 月 1 日
  • AI

作者 | 吳彤

編輯 | 青暮

買了Colab pro級會員,就一定能用上V100和P100?不,也有可能會分配到Tesla T4!

半個月前,谷歌推出pro+級會員,pro級會員「一臉懵逼」,在昨天的Reddit論壇上,網友「炸了鍋」。

目前,谷歌Colab的GPU主要有4種:K80、T4、P100 和 V100 ,按照基準測試結果,它們的性能排序是:K80<T4<P100<V100。

對於Colab用戶來說,充錢買Pro本身就是想要更好的算力,T4顯然不符合他們對於GPU的期待。


1

Colab 免費版、Pro 、Pro + 有啥不同?

對於學生黨和科研黨來說,能用到谷歌Colab訓練服務器的網站,即便是9.99 美元一個月(幾乎60元人民幣)的會員費,總比自己買或租 一個GPU 要划算得多。

但Colab 又上線一款新的會員服務——Colab Pro+,一個月 49.99 美元(幾乎一個月300元人民幣),對於習慣了 9.99 美元的用戶來說,49.99 美元屬實有點貴了。而且,這樣一來,pro會員就處於尷尬的境地,「會員之上還有會員,四捨五入等於沒買?」

2
Colab Pro + 有什麼特性

至於這一個月 50 刀的花費,究竟升級了什麼,谷歌在常見問題解答」里寫得非常清楚。總結一下就是:

免費的就只能用老古董 K80,Pro 和 Pro+ 用戶可以使用 T4 和 P100 GPU,還可以優先使用 TPU;

Colab Pro+ 訂閱者能享受更高的連接穩定性,即使關閉計算機或瀏覽器標籤頁後,筆記本也能繼續執行,上限是 24 小時。

但是,在幾乎所有服務中,資源供應還是沒有保證,並且依然存在用量限額。

以下是問題解答的詳細內容:

Colab Pro 和 Pro+ 提供哪些類型的 GPU?

訂閱 Colab Pro 後,用戶可以優先使用谷歌最快的 GPU;訂閱 Pro+ 後,還可獲享更多福利。例如,有時,當非訂閱者只能使用 K80 GPU 時,訂閱者卻可以使用 T4 和 P100 GPU。此外,用戶還可以優先使用 TPU。但是 Colab Pro 和 Pro+ 依然存在用量限額,並且可用的 GPU 和 TPU 類型可能會不時變化。

在免費版 Colab 中,用戶對較快 GPU 和 TPU 的使用權限非常有限,用量額度也比 Colab Pro 和 Pro+ 低很多。

Colab Pro 和 Pro+ 中的筆記本可以運行多久?

在 Colab Pro 中,筆記本可以保持連接長達 24 小時,空閑超時設置相對寬鬆。但實際連接時長並沒有保證,空閑超時設置有時會變化。Colab Pro+ 訂閱者還可獲享更高的連接穩定性。

在免費版 Colab 中,筆記本最長可以運行 12 小時,空閑超時設置比 Colab Pro 或 Pro+ 嚴格很多。

Colab Pro 和 Pro+ 提供多大內存?

訂閱 Colab Pro 後,用戶可以優先使用高內存虛擬機。訂閱 Pro+ 後,還可獲享更多福利。這些虛擬機的磁盤空間通常比標準 Colab 虛擬機大很多,訂閱後可以通過一項筆記本設置啟用高內存虛擬機。此外,當 Colab 檢測到用戶可能需要高內存虛擬機時,有時可能還會自動分配這樣的虛擬機。

Colab Pro 和 Pro+ 虛擬機的磁盤空間通常也比標準 Colab 虛擬機大很多。不過,並不能保證資源供應,高內存虛擬機也存在用量限額。

免費版 Colab 不提供高內存偏好設置,也很少向用戶自動分配高內存虛擬機。

什麼是「後台執行」?

訂閱 Colab Pro+ 後即可使用後台執行功能,當用戶關閉計算機或瀏覽器標籤頁後,筆記本也能繼續執行,並且執行時間可達虛擬機的生命周期上限,即 24 小時。在執行完每個單元格後,輸出將保存到雲端硬盤。和往常一樣,資源供應並沒有保證,並且依然存在用量限額。

Colab Pro 用戶的執行時間更久,並且如果供應情況允許,用戶可以將輸出保存到雲端硬盤。

如果用戶沒有訂閱付費服務,則不能依賴於後台執行功能,當用戶互動停止時,執行就會中斷,接着系統很快就會刪除虛擬機。

為什麼 Colab Pro 或 Pro+ 不能就資源供應做出保證?

為了在 Colab 中以相對較低的價格提供更快的 GPU、更長的運行時和更大的內存,Colab 需要保持即時調整用量限額和硬件供應情況的靈活性。雖然無法做出保證,但預計只要將 Colab Pro 和 Pro+ 用於預定用途(即交互式計算),大多數訂閱者遇到的用量限額問題會少之又少。

如何才能充分利用 Colab Pro 和 Pro+?

Colab Pro 和 Pro+ 中的資源會優先提供給最近資源用量較少的訂閱者,以防少數用戶獨佔有限的資源。為充分利用 Colab Pro 和 Pro+,請在完成工作後關閉 Colab 標籤頁,並在沒有實際需求時避免選用 GPU 或額外內存。這樣,用戶在 Colab Pro 和 Pro+ 中遇到用量限額的情況就會減少。

Colab Pro 和 Pro+ 已在哪些地區推出?

Colab Pro 和 Pro+ 目前僅在以下國家 / 地區推出:美國、加拿大、日本、巴西、德國、法國、印度、英國和泰國。


3

網友:Pro + 是來擠占 Pro 資源的?

在國外Reddit 論壇上,一些網友對谷歌新上線的付費模式展開了討論:49.99 刀的 Pro + 用戶突然出現,Pro 用戶可能不再擁有那樣的優先權了……

「Colab Pro+ 看起來像幾個月前的 Colab Pro,免費 Colab 用戶以後豈不是要卑微到塵埃里?」

也有網友表示認同:谷歌該賺點錢了

相當於你付了會員費,但享受着約等於原來免費用戶的權益。谷歌是下決心要用 Colab 賺點錢了?

4

谷歌Colab近年來動作不斷,或許早已計劃付費

去年有人發現,自己在運行 Colab 時獲得的 GPU 是 Tesla V100:「是 V100,而不是 P100。因為我是 Colab pro版用戶。」

但其實近三年來,Colab 的硬件歷經幾次升級。

先是19年 4 月,谷歌將 Colab 的 GPU 從古董級別的 K80 升級到了更加適合做低精度的推斷的 Tesla T4,訓練比 K80 快了很多。

19年 11 月,Colab 又一次開放了 P100,一年之內兩次硬件升級。

要知道,Tesla V100 是英偉達上一代處理器架構 Volta 的首款設備,發佈於 2017 年 5 月,其核心 GV100 GPU 包含 211 億個晶體管,是上代 Tesla P100 的 1.37 倍,芯片面積則達到了 815 平方毫米,採用台積電 12nm FFN 專屬工藝打造。

從薅羊毛的角度來說,P100 的性能已經足夠優秀,但 V100 顯然更加強大。

如今谷歌推出pro+會員,網友們在登錄Colab後發現,事情沒有想像得這麼糟糕。

不少人去試了試,發現對於pro會員,搞到一個P100 GPU還是很容易的,應該不是想像中的「官方Pro降級」「Pro會員拿到T4」的具體原因,可能只是恰好趕上了使用高峰期;此外,如果經常在高峰期大量使用GPU,會員的優先級也會下降。

但這並不意味着某個會員就一定能用上某個型號的顯卡。

從這幾年來看,谷歌Colab一直是採用免費的商業策略:先通過免費的東西把用戶吸引過來,再挑選合適的商品賣給一部分用戶。免費背後,本質是一種交叉補貼。

於是,靠補貼吸引用戶就成為前期標準動作,之後再找商戶就容易了。這也能解釋谷歌從不斷升級硬件時,就已經埋下了付費的註腳。

資料來源:

//twitter.com/slashML/status/1432004668557709320

//mp.weixin.qq.com/s/FiG3ZhKYnKOdq7BUiafmPQ

//www.microway.com/hpc-tech-tips/nvidia-turing-tesla-t4-hpc-performance-benchmarks/tesla_comparison_t4-p100-v100/

贈書福利 

AI科技評論本次聯合Springer為大家帶來5本周志華教授親筆簽名《Machine Learning》正版新書。

在AI科技評論8月28日頭條文章「周志華《西瓜書》上線英文版!(注意不是本文,僅限AI科技評論微信公眾號端)留言區留言,歡迎大家暢所欲言,談一談你對本書的看法和期待。在綜合留言質量(留言是敷衍還是走心)和留言點贊最高(註:點贊最高的前5不意味着一定會中獎)的讀者中選出5位讀者獲得贈書。獲得贈書的讀者請聯繫 AI 科技評論客服(aitechreview)。

  • 留言內容會有篩選,例如「選我上去」、「這書寫的很棒(僅僅幾個字)」等內容將不會被篩選,亦不會中獎。

  • 留言送書活動時間為2021年8月28日 – 2021年9月01日(23:00),活動推送時間內僅允許贈書福利中獎一次。

雷鋒網雷鋒網雷鋒網