1.GeForceシリーズのGPUの電気代と価格の比較一覧表まとめ
・最高のGPUを2枚組み込んだ自作PCを一週間連続稼働すると7700円程度の電気代が見込まれる
・自己所有PCであっても、ランニングコストはそこそこかかるものと認識した方が良い
・電気の契約をもっと安いところと契約出来ないか調べるなどの工夫も必要かもしれない
2.自宅で人工知能をトレーニングする際にかかる電気代の試算
2021年3月)GeForce RTX 3060の消費電力例を追記
まず前提ですが、2021年2月現在はディープラーニング用に個人向けGPUを購入する時期としては非常にタイミングが悪いです。
元よりコロナ影響による半導体不足な状況に、在宅勤務需要、ハイスペックPCが必要になるゲーマー需要、仮想通貨高騰に伴うマイニング再需要で争奪戦が発生し、ネットでも実店舗でも品切れ状態が続いており、購入可能なGPU(グラフィックボード)は「(型落ち感のある)2万円台のGeForce GTX 1650か、(発売されたばかりの超高級機種の)22万円超のGeForce RTX 3090の2択」なんて話が出ているくらいです。
どうしても今の時期に欲しいと言う方は、PC自作のためにGPUを単体で買うのではなく、最初からGPUを組み込んであるメーカーの既製品を決算セール、タイムセールなどで狙うか、GPUを組み込んである中古の既製品のオークションやリサイクル品などを狙うのが比較的安価に入手しやすいと思います。
既製品は自作品に比べて電源やケースなどがコスト削減のために低品質のものが使われている事が多くよろしくない、と言う意見もありますが、そもそも望みのGPUが単体で入手不可なので仕方ないです。更にGPU単体が中古も含め値上がり傾向が激しく、入手可能なGPUで結構試行錯誤しましたが、(Linuxを使うので)Windowsの費用を0にしているのに既製品より安価に組み上げる事が出来なかったです。
最終的に私はGeForce GTX 1650 SUPERが組み込まれた既製品を送料税込み77,000円くらいで週末に購入してしまいました。しかし、盲点だった事は土曜日に注文したのに納期が何日になるのか水曜日時点でまだ連絡が来てない事です。
翌日納品される宅配サービスに慣れすぎて迂闊にも納期確認を怠ってしまいました。現在の市況の中では結構お得な価格で買えたかな、と喜んでいたのですが、長く待たされる事になったら困ったなぁ~、どうせ待つのだったら、わざとマイニング性能を落としてあるが潤沢に供給される見込みという噂のGeForce RTX 3060の本格供給を待つ方が良かったかもなぁ、とも思っています。
さて、先日、人工知能学習用にパソコンを自作する際に知っておくべき事(2020年版)でクラウドより自作の方が安く気軽に人工知能を学習させる事が出来るのではないかと言う仮説が出てきたのですが、自宅で学習させる際は当然の事ながら電気代と空調代がかかります。
昨今のGPUは性能の向上もですが消費電力の増加も凄まじく、実際のところ、どの程度の電気代を見込むべきなのかをNVIDIAの公式サイトから拾ってきてまとめてみました。なお、CUDAを使いたかったので今回はNVIDIAの個人向けグラボであるGeForceシリーズのみを対象にしています。AMDやAppleのM1搭載のGPUも興味深いところではあります。
製品名 | CUDAコア数 | ベース-ブースト クロック数(MHz) | VRAM (GB) |
アーキテクチャ | カード電力(W) | 推奨システム電力(W) | 2枚刺し | 電気代(円/時間)※ | 発売日 | 価格 |
GeForce GTX 1650 – GDDR5 | 896 | 1485-1665 | 4 | Turing | 75 | 300 | 7.9 | 2019/04 | $149 | |
GeForce GTX 1650 – GDDR6 | 896 | 1410-1590 | 4 | Turing | 75 | 300 | 7.9 | 2020/04 | $149 | |
GeForce GTX 1650 SUPER | 1280 | 1530-1725 | 4 | Turing | 100 | 350 | 9.2 | 2019/11 | $159 | |
GeForce GTX 1660 | 1408 | 1530-1785 | 6 | Turing | 120 | 450 | 11.9 | 2019/03 | $219 | |
GeForce GTX 1660 SUPER | 1408 | 1530-1785 | 6 | Turing | 125 | 450 | 11.9 | 2019/10 | $229 | |
GeForce GTX 1660 Ti | 1536 | 1500-1770 | 6 | Turing | 120 | 450 | 11.9 | 2019/02 | $279 | |
GeForce RTX 2060 | 1920 | 1365-1680 | 6 | Turing | 160 | 500 | 13.2 | 2019/01 | $349 | |
GeForce RTX 2060 SUPER | 2176 | 1470-1650 | 8 | Turing | 175 | 550 | 14.5 | 2019/07 | $399 | |
GeForce RTX 2070 Founders Edition |
2304 | 1410-1710 | 8 | Turing | 185 | 550 | 14.5 | 2018/10 | $599 | |
GeForce RTX 2070 SUPER | 2560 | 1605-1770 | 8 | Turing | 215 | 650 | 可 | 17.2 | 2019/07 | $499 |
GeForce RTX 2080 Founders Edition |
2944 | 1515-1800 | 8 | Turing | 225 | 650 | 可 | 17.2 | 2018/09 | $799 |
GeForce RTX 2080 SUPER | 3072 | 1650-1815 | 8 | Turing | 250 | 650 | 可 | 17.2 | 2019/07 | $699 |
GeForce RTX 2080 Ti | 4352 | 1350-1635 | 11 | Turing | 260 | 650 | 可 | 17.2 | 2018/09 | $1,199 |
GeForce RTX 3060 | 3584 | 1320-1780 | 12 | Ampere | 170 | 550 | 14.5 | 2021/02 | $329 | |
GeForce RTX 3060 Ti | 4864 | 1410-1670 | 8 | Ampere | 200 | 600 | 15.8 | 2020/12 | $399 | |
GeForce RTX 3070 | 5888 | 1500-1730 | 8 | Ampere | 220 | 650 | 17.2 | 2020/10 | $499 | |
GeForce RTX 3080 | 8704 | 1440-1710 | 10 | Ampere | 320 | 750 | 19.8 | 2020/09 | $699 | |
GeForce RTX 3090 | 10496 | 1400-1700 | 24 | Ampere | 350 | 750 | 可 | 19.8 | 2020/09 | $1,499 |
※東京ガスのずっとも 電気1で350kWh超の前提で算出(1kWh=26.41円)
まず、左から2列目と3列目の「CUDAコア数」「ベース-ブースト クロック数(MHz)」ですが「性能を表現してるっぽい何らかの数字」くらいの理解で良いかと思います。ゲーム用途向けのベンチマーク結果はよく見かけるのですが、「CUDAコアが2倍になるとディープラーニングにとって何がどれだけ良くなるのか?」等の具体的な事が説明されている解説をまだ見つける事が出来ていません。
左から4列目のVRAM(GB)はビデオメモリ、これは一度に読み込めるバッチサイズに関連するので、大きい方が良いのはわかっていますが、6G搭載のGeForce GTX 1660シリーズになるとシステム全体で税込み10万円を越える価格になってしまうので、10万円越えるとM1搭載のMacBook Airなども視野に入ってくるので4Gに妥協しました。
左から5列目の「アーキテクチャ」はTuring、これはクラウドの本命が同じTuringのNVIDIA Tesla T4 GPUだと思っているのでTuringに合わせたかったです。AmpereはGCP上ではまだ一般利用は出来ないA100シリーズと同じアーキテクチャです。
左から6、7列目「カード電力(W)」と「推奨システム電力(W)」は、「GPU単体の最大消費電力」と、「そのGPUを組み込んだパソコンが確保しておく事が望ましい電力(つまり、CPU、メモリ、ディスクなど全構成品を合わせた消費電力」です。つまり、基本は「推奨システム電力(W)」を見れば良いのですが、グラフィックス カード(GPU)を2枚刺しする場合などは、「カード電力(W)」を追加で更に足してやる必要があります。
「2枚刺し」はそのGPUを2枚直接接続させて性能を上げる事が出来るか?です。個人向けブランドのGeForceだと2枚組(NVLink)までが限界なようで、もっと前の型番では4枚組(SLI)もできたようなのですが、任意の複数枚のGPUを組み合わせる事はいずれにしても出来ないようです。
しかも、現状入手困難な上位機種しか対応していないので、2枚組を気軽に試す事が出来ないと判明した時点で、私はコスト最安構成を目指す事にしました。(余談ですが、2枚組にしか出来ないのであれば、最終的にGeForce RTX 2080 Tiの4枚刺しを目指していたWarmachineちゃんは、2枚組x2を目指していたと言う事なのでしょうか?)
電気代(円/時間)は単純に「東京ガスのずっとも 電気1」を使っていた場合に「推奨システム電力(W)」が1時間辺り何円になるか?です。
「発売日」はアメリカでの発売日です。やっぱり二年くらい経つと最上位モデルでも一線級の性能と言い難くなってしまいますね。「価格」もアメリカの発表時のドル価格です。繰り返しになりますが、現在はGPU価格が高騰しているので、例えばGeForce RTX 3090は発表時$1,499ですが、現在日本円では22万円~28万円くらいで販売されています。
クラウド VS 自作PCの機械学習にかかる費用の比較
さて、それでは現時点で個人向けGPU最強の環境を構築したとしましょう。22万円超のGeForce RTX 3090の2枚刺し(ざっと税込み80万円程度になるはず)です。
750W(推奨システム電力) + 350W(2枚目GPU) ÷ 1000(kに直す) × 26.41(円) = 29.0円/h
で、このクラスのGPU2枚だと夏はエアコンをつけっぱなしにしないと熱暴走の危険がありそうなので、大ざっぱにPanasonicの2021年モデルの一番安い6畳モデルのエアコンが635Wなので、
635W ÷ 1000(kに直す) × 26.41(円) = 16.7円/h
合計すると、29.0円/h + 16.7円/h = 45.7円/h
一週間ぶっ続けで動かした使ったとすると約7,700円!?想像していた以上にお高い!実感しやすい例えとしてはエアコン3台をつけっぱなしした際の使用電力、電気代でしょうか。
私の購入したGeForce GTX 1650 SUPERは9.2円/h。220円/日、1,553円/週、全然許容範囲ではありますが、自己所有PCであっても、ランニングコストはそこそこかかるものだと認識しておいた方が良さそうですね。
クラウドのNVIDIA Tesla T4 GPU + n1-highmem-8 + 100Gが継続利用割引ありだと$0.583/hなので、初期投資の差を考えるともっと差がついて欲しかったですが、逆にT4の価格が優秀すぎるのかもしれません。
電気の契約をもっと安いところと契約出来ないか調べるなどの工夫も引き続き考えていきたい所存。
GeForce RTX 3060の実際の消費電力の例
GPUメモリの9割近くを占めるようなトレーニングを行うと120~150W程度の電力消費量なのでカード電力の9割くらいはオーバークロック等をせずとも実際に使用されると考えておいた方が良いと思います。
3.GeForceシリーズのGPUの電気代と価格の比較一覧表関連リンク
1)www.nvidia.com
GEFORCE GTX 16 シリーズ
GEFORCE RTX 20 Series
GeForce RTX 30 シリーズ