公開URL:https://x.com/Norotororo/status/1873706265874162076

<aside> 💡

本ページは「課長のせいで今日も死んでいます~無理して覚えるIT(情報技術)~」の解説ページです。参考にした題材や元ネタの解説、補足説明を行っていきます。

必ずしも初心者向けだけではなく、マニアックな内容も含まれるため、興味のない部分は読み飛ばしていただいて構いません。

</aside>

今回のテーマについて

今回は「クラウドサービス」を題材としています。普段から使い慣れている人にとっては当たり前のものですが、まだ触れたことのない人には未知の世界かもしれません。今回の解説では、各社が提供しているコンピューティングやストレージなどの具体的なサービス内容には深入りせず、実際のPCと比較した際のメリットを中心に説明していきます。

AI開発にはグラフィックボード搭載のPCが必要か

適当にGoogleで調べる課長

適当にGoogleで調べる課長

A. 時と場合による

解説の都合上「AI = グラフィックボード」という説明をしましたが、必ずしもGPUが必要というわけではありません。ただし、私がこれまで出会った機械学習系の仕事をしている人は、全員GPUを使用していました。

AIや機械学習が指し示す範囲は広く、開発環境を一つの枠組みで語ることは難しいのが現状です。ただ、近年よく使用されている大規模なモデルを使用する場合については、GPUを利用するケースが多いのではないでしょうか。

GPU搭載PCの消費電力について

たこ足配線の近くに偶然ガスボンベが

たこ足配線の近くに偶然ガスボンベが

GPUで計算をする場合、その性能が上がるにつれ消費する電力は比例します。今回イメージした構成の場合、一台あたりの消費電力が1000Wなので、合計の14000Wの消費になりそうです。

例えば、以下のコンセントの許容電力は1500Wですから、定格を大きく超えているのが分かります。

延長ケーブルを使う際には電力の計算を忘れないようにしましょう。

パナソニック WCH2434H OAタップ

また、今回の題材となっている「クラウドサービス」の場合は電力の確保をどうしているのかというと、各社一生懸命供給源を確保しているようです。

アマゾンなどIT大手が原発に触手、AI向け電力確保へ | ウォール・ストリート・ジャーナル日本版から | ウォール・ストリート・ジャーナル日本版

LLMをファインチューニングするにはどれくらいのGPUがいるのか?

image.png