自社AI向けのGPUパススルーセットアップ

顧客よりAIチャットを利用したくGPUを仮想基盤に導入したいとの相談がありました

顧客開発チームとやりとりし大枠がつかめたところで
GPUを購入してサーバー実機に組み込み
仮想基盤にGPUパススルーの設定、仮想ゲストにGPUを設定しました

GPUドライバのバージョン選定やサーバー設置環境の電源管理などの整理や提案も行い
AIチャットが動作するところまで確認いたしました

弊社ではサーバーの選定、GPU選定、電源関連等の相談も受けております
この事例ではVMwareの環境整備を行いましたがKVMも対応できます