【AI基盤の本番運用】高価なGPUを、ムダにしないAIインフラとは ～稼働率50％台から90％台への改善事例に学ぶ、クラスタ運用とメモリー最適化～

本セミナーはWebセミナーです ツールはZoomを使います。URLは直前にメールにてご連絡いたします。 なお、「osslabo.com」「majisemi.com」からのメールが迷惑メールとならないよう、メールの設定をご確認ください。 高価なGPU投資を、どう成果につなげるか 生成AIの活用が本格化し、LLMの学習・推論を支えるAI基盤への投資が進んでいます。GPUクラウド事業者や、自社でAIを本格運用する企業では、多数のGPUを導入し、基盤を拡充する動きも見られます。 一方で、高性能GPUは高価です。投資を成果につなげるには、GPUを増やすだけでなく、導入した設備を安定して稼働させ、その性能を十分に引き出すことが求められます。 GPUの稼働率と推論性能を左右する、二つの課題 GPUが増えるほど、サーバーやネットワークを含めたクラスタ全体の運用は複雑になります。障害によってジョブが中断すれば、原因の…

• 主催マジセミ×インフラ（デジタルとの新たな出会いと体験）