ソフトウェア開発企業のBackslash Partnersは、GPUリソース管理とAI開発・運用を支援するプラットフォーム「Backslash AIOps 1.0」を公開した。同製品は、韓国の情報通信技術協会(TTA)によるGS(Good Software)認証試験の対象製品として登録された。
Backslash AIOps 1.0は、Kubernetesを基盤とし、GPUリソースの申請、承認、分割、回収を一元管理するプラットフォームだ。MLOps機能と連携することで、AIモデルの学習からデプロイまでの運用を支援する。
利用者は、GPUの使用目的と必要な利用期間を指定してリソースを申請できる。管理者が申請内容を確認・承認すると、承認された期間に応じてGPUリソースが割り当てられ、利用期間の終了後には自動的に回収される。また、申請・承認の履歴やGPUの利用状況も記録される。
GPUの分割方式として、Time-slicing、Multi-Process Service(MPS)、Multi-Instance GPU(MIG)に対応。処理内容や運用環境に応じてGPUリソースを柔軟に割り当てることができる。
さらに、GPUリソースの割り当て、スケジューリング、利用状況のモニタリングなどの機能を備え、GPUの稼働率向上や遊休リソースの削減、効率的なリソース管理を支援する。
AI開発環境では、JupyterLabとの連携により開発環境を提供し、Argo Workflowsを活用したワークフロー管理にも対応する。モニタリング情報やリソース利用履歴を記録することで、運用状況の把握と管理を容易にする。
また、アクセス制御、マルチテナント環境でのリソース管理、監査ログなどの機能を通じて、複数の利用者がGPUインフラを共有する環境での運用管理を支援する。
Backslash Partnersは、GPUリソース管理技術の高度化を進めるとともに、AIインフラおよびMLOps分野での事業展開を目指す。
同社は、Backslash AIOps 1.0のTTA GS認証試験に向けた製品登録を通じて、製品の信頼性向上と市場展開に向けた取り組みを進めている。