ページの先頭です
本稿では、株式会社インターネットイニシアティブ(以下、IIJ)がOpen Compute Project(以下、OCP)ベースのサーバをどのように位置付け、Open Rack v2(以下、ORv2)で得た知見を踏まえて、なぜOpen Rack v3(以下、ORv3)世代のサーバを商用導入するに至ったのかを振り返ります。
OCPは、サーバやラック、電源などの仕様を公開し、複数のメーカが同じ仕様で製品を作れるようにする取り組みです。Open Rackは、その中でもラックや給電方式を定める仕様群を指します。
IIJでは、自社データセンターの電源やラック仕様に合わせられるか、国内で継続して調達できるか、運用現場で支障なく扱えるか、コスト面で妥当かといった観点からORv2を導入し、商用環境で運用してきました。
ORv3についても、製品が出そろい国内で実装できる見通しが立ってからPoCを開始し、2025年に商用導入しました。
以下では、サーバ調達に対する考え方の変化、ORv2で得た知見、そしてORv3の評価から2025年の商用導入に至るまでの流れを順に見ていきます。
IIJでは1990年代半ば、PICMG規格のCPUボードやI/Oボードを組み合わせたサーバを運用していました。当時は完成品サーバをそのまま使うのではなく、必要な構成要素を組み合わせたIIJ専用サーバを調達していました。
2000年代に入るとPICMG関連製品の選択肢は減り、調達台数も増えたため、以前のやり方では納期やコストの面で対応が難しくなっていきました。
その後はSunのSPARCサーバや、NECのExpress5800シリーズ、COMPAQ ProLiant DLシリーズといったエンタープライズ向けx86サーバへ軸足を移しました。この頃から、部材ごとの最適化よりも、調達のしやすさ、保守体制、製品としての完成度を重視するようになりました。
PICMGのように自社に合わせて構成を組み立てるやり方は続けにくくなりましたが、IIJにとって最適なサーバ構成を考える必要がなくなったわけではありませんでした。実際には、調達ボリュームや保守体制を考えると、完成品メーカが提供するスペックの中で検討せざるを得ないのが実情でした。必要なスペックのサーバを自前で組み立てるという選択肢もありましたが、運用規模を考えるとスケールしにくいことは見えていました。
大きな転換点になったのが、2009年のIIJ GIOサービス立ち上げです。初期導入だけで約1,000台規模のサーバを調達することになり、サーバ単体の仕様だけでなく、電源やラック、熱設計、保守体制まで含めて全体として無理のない構成を考える必要がありました。
その後、年間5,000台を超える規模の設置にも対応するため、ラックを工場へ持ち込み、サーバ搭載やケーブリングまで済ませてからラック単位で搬入する方法を採るようになりました。こうした進め方により、現地作業時間を抑えつつ大量導入を進められるようになりました。
その後、OCPサーバの存在を知りましたが、IIJの調達規模ではエンタープライズ向けサーバでも十分にコストを抑えられていたので、すぐにOCPサーバを選ぶ強い動機はありませんでした。そのため、この時点では既存の調達モデルを前提に、いかに早く構築を完成させるかを優先することになりました。
2018年の春頃に伊藤忠テクノソリューションズ株式会社(以下、CTC)からORv2の提案を受け、従来のエンタープライズ向けサーバよりも安く調達できる可能性が見えてきました。そこで2018年9月にCTCと共に台湾のODMメーカを訪問し、製品ラインナップや今後の開発計画、保守体制を確認しました。
併せて、ハイパースケーラーの調達手法も学びました。サーバ完成品の価格のうち、マザーボードやシャーシの比率はそれほど大きくないため、CPU、メモリ、SSDといった主要部材については、パーツメーカと直接条件を詰めた方が安くなることが多いという考え方です。
ちょうどその頃、半導体メーカーの代理店をご紹介いただいていたこともあり、翌月に韓国へ出張した際に現地本社も訪問し、メモリやSSDについてはIIJの条件でODMメーカに調達してもらう前提で条件を詰めることができました。また別の半導体メーカーについては代理店を通じてとなりましたが、同様に条件を詰めることができました。
この調達モデルの特徴は、大量調達を前提に部材レベルまで踏み込んで条件を詰め、ODMメーカから自社の条件に合う構成で調達するところにあります。IIJでも、そうした進め方は自社の規模やデータセンター運用の前提の中で十分成り立ち、無理のないコスト構造を作れると考えました。
2019年に白井データセンターキャンパスへ導入したORv2システムでは、1ラック当たり42ノードを搭載し、集中電源は単相230Vを4系統引き込んでいます。この構成は、当時見学した国内データセンターの先行事例を参考にしたものです。
日本ではデータセンター内の設置スペースも重要になるため、IIJではラック利用効率を高めることを重視しました。一般的なエンタープライズ向けサーバラックでは、消費電力の最大値を見込んで搭載台数を抑えることも少なくありませんが、実際のワークロードではそこまで電力を使い切る場面は多くありません。IIJでは自社利用分が中心で、必要に応じて別ラックへの移行を利用側と調整できる前提もあったため、ORv2では設計余力を見込み過ぎず、ラックを上から下まで使い切る前提で構成を設計しました。集中電源には株式会社村田製作所の集中電源を用い、ラックは日東工業株式会社に700mm幅で前後扉付きのORv2仕様として製作してもらいました。これは、IIJのマシンルーム側の前提に合わせつつ、ラック内配線の余裕を確保するためでした。
ORv2の実運用からは、明確な成果も得られました。IIJが導入した構成では、同程度のスペックの市販サーバと比較すると消費電力が約30%削減できたことを確認しています。要因は1つではありませんが、まずIIJが評価した範囲では、ODMメーカが製造するサーバは用途に対して必要十分な構成を選びやすく、消費電力を抑えやすい傾向がありました。これに加えて、OCPサーバでは集中電源を採ることで電力変換効率を高められるため、更に省電力化しやすかったと見ています。一方で保守の面では、完成品サーバに比べて現地側の切り分けや交換作業がやや増え、部材単位で状態を見ながら作業できるスキルが求められることも分かりました。
CPU交換のように現地の手間が増える作業はありましたが、管理機能についてはIPMI経由のシリアルコンソールで十分運用できたため、ODMメーカのシンプルな管理機能でも大きな問題にはなりませんでした。
本来は、ORv2を導入した後も同じラックを生かしたままサーバを更新していく想定でした。しかし実際には、IntelのCPU世代更新に伴うソケット形状の変更や、市場全体でAMD EPYC向けに開発リソースが寄る流れもあって、ORv2対応製品の選択肢は次第に狭まりました。その結果、ORv2ではラックを維持したままサーバだけを更新し続けることが難しくなりました。
一方で、ORv3の仕様は2020年に公開されていたものの、当時はラック、集中電源、対応サーバといった主要要素の対応製品が十分にそろっておらず、商用環境で採用判断を行える状況にはありませんでした。IIJにとって重要だったのは、規格が存在することではなく、国内で継続して調達できるか、障害時の保守部材を確保できるか、データセンター運用の中で無理なく扱えるかという点です。そのため、この時期に新規で調達するサーバについてはOCPサーバではなく、エンタープライズ向けサーバを選択し、ORv3については製品が出そろい、国内で実装できる見通しが立つまで待つことにしました。
転機になったのが、2024年に米国サンノゼで開催されたOCP Global Summitでした。IIJが見ていたのは、国内で継続して調達できること、保守部材を確保できること、そして自社データセンターで無理なく実装できることです。
事前に、日東工業がORv3対応ラックを、村田製作所がORv3対応集中電源を展示するという情報は得ており、その時点で主要構成要素の準備が進みつつあることは見えていました。現地で実機展示を確認したことで、国内でも構成要素をそろえて評価できる見通しが立ち、帰国後すぐにPoCへ進みました。
ラックと集中電源は現地で実際に見た同仕様のものを借用し、サーバは複数メーカーのORv3対応製品を評価しました。1OUに1ノード、2OUに2ノードの構成を比較しましたが、IIJでは冷却効率の面から後者を採用しています。
ここで見ていたのは、サーバ単体として成立するかだけではなく、既存のデータセンター運用の中で無理なく扱えるかどうかでした。
PoCで特に見ていたのは、給電方式の変更が実運用にどう影響するか、ラック幅や配線性に無理がないか、そして商用構成としてそのまま持ち込めるかという点でした。
ORv3では、サーバへの給電電圧が12Vから48Vに変わりました。CPUやメモリ、アクセラレータの高性能化で消費電力が増える中では自然な変更です。また、集中電源をラック中央に置く必要がなくなった点も設計自由度の向上につながりました。
PoCでは、日東工業に前後扉付きの600mm幅ラックを用意してもらいましたが、ケーブルの抜き差しや配線ルートの確保に無理があることが分かりました。そのため、ORv2と同様に700mm幅で設計し直してもらうことになりました。
村田製作所の集中電源は、ORv3対応品になったときにサービスコンセントがなくなりました。そのため、IIJの構成ではサービスコンセントから給電していた分について別途PDUを用意する必要がありました。こうした判断は、次節の商用構成にもそのまま反映されています。
こうしたPoCを経て、IIJでは2025年7月からORv3の構築を行いました。1ラック当たり34ノード、13kVA設計で、電源は三相交流を2入力する方式です。ORv3でも、ラックを上から下まで使い切る前提で構成を組んでおり、ラック利用効率を高く保ちながら、ORv2時代より高い電力密度に対応できるようにしています。
この構成で採用したToRスイッチはJuniper製で、ORv3仕様ではありません。このため別途単相230V給電が必要であり、ラックに引き込んだ三相交流2系統から単相電源を取り出す構成を採りました。特注ケーブルをHartingに製作してもらい、その先に単相PDUを接続してToRスイッチへ給電しています。相バランスはラック単体ではなく設備全体の中で平準化する設計としました。
OCPサーバでは、完成品として一体で保守するのではなく、障害時に部材単位で切り分けながら復旧を進める場面が少なくありません。IIJではODMメーカの保証範囲を前提に、現地での一次切り分けと部品交換を自社で行い、故障部品の返送やベンダーとの調整はCTCが担う方式を採っています。必要に応じて故障部品は台湾の修理拠点へ送付されます。
完成品メーカの保守とは進め方が異なるものの、役割分担を明確にすることで、IIJではOCPサーバの保守運用を実際の商用環境で成立させています。
IIJがOCPサーバの導入先を限定しているのは、松江データセンターパークや白井データセンターキャンパスといった自営データセンターです。理由は、OCPサーバやOpen Rackを導入する際には、電源方式、ラック仕様、施工条件について、データセンター側と事前に細かくすり合わせる必要があるためです。加えて、実際のワークロードではラック全体の消費電力が常に上限まで張り付くわけではない一方で、高密度に実装したラックでは局所的に発熱が高い状態が生じます。そのため、OCPサーバの高いラック利用効率を生かすためには、空調や配置の条件も含めて、データセンター側と調整しながらどこまで実装できるかを詰める必要がありました。場合によっては、局所的に空調の設定温度を下げたり、風向を調整したりすることもあります。
一般的な19インチラック向けサーバのように、どこにでも同じ条件で持ち込める機器ではありません。そのため、小規模かつ単発で導入するより、ある程度まとまった規模で導入した方が効率的です。これはIIJが2009年頃から得てきた「調達をまとめることで設計の自由度が上がる」という知見にも通じています。
2025年の商用導入を進める一方で、IIJでは次期構成の検討も進めていました。IIJが2024年秋から評価していた第4世代Intel Xeon Scalable Processor(Sapphire Rapids-SP、以下SPR)世代では、性能向上と引き換えに消費電力も増えており、サーバ単体の性能よりもラック当たりの電力密度や給電設計が重要になっていました。
そのため論点はCPU単体の性能比較ではなく、電力密度の上昇に対してラック全体をどう無理なく成立させるかにありました。
2026年に採用するCPUとしては、Intel Xeon 6(Granite Rapids、以下GNR)と第5世代AMD EPYC(Turin)を選択しています。電力効率ではTurinが有力ですが、現行のIntel Xeon搭載サーバからのライブマイグレーション先としてはCPU世代互換性の観点からGNRも必要でした。
筐体構成についても、SPR世代で電力効率が良かった2U2NodeをGNR世代でも選択しています。CPU単体の性能だけでなく、ラック当たりの搭載数、必要な電力、サービス特性に対して無理のない構成にできるかまで含めて判断したためです。
本稿では、IIJがORv2に着手し、ODMメーカを前提とした調達や集中電源を含むラック全体の構成を実運用で検証してきた経緯を振り返りました。その上で、ORv2で得た知見を踏まえ、主要構成要素がそろい、自社の運用条件の中で無理なく扱える見通しが立った段階で、ORv3のPoCと商用導入へ進んだ流れを整理しました。
その過程では、サーバの選び方だけでなく、調達や構築の進め方についても従来とは異なる対応が必要になりました。調達の面では、完成品メーカの製品を比較するだけでなく、ODMメーカを前提に構成や価格を考える場面が増えました。構築の面でも、サーバ単体ではなく、ラック、給電、配線、保守運用まで含めて全体を成立させる必要がありました。
結果として、OCPサーバの導入はIIJにとって調達や構築の選択肢を広げる取り組みになりました。一方で、導入場所や運用条件を選ぶ仕組みでもあることが明らかになっています。今後もIIJでは、そうした前提を踏まえながら、OCPサーバを選択肢の1つとして活用していく考えです。
執筆者プロフィール

高畑 雅弘 (たかはた まさひろ)
IIJ ネットワークサービス事業本部 基盤エンジニアリング本部 基盤技術部 システム基盤技術課長。
2001年に入社以来、サーバ基盤の設計・構築に従事。2008年にIIJサービス向け基盤であるNHNの立ち上げに中心メンバーの一人として参画し、2009年にIIJ GIOの基盤構築を担当。以降、NHNの基盤運用を中心に業務を担当し、2011年には松江データセンターパークにてコンテナ型データセンターにおけるサーバ基盤設備の展開を実施。2019年には白井データセンターキャンパスの竣工を契機にOCPサーバ(ORv2)の導入を実施し、2025年からはOCPサーバ(ORv3)の導入を進めている。
ページの終わりです