Vertiv memperkenalkan panduan strategis untuk membantu perusahaan menentukan infrastruktur AI berdasarkan kebutuhan bisnis, karakteristik workload, kesiapan fasilitas, dan efisiensi operasional.
Designing Infrastructure for Enterprise AI Guide yang dikembangkan bersama STL Partners, firma riset infrastruktur digital (Foto/@: Vertiv Holdings Co./Dola AI/mmINDUSTRI)
Penulis/editor: Rayendra L Toruan
“Thank you for visiting mmindustri.co.id. Subscribe for the latest news and insight. Enter your email (Your email address will not be published)
mmINDUSTRI.co.id – Vertiv Holdings Co. (sumber): Perusahaan yang ingin memanfaatkan artificial intelligence (AI) untuk meningkatkan produktivitas dan daya saing bisnis tidak cukup hanya mengandalkan kecanggihan model AI dan kemampuan komputasi.
Ada persoalan lebih mendasar yang perlu dijawab sejak awal: di mana beban kerja AI dijalankan dan apakah infrastruktur perusahaan mampu mendukungnya?
Vertiv Holdings Co. perkenalkan panduan untuk tentukan infrastruktur AI sesuai kebutuhan perusahaan. Panduan implementasi baru yang didukung oleh riset Vertiv dan STL Partners membantu organisasi menentukan arketipe AI mereka serta lokasi infrastruktur pendukung yang paling tepat.
Pendekatan berbasis workload ini dapat menghubungkan kebutuhan bisnis dengan model infrastruktur dan desain referensi yang sesuai untuk membantu mengurangi risiko implementasi.
Ketersediaan daya listrik, sistem pendinginan, konektivitas, kapasitas fasilitas, hingga kesiapan operasional menjadi faktor penentu keberhasilan implementasi AI.
Tanpa perencanaan yang matang, investasi teknologi berpotensi menghadapi kendala ketika proyek yang semula hanya berupa eksperimen mulai digunakan secara berkelanjutan dalam kegiatan bisnis.
Panduan Designing Infrastructure for Enterprise AI Guide yang dikembangkan bersama STL Partners, firma riset infrastruktur digital, dapat membantu pimpinan bisnis, tim teknologi informasi (TI), dan pengelola fasilitas menentukan infrastruktur fisik yang sesuai dengan karakteristik serta kebutuhan setiap beban kerja AI.
Pengumuman tersebut disampaikan dari Columbus, Ohio, Amerika Serikat, baru-baru ini. Inisiatif ini mencerminkan semakin pentingnya kolaborasi antara penyedia infrastruktur digital, konsultan teknologi, dan pelaku industri dalam mempercepat adopsi AI di lingkungan perusahaan.
Masalah: Implementasi AI terhambat kesiapan infrastruktur
CEO Vertiv, Giordano Albertazzi menegaskan bahwa perkembangan AI enterprise tidak hanya ditentukan oleh model AI dan kemampuan komputasi. (Foto/@: Dola AI/mmINDUSTRI)
Salah satu tantangan utama dalam penerapan AI di perusahaan adalah kesenjangan antara kebutuhan komputasi dan kemampuan infrastruktur fisik yang tersedia.
Perusahaan mungkin sudah memiliki aplikasi AI, model komputasi, dan data yang diperlukan. Namun, fasilitas pendukungnya belum tentu memiliki kapasitas listrik, pendinginan, konektivitas, serta kemampuan operasional yang memadai.
Beban kerja AI juga tidak memiliki karakteristik yang seragam. Pengembangan model, pelatihan ulang, inferensi, dan penggunaan AI dalam kegiatan operasional membutuhkan tingkat performa, kapasitas komputasi, serta pengelolaan yang berbeda.
Oleh karena itu, keputusan untuk menempatkan seluruh beban kerja AI pada satu lingkungan infrastruktur belum tentu menjadi pilihan paling efisien.
Penggunaan public cloud, colocation, infrastruktur yang dikelola sendiri, lingkungan hybrid, maupun edge memiliki keunggulan dan keterbatasan masing-masing.
Kesalahan menentukan lokasi implementasi dapat meningkatkan biaya operasional, memperbesar risiko keterlambatan proyek, dan membatasi kemampuan perusahaan mengembangkan layanan AI dalam jangka panjang.
CEO Vertiv, Giordano Albertazzi menegaskan bahwa perkembangan AI enterprise tidak hanya ditentukan oleh model AI dan kemampuan komputasi.
Perusahaan juga harus mampu menyediakan daya, pendinginan, konektivitas, dan lingkungan operasional yang dibutuhkan setiap aplikasi AI.
Dengan memahami karakteristik beban kerja sejak tahap perencanaan, perusahaan dapat mengidentifikasi keterbatasan infrastruktur lebih awal dan menyusun jalur implementasi yang lebih realistis.
Solusi: Empat langkah menentukan infrastruktur AI. Panduan Vertiv menawarkan pendekatan berbasis workload atau beban kerja. Artinya, perusahaan perlu memahami tujuan penggunaan AI sebelum menentukan investasi infrastruktur fisik.
Pendekatan ini menerjemahkan kebutuhan bisnis dan teknis ke dalam empat langkah utama.
- Menentukan tujuan bisnis dan beban kerja AI Langkah pertama adalah mengidentifikasi tujuan penerapan AI. Perusahaan perlu mengetahui apakah AI digunakan untuk mengembangkan model, menganalisis data, mengotomatisasi proses bisnis, mendukung layanan pelanggan, atau membantu pengambilan keputusan.
Tujuan tersebut menentukan karakteristik workload yang akan dijalankan. Sebagai contoh, AI untuk menganalisis dokumen internal memiliki kebutuhan berbeda dibandingkan AI yang memproses transaksi secara real-time atau mendukung pengendalian proses industri.
- Mengevaluasi skala dan kebutuhan performa Setelah tujuan bisnis ditetapkan, perusahaan perlu mengevaluasi skala komputasi, kecepatan pemrosesan, kebutuhan penyimpanan, serta kapasitas operasional.
Aspek yang perlu diperhatikan meliputi:
– Kebutuhan daya komputasi dan kapasitas server.
– Kapasitas listrik serta sistem distribusi daya.
– Kebutuhan pendinginan sesuai kepadatan komputasi.
– Konektivitas dan kecepatan perpindahan data.
– Keamanan, keandalan, serta kontinuitas operasional.
– Potensi peningkatan kapasitas pada masa mendatang.
Evaluasi tersebut membantu perusahaan mengetahui apakah fasilitas yang tersedia masih memadai atau memerlukan pengembangan.
- Menentukan lokasi implementasi Tidak semua workload harus dijalankan di pusat data milik perusahaan. Pemilihan lokasi perlu mempertimbangkan kebutuhan performa, keamanan data, latensi, fleksibilitas, biaya, dan kendali operasional.
Beberapa pilihan yang dapat dipertimbangkan adalah public cloud, colocation, infrastruktur milik perusahaan, lingkungan hybrid, dan edge.
Meski workload masih bersifat eksperimental namun sudah dapat memanfaatkan public cloud untuk memperoleh fleksibilitas kapasitas. Sebaliknya, workload yang berlangsung terus-menerus atau kritikal bagi bisnis dapat lebih sesuai ditempatkan pada infrastruktur hybrid maupun fasilitas yang dikelola sendiri.
Sementara itu, aplikasi yang membutuhkan respons cepat dan kedekatan dengan sumber data dapat memerlukan infrastruktur edge.
- Mencocokkan workload dengan model infrastruktur Tahap berikutnya adalah mencocokkan karakteristik workload dan lokasi implementasi dengan model infrastruktur fisik yang sesuai.
Vertiv memperkenalkan empat model sebagai titik awal perencanaan, yakni Edge AI Cluster, Small AI Cluster, Large AI Cluster, dan High-Density AI Cluster.
Masing-masing model menjadi acuan untuk mengevaluasi kebutuhan daya, pendinginan, sistem kontrol, konektivitas, ketahanan operasional, serta kemungkinan ekspansi.
Desain referensi yang tersedia selanjutnya dapat disesuaikan melalui asesmen lokasi dan validasi teknis secara lebih terperinci.
Enam Arketipe Workload AI untuk perencanaan
Salah satu aspek penting dalam panduan rancangan Vertiv adalah pengelompokan beban kerja AI enterprise menjadi enam arketipe.
Pengelompokan ini mencakup pengembangan model, pelatihan ulang model, serta empat kategori penggunaan AI dalam lingkungan produksi.
Tujuannya adalah membantu perusahaan memahami bahwa setiap workload memiliki kebutuhan infrastruktur yang berbeda.
Dengan klasifikasi tersebut, pimpinan bisnis, tim TI, dan pengelola fasilitas dapat menggunakan dasar perencanaan yang lebih konsisten ketika menentukan kapasitas komputasi dan lokasi implementasi.
Perusahaan juga dapat menghindari pendekatan investasi yang hanya berorientasi pada kapasitas server tanpa memperhitungkan kebutuhan fasilitas pendukung.
Empat model infrastruktur fisik AI
Vertiv mengelompokkan pilihan infrastruktur fisik ke dalam empat model yang dapat digunakan sebagai acuan perencanaan.
- Edge AI Cluster: Model ini relevan untuk aplikasi yang membutuhkan pemrosesan data dekat dengan sumbernya. Contohnya, analisis visual pada fasilitas produksi, pemantauan mesin, dan sistem pengawasan operasional yang membutuhkan respons cepat.
- Small AI Cluster: Model ini dapat menjadi pilihan awal bagi perusahaan yang menjalankan workload AI dengan skala relatif terbatas, seperti pengembangan aplikasi internal, analisis data perusahaan, dan pengujian model.
- Large AI Cluster: Model ini ditujukan untuk kebutuhan komputasi AI berskala lebih besar, termasuk workload yang memerlukan kapasitas pemrosesan dan sumber daya komputasi lebih tinggi.
- High-Density AI Cluster: Model ini menjadi pertimbangan untuk workload dengan kepadatan komputasi tinggi. Perencanaan daya, pendinginan, distribusi energi, dan pengelolaan panas menjadi aspek yang sangat penting.
Keempat model tersebut bukan pilihan yang harus diterapkan secara seragam oleh semua perusahaan. Pemilihannya perlu mempertimbangkan kebutuhan workload, kapasitas fasilitas, dan proyeksi pertumbuhan bisnis.
Redaksi merekomendasikan dengan pendekatan berbasis workload dari Vertiv dapat menjadi referensi bagi berbagai sektor industri di Indonesia. Tentu penerapannya perlu disesuaikan dengan skala usaha, karakteristik data, kondisi fasilitas, dan kebutuhan operasional masing-masing perusahaan.
Berikut beberapa contoh penerapannya:
Industri manufaktur: Perusahaan manufaktur yang menggunakan AI untuk inspeksi kualitas produk, pemantauan mesin, dan analisis proses produksi dapat mempertimbangkan Edge AI Cluster.
Pemrosesan data lebih dekat dengan lini produksi berpotensi mendukung respons yang lebih cepat. Perusahaan tetap perlu memastikan ketersediaan daya, pendinginan, jaringan, dan sistem cadangan agar operasional berlangsung andal.
Perbankan dan layanan keuangan: Institusi keuangan yang menggunakan AI untuk analisis transaksi, deteksi anomali, dan layanan pelanggan perlu mempertimbangkan keamanan data, tata kelola, latensi, serta kontinuitas layanan.
Lingkungan hybrid atau infrastruktur yang dikelola sendiri dapat menjadi pilihan untuk workload tertentu, sementara kebutuhan komputasi lainnya dapat memanfaatkan layanan cloud sesuai kebijakan dan persyaratan yang berlaku.
Telekomunikasi dan pusat data: Operator telekomunikasi dan penyedia pusat data berpotensi menghadapi kebutuhan kapasitas komputasi AI yang terus berkembang.
Large AI Cluster atau High-Density AI Cluster dapat dipertimbangkan ketika kebutuhan workload memang menuntut kapasitas dan kepadatan komputasi tinggi.
Asesmen kapasitas listrik, sistem pendinginan, distribusi daya, dan kemampuan ekspansi menjadi prioritas sebelum pembangunan atau peningkatan fasilitas.
Perusahaan perdagangan dan layanan digital: Perusahaan yang mengembangkan chatbot, rekomendasi produk, analisis perilaku pelanggan, dan otomatisasi layanan dapat memulai dengan workload berbasis cloud.
Seiring peningkatan volume penggunaan dan kebutuhan performa, perusahaan dapat mengevaluasi apakah sebagian workload lebih efisien dipindahkan ke lingkungan hybrid atau infrastruktur yang dikelola sendiri.
Rekomendasi tersebut memperlihatkan bahwa investasi AI sebaiknya berkembang mengikuti kebutuhan bisnis, bukan semata-mata mengikuti tren teknologi.
Kolaborasi industri dan pentingnya perencanaan jangka panjang
Pendekatan Vertiv juga menyoroti pentingnya keterlibatan berbagai pemangku kepentingan sejak tahap perencanaan.
Principal dan Silicon2Service U.S. Lead di Deloitte Consulting LLP, Nicholas Merizzi menyampaikan bahwa kebutuhan operasional dan pertimbangan ekonomi AI akan berubah ketika perusahaan beralih dari eksperimen menuju produksi.
Organisasi perlu mempertimbangkan nilai bisnis, tata kelola, kepemilikan operasional, serta kesiapan infrastruktur secara bersamaan.
Pandangan tersebut memperkuat kebutuhan kolaborasi antara pimpinan perusahaan, tim TI, pengelola pusat data, bagian operasional, dan penyedia teknologi.
Bagi perusahaan di Indonesia—ini pandanagan redaksi dan bukan bagian dari press release Vertiv, perencanaan semacam ini juga penting untuk memastikan investasi AI memberikan manfaat nyata, bukan hanya menambah kapasitas komputasi yang belum tentu dimanfaatkan secara optimal.
Panduan Designing Infrastructure for Enterprise AI Guide menyediakan roadmap empat fase untuk membantu organisasi merencanakan, mengimplementasikan, dan mengembangkan infrastruktur AI enterprise.
Panduan lengkap tersebut menjelaskan enam arketipe workload, empat model infrastruktur fisik, serta tahapan pengembangan yang dapat digunakan sebagai referensi dalam proses perencanaan dan validasi teknis.
Perusahaan yang ingin mempelajari pendekatan tersebut dapat mengakses panduan melalui situs resmi Vertiv.
Peralihan AI dari tahap eksperimen menuju implementasi produksi membutuhkan lebih dari sekadar model yang canggih dan server berkapasitas tinggi.
Perusahaan harus memastikan bahwa setiap workload memperoleh lingkungan operasional yang sesuai, mulai dari kapasitas listrik, pendinginan, konektivitas, keamanan, hingga kesiapan fasilitas untuk berkembang.
Panduan Vertiv memberikan kerangka kerja yang membantu perusahaan menghubungkan tujuan bisnis dengan karakteristik workload, lokasi implementasi, dan model infrastruktur fisik.
Bagi pengguna AI dan pembaca www.mmINDUSTRI.co.id pelajaran pentingnya adalah memilih infrastruktur berdasarkan kebutuhan nyata, bukan sekadar mengikuti perkembangan teknologi.
Sementara itu, bagi perusahaan penyedia infrastruktur digital, pusat data, sistem kelistrikan, pendinginan, dan layanan teknologi di Indonesia, pendekatan ini membuka peluang untuk memperkuat kolaborasi dalam membangun ekosistem AI enterprise yang lebih andal, efisien, dan berkelanjutan.
Keberhasilan transformasi AI tidak hanya ditentukan oleh seberapa canggih teknologi yang digunakan, tetapi juga oleh seberapa tepat perusahaan merancang infrastruktur yang menopang seluruh proses bisnisnya. #SalamSobatmmINDUSTRI
This type of article is favored by our readers. Would your company willing to sponsor it? Kindly email us: business@mmindustri.co.id or fill this form