Perkembangan teknologi Artificial Intelligence (AI) saat ini tidak hanya mengubah cara perusahaan bekerja, tetapi juga mengubah cara data center dibangun dan dioperasikan. Jika dulu data center hanya dirancang untuk menjalankan aplikasi biasa, kini semuanya harus disesuaikan dengan kebutuhan AI yang jauh lebih besar dan kompleks.
Para ahli bahkan menyebut bahwa perubahan dalam 5–10 tahun ke depan akan lebih besar dibanding perkembangan data center selama 20 tahun terakhir. Hal ini terjadi karena AI membutuhkan kemampuan jaringan, komputasi, dan penyimpanan data yang jauh lebih tinggi dibanding sistem tradisional.
Perubahan Cara Data Bergerak di Data Center
Untuk memahami mengapa AI mengubah data center secara besar-besaran, kita perlu melihat bagaimana pola lalu lintas data berkembang dari waktu ke waktu.
Era Lama: North-South Traffic
Pada masa sebelumnya, data center lebih fokus melayani aplikasi web, database, dan layanan cloud biasa. Pola lalu lintas data saat itu disebut “North-South”, yaitu data bergerak dari pengguna internet ke server lalu kembali lagi ke pengguna.
Di era ini:
-
Server masih berbasis CPU
-
Kecepatan jaringan sekitar 10–25Gbps
-
Penggunaan GPU masih sedikit
-
Pendinginan menggunakan udara biasa
-
Kebutuhan daya per rack relatif kecil
Karena tidak semua pengguna mengakses data secara bersamaan, jaringan tidak perlu terlalu kompleks.
Era Cloud: East-West Traffic
Ketika teknologi cloud dan microservices mulai berkembang, pola lalu lintas berubah menjadi “East-West”. Artinya, komunikasi lebih banyak terjadi antar server di dalam data center, bukan hanya antara pengguna dan server.
Server mulai saling bertukar data secara terus-menerus untuk menjalankan aplikasi modern.
Perubahan ini membuat desain jaringan data center ikut berkembang agar komunikasi antar server lebih cepat dan stabil.
Namun ternyata, perubahan tersebut hanyalah awal sebelum datangnya era AI.
Era AI: Beban Jaringan Meledak
AI membawa kebutuhan jaringan ke level yang jauh lebih tinggi.
Proses training AI membutuhkan ribuan GPU yang bekerja bersama secara bersamaan. Setiap GPU harus terus bertukar data dengan GPU lain dalam jumlah sangat besar dan dengan kecepatan tinggi.
Bayangkan ribuan orang di dalam gedung mencoba memindahkan piano secara bersamaan ke ruangan lain dalam waktu yang sama. Itulah gambaran sederhana bagaimana jaringan AI bekerja.
Jika satu GPU mengalami keterlambatan, seluruh proses training bisa ikut melambat.
Karena itu, jaringan AI harus memiliki:
-
Latensi sangat rendah
-
Koneksi stabil
-
Hampir tanpa packet loss
-
Bandwidth sangat besar
Di era AI, jaringan bukan lagi sekadar penghubung, tetapi menjadi bagian penting yang menentukan performa sistem AI itu sendiri.
Mengapa Packet Loss Sangat Berbahaya?
Pada jaringan biasa, kehilangan beberapa paket data mungkin tidak terlalu masalah. Namun pada sistem AI, packet loss bisa menyebabkan dampak besar.
Jika ada paket data yang hilang:
-
GPU harus menunggu data ulang
-
Proses training menjadi lebih lambat
-
Waktu penyelesaian pekerjaan bertambah
-
Biaya operasional meningkat
Karena training AI menggunakan ribuan GPU mahal, keterlambatan beberapa menit saja bisa menyebabkan kerugian besar.
Inilah alasan mengapa jaringan AI harus hampir “lossless” atau minim kehilangan data.
Jaringan Masa Depan Harus Lebih Cepat
Untuk mendukung AI, data center masa depan membutuhkan jaringan yang jauh lebih kuat dibanding sebelumnya.
1. Bandwidth Lebih Besar
Jika dulu 10–25Gbps sudah cukup, sekarang AI membutuhkan jaringan:
-
400G
-
800G
-
Bahkan menuju 1.6T
Semakin besar model AI, semakin tinggi kebutuhan bandwidth-nya.
2. Tidak Boleh Ada Bottleneck
Pada data center lama, oversubscription masih diperbolehkan karena tidak semua server aktif bersamaan.
Namun pada AI, semua GPU aktif dan saling berkomunikasi terus-menerus. Karena itu, jaringan harus memiliki koneksi penuh tanpa hambatan.
3. Teknologi Lossless Networking
Teknologi seperti RoCE (RDMA over Converged Ethernet) mulai menjadi standar baru karena mampu mengurangi latensi dan packet loss.
Tujuannya agar komunikasi antar GPU berjalan sangat cepat dan stabil.
Munculnya “AI Fabric”
Kini istilah jaringan data center mulai berubah menjadi “AI Fabric”.
AI Fabric adalah infrastruktur jaringan yang dirancang khusus untuk kebutuhan AI dengan fokus pada:
-
Kecepatan tinggi
-
Latensi rendah
-
Sinkronisasi GPU
-
Stabilitas koneksi
Topologi jaringan seperti spine-leaf masih digunakan, tetapi mulai muncul desain baru yang lebih optimal untuk komunikasi GPU.
GPU Menjadi Pusat Data Center
Dulu CPU menjadi komponen utama dan GPU hanya tambahan.
Sekarang situasinya berbalik.
Dalam data center AI:
-
GPU menjadi pusat komputasi utama
-
CPU hanya membantu koordinasi
-
Jaringan dioptimalkan khusus untuk GPU
Karena itu, vendor mulai mengembangkan integrasi yang lebih erat antara GPU, NIC, switch, dan software AI.
Pendinginan dan Konsumsi Daya Ikut Berubah
AI juga membuat konsumsi listrik data center meningkat drastis.
Jika dulu satu rack server menggunakan daya 5–15kW, kini rack AI bisa mencapai 50–150kW.
Pendinginan udara biasa sudah tidak cukup lagi.
Karena itu, teknologi baru mulai digunakan seperti:
-
Liquid cooling
-
Immersion cooling
-
Heat exchanger
Bahkan lokasi pembangunan data center kini mulai dekat dengan sumber energi besar seperti pembangkit listrik tenaga air atau energi terbarukan.
Masa Depan Data Center Akan Didominasi Optik
Jaringan berbasis kabel tembaga mulai dianggap tidak cukup untuk kebutuhan AI masa depan.
Teknologi optical networking menjadi solusi utama karena:
-
Lebih cepat
-
Lebih hemat daya
-
Latensi lebih rendah
Data center masa depan diperkirakan akan dipenuhi:
-
GPU super padat
-
Jalur pendingin cair
-
Koneksi optik berkecepatan tinggi
AI Tidak Hanya di Data Center
Selain di data center besar, AI juga mulai berkembang di edge computing seperti:
-
Pabrik pintar
-
Kendaraan otonom
-
Retail
-
Telekomunikasi
-
Smart city
AI akan dipindahkan lebih dekat ke pengguna agar respon menjadi lebih cepat.
Karena itu, jaringan masa depan juga harus lebih pintar dan mampu mengatur AI secara otomatis.
Kesimpulan
AI sedang mengubah cara dunia membangun dan mengelola data center secara total. Infrastruktur jaringan yang sebelumnya cukup untuk cloud dan aplikasi biasa kini harus beradaptasi dengan kebutuhan AI yang jauh lebih besar.
Data center masa depan akan menggunakan GPU dalam jumlah besar, jaringan ultra cepat, pendinginan canggih, dan teknologi optik modern.
Perusahaan yang mampu mempersiapkan infrastruktur AI sejak sekarang akan lebih siap menghadapi transformasi digital di masa depan.
extreme networks Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi extreme networks.
Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.