Di banyak data center di seluruh dunia, GPU (Graphics Processing Unit) sebenarnya sudah siap bekerja. Namun, sering kali GPU tersebut menganggur sambil menunggu data yang belum sampai. Masalah utama dalam penerapan AI di perusahaan ternyata bukan kekuatan komputasi, melainkan sistem penyimpanan data (storage) yang tidak mampu menyuplai data dengan cukup cepat.
Seiring perusahaan menggunakan model AI yang semakin besar dan dataset yang semakin kompleks, keterbatasan arsitektur lama mulai terlihat jelas. Tanpa fondasi storage yang mampu memberikan kecepatan tinggi dan latensi rendah, bahkan klaster komputasi paling canggih pun tidak bisa bekerja secara optimal.
AI Berkembang Pesat, Infrastruktur Harus Mengikuti
Dalam satu tahun terakhir, adopsi AI meningkat sangat cepat dan memicu perubahan besar pada infrastruktur IT perusahaan. Selama ini, fokus utama sering tertuju pada GPU, akselerator, dan komputasi paralel. Namun kenyataannya, lapisan data yang menentukan seberapa efektif semua teknologi tersebut bisa dimanfaatkan.
Beban kerja AI sangat berbeda dibandingkan aplikasi tradisional. AI bersifat:
-
Berulang (iteratif)
-
Terdistribusi
-
Sangat boros bandwidth
Karena itu, storage yang dulu dianggap sekadar tempat menyimpan data kini berubah menjadi komponen kunci keberhasilan AI. Storage harus berkembang menjadi sistem cerdas dan berperforma tinggi yang mendukung seluruh siklus AI, dari awal hingga akhir.
Perubahan Cara Data Digunakan oleh AI
Beban kerja AI bergantung pada dataset yang sangat besar, sering disebut sebagai data lake. Data ini memiliki tiga karakter utama yang menantang sistem storage tradisional:
1. Volume (Jumlah Data)
Model AI bisa menggunakan petabyte data, mulai dari database terstruktur, data sensor, log sistem, hingga gambar dan video. Storage terpusat dan sistem file lama sering kali tidak sanggup menangani beban sebesar ini secara terus-menerus.
2. Velocity (Kecepatan Akses)
Proses pelatihan AI membutuhkan pembacaan data berulang kali dalam jumlah besar. Sementara itu, AI inference (prediksi) membutuhkan respons hampir real-time. Storage harus mampu memberikan akses cepat dan stabil, sesuatu yang tidak dirancang pada sistem NAS atau SAN tradisional.
3. Variety (Jenis Data)
Data AI sangat beragam: teks, suara, gambar, video, hingga data telemetri. Setiap jenis data memiliki pola akses yang berbeda. Sistem storage statis tidak lagi cukup fleksibel untuk menangani variasi ini secara efisien.
Singkatnya, AI tidak hanya menghasilkan lebih banyak data, tetapi juga mengubah perilaku data itu sendiri.
Perubahan Arsitektur Storage untuk AI
Untuk menjawab kebutuhan AI, arsitektur storage juga mengalami transformasi besar. Storage kini berkembang menjadi fabric data berkecepatan tinggi yang terintegrasi erat dengan komputasi dan jaringan.
Beberapa perubahan utama meliputi:
Data Lake Berskala Besar
AI membutuhkan repositori data terpusat yang mampu menyimpan data mentah dalam berbagai format. Storage berbasis objek yang bisa diskalakan secara horizontal menjadi pilihan utama karena mampu menangani akses paralel dalam jumlah besar.
Media Storage Berperforma Tinggi
SSD dan teknologi memori berkecepatan tinggi semakin umum digunakan. Selain itu, teknologi NVMe over Fabrics (NVMe-oF) memungkinkan data berpindah dengan latensi sangat rendah antar server dan storage.
Manajemen Sumber Daya Dinamis
Storage modern harus bisa menyesuaikan kapasitas dan performa secara otomatis sesuai beban kerja AI. Fleksibilitas ini sangat penting, terutama untuk lingkungan AI yang tersebar di banyak lokasi.
AI di Edge
AI tidak lagi hanya berjalan di data center. Banyak proses inference kini dilakukan di edge, seperti pabrik, rumah sakit, atau kendaraan. Ini membutuhkan storage lokal yang cepat dan andal agar keputusan bisa diambil secara instan.
Jalur Data Berkecepatan Tinggi untuk AI
Dalam lingkungan AI, pergerakan data menjadi faktor krusial. Teknologi jaringan tradisional sering menambah latensi dan membebani CPU. Di sinilah teknologi seperti NVMe-oF dan RDMA (Remote Direct Memory Access) berperan penting.
-
NVMe-oF memungkinkan storage jarak jauh bekerja seolah-olah berada di server lokal, dengan latensi sangat rendah.
-
RDMA memungkinkan sistem mengakses memori sistem lain tanpa melibatkan CPU, sehingga jauh lebih cepat dan efisien.
RDMA tersedia melalui InfiniBand dan Ethernet (RoCE). RoCE semakin populer karena memanfaatkan jaringan Ethernet yang sudah ada, sehingga lebih ekonomis dan fleksibel.
Storage Cerdas dengan Software-Defined Storage
Kecepatan saja tidak cukup. Storage juga harus cerdas dan adaptif. Inilah peran Software-Defined Storage (SDS).
SDS memisahkan pengelolaan storage dari perangkat keras, sehingga:
-
Mudah diskalakan
-
Bisa menggabungkan berbagai jenis storage
-
Dikelola secara otomatis berdasarkan kebijakan
Manfaat SDS untuk AI antara lain:
-
Skalabilitas elastis
-
Alokasi sumber daya otomatis
-
Optimalisasi performa berbasis kebijakan
Dengan SDS, storage menjadi bagian aktif dari ekosistem AI, bukan sekadar tempat menyimpan data.
Masa Depan Storage di Era AI
Di era AI, storage bukan lagi komponen pasif. Storage yang efisien akan menentukan seberapa maksimal investasi GPU dapat dimanfaatkan. Latensi rendah dan alur data yang lancar berarti pelatihan lebih cepat dan biaya lebih efisien.
Ke depan, batas antara compute, network, dan storage akan semakin kabur. Semua akan menyatu dalam satu sistem adaptif dan cerdas.
Di era AI, data hanya akan sekuat storage yang mengantarkannya.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan extreme networks indonesia, merupakan bagian dari PT. iLogo Indonesia, yang merupakan mitra terpercaya dalam solusi Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
Hubungi kami sekarang atau kunjungi extremenetworks.ilogoindonesia.id untuk informasi lebih lanjut!