Ada narasi dalam teknologi yang mengasumsikan sentralisasi: data berpindah ke cloud, komputasi terjadi di sana, hasil kembali. Bagi perusahaan infrastruktur cloud, narasi ini sangat nyaman. Bagi perusahaan yang benar-benar membangun sistem AI yang perlu bekerja dengan andal, cepat, dan aman di lingkungan dunia nyata, narasi ini semakin membatasi.
Edge computing — pergeseran kemampuan komputasi lebih dekat ke tempat data dihasilkan dan di mana keputusan perlu dibuat — bukanlah hal baru. Yang baru adalah urgensinya. Kombinasi persyaratan AI real-time, regulasi privasi, kendala bandwidth jaringan, dan kompleksitas yang muncul dari IoT dan sistem otonom menjadikan komputasi edge bukan pilihan arsitektur khusus tetapi persyaratan pusat untuk seluruh kategori aplikasi.
Saya telah mengamati pergeseran ini dengan cermat melalui NexaTech Ventures karena ini mewakili salah satu transisi arsitektur paling signifikan dalam infrastruktur teknologi sejak perpindahan ke cloud computing itu sendiri.
Di Mana Arsitektur Cloud Runtuh
Cloud computing dibangun berdasarkan asumsi yang terbukti benar selama dua dekade pertama internet: lebih murah mengirim data ke sumber daya komputasi pusat daripada mendistribusikan komputasi di seluruh jaringan. Untuk sebagian besar aplikasi web — pencarian, media sosial, e-commerce — ini masih benar. Tetapi untuk kumpulan aplikasi yang berkembang, asumsi ini mulai runtuh.
Pertimbangkan kendaraan otonom. Mobil self-driving membuat keputusan kritis keselamatan dalam milidetik berdasarkan data sensor. Mengirim data sensor mentah ke layanan cloud yang jauh, menunggu respons, dan menerima keputusan kembali tidak hanya tidak efisien; tetapi secara fundamental tidak dapat diterapkan. Latensi tidak dapat diterima dan persyaratan keandalan tidak dapat dipenuhi. Komputasi harus terjadi pada kendaraan itu sendiri, secara real-time, menggunakan pemrosesan lokal.
Atau pertimbangkan aplikasi yang diatur privasi dalam layanan kesehatan atau keuangan. GDPR dan regulasi serupa semakin mengharuskan data pribadi sensitif diproses di yurisdiksi tertentu dan di bawah kontrol keamanan tertentu. Streaming data medis atau detail transaksi keuangan ke layanan cloud di negara lain, bahkan untuk analisis yang sah, menciptakan komplikasi kepatuhan yang membuat pemrosesan terpusat berisiko secara hukum dan operasional.
Atau pertimbangkan manufaktur di lantai pabrik. Fasilitas manufaktur yang menghasilkan terabyte data sensor dari peralatan produksi tidak dapat secara realistis streaming semuanya ke layanan cloud untuk analisis. Biaya bandwidth sangat mahal, latensi untuk penyesuaian proses real-time tidak dapat diterima, dan risiko ketahanan operasional terlalu tinggi. Komputasi perlu terjadi secara lokal.
Ini bukan kasus edge. Ini adalah kategori inti dari aplikasi yang muncul. Dan arsitektur cloud computing, berdasarkan desain, kurang cocok untuk semuanya.
Pergeseran Teknis yang Diperlukan
Edge AI memerlukan arsitektur teknis yang berbeda dari AI berbasis cloud. Model machine learning perlu lebih kecil, lebih efisien, dan dioptimalkan untuk perangkat dengan sumber daya terbatas. Pipeline inferensi perlu tangguh terhadap konektivitas jaringan yang terputus-putus. Model keamanan perlu bekerja untuk sistem terdistribusi daripada pusat data terpusat. Mekanisme pembaruan dan versi perlu mendorong perubahan ke ribuan atau jutaan perangkat edge secara efisien dan aman.
Ini adalah masalah yang sulit, dan mereka memerlukan pendekatan yang berbeda dari pengembangan AI cloud. Perusahaan yang menyelesaikannya bukan perusahaan cloud computing; mereka adalah perusahaan baru yang membangun infrastruktur AI yang dioptimalkan untuk edge.
Beberapa tren teknis berkumpul untuk membuat transisi ini mungkin. Teknik kompresi model dan kuantisasi berkembang pesat, memungkinkan model AI canggih berjalan pada perangkat edge dengan sumber daya komputasi fraksional. Perangkat keras khusus — TPU, NPU, dan akselerator AI lainnya — menjadi tersedia di perangkat edge, menyediakan kemampuan komputasi yang diperlukan. Standar terbuka untuk penerapan edge sedang muncul, memecahkan penguncian ke platform proprietary.
Di NexaTech Ventures, kami mendukung perusahaan dalam tiga kategori dalam infrastruktur edge AI. Pertama, platform optimasi dan penerapan model yang mengambil model AI besar dan mengompresnya untuk eksekusi edge. Kedua, mesin inferensi edge yang dioptimalkan untuk eksekusi terdistribusi dengan latensi rendah. Ketiga, sistem orkestrasi edge yang mengelola penerapan, pembaruan, dan pemantauan beban kerja AI di seluruh infrastruktur edge terdistribusi.
Di Mana Posisi Eropa
Keuntungan infrastruktur Eropa dalam edge computing halus tetapi nyata. Benua ini telah berinvestasi besar dalam infrastruktur telekomunikasi dan penerapan 5G, yang menyediakan kapasitas jaringan dan konektivitas latensi rendah yang diperlukan untuk edge computing. Regulasi perlindungan data Eropa, jauh dari menjadi hambatan, mendorong permintaan untuk solusi edge computing yang menjaga data sensitif tetap lokal.
Lebih penting lagi, sektor manufaktur, otomotif, dan industri Eropa mendorong permintaan asli untuk edge AI. Perusahaan otomotif Jerman membutuhkan edge AI untuk kendaraan otonom. Produsen Italia membutuhkan komputasi edge untuk manufaktur presisi. Pertanian Belanda membutuhkan edge AI untuk sistem pertanian presisi. Ini menciptakan siklus yang baik di mana permintaan mendorong investasi dalam infrastruktur edge AI, yang menarik talenta dan modal, yang meningkatkan kemampuan teknologi, yang mendorong adopsi lebih lanjut.
Narasi edge computing Amerika saat ini didominasi oleh perusahaan cloud yang mencoba memperluas platform mereka ke edge. AWS, Google Cloud, dan Azure semuanya menawarkan layanan edge. Tetapi ini pada dasarnya adalah arsitektur yang berpusat pada cloud dengan edge yang ditambahkan. Arsitektur edge AI yang transformatif sedang dibangun oleh perusahaan yang dimulai dengan asumsi bahwa komputasi terjadi di edge dan cloud adalah pengecualian, bukan aturan.
Kasus Investasi
Edge computing dan edge AI mewakili pergeseran struktural dalam cara perangkat lunak diterapkan dan dijalankan. Ini bukan tren sementara atau pasar khusus. Ini adalah transisi arsitektur fundamental yang didorong oleh persyaratan teknis nyata yang tidak dapat dipenuhi oleh cloud computing.
Peluang investasi berada di beberapa lapisan. Di lapisan infrastruktur, perusahaan yang membangun platform AI yang dioptimalkan untuk edge dan alat penerapan menciptakan keunggulan kompetitif yang tahan lama. Di lapisan aplikasi, perusahaan yang merancang ulang perangkat lunak mereka untuk eksekusi edge — kendaraan otonom, sistem industri, perangkat kesehatan — akan mencapai keunggulan kinerja dan keandalan yang akan sulit digantikan.
Di NexaTech Ventures, kami mencari perusahaan edge AI yang memahami persyaratan teknis dan tantangan operasional. Perusahaan terbaik tidak hanya mengoptimalkan algoritma; mereka membangun sistem lengkap untuk penerapan edge, termasuk pemantauan, keamanan, manajemen pembaruan, dan dukungan operasional.
Pergeseran dari cloud terpusat ke edge computing terdistribusi mewakili transisi infrastruktur paling signifikan dalam teknologi sejak migrasi ke cloud. Perusahaan yang memposisikan diri mereka lebih awal dalam transisi ini akan membangun bisnis yang substansial dan dapat dipertahankan.
Scott Dylan adalah Pendiri NexaTech Ventures. Dia menulis tentang infrastruktur teknologi, AI, dan investasi deep tech. Baca lebih lanjut di scottdylan.com.
