Perusahaan Indonesia Siapkan Infrastruktur untuk Adopsi AI Agent
- Pergeseran Pemanfaatan AI di Lingkungan Bisnis
- Kesiapan Infrastruktur AI di Indonesia dan ASEAN
- Sektor Finansial dan Super App Berpotensi Menggunakan AI Agent
- Lima Tantangan Penerapan AI di Perusahaan
- Solusi Infrastruktur dan Keamanan AI dari Akamai
- Perusahaan Perlu Membangun Tata Kelola Sebelum Menggunakan AI Agent
Perusahaan di Indonesia mulai meningkatkan kesiapan infrastruktur untuk mendukung penggunaan kecerdasan buatan atau artificial intelligence (AI). Sebanyak 63 persen organisasi di Indonesia telah mempertimbangkan kebutuhan tersebut sebagai salah satu faktor utama dalam menentukan infrastruktur teknologi, dilansir dari Tekno.
Perkembangan ini berkaitan dengan meningkatnya pemanfaatan agentic AI atau AI agent yang mampu menjalankan berbagai pekerjaan secara mandiri. Teknologi tersebut dipandang dapat membantu perusahaan mengotomatisasi operasional, mengembangkan produk, serta menciptakan pengalaman pelanggan yang lebih baik.
Namun, penerapan agen AI membutuhkan lebih dari sekadar model kecerdasan buatan yang canggih. Ketersediaan komputasi, jaringan, pengelolaan data, dan perlindungan sistem juga menjadi bagian penting agar teknologi tersebut dapat digunakan secara aman.
Pergeseran Pemanfaatan AI di Lingkungan Bisnis
Jay Jenkins, Chief Technology Officer (CTO) Akamai Cloud Computing, menjelaskan bahwa orientasi perusahaan dalam menggunakan AI mulai berubah. Pemanfaatannya tidak lagi sebatas meningkatkan efisiensi, tetapi juga diarahkan untuk menghasilkan nilai bisnis baru.
Perubahan tersebut terlihat melalui penggunaan AI untuk mengembangkan layanan, menghadirkan pengalaman pelanggan yang berbeda, serta membuka sumber pendapatan baru. Perusahaan juga mulai memberikan perhatian lebih besar pada tahap inference dibandingkan hanya berfokus pada penelitian, pengembangan, dan pelatihan model.
Inference merupakan proses penggunaan model AI yang telah dilatih untuk mengolah masukan dan menghasilkan keluaran. Peningkatan aktivitas pada tahap ini membuat kebutuhan terhadap infrastruktur pemrosesan semakin penting.
Jay juga mengingatkan bahwa peningkatan penggunaan AI menghadirkan persoalan keamanan, termasuk kemungkinan perilaku sistem yang menyimpang dan penyalahgunaan instruksi oleh pihak tertentu.
Dalam sesi temu media virtual pada Kamis (12/11/2026), Jay mengatakan,
"Risiko tersebut bisa berasal dari perilaku AI yang tidak semestinya. Di sisi lain, ada pula orang-orang yang memasukkan prompt berbahaya ke dalam AI untuk merusak pengalaman pengguna atau mengganggu sistem AI itu sendiri,"
Ia menambahkan bahwa kebutuhan terhadap kepercayaan dan pertanggungjawaban teknologi semakin diperhatikan perusahaan.
"Karena itu, kami melihat peningkatan investasi yang sangat besar dalam aspek kepercayaan dan akuntabilitas,"
Kesiapan Infrastruktur AI di Indonesia dan ASEAN
Menurut Jay, Indonesia mempunyai karakteristik tersendiri dalam perkembangan kecerdasan buatan. Peningkatan kebutuhan teknologi tersebut mendorong perusahaan mempertimbangkan infrastruktur khusus yang mampu menangani beban kerja AI.
Infrastruktur semacam ini memerlukan kombinasi GPU, CPU, memori, serta kapasitas jaringan yang memadai. Keempat komponen tersebut diperlukan untuk mendukung pemrosesan dan operasional aplikasi berbasis kecerdasan buatan.
Jay menjelaskan bahwa perhatian organisasi terhadap kebutuhan tersebut terus meningkat.
"Sebanyak 63 persen organisasi di Indonesia saat ini mulai mempertimbangkan kebutuhan tersebut. Bahkan, faktor ini menjadi salah satu pendorong utama dalam menentukan pilihan infrastruktur teknologi mereka,"
Di tingkat Asia Tenggara, penggunaan generative AI juga terus berkembang. Kendati demikian, penerapannya dalam operasional perusahaan belum merata.
Jay menyebut baru 16 persen perusahaan di ASEAN yang sudah membawa aplikasi generative AI ke tahap produksi. Sebanyak 84 persen lainnya masih menjalankan pengujian dan proof of concept (PoC).
Penggunaan AI generatif sendiri semakin luas. Teknologi ini tidak hanya dimanfaatkan untuk model bahasa besar atau large language model (LLM), tetapi juga untuk menghasilkan gambar, video, dokumen, dan kode pemrograman.
Sektor Finansial dan Super App Berpotensi Menggunakan AI Agent
Kemampuan agen AI untuk mengakses sistem, menjalankan alur kerja, dan mengambil keputusan sesuai kewenangan membuat teknologi ini menarik bagi berbagai sektor industri. Namun, tingkat otonomi yang lebih tinggi juga menimbulkan kekhawatiran mengenai keamanan operasional.
Jay menilai industri finansial termasuk sektor yang berpotensi memperoleh manfaat besar. Perusahaan perdagangan elektronik juga mulai bereksperimen dengan pemanfaatan AI untuk meningkatkan kualitas pengalaman pelanggan.
Ekosistem super app di Indonesia turut menjadi salah satu peluang penerapan teknologi tersebut. Sejumlah aktivitas yang biasanya dilakukan pengguna melalui aplikasi terpadu berpotensi dijalankan secara otomatis oleh agen AI.
Jay menjelaskan potensi pemanfaatan tersebut dalam sesi temu media.
"Indonesia juga memiliki sejumlah superapp yang sangat baik. Mengotomatisasi beberapa alur kerja yang biasanya dilakukan pengguna melalui superapp menggunakan agen AI tentu akan sangat bermanfaat,"
Lima Tantangan Penerapan AI di Perusahaan
Meskipun menawarkan peluang bisnis, penerapan AI dalam skala perusahaan masih menghadapi lima persoalan utama. Tantangan tersebut mencakup kesiapan komputasi, kualitas jaringan, pengelolaan data, keamanan, hingga biaya operasional.
1. Keterbatasan kapasitas komputasi
Ketersediaan GPU dan kemampuan pemrosesan menjadi salah satu kendala mendasar. Perusahaan membutuhkan sumber daya komputasi yang mencukupi agar aplikasi AI dapat menangani kebutuhan operasional.
2. Latensi dan konektivitas jaringan
Infrastruktur komputasi yang terpusat dapat menyebabkan keterlambatan respons bagi pengguna yang berada jauh dari pusat pemrosesan. Persoalan ini menjadi perhatian khusus di Indonesia karena kondisi geografisnya sebagai negara kepulauan.
Pemrosesan AI secara waktu nyata membutuhkan konektivitas yang stabil. Ketika beban kerja tersebar di berbagai wilayah, jaringan antardaerah juga harus mampu mendukung pertukaran data secara andal.
3. Kedaulatan data dan kepatuhan regulasi
Agen AI dapat mengolah informasi sensitif yang tersimpan atau diproses di berbagai lokasi. Perpindahan informasi lintas negara atau cross-border data flows juga menimbulkan kebutuhan untuk memastikan kepatuhan terhadap ketentuan perlindungan data.
Di Indonesia, salah satu regulasi yang perlu diperhatikan adalah Undang-Undang Pelindungan Data Pribadi (UU PDP). Oleh sebab itu, perusahaan perlu mempunyai kendali terhadap lokasi penyimpanan dan pemrosesan informasi.
4. Keamanan dan tata kelola kecerdasan buatan
Kemampuan agen AI untuk mengakses sistem internal dan menjalankan tindakan secara mandiri dapat memperbesar dampak insiden keamanan. Ancaman yang disoroti meliputi manipulasi instruksi atau prompt injection serta akses tanpa izin.
Selain itu, perangkat pengawasan belum tentu berkembang secepat kemampuan teknologi AI. Kondisi tersebut membuat perusahaan membutuhkan mekanisme pemantauan dan pengendalian yang lebih baik.
5. Biaya operasional dan ketergantungan penyedia
Pengeluaran penerapan AI mencakup penyewaan GPU, kebutuhan memori, pemrosesan inference, serta biaya pengiriman data atau data egress fees. Seluruh komponen tersebut perlu diperhitungkan dalam perencanaan investasi teknologi.
Ketergantungan pada model dan API proprietary dari satu penyedia juga dapat menimbulkan vendor lock-in. Situasi ini membatasi keleluasaan perusahaan ketika ingin mengganti teknologi atau beralih ke layanan lain.
Jay menjelaskan bahwa keputusan menggunakan satu penyedia untuk seluruh kebutuhan teknologi dapat menciptakan ketergantungan jangka panjang.
"Dalam banyak kasus, untuk mempercepat adopsi AI, organisasi memilih satu penyedia teknologi tertentu dan menggunakan seluruh layanannya,"
Ia juga menjelaskan dampak ketergantungan tersebut terhadap fleksibilitas operasional perusahaan.
"Keputusan ini membuat perusahaan terikat pada model operasional dan biaya dari penyedia tersebut. Akibatnya, perusahaan menjadi sulit berpindah ketika kebutuhan atau teknologi berubah,"
Solusi Infrastruktur dan Keamanan AI dari Akamai
Untuk menjawab kebutuhan tersebut, Akamai menghadirkan sejumlah layanan pendukung infrastruktur kecerdasan buatan. Salah satunya adalah Akamai Inference as a Service yang menggunakan model open weight dan menyediakan endpoint kompatibel dengan OpenAI API.
Kompatibilitas tersebut memungkinkan perusahaan menghubungkan layanan dengan sistem yang telah digunakan. Perusahaan juga mempunyai keleluasaan untuk mengganti model ketika kebutuhan teknologi mengalami perubahan.
Ada dua pilihan penerapan yang disediakan, yakni serverless inference dan dedicated inference. Keduanya ditujukan untuk kebutuhan operasional dengan karakteristik berbeda.
Serverless inference
Pada pendekatan serverless inference, perusahaan tidak harus mengelola sumber daya komputasi maupun siklus hidup model AI secara mandiri. Pengelolaan dan penyesuaian kapasitas layanan ditangani oleh Akamai.
Jay menjelaskan bahwa sistem pembayaran pada pendekatan ini mengikuti tingkat pemakaian.
"Organisasi cukup membayar berdasarkan penggunaan,"
Model tersebut dapat digunakan perusahaan yang belum mengetahui kebutuhan komputasi secara pasti atau mempunyai beban kerja yang berubah-ubah. Pendekatan ini juga memungkinkan pengujian teknologi tanpa harus membangun infrastruktur khusus sejak awal.
Dedicated inference
Berbeda dengan layanan serverless, dedicated inference menyediakan sumber daya komputasi khusus yang dapat diakses melalui endpoint. Pilihan ini ditujukan bagi perusahaan yang telah mengetahui kebutuhan kapasitas serta mempunyai kemampuan mengelola infrastrukturnya.
Akamai turut menyediakan sejumlah model AI untuk mendukung penalaran kompleks, penelitian mendalam, dan pemrograman. Tersedia pula model berbasis retrieval-augmented generation (RAG) untuk membantu memeriksa informasi serta mengurangi halusinasi AI.
Untuk kebutuhan komputasi intensif, perusahaan juga dapat memanfaatkan GPU Nvidia B300. Penggunaannya mencakup inference berskala besar, analisis dokumen, pelatihan lanjutan model atau post-training, serta penyesuaian model melalui fine-tuning.
Lingkungan eksekusi terisolasi untuk AI agent
Dari sisi keamanan, Akamai memperkenalkan Akamai Agent Sandbox yang menggunakan WebAssembly dan Spin SDK. Teknologi ini menyediakan ruang eksekusi terisolasi sehingga agen AI dapat menulis serta menjalankan kode tanpa memperoleh akses bebas ke seluruh sistem perusahaan.
Akses agen dibatasi berdasarkan sumber daya yang secara eksplisit telah mendapatkan izin. Pembatasan tersebut membantu mengurangi kemungkinan tindakan yang tidak sesuai dengan kewenangan operasional.
WebAssembly digunakan karena mempunyai kemampuan sandboxing bawaan. Pengembangan pendekatan ini memanfaatkan Spin SDK yang bersifat open source dan dikerjakan bersama Cloud Native Computing Foundation (CNCF).
Perusahaan Perlu Membangun Tata Kelola Sebelum Menggunakan AI Agent
Selain kesiapan teknologi, pengaturan alur kerja menjadi faktor penting sebelum perusahaan memberikan kewenangan kepada agen AI. Jay menyarankan agar tingkat kepercayaan terhadap teknologi ini dibangun secara bertahap, bukan dengan langsung menyerahkan seluruh pekerjaan.
Perusahaan dapat memulai dengan menentukan jenis pekerjaan yang diperbolehkan, batas kewenangan, dan prosedur yang wajib diikuti. Pendekatan tersebut dapat disamakan dengan pemberian tanggung jawab kepada tenaga kerja manusia.
Jay menggambarkan prinsip tersebut sebagai berikut.
"Pendekatannya kurang lebih sama seperti ketika perusahaan memberikan tugas kepada karyawan manusia,"
Setelah batas pekerjaan ditentukan, aktivitas dan keputusan yang dihasilkan agen perlu diawasi. Perusahaan juga harus mampu mengenali anomali maupun tindakan yang menyimpang dari prosedur normal.
Jay menyarankan agar perusahaan terlebih dahulu memahami alur kerja normal atau happy path. Berikutnya, berbagai kemungkinan pengecualian atau exception paths perlu dipetakan agar agen AI dapat menghadapi situasi di luar prosedur umum.
Pada tahap awal penerapan, keterlibatan manusia tetap diperlukan melalui mekanisme human-in-the-loop. Artinya, keputusan yang dihasilkan AI masih diperiksa dan divalidasi oleh manusia sebelum dijalankan lebih lanjut.
Jay mencontohkan penerapan mekanisme maker-checker yang telah dikenal dalam industri keuangan.
"Salah satu contohnya adalah proses maker-checker yang umum digunakan di industri keuangan. Dalam mekanisme ini, AI terlebih dahulu mengambil keputusan, kemudian manusia memeriksa dan memvalidasi keputusan tersebut,"
Dalam mekanisme tersebut, agen AI dapat menghasilkan keputusan untuk diperiksa manusia. Sebaliknya, manusia juga dapat mengambil keputusan dengan bantuan AI untuk memeriksa proses yang dilakukan.
Apabila perusahaan sudah memahami kemampuan teknologi, mempunyai batas operasional yang jelas, dan mempercayai hasil keputusan AI, tingkat otonomi dapat ditingkatkan secara bertahap menuju otomatisasi penuh.
Meski demikian, peningkatan otonomi tidak menghilangkan kebutuhan pengawasan. Tata kelola, pembatasan kewenangan, pemantauan aktivitas, dan kemampuan audit tetap diperlukan agar perusahaan dapat mengetahui penyebab kesalahan serta mengambil tindakan ketika terjadi gangguan.
What's Your Reaction?
-
0
Like -
0
Dislike -
0
Funny -
0
Angry -
0
Sad -
0
Wow