Menu
Close
Suara Independent News

Independen, Akurat, Terpercaya

Perusahaan Perketat Keamanan Siber untuk Hadapi Ancaman AI Agent

Smallest Font
Largest Font

Penggunaan kecerdasan buatan yang mampu menjalankan tugas secara mandiri meningkatkan tantangan keamanan siber di lingkungan perusahaan. Akamai mengingatkan bahwa teknologi AI agent membutuhkan pengawasan dan pembatasan akses agar tidak membahayakan data maupun sistem internal.

Dilansir dari Tekno, Director of Security Technology and Strategy Asia Pacific and Japan Akamai, Reuben Koh, menjelaskan bahwa kemampuan AI untuk melakukan penalaran, mengakses API, dan menjalankan alur kerja tanpa instruksi berulang menuntut perusahaan memperbarui pendekatan keamanan mereka.

Berbeda dengan layanan AI yang hanya memberikan jawaban, AI agent dapat melakukan tindakan atas nama pengguna. Karena itu, pengelolaan identitas dan hak akses tidak cukup hanya difokuskan pada karyawan atau pengguna manusia.

Perusahaan perlu mengawasi identitas nonmanusia (nonhuman identity), termasuk agen AI yang memperoleh akses ke aplikasi, informasi, dan sumber daya internal organisasi.

Reuben menjelaskan perubahan mendasar yang terjadi ketika sistem kecerdasan buatan mulai menjalankan aktivitas secara mandiri.

"Transisi ini menyebabkan perubahan mendasar dalam keamanan perusahaan. Aplikasi tradisional umumnya beroperasi dalam batasan yang telah ditentukan, dengan pengguna manusia yang mengambil keputusan dan memberikan otorisasi atas tindakan,"

Risiko dapat muncul ketika agen memperoleh kewenangan terlalu luas atau ketika pihak eksternal berhasil memengaruhi perilakunya. Situasi tersebut membuat perusahaan harus menetapkan batas operasional yang terukur.

Reuben menekankan pentingnya pengaturan kewenangan setiap agen sebelum teknologi tersebut digunakan dalam aktivitas perusahaan.

"Karena itu, perusahaan perlu menentukan batasan yang jelas mengenai data yang boleh diakses setiap agen, tindakan yang dapat dilakukan, serta kondisi yang mengharuskannya meminta persetujuan manusia,"

Penggunaan AI Berpotensi Membocorkan Data Perusahaan

Ancaman keamanan tidak hanya berasal dari AI agent. Pemanfaatan layanan kecerdasan buatan oleh karyawan melalui akun pribadi juga dapat membuka kemungkinan tersebarnya informasi internal kepada platform pihak ketiga.

Berdasarkan riset Akamai, lebih dari 6 persen percakapan dengan chatbot memuat informasi sensitif milik perusahaan. Sementara itu, sebanyak 47 persen interaksi AI berlangsung menggunakan akun pribadi karyawan yang tidak berada dalam pengawasan tim keamanan teknologi informasi (TI).

Penggunaan akun di luar sistem pemantauan organisasi menyulitkan perusahaan mengetahui informasi apa saja yang dibagikan kepada layanan AI eksternal.

Reuben turut mengingatkan mengenai risiko ketika karyawan memasukkan data pribadi dan informasi keuangan ke dalam layanan kecerdasan buatan publik.

Informasi seperti Nomor Induk Kependudukan (NIK) dan data finansial dapat menimbulkan persoalan perlindungan data pribadi apabila dibagikan tanpa pengelolaan yang sesuai.

Praktik tersebut juga berpotensi berkaitan dengan pelanggaran Undang-Undang Perlindungan Data Pribadi (UU PDP), terutama ketika pemindahan informasi lintas batas negara berlangsung tanpa otorisasi dan pencatatan yang sah.

Ekstensi AI dan Integrasi Sistem Perlu Diawasi

Penggunaan ekstensi peramban (browser extension) berbasis kecerdasan buatan menjadi perhatian lain dalam temuan Akamai. Lebih dari 40 persen pengguna di lingkungan perusahaan diketahui telah memasang ekstensi AI.

Dari kelompok pengguna tersebut, 25 persen di antaranya melakukan perubahan izin akses dalam kurun 12 bulan. Temuan lainnya menunjukkan ekstensi berbasis AI memiliki potensi kerentanan atau Common Vulnerabilities and Exposures (CVE) 60 persen lebih tinggi dibandingkan ekstensi standar.

Integrasi kecerdasan buatan dengan sistem internal melalui Model Context Protocol (MCP) juga membutuhkan perlindungan khusus. Apabila server MCP tidak menggunakan isolasi berdasarkan prinsip Zero Trust, gangguan pada sistem AI berpotensi menjalar ke berbagai sistem perusahaan yang terhubung.

Tiga Tingkat Otonomi AI untuk Mengurangi Risiko

Akamai merekomendasikan pengaturan tingkat kemandirian AI agent berdasarkan konsekuensi tindakan yang dapat dilakukan. Reuben membagi penerapannya menjadi tiga kategori yang dapat disesuaikan dengan kebutuhan dan tingkat risiko pekerjaan.

1. Full autonomy

Pada kategori ini, agen AI dapat menjalankan tugas tanpa campur tangan manusia atau hanya membutuhkan sedikit pengawasan. Penggunaannya lebih sesuai untuk aktivitas berisiko rendah, misalnya merangkum dokumen internal perusahaan.

2. Semi-autonomous

Kategori kedua memungkinkan AI bekerja secara mandiri dengan tetap berada dalam pengawasan manusia (human-on-the-loop). Manusia bertugas memantau aktivitas sekaligus melakukan koreksi apabila sistem menghasilkan tindakan atau keputusan yang keliru.

3. Strict approval

Dalam tingkat ini, setiap tindakan tertentu harus memperoleh persetujuan manusia sebelum dijalankan oleh AI. Penerapannya diperlukan untuk aktivitas dengan konsekuensi besar, seperti transaksi keuangan dan perubahan konfigurasi jaringan perusahaan.

Reuben menjelaskan bahwa pemilihan tingkat otonomi harus mempertimbangkan dampak dari setiap penggunaan teknologi tersebut.

"Perusahaan perlu mengklasifikasikan setiap kasus penggunaan berdasarkan potensi dampaknya, menentukan tindakan yang diizinkan dan batasan akses, serta menetapkan prosedur eskalasi yang jelas,"

Selain menentukan kategori otonomi, perusahaan perlu menjalankan pemantauan aktivitas AI secara berkelanjutan. Pembatasan hak akses berdasarkan prinsip least privilege dan pendeteksian penyimpangan perilaku secara real-time juga menjadi bagian penting dari pengamanan sistem.

Dengan pendekatan tersebut, kewenangan AI agent dapat disesuaikan dengan kebutuhan pekerjaan, sementara tindakan yang memiliki dampak besar tetap berada dalam kendali dan persetujuan manusia.

Advertisement
Scroll To Continue with Content

Disclaimer

This article was automatically rewritten by AI based on source: tekno.kompas.com without altering the facts of the original article.
Follow suaraindependentnews.id Add to preferred sources on Google
Editors Team

What's Your Reaction?

  • Like
    0
    Like
  • Dislike
    0
    Dislike
  • Funny
    0
    Funny
  • Angry
    0
    Angry
  • Sad
    0
    Sad
  • Wow
    0
    Wow

Most viewed