Lewati ke konten

Pengetahuan yang menerangi dunia

Apa Itu Agen AI? Pergeseran dari Chat ke Asisten yang Mampu Menjalankan Tugas

AI tidak lagi sekadar menjawab pertanyaan: ia dapat menjelajahi web, mengisi formulir, mengedit file, dan menjalankan tugas multi-langkah secara mandiri. Cara kerja agen, contoh penggunaannya, risiko, serta prinsip untuk menggunakannya dengan aman.

Apa Itu Agen AI? Pergeseran dari Chat ke Asisten yang Mampu Menjalankan Tugas

Asisten chat AI pertama adalah alat yang menghasilkan jawaban tunggal untuk sebuah pertanyaan. Generasi sistem baru yang disebut "agen" dapat, ketika diberikan sebuah tujuan, merencanakan langkah-langkah yang diperlukan untuk mencapainya, menggunakan alat seperti mencari di web, membaca dan menulis file, menjalankan kode atau menavigasi situs web, serta memeriksa hasilnya, dan mencoba lagi jika diperlukan.

Bagaimana cara kerjanya?

Seorang agen biasanya bekerja dalam sebuah siklus: ia memahami tugas, membuat rencana, menggunakan alat (misalnya menjalankan pencarian atau membuka file), mengevaluasi hasil, dan memutuskan langkah selanjutnya. Siklus ini berlanjut hingga tugas selesai atau diperlukan persetujuan pengguna. Apa yang dapat dilakukan oleh seorang agen bergantung pada alat dan data apa saja yang telah diberikan akses kepadanya.

Contoh penggunaan

  • Riset: Memindai puluhan sumber dan menyiapkan laporan yang dilengkapi referensi.
  • Pekerjaan kantor: Mengumpulkan informasi dari email ke dalam tabel, menjadwalkan pertemuan.
  • Perangkat lunak: Menemukan dan memperbaiki bug dalam basis kode, menulis pengujian.
  • Tugas pribadi: Membandingkan opsi perjalanan, mengisi formulir (dengan persetujuan untuk langkah-langkah kritis seperti pembayaran).

Risiko

  • Tindakan yang salah: Seorang agen mungkin salah memahami instruksi dan mengirim email yang tidak diinginkan atau menghapus file.
  • Prompt injection: Instruksi berbahaya yang tersembunyi di halaman web atau dokumen dapat mencoba mengarahkan agen. Ini adalah salah satu masalah keamanan yang paling banyak diperdebatkan untuk agen.
  • Izin berlebihan: Akses luas ke area sensitif seperti rekening bank atau sistem perusahaan membawa risiko kerugian serius.
  • Akuntabilitas: Pengguna atau organisasi pada akhirnya bertanggung jawab atas tindakan yang diambil oleh agen.

Prinsip untuk penggunaan aman

  1. Berikan agen hanya izin minimum yang diperlukan untuk tugas tersebut.
  2. Atur agar agen meminta persetujuan sebelum melakukan langkah-langkah yang tidak dapat dibatalkan seperti mentransfer uang, melakukan pembelian, mengirim email, dan menghapus.
  3. Tinjau log tindakan yang telah diambil oleh agen.
  4. Berhati-hatilah saat membiarkan agen memproses dokumen dan situs dari sumber yang tidak dikenal.

Perbedaan antara agen AI dan otomatisasi klasik

Alat otomatisasi klasik yang telah digunakan di tempat kerja selama bertahun-tahun bekerja sesuai dengan aturan yang telah ditulis sebelumnya, seperti "Jika faktur tiba di folder ini, tulis jumlahnya ke dalam spreadsheet." Ketika mereka menghadapi situasi di luar aturan, mereka biasanya berhenti. Sebaliknya, agen AI menerima tujuan dalam bahasa alami, merencanakan langkah-langkahnya sendiri, dan dapat mencoba rute yang berbeda ketika terjadi sesuatu yang tidak terduga.

  • Fleksibilitas: Seorang agen dapat mencoba memahami dokumen yang formatnya telah berubah; alat berbasis aturan tidak dapat melakukannya.
  • Prediktabilitas: Otomatisasi klasik memberikan hasil yang sama setiap saat; perilaku agen dapat bervariasi tergantung input, dan ia dapat melakukan kesalahan.
  • Pengawasan: Inilah sebabnya mengapa menyimpan catatan setiap langkah dan mewajibkan persetujuan manusia untuk tindakan penting menjadi jauh lebih penting pada agen.

Pertanyaan yang perlu diajukan sebelum menggunakan agen

Komunitas keamanan OWASP memasukkan "excessive agency" (agensi berlebihan) ke dalam daftar risiko paling penting dalam aplikasi model bahasa besar: jika seorang agen diberikan lebih banyak izin daripada yang diperlukan, instruksi yang salah dipahami atau konten berbahaya dapat menyebabkan kerugian nyata.

Itulah sebabnya penting untuk menanyakan hal-hal berikut sebelum mulai menggunakan agen: Akun dan file mana saja yang dapat diaksesnya? Apakah tindakan yang tidak dapat dibatalkan seperti mengirim uang, menghapus, atau mengirim email memerlukan persetujuan saya? Bisakah saya melihat setiap langkah yang telah diambil setelahnya? Kerangka Kerja Manajemen Risiko AI dari National Institute of Standards and Technology (NIST) Amerika Serikat juga merekomendasikan pemantauan berkelanjutan terhadap efek sistem AI dan tanggung jawab yang ditentukan dengan jelas.

Fitur, rencana, dan harga alat AI sering berubah. Selalu periksa halaman resmi alat tersebut untuk informasi terkini.

Pertanyaan yang sering diajukan

Apa perbedaan antara agen dan asisten chat?

Asisten chat utamanya menghasilkan jawaban; agen mengambil tindakan dengan menggunakan alat untuk mencapai suatu tujuan. Karena banyak asisten sekarang menyertakan fitur agen, batasan di antara keduanya menjadi semakin kabur.

Sumber dan bacaan lebih lanjut

  1. OWASP, “Top 10 for LLM Applications” (prompt injection and excessive agency).
  2. NIST, “AI Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
  3. Shunyu Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models”, ICLR, 2023.
  4. OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
  5. NIST – AI Risk Management Framework (AI RMF 1.0), 2023
Bagikan
Ikuti YulaHubDapatkan berita terpenting hari ini lebih dulu.
RSS

Tinggalkan komentar

Alamat email Anda tidak akan dipublikasikan. Kolom yang wajib diisi ditandai *