Chuyển đến nội dung

Tri thức soi sáng thế giới

Tác nhân AI là gì? Sự chuyển dịch từ trò chuyện sang trợ lý thực hiện tác vụ

AI không còn chỉ trả lời các câu hỏi: nó có thể duyệt web, điền biểu mẫu, chỉnh sửa tệp và tự mình thực hiện các tác vụ gồm nhiều bước. Tìm hiểu cách thức hoạt động của các tác nhân, ví dụ về cách sử dụng, các rủi ro và nguyên tắc để sử dụng chúng một cách an toàn.

Tác nhân AI là gì? Sự chuyển dịch từ trò chuyện sang trợ lý thực hiện tác vụ

Các trợ lý trò chuyện AI đầu tiên là những công cụ tạo ra một câu trả lời duy nhất cho một câu hỏi. Thế hệ hệ thống mới được gọi là “tác nhân” (agents) có thể, khi được giao một mục tiêu, lập kế hoạch các bước cần thiết để đạt được mục tiêu đó, sử dụng các công cụ như tìm kiếm trên web, đọc và ghi tệp, chạy mã hoặc điều hướng một trang web, và kiểm tra kết quả, thử lại nếu cần.

Chúng hoạt động như thế nào?

Một tác nhân thường hoạt động theo vòng lặp: nó hiểu tác vụ, lập kế hoạch, sử dụng công cụ (ví dụ: chạy tìm kiếm hoặc mở tệp), đánh giá kết quả và quyết định bước tiếp theo. Vòng lặp tiếp tục cho đến khi tác vụ hoàn thành hoặc cần sự phê duyệt của người dùng. Những gì một tác nhân có thể làm phụ thuộc vào các công cụ và dữ liệu mà nó được cấp quyền truy cập.

Ví dụ về cách sử dụng

  • Nghiên cứu: Quét hàng chục nguồn và chuẩn bị một báo cáo có trích dẫn.
  • Công việc văn phòng: Thu thập thông tin từ email vào bảng tính, lên lịch họp.
  • Phần mềm: Tìm và sửa lỗi trong cơ sở mã, viết các bài kiểm thử.
  • Tác vụ cá nhân: So sánh các lựa chọn du lịch, điền biểu mẫu (với sự phê duyệt cho các bước quan trọng như thanh toán).

Rủi ro

  • Hành động sai: Một tác nhân có thể hiểu sai hướng dẫn và gửi một email không mong muốn hoặc xóa một tệp.
  • Tiêm lệnh (Prompt injection): Các hướng dẫn độc hại ẩn trong một trang web hoặc tài liệu có thể cố gắng điều khiển tác nhân. Đây là một trong những vấn đề bảo mật được tranh luận nhiều nhất đối với các tác nhân.
  • Quyền hạn quá mức: Việc truy cập rộng rãi vào các khu vực nhạy cảm như tài khoản ngân hàng hoặc hệ thống công ty mang lại nguy cơ gây hại nghiêm trọng.
  • Trách nhiệm giải trình: Người dùng hoặc tổ chức cuối cùng phải chịu trách nhiệm cho các hành động mà tác nhân thực hiện.

Nguyên tắc sử dụng an toàn

  1. Chỉ cấp cho tác nhân các quyền tối thiểu cần thiết cho tác vụ.
  2. Thiết lập để tác nhân yêu cầu phê duyệt trước các bước không thể đảo ngược như chuyển tiền, mua hàng, gửi email và xóa dữ liệu.
  3. Xem xét nhật ký các hành động mà tác nhân đã thực hiện.
  4. Cẩn trọng khi để tác nhân xử lý các tài liệu và trang web từ các nguồn không xác định.

Sự khác biệt giữa tác nhân AI và tự động hóa cổ điển

Các công cụ tự động hóa cổ điển được sử dụng tại nơi làm việc trong nhiều năm hoạt động theo các quy tắc được viết sẵn, chẳng hạn như "Nếu hóa đơn đến trong thư mục này, hãy ghi số tiền vào bảng tính." Khi gặp tình huống nằm ngoài các quy tắc, chúng thường dừng lại. Ngược lại, các tác nhân AI nhận mục tiêu bằng ngôn ngữ tự nhiên, tự lập kế hoạch các bước và có thể thử một lộ trình khác khi có điều bất ngờ xảy ra.

  • Tính linh hoạt: Một tác nhân có thể cố gắng hiểu một tài liệu có định dạng đã thay đổi; một công cụ dựa trên quy tắc thì không thể.
  • Tính dự đoán: Tự động hóa cổ điển cho cùng một kết quả mỗi lần; hành vi của tác nhân có thể thay đổi theo đầu vào và nó có thể mắc lỗi.
  • Giám sát: Đây là lý do tại sao việc lưu giữ hồ sơ của mọi bước và yêu cầu sự phê duyệt của con người đối với các hành động quan trọng lại càng quan trọng hơn với các tác nhân.

Các câu hỏi cần đặt ra trước khi sử dụng một tác nhân

Cộng đồng bảo mật OWASP đưa "quyền hạn quá mức" (excessive agency) vào danh sách các rủi ro quan trọng nhất trong các ứng dụng mô hình ngôn ngữ lớn: nếu một tác nhân được cấp nhiều quyền hơn mức cần thiết, một hướng dẫn bị hiểu sai hoặc nội dung độc hại có thể gây ra thiệt hại thực sự.

Đó là lý do tại sao việc đặt ra các câu hỏi sau trước khi bắt đầu sử dụng một tác nhân là rất hữu ích: Nó có thể truy cập những tài khoản và tệp nào? Các hành động không thể đảo ngược như gửi tiền, xóa hoặc gửi email có yêu cầu sự phê duyệt của tôi không? Tôi có thể xem lại mọi bước mà nó đã thực hiện sau đó không? Khung quản lý rủi ro AI của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) cũng khuyến nghị việc giám sát liên tục các tác động của hệ thống AI và xác định rõ ràng trách nhiệm.

Các tính năng, gói dịch vụ và giá cả của các công cụ AI thay đổi thường xuyên. Luôn kiểm tra trang chính thức của công cụ để biết thông tin hiện tại.

Các câu hỏi thường gặp

Sự khác biệt giữa tác nhân và trợ lý trò chuyện là gì?

Một trợ lý trò chuyện chủ yếu tạo ra các câu trả lời; một tác nhân thực hiện các hành động bằng cách sử dụng các công cụ để đạt được mục tiêu. Vì nhiều trợ lý hiện nay đã bao gồm các tính năng tác nhân, ranh giới giữa chúng ngày càng trở nên mờ nhạt.

Nguồn và đọc thêm

  1. OWASP, “Top 10 cho các ứng dụng LLM” (tiêm lệnh và quyền hạn quá mức).
  2. NIST, “Khung quản lý rủi ro AI: Hồ sơ AI tạo sinh” (NIST AI 600-1), 2024.
  3. Shunyu Yao và cộng sự, “ReAct: Kết hợp suy luận và hành động trong các mô hình ngôn ngữ”, ICLR, 2023.
  4. OWASP – Top 10 cho các ứng dụng LLM 2025 (Quyền hạn quá mức)
  5. NIST – Khung quản lý rủi ro AI (AI RMF 1.0), 2023
Chia sẻ
Theo dõi YulaHubNhận những tin quan trọng nhất trong ngày sớm nhất.
RSS

Để lại bình luận

Địa chỉ email của bạn sẽ không được công khai. Các trường bắt buộc được đánh dấu *