- Trang chủ
- Giới thiệu
- Cơ cấu tổ chức
- Tin tức hoạt động
- Bài viết chuyên ngành
- Đào tạo & Huấn luyện
- Đối tác tiêu biểu
Ngày đăng: 08:44 03/07/2026 - Lượt xem: 72
 |
Bà Nguyễn Thị Tuyết Mai - Chuyên gia Hội đồng Tư vấn đầu tư, pháp lý và tài chính PHẦN 1. KHI AI BẮT ĐẦU HÀNH ĐỘNG, DOANH NGHIỆP PHẢI KIỂM SOÁT ĐIỀU GÌ?Agentic AI không chỉ tạo nội dung mà còn có thể truy cập dữ liệu, sử dụng phần mềm và thực hiện công việc trên các hệ thống thật. Khi AI được quyền hành động, một sai sót nhỏ có thể nhanh chóng trở thành tổn thất tài chính, pháp lý và uy tín đối với doanh nghiệp. Trong thời gian 3 năm gần đây khi AI xuất hiện, doanh nghiệp chủ yếu sử dụng AI như một công cụ hỗ trợ hỏi đáp, viết nội dung hoặc phân tích dữ liệu. Người dùng đưa ra yêu cầu, AI tạo kết quả và con người quyết định có sử dụng hay không. Và Agentic AI tạo ra một bước chuyển hoàn toàn khác. Thay vì chỉ trả lời, hệ thống có thể nhận mục tiêu, tự lập kế hoạch, truy cập email, CRM, ERP, cơ sở dữ liệu hoặc phần mềm tài chính để thực hiện chuỗi công việc nhiều bước. |
Một tác nhân AI có thể đọc yêu cầu của khách hàng, kiểm tra tồn kho, đề xuất mức giá, soạn báo giá và gửi đi. Hiệu quả vận hành có thể tăng mạnh, nhưng rủi ro cũng thay đổi về bản chất. Một câu trả lời sai trước đây chỉ cần được chỉnh sửa; một hành động sai hôm nay có thể tạo ra hàng trăm giao dịch hoặc cam kết thương mại trước khi con người kịp phát hiện.
Vì vậy, Agentic AI trước hết là bài toán quản trị, không chỉ là bài toán công nghệ cho doanh nghiệp.
Khi sử dụng AI không đúng cách sẽ xuất hiện các rủi ro phổ biến như: AI hành động vượt thẩm quyền; rò rỉ dữ liệu; quyết định sai lan truyền qua nhiều bước; thiếu nhật ký truy vết; phụ thuộc nhà cung cấp; nhân viên quá lệ thuộc vào AI; thiên lệch trong tuyển dụng hoặc đánh giá khách hàng; thiếu minh bạch khi AI tương tác với người dùng; bị lạm dụng quyền truy cập hệ thống; và không có quy trình dừng khẩn cấp khi xảy ra sự cố.
Điểm chung của các rủi ro này là chúng không thể được giải quyết chỉ bằng việc mua thêm phần mềm bảo mật. Vì vậy các Doanh nghiệp phải xác định rõ:
Trách nhiệm cũng không thể giao riêng cho phòng công nghệ thông tin. Một hệ thống AI có thể liên quan đồng thời đến kinh doanh, vận hành, dữ liệu, an ninh mạng, pháp chế, nhân sự và kiểm toán nội bộ. Nếu không phân công từ đầu, sự cố xảy ra sẽ dẫn đến tình trạng các bộ phận đùn đẩy trách nhiệm.
Trước hết, không triển khai một tác nhân AI khi chưa có chủ sở hữu quy trình nghiệp vụ. Mỗi hệ thống phải có một cá nhân chịu trách nhiệm rõ ràng về kết quả.
Tiếp theo, không cấp ngay quyền gửi, ghi dữ liệu hoặc thực hiện giao dịch không giới hạn. Doanh nghiệp nên bắt đầu từ quyền đọc, quyền đề xuất hoặc quyền soạn thảo, sau đó chỉ mở rộng khi hệ thống đã được kiểm chứng.
Cuối cùng, những quyết định tác động lớn đến khách hàng, người lao động, tài sản hoặc nghĩa vụ pháp lý phải giữ con người trong vòng kiểm soát.
Agentic AI không làm giảm trách nhiệm của doanh nghiệp. Ngược lại, hệ thống càng có khả năng hành động, doanh nghiệp càng phải xác định rõ ai cấp quyền, ai giám sát và ai chịu trách nhiệm.
Doanh nghiệp không nên lựa chọn giữa đổi mới và kiểm soát. Một mô hình quản trị phù hợp có thể giúp AI tạo ra giá trị kinh doanh, đồng thời giới hạn rủi ro về dữ liệu, vận hành và trách nhiệm pháp lý.
Để đưa Agentic AI vào hoạt động thực tế, doanh nghiệp cần một cơ chế quản trị xuyên suốt, từ xác định mục tiêu đến đánh giá hiệu quả. Mô hình sáu lớp là một khung đơn giản để lãnh đạo chuyển các nguyên tắc quản trị thành hành động cụ thể.
Mỗi tác nhân AI phải giải quyết một vấn đề có thể đo lường, như rút ngắn thời gian phản hồi khách hàng, giảm sai sót nhập liệu hoặc tiết kiệm chi phí xử lý. Nếu không xác định được mục tiêu và chỉ số đánh giá, doanh nghiệp chưa nên triển khai.
Doanh nghiệp cần đánh giá hệ thống có thể ảnh hưởng như thế nào đến con người, dữ liệu, tài sản, quyền lợi khách hàng, uy tín và hoạt động thiết yếu. Hệ thống rủi ro càng cao thì mức độ kiểm soát, giám sát và lưu trữ hồ sơ càng phải chặt chẽ.
AI chỉ nên được cấp đúng quyền cần thiết cho nhiệm vụ. Thang quyền có thể đi từ chỉ đọc dữ liệu, đưa ra đề xuất, soạn nhưng không gửi, đến thực hiện trong một giới hạn nhất định. Những hành động nhạy cảm phải bắt buộc có người phê duyệt.
Đối với tác vụ rủi ro cao, con người cần phê duyệt trước khi AI hành động. Với tác vụ rủi ro trung bình, con người có thể giám sát và can thiệp khi cần. Chỉ những công việc lặp lại, rủi ro thấp và đã được kiểm chứng mới nên cho phép tự động thực hiện trong phạm vi giới hạn.
Mọi hành động quan trọng của AI cần được ghi lại, bao gồm dữ liệu đầu vào, công cụ sử dụng, kết quả, người phê duyệt và phiên bản hệ thống. Doanh nghiệp đồng thời phải có cơ chế dừng khẩn cấp, quy trình điều tra và kế hoạch phục hồi khi hệ thống hoạt động sai.
Doanh nghiệp cần theo dõi độ chính xác, tỷ lệ con người phải sửa, số hành động bị chặn, số sự cố, chi phí trên mỗi tác vụ và giá trị kinh tế tạo ra. Quyền của AI chỉ được mở rộng khi dữ liệu thực tế chứng minh hệ thống đủ an toàn và hiệu quả.
Trong 30 ngày đầu, doanh nghiệp cần kiểm kê toàn bộ công cụ AI đang được sử dụng, kể cả các công cụ nhân viên tự dùng ngoài chính sách. Đồng thời xác định hệ thống nào có quyền hành động, dữ liệu nào được truy cập và ai là chủ sở hữu từng quy trình.
Một điều thật sự rất quan trọng mà các doanh nghiệp thường chủ quan bỏ qua trong thời gian đầu khi tiếp cận với AI đó là đội ngũ nhân viên cần phải nắm rõ nguyên tắc làm việc với AI để vận hành công việc. Việc kiểm soát AI tốt thì cần biết cách tư duy và làm việc với AI nếu không sẽ trở thành phản ứng ngược và không hiệu quả. Do đó việc Doanh nghiêp hỗ trợ cho Nhân viên và quản lý được đào tạo AI bài bản chuyên nghiệp ngay từ đầu là một lợi thế và là điều cần thiết và nên làm ngay để hạn chế các rủi ro phát sinh trong quá trình làm việc với AI.
Từ ngày 31 đến 60, doanh nghiệp xây dựng khung kiểm soát: phân loại rủi ro, giới hạn quyền truy cập, xác định điểm cần người phê duyệt, rà soát hợp đồng nhà cung cấp và thiết lập kênh báo cáo sự cố.
Trong 30 ngày cuối, doanh nghiệp lựa chọn một trường hợp rủi ro thấp để thử nghiệm, đo tỷ lệ lỗi, kiểm tra khả năng truy vết và thử cơ chế dừng khẩn cấp. Sau đó mới quyết định mở rộng, điều chỉnh hoặc dừng hệ thống.
Thông điệp quan trọng nhất là doanh nghiệp không nên mở rộng Agentic AI chỉ vì một thử nghiệm ban đầu hoạt động tốt. Điều kiện mở rộng phải là hệ thống đã được kiểm soát, có bằng chứng đo lường và có người chịu trách nhiệm rõ ràng.
Xem tài liệu đầy đủ tại đây:
