Human-in-the-loop (HITL, con người trong vòng lặp) là mô hình vận hành trong đó con người là một bước bắt buộc của quy trình tự động: AI hoặc hệ thống xử lý và đề xuất, con người xem xét, xác nhận, chỉnh sửa hoặc từ chối trước khi quy trình đi tiếp, nhất là ở những bước nhạy cảm.
Khi doanh nghiệp đưa AI vào vận hành, câu hỏi khó nhất thường không phải "AI làm được gì", mà là "AI được tự quyết đến đâu". Mô hình ngôn ngữ có thể đọc hiểu văn bản rất nhanh, nhưng vẫn có lúc hiểu sai, trích sai hoặc tạo ra thông tin không có thật (hiện tượng thường gọi là "ảo giác"). Với những quyết định ảnh hưởng tới tài chính, pháp lý hay nhân sự, doanh nghiệp cần một điểm dừng để con người xác nhận. Human-in-the-loop chính là cách thiết kế điểm dừng đó ngay trong quy trình.
Human-in-the-loop hoạt động như thế nào?
Một luồng có human-in-the-loop thường đi qua năm bước:
- AI xử lý đầu vào: phân loại yêu cầu, trích xuất dữ liệu từ tài liệu hoặc kiểm tra thông tin theo quy tắc. Kết quả nên ở dạng có cấu trúc để con người dễ đối chiếu.
- Quy tắc chuyển cho người: quy trình xác định khi nào cần con người. Có ba kiểu phổ biến: bước được thiết kế là bắt buộc phải duyệt; giá trị vượt ngưỡng do doanh nghiệp đặt; hoặc AI có độ tin cậy thấp với kết quả của mình.
- Người duyệt nhận việc kèm ngữ cảnh: nhiệm vụ được giao cho đúng cá nhân, vai trò hoặc quản lý, kèm biểu mẫu hiển thị kết quả AI và dữ liệu gốc.
- Con người quyết định: đồng ý, chỉnh sửa rồi đồng ý, hoặc trả lại. Quy trình rẽ nhánh theo quyết định này.
- Lưu vết và theo dõi thời hạn: hệ thống ghi lại ai quyết định gì, khi nào; nhắc người duyệt khi việc sắp quá hạn.
Điểm quan trọng: con người không phải làm lại từ đầu. AI đã chuẩn bị phần lớn công việc, người duyệt chỉ tập trung vào phán đoán.
Lợi ích và khi nào doanh nghiệp cần human-in-the-loop
Lợi ích chính
- Giảm rủi ro từ sai sót của AI: kết quả sai được phát hiện trước khi đi vào hệ thống hoặc đến tay khách hàng.
- Rõ trách nhiệm giải trình: mỗi quyết định quan trọng gắn với một người cụ thể và có lịch sử lưu lại.
- Mở rộng tự động hóa từng bước: doanh nghiệp bắt đầu với nhiều điểm duyệt, sau đó giảm dần ở những bước AI đã chứng minh ổn định.
- Dễ được chấp thuận nội bộ: lãnh đạo và bộ phận kiểm soát yên tâm hơn khi biết con người vẫn giữ quyết định cuối.
Khi nào nên đặt con người vào quy trình
- Quyết định có tác động tài chính, như phê duyệt thanh toán hoặc khoản chi lớn.
- Nội dung có giá trị pháp lý, như điều khoản hợp đồng.
- Quyết định liên quan đến con người, như sàng lọc hồ sơ tuyển dụng.
- Dữ liệu nhạy cảm hoặc quy trình cần phục vụ kiểm toán.
- AI xử lý loại tài liệu mới, chưa có nhiều kinh nghiệm thực tế.
Ngược lại, những tác vụ rủi ro thấp, quy tắc rõ ràng, như gửi thông báo trạng thái, có thể để hệ thống tự chạy.
Human-in-the-loop khác gì human-on-the-loop?
Hai khái niệm này nghe gần giống nhau nhưng khác ở vị trí của con người:
[Bảng — định dạng lại trong Sanity Studio nếu cần]
Mô hình · Vai trò của con người · Phù hợp với
Human-in-the-loop · Là một bước bắt buộc; quy trình chờ con người quyết định rồi mới đi tiếp · Bước nhạy cảm, rủi ro cao
Human-on-the-loop · Giám sát quy trình đang tự chạy, can thiệp khi thấy bất thường · Khối lượng lớn, rủi ro trung bình
Tự động, không có người can thiệp · Chỉ thiết kế quy tắc ban đầu · Tác vụ rủi ro thấp, quy tắc ổn định
Một quy trình thực tế thường kết hợp cả ba: phần lớn bước chạy tự động, một số bước được giám sát, và vài điểm then chốt bắt buộc có người duyệt.
Thiết kế human-in-the-loop sao cho không làm chậm quy trình
Nhiều doanh nghiệp lo rằng thêm bước duyệt sẽ kéo dài thời gian xử lý. Theo kinh nghiệm thiết kế của chúng tôi, vấn đề thường nằm ở cách đặt điểm duyệt chứ không nằm ở bản thân việc duyệt:
- Chỉ duyệt nơi cần duyệt: dùng ngưỡng giá trị hoặc độ tin cậy để quyết định, thay vì bắt duyệt mọi hồ sơ.
- Cho người duyệt đủ ngữ cảnh: hiển thị kết quả AI cạnh tài liệu gốc để quyết định nhanh.
- Đặt thời hạn và nhắc việc: tránh hồ sơ nằm chờ không ai biết.
- Xem lại định kỳ: dựa trên lịch sử duyệt để điều chỉnh ngưỡng cho hợp lý.
Ứng dụng thực tế: human-in-the-loop trong AgentFlow
Trong AgentFlow, nền tảng AI-Native Workflow Automation của Innomation, human-in-the-loop là một phần của thiết kế quy trình. AI Agent phân loại, trích xuất và kiểm tra dữ liệu; tại các bước nhạy cảm hoặc khi AI có độ tin cậy thấp, quy trình chuyển cho con người phê duyệt. Doanh nghiệp phân công người duyệt theo cá nhân, vai trò hoặc quản lý, kèm biểu mẫu tùy chỉnh để kiểm tra kết quả AI.
AgentFlow cũng cho phép giới hạn ngân sách token theo từng bước, dùng đầu ra có cấu trúc, lưu lịch sử thực thi và cho phép chạy thử trên bản nháp trước khi áp dụng. Mỗi doanh nghiệp có ngưỡng rủi ro khác nhau, vì vậy Innomation thiết kế may đo vị trí các điểm duyệt theo quy trình riêng của từng đơn vị.
Câu hỏi thường gặp
Human-in-the-loop có làm chậm quy trình không?
Nếu đặt điểm duyệt hợp lý, ảnh hưởng thường nhỏ, vì AI đã chuẩn bị sẵn dữ liệu và người duyệt chỉ cần xác nhận. Quy trình chỉ chậm khi bắt duyệt ở mọi bước.
Khi nào nên để con người duyệt thay vì để AI tự quyết?
Khi quyết định có tác động tài chính, pháp lý, nhân sự, khi dữ liệu nhạy cảm, hoặc khi AI không chắc chắn về kết quả.
Làm sao biết AI đang có độ tin cậy thấp?
Nhiều hệ thống AI trả về kèm mức tin cậy cho từng kết quả. Doanh nghiệp đặt ngưỡng, dưới ngưỡng thì chuyển cho người duyệt.
Human-in-the-loop có loại bỏ được mọi sai sót không?
Không. Mô hình này giảm rủi ro và tạo trách nhiệm giải trình, nhưng chất lượng vẫn phụ thuộc vào quy tắc thiết kế và sự cẩn trọng của người duyệt.
Anh/chị muốn xác định điểm duyệt phù hợp cho quy trình của mình? Tìm hiểu thêm về AgentFlow tại innomation.vn/product/agentflow.