Một tình huống rất quen thuộc
Nhân viên kinh doanh cần soạn nhanh báo giá. Kế toán muốn tóm tắt một hợp đồng dài. Người mới vào làm không biết hỏi ai về quy định hoàn tiền. Cách nhanh nhất lúc đó là mở một chatbot công cộng, dán tài liệu vào và hỏi. Tiện, thường miễn phí, và có thể đang diễn ra trong doanh nghiệp của bạn mà bạn không hay biết.
Vấn đề không nằm ở công cụ, mà ở chỗ dữ liệu được dán vào có thể nằm ngoài tầm kiểm soát của doanh nghiệp, tùy điều khoản của dịch vụ.
Bài học từ Samsung: không cần ác ý vẫn lộ dữ liệu
Theo bài của Forbes Australia (dẫn báo cáo của Bloomberg ngày 2/5/2023), một kỹ sư của Samsung đã đưa mã nguồn nội bộ vào ChatGPT hồi tháng 4/2023. Samsung cũng đã gửi thông báo nội bộ cấm dùng các công cụ AI sinh tạo (trước thời điểm Bloomberg đưa tin). Lý do được nêu: dữ liệu gửi cho chatbot nằm trên máy chủ của nhà cung cấp (OpenAI, Microsoft, Google), khó truy cập hoặc xóa, và có lo ngại bị hiển thị cho người dùng khác.
Cũng theo bài báo, mức độ nghiêm trọng của vụ rò rỉ chưa rõ, và ChatGPT khi ấy lưu lịch sử trò chuyện theo mặc định, dùng để huấn luyện mô hình (người dùng có thể tắt). Tôi chỉ dẫn lại những gì bài báo nêu. Chính sách của từng dịch vụ thay đổi theo thời gian, nên hãy đọc điều khoản hiện hành của gói bạn đang dùng.
Theo bài báo, đây là việc một nhân viên đưa dữ liệu lên chatbot, không phải một cuộc tấn công. Từ đó chúng tôi rút ra một nhận định riêng (không có số liệu kiểm chứng): lệnh cấm đơn thuần có thể khiến nhân viên tìm cách dùng AI kín đáo hơn, nên cho họ một lựa chọn an toàn và dễ dùng sẽ hợp lý hơn.
Lựa chọn thay thế: trợ lý trả lời từ tài liệu nội bộ
Kỹ thuật phổ biến cho việc này gọi là RAG (truy xuất rồi sinh câu trả lời). Theo mô tả của Amazon Web Services, RAG cho mô hình ngôn ngữ tham chiếu một nguồn tri thức đáng tin cậy nằm ngoài dữ liệu huấn luyện trước khi trả lời, nên có thể áp dụng cho kiến thức riêng của doanh nghiệp mà không phải huấn luyện lại mô hình.
Cách hoạt động, nói gọn:
- Tài liệu nội bộ (quy trình, chính sách, bảng giá, hướng dẫn) thường được chia nhỏ và chuyển thành vector để tìm theo ý nghĩa (đây là cách triển khai phổ biến, không phải mô tả của AWS).
- Khi có câu hỏi, hệ thống tìm những đoạn liên quan nhất.
- Các đoạn đó được đưa kèm câu hỏi cho mô hình, để nó trả lời dựa trên chúng.
- Khi tài liệu đổi, cập nhật lại kho dữ liệu, không cần huấn luyện lại.
AWS cũng nêu một lợi ích thực tế cho quản trị: câu trả lời có thể kèm trích dẫn nguồn để người dùng kiểm tra, và nhà phát triển có thể giới hạn việc truy xuất theo quyền của từng người dùng. Infobip (một nhà cung cấp giải pháp, nên hãy xem đây là góc nhìn của bên bán) cũng cho rằng RAG phù hợp với thông tin hay thay đổi như giá, chính sách vì cập nhật kho tri thức có hiệu lực ngay, và hệ thống nên chuyển cấp (sang tác nhân khác hoặc người thật) khi độ tin cậy của việc tìm kiếm thấp, thay vì đoán.
RAG không phải phép màu
Chất lượng câu trả lời phụ thuộc vào chất lượng tài liệu và khâu tìm kiếm. Tài liệu cũ, mâu thuẫn hoặc rải rác thì trợ lý sẽ trả lời sai một cách rất tự tin. Hãy coi RAG là cách giảm rủi ro bịa đặt chứ đừng kỳ vọng nó loại bỏ hoàn toàn; câu trả lời quan trọng vẫn cần người kiểm tra. (Đây là nhận định thực hành của chúng tôi, không phải số liệu đo được.)
Ví dụ cụ thể: cẩm nang chính sách bán hàng
Giả sử một công ty phân phối nhỏ có chính sách đổi trả nằm trong ba file Word và một nhóm chat. Nhân viên mới hỏi hoài, quản lý trả lời hoài. Một trợ lý nội bộ nên được dựng thế này:
- Phạm vi nhỏ trước: chỉ nạp chính sách đổi trả và bảng giá hiện hành, không nạp cả ổ đĩa.
- Mỗi câu trả lời kèm nguồn: ghi rõ lấy từ tài liệu nào, cập nhật ngày nào.
- Có lối thoát: nếu không tìm thấy căn cứ, trợ lý nói "chưa có trong tài liệu" và gợi ý hỏi quản lý, thay vì suy đoán.
- Có người chịu trách nhiệm tài liệu: mỗi file có một chủ sở hữu, đổi chính sách thì cập nhật cùng ngày.
Đây là ví dụ minh họa giả định, không phải một dự án đã làm. Phần khó nhất ở đây là quản trị tài liệu, không phải công nghệ.
Quy tắc dữ liệu một trang cho nhân viên
Dù có trợ lý nội bộ hay chưa, hãy ban hành một trang quy tắc ngắn, dễ nhớ:
- Không dán vào chatbot công cộng: mã nguồn, hợp đồng, danh sách khách hàng, thông tin cá nhân, số liệu tài chính chưa công bố, mật khẩu và khóa truy cập.
- Được dùng thoải mái: nội dung đã công khai, câu hỏi kiến thức chung, bản nháp đã gỡ tên và số liệu nhạy cảm.
- Dùng tài khoản do công ty cấp và đọc điều khoản về lưu trữ, huấn luyện dữ liệu của gói đang dùng.
- Nghi ngờ đã lộ thì báo ngay, không giấu. Nếu phạt người báo, nhiều khả năng sự cố sẽ bị che giấu (nhận định thực hành của chúng tôi).
- Xem lại quy tắc định kỳ, vì sản phẩm và điều khoản AI thay đổi nhanh.
Việc nên làm trong 30 ngày tới
- Hỏi thẳng nhân viên họ đang dùng công cụ AI nào, vào việc gì. Đừng mở đầu bằng việc truy lỗi.
- Phân loại dữ liệu thành ba nhóm: công khai, nội bộ, mật.
- Chọn một quy trình có nhiều câu hỏi lặp lại để thử trợ lý nội bộ ở phạm vi nhỏ.
- Đặt tiêu chí thành công trước khi làm, ví dụ giảm số câu hỏi lặp lại gửi cho quản lý và tỷ lệ câu trả lời đúng nguồn qua kiểm tra mẫu.
- Chỉ mở rộng khi kết quả thử nghiệm đạt tiêu chí.
Cách BLA Tech nhìn vấn đề này
Theo quan điểm của chúng tôi, thứ tự hợp lý là quy trình và dữ liệu trước, công cụ sau. Trước khi dựng bất kỳ trợ lý nào, cần hiểu việc đang được làm thế nào, tài liệu nào là nguồn đúng, ai được xem gì. Sau đó mới chọn giải pháp phù hợp quy mô doanh nghiệp, xây hệ thống vận hành với AI Agents, và đồng hành như một phòng công nghệ bên ngoài để hệ thống tiếp tục đúng khi tài liệu và quy trình thay đổi. Nếu bạn muốn biết doanh nghiệp mình nên bắt đầu từ đâu, một buổi trao đổi về quy trình thường hữu ích hơn việc chọn công cụ ngay.
