Suy nghĩ lại về rủi ro trong thời đại AI

Phần lớn sự nghiệp của tôi là xây dựng các hệ thống phát hiện gian lận theo cách cũ: dựa trên luật, ngưỡng và hàng đợi xem xét. Bạn sẽ viết một luật, rồi thấy các trường hợp dương tính giả chất đống, tinh chỉnh nó, rồi lặp lại. Sau đó, ai đó trong nhóm dữ liệu sẽ tìm thấy một mẫu mà bạn đã bỏ lỡ ba tháng sau đó.

AI thay đổi hoàn toàn điều đó. Không phải vì nó là phép thuật, mà vì nó có thể nằm trong luồng giao dịch và thích nghi nhanh hơn bất kỳ bộ luật nào tôi từng duy trì.

AI Thực Sự Thay Đổi Điều Gì

Sự thay đổi cơ bản là chuyển từ phát hiện phản ứng sang phát hiện gần như thời gian thực. Với các luật, bạn chỉ có thể bắt được những gì bạn đã thấy và đã viết luật cho nó. Một mô hình được huấn luyện trên các mẫu giao dịch có thể gắn cờ các bất thường không khớp với bất kỳ luật hiện có nào: ví dụ, một giao dịch mua từ một thiết bị mới ở một địa điểm mới nhưng vẫn phù hợp với hồ sơ chi tiêu của người dùng.

Nhưng có một điều tôi không lường trước được: các mô hình trôi dạt nhanh hơn các luật. Một luật hoặc khớp hoặc không. Ngưỡng tin cậy của một mô hình thay đổi khi phân phối dữ liệu thay đổi. Tôi đã có những mô hình hoạt động rất tốt khi triển khai nhưng suy giảm đáng kể trong vòng ba tháng vì các mẫu gian lận đã phát triển.

Khi Nào Các Luật Vẫn Thắng Thế

Không phải mọi kịch bản gian lận đều hưởng lợi từ ML. Các kiểm tra tốc độ đơn giản ("hơn 5 giao dịch từ thẻ này trong 10 phút") nhanh hơn và đáng tin cậy hơn khi là các luật. Mô hình có thể bắt được các mẫu mới lạ, nhưng nó cũng làm tăng độ trễ và độ phức tạp cho các trường hợp mà một câu lệnh if ba dòng xử lý hoàn hảo.

Nguyên tắc tôi sử dụng: nếu bạn có thể mô tả mẫu gian lận trong một câu, hãy viết một luật. Nếu mẫu là "tôi sẽ biết khi tôi nhìn thấy nó", hãy huấn luyện một mô hình.

Triển Khai Mô Hình Trong Sản Xuất

Bài học khó nhất không phải là xây dựng mô hình: mà là phục vụ nó. Phát hiện gian lận thời gian thực cần suy luận dưới 100ms. Điều đó có nghĩa là:

• Kỹ thuật đặc trưng chạy tại thời điểm giao dịch, không phải theo lô. Việc tính toán "số tiền giao dịch trung bình của người dùng này trong 24 giờ qua" cần phải xảy ra ngay lập tức, không phải từ một công việc hàng ngày.
• Tuần tự hóa mô hình không làm phình to. Các tệp Pickle với 200MB phụ thuộc không thuộc về một đường ống thanh toán.
• Một chiến lược dự phòng. Khi máy chủ mô hình ngừng hoạt động (và nó sẽ ngừng hoạt động), bộ luật cần tiếp tục chạy. Tôi đã thấy các nhóm xây dựng các đường ống ML đẹp mắt mà không có dự phòng, và sự cố ngừng hoạt động đầu tiên đã làm toàn bộ hệ thống rủi ro của họ ngoại tuyến.

Điều Tôi Sẽ Nói Với Người Mới Bắt Đầu Bây Giờ

Bắt đầu với các luật cho các mẫu rõ ràng. Thêm ML cho các trường hợp ngoại lệ mà các luật không thể bắt được. Giám sát hiệu suất mô hình liên tục: không chỉ độ chính xác, mà còn tác động kinh doanh (bạn đang chặn bao nhiêu giao dịch hợp pháp?). Và luôn luôn, luôn luôn có một dự phòng.

Các hệ thống rủi ro tốt nhất tôi từng thấy không phải là ML thuần túy hay luật thuần túy. Chúng là các hệ thống lai nơi mỗi cái che lấp điểm mù của cái kia.

Bạn cũng có thể thích

• Những điều tôi học được khi xây dựng quy trình thanh toán với ví điện tử và tác nhân AI
• Xây dựng giao diện người dùng dựa trên ý định: Tương lai của phát triển frontend
• Bộ nhớ đệm ngữ nghĩa với Redis và Qdrant để giảm chi phí LLM
• Kiến trúc DeepSeek V3 chuyên sâu: Multi-Head Latent Attention (MLA), DeepSeekMoE & FP8 Mixed Precision

Các câu hỏi thường gặp