AI Agent Đa Phương Thức 2024: Khi Thuật Toán Giúp Bóc Tách Chiêu Trò Trên Không Gian Số

Cách đây hai tuần, mình dựng một pipeline thử nghiệm nhỏ bằng Python để xem AI Agent có thực sự bắt được đám bot lừa đảo trên mạng xã hội hay không. Nói thẳng là các bộ lọc regex hay danh sách đen từ khóa truyền thống bây giờ gần như vô dụng. Kẻ gian dùng chính các mô hình mã nguồn mở để tạo tài khoản ảo, sinh ảnh đại diện bằng Stable Diffusion rồi thả bot đi bình luận mồi chài khắp nơi. Văn phong của chúng rất mượt, câu chữ biến đổi liên tục chứ không còn rập khuôn như trước. Trong đợt thử nghiệm quét mẫu dữ liệu bình luận, mình thấy nổi lên vài dạng lừa đảo rất rõ: - Tài khoản giả gái xinh mời gọi tải ứng dụng lạ để làm nhiệm vụ nạp tiền. - Dạng spam lặp đi lặp lại những lời rủ rê vào các nhóm kín để lừa đầu tư tài chính. - Tài khoản mạo danh dùng ảnh dựng trau chuốt, nhắn tin làm quen rồi áp dụng kịch bản thao túng tâm lý. Để giải bài này, mình dựng một Agent đơn giản kết hợp khả năng đọc hiểu ảnh (Vision) và cơ chế gọi hàm (Function Calling) của OpenAI. Logic cơ bản trông như thế này:

from openai import OpenAI
import json

client = OpenAI()

def flag_suspicious_content(content_type, reason, risk_score):
    return json.dumps({"status": "flagged", "score": risk_score, "reason": reason})

system_prompt = """
Bạn là chuyên viên kiểm duyệt nội dung trực tuyến.
Hãy phân tích cả hình ảnh đính kèm và văn bản được cung cấp.
Đặc biệt chú ý đến: chiêu trò lừa đảo tình cảm, dụ dỗ cài app không rõ nguồn gốc, lừa đảo nạp tiền.
Nếu phát hiện dấu hiệu lừa đảo, hãy kích hoạt hàm flag_suspicious_content.
"""

Điểm mình ưng ý nhất là khi được cấp quyền đọc cả ngữ cảnh lẫn ảnh, Agent phát hiện được các mâu thuẫn rất nhỏ, ví dụ lỗi biến dạng ở vành tai hoặc ánh sáng mắt thường gặp trong ảnh dựng, đối chiếu với văn phong nịnh nọt bất thường để chấm điểm rủi ro. Nhưng mà nói đi cũng phải nói lại, mình vẫn chưa chắc chắn lắm về tính khả thi khi mang mô hình này ra chạy production quy mô lớn. Việc đẩy cả ảnh lẫn chuỗi hội thoại qua API thị giác liên tục ngốn chi phí token rất kinh khủng, độ trễ phản hồi cũng cao, không biết nếu lượng bình luận lên đến hàng chục nghìn lượt mỗi ngày thì túi tiền có chịu thấu không?