Lừa đảo qua AI là gì và LLM làm tăng rủi ro lừa đảo như thế nào
- Những điểm chính:
-
Lừa đảo bằng AI là gì?
Đây là phương pháp tấn công mạng trong đó các công cụ AI tạo sinh được sử dụng để tạo ra các email lừa đảo siêu thực và được cá nhân hóa. -
AI cải thiện hiệu quả lừa đảo như thế nào?
Bằng cách tạo ra những thông điệp đúng ngữ pháp, đúng ngữ cảnh và có sức thuyết phục ở quy mô lớn. -
Tại sao các cuộc tấn công do AI tạo ra lại khó phát hiện hơn?
Họ tránh các kỹ thuật khớp mẫu truyền thống bằng cách thay đổi cấu trúc, giọng điệu và từ vựng. -
Những rủi ro tiềm ẩn đối với tổ chức là gì?
Tăng tỷ lệ nhấp chuột, xâm phạm thông tin xác thực và chuyển động ngang từ một vi phạm duy nhất. -
Chiến lược phát hiện nào có hiệu quả chống lại lừa đảo bằng AI?
Phân tích dựa trên hành vi, tương quan đa kênh và theo dõi hoạt động của người dùng. -
Stellar Cyber giúp phát hiện lừa đảo bằng AI như thế nào?
Bằng cách liên kết các dấu hiệu lừa đảo trên các lớp email, thiết bị đầu cuối và mạng trong hệ thống của mình. Open XDR nền tảng.
Cách AI và Học máy cải thiện an ninh mạng của doanh nghiệp
Kết nối tất cả các điểm trong bối cảnh mối đe dọa phức tạp
Trải nghiệm hoạt động bảo mật được hỗ trợ bởi AI!
Khám phá AI tiên tiến của Stellar Cyber để phát hiện và ứng phó ngay lập tức với mối đe dọa. Lên lịch demo của bạn ngay hôm nay!
Tạo tiền đề cho lừa đảo AI: Tỷ lệ nhấp chuột được thúc đẩy bởi hai đòn bẩy
Các cuộc tấn công lừa đảo – giống như nhiều cuộc tấn công trong lĩnh vực an ninh mạng – có vòng đời kéo dài. Một kiểu tấn công lừa đảo nhất định trở nên đặc biệt phổ biến và thành công, nó thu hút được sự chú ý của nhân viên an ninh và nhân viên được đào tạo về các đặc điểm của nó. Tuy nhiên, không có kết luận nào thỏa đáng – không giống như bản vá phần mềm, nhân viên vẫn bị phát hiện, thường mặc dù đã có nhiều năm kinh nghiệm và được đào tạo về lừa đảo.
Khi cố gắng tìm hiểu sâu hơn, tùy chọn phổ biến nhất để đánh giá mức độ sẵn sàng lừa đảo của tổ chức là tỷ lệ nhấp chuột tổng thể. Điều này cung cấp một ảnh chụp nhanh đơn giản về người đã rơi vào email lừa đảo giả được tạo nội bộ. Tuy nhiên, số liệu này có thể thay đổi một cách cứng đầu. Và khi các CISO đang tìm kiếm bằng chứng cho thấy hoạt động đào tạo lừa đảo tốn nhiều thời gian và tài nguyên của họ, các nhà lãnh đạo đánh giá thậm chí có thể muốn giảm mức độ phức tạp của các cuộc tấn công lừa đảo giả này, tìm kiếm tỷ lệ nhấp chuột thấp hơn – gián tiếp hủy hoại quan điểm bảo mật tổng thể của tổ chức.
Vào năm 2020, các nhà nghiên cứu Michelle Steves, Kristen Greene và Mary Theofanos cuối cùng đã có thể phân loại các bài kiểm tra vô hạn biến này thành một Thang đo Phish (PDF) duy nhất. Khi làm như vậy, họ xác định rằng 'độ khó' của email lừa đảo chỉ nằm ở hai đặc điểm chính:
- Các tín hiệu có trong tin nhắn; còn được gọi là 'móc câu' hoặc các đặc điểm về định dạng hoặc kiểu của tin nhắn có thể khiến vỏ bọc của nó bị coi là độc hại.
- Bối cảnh của người dùng.
Nói chung, ít tín hiệu hơn dẫn đến tỷ lệ nhấp cao hơn, cũng như mức độ phù hợp chặt chẽ của email với bối cảnh của người dùng. Để làm sáng tỏ thang đo, ví dụ sau đã đạt được 30 điểm về sự phù hợp cá nhân theo công thức trong số 32 điểm có thể:
Với tư cách là một tổ chức, NIST đặc biệt chú trọng đến vấn đề an toàn và không nơi nào điều này đúng hơn đối với các nhà quản lý phòng thí nghiệm và nhóm CNTT. Để tận dụng lợi thế này, một email thử nghiệm đã được tạo từ một địa chỉ Gmail giả mạo được cho là của một trong những giám đốc của NIST. Dòng chủ đề nêu rõ “VUI LÒNG ĐỌC NÀY”; nội dung chào người nhận bằng tên và nói "Tôi thực sự khuyến khích bạn đọc cái này." Dòng tiếp theo là một URL với dòng chữ “Yêu cầu về An toàn”. Nó kết thúc với sự đăng nhập đơn giản từ giám đốc (được cho là).
Email này – và những email khác tập trung vào các yêu cầu an toàn siêu phù hợp – có tỷ lệ nhấp trung bình là 49.3%. Ngay cả trong những cuộc tấn công ngắn gọn đến kinh ngạc – chính các tín hiệu của thông điệp và sự liên kết cá nhân sẽ quyết định tính hiệu quả của nó.
Lừa đảo AI đang tăng cường cả hai đòn bẩy như thế nào
Các tín hiệu chiếm phần lớn trong quá trình đào tạo lừa đảo dành cho nhân viên, vì chúng cung cấp cách để người nhận nhìn lén đằng sau bức màn của một cuộc tấn công trước khi nó xảy ra. Nguyên nhân chính của vấn đề này là lỗi chính tả và ngữ pháp: trọng tâm này phổ biến đến mức nhiều người cho rằng lỗi chính tả được cố tình thêm vào các email lừa đảo để chọn ra những đối tượng dễ bị tấn công.
Mặc dù là một ý tưởng hay nhưng cách tiếp cận này khiến đại đa số mọi người thậm chí còn dễ bị tấn công lừa đảo hơn. Tất cả những gì kẻ tấn công cần làm bây giờ là chống lại ngữ pháp và định dạng của tin nhắn để đạt được độ tin cậy vừa đủ khi đọc lướt nhanh. LLM là công cụ hoàn hảo cho việc này, cung cấp miễn phí khả năng giao tiếp trôi chảy ở cấp độ bản địa.
Và bằng cách loại bỏ những đặc điểm rõ ràng nhất của email lừa đảo, những kẻ tấn công có thể thoải mái bắt đầu chiếm thế thượng phong. Nghiên cứu của Steves và cộng sự thừa nhận - quan trọng hơn các tín hiệu - mức độ phù hợp của một cuộc tấn công với tiền đề của chính người nhận. Đây là lĩnh vực mà LLM đặc biệt nổi trội.
LLM cực kỳ hiệu quả trong việc xử lý vi phạm quyền riêng tư
Sự liên kết cá nhân đạt được bằng cách biết mục tiêu của bạn; đó là lý do tại sao các cuộc tấn công lừa đảo hóa đơn đều thất bại ở hầu hết các bộ phận ngoại trừ bộ phận tài chính. Tuy nhiên, những kẻ tấn công khó có thể nghiên cứu nạn nhân của chúng trong nhiều tháng; động cơ lợi nhuận không ngừng của họ chỉ ra rằng các cuộc tấn công cần phải hiệu quả.
May mắn thay cho họ, LLM có thể tiến hành các chiến dịch suy luận và thu thập dữ liệu trên diện rộng mà không mất phí. MỘT Nghiên cứu năm 2024 của Robin Staab và cộng sự (PDF) là công ty đầu tiên nghiên cứu mức độ LLM được đào tạo trước có thể suy ra thông tin cá nhân từ văn bản. Một lựa chọn gồm 520 hồ sơ Reddit có bút danh đã được chọn lọc để tìm tin nhắn của họ và chạy qua một loạt mô hình để xem độ tuổi, địa điểm, thu nhập, trình độ học vấn và nghề nghiệp mà mỗi người bình luận có thể có.
Để biết cách thức hoạt động của tính năng này, hãy xem xét nhận xét về lộ trình đi làm: “Tôi…bị mắc kẹt khi chờ đến lượt móc”
GPT-4 đã có thể nắm bắt được tín hiệu nhỏ đó là “quay đầu” - đó là một phương pháp điều khiển giao thông được sử dụng đặc biệt ở Melbourne. Các nhận xét khác trong các chủ đề và bối cảnh hoàn toàn khác nhau bao gồm đề cập đến giá của một chiếc “34D” và một giai thoại cá nhân về cách họ từng xem Twin Peaks sau khi đi học trung học về nhà. Nói chung, GPT có thể suy luận chính xác rằng người dùng là phụ nữ sống ở Melbourne, trong độ tuổi từ 45-50.
Lặp lại quy trình trên tất cả 520 hồ sơ người dùng, các nhà nghiên cứu phát hiện ra rằng GPT-4 có thể suy ra chính xác giới tính và nơi sinh của người đăng bài với tỷ lệ lần lượt là 97% và 92%. Trong bối cảnh phân tích về lừa đảo tại nơi làm việc của nghiên cứu trước, khả năng của LLM trong việc suy ra các phẩm chất cá nhân sâu sắc từ các bài đăng trên mạng xã hội trở nên đặc biệt đáng báo động khi bạn dừng lại và nghĩ về lượng thông tin trên các trang web khác ít ẩn danh hơn - chẳng hạn như LinkedIn.
Quá trình suy luận này, tổng hợp lại, diễn ra nhanh hơn 240 lần so với bộ dữ liệu của con người có thể đưa ra cùng kết luận và chỉ tốn một phần nhỏ chi phí. Bỏ qua suy đoán, chính thành phần cuối cùng này khiến cho lừa đảo qua mạng sử dụng AI trở nên cực kỳ mạnh mẽ: chi phí.
LLM Supercharge Kinh tế lừa đảo
Lợi nhuận của các chiến dịch lừa đảo do con người cung cấp không bị cản trở bởi số lượng người nhấp vào chúng; họ bị cản trở bởi nhiệm vụ đòi hỏi nhiều lao động là viết những bài mới hoặc bài tùy chỉnh. Khi những kẻ tấn công lừa đảo chủ yếu bị thúc đẩy bởi lợi ích tài chính, hành động cân bằng giữa tùy chỉnh và nhấn gửi đã giúp kiểm soát quy mô của một số hoạt động.
Với LLM hiện có thể tạo ra hàng loạt tin nhắn lừa đảo chỉ trong vài phút – bên cạnh việc suy ra các cách tùy chỉnh cho từng nạn nhân – bộ công cụ của kẻ tấn công chưa bao giờ được trang bị đầy đủ như vậy.
Theo kịp với Stellar Cyber
Việc đào tạo nhân viên cần có thời gian – và tốc độ phát triển của hành vi lừa đảo có nguy cơ khiến hàng nghìn doanh nghiệp gặp rủi ro. Để xử lý mức độ đe dọa gia tăng này, Stellar Cyber cung cấp các biện pháp bảo vệ điểm cuối và mạng tích hợp giúp ngăn chặn những kẻ tấn công, ngay cả khi chúng xâm nhập qua nhân viên.
Giám sát điểm cuối cho phép theo dõi thời gian thực về khả năng triển khai phần mềm độc hại, trong khi bảo vệ mạng cho phép bạn phát hiện và ngăn chặn kẻ tấn công thiết lập chỗ đứng tại đó. Phân tích hành vi người dùng và thực thể (UEBA(Tính năng này cho phép bạn đánh giá mọi hành động trong bối cảnh bình thường, giúp bạn phát hiện thêm các dấu hiệu cho thấy tài khoản có thể bị xâm phạm. Bảo vệ nhóm của bạn và ngăn chặn kẻ tấn công bằng...) Stellar Cyber đang mở cửa. XDR.
