- Tại sao SOC Các nhóm đang chuyển sang sử dụng Trí tuệ nhân tạo tác nhân (Agentic AI).
- Vì sao tự động hóa SOAR truyền thống gặp trở ngại
- Các mối đe dọa an ninh thực sự đối với trí tuệ nhân tạo (AI) trong SOC Môi trường
- Lý lẽ ủng hộ việc tăng cường khả năng tự chủ của con người
- Các yêu cầu về kiến trúc cho một tác nhân an toàn SOC
- Người đại diện trưởng thành là gì? SOC Các nền tảng sẽ trông như thế nào vào năm 2027
Bảo mật AI tác nhân: Làm thế nào để vận hành an toàn các tác nhân tự động trong môi trường của bạn SOC
Bảo mật trí tuệ nhân tạo tác nhân đã trở thành thách thức then chốt. SOC Các nhóm áp dụng quy trình làm việc tự động. Việc triển khai các tác nhân lập kế hoạch, điều tra và hành động mà không cần sự chỉ đạo liên tục của con người mang lại những lợi ích hoạt động thực sự, nhưng nó cũng bộc lộ những vấn đề tiềm ẩn. thách thức an ninh AI tác nhân Những vấn đề mà các khung kiến trúc truyền thống đơn giản là không được thiết kế để giải quyết. Việc xây dựng kiến trúc đúng đắn là rất quan trọng.
- Những điểm chính:
-
Điều gì đang thúc đẩy SOC Các nhóm hướng tới trí tuệ nhân tạo tác nhân?
Khối lượng cảnh báo đã vượt quá khả năng điều tra của con người. Trí tuệ nhân tạo (AI) cho phép các nhóm bảo mật tự động hóa quy trình điều tra nhiều bước, đối chiếu tín hiệu từ nhiều nguồn dữ liệu cùng lúc và giảm thời gian phản hồi trung bình mà không cần tăng số lượng nhân viên tương ứng. -
Tại sao hệ thống SOAR truyền thống lại không hiệu quả trong môi trường đe dọa năng động?
Các kịch bản SOAR phụ thuộc vào logic được định sẵn. Khi các kịch bản đe dọa lệch khỏi các mô hình dự kiến, các kịch bản đó sẽ bị đình trệ. Trí tuệ nhân tạo (AI) dựa trên tác nhân áp dụng lý luận theo ngữ cảnh thay vì các quy tắc tĩnh, điều đó có nghĩa là nó thích ứng khi SOAR gặp trục trặc. -
Đâu là những mối đe dọa an ninh cấp bách nhất đối với trí tuệ nhân tạo tác nhân (agent-AI) trong bối cảnh hiện nay? SOC hoạt động?
Việc tiêm mã độc nhanh chóng nhằm vào quy trình phân loại bệnh nhân, lạm dụng công cụ và API, và các vòng lặp tự tin sai lệch (trong đó các tác nhân hành động quyết đoán dựa trên dữ liệu đầu vào bị lỗi) là những mối đe dọa an ninh chính đối với trí tuệ nhân tạo (AI) có tính chất tác nhân. SOC Các đội cần phải lên kế hoạch cho điều đó. -
Tự động hóa được hỗ trợ bởi con người giải quyết các thách thức an ninh của trí tuệ nhân tạo như thế nào?
Hệ thống tự động hóa có giám sát phân công các tác nhân thực hiện các nhiệm vụ thường xuyên, khối lượng lớn, đồng thời chuyển các quyết định quan trọng qua quá trình xác nhận của chuyên viên phân tích. Hệ thống chấm điểm độ tin cậy quyết định khi nào tác nhân tiếp tục thực hiện công việc và khi nào cần chuyển lên cấp cao hơn, giảm thiểu phạm vi ảnh hưởng của một điểm lỗi duy nhất. -
Cần những gì để thực sự bảo mật các hệ thống trí tuệ nhân tạo có khả năng tự vận hành ở cấp độ kiến trúc?
Hệ thống đo từ xa thống nhất, Open XDRvà tích hợp NG-SIEM, NDR, UEBA, ITDRCác lớp CDR cung cấp cho các tác nhân khả năng hiển thị toàn diện cần thiết để suy luận chính xác. Chuẩn hóa API và tự động hóa nhận diện danh tính ngăn chặn các tác nhân hoạt động vượt qua các ranh giới tin cậy mà họ không nên vượt qua. -
Vậy thì cơ chế "sandboxing" (môi trường biệt lập) phù hợp ở đâu trong một môi trường tác nhân bảo mật? SOC?
Sandboxing giới hạn việc thực thi tác nhân trong một môi trường được kiểm soát với các công cụ và nguồn dữ liệu được cho phép. Điều này hạn chế thiệt hại mà một tác nhân bị thao túng có thể gây ra, khiến nó trở thành một trong những biện pháp kiểm soát thiết thực nhất hiện có để quản lý các thách thức về bảo mật của trí tuệ nhân tạo tác nhân trong thời gian thực. -
Điều gì sẽ xảy ra khi trưởng thành? SOC Các nền tảng sẽ được triển khai vào năm 2027 chứ?
Quy trình điều tra tự động hoàn chỉnh từ cảnh báo đến ngăn chặn, được điều chỉnh bởi các giao thức nhận dạng tác nhân tiêu chuẩn hóa, hoạt động kiểm thử phản biện liên tục đối với các quy trình làm việc của tác nhân và khả năng quan sát thời gian thực được xây dựng để đáp ứng các yêu cầu quy định mới nổi về quản trị AI.
Cách AI và Học máy cải thiện an ninh mạng của doanh nghiệp
Kết nối tất cả các điểm trong bối cảnh mối đe dọa phức tạp
Trải nghiệm hoạt động bảo mật được hỗ trợ bởi AI!
Khám phá AI tiên tiến của Stellar Cyber để phát hiện và ứng phó ngay lập tức với mối đe dọa. Lên lịch demo của bạn ngay hôm nay!
Tại sao SOC Các nhóm đang chuyển sang sử dụng Trí tuệ nhân tạo tác nhân (Agentic AI).
Áp lực lên SOC Các nhóm đã chuyển từ quản lý sự phức tạp sang quản lý quy mô. Khối lượng cảnh báo tăng nhanh hơn chu kỳ tuyển dụng, hàng chờ điều tra ngày càng dài ra, và MTTR (Thời gian khắc phục sự cố) đã trở thành một chỉ số quan trọng trong phòng họp hơn là một ghi chú vận hành.
Khi số lượng cảnh báo trở thành vấn đề mang tính cấu trúc
Môi trường doanh nghiệp hiện đại tạo ra lượng dữ liệu đo lường an ninh nhiều hơn bất kỳ nhóm phân tích nào có thể xử lý thủ công. Tỷ lệ giữa tín hiệu và sự chú ý sẵn có đã thay đổi về cơ bản, và các nhà phân tích tại hầu hết các tổ chức dành phần lớn thời gian làm việc để phân loại các cảnh báo hóa ra chỉ là nhiễu, khiến các mối đe dọa thực sự nằm trong hàng đợi lâu hơn bất kỳ chương trình bảo mật nào có thể chịu đựng được.
Trong nhiều năm qua, giải pháp thông thường là bổ sung thêm công cụ: thêm các quy tắc phát hiện, chi tiết SIEM các truy vấn, logic tương quan phức tạp hơn. Việc thêm nhiều quy tắc vào một quy trình làm việc vốn đã quá tải phần lớn chỉ làm trầm trọng thêm vấn đề vì logic phát hiện càng nhiều thì càng tạo ra nhiều cảnh báo, và điều này lại càng thúc đẩy vòng luẩn quẩn tương tự.
Điều gì làm cho AI tác nhân trở nên khác biệt?
Trí tuệ nhân tạo truyền thống hỗ trợ các tác vụ riêng lẻ: tóm tắt cảnh báo, đánh giá rủi ro hoặc đề xuất phản hồi. AI đặc vụ Tự động thực hiện quá trình điều tra. Một tác nhân tự động được giao nhiệm vụ xử lý cảnh báo lừa đảo sẽ truy vấn... SIEM Đối với các hoạt động liên quan, thu thập dữ liệu đo từ xa của điểm cuối, kiểm tra nguồn cấp dữ liệu tình báo về mối đe dọa, đánh giá các chỉ báo về sự di chuyển ngang và đưa ra phán quyết có cấu trúc trong thời gian mà một nhà phân tích cần để mở bảng điều khiển đầu tiên.
Các hệ thống tác nhân không cần chờ chỉ dẫn rõ ràng ở mỗi bước. Chúng suy luận hướng tới mục tiêu, thích ứng khi các phát hiện trung gian làm thay đổi bức tranh tổng thể, và chuyển giao cho các nhà phân tích con người với bối cảnh đã được tập hợp sẵn. Khả năng của nhà phân tích được chuyển hướng sang các quyết định thực sự cần đến sự phán đoán của con người, thay vì thu thập thông tin mà máy móc có thể thu thập nhanh hơn. Đó là một sự thay đổi thực sự trong cách thức thực hiện công việc an ninh, một sự thay đổi biến vai trò của nhà phân tích từ người điều tra chính thành người ra quyết định.
Tầm quan trọng của việc vận hành nó một cách chính xác
Áp lực triển khai là có thật, và nó thúc đẩy các nhóm ưu tiên tốc độ hơn cấu trúc. Một tác nhân tự động với quyền truy cập công cụ rộng rãi và sự giám sát không đầy đủ sẽ làm tăng bề mặt tấn công bên cạnh hiệu quả. Các tổ chức vận hành AI tác nhân tốt sẽ coi đó là một quyết định kiến trúc ngay từ ngày đầu tiên. Bảo mật AI tác nhân tạo thành nền tảng mà toàn bộ mô hình vận hành phụ thuộc vào.
Vì sao tự động hóa SOAR truyền thống gặp trở ngại
BAY LÊN Nó đã mang lại một bước tiến thực sự: các hành động phản hồi không yêu cầu nhà phân tích phải sao chép các chỉ báo giữa các bảng điều khiển theo cách thủ công, và các kịch bản hành động có thể cô lập một điểm cuối hoặc vô hiệu hóa một tài khoản mà không cần sự can thiệp của con người ở mỗi bước. Kiến trúc này phù hợp với môi trường mà nó được xây dựng. Vấn đề là môi trường đe dọa đã thay đổi nhanh hơn so với khả năng thích ứng của kiến trúc.
Khi chiến thuật sụp đổ dưới áp lực
Sổ tay SOAR là một cây quyết định với một tập hợp các nhánh cố định. Khi một sự cố khớp hoàn toàn với một mô hình đã biết, nó sẽ hoạt động. Khi kẻ tấn công đi chệch khỏi mô hình đó, bất ngờ sử dụng một công cụ hợp pháp, di chuyển ngang qua một con đường mà sổ tay không tính đến, hoặc kết hợp các chiến thuật vượt qua các miền phát hiện, sổ tay sẽ bị đình trệ hoặc thực thi nhánh sai. Các nhóm bảo mật cuối cùng sẽ gặp phải vấn đề... phản hồi tự động Những cảnh báo đó giải quyết sai vấn đề, hoặc dẫn đến việc các sự cố leo thang và quay trở lại quy trình thủ công mà lẽ ra quy trình này phải loại bỏ. Cảnh báo vẫn được điều tra, nhưng giờ đây lại bị trì hoãn thêm và niềm tin vào hệ thống tự động hóa bị suy giảm.
Gánh nặng điều chỉnh âm thanh không bao giờ được giải quyết
Việc cập nhật các playbook SOAR là một nỗ lực kỹ thuật liên tục. Mỗi quy tắc phát hiện mới, mỗi nguồn dữ liệu mới và mỗi thay đổi về cơ sở hạ tầng đều có khả năng yêu cầu cập nhật playbook. Trong môi trường thay đổi nhanh chóng, khối lượng công việc bảo trì tồn đọng tăng nhanh hơn khả năng xử lý của nhóm kỹ thuật bảo mật. Kết quả là một thư viện playbook mà trong đó ngày càng nhiều playbook bị lỗi thời một phần, và các nhà phân tích đã học cách không tin tưởng vào hệ thống tự động hóa đến mức phải kiểm tra lại kết quả đầu ra bằng tay, điều này làm mất đi mục đích ban đầu. Các playbook được thiết kế để tiết kiệm thời gian cho nhà phân tích lại tạo ra một quy trình xác minh song song.
Khoảng trống ngữ cảnh mà SOAR chưa bao giờ được thiết kế để lấp đầy
Hạn chế sâu xa hơn nằm ở cấu trúc. SOAR xử lý các cảnh báo theo trình tự và áp dụng logic được viết trước khi sự cố xảy ra. Nó không có cơ chế tổng hợp ngữ cảnh từ nhiều nguồn dữ liệu trong thời gian thực, không có cách nào để đánh giá tầm quan trọng của phát hiện này so với phát hiện khác, và không có khả năng điều chỉnh phương pháp tiếp cận dựa trên những gì nó phát hiện ra trong quá trình điều tra. Mọi thách thức về bảo mật AI tác nhân liên quan đến hoạt động mơ hồ, nhiều giai đoạn hoặc đa lĩnh vực đều bộc lộ chính xác lỗ hổng này. AI tác nhân khắc phục điều đó bằng cách thay thế việc tuân theo quy tắc bằng suy luận. Một tác nhân tự động đánh giá các phát hiện của nó ở mỗi bước, điều chỉnh đường dẫn điều tra cho phù hợp và đưa ra phán quyết phản ánh trạng thái thực tế của sự cố. Các hệ thống AI tác nhân an toàn cho phép chuyển đổi hoạt động đó, và kiến trúc xung quanh chúng quyết định liệu nó có thể hoạt động tốt trong điều kiện thực tế hay không.
Các mối đe dọa an ninh thực sự đối với trí tuệ nhân tạo (AI) trong SOC Môi trường
Các mối đe dọa an ninh của AI tác nhân trong SOC Đây không phải là những mối lo ngại lý thuyết được nhập khẩu từ các bài nghiên cứu. Chúng xuất phát trực tiếp từ mô hình hoạt động: các tác nhân có quyền truy cập công cụ rộng rãi, quyền ra quyết định theo thời gian thực và kết nối với cơ sở hạ tầng bảo mật sản xuất. Hiểu rõ chúng là điều kiện tiên quyết để thiết kế một hệ thống triển khai có thể chịu được áp lực từ kẻ thù.
Quy trình phân loại mục tiêu tiêm nhanh
Tiêm mã độc tức thời là một trong những mối đe dọa an ninh AI tác nhân được ghi nhận rõ ràng nhất, và trong SOC Trong các môi trường khác nhau, nó mang một hình thức cụ thể và có hậu quả nghiêm trọng. Khi một tác nhân xử lý email lừa đảo, tài liệu đáng ngờ hoặc cảnh báo chứa nội dung do kẻ tấn công kiểm soát, nội dung đó có thể chứa các chỉ thị được nhúng nhằm ghi đè lên hành vi của tác nhân. Một cuộc tấn công chèn mã được thiết kế tinh vi sẽ hòa lẫn vào dữ liệu mà tác nhân vốn đã được kỳ vọng sẽ đọc và xử lý. Một tác nhân bị thao túng thông qua việc chèn mã trong quy trình phân loại có thể chuyển tiếp dữ liệu vụ việc nhạy cảm đến một địa chỉ bên ngoài, ngăn chặn việc leo thang xử lý hoặc kích hoạt lệnh gọi công cụ mà kẻ tấn công dự định chứ không phải nhà phân tích mong đợi. Rủi ro càng tăng cao trong các môi trường nơi các tác nhân xử lý khối lượng lớn cảnh báo với việc xem xét thủ công tối thiểu cho từng mục.
Lạm dụng công cụ và thao túng API
Các tác nhân tự động tương tác với các công cụ và API bên ngoài như một phần cốt lõi trong chức năng của chúng. Kẻ tấn công có thể khai thác điều này bằng cách thao túng đầu ra của công cụ, chèn tải trọng thông qua phản hồi API hoặc tạo ra các điều kiện khiến tác nhân gọi đến một điểm cuối không mong muốn. Một tác nhân tin tưởng vào đầu ra của công cụ mà không xác thực sẽ trở thành một trạm trung chuyển để thực thi các lệnh bắt nguồn từ bên ngoài hệ thống bảo mật. SOC Trong các môi trường mà các tác nhân thường xuyên lấy dữ liệu từ các nguồn cấp thông tin tình báo về mối đe dọa, nền tảng EDR và nhà cung cấp danh tính, lớp tích hợp công cụ представляет một thách thức bảo mật AI mang tính tác nhân đáng kể, đòi hỏi sự chú ý rõ ràng trong quá trình lập kế hoạch triển khai.
Di chuyển ngang tự chủ giữa các tác nhân
Trong kiến trúc đa tác nhân, nơi các tác nhân chuyên biệt cộng tác xuyên suốt các giai đoạn điều tra, một tác nhân bị xâm phạm có thể ảnh hưởng đến các tác nhân tiếp theo. Các chỉ thị được truyền giữa các tác nhân mang theo sự tin tưởng ngầm, và kẻ tấn công kiểm soát một nút trong quy trình làm việc có thể sử dụng vị trí đó để định hướng lại hành vi của các nút khác. Sự di chuyển ngang giữa các tác nhân khuếch đại tác động của một sự xâm phạm duy nhất, mở rộng phạm vi tấn công của kẻ tấn công xuyên suốt quy trình điều tra mà không kích hoạt các tín hiệu ở cấp độ điểm cuối mà các công cụ phát hiện truyền thống theo dõi.
Vòng lặp tự tin sai lầm
Các tác nhân có thể hành động với độ tin cậy cao trên dữ liệu đã bị làm sai lệch một cách âm thầm. Khi các nguồn tri thức mà tác nhân truy vấn trong quá trình thực thi bị can thiệp, quá trình suy luận của tác nhân vẫn còn nguyên vẹn trong khi các kết luận của nó trở nên sai lệch một cách có hệ thống. Các vòng lặp tự tin sai lệch đặc biệt khó phát hiện vì tác nhân hoạt động bình thường theo mọi cách có thể quan sát được. Tín hiệu duy nhất là chất lượng đầu ra của nó, điều này đòi hỏi phải giám sát chủ động hơn là cảnh báo thụ động.
Cách thức mà công nghệ hộp cát giải quyết những rủi ro này
Kỹ thuật hộp cát (sandboxing) giới hạn những gì một tác nhân bị xâm phạm hoặc thao túng thực sự có thể làm. Bằng cách giới hạn việc thực thi tác nhân trong một môi trường được kiểm soát với các công cụ được cho phép, quyền truy cập mạng bị hạn chế và các đường dẫn đầu ra được xác thực, hộp cát biến một mối đe dọa không bị hạn chế thành một mối đe dọa có giới hạn. Phạm vi thiệt hại mà một tác nhân bị thao túng có thể gây ra sẽ giảm đáng kể khi môi trường thực thi của nó được giới hạn đúng cách. Trong một môi trường tác nhân được thiết kế tốt... SOCChức năng hộp cát (sandboxing) hoạt động như một cơ chế kiểm soát cấu trúc được tích hợp vào kiến trúc ngay từ đầu.
Lý lẽ ủng hộ việc tăng cường khả năng tự chủ của con người
Tốc độ và quy mô là những lý lẽ chính ủng hộ trí tuệ nhân tạo tác nhân trong lĩnh vực này. SOCMột tác nhân tự động có khả năng cô lập các điểm cuối, vô hiệu hóa tài khoản hoặc ngăn chặn leo thang xung đột cũng có quyền gây ra thiệt hại thực sự nếu bị thao túng hoặc cấu hình sai. Việc xác định ranh giới giữa hành động tự động và phán đoán của con người là câu hỏi kiến trúc trọng tâm đối với bất kỳ hệ thống nào. SOC Triển khai trí tuệ nhân tạo tác nhân trên quy mô lớn.
Phân cấp quyền tự chủ: Điều chỉnh phạm vi hoạt động của tác nhân phù hợp với mức độ rủi ro.
Việc triển khai hiệu quả phân bổ quyền tự chủ dựa trên mức độ rủi ro của từng điểm quyết định. Các tác nhân xử lý độc lập các công việc có khối lượng lớn nhưng rủi ro thấp: loại bỏ cảnh báo trùng lặp, làm giàu thông tin IOC, chấm điểm phân loại ban đầu và tập hợp ngữ cảnh trên toàn bộ dữ liệu đo từ xa của điểm cuối, mạng và danh tính. Các quyết định có tác động lớn hơn, liên quan đến thay đổi hệ thống sản xuất, sửa đổi tài khoản hoặc các hành động ngăn chặn ảnh hưởng đến hoạt động kinh doanh, sẽ được chuyển qua quá trình xác nhận của nhà phân tích trước khi thực thi. Ở mức độ thường xuyên, các tác nhân xử lý hàng trăm cảnh báo mỗi ca làm việc, tập hợp các gói sự cố được làm giàu bao gồm các sự kiện tương quan, tài sản bị ảnh hưởng, hoạt động người dùng liên quan và ánh xạ kỹ thuật MITRE ATT&CK. Một nhà phân tích, người mà lẽ ra phải dành phần lớn thời gian trong một giờ để tự mình tập hợp ngữ cảnh đó, sẽ xem xét nó trong vài phút, nhờ đó có thể tập trung vào các quyết định thực tế của cuộc điều tra. Quyền tự chủ theo cấp bậc hoạt động hiệu quả vì nó áp dụng tốc độ của tác nhân ở những nơi tốc độ là quan trọng nhất và phán đoán của con người ở những nơi nó thay đổi kết quả. Các nhà phân tích xem xét các quyết định cần được xem xét, với toàn bộ gói điều tra của tác nhân đã được tập hợp và sẵn sàng hành động. Tỷ lệ cảnh báo cần sự chú ý của con người giảm đáng kể, và sự tập trung của nhà phân tích được tập trung vào các quyết định thực sự quan trọng.
Kiến trúc chấm điểm độ tin cậy và phán quyết
Một tác nhân được thiết kế tốt SOC Hệ thống tạo ra các phán quyết được chấm điểm phản ánh mức độ tự tin của tác nhân, bằng chứng hỗ trợ kết luận và các bước điều tra đã thực hiện để đi đến kết luận đó. Các nhà phân tích thấy kết luận của tác nhân cùng với chuỗi bằng chứng đã tạo ra nó, cho phép họ nhanh chóng xác nhận và hành động dựa trên những phát hiện có cơ sở vững chắc. Việc chấm điểm độ tin cậy cũng xác định ranh giới quyền tự chủ đối với một cảnh báo nhất định. Các phán quyết có độ tin cậy cao về các mô hình mối đe dọa đã được hiểu rõ sẽ tự động thực hiện các hành động ngăn chặn. Các phán quyết có độ tin cậy thấp hơn về hoạt động mới hoặc mơ hồ sẽ được leo thang với toàn bộ bối cảnh điều tra được đính kèm, do đó nhà phân tích sẽ đưa ra quyết định trong tình trạng đã được định hướng sẵn.
Các lộ trình leo thang có cấu trúc
Trong mô hình có sự hỗ trợ của con người, việc leo thang là một tính năng được thiết kế sẵn trong quy trình làm việc. Các nhân viên sẽ leo thang khi độ tin cậy giảm xuống dưới ngưỡng đã định, khi cảnh báo liên quan đến tài sản hoặc tài khoản được gắn cờ là có giá trị cao, khi hành động được yêu cầu là không thể đảo ngược, hoặc khi hành vi quan sát được lệch khỏi các tiêu chuẩn đã thiết lập theo những cách mà nhân viên chưa được đào tạo để phán quyết. Các quy trình leo thang hiệu quả chuyển giao các gói điều tra có cấu trúc. Nhà phân tích nhận được phán quyết của nhân viên, dấu vết bằng chứng, hành động được đề xuất và một chỉ dẫn rõ ràng về lý do tại sao việc leo thang được kích hoạt. Việc chuyển giao có cấu trúc giúp rút ngắn thời gian từ khi leo thang đến khi đưa ra quyết định, đây là nơi mà lợi ích về MTTR (Thời gian phản hồi trung bình) được tích lũy trong thực tế.
Giám sát của con người như một biện pháp kiểm soát an ninh trực tiếp
Các cơ chế có sự tham gia của con người không chỉ cải thiện chất lượng quyết định. Chúng hoạt động như một biện pháp kiểm soát an ninh trực tiếp chống lại các mối đe dọa an ninh từ trí tuệ nhân tạo (AI) được mô tả trong phần trước. Kẻ tấn công thao túng thành công một tác nhân thông qua việc tiêm mã hoặc lạm dụng công cụ vẫn phải trải qua quá trình xem xét của con người trước khi các hành động gây thiệt hại nghiêm trọng nhất có thể được thực hiện. Lớp giám sát chuyển đổi một sự xâm phạm tiềm tàng nghiêm trọng thành một sự xâm phạm có thể phát hiện và ngăn chặn được. Giám sát của con người, như một nguyên tắc kiến trúc, cũng tạo ra một hệ thống AI tác nhân được hiệu chỉnh tốt hơn theo thời gian. Khi các nhà phân tích xác nhận, điều chỉnh hoặc ghi đè các phán quyết của tác nhân, những quyết định đó sẽ được đưa trở lại mô hình, cải thiện độ chính xác của nó trong các cảnh báo trong tương lai. Vòng phản hồi kết nối chuyên môn của con người với máy học theo cách làm cho cả hai hiệu quả hơn. Các hệ thống AI tác nhân an toàn được xây dựng dựa trên sự hiểu biết rằng giám sát của con người và khả năng tự chủ củng cố lẫn nhau. Cách tiếp cận của Stellar Cyber đối với AI tác nhân SOC Hoạt động vận hành phản ánh điều này. Xác thực của nhà phân tích, leo thang có hướng dẫn và tự động hóa có giám sát hoạt động như các thành phần tích hợp của cùng một mô hình bảo mật, mỗi thành phần đều tăng cường khả năng phản hồi chính xác của nền tảng trong điều kiện bất lợi. Bảo mật AI tác nhân được tích hợp vào cách hệ thống đưa ra quyết định ở mọi giai đoạn.
Các yêu cầu về kiến trúc cho một tác nhân an toàn SOC
Những thách thức về bảo mật của trí tuệ nhân tạo (AI) được mô tả trong các phần trước không thể giải quyết chỉ bằng cấu hình. Chúng đòi hỏi một kiến trúc nền tảng được thiết kế để hỗ trợ việc ra quyết định tự động một cách nhanh chóng, đồng thời duy trì khả năng giám sát và kiểm soát mà các nhóm bảo mật cần để quản lý hành vi của tác nhân. Mỗi thành phần trong kiến trúc đó đều phục vụ một chức năng cụ thể để giữ cho hệ thống vừa hiệu quả vừa an toàn.
Hệ thống đo từ xa thống nhất và Open XDR
Một tác nhân tự động đưa ra quyết định dựa trên những gì nó có thể nhìn thấy. Một tác nhân hoạt động dựa trên dữ liệu đo từ xa không đầy đủ hoặc bị phân tán sẽ đưa ra các phán quyết không đầy đủ hoặc sai lầm, và trong các hoạt động an ninh, các phán quyết sai lầm sẽ dẫn đến những hậu quả nghiêm trọng. Dữ liệu đo từ xa thống nhất trên các lớp điểm cuối, mạng, nhận dạng, đám mây và ứng dụng cung cấp cho các tác nhân bối cảnh toàn diện mà chúng cần để suy luận chính xác về các mối đe dọa phức tạp, nhiều giai đoạn.
Open XDR Giúp hiện thực hóa việc thu thập dữ liệu đo lường thống nhất mà không yêu cầu các tổ chức phải thay thế hệ thống bảo mật hiện có. Các tác nhân thu thập dữ liệu được chuẩn hóa từ các nền tảng EDR, cảm biến mạng, nhà cung cấp danh tính và các biện pháp kiểm soát bảo mật đám mây hiện có, và đối chiếu chúng thành các dòng thời gian sự cố mạch lạc. Khoảng trống trong dữ liệu đo lường là nguyên nhân hàng đầu gây ra lỗi suy luận của tác nhân. Open XDR Giải quyết trực tiếp vấn đề cấu trúc đó.
Các lớp phát hiện tích hợp: NG-SIEM, NDR, UEBA, ITDRvà CDR
Hệ thống đo từ xa thống nhất thiết lập nền tảng. Các lớp phát hiện xử lý dữ liệu đó để xác định xem các tác nhân có thể suy luận hiệu quả trên toàn bộ dữ liệu hay không. Một NG-SIEM hệ thống này tiếp nhận nhật ký mà không cần giao tiếp với NDR để giám sát sự di chuyển ngang, hoặc một ITDR hệ thống phát hiện các bất thường về danh tính mà không cần kết nối với UEBA Các tiêu chuẩn hành vi cơ bản tạo ra những điểm mù trong việc phát hiện, giống như những điểm mù mà một kiến trúc tích hợp đúng cách được thiết kế để khắc phục.
Trong một hệ thống tích hợp tốt, mỗi lớp phát hiện cung cấp thông tin cho các lớp khác. NDR hiển thị các chỉ báo chuyển động ngang kích hoạt UEBA Phân tích các tài khoản người dùng liên kết. ITDR cảnh báo các bất thường về thông tin xác thực mà NG-SIEM Tương quan với dữ liệu đo từ xa của thiết bị đầu cuối từ CDR. Các tác nhân hoạt động trên lớp tích hợp này có quyền truy cập vào toàn bộ chuỗi tấn công và ngữ cảnh tương quan cần thiết để suy luận về các cuộc tấn công nhiều giai đoạn.
Chuẩn hóa API và Tự động hóa nhận diện danh tính
Các tác nhân tương tác với các hệ thống bên ngoài thông qua API, và tính bảo mật của các tương tác đó phụ thuộc vào việc nền tảng cơ bản kiểm soát và giám sát chúng tốt đến mức nào. Chuẩn hóa API đảm bảo rằng dữ liệu chảy vào các quy trình suy luận của tác nhân được xác thực, cấu trúc và loại bỏ các vectơ tấn công tiềm ẩn trước khi tác nhân xử lý. Một lớp API không được chuẩn hóa sẽ khiến các tác nhân dễ bị tổn thương trước chính những rủi ro thao túng công cụ đã được đề cập trong phần trước. Tự động hóa nhận biết danh tính bổ sung thêm một lớp kiểm soát. Mỗi hành động của tác nhân phải được liên kết với một danh tính tác nhân đã được xác minh, có các quyền được xác định và nhật ký kiểm toán đầy đủ. Khi một tác nhân gọi API, truy vấn nguồn dữ liệu hoặc thực hiện hành động phản hồi, hành động đó sẽ được gán cho một danh tính cụ thể với phạm vi ủy quyền được xác định. Các tác nhân hoạt động ngoài ngữ cảnh danh tính được ủy quyền của chúng sẽ kích hoạt cảnh báo giống như một tài khoản người dùng bị xâm phạm.
Khả năng quan sát hành vi của tác nhân trong thời gian thực
Các hệ thống AI tác nhân an toàn đòi hỏi khả năng giám sát liên tục hành vi của tác nhân trong quá trình thực thi: trình tự các lệnh gọi công cụ được thực hiện, các nguồn dữ liệu được truy cập, các quyết định được ghi lại ở mỗi bước và bất kỳ sự sai lệch nào so với các chuẩn mực hành vi đã thiết lập. Trong một hệ thống như vậy, SOC Trong bối cảnh này, khả năng quan sát thời gian thực cung cấp thông tin trực tiếp cho khả năng phát hiện của nền tảng. Phân tích hành vi của tác nhân chạy song song với phân tích điểm cuối và mạng, tương quan hoạt động của tác nhân với dữ liệu đo từ xa về bảo mật rộng hơn. Một tác nhân truy vấn các nguồn dữ liệu nằm ngoài phạm vi bình thường của nó, hoặc thực hiện các lệnh gọi công cụ với khối lượng bất thường, sẽ tạo ra tín hiệu phát hiện tương tự như bất kỳ thực thể bất thường nào khác trong môi trường.
Mô phỏng môi trường khép kín như một biện pháp kiểm soát cấu trúc.
Môi trường thử nghiệm (sandboxing) trong một hệ thống tác nhân hoàn thiện. SOC Điều này được coi là một yêu cầu kiến trúc. Mỗi môi trường thực thi tác nhân phải hoạt động trong các giới hạn được xác định: các công cụ và API được cho phép, quyền truy cập mạng bị hạn chế, các đường dẫn đầu ra được xác thực và ghi nhật ký tất cả các tương tác ranh giới. Sandboxing giới hạn phạm vi ảnh hưởng của một tác nhân bị xâm phạm và cung cấp cho lớp quan sát của nền tảng một cơ sở rõ ràng để phát hiện các bất thường. Nguyên tắc cơ bản là các môi trường thực thi tác nhân được giới hạn rõ ràng, được giám sát tích cực và được thiết kế để ngăn chặn lỗi. Việc cách ly dựa trên container, thực thi cổng API và các đường dẫn xác thực đầu ra đều phục vụ chức năng đó. Trong một nền tảng như của Stellar Cyber, nơi bảo mật AI dựa trên tác nhân được nhúng vào kiến trúc, sandboxing hoạt động phối hợp với khả năng quan sát thời gian thực và tự động hóa nhận dạng để tạo thành một tư thế phòng thủ nhất quán trên mọi giai đoạn thực thi tác nhân.
Người đại diện trưởng thành là gì? SOC Các nền tảng sẽ trông như thế nào vào năm 2027
Các tổ chức triển khai trí tuệ nhân tạo tác nhân trong hoạt động của họ. SOCCác công nghệ hiện nay đang phát triển vượt bậc so với các quy định và tiêu chuẩn hiện hành. Những xu hướng mới nổi sẽ định hình lại các yêu cầu triển khai trên toàn ngành trong vòng hai năm tới.
Áp lực pháp lý định hình lại các tiêu chuẩn triển khai
Các chính phủ và cơ quan quản lý đang hướng tới các yêu cầu rõ ràng hơn đối với các hệ thống AI tự động đưa ra các quyết định quan trọng. Các điều khoản của Đạo luật AI của EU về AI rủi ro cao đang được diễn giải để bao gồm các hệ thống tác nhân hoạt động trong bối cảnh an ninh, và các khuôn khổ tương đương đang được phát triển ở các thị trường lớn khác. Đến năm 2027, các yêu cầu tuân thủ liên quan đến tính minh bạch, khả năng kiểm toán và sự giám sát của con người đối với các tác nhân dự kiến sẽ định hình các quyết định mua sắm và thực tiễn triển khai ở mức độ ngang nhau. Các nhóm an ninh xây dựng các hệ thống tác nhân SOC Các đơn vị vận hành hiện nay nên xem các dự thảo quy định hiện hành như một tín hiệu về hướng đi của các yêu cầu và xây dựng kiến trúc của họ cho phù hợp.
Danh tính tác nhân trở thành một yếu tố bảo mật cơ bản.
Các nhóm ngành đang nỗ lực hướng tới các giao thức tiêu chuẩn hóa cho việc xác thực giữa các tác nhân và xác minh danh tính, dựa trên các nguyên tắc mà OAuth và SAML đã thiết lập cho việc xác thực người dùng và ứng dụng. Khi kiến trúc đa tác nhân trở nên phổ biến hơn trong SOC Việc xác minh danh tính tác nhân, thiết lập lòng tin giữa các tác nhân và kiểm toán tương tác giữa các tác nhân sẽ chuyển từ hướng dẫn khuyến nghị sang yêu cầu cơ bản. Các nền tảng tích hợp sẵn tính năng tự động hóa nhận diện danh tính sẽ có vị thế tốt hơn khi các tiêu chuẩn này được chính thức hóa.
Kiểm thử và tấn công liên tục đối với các quy trình làm việc của tác nhân
Các nền tảng tấn công giả lập tự động được xây dựng đặc biệt cho bảo mật AI tác nhân đang bắt đầu xuất hiện. Các nền tảng chuyên dụng liên tục kiểm tra các tác nhân chống lại các biến thể tấn công tức thời, các kịch bản thao tác công cụ và các điều kiện tự tin sai lệch, cung cấp cho các nhóm bảo mật sự xác thực liên tục về hành vi của tác nhân dưới áp lực từ kẻ thù. Cũng giống như kiểm thử xâm nhập đã trở thành thông lệ tiêu chuẩn cho cơ sở hạ tầng truyền thống, tấn công giả lập tự động sẽ trở thành một yêu cầu vận hành thường xuyên đối với bất kỳ tổ chức nào vận hành hệ thống tự động. SOC quy trình công việc.
Tự hành toàn chu kỳ SOC Hoạt động
Quá trình mà các nền tảng đã trưởng thành đang hướng tới là tự động hoàn toàn SOC hoạt độngQuy trình bao gồm thu thập, làm giàu thông tin, điều tra, phán quyết và ngăn chặn các mô hình mối đe dọa đã được hiểu rõ, thực hiện mà không cần sự can thiệp thủ công, trong khi các nhà phân tích con người tập trung vào các mối đe dọa mới, các trường hợp ngoại lệ và các quyết định chiến lược đòi hỏi bối cảnh và phán đoán của tổ chức. Kiến trúc của Stellar Cyber được thiết kế dựa trên lộ trình này. Việc đầu tư vào hệ thống đo lường từ xa thống nhất, các lớp phát hiện tích hợp, hộp cát và khả năng tự chủ được hỗ trợ bởi con người ngày nay chính là cơ sở hạ tầng mà hoạt động tự động hoàn chỉnh dựa trên đó. Bảo mật AI tác nhân là yếu tố giúp tầm nhìn đó khả thi về mặt vận hành.