Manusia otonom yang ditingkatkan SOCPerpaduan Sempurna antara Teknologi dan Kemanusiaan

Tepat setelah pergantian abad, IBM memperkenalkan istilah 'TI otonom'. Pada saat itu, perspektif IBM adalah bahwa aplikasi, jaringan, dan sistem TI telah menjadi terlalu kompleks untuk dikelola, dipantau, atau diamankan oleh manusia. IBM mempresentasikan konsep TI otonomnya, dengan visi sistem TI yang dapat mengelola diri sendiri dengan kemampuan canggih untuk konfigurasi mandiri, optimasi mandiri, perbaikan mandiri, dan perlindungan mandiri – masa depan otonomi, efisiensi, dan harmoni TI yang akan segera terwujud.

Wow, persepsi TI futuristik ini (dan yang serupa) sungguh menakjubkan! Mesin mengelola mesin. Perangkat lunak mengelola perangkat lunak. Meskipun saya sangat menghargai visi tersebut, saya harus meredam antusiasme saya dengan sedikit realita. Saya bertanya-tanya, “Apakah ini benar-benar akan terjadi? Kapan? Dan apa yang bisa salah di sini?” Dengan pengetahuan saya tentang kemampuan dan keterbatasan teknologi pada saat itu, saya menduga bahwa komputasi otonom memang akan terjadi.
meskipun saya tidak tahu kapan.

Mengenai apa yang bisa salah, saya hanya bisa memikirkan pengendali AI HAL 9000 dari film Stanley Kubrick, 2001: A Space Odyssey. Pada tahap awal film, HAL menunjukkan perilaku yang sempurna dan membantu. Namun tiba-tiba, HAL mulai menganggap kru manusia sebagai penghalang misi yang diprogram untuknya. Sebagai tanggapan, HAL mulai bekerja melawan kru, memata-matai dan akhirnya melenyapkan mereka. Hmm, mungkinkah komputasi otonom IBM mengesampingkan manusia, berkuasa tanpa kendali atas TI, dan mungkin menghancurkan dunia?

Film tersebut dirilis pada tahun 1968, sementara IBM mendeklarasikan visi otonomi TI-nya pada tahun 2001. Dan kemudian, tidak terjadi apa pun selama seperempat abad. Akhirnya, dua puluh lima tahun kemudian, AI mewujudkan mimpi otonomi TI menjadi kenyataan – yah, kurang lebih.

Ambil contoh domain keamanan. Istilah-istilahnya otonom SOC dan agenik SOC telah berevolusi dari sekadar gembar-gembor pemasaran hingga hampir menjadi kenyataan. Pada tahun 2025, SOC Asisten analis semakin populer, memberikan respons AI generatif terhadap perintah analis. Pada tahun 2026, inovasi berlanjut dengan diperkenalkannya agen AI, yang meniru perilaku analis dengan melakukan beberapa analisis data dan tugas alur kerja. Ini baru permulaan. Dalam waktu dekat, agen SOC Posisi-posisi ini menjanjikan peningkatan keterampilan, dengan melakukan tugas-tugas seperti perburuan ancaman, mengatur alur kerja, dan menambal sistem yang rentan.

Berdasarkan kemajuan saat ini dan inovasi di masa depan, jelas bahwa agen AI akan menjadi lebih cerdas dan lebih mumpuni dari waktu ke waktu, yang mengarah pada sistem yang lebih cerdas dan lebih otonom. SOCDengan masa depan yang jauh lebih pasti daripada spekulasi dan fiksi ilmiah di masa lalu, akankah manusia terus memiliki peran dalam operasi keamanan, atau akankah visi IBM dan Kubrick tentang otonomi penuh terwujud?

Izinkan saya meluruskan kesalahpahaman. AI akan sangat meningkatkan kecerdasan, skala, dan kecepatan operasi keamanan, tetapi manusia akan selalu penting. SOC Pengambilan keputusan. Bahkan, kita seharusnya berhenti berbicara tentang otonomi. SOC dan mengubah terminologi menjadi otonom yang diper augmented oleh manusia. SOCHal ini lebih menggambarkan hubungan sebenarnya – AI menjadi alat yang semakin ampuh, memungkinkan manusia untuk SOC personel untuk meningkatkan efektivitas dan efisiensi operasi keamanan secara signifikan.

Seiring waktu, hubungan antara manusia dan AI akan berevolusi seiring dengan peningkatan fungsionalitas dan kemampuan agen keamanan. Seiring dengan hal ini, masukan manusia akan berubah sebagai berikut:

1. Saat ini:

Manusia memungkinkan AI untuk berfungsi dengan baik melalui infrastruktur data yang sesuai: Berikut rahasia kecil yang perlu diperhatikan: AI berbasis agen tidak akan akurat atau berharga jika menghadapi skema data yang terfragmentasi, korelasi yang rusak, atau telemetri yang hilang. Oleh karena itu, upaya manusia (saat ini dan di masa mendatang) dimulai dengan aktivitas seperti orkestrasi pipeline, normalisasi skema, grafik entitas dan aset, serta pengindeksan semantik dan basis data vektor. Selain itu, organisasi harus berupaya untuk menjaga kebersihan data dan mengurangi noise. Landasan rekayasa/manajemen data ini sangat penting untuk menciptakan model yang akurat dan mutakhir, sehingga memungkinkan agen keamanan untuk melakukan tugas mereka.

2. 2026-2027:

Otomatisasi analis tingkat 1 terus berlanjut. Hal ini sudah terjadi dan akan berlanjut hingga tahun depan. Selama fase ini, agen SOC Alat-alat ini mengotomatiskan tugas triase Tingkat 1 dengan memperkaya peringatan dengan intelijen ancaman, dan menyertakan konteks tambahan (misalnya, lokasi aset, identitas, telemetri dari alat lain, dll.). Tujuannya adalah untuk mempercepat dan meningkatkan skala triase peringatan dengan kecepatan mesin. Agen akan membuat tiket, memberikan laporan investigasi ringkasan, dan menghitung skor risiko. Semua pekerjaan ini sangat meningkatkan kemampuan personel yang lebih senior. SOC Para analis kemudian menggunakan penilaian manusia untuk menambahkan konteks (dan pengalaman) pada keluaran AI, lalu membuat dan melaksanakan keputusan perbaikan.

3. 2027-2028

Remediasi otomatis mulai berkembang pesat. Setelah fase pelatihan dan rekayasa, agen secara bertahap diizinkan untuk mengambil tindakan perbaikan secara mandiri (misalnya, mengkarantina sistem, memblokir alamat IP, dll.). Namun, tindakan ini dianggap sebagai tugas perbaikan dasar dan hanya diotomatiskan jika terdapat kombinasi serangan dengan tingkat kepercayaan tinggi yang terkait dengan aset bernilai rendah. Semua tindakan perbaikan juga harus didasarkan pada model tata kelola yang terdefinisi dengan baik, didukung oleh penegakan kebijakan, pemantauan, dan penyetelan sistem – semuanya dipandu oleh insinyur dan analis keamanan berpengalaman. Dengan bekerja sama dengan agen AI, tim keamanan akan mendapatkan kepercayaan diri dalam perbaikan otomatis dan secara perlahan menyesuaikan batasan untuk memekanisasi lebih banyak tindakan. Akan tetap ada persyaratan untuk titik pemeriksaan keterlibatan manusia (human-in-the-loop/HITL) untuk setiap perilaku yang mencurigakan yang membutuhkan intuisi dan pengalaman manusia.

4. Tahun 2028 dan seterusnya.

Persentase tindakan otomatis akan terus meningkat, semakin mendorong efisiensi manusia, tetapi HITL (Human Information and Learning/Pengawasan dan Penanggulangan Kesalahan Manusia) tetap ada untuk semua kasus yang meragukan. Simbiosis antara agen AI dan manusia sangat meningkat selama periode ini karena agen belajar lebih banyak tentang berkolaborasi dengan manusia dan manusia belajar lebih banyak tentang berkolaborasi dengan agen. Perlu dicatat bahwa ketika musuh sepenuhnya merangkul AI, jumlah insiden perilaku yang meragukan akan meningkat, menambah pengawasan manusia, kebutuhan akan keterampilan tingkat lanjut, dan peningkatan kerja sama manusia/agen. Organisasi yang mengandalkan agen AI SOC Alat-alat tersebut mungkin mempelajari pelajaran sulit melalui "kelengahan otomatisasi" di mana mereka membiarkan agen mengambil tindakan dengan hasil negatif (misalnya, menonaktifkan sistem penting, memblokir lalu lintas yang sah, dll.). Sementara itu, lingkungan TI dan permukaan serangan akan terus tumbuh lebih kompleks dengan proliferasi AI. Ini berarti bahwa agen harus terus disesuaikan dengan pembelajaran penguatan — sekali lagi, didorong oleh manusia yang berpengalaman. Secara keseluruhan, manusia dan agen membentuk tim yang saling menguntungkan di mana manusia berupaya untuk terus meningkatkan agen melalui tugas-tugas seperti orkestrasi agen, pelatihan model AI, perburuan ancaman, pengujian tim merah, dan tata kelola.
Hingga tahun 2026, IBM belum mencapai komputasi otonom dan visi Stanley Kubrick tetap menjadi film fiksi ilmiah. Jika berbicara tentang... SOCManusia tidak akan menghilang, meskipun peran mereka akan mengalami perubahan dinamis. Proyeksi yang bertentangan dengan hal ini hanyalah ilusi pemasaran. Dalam skenario ini, agen memberi tahu manusia, “Bantu saya membantu Anda.” Dengan kata lain, semakin banyak manusia dan agen bekerja sama untuk meningkatkan operasi keamanan, semakin besar peningkatan yang dapat diharapkan oleh organisasi dalam pencegahan, deteksi, dan respons terhadap ancaman.
Gulir ke Atas