Kategori: AI

Keselamatan Kopilot GitHub

Keselamatan Copilot GitHub: Risiko Sebenar Kod Bertulis AI dan Cara Mengawalnya

GitHub Copilot menulis bahagian kod anda yang semakin meningkat, dan kini ia juga menjalankan arahan, membuka pull requests dan memasang pakej. Berikut ialah risiko keselamatan GitHub Copilot yang sebenar, daripada suntikan segera dan rahsia yang bocor kepada pakej halusinasi, perkara yang diliputi oleh kawalan terbina dalam GitHub dan tujuh langkah untuk memastikan kod bertulis AI terkawal.
Baca min 9
insiden keselamatan berpelukan

Insiden Keselamatan Berpelukan Muka: Bagaimana Ejen AI Menceroboh Platform dan Apa yang Perlu Dibaiki Sendiri Pipeline

Seorang ejen AI telah menukar satu set data berniat jahat kepada akses kepada kluster dalaman Hugging Face, tanpa penyerang manusia di sebaliknya. Inilah yang berlaku dalam insiden keselamatan Hugging Face, mengapa ia penting untuk setiap pasukan yang menjalankan AI pipelineejen s atau AI, dan enam langkah untuk menutup jurang yang sama dalam persekitaran anda sendiri.
Baca min 10
Keselamatan ejen AI

Keselamatan ejen AI: kenali setiap ejen, tangkap risiko, jaga apa yang dipasangnya

Ejen AI bukan sahaja menjawab, mereka bertindak: mereka memanggil alatan, memegang kelayakan dan memasang pakej sendiri. Beginilah cara keselamatan ejen AI berfungsi dalam empat langkah, daripada inventori setiap ejen dalam kod anda hinggalah mengawal apa yang dipasang oleh ejen.
Baca min 10
Xygeni di ENISE 2026 Keselamatan ejen pengekodan AI

Siapakah yang Memutuskan Bahawa Keluaran Boleh Dihantar? Pengajaran Keselamatan Ejen Pengekodan AI daripada ENISE 2026

Di ENISE 2026, Ketua Pegawai Eksekutif Xygeni, Jesús Cuadrado, menunjukkan bagaimana satu ayat dalam isu GitHub membawa kepada pelepasan tanpa kebenaran, dan meninggalkan CISOs dengan empat soalan tentang ejen pengekodan AI.
Baca min 8
10 Teratas AI Agen OWASP

Penjelasan 10 Teratas AI Agen OWASP: ASI01–ASI10

10 Teratas OWASP Agentic AI menamakan sepuluh cara ejen AI gagal. Inilah maksud sebenar ASI01 hingga ASI10 dalam situasi sebenar pipeline, di mana setiap risiko masuk dan risiko yang mana anda boleh hentikan sebelum digunakan.
Baca min 11
Serangan Pengekstrakan Model

Serangan Pengekstrakan Model: Mengapa Inventori Diutamakan

Serangan pengekstrakan model membolehkan penyerang menyalin model anda satu pertanyaan pada satu masa, tanpa sebarang pelanggaran dan tiada fail yang dicuri. Beginilah cara pencurian model berfungsi dan mengapa pertahanan pertama adalah mengetahui setiap titik akhir inferens yang anda dedahkan.
Baca min 8
Risiko AI Agentik dan jejari letupan

Risiko AI Agentik dan jejari letupan: hadkan agen, atau pulih lebih cepat?

Kekang ejen, pulih lebih cepat atau kawal dari bawah? Tiga pengamal, tiga jawapan dan satu minimum yang mereka semua persetujui.
Baca min 13
Kejuruteraan abah-abah ejen

Kejuruteraan abah-abah ejen: modelnya bukanlah permukaan serangan, abah-abahnya adalah

Kejuruteraan abah-abah ejen menukar model menjadi ejen yang berguna. Ia juga memberikan penyerang sasaran baharu: fail yang memberitahu ejen anda apa yang boleh dilakukannya.
Baca min 7
Keselamatan Aplikasi AI

Keselamatan Aplikasi AI: Apa yang kami dengar di OWASP Porto & Karlsruhe

Keselamatan aplikasi AI mendominasi OWASP Porto dan Karlsruhe. Apakah itu? ASPM sebenarnya, bagaimana ia berbeza daripada SAST, dan tempat triaj dan pemulihan AI membantu.
Baca min 8
Pengurusan risiko AI

Pengurusan risiko AI: dua disiplin, satu inventori

Empat istilah carian, dua pekerjaan yang sama sekali berbeza. Mengurus risiko AI bukanlah disiplin yang sama seperti menggunakan AI untuk pengurusan risiko, dan kebanyakan organisasi menggaji satu orang sambil menjual yang lain. Bahagian yang menarik ialah apa yang berlaku apabila anda menyedari bahawa mereka adalah program yang sama.
Baca min 9
Metrik Risiko AI

Risiko AI: Metrik Yang Memberitahu Anda Sama Ada Strategi AI Ejen Anda Berfungsi

Setiap lembaga kini menanyakan soalan yang sama: apakah risiko AI kita? Kebanyakan pasukan menjawab dengan kata adjektif. Berikut ialah metrik risiko AI yang menghasilkan nombor, dari mana setiap satunya berasal, dan apa yang perlu diliputi oleh strategi AI agentik sebelum mana-mana daripadanya bermakna apa-apa.
Baca min 9
Ancaman keselamatan AI

10 ancaman keselamatan AI teratas dan cara memetakannya

Dua perkara difailkan di bawah tajuk yang sama dan ia bukanlah masalah yang sama. Serangan ke atas sistem AI dan serangan yang dikuasakan oleh AI memerlukan kawalan yang berbeza, pemilik yang berbeza dan bukti yang berbeza. Sepuluh ancaman, dibahagikan kepada dua bahagian, dan satu langkah yang mendahului kesemuanya.
Baca min 10