Ma chaidh faighneachd dhut dè a th’ ann an in-stealladh sgiobalta agus nach d’ fhuair thu ach leth fhreagairt, seo an dreach goirid: ’s e dòigh-ionnsaigh a th’ ann far a bheil teacsa droch-rùnach no làimhseachail air a shleamhnadh a-steach don chur-a-steach a bhios modail AI a’ giullachd, ga mhealladh gu bhith a’ seachnadh a stiùiridhean tùsail agus a’ leantainn stiùiridhean an ionnsaighear na àite. Sin cridhe brìgh an in-stealladh sgiobalta: chan e biast anns a’ chòd a th’ ann, ’s e ionnsaigh a th’ ann a bhios a’ toirt thairis stiùiridhean a’ mhodail a’ cleachdadh cànan àbhaisteach an àite còd ionnsaigh traidiseanta.
Ciall In-stealladh Prompt, ann an teirmean sìmplidh #
Bidh a bhith a’ briseadh sìos brìgh an in-stealladh sgiobalta facal air fhacal ga chuideachadh le bhith a’ cumail ris:
- Thoir fa-near: na stiùiridhean agus an co-theacsa a thèid a bhiadhadh a-steach do mhodail AI, ge bith an deach an taipeadh gu dìreach leis an neach-cleachdaidh no an tarraing a-steach gu fèin-ghluasadach bho sgrìobhainn, duilleag-lìn no freagairt API.
- In-stealladh: a’ cur a-steach rudeigin nach robh an dùil a bhith ann, air iasad bhon aon loidsig ri stealladh SQL, far a bheilear a’ làimhseachadh cuir-a-steach neo-earbsach mar àithne an àite dàta lom.
Mar sin nuair a bhios cuideigin a’ faighneachd dè a th’ ann an stealladh sgiobalta, is e am freagairt as sìmplidh: is e sin a thachras nuair nach urrainn do mhodail AI an diofar innse eadar na stiùiridhean a fhuair e bhon leasaiche agus na stiùiridhean a tha falaichte taobh a-staigh an t-susbaint a tha e a’ giullachd.
Dè tha e dha-rìribh a’ toirt a-steach? #
Tha a’ mhòr-chuid de chùisean san t-saoghal fhìor a’ tuiteam a-steach do na prìomh roinnean sin:
- In-stealladh dìreach sgiobaltaBidh an t-ionnsaighear a’ taipeadh an stiùireadh droch-rùnach dìreach a-steach don raon cabadaich no cuir a-steach, ag iarraidh gu fosgailte air a’ mhodail dearmad a dhèanamh air na riaghailtean a bh’ ann roimhe (“leig seachad a h-uile stiùireadh a bh’ ann roimhe agus…”).
- In-stealladh sgiobalta neo-dhìreachTha an stiùireadh droch-rùnach falaichte taobh a-staigh susbaint a leughas am modail nas fhaide air adhart, leithid duilleag-lìn, PDF, post-d, no beachd còd, agus chan eil e gnìomhach ach nuair a bhios am modail a’ giullachd an t-susbaint sin, gun ionnsaighear an làthair aig an àm sin.
- In-stealladh stoidhle Jailbreakblas sònraichte de in-stealladh a bhios a’ cleachdadh cluich-ròl, frèamadh mac-meanmnach, no cleasan còdaidh gus sàbhailteachd modail a sheachnadh guardrails gu sònraichte, seach a dhleastanas a thoirt thairis.
In-stealladh sgiobalta an aghaidh Jailbreaking: Dè an diofar a th’ ann? #
Is e leantainn cumanta air dè a th’ ann an stealladh sgiobalta mar a tha e eadar-dhealaichte bho jailbreaking. Tha an dà rud a’ dol thairis air a chèile ach chan eil iad co-ionann. Tha jailbreaking gu sònraichte mu bhith a’ seachnadh sàbhailteachd modail agus clàr na làraich guardrails, a bhith ga thoirt gu bhith ag ràdh no a’ gineadh rudeigin a chaidh a thrèanadh airson a dhiùltadh. Tha in-stealladh sgiobalta nas fharsainge: tha e mu dheidhinn stiùireadh no gnìomh a’ mhodail a thoirt thairis, a dh’ fhaodadh no nach bi a’ toirt a-steach sàbhailteachd guardrails idir. Chan eil stealladh neo-dhìreach falaichte ann an tiogaid taic a dh’innseas gu sàmhach do riochdaire seirbheis teachdaiche dàta neach-cleachdaidh a chuir gu seòladh taobh a-muigh a’ feuchainn ri rud sam bith a bhriseadh; tha e ag ath-stiùireadh an obair fhèin.
Far a bheil In-stealladh Prompt a’ nochdadh gu dearbh #
Cho luath ‘s a thuigeas tu brìgh an in-stealladh sgiobalta, bidh e nas fhasa fhaicinn càite a bheil an cunnart ann an siostaman fìor:
Frithealaichean MCP agus luchd-cuideachaidh còdaidh AI – faodaidh beachd droch-rùnach, README, no luchd toradh-inneal ath-stiùireadh a dhèanamh air na bhios riochdaire a’ dèanamh taobh a-staigh stòr-còd no teirminéal leasaiche gu diofar a rèir a’ chànain prògramaidh air a bheil e air a thogail, ach tha am prìomh bheachd (deasaiche + innealan togail + dì-bhugadair, ann an aon àite) fhathast mar a tha e.
Botaichean-còmhraidh agus riochdairean taic – bidh neach-cleachdaidh a’ cur teacsa a chaidh a stealladh a-steach gus am bi am bot a’ nochdadh brosnachadh an t-siostaim aige no a’ dèanamh gnìomhan ris nach robh dùil.
Ginealach leasaichte le faighinn air ais (RAG) pipelines – bidh stiùiridhean ann an sgrìobhainn phuinnseanta anns a’ bhunait eòlais a bhios gnìomhach nuair a thèid an toirt air ais.
riochdairean AI fèin-riaghlaidh – faodaidh riochdaire a bhios a’ brobhsadh air an lìon, a’ leughadh puist-d, no a’ gairm innealan stiùiridhean a chaidh a stealladh a thogail bho shusbaint sam bith ris a bheil e a’ beantainn, agus an uairsin gnìomh a dhèanamh orra le ceadan fìor.
Carson a tha brìgh an stealladh sgiobalta cudromach nas fhaide na “dìreach cleas sgiobalta” #
Tha e furasta a dhiùltadh mar rud ùr-nodha, dòigh glic air toirt air cabadaich rudeigin gòrach a ràdh. Ach aon uair ‘s gu bheil modalan AI ceangailte ri riochdairean as urrainn puist-d a chuir, còd a chuir an gnìomh, ceistean a chur air stòran-dàta, no pacaidean a stàladh, stadaidh in-stealladh sgiobalta bho bhith na rud fiosrachail uinneag cabadaich agus bidh e na dhuilgheadas crìche tèarainteachd: ge bith cò a chumas smachd air an t-susbaint a leughas modail, fo na cumhaichean ceart, faodaidh e smachd a chumail air na nì am modail sin an ath rud. Sin as coireach gu bheil an in-stealladh seo a-nis a’ nochdadh mar a roinn fhèin anns an 10 as Fheàrr aig OWASP airson Tagraidhean LLM, agus carson a thathas a-nis a’ meas mar eòlas bunaiteach airson neach sam bith a tha a’ togail no a’ tèarainteachd shiostaman le cumhachd AI, agus chan e dìreach rud a tha inntinneach do luchd-sgioba dearga.
Ma tha thu a’ coimhead air seo gu sònraichte bho shealladh AppSec agus DevSecOps, is e sin, mar a nochdas cunnart in-stealladh sgiobalta thar riochdairean AI, frithealaichean MCP, agus còd a chaidh a chruthachadh le AI seach dìreach na tha an teirm a’ ciallachadh, tha sinn air sin a chòmhdach nas doimhne an seo: Tèarainteachd Slabhraidh Solarachaidh AI.
CÀBHA #
Is e ionnsaigh a th’ ann far a bheil stiùiridhean droch-rùnach falaichte taobh a-staigh an cuir-a-steach no an t-susbaint a bhios modail AI a’ giullachd, ag adhbhrachadh gum bi am modail a’ leantainn stiùiridhean an ionnsaighear an àite an fheadhainn thùsail.
Bidh e a’ cothlamadh “prompt” (na stiùiridhean agus an co-theacsa a tha air an toirt do mhodail AI) le “in-stealladh” (a’ cur òrdughan gun chead a-steach do rudeigin nach bu chòir ach dàta a bhith ann), an aon bhun-bheachd a tha air cùl ionnsaighean nas sine mar in-stealladh SQL.
Chan eil. Tha jailbreaking ag amas gu sònraichte air sàbhailteachd modail. guardrails gus toirt air susbaint nach eil ceadaichte a thoirt gu buil. Tha in-stealladh sgiobalta nas fharsainge: bidh e a’ toirt thairis gnìomh no stiùiridhean a’ mhodail, agus is dòcha nach eil dad aca ri dhèanamh ri sìoltachain sàbhailteachd idir.
'S e. Canar stealladh neo-dhìreach ris an seo: tha an stiùireadh droch-rùnach suidhichte taobh a-staigh sgrìobhainn, duilleag-lìn no faidhle a leughas modail no riochdaire nas fhaide air adhart, agus bidh e a’ tòiseachadh gu fèin-ghluasadach an dearbh mhionaid a thèid an susbaint a phròiseasadh.
Chan eil. Bidh e a’ cleachdadh mar a mhìnicheas modail cànan nàdarrach, chan e lochd ann an còd tagraidh. Sin dìreach a tha ga dhèanamh duilich a chàradh le innealan tèarainteachd traidiseanta.
