ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ: ਹਰੇਕ ਏਜੰਟ ਨੂੰ ਜਾਣੋ, ਜੋਖਮ ਨੂੰ ਫੜੋ, ਇਹ ਕੀ ਸਥਾਪਿਤ ਕਰਦਾ ਹੈ ਇਸਦੀ ਰਾਖੀ ਕਰੋ

ਵਿਸ਼ਾ - ਸੂਚੀ

ਪੜ੍ਹਨਯੋਗ ਪੋਸਟਾਂ

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਹੁਣ ਇਸ ਬਾਰੇ ਨਹੀਂ ਹੈ ਕਿ ਇੱਕ ਮਾਡਲ ਕੀ ਕਹਿੰਦਾ ਹੈ। ਇਹ ਇਸ ਬਾਰੇ ਹੈ ਕਿ ਇੱਕ ਏਜੰਟ ਕੀ ਕਰਦਾ ਹੈ: ਉਹ ਟੂਲ ਜਿਨ੍ਹਾਂ ਨੂੰ ਇਹ ਕਾਲ ਕਰਦਾ ਹੈ, ਉਹ ਡੇਟਾ ਜੋ ਇਹ ਪੜ੍ਹਦਾ ਹੈ, ਉਹ ਪ੍ਰਮਾਣ ਪੱਤਰ ਜੋ ਇਸ ਕੋਲ ਹਨ, ਅਤੇ ਉਹ ਪੈਕੇਜ ਜੋ ਇਹ ਆਪਣੇ ਆਪ ਸਥਾਪਿਤ ਕਰਦਾ ਹੈ।

ਅਤੇ ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ ਪਹਿਲੇ ਸਵਾਲ ਦਾ ਜਵਾਬ ਨਹੀਂ ਦੇ ਸਕਦੀਆਂ: ਅਸੀਂ ਅਸਲ ਵਿੱਚ ਕਿਹੜੇ ਏਜੰਟ ਚਲਾ ਰਹੇ ਹਾਂ? ਉਹ ਰਿਪੋਜ਼ਟਰੀਆਂ ਵਿੱਚ ਰਹਿੰਦੇ ਹਨ ਜਿਵੇਂ ਕਿ ਲੈਂਗਚੇਨ ਗ੍ਰਾਫ, ਐਮਸੀਪੀ ਸਰਵਰ, SKILL.md ਫਾਈਲਾਂ, ਅਤੇ ਏਆਈ ਕੋਡਿੰਗ ਟੂਲ ਜੋ ਵਿਅਕਤੀਗਤ ਡਿਵੈਲਪਰਾਂ ਨੇ ਸ਼ੁੱਕਰਵਾਰ ਦੁਪਹਿਰ ਨੂੰ ਕੌਂਫਿਗਰ ਕੀਤੇ ਸਨ। ਕਿਸੇ ਨੇ ਵੀ ਉਹਨਾਂ ਦੀ ਸਮੀਖਿਆ ਨਹੀਂ ਕੀਤੀ, ਅਤੇ ਇੱਕ ਖਤਰਨਾਕ ਹੁਨਰ ਸਿਰਫ਼ ਸਾਦਾ ਟੈਕਸਟ ਹੈ

TL; ਡਾ

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਚਾਰ ਪੜਾਵਾਂ ਵਿੱਚ: ਇਸਨੂੰ ਵੇਖੋ, ਇਸਨੂੰ ਸਕੋਰ ਕਰੋ, ਲੂਪ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰੋ, ਇੰਸਟਾਲਾਂ ਦੀ ਰਾਖੀ ਕਰੋ

ਤੁਸੀਂ ਉਨ੍ਹਾਂ ਏਜੰਟਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਨਹੀਂ ਕਰ ਸਕਦੇ ਜਿਨ੍ਹਾਂ ਨੂੰ ਤੁਸੀਂ ਨਹੀਂ ਦੇਖ ਸਕਦੇ। AI ਏਜੰਟ ਸੁਰੱਖਿਆ ਤੁਹਾਡੇ ਕੋਡ ਵਿੱਚ ਹਰੇਕ ਏਜੰਟ, MCP ਸਰਵਰ, ਹੁਨਰ, ਮਾਡਲ ਅਤੇ AI ਕੋਡਿੰਗ ਟੂਲ ਦੀ ਸੂਚੀ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ।

  • ਏਜੰਟ ਕਿਵੇਂ ਬਣਾਏ ਜਾਂਦੇ ਹਨ, ਇਸ ਵਿੱਚ ਜੋਖਮ: ਪ੍ਰੋਂਪਟ ਕਰਦਾ ਹੈ ਜੋ ਉਪਭੋਗਤਾ ਇਨਪੁਟ, ਟੂਲ-ਕਾਲਿੰਗ ਏਜੰਟਾਂ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਦੇ ਜੋੜਦਾ ਹੈ guardrails, ਲੁਕਵੇਂ ਨਿਰਦੇਸ਼ਾਂ ਦੇ ਨਾਲ ਵਾਧੂ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਪ੍ਰਾਪਤ ਪ੍ਰਮਾਣ ਪੱਤਰ ਅਤੇ ਹੁਨਰ। ਇਸਦਾ ਜ਼ਿਆਦਾਤਰ ਹਿੱਸਾ ਕੋਡ ਵਿੱਚ, ਤੈਨਾਤੀ ਤੋਂ ਪਹਿਲਾਂ, ਅਤੇ ਨਕਸ਼ਿਆਂ ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਸਿਖਰਲੇ 10.
  • ਲੂਪ ਦੇ ਅੰਦਰ ਸੁਰੱਖਿਆ: ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਨੂੰ ਆਪਣੇ ਲੂਪ ਦੇ ਅੰਦਰ ਸੁਰੱਖਿਆ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਇਸ ਲਈ ਉਹ ਜੋ ਲਿਖਦੇ ਹਨ ਉਸਨੂੰ ਸਕੈਨ ਕਰਦੇ ਹਨ ਅਤੇ ਠੀਕ ਕਰਦੇ ਹਨ ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਕਿ ਇਹ commitਟੇਡ, ਹਫ਼ਤਿਆਂ ਬਾਅਦ ਟਿਕਟ ਵਿੱਚ ਨਹੀਂ।
  • ਇੰਸਟਾਲਾਂ ਦੀ ਰੱਖਿਆ ਕਰੋ: ਏਜੰਟ ਨਿਰਭਰਤਾਵਾਂ ਵੀ ਸਥਾਪਿਤ ਕਰਦੇ ਹਨ। ਮਾਲਵੇਅਰ ਖੋਜ ਜੋ ਦਸਤਖਤ ਦੇ ਮੌਜੂਦ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਕੰਮ ਕਰਦੀ ਹੈ, ਖਤਰਨਾਕ ਪੈਕੇਜਾਂ ਨੂੰ ਕਵਰ ਕਰਦੀ ਹੈ ਜੋ ਵੀ ਉਹਨਾਂ ਨੂੰ ਸਥਾਪਿਤ ਕਰਦਾ ਹੈ, ਇੱਕ ਡਿਵੈਲਪਰ ਜਾਂ ਇੱਕ ਏਜੰਟ।
  • ਇੱਕ ਵਰਕਫਲੋ: AI ਖੋਜਾਂ ਤੁਹਾਡੇ ਬਾਕੀ AppSec ਖੋਜਾਂ ਵਾਂਗ ਹੀ ਟ੍ਰਾਈਏਜ, ਟਿਕਟਾਂ ਅਤੇ ਰਿਪੋਰਟਾਂ ਵਿੱਚੋਂ ਲੰਘਦੀਆਂ ਹਨ।

ਪਹਿਲਾ ਕਦਮ: ਆਪਣੇ ਰਿਪੋਜ਼ਟਰੀਆਂ ਵਿੱਚ AI ਦੀ ਇੱਕ ਵਸਤੂ ਸੂਚੀ ਬਣਾਓ, ਇਸਨੂੰ AI-BOM ਦੇ ਰੂਪ ਵਿੱਚ ਨਿਰਯਾਤ ਕਰੋ, ਫਿਰ CI ਵਿੱਚ ਨਵਾਂ ਏਜੰਟ ਕੋਡ ਗੇਟ ਕਰੋ।

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਇੱਕ ਵੱਖਰੀ ਸਮੱਸਿਆ ਕਿਉਂ ਹੈ?

ਇੱਕ LLM ਵਿਸ਼ੇਸ਼ਤਾ ਟੈਕਸਟ ਵਾਪਸ ਕਰਦੀ ਹੈ, ਅਤੇ ਇੱਕ ਮਨੁੱਖ ਫੈਸਲਾ ਕਰਦਾ ਹੈ ਕਿ ਇਸਦੇ ਨਾਲ ਕੀ ਕਰਨਾ ਹੈ। ਇੱਕ ਏਜੰਟ ਉਸ ਲੂਪ ਨੂੰ ਆਪਣੇ ਆਪ ਬੰਦ ਕਰ ਦਿੰਦਾ ਹੈ: ਇਹ ਯੋਜਨਾ ਬਣਾਉਂਦਾ ਹੈ, ਟੂਲਸ ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਵੈੱਬ ਪੇਜਾਂ, ਈਮੇਲਾਂ ਅਤੇ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਪੜ੍ਹਦਾ ਹੈ, ਫਾਈਲਾਂ ਲਿਖਦਾ ਹੈ, ਅਤੇ ਕਮਾਂਡਾਂ ਚਲਾਉਂਦਾ ਹੈ। ਤੁਹਾਡੇ ਦੁਆਰਾ ਏਜੰਟ ਨੂੰ ਦਿੱਤੀ ਗਈ ਹਰ ਸਮਰੱਥਾ ਇੱਕ ਅਜਿਹੀ ਸਮਰੱਥਾ ਹੈ ਜੋ ਹਮਲਾਵਰ ਉਧਾਰ ਲੈ ਸਕਦਾ ਹੈ।

OWASP ਨੇ ਵੀ ਇਹੀ ਫ਼ਰਕ ਕੀਤਾ। ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ 2026 ਲਈ OWASP ਸਿਖਰਲੇ 10 (ASI01 ਤੋਂ ASI10) ਇਸ 'ਤੇ ਬਣਦਾ ਹੈ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਸਿਖਰਲੇ 10: ਐਲਐਲਐਮ ਸੂਚੀ ਇੱਕ ਮਾਡਲ ਕੀ ਕਹਿੰਦਾ ਹੈ ਨੂੰ ਕਵਰ ਕਰਦੀ ਹੈ; ਏਜੰਟ ਸੂਚੀ ਇੱਕ ਏਜੰਟ ਕੀ ਕਰਦਾ ਹੈ ਨੂੰ ਕਵਰ ਕਰਦੀ ਹੈ।

ਜ਼ਿਆਦਾਤਰ ਸੰਸਥਾਵਾਂ ਹੁਣ ਦੋ ਤਰ੍ਹਾਂ ਦੇ ਏਜੰਟ ਚਲਾਉਂਦੀਆਂ ਹਨ:

  • ਤੁਹਾਡੇ ਵੱਲੋਂ ਆਪਣੀਆਂ ਅਰਜ਼ੀਆਂ ਵਿੱਚ ਬਣਾਏ ਗਏ ਏਜੰਟ: LangChain, LangGraph, CrewAI, AutoGen, Semantic Kernel ਜਾਂ LlamaIndex ਵਰਗੇ ਫਰੇਮਵਰਕ ਨਾਲ ਬਣੇ ਸਪੋਰਟ ਅਸਿਸਟੈਂਟ, ਅੰਦਰੂਨੀ ਕੋਪਾਇਲਟ ਅਤੇ ਵਰਕਫਲੋ, ਅਕਸਰ ਟੂਲਸ ਨਾਲ ਜੁੜੇ ਹੁੰਦੇ ਹਨ MCP ਸਰਵਰ.
  • ਤੁਹਾਡੇ ਡਿਵੈਲਪਰਾਂ ਦੁਆਰਾ ਵਰਤੇ ਜਾਣ ਵਾਲੇ AI ਕੋਡਿੰਗ ਏਜੰਟ: ਕਲਾਉਡ ਕੋਡ, ਕਰਸਰ, ਗਿੱਟਹੱਬ ਕੋਪਾਇਲਟ, ਵਿੰਡਸਰਫ, ਅਤੇ ਹੋਰ, ਜੋ ਕੋਡ ਲਿਖਦੇ ਹਨ, ਸੰਰਚਨਾ ਸੰਪਾਦਿਤ ਕਰਦੇ ਹਨ, ਅਤੇ ਨਿਰਭਰਤਾ ਜੋੜਦੇ ਹਨ।

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਨੂੰ ਦੋਵਾਂ ਨੂੰ ਕਵਰ ਕਰਨਾ ਪੈਂਦਾ ਹੈ, ਕਿਉਂਕਿ ਦੋਵੇਂ ਤੁਹਾਡੀਆਂ ਇਜਾਜ਼ਤਾਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਨ।

ਕਦਮ 1: ਹਰੇਕ ਏਜੰਟ, MCP ਸਰਵਰ, ਅਤੇ ਹੁਨਰ ਦੀ ਸੂਚੀ ਬਣਾਓ

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਇੱਕ ਪ੍ਰਸ਼ਨ ਬੋਰਡ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਆਡੀਟਰ ਹੁਣ ਪੁੱਛਦੇ ਹਨ: ਅਸੀਂ ਕਿਹੜਾ ਏਆਈ ਚਲਾ ਰਹੇ ਹਾਂ? ਜ਼ਾਇਗੇਨੀ ਏਆਈ ਸੁਰੱਖਿਆ ਇਸਦਾ ਜਵਾਬ ਸਰੋਤ ਤੋਂ ਦਿੰਦਾ ਹੈ: ਕੋਡ, ਸੰਰਚਨਾ, ਮੈਨੀਫੈਸਟ, ਅਤੇ ਨਿਰਭਰਤਾਵਾਂ।

ਇਹ ਮਾਡਲਾਂ, ਏਜੰਟਾਂ ਅਤੇ ਏਜੰਟ ਸਰਵਰਾਂ, ਏਆਈ ਫਰੇਮਵਰਕ, ਐਮਸੀਪੀ ਸਰਵਰਾਂ ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ ਔਜ਼ਾਰਾਂ, ਹੁਨਰਾਂ ਦੀ ਖੋਜ ਕਰਦਾ ਹੈ (SKILL.md, AGENTS.md), ਪ੍ਰੋਂਪਟ, guardrails, ਵੈਕਟਰ ਸਟੋਰ, ਡੇਟਾਸੈੱਟ, ਇਨਫਰੈਂਸ ਐਂਡਪੁਆਇੰਟ ਅਤੇ ਤੁਹਾਡੇ ਰਿਪੋਜ਼ਟਰੀਆਂ ਵਿੱਚ ਕੌਂਫਿਗਰ ਕੀਤੇ ਗਏ AI ਕੋਡਿੰਗ ਟੂਲ। ਇਹ ਇਹ ਵੀ ਮੈਪ ਕਰਦਾ ਹੈ ਕਿ ਉਹ ਕਿਵੇਂ ਜੁੜਦੇ ਹਨ: ਕਿਹੜਾ ਏਜੰਟ ਕਿਹੜੇ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਕਿਹੜੇ ਟੂਲਸ ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ, ਅਤੇ ਕਿਹੜੇ MCP ਸਰਵਰਾਂ ਨੂੰ ਇਨਵੋਕ ਕਰਦਾ ਹੈ।

ਨਤੀਜਾ ਇੱਕ ਜੀਵਤ AI ਵਸਤੂ ਸੂਚੀ ਹੈ, ਜੋ CycloneDX ਫਾਰਮੈਟ ਵਿੱਚ AI-BOM ਦੇ ਰੂਪ ਵਿੱਚ ਨਿਰਯਾਤ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਪ੍ਰਤੀ ਸੰਪਤੀ ਇੱਕ ਗਵਰਨੈਂਸ ਰਿਕਾਰਡ ਦੇ ਨਾਲ ਜਿਸ ਵਿੱਚ EU AI ਐਕਟ ਜੋਖਮ ਸ਼੍ਰੇਣੀ ਖੇਤਰ ਸ਼ਾਮਲ ਹੈ।

ਕੀ ਤੁਸੀਂ ਦੇਖਣਾ ਚਾਹੁੰਦੇ ਹੋ ਕਿ ਤੁਹਾਡੇ ਕੋਡ ਵਿੱਚ ਪਹਿਲਾਂ ਤੋਂ ਕੀ AI ਹੈ? ਕਿਸੇ ਇੰਜੀਨੀਅਰ ਨਾਲ ਸੈਸ਼ਨ ਬੁੱਕ ਕਰੋ, ਅਤੇ ਅਸੀਂ ਤੁਹਾਡੇ ਇੱਕ ਰਿਪੋਜ਼ਟਰੀ ਦੀ AI ਇਨਵੈਂਟਰੀ ਬਣਾਵਾਂਗੇ।

ਕਦਮ 2: ਏਜੰਟ ਕਿਵੇਂ ਬਣਾਏ ਜਾਂਦੇ ਹਨ, ਇਸ ਵਿੱਚ ਜੋਖਮਾਂ ਨੂੰ ਫੜੋ

ਜ਼ਿਆਦਾਤਰ ਏਜੰਟ ਕਮਜ਼ੋਰੀਆਂ ਵਿਦੇਸ਼ੀ ਨਹੀਂ ਹੁੰਦੀਆਂ। ਇਹ ਸਟ੍ਰਿੰਗ ਕਨਕੇਟੇਨੇਸ਼ਨ ਦੁਆਰਾ ਬਣਾਇਆ ਗਿਆ ਇੱਕ ਪ੍ਰੋਂਪਟ ਹੈ, ਇੱਕ ਟੂਲ-ਕਾਲਿੰਗ ਏਜੰਟ ਜਿਸ ਵਿੱਚ ਕੋਈ ਇਨਪੁਟ ਗਾਰਡਰੇਲ ਨਹੀਂ ਹੁੰਦਾ ਜਾਂ ਏਜੰਟ ਦੀ ਲੋੜ ਤੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਸਕੋਪ ਵਾਲਾ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲ ਹੁੰਦਾ ਹੈ। ਇਹ ਸਾਰੇ ਕੋਡ ਵਿੱਚ ਫਿੰਗਰਪ੍ਰਿੰਟ ਛੱਡਦੇ ਹਨ, ਤਾਂ ਜੋ ਤੁਸੀਂ ਉਹਨਾਂ ਨੂੰ ਤੈਨਾਤੀ ਤੋਂ ਪਹਿਲਾਂ CI ਵਿੱਚ ਫੜ ਸਕੋ।

ਏਆਈ ਏਜੰਟ ਜੋਖਮ ਜੋ ਤੁਸੀਂ ਕੋਡ ਵਿੱਚ ਫੜ ਸਕਦੇ ਹੋ

ਹਰੇਕ ਜੋਖਮ ਨਕਸ਼ੇ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਸਿਖਰਲੇ 10 ਜਾਂ ਇਸਦੇ ਏਜੰਟਿਕ ਸਾਥੀ, ਇਸ ਲਈ ਖੋਜਾਂ ਤੁਹਾਡੇ ਆਡੀਟਰਾਂ ਵਾਂਗ ਹੀ ਭਾਸ਼ਾ ਬੋਲਦੀਆਂ ਹਨ।

ਜੋਖਮਇਹ ਕੋਡ ਵਿੱਚ ਕਿਹੋ ਜਿਹਾ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈOWASP ਮੈਪਿੰਗ
ਤੁਰੰਤ ਟੀਕਾਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਕਰਦਾ ਹੈ ਜੋ ਭੂਮਿਕਾ ਵੱਖ ਕਰਨ, ਸੀਮਾਬੱਧ ਕਰਨ ਵਾਲਿਆਂ ਜਾਂ ਬਿਨਾਂ ਉਪਭੋਗਤਾ ਸਮੱਗਰੀ ਨੂੰ ਜੋੜਦਾ ਹੈ guardrailsਐਲਐਲਐਮ 01
ਅਸਿੱਧੇ ਟੀਕਾਬਿਨਾਂ ਕਿਸੇ ਇਨਪੁਟ ਦੇ ਟੂਲ-ਕਾਲਿੰਗ ਏਜੰਟ guardrails, ਜਾਂ ਏਜੰਟ ਜੋ ਵੈੱਬ ਪੰਨਿਆਂ, ਈਮੇਲਾਂ ਜਾਂ ਪ੍ਰਾਪਤ ਕੀਤੇ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਬਿਨਾਂ ਰੋਗਾਣੂ-ਮੁਕਤ ਗ੍ਰਹਿਣ ਕਰਦੇ ਹਨਐਲਐਲਐਮ 01
ਅਸੁਰੱਖਿਅਤ ਆਉਟਪੁੱਟ ਹੈਂਡਲਿੰਗਮਾਡਲ ਆਉਟਪੁੱਟ ਪਹੁੰਚ eval ਜਾਂ ਹੋਰ ਖ਼ਤਰਨਾਕ ਸਿੰਕ, ਜੋ ਫੰਕਸ਼ਨਾਂ ਅਤੇ ਫਾਈਲਾਂ ਵਿੱਚ ਲੱਭੇ ਜਾਂਦੇ ਹਨਐਲਐਲਐਮ 05
ਜ਼ਿਆਦਾ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਪ੍ਰਾਪਤ ਏਜੰਟ ਪਛਾਣਾਂਗੈਰ-ਮਨੁੱਖੀ ਪਛਾਣ ਦੁਰਵਿਵਹਾਰਸਥਿਰ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਚੱਲਣ ਵਾਲੇ ਪ੍ਰਮਾਣ ਪੱਤਰ, ਸਕੋਪ ਸੰਕੁਚਿਤ ਕੀਤੇ ਬਿਨਾਂ ਸਾਂਝੇ ਪ੍ਰਮਾਣ ਪੱਤਰ, ਉੱਚੇ ਅਧਿਕਾਰਾਂ ਨਾਲ ਚੱਲ ਰਹੇ MCP ਜਾਂ ਟੂਲ ਸਰਵਰਏਐਸਆਈ 03
ਖ਼ਰਾਬ ਜਾਂ ਟਾਈਪੋਸਕਵੇਟ ਹੁਨਰਏਜੰਟ ਹੁਨਰ ਸਪਲਾਈ ਲੜੀਵਿੱਚ ਲੁਕੇ ਹੋਏ ਖਤਰਨਾਕ ਨਿਰਦੇਸ਼ SKILL.md or AGENTS.md, ਹੁਨਰ ਦੇ ਨਾਮ ਜੋ ਜਾਣੇ-ਪਛਾਣੇ ਹੁਨਰਾਂ ਜਾਂ ਏਕੀਕਰਨ ਦੀ ਨਕਲ ਕਰਦੇ ਹਨਏਜੰਟਿਕ ਹੁਨਰ ਸਿਖਰਲੇ 10
ਪ੍ਰੋਂਪਟ ਵਿੱਚ ਰਾਜ਼ਪ੍ਰੋਂਪਟ ਫਾਈਲਾਂ ਦੇ ਅੰਦਰ ਸਟੋਰ ਕੀਤੇ ਪ੍ਰਮਾਣ ਪੱਤਰਐਲਐਲਐਮ 07

ਹਰੇਕ ਖੋਜ ਵਿੱਚ ਆਪਣੀ OWASP LLM ਟੌਪ 10 ਸ਼੍ਰੇਣੀ ਹੁੰਦੀ ਹੈ, ਨਾਲ ਹੀ OWASP ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨ ਅਤੇ ਏਜੰਟਿਕ ਸਕਿੱਲਜ਼ ਟੈਗ ਜਿੱਥੇ ਉਹ ਲਾਗੂ ਹੁੰਦੇ ਹਨ, ਅਤੇ ਲਾਲ-ਟੀਮ ਹਮਲੇ ਦੇ ਵੈਕਟਰ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ।

ਹੁਨਰ ਵਿਸ਼ੇਸ਼ ਧਿਆਨ ਦੇ ਹੱਕਦਾਰ ਹਨ ਕਿਉਂਕਿ ਇੱਕ ਹੁਨਰ ਫਾਈਲ ਵਿੱਚ ਇੱਕ ਖਤਰਨਾਕ ਹਦਾਇਤ ਗਦ ਹੈ, ਕੋਡ ਨਹੀਂ, ਅਤੇ ਕੋਈ ਵੀ ਦਸਤਖਤ ਇਸਨੂੰ ਨਹੀਂ ਦੇਖ ਸਕਦਾ। ਇੱਕ ਔਪਟ-ਇਨ AI ਸਮੀਖਿਆ ਇੱਕ ਵਰਜਨਡ, ਨਿਰਧਾਰਕ ਸੈੱਟਅੱਪ ਨਾਲ ਫਲੈਗ ਕੀਤੇ ਹੁਨਰ ਅਤੇ ਏਜੰਟ ਨਿਰਦੇਸ਼ ਫਾਈਲਾਂ ਦੇ ਉਦੇਸ਼ ਦਾ ਨਿਰਣਾ ਕਰਦੀ ਹੈ, ਇਸ ਲਈ ਉਹੀ ਫਾਈਲ ਹਮੇਸ਼ਾ ਉਹੀ ਫੈਸਲਾ ਪ੍ਰਾਪਤ ਕਰਦੀ ਹੈ। ਇਹ ਤੁਹਾਡੇ ਆਪਣੇ ਸਵੈ-ਹੋਸਟ ਕੀਤੇ ਮਾਡਲ 'ਤੇ ਚੱਲ ਸਕਦੀ ਹੈ, ਇਸ ਲਈ ਕੋਡ ਅਤੇ ਪ੍ਰੋਂਪਟ ਨੂੰ ਤੁਹਾਡੇ ਵਾਤਾਵਰਣ ਨੂੰ ਛੱਡਣ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਇੱਕ ਹੁਨਰ-ਪੱਧਰ ਦਾ ਸਕੋਰ ਫਿਰ ਉਹਨਾਂ ਸਿਗਨਲਾਂ ਨੂੰ ਇੱਕ ਜਵਾਬ ਵਿੱਚ ਫਿਊਜ਼ ਕਰਦਾ ਹੈ: ਸੁਰੱਖਿਅਤ, ਸਾਵਧਾਨੀ ਜਾਂ ਇੰਸਟਾਲ ਨਾ ਕਰੋ।

ਡੂੰਘੀ ਜਾਓ: ਸਾਡਾ ਸੈਸ਼ਨ ਦੇਖੋ ਧਮਾਕੇ ਦਾ ਘੇਰਾ: ਜਦੋਂ ਏਜੰਟ ਉਸ ਚੀਜ਼ ਨੂੰ ਛੂੰਹਦਾ ਹੈ ਜੋ ਤੁਸੀਂ ਨਹੀਂ ਮੰਗੀ ਸੀ, ਕੀ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਏਜੰਟ ਦੀਆਂ ਇਜਾਜ਼ਤਾਂ ਉਸਦੇ ਕੰਮ ਤੋਂ ਅੱਗੇ ਵੱਧ ਜਾਂਦੀਆਂ ਹਨ।

ਕਦਮ 3: ਕੋਡਿੰਗ ਏਜੰਟ ਦੇ ਲੂਪ ਦੇ ਅੰਦਰ ਸੁਰੱਖਿਆ ਰੱਖੋ

ਏਆਈ ਕੋਡਿੰਗ ਏਜੰਟ ਲਿਖਦੇ ਹਨ ਅਤੇ commit ਕੋਡ ਨੂੰ ਇੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਸਮਝੋ ਕਿ ਕੋਈ ਵੀ ਇਸਦੀ ਸਮੀਖਿਆ ਨਹੀਂ ਕਰ ਸਕਦਾ। ਦੋ ਹਫ਼ਤਿਆਂ ਬਾਅਦ ਟਿਕਟ 'ਤੇ ਆਉਣ ਵਾਲੀ ਖੋਜ ਬਹੁਤ ਘੱਟ ਹੀ ਠੀਕ ਹੁੰਦੀ ਹੈ। ਏਜੰਟ ਦੇ ਕੰਮ ਕਰਨ ਦੌਰਾਨ ਹੀ ਠੀਕ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।

Xygeni MCP ਸਰਵਰ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਚੱਲਦਾ ਹੈ ਅਤੇ ਕਿਸੇ ਵੀ AI ਕੋਡਿੰਗ ਏਜੰਟ ਨਾਲ ਕੰਮ ਕਰਦਾ ਹੈ ਜੋ MCP ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਭਾਵੇਂ ਇਹ ਕਿਸੇ ਵੀ ਮਾਡਲ 'ਤੇ ਚੱਲਦਾ ਹੋਵੇ। ਏਜੰਟ ਉਸ ਕੋਡ ਨੂੰ ਸਕੈਨ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਉਸਨੇ ਹੁਣੇ ਲਿਖਿਆ ਹੈ, ਨਵੇਂ ਮੁੱਦਿਆਂ ਨੂੰ ਸੂਚੀਬੱਧ ਕਰ ਸਕਦਾ ਹੈ, AI Triage ਫੈਸਲੇ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਹੱਲਾਂ ਦੀ ਬੇਨਤੀ ਕਰ ਸਕਦਾ ਹੈ। SAST ਅਤੇ SCA ਖੋਜਾਂ। ਇਹ ਉਦੋਂ ਤੱਕ ਦੁਹਰਾਉਂਦਾ ਰਹਿੰਦਾ ਹੈ ਜਦੋਂ ਤੱਕ ਤਬਦੀਲੀ ਸਾਫ਼ ਨਹੀਂ ਹੋ ਜਾਂਦੀ, ਕੁਝ ਵੀ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ commitਠੀਕ ਹੈ, ਤੁਹਾਡੀ ਟੀਮ ਦੁਆਰਾ ਨਿਰਧਾਰਤ ਪ੍ਰਵਾਨਗੀਆਂ ਦੇ ਨਾਲ।

ਇਹ ਉਹੀ ਇੰਜਣ, ਨੀਤੀਆਂ ਅਤੇ ਮਿਊਟ ਨਿਯਮਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ ਜੋ ਤੁਹਾਡੇ pipeline, ਇਸ ਲਈ ਏਜੰਟ ਅਤੇ ਤੁਹਾਡਾ CI ਕਦੇ ਵੀ ਅਸਹਿਮਤ ਨਹੀਂ ਹੁੰਦੇ। ਏਜੰਟ ਦੇ ਨਾਲ ਕੰਮ ਕਰਨ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਲਈ, IDE ਪਲੱਗਇਨ ਉਹੀ ਖੋਜਾਂ ਅਤੇ ਸੁਧਾਰ ਸੰਪਾਦਕ ਵਿੱਚ ਲਿਆਓ।

ਕਦਮ 4: ਏਜੰਟ ਕੀ ਸਥਾਪਿਤ ਕਰਦੇ ਹਨ ਇਸਦੀ ਨਿਗਰਾਨੀ ਕਰੋ

ਇੱਕ AI ਕੋਡਿੰਗ ਏਜੰਟ ਆਪਣੇ ਆਪ ਇੱਕ ਨਿਰਭਰਤਾ ਜੋੜ ਸਕਦਾ ਹੈ, ਅਤੇ ਇਹ ਇਹ ਜਾਂਚ ਕਰਨ ਲਈ ਨਹੀਂ ਰੁਕੇਗਾ ਕਿ ਕੀ ਇੱਕ ਜਾਣੇ-ਪਛਾਣੇ ਨਾਮ ਵਾਲਾ ਇੱਕ ਬਿਲਕੁਲ ਨਵਾਂ ਪੈਕੇਜ ਜਾਇਜ਼ ਹੈ। ਹਮਲਾਵਰ ਇਹ ਜਾਣਦੇ ਹਨ, ਅਤੇ ਓਪਨ-ਸੋਰਸ ਰਜਿਸਟਰੀਆਂ ਉਹ ਥਾਂ ਹਨ ਜਿੱਥੇ ਉਹ ਉਡੀਕ ਕਰਦੇ ਹਨ।

ਮਾਲਵੇਅਰ ਰੱਖਿਆ ਦਸਤਖਤ ਮੌਜੂਦ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਖਤਰਨਾਕ ਪੈਕੇਜਾਂ ਨੂੰ ਫਲੈਗ ਕਰਦਾ ਹੈ, ਭਾਵੇਂ ਉਹ ਡਿਵੈਲਪਰ ਹੋਵੇ ਜਾਂ ਏਜੰਟ। ਡਿਵੈਲਪਰ ਦੀ ਮਸ਼ੀਨ 'ਤੇ, Shield ਕੁਝ ਵੀ ਚੱਲਣ ਤੋਂ ਪਹਿਲਾਂ ਨੀਤੀ ਨੂੰ ਲਾਗੂ ਕਰਦਾ ਹੈ: ਨਵੇਂ ਪੈਕੇਜਾਂ ਲਈ ਘੱਟੋ-ਘੱਟ ਉਮਰ, IDE ਐਕਸਟੈਂਸ਼ਨਾਂ ਅਤੇ ਪਲੱਗਇਨਾਂ ਲਈ ਕਵਰੇਜ, ਖਤਰਨਾਕ ਸੂਚਕਾਂ ਅਤੇ ਜੋਖਮ ਭਰੇ ਭੂਗੋਲਿਆਂ ਨੂੰ ਰੋਕਣਾ, ਅਤੇ ਜਦੋਂ ਮਸ਼ੀਨ ਨੂੰ ਕਾਬੂ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਤਾਂ ਅੰਤਮ ਬਿੰਦੂ ਆਈਸੋਲੇਸ਼ਨ।

ਹੋਰ ਡੂੰਘਾਈ ਵਿੱਚ ਜਾਣਾ ਚਾਹੁੰਦੇ ਹੋ?

ਹੈਂਡਲਰ ਵਿੱਚ ਇੱਕ ਨੁਕਸ ਅਤੇ ਇਸ ਤੱਕ ਪਹੁੰਚਣ ਵਾਲਾ ਐਕਸਪੋਜ਼ਡ ਐਂਡਪੁਆਇੰਟ ਇੱਕ ਸਮੱਸਿਆ ਹੈ, ਇੱਕ ਮਾਲਕ ਨਾਲ। ਅਤੇ ਜੇਕਰ ਤੁਸੀਂ ਪਹਿਲਾਂ ਹੀ ਕੋਈ ਹੋਰ DAST ਟੂਲ ਚਲਾਉਂਦੇ ਹੋ, ਤਾਂ Xygeni ਇਸਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਉਸੇ ਜੋਖਮ ਦ੍ਰਿਸ਼ ਵਿੱਚ ਆਯਾਤ ਕਰਦਾ ਹੈ, ਬਿਨਾਂ ਤੁਹਾਨੂੰ ਇਸਨੂੰ ਬਦਲਣ ਲਈ ਕਹੇ।

ਦੋਵੇਂ ਪਰਤਾਂ ਨੂੰ ਇਕੱਠੇ ਕੰਮ ਕਰਦੇ ਦੇਖਣਾ ਚਾਹੁੰਦੇ ਹੋ? ਸਾਡਾ ਸੈਸ਼ਨ ਦੇਖੋ ਕੋਡ ਤੋਂ ਰਨਟਾਈਮ ਤੱਕ: ਕਿਉਂ SAST + DAST ਦੋਵੇਂ ਆਧੁਨਿਕ AppSec ਲਈ ਜ਼ਰੂਰੀ ਹਨ, ਜਿੱਥੇ ਅਸੀਂ ਦੇਖਦੇ ਹਾਂ ਕਿ ਕੋਡ ਖੋਜਾਂ ਅਤੇ ਰਨਟਾਈਮ ਟੈਸਟ ਇੱਕ ਦੂਜੇ ਦੀ ਪੁਸ਼ਟੀ ਕਿਵੇਂ ਕਰਦੇ ਹਨ।

ਇੱਕ ਵਰਕਫਲੋ, ਦੂਜਾ ਕੰਸੋਲ ਨਹੀਂ

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਉਦੋਂ ਅਸਫਲ ਹੋ ਜਾਂਦੀ ਹੈ ਜਦੋਂ ਇਹ ਆਪਣੀ ਕਤਾਰ ਵਾਲਾ ਇੱਕ ਵੱਖਰਾ ਟੂਲ ਬਣ ਜਾਂਦਾ ਹੈ। ਜ਼ਾਇਜੇਨੀ ਵਿੱਚ, ਏਆਈ ਖੋਜਾਂ ਉਸੇ ਫਨਲ ਵਿੱਚੋਂ ਲੰਘਦੀਆਂ ਹਨ, ਏਆਈ ਟ੍ਰਾਈਜ, ਟਿਕਟਾਂ ਅਤੇ ਰਿਪੋਰਟਾਂ ਤੁਹਾਡੀਆਂ ਬਾਕੀ ਖੋਜਾਂ ਦੇ ਰੂਪ ਵਿੱਚ। AI Remediation ਸਾਰੀਆਂ ਦਸ OWASP LLM ਸ਼੍ਰੇਣੀਆਂ ਲਈ ਸੰਦਰਭ-ਜਾਗਰੂਕ ਫਿਕਸ ਮਾਰਗਦਰਸ਼ਨ ਦਿੰਦਾ ਹੈ, ਅਤੇ ASPM ਕੋਡ, ਨਿਰਭਰਤਾ ਅਤੇ ਦੇ ਅੱਗੇ AI ਜੋਖਮ ਰੱਖਦਾ ਹੈ pipeline ਇੱਕ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਤੋਂ ਜੋਖਮ।

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਅਤੇ ਪਾਲਣਾ

ਰੈਗੂਲੇਟਰ, ਆਡੀਟਰ ਅਤੇ ਗਾਹਕ ਤੁਹਾਡੇ ਦੁਆਰਾ ਚਲਾਏ ਜਾ ਰਹੇ ਏਆਈ ਦੀ ਵਸਤੂ ਸੂਚੀ ਅਤੇ ਇਸਦੇ ਜੋਖਮ ਨੂੰ ਕਿਵੇਂ ਵਰਗੀਕ੍ਰਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਦੀ ਮੰਗ ਕਰਦੇ ਹਨ। EU AI ਐਕਟ ਅਤੇ ISO / IEC 42001 ਦੋਵੇਂ ਉਸ ਦਿਸ਼ਾ ਵੱਲ ਵਧਦੇ ਹਨ, ਅਤੇ ਇੱਕ AI-BOM ਇੱਕ ਬਣ ਰਿਹਾ ਹੈ standard ਖਰੀਦ ਪ੍ਰਸ਼ਨਾਵਲੀ ਵਿੱਚ ਆਈਟਮ।

ਪ੍ਰਤੀ ਸੰਪਤੀ ਜੋਖਮ ਸ਼੍ਰੇਣੀ ਖੇਤਰ ਵਾਲੀ ਇੱਕ AI ਵਸਤੂ ਸੂਚੀ ਤੁਹਾਡੀ ਸ਼ਾਸਨ ਟੀਮ ਨੂੰ ਉਸ ਕੰਮ ਲਈ ਸਬੂਤ ਅਧਾਰ ਦਿੰਦੀ ਹੈ। ਇਹ EU AI ਐਕਟ ਦੀ ਤਿਆਰੀ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ; ਇਹ ਇੱਕ ਅਨੁਕੂਲਤਾ ਮੁਲਾਂਕਣ ਨਹੀਂ ਹੈ, ਅਤੇ ਇਹ ਤੁਹਾਡੀ ਕਾਨੂੰਨੀ ਸਮੀਖਿਆ ਦੀ ਥਾਂ ਨਹੀਂ ਲੈਂਦਾ।

ਜਾਂ ਦਰਮਿਆਨੇ ਆਕਾਰ ਦੀਆਂ ਟੀਮਾਂ ਸਰਲ ਹਨ:

  1. ਹਰ ਇੱਕ 'ਤੇ pull request: ਬਦਲੇ ਹੋਏ ਕੋਡ 'ਤੇ CI ਵਿੱਚ API ਸੁਰੱਖਿਆ, ਅਤੇ ਨਾਲ ਹੀ ਵਾਧੇ ਵਾਲਾ DAST ਸਕੈਨ।
  2. ਅੱਗੇ commit: ਇੱਕ ਦੇ ਤੌਰ ਤੇ pre-commit ਸਟੇਜਡ ਫਾਈਲਾਂ 'ਤੇ ਗੇਟ।
  3. ਰਾਤ ਨੂੰ ਜਾਂ ਮਰਜ 'ਤੇ: ਇੱਕ ਪੂਰਾ DAST ਸਕੈਨ।
  4. ਹਰੇਕ ਵੱਡੀ ਰਿਲੀਜ਼ ਤੋਂ ਪਹਿਲਾਂ: ਬੈਕਲਾਗ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕਰਨ ਅਤੇ ਹਰੇਕ ਫਿਕਸ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਸਟੇਜਿੰਗ ਦੇ ਵਿਰੁੱਧ AI ਪੈਂਟੈਸਟਿੰਗ ਨੇ ਛੇਕ ਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ।

API ਸੁਰੱਖਿਆ ਸਕੈਨਰ ਕਿਤੇ ਵੀ ਚੱਲਦਾ ਹੈ, ਏਅਰ-ਗੈਪਡ ਵਾਤਾਵਰਣ ਸਮੇਤ, ਅਤੇ Xygeni SaaS ਜਾਂ ਤੁਹਾਡੇ on-premises ਪਲੇਟਫਾਰਮ। ਨਤੀਜੇ JSON ਦੇ ਰੂਪ ਵਿੱਚ ਸਾਹਮਣੇ ਆਉਂਦੇ ਹਨ, ਸਰੀਫ 2.1.0, CSV, ਅਤੇ ਮਾਰਕਡਾਊਨ ਲਈ pull request ਟਿੱਪਣੀਆਂ

API ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਅਤੇ ਪਾਲਣਾ

ਬੈਂਕਿੰਗ, ਬੀਮਾ, ਜਾਂ ਜਨਤਕ ਖੇਤਰ ਦੀਆਂ ਟੀਮਾਂ ਲਈ, API ਸੁਰੱਖਿਆ ਜਾਂਚ ਵੀ ਸਬੂਤ ਹੈ। ਹਰੇਕ ਖੋਜ ਵਿੱਚ ਪਾਲਣਾ ਟੈਗ ਹੁੰਦੇ ਹਨ GDPR ਧਾਰਾ 32, ਪੀਸੀਆਈ ਡੀਐਸਐਸ 4.0 (ਲੋੜਾਂ 3.4, 6.4.3, 7.1, 7.2 ਅਤੇ 8) ਅਤੇ NIST SP 800-53 (AC-3, AC-6, IA-2, IA-5), ਪਲੇਟਫਾਰਮ ਵਿੱਚ ਅਤੇ JSON ਅਤੇ SARIF ਆਉਟਪੁੱਟ ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ।

ਜੇਕਰ ਤੁਹਾਡੀ ਸੰਸਥਾ ਹੇਠ ਆਉਂਦੀ ਹੈ ਡੋਰਾ or NIS2, ਰਨਟਾਈਮ ਟੈਸਟਿੰਗ ਤੁਹਾਨੂੰ ਤੁਹਾਡੇ ਰੈਗੂਲੇਟਰਾਂ ਨੂੰ ਅਜੇ ਵੀ ਲੋੜੀਂਦੇ ਮੈਨੂਅਲ ਪੈਨਟੈਸਟ ਦੇ ਵਿਚਕਾਰ ਨਿਰੰਤਰ ਸਬੂਤ ਦਿੰਦੀ ਹੈ। 

7 ਕਦਮਾਂ ਵਿੱਚ ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਨੂੰ ਕਿਵੇਂ ਲਾਗੂ ਕਰਨਾ ਹੈ

ਇੱਥੇ ਵਿਹਾਰਕ ਚੈੱਕਲਿਸਟ ਹੈ, ਇਸ ਕ੍ਰਮ ਵਿੱਚ ਜੋ ਇੱਕ ਅਸਲ ਵਿਕਾਸ ਟੀਮ ਵਿੱਚ AI ਏਜੰਟ ਸੁਰੱਖਿਆ ਨੂੰ ਸਭ ਤੋਂ ਤੇਜ਼ੀ ਨਾਲ ਕੰਮ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕਰਦੀ ਹੈ।

  1. ਖੋਜੋ

    ਆਪਣੇ ਭੰਡਾਰਾਂ ਵਿੱਚ ਹਰੇਕ AI ਸੰਪਤੀ ਦੀ ਸੂਚੀ ਬਣਾਓ।

    ਏਜੰਟਾਂ, MCP ਸਰਵਰਾਂ, ਹੁਨਰਾਂ, ਮਾਡਲਾਂ, ਪ੍ਰੋਂਪਟਾਂ ਅਤੇ AI ਕੋਡਿੰਗ ਟੂਲਸ ਲਈ ਸਾਰੀਆਂ ਰਿਪੋਜ਼ਟਰੀਆਂ ਨੂੰ ਸਕੈਨ ਕਰੋ, ਅਤੇ ਨਤੀਜੇ ਨੂੰ AI-BOM ਦੇ ਰੂਪ ਵਿੱਚ ਨਿਰਯਾਤ ਕਰੋ। ਇਹ ਤੁਹਾਡੀ ਬੇਸਲਾਈਨ ਹੈ, ਅਤੇ ਸੂਚੀ ਹਰ ਦੂਜੇ ਕਦਮ ਤੋਂ ਕੰਮ ਕਰਦੀ ਹੈ।

  2. ਵਰਗੀਕਰਣ

    ਹਰੇਕ ਏਜੰਟ ਨੂੰ ਇੱਕ ਮਾਲਕ ਅਤੇ ਇੱਕ ਜੋਖਮ ਪੱਧਰ ਦਿਓ।

    ਹਰੇਕ ਏਜੰਟ ਲਈ, ਇਹ ਰਿਕਾਰਡ ਕਰੋ ਕਿ ਇਸਦਾ ਮਾਲਕ ਕੌਣ ਹੈ, ਇਹ ਕਿਹੜੇ ਡੇਟਾ ਅਤੇ ਟੂਲਸ ਤੱਕ ਪਹੁੰਚ ਸਕਦਾ ਹੈ, ਅਤੇ ਇਸਦੀ EU AI ਐਕਟ ਜੋਖਮ ਸ਼੍ਰੇਣੀ। ਇੱਕ ਏਜੰਟ ਜਿਸਦਾ ਕੋਈ ਮਾਲਕ ਨਹੀਂ ਹੈ, ਉਹ ਇੱਕ ਏਜੰਟ ਹੁੰਦਾ ਹੈ ਜਿਸਨੂੰ ਕੋਈ ਠੀਕ ਨਹੀਂ ਕਰੇਗਾ।

  3. ਖੋਜੋ

    ਹਰੇਕ 'ਤੇ CI ਵਿੱਚ ਏਜੰਟ ਕੋਡ ਸਕੈਨ ਕਰੋ pull request

    ਆਪਣੇ ਹੋਰ ਸਕੈਨਾਂ ਦੇ ਅੱਗੇ AI ਜੋਖਮ ਖੋਜ ਚਲਾਓ। ਬੇਸਲਾਈਨ ਦੇਖਣ ਲਈ ਗੈਰ-ਬਲਾਕਿੰਗ ਮੋਡ ਵਿੱਚ ਸ਼ੁਰੂ ਕਰੋ, ਫਿਰ ਟੀਮਾਂ ਦੇ ਸਾਫ਼ ਹੋਣ ਤੋਂ ਬਾਅਦ ਮਹੱਤਵਪੂਰਨ ਖੋਜਾਂ 'ਤੇ ਮਰਜ ਨੂੰ ਬਲੌਕ ਕਰੋ।

  4. ਸਮੀਖਿਆ

    ਕਿਸੇ ਵੀ ਵਿਅਕਤੀ ਨੂੰ ਹੁਨਰ ਸਥਾਪਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਉਹਨਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰੋ

    ਸਕੈਨ ਹੁਨਰ ਅਤੇ ਏਜੰਟ ਨਿਰਦੇਸ਼ ਫਾਈਲਾਂ ਜਿਵੇਂ ਕਿ SKILL.md ਅਤੇ AGENTS.md, AI ਇੰਟੈਂਟ ਸਮੀਖਿਆ ਚਾਲੂ ਕਰੋ, ਅਤੇ "ਇੰਸਟਾਲ ਨਾ ਕਰੋ" ਫੈਸਲੇ ਨੂੰ ਇੱਕ ਹਾਰਡ ਸਟਾਪ ਸਮਝੋ।

  5. ਪਾਬੰਦੀ

    ਏਜੰਟ ਅਨੁਮਤੀਆਂ ਨੂੰ ਸੁੰਗੜੋ

    ਸਥਿਰ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਚੱਲਣ ਵਾਲੇ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਨੂੰ ਸਕੋਪਡ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਨਾਲ ਬਦਲੋ, ਏਜੰਟਾਂ ਵਿਚਕਾਰ ਪ੍ਰਮਾਣ ਪੱਤਰ ਸਾਂਝੇ ਕਰਨਾ ਬੰਦ ਕਰੋ, ਅਤੇ ਕਦੇ ਵੀ MCP ਜਾਂ ਟੂਲ ਸਰਵਰਾਂ ਨੂੰ ਉੱਚੇ ਅਧਿਕਾਰਾਂ ਨਾਲ ਨਾ ਚਲਾਓ ਜਿਨ੍ਹਾਂ ਦੀ ਉਹਨਾਂ ਨੂੰ ਲੋੜ ਨਹੀਂ ਹੈ।

  6. ਲੂਪ ਵਿੱਚ ਠੀਕ ਕਰੋ

    ਕੋਡਿੰਗ ਏਜੰਟ ਦੇ ਲੂਪ ਦੇ ਅੰਦਰ ਸੁਰੱਖਿਆ ਰੱਖੋ

    ਆਪਣੇ AI ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਨੂੰ ਇੱਕ ਸੁਰੱਖਿਆ MCP ਸਰਵਰ ਨਾਲ ਕਨੈਕਟ ਕਰੋ ਤਾਂ ਜੋ ਉਹ ਆਪਣੇ ਕੋਡ ਨੂੰ ਸਕੈਨ ਕਰਨ ਅਤੇ ਠੀਕ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇਸਨੂੰ ਠੀਕ ਕਰ ਸਕਣ। commitਟੈੱਡ, ਤੁਹਾਡੀਆਂ ਨੀਤੀਆਂ ਵਾਂਗ ਹੀ ਨੀਤੀਆਂ ਨਾਲ pipeline.

  7. ਨੂੰ ਬਚਾਓ

    ਡਿਵੈਲਪਰ ਮਸ਼ੀਨਾਂ 'ਤੇ ਕੀ ਆਉਂਦਾ ਹੈ, ਇਸਦੀ ਨਿਗਰਾਨੀ ਕਰੋ

    ਨਵੇਂ ਪੈਕੇਜਾਂ ਲਈ ਘੱਟੋ-ਘੱਟ ਉਮਰ ਲਾਗੂ ਕਰੋ, ਦਸਤਖਤ ਮੌਜੂਦ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਖਤਰਨਾਕ ਪੈਕੇਜਾਂ ਦਾ ਪਤਾ ਲਗਾਓ, ਅਤੇ IDE ਐਕਸਟੈਂਸ਼ਨਾਂ ਅਤੇ ਪਲੱਗਇਨਾਂ ਨੂੰ ਕਵਰ ਕਰੋ, ਭਾਵੇਂ ਉਹਨਾਂ ਨੂੰ ਇੰਸਟਾਲ ਕਰਨ ਵਾਲਾ ਕੋਈ ਵੀ ਹੋਵੇ, ਡਿਵੈਲਪਰ ਹੋਵੇ ਜਾਂ ਏਜੰਟ।

ਫਿਰ: ਹਰੇਕ ਖੋਜ ਨੂੰ ਆਪਣੇ ਬਾਕੀ ਐਪਸੇਕ ਵਾਂਗ ਹੀ ਟ੍ਰਾਈਏਜ, ਟਿਕਟਿੰਗ ਅਤੇ ਰਿਪੋਰਟਿੰਗ ਵਰਕਫਲੋ ਵਿੱਚ ਭੇਜੋ, ਤਾਂ ਜੋ AI ਜੋਖਮ ਆਪਣੀ ਖੁਦ ਦੀ ਕਤਾਰ ਵਿੱਚ ਨਾ ਰਹੇ।

ਤੁਸੀਂ ਉਸ ਏਜੰਟ ਨੂੰ ਸੁਰੱਖਿਅਤ ਨਹੀਂ ਕਰ ਸਕਦੇ ਜਿਸਨੂੰ ਤੁਸੀਂ ਕਦੇ ਨਹੀਂ ਮਿਲੇ।

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਹੁਣ ਕੋਈ ਹੋਰ ਸਕੈਨਰ ਨਹੀਂ ਹੈ। ਇਹ ਜਾਣਨਾ ਹੈ ਕਿ ਤੁਸੀਂ ਕਿਹੜੇ ਏਜੰਟ ਚਲਾਉਂਦੇ ਹੋ, ਉਹਨਾਂ ਨੂੰ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਂਦਾ ਹੈ, ਇਸ ਵਿੱਚ ਜੋਖਮ ਨੂੰ ਫੜਨਾ, ਕੋਡਿੰਗ ਏਜੰਟ ਦੇ ਲੂਪ ਦੇ ਅੰਦਰ ਸੁਰੱਖਿਆ ਰੱਖਣਾ, ਅਤੇ ਏਜੰਟ ਕੀ ਸਥਾਪਿਤ ਕਰਦੇ ਹਨ ਇਸਦੀ ਰਾਖੀ ਕਰਨਾ। ਵਸਤੂ ਸੂਚੀ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ: ਬਾਕੀ ਸਭ ਕੁਝ ਇਸ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ।

ਕੀ ਤੁਸੀਂ ਆਪਣੇ ਕੋਡ ਵਿੱਚ ਹਰੇਕ ਏਜੰਟ, MCP ਸਰਵਰ ਅਤੇ ਹੁਨਰ ਦੇਖਣਾ ਚਾਹੁੰਦੇ ਹੋ? ਕਿਸੇ ਇੰਜੀਨੀਅਰ ਨਾਲ ਸੈਸ਼ਨ ਬੁੱਕ ਕਰੋ ਆਪਣੇ ਰਿਪੋਜ਼ਟਰੀਆਂ ਦੀ AI ਵਸਤੂ ਸੂਚੀ ਬਣਾਉਣ ਅਤੇ ਇਸਦੇ ਨਤੀਜਿਆਂ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਲਈ। ਜਾਂ ਮੁਫ਼ਤ ਸ਼ੁਰੂ ਕਰੋ AI ਨਾਲ SAST, SCA, ਗੁਪਤ ਖੋਜ, ਓਪਨ-ਸੋਰਸ ਪੈਕੇਜਾਂ 'ਤੇ IDE ਪਲੱਗਇਨ ਅਤੇ ਮਾਲਵੇਅਰ ਖੋਜ। ਕੋਈ ਕ੍ਰੈਡਿਟ ਕਾਰਡ ਨਹੀਂ।

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਬਾਰੇ ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ

ਏਆਈ ਏਜੰਟ ਸੁਰੱਖਿਆ ਐਲਐਲਐਮ ਸੁਰੱਖਿਆ ਤੋਂ ਕਿਵੇਂ ਵੱਖਰੀ ਹੈ?

LLM ਸੁਰੱਖਿਆ ਇਸ ਬਾਰੇ ਹੈ ਕਿ ਇੱਕ ਮਾਡਲ ਕੀ ਕਹਿੰਦਾ ਹੈ: ਲੀਕ ਹੋਇਆ ਡੇਟਾ, ਹੇਰਾਫੇਰੀ ਕੀਤੇ ਜਵਾਬ, ਅਸੁਰੱਖਿਅਤ ਆਉਟਪੁੱਟ। AI ਏਜੰਟ ਸੁਰੱਖਿਆ ਇਸ ਬਾਰੇ ਹੈ ਕਿ ਇੱਕ ਏਜੰਟ ਟੂਲਸ, ਮੈਮੋਰੀ, ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਅਤੇ ਹੋਰ ਏਜੰਟਾਂ ਨਾਲ ਕੀ ਕਰਦਾ ਹੈ। ਇਸੇ ਲਈ OWASP LLM ਟੌਪ 10 ਦੇ ਸਿਖਰ 'ਤੇ ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ (ASI01 ਤੋਂ ASI10) ਲਈ ਇੱਕ ਵੱਖਰਾ ਟੌਪ 10 ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਦਾ ਹੈ।

ਮੈਂ ਆਪਣੇ ਸੰਗਠਨ ਵਿੱਚ AI ਏਜੰਟਾਂ ਅਤੇ MCP ਸਰਵਰਾਂ ਨੂੰ ਕਿਵੇਂ ਲੱਭਾਂ?

ਕੋਡ ਤੋਂ ਸ਼ੁਰੂਆਤ ਕਰੋ। Xygeni AI ਸੁਰੱਖਿਆ ਤੁਹਾਡੇ ਰਿਪੋਜ਼ਟਰੀਆਂ ਵਿੱਚ ਏਜੰਟਾਂ, MCP ਸਰਵਰਾਂ, ਹੁਨਰਾਂ, ਮਾਡਲਾਂ, ਪ੍ਰੋਂਪਟਾਂ ਅਤੇ AI ਕੋਡਿੰਗ ਟੂਲਸ ਨੂੰ ਖੋਜਦੀ ਹੈ, ਉਹਨਾਂ ਦੇ ਜੁੜਨ ਦੇ ਤਰੀਕੇ ਦਾ ਨਕਸ਼ਾ ਬਣਾਉਂਦੀ ਹੈ, ਅਤੇ ਨਤੀਜੇ ਨੂੰ CycloneDX ਫਾਰਮੈਟ ਵਿੱਚ AI-BOM ਦੇ ਰੂਪ ਵਿੱਚ ਨਿਰਯਾਤ ਕਰਦੀ ਹੈ। ਇਹ ਤੁਹਾਡੇ ਹੋਰ ਸਕੈਨਾਂ ਦੇ ਨਾਲ CI ਵਿੱਚ ਚੱਲਦਾ ਹੈ।

ਕੀ ਕੋਈ ਖਤਰਨਾਕ ਹੁਨਰ ਜਾਂ MCP ਸਰਵਰ ਮੇਰੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ?

ਹਾਂ: ਇੱਕ ਹੁਨਰ ਦੇ ਨਿਰਦੇਸ਼ ਸਾਦੇ ਟੈਕਸਟ ਵਿੱਚ ਹੁੰਦੇ ਹਨ, ਅਤੇ ਇੱਕ ਏਜੰਟ ਡਿਵੈਲਪਰ ਦੀਆਂ ਇਜਾਜ਼ਤਾਂ ਨਾਲ ਉਹਨਾਂ ਦੀ ਪਾਲਣਾ ਕਰੇਗਾ। Xygeni ਲੁਕਵੇਂ ਖਤਰਨਾਕ ਨਿਰਦੇਸ਼ਾਂ ਅਤੇ ਨਕਲ ਕਰਨ ਵਾਲੇ ਹੁਨਰ ਦੇ ਨਾਵਾਂ ਨੂੰ ਫਲੈਗ ਕਰਦਾ ਹੈ, ਇੱਕ ਔਪਟ-ਇਨ AI ਸਮੀਖਿਆ ਨਾਲ ਇੱਕ ਹੁਨਰ ਦੇ ਇਰਾਦੇ ਦਾ ਨਿਰਣਾ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਹਰੇਕ ਹੁਨਰ ਨੂੰ ਸੁਰੱਖਿਅਤ, ਸਾਵਧਾਨ, ਜਾਂ ਇੰਸਟਾਲ ਨਾ ਕਰੋ ਦੇ ਰੂਪ ਵਿੱਚ ਸਕੋਰ ਕਰਦਾ ਹੈ। ਮਾਲਵੇਅਰ ਰੱਖਿਆ ਅਤੇ Shield ਏਜੰਟਾਂ ਦੁਆਰਾ ਲਿਆਂਦੇ ਗਏ ਪੈਕੇਜਾਂ ਅਤੇ ਐਕਸਟੈਂਸ਼ਨਾਂ ਨੂੰ ਕਵਰ ਕਰੋ।

sca-ਟੂਲਜ਼-ਸਾਫਟਵੇਅਰ-ਰਚਨਾ-ਵਿਸ਼ਲੇਸ਼ਣ-ਟੂਲਜ਼
ਆਪਣੇ ਸਾਫਟਵੇਅਰ ਜੋਖਮਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿਓ, ਸੁਧਾਰੋ ਅਤੇ ਸੁਰੱਖਿਅਤ ਕਰੋ
ਆਪਣਾ ਮੁਫ਼ਤ ਖਾਤਾ ਪ੍ਰਾਪਤ ਕਰੋ।
ਕੋਈ ਕ੍ਰੈਡਿਟ ਕਾਰਡ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ

ਆਪਣੇ ਸਾਫਟਵੇਅਰ ਵਿਕਾਸ ਅਤੇ ਡਿਲੀਵਰੀ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰੋ

ਜ਼ਾਇਜੇਨੀ ਪ੍ਰੋਡਕਟ ਸੂਟ ਦੇ ਨਾਲ