ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਕੀ ਹੈ?

TL; ਡਾ #

ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਉਹਨਾਂ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰਨ ਦਾ ਅਭਿਆਸ ਹੈ ਜੋ ਜਵਾਬ ਦੇਣ ਦੀ ਬਜਾਏ ਕੰਮ ਕਰਦੇ ਹਨ: ਏਜੰਟ ਜੋ ਕਈ ਪੜਾਵਾਂ ਵਿੱਚ ਯੋਜਨਾ ਬਣਾਉਂਦੇ ਹਨ, ਮੈਮੋਰੀ ਰੱਖਦੇ ਹਨ, ਐਮਸੀਪੀ ਵਰਗੇ ਪ੍ਰੋਟੋਕੋਲ ਰਾਹੀਂ ਟੂਲਸ ਨੂੰ ਕਾਲ ਕਰਦੇ ਹਨ, ਅਤੇ ਤੁਹਾਡੇ ਸੌਫਟਵੇਅਰ ਅਤੇ ਤੁਹਾਡੇ ਵਿਕਾਸ ਜੀਵਨ ਚੱਕਰ ਦੇ ਅੰਦਰ ਸੌਂਪੇ ਗਏ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਨ। ਇਹ ਪ੍ਰੋਂਪਟ-ਪੱਧਰ ਦੀ ਸੁਰੱਖਿਆ ਦਾ ਇੱਕ ਸੁਪਰਸੈੱਟ ਹੈ, ਕਿਉਂਕਿ ਅਸਫਲਤਾ ਮੋਡ ਹੁਣ ਇੱਕ ਬੁਰਾ ਜਵਾਬ ਨਹੀਂ ਹੈ। ਇਹ ਤੁਹਾਡੇ ਸੰਗਠਨ ਦੀ ਪਛਾਣ ਦੇ ਤਹਿਤ ਕੀਤੀ ਗਈ ਇੱਕ ਅਣਇੱਛਤ ਕਾਰਵਾਈ ਹੈ।

ਇਸਦਾ ਮਾਲਕ ਕੌਣ ਹੈ: ਐਪਲੀਕੇਸ਼ਨ ਸੁਰੱਖਿਆ, ਪਛਾਣ ਨਾਲ ਕੰਮ ਕਰਨਾ। ਕੋਈ ਵੱਖਰਾ AI ਫੰਕਸ਼ਨ ਨਹੀਂ।

ਇਸਨੂੰ ਵੱਖਰਾ ਕੀ ਬਣਾਉਂਦਾ ਹੈ: ਇੱਕ ਚੈਟਬੋਟ ਵਿੱਚ ਚਾਰ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਘਾਟ ਹੈ। ਖੁਦਮੁਖਤਿਆਰੀ, ਟੂਲ ਪਹੁੰਚ, ਸਥਾਈ ਮੈਮੋਰੀ ਅਤੇ ਸੌਂਪੀ ਗਈ ਪਛਾਣ।

ਹਵਾਲਾ ਵਰਗੀਕਰਨ: ਦਸੰਬਰ 2025 ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ 2026 ਲਈ OWASP ਟੌਪ 10, ASI01 ਤੋਂ ASI10।

ਜਿੱਥੇ ਜੋਖਮ ਅਸਲ ਵਿੱਚ ਬੈਠਦਾ ਹੈ: ਜ਼ਿਆਦਾਤਰ ਪਛਾਣ, ਸਪਲਾਈ ਚੇਨ ਅਤੇ ਐਗਜ਼ੀਕਿਊਸ਼ਨ, ਮਾਡਲ ਖੁਦ ਨਹੀਂ।

ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਕੀ ਹੈ? #

ਇੱਕ ਮਾਡਲ ਜੋ ਕੁਝ ਗਲਤ ਲਿਖਦਾ ਹੈ, ਸ਼ਰਮਿੰਦਗੀ ਦਾ ਕਾਰਨ ਬਣਦਾ ਹੈ। ਇੱਕ ਏਜੰਟ ਜੋ ਸ਼ੈੱਲ ਕਮਾਂਡ ਵਿੱਚ ਕੁਝ ਗਲਤ ਲਿਖਦਾ ਹੈ, ਇੱਕ pull request ਜਾਂ ਇੱਕ ਉਤਪਾਦਨ ਡੇਟਾਬੇਸ ਇੱਕ ਘਟਨਾ ਹੈ।

ਟੈਕਸਟ ਤਿਆਰ ਕਰਨ ਤੋਂ ਲੈ ਕੇ ਕਾਰਵਾਈ ਕਰਨ ਤੱਕ, ਇਹ ਇੱਕੋ ਤਬਦੀਲੀ ਇਸ ਅਨੁਸ਼ਾਸਨ ਦੇ ਮੌਜੂਦ ਹੋਣ ਦਾ ਪੂਰਾ ਕਾਰਨ ਹੈ। ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਕੀ ਹੈ ਇਹ ਪੁੱਛਣ ਵਾਲਾ ਕੋਈ ਵੀ ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਖਾਸ ਪਲ 'ਤੇ ਪ੍ਰਤੀਕਿਰਿਆ ਕਰਦਾ ਹੈ: ਕਿਸੇ ਨੇ ਦੇਖਿਆ ਕਿ ਇੰਜੀਨੀਅਰਿੰਗ ਸੰਗਠਨ ਵਿੱਚ ਇੱਕ ਸਹਾਇਕ ਕੋਲ ਹੁਣ ਪ੍ਰਮਾਣ ਪੱਤਰ, ਟੂਲ ਐਕਸੈਸ, ਨਿਰੰਤਰ ਮੈਮੋਰੀ ਅਤੇ ਹਰੇਕ ਕਦਮ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਮਨੁੱਖ ਤੋਂ ਬਿਨਾਂ ਉਹਨਾਂ ਨੂੰ ਇਕੱਠੇ ਕਰਨ ਦੀ ਖੁਦਮੁਖਤਿਆਰੀ ਹੈ।

ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਅਭਿਆਸਾਂ ਦਾ ਸਮੂਹ ਹੈ ਜੋ ਉਸ ਸਮਰੱਥਾ ਨੂੰ ਤੁਹਾਡੇ ਦੁਆਰਾ ਚੁਣੀਆਂ ਗਈਆਂ ਸੀਮਾਵਾਂ ਦੇ ਅੰਦਰ ਰੱਖਦਾ ਹੈ। ਇਹ ਕਵਰ ਕਰਦਾ ਹੈ ਕਿ ਇੱਕ ਏਜੰਟ ਕਿਹੜੇ ਸਾਧਨਾਂ ਤੱਕ ਪਹੁੰਚ ਸਕਦਾ ਹੈ, ਇਹ ਕਿਸ ਪਛਾਣ ਦੇ ਅਧੀਨ ਕੰਮ ਕਰਦਾ ਹੈ, ਇਹ ਸੈਸ਼ਨਾਂ ਵਿਚਕਾਰ ਕੀ ਯਾਦ ਰੱਖਦਾ ਹੈ, ਇਹ ਕਿਹੜੇ ਹੋਰ ਏਜੰਟਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਦਾ ਹੈ, ਅਤੇ ਉਸ ਸਮੇਂ ਕੀ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਇਹ ਕਿਸੇ ਅਟੱਲ ਚੀਜ਼ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ। → ਏਜੰਟ ਕੀ ਹੈ? SDLC?

ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਦਾ ਅਰਥ: ਚਾਰ ਗੁਣ ਜੋ ਜੋਖਮ ਪੈਦਾ ਕਰਦੇ ਹਨ #

ਏਜੰਟਿਕ AI ਸੁਰੱਖਿਆ ਦਾ ਅਰਥ ਉਦੋਂ ਠੋਸ ਹੋ ਜਾਂਦਾ ਹੈ ਜਦੋਂ ਤੁਸੀਂ ਦੇਖਦੇ ਹੋ ਕਿ ਇੱਕ ਏਜੰਟ ਕੋਲ ਕੀ ਹੈ ਜੋ ਇੱਕ ਚੈਟਬੋਟ ਕੋਲ ਨਹੀਂ ਹੈ। ਚਾਰ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ, ਹਰ ਇੱਕ ਉਸ ਨਿਯੰਤਰਣ ਨੂੰ ਤੋੜਦੀ ਹੈ ਜਿਸ 'ਤੇ ਐਪਲੀਕੇਸ਼ਨ ਸੁਰੱਖਿਆ ਸਾਲਾਂ ਤੋਂ ਨਿਰਭਰ ਕਰਦੀ ਆ ਰਹੀ ਹੈ।

ਦਸ ਜੋਖਮ: ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਸਿਖਰਲੇ 10 #

ਸੰਦਰਭ ਵਰਗੀਕਰਨ ਇਹ ਹੈ ਏਜੰਟਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ 2026 ਲਈ OWASP ਸਿਖਰਲੇ 10, 9 ਦਸੰਬਰ 2025 ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਗਿਆ OWASP ਏਜੰਟਿਕ ਸੁਰੱਖਿਆ ਪਹਿਲਕਦਮੀ 100 ਤੋਂ ਵੱਧ ਯੋਗਦਾਨ ਪਾਉਣ ਵਾਲਿਆਂ ਦੇ ਨਾਲ। ਇਹ LLM ਟੌਪ 10 ਨੂੰ ਬਦਲਣ ਦੀ ਬਜਾਏ ਵਧਾਉਂਦਾ ਹੈ, ਕਿਉਂਕਿ ਜ਼ਿਆਦਾਤਰ ਏਜੰਟ ਵੀ LLM ਐਪਲੀਕੇਸ਼ਨ ਹੁੰਦੇ ਹਨ ਅਤੇ ਉਹਨਾਂ ਜੋਖਮਾਂ ਨੂੰ ਵੀ ਵਿਰਾਸਤ ਵਿੱਚ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਨ।

ਸੂਚੀ ਦੀ ਸ਼ਕਲ ਵੱਲ ਧਿਆਨ ਦਿਓ। ਸਿਰਫ਼ ਦੋ ਜਾਂ ਤਿੰਨ ਐਂਟਰੀਆਂ ਮਾਡਲ ਬਾਰੇ ਹਨ। ਬਾਕੀ ਪਛਾਣ, ਸਪਲਾਈ ਚੇਨ, ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਅਤੇ ਟਰੱਸਟ ਸਮੱਸਿਆਵਾਂ ਹਨ, ਇਸੇ ਕਰਕੇ ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਉਸ ਟੀਮ ਕੋਲ ਹੈ ਜੋ ਪਹਿਲਾਂ ਹੀ ਮਾਲਕ ਹੈ ਐਪਲੀਕੇਸ਼ਨ ਸੁਰੱਖਿਆ ਇੱਕ ਵੱਖਰੇ AI ਫੰਕਸ਼ਨ ਦੀ ਬਜਾਏ।

ਅਭਿਆਸ ਵਿੱਚ ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਕੀ ਹੈ? ਛੇ ਨਿਯੰਤਰਣ #

ਫਰੇਮਵਰਕ ਜੋਖਮ ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ। ਇਹ ਉਹ ਨਿਯੰਤਰਣ ਹਨ ਜੋ ਇਸਨੂੰ ਘਟਾਉਂਦੇ ਹਨ, ਜਿਸ ਕ੍ਰਮ ਵਿੱਚ ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ ਅਸਲ ਵਿੱਚ ਉਹਨਾਂ ਨੂੰ ਅਪਣਾ ਸਕਦੀਆਂ ਹਨ।

• ਉਹਨਾਂ ਏਜੰਟਾਂ ਅਤੇ MCP ਸਰਵਰਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ ਜੋ ਅਸਲ ਵਿੱਚ ਚੱਲ ਰਹੇ ਹਨ। ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਸੂਚੀ ਨਹੀਂ, ਅਸਲੀ ਹੈ। ਗੈਰ-ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਏਜੰਟ ਟੂਲਿੰਗ ਅਪਵਾਦ ਦੀ ਬਜਾਏ ਆਮ ਹੈ, ਅਤੇ ਤੁਸੀਂ ਉਸ ਚੀਜ਼ ਨੂੰ ਨਹੀਂ ਲੱਭ ਸਕਦੇ ਜੋ ਤੁਹਾਨੂੰ ਨਹੀਂ ਮਿਲੀ ਹੈ।
• ਪ੍ਰਤੀ ਏਜੰਟ ਟੂਲ ਸਤ੍ਹਾ ਨੂੰ ਘੇਰੋ। ਸਭ ਤੋਂ ਘੱਟ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਸਿਰਫ਼ ਉਪਭੋਗਤਾਵਾਂ 'ਤੇ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਔਜ਼ਾਰਾਂ 'ਤੇ ਵੀ ਲਾਗੂ ਹੁੰਦੇ ਹਨ। ਜ਼ਿਆਦਾਤਰ ਵਾਧੂ ਏਜੰਸੀ ਸਹੂਲਤ ਰਾਹੀਂ ਆਉਂਦੀ ਹੈ, ਹਮਲੇ ਰਾਹੀਂ ਨਹੀਂ।
• ਕੋਡ ਵਰਗੇ ਸੰਰਚਨਾ ਦੀ ਸਮੀਖਿਆ ਕਰੋ। ਹੁਨਰ ਫਾਈਲਾਂ, ਨਿਯਮ ਫਾਈਲਾਂ ਅਤੇ MCP ਸਰਵਰ ਪਰਿਭਾਸ਼ਾਵਾਂ ਅਧਿਕਾਰ ਨਾਲ ਨਿਰਦੇਸ਼ ਹਨ। MITRE ATLAS ਦਸਤਾਵੇਜ਼ ਨਿਯਮ ਫਾਈਲ ਬੈਕਡੋਰ ਇੱਕ ਅਸਲੀ ਕੇਸ ਸਟੱਡੀ ਦੇ ਤੌਰ 'ਤੇ, ਨਾ ਕਿ ਇੱਕ ਵਿਚਾਰ ਪ੍ਰਯੋਗ ਦੇ ਤੌਰ 'ਤੇ।
• ਹਰੇਕ ਏਜੰਟ ਲਈ ਵੱਖਰੀ ਪਛਾਣ। ਜੇਕਰ ਆਡਿਟ ਲੌਗ ਤੁਹਾਨੂੰ ਇਹ ਨਹੀਂ ਦੱਸ ਸਕਦਾ ਕਿ ਕਿਸ ਏਜੰਟ ਨੇ ਕਾਰਵਾਈ ਕੀਤੀ ਹੈ, ਤਾਂ ਤੁਹਾਡੀ ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਪੁਰਾਤੱਤਵ ਵਿਗਿਆਨ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ।
• ਇੰਸਟਾਲੇਸ਼ਨ ਅਤੇ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਸਮੇਂ ਲਾਗੂ ਕਰੋ। ਜਿਸ ਪਲ ਇੱਕ ਖਤਰਨਾਕ ਪੈਕੇਜ ਜਾਂ ਗੈਰ-ਮਨਜ਼ੂਰਸ਼ੁਦਾ MCP ਸਰਵਰ ਇੱਕ ਡਿਵੈਲਪਰ ਮਸ਼ੀਨ 'ਤੇ ਚੱਲਦਾ ਹੈ, ਉਹ ਆਖਰੀ ਬਿੰਦੂ ਹੁੰਦਾ ਹੈ ਜਿੱਥੇ ਬਲਾਕਿੰਗ ਸਸਤੀ ਹੁੰਦੀ ਹੈ। → ਅੰਤਮ ਬਿੰਦੂ 'ਤੇ ਨਿਰਭਰਤਾ ਫਾਇਰਵਾਲ
• ਘਟਨਾ ਤੋਂ ਬਚਿਆ ਹੋਇਆ ਨਿਸ਼ਾਨ ਰੱਖੋ। ਕੀ ਭੇਜਦਾ ਹੈ, ਇਸਦਾ ਮੂਲ, ਅਸੰਗਤੀ ਖੋਜ pipelines ਅਤੇ ਅੰਤਮ ਬਿੰਦੂ, ਉਸ ਪਛਾਣ ਨਾਲ ਜੁੜੇ ਹੋਏ ਹਨ ਜਿਸਨੇ ਇਸਨੂੰ ਪੈਦਾ ਕੀਤਾ।

ਇਹਨਾਂ ਏਜੰਟਾਂ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਕੋਡ ਦੀ ਜਾਂਚ ਏਜੰਟਾਂ ਵਾਂਗ ਹੀ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ। 2025 GenAI Code Security ਰਿਪੋਰਟ, ਜਿਸ ਵਿੱਚ 80 ਕਾਰਜਾਂ ਵਿੱਚ 100 ਤੋਂ ਵੱਧ ਮਾਡਲਾਂ ਨੂੰ ਕਵਰ ਕੀਤਾ ਗਿਆ ਸੀ, ਨੇ ਪਾਇਆ ਕਿ AI-ਤਿਆਰ ਕੀਤੇ ਗਏ 45% ਨਮੂਨਿਆਂ ਨੇ OWASP ਨੂੰ ਬਾਕਸ ਤੋਂ ਬਾਹਰ ਪੇਸ਼ ਕੀਤਾ। ਉਤਪਾਦਨ ਦੀ ਗਤੀ ਡਿਫੌਲਟ ਤੌਰ 'ਤੇ ਸੁਰੱਖਿਆ ਨਾਲ ਨਹੀਂ ਆਉਂਦੀ। → DevAI IDE ਵਿੱਚ ਤਿਆਰ ਕੀਤੇ ਕੋਡ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਮਾਣਿਤ ਕਰਦਾ ਹੈ

ਏਜੰਟਿਕ ਏਆਈ ਸੁਰੱਖਿਆ ਕੀ ਨਹੀਂ ਹੈ? ਸੀਮਾਵਾਂ ਕਿੱਥੇ ਬੈਠਦੀਆਂ ਹਨ #

ਇਹ ਸ਼ਬਦ ਇੱਕ ਦੂਜੇ ਨਾਲ ਮਿਲਦੇ-ਜੁਲਦੇ ਹਨ, ਅਤੇ ਖਰੀਦ ਗੱਲਬਾਤ ਨੂੰ ਇਸਦਾ ਨੁਕਸਾਨ ਹੁੰਦਾ ਹੈ।

• GenAI ਸੁਰੱਖਿਆ ਇਹ ਮੂਲ ਅਨੁਸ਼ਾਸਨ ਹੈ: ਤੁਹਾਡੇ ਸੌਫਟਵੇਅਰ ਦੇ ਅੰਦਰ ਅਤੇ ਆਲੇ ਦੁਆਲੇ ਸਾਰਾ ਜਨਰੇਟਿਵ AI। ਏਜੰਟਿਕ AI ਸੁਰੱਖਿਆ ਇਸਦਾ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਉਪ ਸਮੂਹ ਹੈ, ਜੋ ਕਿ ਉਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ ਜੋ ਕੰਮ ਕਰਦੇ ਹਨ।
• ਐਲਐਲਐਮ ਸੁਰੱਖਿਆ ਮਾਡਲ ਅਤੇ ਇਸਦੇ ਪ੍ਰੋਂਪਟ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ। ਜ਼ਰੂਰੀ, ਅਤੇ ਮਾਡਲ ਦੇ ਔਜ਼ਾਰ ਪ੍ਰਾਪਤ ਕਰਨ ਦੇ ਪਲ ਨਾਕਾਫ਼ੀ।
• ਐਮਸੀਪੀ ਸੁਰੱਖਿਆ ਇਹ ਹੋਰ ਵੀ ਤੰਗ ਹੈ: ਇੱਕ ਏਜੰਟ ਨੂੰ ਬਾਹਰੀ ਸਿਸਟਮਾਂ ਨਾਲ ਜੋੜਨ ਵਾਲੀ ਪ੍ਰੋਟੋਕੋਲ ਪਰਤ। OWASP MCP ਟੌਪ 10 ਇਸਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ ਅਤੇ ਇੱਕ ਬੀਟਾ ਡਰਾਫਟ ਬਣਿਆ ਰਹਿੰਦਾ ਹੈ, ਇਸ ਲਈ ਇਸਨੂੰ ਸੈਟਲ ਹੋਣ ਦੀ ਬਜਾਏ ਉਭਰਦਾ ਸਮਝੋ।
• ਏਆਈ-ਐਸਪੀਐਮ ਕੀ ਏਆਈ ਸੰਪਤੀਆਂ ਉੱਤੇ ਮੁਦਰਾ ਪ੍ਰਬੰਧਨ ਹੈ, ਜਿਸਦਾ ਹਮਰੁਤਬਾ ਹੈ ASPM. ਇਹ ਜਵਾਬ ਦਿੰਦਾ ਹੈ ਕਿ ਕੀ ਮੌਜੂਦ ਹੈ, ਨਾ ਕਿ ਏਜੰਟ ਨੂੰ ਕੀ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਹੈ।
• ਪਛਾਣ ਅਤੇ ਪਹੁੰਚ ਪ੍ਰਬੰਧਨ ਇਸਦਾ ਅਸਲ ਹਿੱਸਾ ਇਸਦਾ ਮਾਲਕ ਹੈ, ਪਰ ਪਰੰਪਰਾਗਤ IAM ਇੱਕ ਮਨੁੱਖੀ ਜਾਂ ਸੇਵਾ ਨੂੰ ਮੰਨਦਾ ਹੈ, ਨਾ ਕਿ ਇੱਕ ਗੈਰ-ਨਿਰਣਾਇਕ ਅਦਾਕਾਰ ਜੋ ਆਪਣਾ ਅਗਲਾ ਕਦਮ ਖੁਦ ਤੈਅ ਕਰਦਾ ਹੈ।

ਢਾਂਚਾਗਤ ਢਾਂਚੇ ਜੋ ਕਾਇਮ ਰੱਖਣ ਦੇ ਯੋਗ ਹਨ #

ਕਿਸੇ ਢਾਂਚੇ ਦਾ ਮੁਲਾਂਕਣ ਪ੍ਰਕਾਸ਼ਨ ਦੀ ਸਥਿਤੀ ਤੋਂ ਕਰੋ, ਨਾ ਕਿ ਇਹ ਕਿੰਨਾ ਮੌਜੂਦਾ ਲੱਗਦਾ ਹੈ ਇਸ ਤੋਂ।

ਨਿਯਮਨ 'ਤੇ, ਪਹਿਲਾਂ ਰਹੋcisਈ. ਦ EU AI ਐਕਟ ਕੁਝ ਸਿਸਟਮਾਂ 'ਤੇ ਦਸਤਾਵੇਜ਼ੀਕਰਨ ਅਤੇ ਨਿਗਰਾਨੀ ਡਿਊਟੀਆਂ ਲਗਾਉਂਦੀਆਂ ਹਨ, ਅਤੇ ਇੱਕ ਏਜੰਟ ਵਸਤੂ ਸੂਚੀ ਉਨ੍ਹਾਂ ਪ੍ਰਤੀ ਸਬੂਤ ਪੇਸ਼ ਕਰਦੀ ਹੈ। ਕੋਈ ਵੀ ਨਿਯਮ ਵਰਤਮਾਨ ਵਿੱਚ ਏਜੰਟਿਕ AI ਸੁਰੱਖਿਆ ਨੂੰ ਲੋੜੀਂਦੇ ਨਿਯੰਤਰਣ ਵਜੋਂ ਨਹੀਂ ਦਰਸਾਉਂਦਾ ਹੈ, ਅਤੇ ਹੋਰ ਦਾਅਵਾ ਕਰਨ ਨਾਲ ਇੱਕ ਸੁਧਾਰ ਹੁੰਦਾ ਹੈ ਜੋ ਤੁਸੀਂ ਖਰੀਦ ਚੱਕਰ ਵਿੱਚ ਨਹੀਂ ਚਾਹੁੰਦੇ।

ਪਰਿਭਾਸ਼ਾ ਤੋਂ ਪ੍ਰੋਗਰਾਮ ਤੱਕ #

ਏਜੰਟਿਕ AI ਸੁਰੱਖਿਆ ਦਾ ਅਰਥ ਸਿਰਫ਼ ਉਦੋਂ ਹੀ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ ਜਦੋਂ ਇਹ ਏਜੰਟਾਂ, ਔਜ਼ਾਰਾਂ ਅਤੇ ਪਛਾਣਾਂ ਦੀ ਸੂਚੀ ਬਣ ਜਾਂਦੀ ਹੈ ਜੋ ਤੁਸੀਂ ਅਸਲ ਵਿੱਚ ਦੇਖ ਸਕਦੇ ਹੋ।

ਇਹੀ ਉਹ ਕ੍ਰਮ ਹੈ ਜਿਸਦੀ ਪਾਲਣਾ ਕੰਮ ਕਰਦਾ ਹੈ। ਏਜੰਟਾਂ, MCP ਸਰਵਰਾਂ, ਹੁਨਰ ਫਾਈਲਾਂ ਅਤੇ AI ਸੰਪਤੀਆਂ ਦੀ ਖੋਜ ਕਰੋ ਜੋ ਪਹਿਲਾਂ ਤੋਂ ਮੌਜੂਦ ਹਨ, ਜਿਸ ਵਿੱਚ ਅਣ-ਐਲਾਨੇ ਵੀ ਸ਼ਾਮਲ ਹਨ। ਉਹਨਾਂ ਨੂੰ ਕੱਚੇ ਗੰਭੀਰਤਾ ਦੀ ਬਜਾਏ ਅਸਲ ਹਮਲੇ ਦੇ ਮਾਰਗਾਂ ਦੁਆਰਾ ਸਕੋਰ ਕਰੋ। ਫਿਰ ਉਸ ਬਿੰਦੂ 'ਤੇ ਨੀਤੀ ਲਾਗੂ ਕਰੋ ਜਿੱਥੇ ਇੱਕ ਅਸੁਰੱਖਿਅਤ ਪੈਕੇਜ, ਮਾਡਲ ਜਾਂ ਟੂਲ ਲਾਗੂ ਕਰੇਗਾ।

ਜ਼ਾਇਗੇਨੀ ਕੋਡ ਵਿੱਚ ਉਨ੍ਹਾਂ ਤਿੰਨਾਂ ਗਤੀਵਾਂ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ, pipeline ਅਤੇ ਅੰਤਮ ਬਿੰਦੂ, ਇੱਕ ਜੋਖਮ ਮਾਡਲ ਵਿੱਚ ਐਪਲੀਕੇਸ਼ਨ ਖੋਜਾਂ ਦੇ ਨਾਲ ਜੋ ਤੁਸੀਂ ਪਹਿਲਾਂ ਹੀ ਪ੍ਰਬੰਧਿਤ ਕਰਦੇ ਹੋ। ਇੱਕ ਡੈਮੋ ਤਹਿ ਕਰੋ ਆਪਣੇ ਖੁਦ ਦੇ ਏਜੰਟ ਅਤੇ ਏਆਈ ਵਸਤੂ ਸੂਚੀ ਦੇਖਣ ਲਈ।

ਸਵਾਲ #