An موجودی هوش مصنوعی یک کاتالوگ به روز شده مداوم از هر دارایی هوش مصنوعی است که در سراسر سازمان شما در حال اجرا است - مدلها، نقاط پایانی مبتنی بر هوش مصنوعی، مجموعه دادهها، دستیاران کدنویسی هوش مصنوعی، سرورهای MCP و وابستگیهای هوش مصنوعی - همراه با روابط، خطرات و مالکانی که آنها را به هم متصل میکنند. در زمینه امنیتی، این هیچ ارتباطی با مدیریت موجودی انبار یا موجودی کالا ندارد؛ در اینجا، «موجودی هوش مصنوعی» به عبارت ساده، یعنی دقیقاً بدانید چه هوش مصنوعیای را اجرا میکنید، کجا زندگی میکند و به چه چیزهایی میتواند دسترسی پیدا کند.
همانطور که هوش مصنوعی در هر مرحله از توسعه نرمافزار، از تولید کد در IDE گرفته تا عاملهای خودمختار که در داخل عمل میکنند، گسترش مییابد. CI/CD pipelineها، دیگر سوال این نیست که آیا هوش مصنوعی در محیط شما وجود دارد یا خیر. این است که آیا میتوانید آن را ببینید یا نه. این راهنما توضیح میدهد که موجودی هوش مصنوعی چیست، چه ارتباطی با ... دارد. هوش مصنوعی-بام و SBOM، چرا سایه هوش مصنوعی به یک مشکل امنیتی تبدیل شده است، و اینکه چگونه این عمل با ... مطابقت دارد قانون هوش مصنوعی اتحادیه اروپا, NIST AI RMF و ISO / IEC 42001.
کلاهبرداریهای کلیدی
- یک فهرست موجودی هوش مصنوعی، تمام مدلها، مجموعه دادهها، عاملها، سرور MCP و ابزار کدنویسی هوش مصنوعی را در طول چرخه حیات نرمافزار شما فهرست میکند، نه فقط آنهایی که توسط بخش فناوری اطلاعات تأیید شدهاند.
- سایه هوش مصنوعیهوش مصنوعی که بدون حاکمیت اتخاذ شده است، اکنون یک هنجار است، نه یک استثنا: در یک نظرسنجی از رهبران امنیتی در سال 2026، تنها ۱۹٪ از سازمانها، نظارت کامل بر مکان و نحوهی استفاده از هوش مصنوعی را گزارش کردند..
- An AI-BOM (فهرست مواد اولیه هوش مصنوعی) خروجی آماده حسابرسی از موجودی هوش مصنوعی است: جانشین عصر هوش مصنوعی SBOM.
- مقررات در حال رسیدن هستند. قانون هوش مصنوعی اتحادیه اروپا، NIST AI RMF و ISO/IEC 42001 همگی عملاً شما را ملزم میکنند که بدانید با چه هوش مصنوعی کار میکنید.
- موجودی کالا تنها نقطه شروع است؛ ارزش از امتیازدهی ریسک و اقدام بر اساس تعداد کمی از داراییهایی که واقعاً مهم هستند، حاصل میشود.
موجودی هوش مصنوعی چیست؟
فهرست هوش مصنوعی، عملی برای کشف، فهرستبندی و نظارت مداوم بر هر دارایی هوش مصنوعی است که در طول چرخه عمر توسعه نرمافزار شما و خطرات مرتبط با هر یک از آنها عمل میکند. یک فهرست کامل به سه سوال برای هر دارایی پاسخ میدهد: چیست، کجا اجرا میشود و به چه چیزهایی میتواند دسترسی داشته باشد؟
این دامنه وسیعتر از آن چیزی است که اکثر تیمها انتظار دارند. یک فهرست هوش مصنوعی معنادار باید موارد زیر را پوشش دهد:
- مدل: هر مدل زبانی بزرگ و مدل بنیادی مورد استفاده در سراسر توسعه و تولید، با اطمینان از نسخه، مکان و تشخیص.
- مجموعه داده ها: دادههای آموزشی، مجموعه دادههای بازیابی و مخازن برداری، شامل قرار گرفتن در معرض زمینه مسموم و نشت دادهها.
- عواملسیستمهای خودکاری که در محیط شما اقداماتی انجام میدهند، مانند باز کردن pull requests، نصب وابستگیها، یا دست زدن به زیرساخت.
- سرورهای MCP: پروتکل بافت مدل سرورهایی که دستیاران هوش مصنوعی را به ابزارهای خارجی، APIها و منابع داده متصل میکنند.
- ابزارها و دستیارهای کدنویسی هوش مصنوعی: کمکخلبانها و یکپارچهسازیهای IDE که کد تولید میکنند، وابستگیها را پیشنهاد میدهد و با مخازن تعامل دارد.
- چارچوبهای هوش مصنوعی: LangChain، LangGraph، سرورهای عامل و سایر لایههای هماهنگسازی که مدلها را به ابزارها و دادهها متصل میکنند.
- روابط بین داراییها: ارتباطات بین مدلها، عاملها، سرورها، مجموعه دادهها و اسرار مرتبط با آنها. یک نمودار ارتباط، ریسک را در متن قابل مشاهده میکند، نه به عنوان یک لیست مسطح.
موجودی هوش مصنوعی در مقابل موجودی داراییهای هوش مصنوعی در مقابل AI-BOM، و اینکه چگونه با ... متفاوت هستند SBOM
این اصطلاحات به طور آزادانه استفاده میشوند، بنابراین بهتر است از قبل بدانیدcise. «موجودی هوش مصنوعی» و «موجودی داراییهای هوش مصنوعی» یک چیز را توصیف میکنندفهرست زنده داراییهای هوش مصنوعی و خطرات آنها. AI-BOM مصنوع قابل صادراتی است که موجودی کالا تولید میکند.: فهرستی از مواد قابل خواندن توسط ماشین که میتوانید به حسابرس یا ... تحویل دهید. enterprise خریدار
واضحترین راه برای درک AI-BOM، قیاس با ... است. SBOM:
همانطور که هوش مصنوعی در سراسر جهان نهادینه میشود SDLC، AI-BOM به اندازه ... بنیادی میشود. SBOMو رهبران امنیتی به طور فزایندهای درخواستهایی از حسابرسان دریافت میکنند و enterprise تیمهای تدارکات دقیقاً برای همین شیء باستانی.
چرا موجودی هوش مصنوعی اکنون اهمیت دارد؟
سه نیرو، موجودی هوش مصنوعی را از یک کالای ضروری به یک اولویت تبدیل کردهاند.
- اول، هوش مصنوعی در حال نوشتن کد ناامن در مقیاس بزرگ است. تحقیقات مستقل همواره نشان میدهد که بخش بزرگی از کدهای تولید شده توسط هوش مصنوعی دارای آسیبپذیری هستند. مطالعه اولیه NYU/Copilot توسط پیرس و همکارانش تقریباً نشان داد که ۴۰٪ از برنامههای تولید شده دارای نقاط ضعف امنیتی بودندو آزمایشهای اخیر در مقیاس بزرگ نیز به همین نکته اشاره دارند: تجزیه و تحلیل Veracode در سال ۲۰۲۵ در بیش از ۱۰۰ مدل، تنها ... ۵۵٪ از کدهای تولید شده توسط هوش مصنوعی امن بودنداگر نمیدانید کدام دستیارها در حال تولید کد در سیستم شما هستند pipelineشما نمیتوانید آن ریسک را مدیریت کنید.
- دوم، زنجیره تأمین نرمافزار به یک سطح حمله هوش مصنوعی تبدیل شده است. در سپتامبر 2025، شای هولود، اولین کرم npm خود تکثیر شونده، ماشینهای توسعهدهندگان را به یک مکانیسم توزیع تبدیل کرد و در صدها بسته گسترش یافت. در مارس ۲۰۲۶، مهاجمان به خطر افتادند آکسیوس، بستهای با تقریباً ۱۰۰ میلیون دانلود هفتگیو نسخههای آلودهای را منتشر کرد که یک تروجان دسترسی از راه دور را اجرا میکردند. حملاتی از این دست دقیقاً در لایهای بین AppSec سنتی و ابزارهای Endpoint رخ میدهند: لایهای که یک فهرست هوش مصنوعی برای روشن کردن آن ساخته شده است.
- سوم، اسرار و اطلاعات محرمانه از طریق هوش مصنوعی فاش میشوند. گزارش وضعیت اسرار GitGuardian با عنوان «Sprawl 2026» حاکی از آن است که افشای اسرار سرویسهای هوش مصنوعی نسبت به سال گذشته ۸۱ درصد افزایش یافته استو اینکه به کمک هوش مصنوعی commits leak secretتقریباً دو برابر نرخ پایه است. هر مدل، عامل یا سرور MCP بدون مدرک، مسیری بالقوه برای کسب اعتبارنامه است.
AppSec سنتی در مخزن متوقف میشود و نمیفهمد که مدل چیست. ابزارهای Endpoint سیستم عامل را زیر نظر دارند اما بستهها، سرورهای MCP یا دستیاران هوش مصنوعی را درک نمیکنند. شکاف بین آنها جایی است که ریسک هوش مصنوعی تجمع مییابد و فهرستبندی اولین قدم برای بستن آن است.
جایی که هوش مصنوعی پنهان میشود: هوش مصنوعی سایهای در سراسر SDLC
سایه هوش مصنوعی آیا هر سیستم هوش مصنوعی بدون تأیید رسمی یا مدیریت اتخاذ میشود: کمکخلبان که هفته گذشته توسط یک توسعهدهنده فعال شد، سرور MCP که روی لپتاپ اجرا میشود، مدلی که مستقیماً از یک هاب عمومی به یک پروژه جانبی منتقل شد. این یک مورد خاص نیست. در یک نظرسنجی در سال ۲۰۲۶ از بیش از ۴۰۰ رهبر امنیتی، تنها ۱۹٪ گزارش دادند که به طور کامل از محل و نحوه استفاده از هوش مصنوعی مطلع هستند. در سراسر سازمانشان، در حالی که اکثریت قریب به اتفاق آنها از دستیاران کدنویسی هوش مصنوعی استفاده میکردند یا آنها را به صورت آزمایشی به کار میگرفتند.
سختترین هوش مصنوعی سایه برای پیدا کردن، هوش مصنوعی درون چرخه حیات نرمافزار است، زیرا به ندرت در یک کنسول ابری ظاهر میشود:
- مدلها و کتابخانههای هوش مصنوعی به عنوان وابستگی به مخازن منتقل شدند.
- دستیاران کدنویسی هوش مصنوعی که برای هر توسعهدهنده و هر IDE پیکربندی شدهاند.
- سرورهای MCP و فایلهای قوانین که به صورت محلی روی نقاط پایانی توسعهدهنده اجرا میشوند.
- گردشهای کاری عاملمحور بیسروصدا در حال بازگشایی هستند pull requests یا نصب بستهها.
به همین دلیل است که کشف صرفاً ابری کافی نیست. یک فهرست واقعاً کامل هوش مصنوعی باید به محیطهای کد و ساخت (لپتاپ توسعهدهنده، مخزن، ...) دسترسی پیدا کند. pipeline) ، نه فقط فضای ابری تولید.
چه چیزی در یک AI-BOM جای میگیرد؟
یک AI-BOM آماده برای حسابرسی، موجودی شما را به چیزی تبدیل میکند که میتوانید آن را اثبات کنید. حداقل باید شامل موارد زیر باشد:
- هر دارایی هوش مصنوعی: مدلها، مجموعه دادهها، عاملها، سرورهای MCP، ابزارهای کدنویسی هوش مصنوعی.
- نوع دارایی، موقعیت مکانی و ضریب اطمینان تشخیص برای هر کدام.
- منشأ و وابستگیها (از کجا مدل یا مؤلفه آمده است).
- سطح ریسک به ازای هر دارایی، بر اساس بردارهای حمله مختص هوش مصنوعی.
- تطبیق مقررات با قانون هوش مصنوعی اتحادیه اروپا، NIST AI RMF و ISO/IEC 42001.
- یک قالب قابل استخراج و قابل خواندن توسط ماشین برای حسابرسان و مشتریان.
سازمانهایی که میتوانند AI-BOM را بنا به تقاضا تولید کنند، با بالغ شدن تعهدات حسابرسی هوش مصنوعی، از مزیت انطباق و اعتماد واقعی برخوردار خواهند شد.
فهرست هوش مصنوعی و انطباق با آن: قانون هوش مصنوعی اتحادیه اروپا، NIST AI RMF و ISO/IEC 42001
هیچ یک از چارچوبهای اصلی «موجودی هوش مصنوعی» را به عنوان یک آیتم اصلی نام نمیبرند، اما بدون آن عملاً برآورده کردن هر یک از آنها غیرممکن است. شما نمیتوانید سیستمهای هوش مصنوعی را که نمیبینید، مستندسازی، طبقهبندی یا مدیریت کنید.
نکتهای در مورد زمانبندی: اجرای قانون هوش مصنوعی اتحادیه اروپا توسط توافقنامه «مجموعه اقدامات دیجیتال» در ماه مه ۲۰۲۶ مورد بازنگری قرار گرفت که اکثر تعهدات پرخطر را به دسامبر ۲۰۲۷ موکول کرد، در حالی که چندین نقطه عطف ۲ اوت ۲۰۲۶ (وظایف شفافیت، اختیارات جریمه GPAI) را حفظ کرد. تاریخهای دقیق را به عنوان یک هدف متغیر در نظر بگیرید و با منابع اولیه اتحادیه اروپا تأیید کنید. اما جهت حرکت مشخص است و موجودی کالا پیشنیاز همه آنها است.
نحوه ساخت و نگهداری موجودی هوش مصنوعی
ایجاد یک فهرست موجودی، کمتر مربوط به یک ممیزی یکباره و بیشتر مربوط به ایجاد یک فرآیند مداوم است، زیرا داراییهای هوش مصنوعی دائماً در حال تغییر هستند: مدلهای جدید اتخاذ میشوند، عوامل جدید مستقر میشوند، سرورهای MCP جدید پیکربندی میشوند، اغلب بدون تأیید.
یک رویکرد عملی:
- به طور خودکار در سراسر کد، ساخت و فضای ابری کشف کنید. صفحات گسترده دستی ظرف چند روز از رده خارج میشوند. اکتشاف باید به طور مداوم اجرا شود و به عمق اطلاعات دسترسی پیدا کند. SDLCنه فقط زمان اجرا.
- روابط را طبقهبندی و ترسیم کنید. نوع، مکان، منشأ و مهمتر از همه، نحوه ارتباط هر دارایی با داراییهای دیگر و با اسرار را ثبت کنید.
- ریسک را در چارچوب مشخص شده ارزیابی کنید. یک لیست یکنواخت از صدها یافته به هیچ کس کمکی نمیکند؛ اولویتبندی را بر اساس آنچه واقعاً قابل دسترسی، قابل بهرهبرداری و برای کسب و کار حیاتی است، انجام دهید.
- مالکیت را واگذار کنید. هر دارایی به یک مالک پاسخگو نیاز دارد.
- آن را زنده و قابل صادرات نگه دارید. آن را به عنوان یک موجودی مداوم حفظ کنید که بتواند AI-BOM را در صورت تقاضا تولید کند.
در نرمافزار موجودی هوش مصنوعی به دنبال چه چیزی باشیم؟
اگر در حال ارزیابی ابزار هستید، اینها قابلیتهایی هستند که نرمافزار موجودی هوش مصنوعی واقعی را از یک لیست ایستا متمایز میکنند:
- انواع داراییهای مختص هوش مصنوعی را درک میکند (مدلها، عاملها، سرورهای MCP، مجموعه دادهها)، نه فقط بستهها و کتابخانهها.
- به داخل میرسد SDLCکشف هوش مصنوعی در کد و در نقاط پایانی توسعهدهنده، نه فقط در فضای ابری.
- روابط نقشههانه فقط داراییهای فردی، بنابراین ریسک در متن قابل مشاهده است.
- امتیازدهی ریسک بر اساس بردارهای حمله مختص هوش مصنوعی (تزریق سریع، MCP ناامن، عاملیت بیش از حد)، نه تنها شدت CVE.
- به طور مداوم اجرا می شود، گرفتن هوش مصنوعی جدید به محض ظاهر شدن.
- یک AI-BOM آماده برای حسابرسی تولید میکند. که هم حسابرسان و هم ... را راضی کند. enterprise تدارکات
- موجودی را به اجرا متصل میکندتا بتوانید بر اساس آنچه پیدا میکنید عمل کنید.
از موجودی تا اقدام: ایمنسازی آنچه پیدا میکنید
کشف اولین قدم است؛ قدم دوم درک این است که کدام داراییها ریسک واقعی دارند، زیرا اکثر آنها این ریسک را ندارند. هدف این است که از هزاران یافته خام به تعداد انگشتشماری از یافتههایی که میتوانند سیستمها، دادهها یا عملیات را به خطر بیندازند، برسیم: آنهایی که در حال استفاده فعال هستند، ورودیهای غیرقابل اعتماد را میپذیرند، به طور واقعبینانهای قابل بهرهبرداری هستند، دسترسی حساس دارند و بر تولید یا داراییهای تنظیمشده تأثیر میگذارند.
اینجاست که مدیریت وضعیت امنیتی هوش مصنوعی (هوش مصنوعی-SPM) موارد زیر را در نظر میگیرد: تهیه فهرست، امتیازدهی ریسک در مسیر حمله هوش مصنوعی، نگاشت آن به مقررات و تولید AI-BOM. همچنین جایی است که فهرست با اجرا روبرو میشود: مسدود کردن وابستگیهای مخرب قبل از نصب، رد سرورها و مدلهای MCP تأیید نشده، و مهار نقاط پایانی در معرض خطر قبل از گسترش حادثه.
At شیگنیاین مدلی است که ما به سمت آن میسازیم: موجودی مداوم هوش مصنوعی و AI-BOM از طریق AI-SPM، تشخیص بدافزار که بستههای مخرب را قبل از وجود امضا شناسایی میکند (هشدار زودهنگام بدافزار در MEW) و اجرای سیاست در نقطه پایانی توسعهدهنده از طریق Xygeni Shield. تشخیص با OWASP Top 10 برای برنامههای LLM، OWASP Top 10 برای برنامههای Agentic و OWASP MCP Top 10 همسو است. اما هر رویکردی را که انتخاب کنید، اصل زیر برقرار است: شما نمیتوانید چیزی را که نمیتوانید ببینید، ایمن کنید، و موجودی هوش مصنوعی جایی است که قابلیت مشاهده آغاز میشود.
سوالات متداول
چه تفاوتی بین AI-BOM و ... وجود دارد؟ SBOM?
An SBOM وابستگیهای نرمافزاری متنباز و شخص ثالث را بر اساس شدت CVE فهرستبندی میکند. یک AI-BOM داراییهای خاص هوش مصنوعی (مدلها، عاملها، سرورهای MCP، مجموعه دادهها) را با امتیازدهی ریسک خاص هوش مصنوعی و نگاشت نظارتی فهرستبندی میکند. با گسترش هوش مصنوعی در سراسر... SDLC، AI-BOM به اندازه ... بنیادی میشود. SBOM.
هوش مصنوعی سایه چیست و چگونه میتوانم آن را کشف کنم؟
هوش مصنوعی سایه، هر هوش مصنوعی است که بدون تأیید رسمی یا حاکمیت اتخاذ میشود: یک کمکخلبان فعال، یک سرور محلی MCP، یا مدلی که از یک مرکز عمومی گرفته شده است. شما آن را با موجودی خودکار مداوم که به کد میرسد، کشف میکنید، میسازید. pipelineها و نقاط پایانی توسعهدهندگان، نه فقط فضای ابری تولید که بیشتر هوش مصنوعی سایه هرگز در آن ظاهر نمیشود.
آیا قانون هوش مصنوعی اتحادیه اروپا به فهرست موجودی هوش مصنوعی نیاز دارد؟
قانون هوش مصنوعی اتحادیه اروپا صراحتاً از «موجودی هوش مصنوعی» نام نمیبرد، اما وظایف مستندسازی، طبقهبندی و ثبت آن برای سیستمهای پرخطر بدون وجود چنین موجودی غیرممکن است. همین امر در مورد NIST AI RMF (تابع Map، Govern 1.6) و ISO/IEC 42001 نیز صادق است که مستلزم نگهداری موجودی سیستمهای هوش مصنوعی است.
هوش مصنوعی-SPM چیست؟
مدیریت وضعیت امنیتی هوش مصنوعی (AI-SPM) روشی برای کشف مداوم داراییهای هوش مصنوعی، امتیازدهی ریسک آنها در طول مسیر حمله هوش مصنوعی، نگاشت آنها به مقررات و تولید یک AI-BOM است. این روش، تفکر مدیریت وضعیت (که با CSPM و DSPM آشناست) را به داراییهای خاص هوش مصنوعی و بردارهای حمله گسترش میدهد.
موجودی هوش مصنوعی هر چند وقت یکبار باید بهروزرسانی شود؟
داراییهای هوش مصنوعی روزانه تغییر میکنند، زیرا تیمها مدلهای جدید را اتخاذ میکنند، عوامل جدید را مستقر میکنند و سرورهای جدید MCP را پیکربندی میکنند، که معمولاً بدون تأیید رسمی انجام میشود. اسکن نقطهای در عرض چند روز بیفایده است، بنابراین نرمافزار موجودی مؤثر هوش مصنوعی به عنوان یک فرآیند مداوم اجرا میشود، نه یک ممیزی یکباره.
چگونه میتوانم هوش مصنوعی استفاده شده در کد منبع را فهرست کنم؟
فهرست کردن هوش مصنوعی در کد به معنای شناسایی مدلها و کتابخانههای هوش مصنوعی که به عنوان وابستگیها وارد میشوند، دستیاران کدنویسی هوش مصنوعی که برای هر توسعهدهنده پیکربندی شدهاند، و سرورهای MCP یا فایلهای قانون که به صورت محلی اجرا میشوند، است. این امر مستلزم کشفی است که در داخل عمل میکند. SDLC (مخازن، ساخت) pipelineو نقاط پایانی توسعهدهنده) به جای فقط در کنسولهای ابری.
