O código aberto tornou-se a base do desenvolvimento de software moderno. Quase todos os aplicativos atuais dependem de uma complexa rede de bibliotecas, frameworks, modelos e ferramentas de compilação de terceiros. Essa realidade, por si só, já introduz desafios significativos. software supply chain security desafios. Ao mesmo tempo, a inteligência artificial entrou no ciclo de vida de desenvolvimento de software Como um poderoso acelerador, ele gera código, sugere dependências, automatiza correções e até influencia o design arquitetônico.cisíons. Juntos, o código aberto e a IA transformaram a maneira como o software é construído e, inevitavelmente, como ele é atacado. A interseção entre segurança da IA, IA e segurança de software, e software supply chain security Não é mais teórico. Agora é uma das principais fontes de risco na cadeia de suprimentos de software enfrentadas por organizações de engenharia.
Essa realidade norteou nossa recente palestra SafeDev Talk: Código aberto, IA e a nova superfície de ataque: código armado, defesas mais inteligentes, com a participação de líderes de segurança da Red Hat, TikTok e Xygeni. A discussão focou nos desafios que as equipes de segurança e engenharia já enfrentam em ambientes de produção, principalmente em relação a ataques à cadeia de suprimentos de código aberto, pacotes maliciosos de código aberto e a crescente tensão entre velocidade e controle no desenvolvimento de software orientado por IA. O que emergiu foi um quadro claro: a superfície de ataque está se expandindo mais rápido do que os modelos de segurança tradicionais conseguem acompanhar, e a IA está atuando tanto como um multiplicador de força quanto como um teste de estresse para pressupostos de longa data na segurança da IA. software supply chain security.
Se essa descrição lhe parece desconfortavelmente semelhante à forma como sua organização desenvolve software atualmente, não é coincidência. Muitas equipes só percebem o quanto a confiança foi transferida para a automação depois que algo dá errado.
Segurança e IA Software Supply Chain Security Agora estão com o mesmo problema.
Um tema recorrente ao longo da discussão foi que a segurança da IA não pode mais ser tratada como uma disciplina separada da segurança da IA. software supply chain securityOs sistemas de IA não operam isoladamente; eles são construídos, treinados, implantados e integrados por meio da mesma plataforma. pipelines, dependências e registros que já enfrentam dificuldades com ataques à cadeia de suprimentos de código aberto.
No desenvolvimento de software orientado por IA, os modelos sugerem código, geram correções e selecionam dependências automaticamente. Esses modelos permitem que os usuários criem soluções para problemas complexos de software.cisOs íons afetam diretamente gerenciamento de dependências de código aberto, muitas vezes sem intenção humana explícita. Como resultado, o risco de dependência não é mais determinado apenas pela escolha do desenvolvedor; ele é cada vez mais moldado pelo comportamento da IA.
Essa convergência significa que falhas em IA e segurança de software frequentemente se manifestam como incidentes tradicionais na cadeia de suprimentos: dependências comprometidas, artefatos de compilação corrompidos ou vulnerabilidades. CI/CD processos. As ferramentas podem ser novas, mas o risco na cadeia de suprimentos de software é muito real e cada vez mais difícil de mensurar.
Se seus modelos de ameaça ainda separam o “risco de IA” do “risco da cadeia de suprimentos”, talvez valha a pena reavaliar onde essa fronteira realmente existe em seus fluxos de trabalho de construção e implantação.
Ataques de código aberto à cadeia de suprimentos em velocidade de máquina
Ataques à cadeia de suprimentos de código aberto não são novidade, mas a IA está mudando sua dinâmica. Os atacantes não precisam de técnicas inovadoras; precisam de escala. A IA permite análises rápidas do ecossistema, descoberta automatizada de vulnerabilidades e iteração ágil em cargas de ataque.
Do ponto de vista ofensivo, essa industrialização do reconhecimento aumenta drasticamente a taxa de sucesso de ataques que envolvem pacotes maliciosos de código aberto. Componentes que antes passariam despercebidos agora podem ser descobertos, analisados e explorados rapidamente, muitas vezes antes mesmo que os defensores percebam que estão em uso.
É por isso software supply chain security Não se pode confiar apenas em sinais atrasados. Registros, avisos e divulgações posteriores operam em escalas de tempo humanas, enquanto os atacantes operam cada vez mais na velocidade das máquinas. A janela de exposição resultante contribui diretamente para o crescente risco da cadeia de suprimentos de software.
Se o seu principal sinal de detecção for "o registro removeu o pacote", você já está operando a jusante da linha do tempo do atacante.
Quer uma análise profunda da cadeia de suprimentos de software de código aberto da Veja?
Risco de dependência no desenvolvimento de software orientado por IA
Um dos riscos mais evidentes discutidos durante a palestra SafeDev foi o risco de dependência, particularmente em ambientes que dependem fortemente do desenvolvimento de software orientado por IA. Os assistentes de codificação por IA são otimizados para conveniência e velocidade, não para minimizar a superfície de ataque.
Na prática, isso leva à introdução agressiva de dependências. Novas bibliotecas são adicionadas em vez de reutilizar funcionalidades existentes. dependências transitivas expandir silenciosamente e código aberto. gerenciamento de dependências Torna-se reativo em vez de intencional. Com o tempo, as equipes perdem a capacidade de raciocinar sobre o que estão realmente executando.
Isso não é simplesmente uma questão de higiene. Cada nova dependência introduz riscos adicionais na cadeia de suprimentos de software, novas suposições de confiança e novas oportunidades para ataques à cadeia de suprimentos de código aberto. Quando a dependência...cisComo os íons são automatizados e analisados superficialmente, o risco de dependência torna-se sistêmico em vez de acidental.
Se o seu gráfico de dependências está crescendo mais rápido do que a capacidade da sua equipe de explicá-lo, isso não é um problema de ferramentas; é um problema de confiança.
Assistentes de Codificação com IA, Segurança e o Colapso da Revisão
Outro modo de falha discutido foi a erosão da revisão por pares na presença de código gerado por IA. Com assistentes de codificação de IA, a segurança não se resume apenas à injeção imediata de código ou ao uso indevido de modelos; trata-se da quantidade de lógica não revisada que entra nos sistemas de produção.
As alterações geradas por IA costumam ser extensas, coerentes e difíceis de revisar sob pressão de tempo. Como resultado, a revisão por pares torna-se superficial ou simbólica. Esse colapso silencioso elimina um dos controles mais eficazes na software supply chain security.
O problema não é negligência do desenvolvedor, mas sim desalinhamento do fluxo de trabalho. Quando a velocidade é recompensada e a fricção é penalizada, os controles de IA e segurança de software que dependem da atenção humana inevitavelmente se enfraquecem. Os invasores não precisam mais burlar a revisão se esta deixar de funcionar como uma barreira.
Muitas equipes presumem que a revisão ainda funciona porque o processo existe. Poucas questionam se ela ainda funciona como um controle significativo.
Pacotes maliciosos de código aberto e o mito da popularidade
Uma crença comum no gerenciamento de dependências de código aberto é que projetos populares são mais seguros. Na realidade, a popularidade muitas vezes aumenta a exposição. Bibliotecas amplamente utilizadas são alvos valiosos para ataques de cadeia de suprimentos de código abertoprecisPorque o compromisso gera um amplo impacto a longo prazo.
Muitos projetos populares são mantidos por pequenas equipes ou indivíduos isolados. Mesmo quando problemas são detectados, pacotes maliciosos de código aberto frequentemente permanecem disponíveis por horas ou dias antes de serem removidos. Durante esse período, as organizações continuam a incorporá-los por meio de compilações automatizadas.
Esse atraso reforça a necessidade de uma abordagem proativa. software supply chain security controles. Confiar apenas na popularidade, na reputação ou nas ações de registro é insuficiente ao lidar com os riscos da cadeia de suprimentos de software moderna.
"Amplamente utilizado" não é o mesmo que "ativamente defendido", e tratá-lo dessa forma é um dos equívocos mais persistentes na cadeia de suprimentos.
Proveniência nas cadeias de suprimentos de software e segurança de IA
Ao longo da discussão, a necessidade de rastreabilidade nas cadeias de suprimentos de software emergiu repetidamente. Em ambientes com auxílio de IA, a atribuição torna-se imprecisa. O código pode ser gerado por um modelo, modificado por um humano, integrado por automação e implantado sem uma responsabilidade clara.
Sem procedência verificável, as organizações são forçadas a confiar implicitamente nos artefatos. A segurança da IA exige uma mudança da confiança para a verificação: artefatos assinados, build attestationse origens rastreáveis. Embora a proveniência não impeça completamente o comportamento malicioso, ela reduz significativamente a ambiguidade e limita a capacidade de manobra do atacante.
Isso se aplica igualmente a modelos, dados e código. No desenvolvimento de software orientado por IA, a proveniência é um requisito fundamental tanto para a IA quanto para a segurança do software.
SBOM e Segurança de IA na Modernidade Pipelines
O papel de SBOM E a segurança da IA era outro tema implícito. SBOMs proporcionam visibilidade aos gráficos de dependênciaMas a visibilidade por si só não basta. Em ambientes com forte presença de IA, SBOMOs sistemas devem evoluir para abranger não apenas bibliotecas, mas também modelos, etapas de construção e desconstrução automatizada.cisíons.
Quando combinado com análise comportamental e proveniência, SBOM A segurança da IA e a inteligência artificial tornam-se ferramentas poderosas para reduzir os riscos na cadeia de suprimentos de software. Elas permitem que as organizações detectem mudanças inesperadas, analisem o impacto e respondam com mais eficácia a ataques à cadeia de suprimentos de código aberto.
CI/CD Pipeline Security Sob pressão da automação
Finalmente, CI/CD pipeline security surgiu como um plano de controle crítico. PipelineOs sistemas executam cada vez mais ações sugeridas ou acionadas por sistemas de IA. Se esses pipelinePor não possuírem controles de identidade robustos, verificação de artefatos e aplicação de políticas, tornam-se pontos de entrada ideais para invasores.
Insuficiente CI/CD pipeline security Permite que pacotes maliciosos de código aberto afetem não apenas sistemas de produção, mas também ambientes de desenvolvimento e infraestrutura de compilação. Com o aumento da automação, pipelines devem ser tratados como ativos de alto valor dentro software supply chain security programas.
Assista à palestra SafeDev Talk
Para saber mais sobre todas essas ideias diretamente dos profissionais que estão moldando a área, assista ao vídeo completo. Palestra SafeDev: Código aberto, IA e a nova superfície de ataque: código armado, defesas mais inteligentes, Caracterizando Roman Zhukov (Chapéu Vermelho), Leon Johnson (TikTok) e Luis Rodríguez Berzosa (Xygeni).
Implicações práticas para a segurança da IA e Software Supply Chain Security
As implicações práticas dessas mudanças vão além das ferramentas. As organizações precisam reconhecer que a segurança da IA, a segurança da IA e do software, e software supply chain security agora estão profundamente interligadas. DecisTarefas que antes eram consideradas de baixo risco, como atualizações de dependências, geração de código e automação, agora representam um risco significativo para a cadeia de suprimentos de software, especialmente quando essas tarefas são complexas e exigem maior atenção.cisOs íons são produzidos implicitamente por ferramentas, e não explicitamente por pessoas.
Durante a palestra SafeDev, esse ponto foi resumido de forma sucinta. Como disse um dos palestrantes, Quando sistemas de IA participam do desenvolvimento de software, as equipes de segurança não estão mais apenas protegendo o código; elas estão protegendo a infraestrutura de TI.cisÍons. A automação não elimina a responsabilidade; ela a redistribui.
Na prática, isso significa restaurar a intencionalidade onde a conveniência tomou conta. O gerenciamento de dependências de código aberto deve levar em conta o comportamento orientado por IA, em vez de presumir a deliberação humana. O risco de dependência não pode mais ser tratado como um exercício ocasional de revisão.cise. CI/CD pipeline security É preciso impor a verificação, e não presumir a entrada de dados benignos. Além disso, a rastreabilidade nas cadeias de suprimentos de software deve deixar de ser uma aspiração e se tornar um requisito básico.
Outra conclusão da discussão foi que a velocidade em si deixou de ser neutra. A maioria das falhas na cadeia de suprimentos não resulta de um único evento catastrófico.cisíon, mas proveniente de muitas pequenas escolhas automatizadas que ninguém aprovou explicitamente. Isto é précisÉ fácil entender por que os modelos de confiança tradicionais falham no desenvolvimento de software orientado por IA.
Nada disso implica abandonar o código aberto ou a IA. Pelo contrário, reconhece seu papel central na engenharia moderna. Mas, sem uma evolução nas premissas de segurança, as organizações correm o risco de deixar que a automação defina a confiança por padrão.
Concluir…
Uma maneira útil de pensar sobre essa mudança é que software supply chain security Não se trata mais apenas de proteger artefatos. Trata-se de proteger decistrajetórias iônicasEm um mundo auxiliado por IA, as questões de segurança mais importantes não são apenas "Este componente é vulnerável?", mas sim "Por que isso foi introduzido, por quem ou o quê, e sob quais restrições?". As organizações que se adaptarem a essa perspectiva não eliminarão o risco, mas serão muito menos surpreendidas por ele.
