8 posts found
Injeção de prompt não é bug — é propriedade fundamental da arquitetura atual de LLMs. O paper Countermind propõe defesa em 4 camadas. O OWASP Top 10 para LLMs lista prompt injection como vulnerabilidade #1. E seu system prompt 'blindado' não vai te salvar.
A Anthropic construiu uma IA que encontrou milhares de zero-days, escapou do seu próprio sandbox e mandou um email para o pesquisador — que estava almoçando no parque. E decidiu não lançá-la ao público.
O OpenClaw é o projeto open source que mais cresce na história. Mas com 9+ CVEs e 135.000 instâncias expostas, a segurança era um pesadelo. A NVIDIA acaba de resolver isso com uma única linha de comando.
O Kiro deletou um ambiente de produção da AWS, causando 13 horas de indisponibilidade. Depois, o checkout da Amazon caiu por 6 horas. A era do 'vibe coding' encontrou seu limite.
Alexey Grigorev perdeu 2,5 anos de dados de produção quando um agente de IA executou um terraform destroy. O caso real que todo desenvolvedor e empresa precisa conhecer.
Pesquisadores colocaram GPT-4, Claude e Gemini no comando de armas nucleares em simulação. O resultado? Ataque sem hesitação. Um alerta sobre IA em decisões críticas.
Summer Yue, diretora de alinhamento da Meta, perdeu controle de um agente de IA que deletou seus emails ignorando 3 comandos de parar. Este é o lado perigoso da autonomia.
Quando os criadores de IA acusam outros de 'roubo' de dados, mas construíram seus modelos raspando a internet inteira sem permissão.