50 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a llm.
Operação ativa identifica endpoints expostos de LLMs e comercializa acesso não autorizado à infraestrutura de IA. A exploração se aproveita de más configurações e falta de autenticação; recomenda-se revisão imediata de endpoints, autenticação forte e telemetria.
Alexander Culafi, no DarkReading, alerta para o "model collapse" em LLMs: quando modelos treinam sobre conteúdo gerado por IA, sua precisão pode cair. O artigo relaciona a degradação a imprecisões, promoção de conteúdo malicioso e riscos a proteções de PII, e discute implicações para controles Zero‑Trust. Faltam, porém, métricas públicas e exemplos documentados que comprovem a extensão do fenômeno.
Um experimento mostrou que agentes baseados em GPT‑5.2 geraram mais de 40 exploits funcionais contra um bug no QuickJS em múltiplas configurações. Testes consumiram até 50 milhões de tokens e pouco mais de três horas no caso mais complexo, tornando a geração automatizada de exploits economicamente viável em escala.
Pesquisadores propuseram um kill chain em cinco passos para ataques a aplicações com LLMs — denominado "promptware" — cobrindo initial access, privilege escalation, persistence, movimentação lateral e execução. O framework descreve vetores como prompts maliciosos, jailbreaking e persistência em memória ou repositórios.
Relatório alerta que atacantes procuram proxies mal configurados para acessar APIs de LLMs e automatizar ataques (phishing, geração de malware). Recomenda revisão de proxies, rate‑limits, rotação de chaves e monitoramento de uso.
Anthropic negou relatos virais que afirmavam que o provedor do Claude teria banido contas legítimas e as reportado às autoridades. A negação foi registrada em reportagem do BleepingComputer, mas a matéria não detalha o post original nem fornece evidências independentes; permanecem lacunas sobre origem e contexto do conteúdo viral.
BleepingComputer relata que grupos estão sistematicamente procurando proxies mal configurados que poderiam permitir acesso a serviços comerciais de LLM pagos. A matéria descreve o padrão observado, mas não divulga números, provedores afetados ou exemplos de exploração confirmada.
GreyNoise registrou 91.403 sessões de ataque contra implantações de LLMs (out/2025–jan/2026). Campanhas usaram SSRF e enumeração para mapear endpoints (varredura massiva, fingerprint JA4H). Mitigue bloqueando conexões de saída e aplicando controles em webhooks.
AURA é um framework que protege knowledge graphs usados em GraphRAG através da injeção de triplas falsas plausíveis (adulterants) para tornar cópias roubadas inúteis, preservando utilidade para usuários autorizados via metadata encriptada.
Pesquisa demonstra que Large Language Models podem ser manipulados para gerar exploits funcionais contra Odoo ERP usando a metodologia RSA. A automação reduz barreira técnica para ataques; organizações devem priorizar patching, hardening e políticas de uso de IA.