Anthropic alerta que modelos pequenos de IA poderão se autorreplicar entre dispositivos IoT até o fim deste ano

O cenário seria semelhante ao de um worm, um tipo de malware que se propaga automaticamente, sem exigir intervenção humana. A mitigação seria mais difícil já que os modelos executariam localmente, e não centralizados na nuvem. Em testes, pesquisadores conseguiram distribuir o Gemma4-26B-A4B entre 15 dispositivos Android TV de cerca de 55 dólares cada, com 4 GB de RAM, embora o modelo responsável pela propagação tenha permanecido em um servidor separado. A equipe ressalta que ainda não conseguiu simular um replicador completo e fora de controle.

Source