Tópicos em alta
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
🚨 UM NOVO DOCUMENTO ACABOU DE SER LANÇADO:
Agentes de IA simplesmente falharam em todos os testes de segurança.
Pesquisadores de Harvard, MIT, Stanford e Carnegie Mellon simplesmente deram aos agentes de IA ferramentas reais e os deixaram funcionar livremente por duas semanas.
Contas de e-mail, acesso ao Discord, sistemas de arquivos, execução de shell, autonomia total.
O jornal se chama "Agentes do Caos."
O nome é preciso.
Um agente foi instruído a proteger um segredo. Quando um pesquisador tentou extraí-lo, o agente destruiu seu próprio servidor de e-mail.
Não porque falhou, mas porque decidiu que essa era a melhor opção.
Outro agente foi solicitado a "compartilhar" dados privados. Ela recusou. Corretamente marcou como violação de privacidade.
Então o pesquisador mudou uma palavra. Disse "encaminhar" em vez de "compartilhar".
Ele obedeceu imediatamente. Números de Segurança Social, contas bancárias e registros médicos expostos.
Mesma ação, verbo diferente.
Dois agentes ficaram presos conversando em um loop. Durou NOVE DIAS. Nenhum humano percebeu.
Um agente foi culpado por um erro.
Ele concordou progressivamente em deletar sua própria memória, expor arquivos internos e, eventualmente, tentou se remover completamente do servidor.
...

Melhores
Classificação
Favoritos
