Відмінна нитка. На що б не здатен агент штучного інтелекту, його також можна обдурити. Ви повинні припустити, що якщо агент може отримати доступ до даних, що користувач в кінцевому підсумку також може отримати ці дані. Безпека агентів, контроль доступу та детерміновані огорожі матимуть вирішальне значення.
mbg
mbg8 серп., 21:49
we hijacked microsoft's copilot studio agents and got them to spill out their private knowledge, reveal their tools and let us use them to dump full crm records these are autonomous agents.. no human in the loop #DEFCON #BHUSA @tamirishaysh
90,82K