Es ist wirklich ziemlich merkwürdig, wie Prompt-Injektionen nicht breiter diskutiert oder angegangen wurden - vielleicht zeigt es einfach, wie die tatsächliche LLM-Praxis immer noch ziemlich geheimnisvoll ist (mit auch schlechten Akteuren). Ich könnte nicht optimistischer in Bezug auf Agenten sein, aber man muss wirklich vorsichtig sein. Es ist sehr knifflig zu lösen.
zack (in SF)
zack (in SF)24. Aug., 01:33
Warum redet niemand darüber? Deshalb benutze ich keinen AI-Browser. Man kann sich buchstäblich prompt injizieren lassen und sein Bankkonto durch Doomscrolling auf Reddit leeren:
2,66K