Microsoft випустила Agent Governance Toolkit для захисту ШІ-агентів
Ще один опенсорс від Microsoft:
Це новий інструмент для захисту автономних ШІ-агентів від зламу, маніпуляцій і несанкціонованих дій.
За заявою компанії, це перший у світі інструмент, що охоплює всі десять ризиків агентного ШІ, які організація OWASP зафіксувала торік.
Toolkit складається з кількох модулів. Agent OS працює як політичний рушій і перехоплює кожну дію агента до її виконання. Agent Mesh захищає комунікацію між агентами. Agent Runtime керує динамічними кільцями виконання. Agent SRE відповідає за загальні захисні механізми. Agent Compliance автоматично перевіряє відповідність вимогам і виставляє оцінки. Agent Marketplace керує життєвим циклом плагінів. Agent Lightning забезпечує керування навчанням із підкріпленням.
Працює з LangChain, CrewAI, AutoGen, OpenAI Agents SDK, Semantic Kernel та іншими фреймворками
Підтримка будь-якого стека: Python, TypeScript, Go, Rust, .NET.