Microsoft випустила Agent Governance Toolkit для захисту ШІ-агентів
Опенсорсний Agent Governance Toolkit від Microsoft захищає автономних ШІ-агентів від зламу й маніпуляцій та покриває 10 ризиків OWASP.
Ще один опенсорс від Microsoft:
Це новий інструмент для захисту автономних ШІ-агентів від зламу, маніпуляцій і несанкціонованих дій.
За заявою компанії, це перший у світі інструмент, що охоплює всі десять ризиків агентного ШІ, які організація OWASP зафіксувала торік.
Toolkit складається з кількох модулів. Agent OS працює як політичний рушій і перехоплює кожну дію агента до її виконання. Agent Mesh захищає комунікацію між агентами. Agent Runtime керує динамічними кільцями виконання. Agent SRE відповідає за загальні захисні механізми. Agent Compliance автоматично перевіряє відповідність вимогам і виставляє оцінки. Agent Marketplace керує життєвим циклом плагінів. Agent Lightning забезпечує керування навчанням із підкріпленням.
Працює з LangChain, CrewAI, AutoGen, OpenAI Agents SDK, Semantic Kernel та іншими фреймворками
Підтримка будь-якого стека: Python, TypeScript, Go, Rust, .NET.
Коментарі
Дайджест щотижня
Найкраще про vibe coding, AI-агентів та open source — раз на тиждень, без спаму.
Схожі статті
Всі статтіMicrosoft випустила клієнт OpenClaw з MXC для безпечних AI-агентів
Офіційний клієнт OpenClaw від Microsoft: дозволи, керування з трея та запуск у контейнерах на базі Execution Containers (MXC). Open source.
5 open-source no-code платформ для LLM, RAG та AI-агентів
Огляд 5 open-source no-code платформ для створення LLM, RAG і AI-агентів: AutoAgent, AnythingLLM, Open Agent Platform, Sim та Dify.
NVIDIA SkillSpector: open-source інструмент для пошуку вразливостей
NVIDIA випустила SkillSpector — open-source інструмент для пошуку вразливостей в Agent Skills: prompt injection, витоки даних, залежності та код.