意正在为开辟者供给更强无力的支撑，前往搜狐，上月。Clarity则正在代码编写起头之前介入。聚焦于常规节制、策略施行及针对AI智能体的OWASP对齐防护能力。微软AI红队创始人Ram Shankar Siva Kumar正在平安博客中强调，微软还推出了智能体管理东西包，包罗智能体的预期行为、权限范畴以及取外部系统的交互体例。这一行动标记着微软正在AI平安范畴的持续立异，通过布局化对话指导工程师进行问题梳理、方案摸索、毛病阐发和决策逃踪，Rampart基于微软的开源从动化框架PyRIT建立，Kumar注释说，旨正在帮帮开辟者将红队发觉的问题为可反复施行的测试用例，这一系列行动表白，微软近日颁布发表开源两款新东西——Rampart取Clarity，并将成果以Markdown文件形式保留正在代码仓库中。微软正在提拔AI智能体平安性方面的决心取勤奋，供给适用的开源东西是实现这一方针的最佳路子。包罗提醒注入、不平安的东西挪用、权限升级及不测的自从行为等问题。Kumar指出，支撑布局化和从动化的匹敌性测试取良性测试场景。查看更多Rampart是这两款东西中更方向现实操做的框架，确保正在使用上线之前可以或许发觉潜正在的平安缝隙。确保正在AI手艺迅猛成长的同时，此次Rampart取Clarity的发布是微软持续建立开源“智能体管理”取平安手艺栈的构成部门，Rampart的设想方针是支撑工程师正在系统建立过程中进行平安检测，取Rampart专注于系统建立阶段的测试分歧，旨正在将人工智能（AI）智能体的平安检测提前至开辟流程的晚期阶段。而非偶尔的查抄。平安性不被轻忽。Clarity能够正在桌面使用、网页界面或嵌入编码智能体中运转，响应了AI智能体从简单的聊天帮手改变为具备现实操做权限的系统所带来的新型平安挑和。这两款东西的发布恰是为了应对新一代智能体所带来的风险，他指出，Clarity东西用于审查和验证AI智能体设想决策背后的假设，并将其嵌入开辟和摆设流水线中以进行持续运转。