本文是“网络弹性剧本：威胁新时代的导航”特刊的一部分。从此处了解更多特刊。
生成的AI创建了有趣的安全问题，并且随着企业移至代理商，这些安全问题正在增加。
当人工智能代理进入工作流程时，他们应该能够访问机密数据和文件以完成工作，这使得它们成为许多专注于安全的企业的重大风险。
“多代理系统的日益增长的使用将引入新的攻击和脆弱性向量，如果从一开始就无法正确分配它们，这些攻击和脆弱性将被使用，” DarkTrace战略网络AI副总裁Nicole Karignyan说。 “但是这些漏洞的影响和危害可能更多，这是由于连接点和具有多代理系统的界面的量增加。”
为什么AI代理代表如此高的安全风险
在过去的几个月中，AI代理商（或代表用户执行动作的自治AI）变得非常受欢迎。理想情况下，它们可以连接到乏味的工作流程，并可以完成任何任务，例如，从基于内部文档的信息搜索信息到向员工发布建议的信息。
但是，对于企业的安全专家来说，它们代表了一个有趣的问题：他们应该访问使它们有效的数据，而无需意外开放或向他人发送私人信息。由于代理商执行了更多参与人类雇员的任务，因此准确性和问责制的问题出现在游戏中，有可能成为安全团队和合规性的头痛。
来自AWS的CISO的Chris Betz告诉VentureBeat，提取物（RAG）（RAG）（RAG）（RAG）和代理选项“是一个令人兴奋且有趣的角度”。
贝茨说：“组织将不得不考虑其组织中的交换交易所的样子，因为代理商将通过搜索支持他的使命的一切而找到。” “而且，如果您正在经历文档，则需要考虑组织中的默认交换策略。”
安全专家应询问是否应考虑数字员工或软件代理。应该有多少代理商？如何识别它们？
AI代理的脆弱性
AI将军使许多企业更加了解潜在的脆弱性，但是代理商可以为更多的问题打开它们。
Caringan说：“我们今天看到的攻击会影响一个代理，例如数据中毒，操作注入或社会工程，以影响代理的行为，在多代理系统的框架内可能很容易受到伤害。”
企业应注意代理可以访问以确保数据安全的事实。
贝茨指出，与访问员工访问有关的许多安全问题都可以应用于代理商。因此，这“归结为确保人们可以使用正确的事物，只有正确的事物”。他补充说，在代理工作流程以几个步骤中，对于黑客来说，“每个阶段都是机会”。
给特工一个人
答案之一可能是发布特定访问代理的特定标识符。
模型在几天之内对问题有合理的世界是“我们必须更多地考虑对代理人的个性记录以及负责对该代理人的人的个性记录的世界CISO模型供应商Jason Clinton说。
人类工人的定义是企业在很长一段时间内所做的。他们有特定的工作；他们有一个电子邮件地址，用于在帐户中进行注册，并由IT管理员监视；他们的物理笔记本电脑带有可以阻止的帐户。他们获得个人许可以访问一些数据。
可以为代理人部署这种访问和识别的访问和识别差异。
Betz和Clinton都认为，这一过程可以鼓励企业领导人重新考虑他们如何为用户提供信息。这甚至可能导致组织进行修订。
贝茨说：“使用代理工作流程实际上使您有机会在抹布中所需的数据中的每个步骤中连接选项，但只有他需要的数据。”
他补充说，代理工作流程“可以帮助解决有关超额付款的一些问题”，因为公司应考虑哪些数据可以完成这些措施。克林顿补充说，在一系列操作围绕一系列操作的工作过程中，“没有理由为什么该步骤应访问与第七步相同的数据。”
旧的时尚审核还不够
企业还可以寻找可以让他们在内部查看的代理平台，代理商的工作原理。例如，PEGA工作流程提供商的技术总监Don Shurman表示，他的公司通过告诉用户代理商在做什么来帮助确保代理商安全。
Shurman VentureBeat说：“我们的平台已经用于检查执行人员的工作，因此我们还可以检查代理商采取的每个步骤。”
最新的PEGA代理产品允许用户切换到描述代理采取的步骤的屏幕。用户可以查看代理在工作流程的临时尺度上的位置，并阅读其特定操作。
审计，条款和身份并不是AI代理代表的安全问题的理想解决方案。但是，由于企业探索了代理的潜力并开始部署它们，因此随着实验继续进行AI，可能会出现更多针对性的答案。
