云废料的规模切割：Akamai使用Kubernetes组织的人工智能代理节省了70％

特别是，在这个封闭的生成AI时代，云成本处于创纪录的高水平。但这不仅是因为企业使用更多的计算 – 他们无法有效使用它。实际上，仅今年，企业就应该在云上花费445亿美元用于不必要的费用。

对于Akamai技术来说，这是一个增强的问题：该公司在几个云上具有大型且复杂的云基础架构，更不用说许多严格的安全要求了。

到 为了解决这个问题，网络安全供应商和内容交付的供应商转向了Kubernetes Cast AI自动化平台，该平台的人工智能代理有助于优化成本，安全性 和云媒体的速度。

最终，该平台帮助Akamai从40％降低到70％的云成本，具体取决于工作量。

Akamai云工程高级总监Dekel Shavit说：“我们需要一种不断的方法来优化基础设施并降低云成本而不牺牲绩效。” “我们是处理安全事件的人。延迟不是一个选择。如果我们无法实时回答攻击，我们就会失败。”

控制，分析和行动的专业代理商

Kubernetes控制着启动应用程序的基础架构，从而促进了它们的部署，扩展和管理，尤其是在云土著和微服务中。

劳伦特·吉拉（Lawrent Gila）的创始人兼总经理解释说，铸造AI集成到Kubernetes生态系统中，以帮助客户扩展集群和工作量，选择最佳基础架构并管理计算生命周期。它的主要平台是应用程序性能的自动化（APA），该自动化是通过专门的代理团队来工作的，他们不断控制，分析和采取行动以提高绩效，安全性，效率和申请成本。公司仅提供AWS，Microsoft，Google或其他公司的需求。

APA根据历史数据和研究模型，改进了观察和启发式方法，配备了多种机器学习模型（ML）和增强培训（RL）。它与基础架构工具结合在一起，作为几个云上的代码（IAC），这使其成为一个完全自动化的平台。

吉尔解释说，APA建立在这样的原则上，即观察力只是起点。正如他所说的那样，可观察性是“基础，不是目标”。 CAST AI还支持逐步实施，因此不需要将客户撤出并更换；他们可以集成到现有的工具和工作过程中。此外，没有任何东西永远不会离开客户的基础设施。所有分析和动作都发生在其突出显示的Kubernetes集群中，以确保更大的安全性和控制。

吉尔还强调了专注于一个人的重要性。他说：“自动化补充了决策过程，” APA在平均水平上支持人类的工作过程。

Akamai独特的问题

Shavit解释说，根据严格的服务水平（SLA）和绩效要求，“世界上一些最苛刻的客户和行业”提供了大型而复杂的Akamai云基础架构，网络安全服务以及网络安全服务以及网络安全服务。

他指出，对于他们消费的某些服务，他们可能是供应商的最大客户，并补充说，他们按照他们的需求，用大肆宣传者制作了“主要工程师和重新设计”。

此外，Akamai还为各种规模和行业的客户提供服务，包括大型金融机构和信用卡上的公司。该公司的服务与客户的姿势直接相关。

最终，Akamai必须平衡所有这些复杂性与成本。 Shavit指出，对客户的真正攻击可以为其基础架构的某些组成部分促进100次或1000倍的能力。但是“我们的云容量的扩展提前不可能提前1000倍，”他说。

他的团队考虑了在代码方面的优化，但是其业务模型的整体复杂性需要集中在主要基础架构本身上。

自动优化整个Kubernetes基础架构

Akamai确实需要Kubernetes Automation平台，该平台可以优化在几云上实时启动其所有主要基础架构的成本，并根据不断变化的需求来上下解释。但是所有这些都应该在没有牺牲的情况下完成。

在介绍演员阵容之前，Shavit指出，Devops Akamai团队每月只有几次Kubernetes手动设置其所有工作量。鉴于其基础设施的规模和复杂性，它是复杂而昂贵的。只有通过偶尔分析工作负载，他们显然错过了任何实际的时间优化潜力。

肖维特说：“现在，数百名演员正在做相同的环境，只有他们每天每天都这样做。”

APA的主要特征是Akamai，它们是具有垃圾箱包装的Kubernetes自动化（最小化所使用的掩体数量），自动选择最经济有效的计算副本，工作量的罪行，ECENIA的罪行，ECENIA自动化的整个生命周期和成本分析和成本分析。

Shavit说：“我们对整合两分钟后的成本分析有所了解，这是我们从未见过的。” “在部署了活跃代理后，优化会自动打开，并开始出现节省。”

尖锐的标本 – 企业可以以折扣价访问未使用的云容量 – 显然，它具有业务含义，但由于复杂的工作负载，尤其是Apache Spark，它们证明它们很复杂，Shavit指出。这意味着他们需要超过工作量或将更多的工作人员固定在财务上是不合逻辑的。

通过表演人工艺术，他们能够使用工程组或运营的“零投资”在Spark上使用现场副本。点标本的价值“超级清晰”；他们只需要找到合适的工具即可使用它们。 Shavit指出，这就是他们与演员一起前进的原因之一。

在将2倍或3次保存在其多云的帐户中时，Shavit指出，没有手动干预的自动化是“无价”的。这导致了“大量”节省时间。

在介绍CAST AI之前，他的团队“不断沿着手柄和开关移动”，以确保他们的生产环境和客户与他们需要投资的服务相对应。

“手动最大的优势是我们不再需要管理基础设施，” Shavit说。 “ Cast Agent团队现在正在为我们做这件事。这使我们的团队专注于最重要的事情：比为客户发布功能的速度快。”

编辑注：本月，VB变换Google Cloud CTO Will Grannis和Highmark Health SVP和分析总监Richard Clark将讨论新的纤维以及部署多个和可调节环境的真正问题。今天注册。

每天有关VB每日业务使用方案的见解

如果您想打动老板，VB每天都会覆盖您。我们为您提供有关公司对生成AI的影响的内部勺子，从监管转变到实际部署，因此您可以分享对最大投资盈利能力的了解。

阅读我们的保密政策

感谢您的订阅。在此处查看更多VB信息选票。

发生错误。