AWS Lambda 上的 Spring Boot 应用程序 - 使用 Spring Cloud Function 测量冷启动和热启动部分

介绍

在第 8 我们介绍了部分 spring cloud 函数背后的概念在第一位 9 在部分中，我们演示了如何使用它 java 21 和 spring boot 3.2 通过 spring cloud function 开发 aws lambda。本系列本文将测量冷启动和热启动时间，包括在内 lambda 函数上启用 snapstart，同时，应用各种启动技术，如启动 dynamodb 整个调用和启动(代理) api 无需通过网络就可以要求网关。我们将使用 spring boot 3.2 测量示例应用程序，对所有应用程序进行测量 lambda 函数，使用 java_tool_options: "-xx:+tieredcompilation -xx:tieredstopatlevel=1" 并为它们提供 lambda 1024 mb 内存。

使用 spring cloud function 并使用 java 21 和 spring boot 3.2 测量冷启动和热时间

让我们先解释一下如何在那里 lambda 函数上启用 aws snapstart，因为它提供了最大的(顶部启动) lambda 优化性能(尤其是冷启动时间)的潜力。这只是一个配置问题:

snapstart:
  applyon: publishedversions 

应用于 lambda 函数属性或 sam 模板的全局函数部分。我想对如何进一步了解 snpastart 使用各种启动技术作为我们的用例。我在文章中 aws lambda snapstart - 在测量启动、端到端延迟和部署时间中解释了启动背后的想法

1) 启动 dynamodb 这里可以找到请求代码。

这一类也实现了 crac 项目的 import org.crac.resource 接口。

通过此调用

core.getglobalcontext().register(this);

getproductbyidwithdynamodbrequestpriminghandler 类将自己注册为 crac 资源。

我们也通过了 crac api 实现 beforecheckpoint 方法来启动 dynamodb 调用。

      @override
      public void beforecheckpoint(org.crac.context extends resource> context) throws exception {
             productdao.getproduct("0");
      }

我们将在 lambda funtiom 部署阶段和拍摄 firecracker microvm 在快照之前调用它。

2) 启动整个 api gateway 这里可以找到请求代码。

这一类还额外实现了 import org.crac.resource 如上例所示，接口。 我们将在文章中重新使用我 aws lambda snapstart - 第 6 部分启动 java 11 和 micronaut、quarkus 和 spring boot 调用框架请求 丑陋的技术中描述的。我不建议在生产中使用这种技术，但它显示了预加载 spring boot 和 spring cloud function 模型和执行 dynamodb 的 lambda 模型之间的映射启动整个模型 api gateway 要求降低冷启动的进一步潜力调用启动。

id 等于 0 的 /products/{id} 的 api gateway 请求构造 api gateway json 请求如下：

      private static string getapigatewayrequestmultiline () {
             return  """
                        {
                      "resource": "/products/{id}",
                      "path":  "/products/0",
                      "httpmethod": "get",
                      "pathparameters": {
                            "id": "0" 
                        },
                       "requestcontext": {
                          "identity": {
                        "apikey": "blabla"
                      }
                      }
                    }
           """;
      }

使用 spring cloud function functioninvoker 启动(代理)整个类别 api 不需要通过网络进行网关请求，beforecheckpoint 上述结构的类通过上述结构的传递传递 api 网关 json 请求的输入流调用其输入流 handlerequest 方法如下：

@override
public void beforecheckpoint(org.crac.context extends resource> context) throws exception {
            
new functioninvoker().handlerequest( 
  new bytearrayinputstream(getapigatewayrequestmultiline().
  getbytes(standardcharsets.utf_8)),
  new bytearrayoutputstream(), new mocklambdacontext());
}

以下实验结果是基于使用 lambda 函数在 1 小时内以 1024 mb 重现超过内存设置 100 二次冷启动及约 100.000 第二次热启动。为此，我使用了负载测试工具，但您可以使用任何您想要的工具，例如 serverless-artillery 或 postman。

我用 4 所有这些实验都在不同的场景中进行：

1) 未启用 snapstart

在 template.yaml 使用以下配置：

    handler: org.springframework.cloud.function.adapter.aws.functioninvoker::handlerequest    
      #snapstart:
         #applyon: publishedversions      

我们需要调用名字 getproductbyidwithspringboot32scf32scf 的 lambda 函数，函数映射 getproductbyidhandler lambda handler java 类。

2) snapstart 已启用但未启动应用程序

在 template.yaml 使用以下配置：

    handler: org.springframework.cloud.function.adapter.aws.functioninvoker::handlerequest 
    snapstart:
      applyon: publishedversions 

我们需要调用名字 getproductbyidwithspringboot32scf32scf 的相同 lambda 函数，函数映射 getproductbyidhandler lambda handler java 类。 3) 通过 dynamodb 调用启动启用 snapstart

在 template.yaml 以下配置在中间使用：

    handler: org.springframework.cloud.function.adapter.aws.functioninvoker::handlerequest    
    snapstart:
      applyon: publishedversions      

我们需要调用名称 getproductbyidwithspringboot32scfandynamodbrequestpriming 的 lambda 函数，函数映射 getproductbyidwithdynamodbrequestpriminghandler lambda handler java 类。

4) snapstart 通过 api 网关请求调用启动/代理启用

在 template.yaml 使用以下配置：

    Handler: org.springframework.cloud.function.adapter.aws.FunctionInvoker::handleRequest
    SnapStart:
      ApplyOn: PublishedVersions      

我们需要使用名称调用 lambda 函数 getproductbyidwithspringboot32scfandwebrequestpriming 映射到 getproductbyidwithwebrequestpriminghandler lambda handler java 类。

缩写c代表冷启动，w代表热启动。

冷 (c) 和热 (w) 开始时间(以毫秒为单位)：

场景编号 c p50 c p75 c p90 c p99 c p99.9 c 最大 wp50 w p75 wp90 wp99 w p99.9 w 最大 未启用 snapstart 4768.34 4850.11 4967.86 5248.61 5811.92 5813.31 7.16 8.13 9.53 21.75 62.00 1367.52 已启用 snapstart，但是没有应用程序启动 2006.60 2065.61 2180.17 2604.69 2662.60 2663.54 7.45 8.40 9.92 23.09 1354.50 1496.46 通过 dynamodb 调用启动启用 snapstart 1181.40 1263.23 1384.90 1533.54 1661.20 1662.17 7.57 8.73 10.83 23.83 492.37 646.18 通过 api gateway 请求调用启动启用 snapstart 855.45 953.91 1107.10 1339.97 1354.78 1355.21 8.00 9.53 12.09 26.31 163.26 547.28

结论

通过单独在 lambda 函数上启用 snapstart，可显著减少 lambda 函数的冷启动时间。另外使用 dynamodb 调用启动，我们能实现的冷启动只比我的文章高一点 aws snapstart -measuring cold and warm start with java 21 using different memory settings(我们在其中测量了纯度 lambda 冷启动和热启动)中描述的冷启动不需要使用任何框架(包括 1024mb 内存设置，这个功能可以在我们的场景中运行)。

比较我们正在使用的 aws serverless java container 测量冷启动、热启动和使用 aws lambda web adapter 用于测量冷启动和热启动 aws serverless java container 冷启动时间和热启动时间的测量，我们发现 spring cloud function 提供了更高的冷启动时间和 aws lambda web adapter 但冷启动时间与冷启动时间相比 aws serverless java container 相当(结果因百分位数而略有不同)。就热启动/执行时间而言，特别是低于考虑 99.9 所有的百分位数 3 各种方法都有相当可比的结果。就热启动/执行时间而言，特别是低于考虑 99.9 所有的百分位数 3 各种方法都有相当可比的结果。

以上是AWS Lambda 上的 Spring Boot 应用程序 - 使用 Spring Cloud Function 有关冷启动和热启动部分的详细内容，请多关注图灵教育的其他相关文章！