摘要通过本文可以了解什么是Serverless及Serverless演进史,Serverless的常见应用场景及价值。
一种新的云原生计算模型,无需服务器管理而构建和运行应用程序的架构。一个或多个功能的应用上传到平台后执行、扩展和计费
CNCF定义Serverless的LandScape在多个层面协同发展
以应用为中心,无需关注基础设施的计算模式,FaaS不是其唯一形态。Serverless是一整套能力的合集,越来越多的第3三方
服务演进为全托管的Serverless形态
Serverless是云上一整套能力的合集,而不是单一的云服务产品
预言将成为下一-代默认的计算范式
Serverless函数计算的价值
Serverless函数计算适用场景主要有以下三类,Web类应用IoT,媒体处理类应用,AI处理应用
解放端侧开发,让端开发者更快、更灵活开发各种应用,无需关注后端服务
小程序后端
Web后端
问答机器人
前端BFF
以事件驱动的方式执行服务,按需供给,开发者无需关注业务波峰波谷,节省闲时成本,最终降低运维的成本
实时图片处理
实时数据流处理
loT事件处理
运维告警处理
各行各业智能化深入带来更多的应用开发场景,通常需要集成各类服务快速上线
视频直播
Al推理
人脸识别
车牌识别
场景需求特点:
函数计算优势:
场景需求特点:
BFF/SSR和业务强相关,通常由前端开发,但前端并不擅长服务器的部署、运维
函数计算优势:
场景需求特点:
1、业务事件频次不高或波峰波谷明显
函数计算优势:
场景需求特点:
函数计算优势:
场景需求特点:
函数工作流优势:
自动弹性满足大并发
状态维护,失败重试保证可靠
场景需求特点:
函数工作流优势:
Serverless是下一-代默认的计算范式,将在未来5- 10年内成为云的首要交付模式
Serverless的价值:能够为应用屏蔽基础设施,提供自动化运行环境、随时按实际用量计费、免运维的能力
1.场景&问题
场景:视频App前端展示的内容随业务需要经常变化,包括排版更新,新功能上线
问题:前端变化的内容往往只涉及后端数据的重新组合或者格式转换,但却需要前后端一起配合修改,沟通成本高,版本上线慢
2.解决方案
前端使用自己熟悉的Node.js语言开发函数,作为中间层调用后端微服务,对数据裁剪、聚合以适配前端业务需要。
3.价值&收益
前后端彻底解耦,前端聚焦业务,后端仅需提供通用接口,不再关心数据如何展示,减少了
沟通成本
前端只需开发中间层业务函数,业务服务器的部署、运维和扩容,都由函数计算平台托管,开发上线效率提升100%以上
1.池化
大小自适应的空实例池,按当前池消耗速率和容器产生速度动态调整容器池大小,优化启动速度同时降低增加空函数实例的成本
2.网络优化
简化网络配置,提升启动速度
3.函数代码预加载
基于LRU ( Least Recently Used )的多级代码包缓存,预创建不含代码包的空实例,优化容器首次启动与调度时延
4.解压缩优化
高性能的压缩算法提升解压速度和压缩比
预留实例是将函数实例的创建和释放交由用户管理,当您为某一函数创建了预留实例,函数_ I作流收到此函数的调用请求时,会
优先将请求转发给您的预留实例,当请求的峰值超过预留实例处理能力时,剩余部分的请求将会转发给按量实例,由函数工作流自动为您
分配执行环境。预留实例在创建完成后,会自动加载该函数的代码、依赖包以及执行初始化入口函数,且预留实例会常驻环境,消除冷启
动对业务的影响。
1.减少代码包大小
代码包过大会增加传输、解压、加载时间,通过去冗余文件等减少代码包大小对冷启动时延优化效果较明显
2.选择合适语言
nodjs、python、 golang- -般优于java, 针对java也可以尝试编译成本地代码方式
3.降低代码初始化时间
升级依赖包,合并依赖文件等
4.选择合适的内存
函数内存越大,计算能力越强,冷启动表现越优
5.预留实例
1.根据业务 波峰波谷配置固定预留实例,超出部分通过弹性实例解决
2.定制自己业务 需要的预留实例策略
客户端请求需要明确等到响应结果,也就是说这样的请求必须等调用到用户的函数调用完成才返回
异步调用是指客户端不关注请求调用的结果,服务端收到请求后将请求排队,排队成功后请求就返回,服务端在空闲的情况下会逐个处理排队的请求。
平台侧
多AZ、多集群、反亲和、内部重试、链路优化等
用户侧
如何定位性能问题,除了可以通过监控、日志,我们对接了APM2.0, 可以做到免侵入式调用链能力,支持自动采集jvm,sql, exception, redis, httpclient, kafka,tomcat等框架, 支持多函数调用拦截
用户可以创建别名,指向特定函数版本。别名的优势在于:如果需要回滚到之前的函数版本,则可以将相应别名指向该版本,不再需要修
改代码信息。
函数别名支持绑定两个版本,-个对应版本和开启灰度版本,并且支持配置同一个别名下两个不同版本分流权重。
微服务和函数在未来几年会是一个共存的形态,当前存在着大量微服务应用,如何高效的支撑其Serverless化,让现有微服务快速享用到
Serverless的优势能力,是一个待解决的问题。
针对Web服务,推出API网关加FunctionGraph的Http函数方案,用户只需把原有的Web Server代码打包为一个Http函数,即可完成Serverless化改造。
事件函数的请求经过API网关或者其他触发器时,会对请求的消息进行编码成固定的事件格式,FunctionGraph 直接调用用户函数里的方法并将事件消息作为参数传入。
用户发送的HTTP请求经过API网关后,网关会将原生HTTP请求直接透传的到FunctionGraph, FunctionGraph讲请求直接转发到用户函数代码里起的webserver里。
预留实例确保了连接池是常驻
单实例多并发确保函数实例可以处理更多请求
另外需要注意配置函数总并发实例数
数据库最大连接数尽 量配置大些
通过上面的一些解释,我们了解什么是Serverless及Serverless演进史,Serverless的常见应用场景及价值。Serverless的六个典型的应用场景,以及FunctionGraph的八大特性,以及对函数计算实践分享的一些分享。
联系客服