作者 | Omer Hamerman 译者 | 明知山 策划 | 丁晓昀 在 IT 行业，我们经常会听到诸如云计算、容器、无服务器框架等术语。 那么什么是云计算？容器是如何工作的？...函数又如何变成无服务器的？ 本文将尝试解读这些技术术语，并探索开发人员应该如何在技术栈中考虑采用容器或无服务器函数。 例如，如果你的应用程序启动时间较长，那么容器可以更好地满足你的需求。...容器镜像是由开发人员创建的，其中包含了关于容器应该如何运行的指令。然后，开发人员可以使用容器镜像来启动运行实际应用程序的容器。它包含了可以在完全隔离的环境中运行的可执行代码。...无服务器计算的工作原理 如果没有物理服务器，无服务器计算是不可能实现的——只是开发人员不需要与它们交互，因为供应商（通常是像 AWS、Azure 或 GCP 这样的云供应商）承担了管理服务器的工作。...用 例 容器和无服务器计算有几种日常的应用场景。有些解决方案可以通过使用容器或无服务器函数来实现。
图4.24 嵌套模块层次的一般结构 第5章 简单的无服务器部署 特性 描述 无服务器 技术位于平台即服务（PaaS）和软件即服务（SaaS）之间 函数的优势 易于测试和扩展，适合无服务器应用程序 函数的缺点...这让它们非常适合无服务器应用程序。...GCP上的Docker容器CI/CD 使用Cloud Run服务和Knative，简化无服务器容器部署 初始工作空间设置 使用Monorepos进行管理 资源置备程序 包括创建时和销毁时置备程序，用于挂钩资源生命周期事件... 通过将项目拆分为经常改变的东西和不常改变的东西，可以更加快速地部署应用程序代码 7.2 GCP上的Docker容器的CI/CD Knative是Kubernetes之上的一个抽象层，可以轻松地运行和管理无服务器工作负载...● 启用API：GCP要求显式启用想要使用的API。 ● CI/CD管道：置备并连接CI/CD管道的各个阶段。 ● Cloud Run服务：在GCP上运行无服务器容器。
Llama（代表大型语言模型 Meta AI）就是这种转变的例证。我将探讨在各种无服务器平台上，无需使用 GPU 即可运行 Llama 模型的可行性。...Nitric 还允许配置计算函数的内存和/或 CPU 分配。但是，云供应商之间存在一些差异，限制了创建相同环境的能力。...技术实现 无服务器部署的实现涉及使用llama_cpp加载模型 定义API路由并设置处理提示所需的代码。以下是用于加载Llama模型的代码。...我将使用Nitric进行部署，在AWS和GCP上部署相同的代码库。 注意：有关如何自行运行此项目的逐步指南，请遵循Llama 3.2 on AWS Lambda指南。...然而，很明显，Llama 在无服务器环境中可以很好地用于特定中低端应用程序，但随着需求的增加，将需要转向 GPU。在这个实验中，我使用 Nitric 在多个云平台上部署无服务器计算。
到目前为止，向应用程序发送基本的 HTTP 请求是一种有效使用 Knative 函数的方式。然而，无服务器的松耦合特性同时也适用于事件驱动架构。...也就是说，可能在文件上传到 FTP 服务器时我们需要调用一个函数；又或者，在我们进行物品销售时需要调用一个函数来处理支付和库存更新的操作。...与其操心我们的应用程序或函数监听上述事件的逻辑，不如当那些被关注的事件发生时，让 Knative 去处理并通知我们。 如果要自己实现这些功能则需要做很多工作并要编写实现特定功能的代码。...订阅是通道和服务之间的纽带，指示 Knative 如何在整个系统中管理我们的事件。图 4-1 展示了如何使用订阅将事件路由到多个应用程序的示例。 ? 图4-1....事件源可以将事件发送到通道，以便多个服务可以同时接收它们，或者它们可以直接发送到一个服务 Knative 中的服务不了解或不关心事件和请求是如何获取的。
高价值资产往往会被放错地方或被盗。我们回顾了Leverege如何使用GCP创建一个使用物联网设备的资产跟踪解决方案。...在本文中，我们将回顾一个假设的物联网问题，以及我们Leverege将如何使用GCP来创建解决方案。...Leverege编写了一个运行在GCP的Kubernetes引擎上的摄取服务器，这是一个非常可扩展且经济高效的计算基础设施，它将允许Gary只支付他所需的计算能力，但允许他扩展到一个非常大的设备消息量，...我们将要路由该设备类型的数据，以将过程与压力传感器的数据分开。因此，我们为每种设备类型创建预定义的消息路由，该消息路由包括Pub Sub主题的名称以及需要与数据一起传递的所有选项。...总结 通过使用谷歌云平台，Leverege能够创建一个坚固的、可伸缩的解决方案来满足Gary的需求。由于该解决方案在GCP上运行，它自动获得所有谷歌的最新安全性和性能更新，并具有良好的正常运行时间。
第 1 节：Google Cloud Platform 的基础 在本节中，我们将介绍 Google Cloud Platform（GCP）上的无服务器计算基础。...从 AI 从业者的角度来看，GCP 提供了可靠的平台，因此我们可以利用无服务器架构范例专注于构建出色的应用。 在下一节中，我们将研究 GCP 的各个组件并熟悉该接口。 这是本书中对平台的基本介绍。...我们研究了通用 AI 系统的各种构建块，并研究了 GCP 上可用的工具，这些工具可以以无服务器方式无缝地促进 AI 应用的开发。...它是 Google 提供的无服务器服务，基于 Apache Beam 构建，因此，批量代码和流代码都可以相互使用。...DialogFlow 智能体提供对在开发和配置过程中经过内部训练的 ML 模型的无服务器访问。 GCP 支持的所有非函数式方面和功能固有地可用于 DialogFlow 智能体。
开源核心，商业灵活性，无锁定 与传统的PaaS不同，Encore Cloud不会托管您的应用程序。您的基础设施保留在您自己的AWS或GCP帐户中，因此您永远不会失去控制。...如果您选择使用Encore Cloud来完全自动化您的基础设施和部署，您仍然可以使用您的AWS或GCP云帐户，因此您可以从第一天起就拥有您的基础设施和数据。...占用空间最小的框架 Encore的声明式基础设施框架是开源的，占用空间极小，99%的代码是普通的TypeScript或Go代码。...，无需 YAML 不需要复杂的Terraform脚本或Kubernetes清单，您可以编写普通的TypeScript或Go代码，并使用框架来包装您的函数以创建API，或者使用单行代码来定义您的基础设施，...如果您正在寻找一个新的工具来使云开发更快、更简单、更灵活，我们希望您能尝试一下Encore。 想看看它是如何工作的吗？ 查看文档，加入我们的Discord提出问题，或预约演示进行一对一的介绍。
如何为无服务器架构选择数据库？ This is another important factor....无服务器函数是单一用途的编程函数。 它只是一个简单的函数。 开发人员可以专注于逻辑并创建一个函数，而云提供商将对其进行部署、扩展、维护和管理。 您可以使用云提供商支持的不同语言编写无服务器函数。...由于我们处理的是无服务器架构，因此我鼓励您使用 NoSQL 无服务器数据库。但有时可能需要使用关系数据库来满足您的要求。...如果使用的是 GCP，则可以使用函数框架。 Anyway, this might not be easy. 总之，这可能并不容易。...你可以参考 AWS、GCP、Azure......等云提供商的文档，以获得关于无服务器的完整概念。
同时使用一个，或两个，或三个云平台 认为罗克韦尔正在将“纽约时报”迁移到传统的云服务上，这是一个具有前瞻性的想法。...罗克韦尔的基础设施团队还必须弄清楚他们需要多少个亚马逊网络服务(AWS)和谷歌云平台(GCP)实例，这些实例应该多大，以及实例是否需要额外的输入、输出或内存。...当预定义的事件发生时，专门编写的代码来执行一个被触发的函数，与此不同的是，这一事件是由无服务器平台来执行。客户不需要告诉云供应商这些函数将被触发多少次，而是每次执行一个函数时，他们都要付费。...罗克韦尔目前正在使用谷歌应用程序引擎(App Engine)中的无服务器模式来运行“纽约时报”的填字游戏和其他应用程序，他计划随着时间的推移将以这种方式运行更多的应用程序。...大多数云平台的软件都是不可知的，这些平台让开发人员可以决定如何正确地设计和解决问题。但谷歌的做法是“固执己见”的，基本上就是可以选择诸如编程语言之类的架构设计方案，并坚持使用这些方案。
作者 | Bilgin Ibryam 译者 | 马可薇 策划 | Tina 摘要 无服务器计算的发展已超出了其本身的框架，功能或多或少都被多功能云结构所替代，预示着云结构新时代的到来。...本文中关注无服务器技术之外的未来，探索云计算的格局将如何超越目前的超大规模模式，以及其对开发者和运营团队的影响。作者将探讨这一演变下的三大趋势。...换句话说，StepFunction 任务定义在 执行 HTTP 调用或删读改数据库记录等操作时都无需使用 Lambda 函数。 以上只是应用程序代码结构转变为无服务器云结构的几个例子。...Fauna：无服务器数据库，因其声明式关系查询和强一致性事务中的功能性业务逻辑而著称。 Neon：最简单的无服务器 PostgreSQL，提供数据库分支和最小管理开销等功能。...基础设施服务正在转变为无服务器 API、代码推断基础设施（IfC）、框架定义基础设施，或是仅由开发者组成的基础设施（CaC）。
八、使用 Cloud ML Engine 实现 TensorFlow 模型 Google Cloud Platform（GCP）上的 Cloud ML Engine 是一种无服务器方式，可用于构建机器学习管道...可以配置工作流和管道，以真正无服务器的方式利用 CPU 和 GPU。 笔记本电脑可以使用的图像经过测试和优化，以实现最佳表现和易用性。...总结 在本章中，我们已经了解了如何借助 Cloud ML Engine（AI 平台）在 GCP 上利用无服务器机器学习。...简而言之，云管理着基础架构和机器学习框架的高层抽象，可以轻松地用于训练或使用您的机器学习模型。...一个版本表示用来训练模型的机器学习代码和框架。 有时，数据科学家使用不同的框架（例如 XGBoost 或 TensorFlow）来设计针对同一问题的解决方案。 他们创建不同的版本来识别工件。
它带有强大的映射语言，易于部署和监控，并且可以作为静态二进制文件、docker 映像或无服务器函数放入您的管道，使其成为云原生。...image.png Benthos 是完全声明性的，流管道在单个配置文件中定义，允许您指定连接器和处理阶段列表： input: gcp_pubsub: project: foo subscription...S3, SQS, SNS), Azure (Blob storage, Queue storage, Table storage), Cassandra, Elasticsearch, File, GCP...有关如何配置更高级的流处理概念（例如流连接、扩充工作流等）的指导，请查看说明书部分。...有关在 Go 中构建您自己的自定义插件的指导，请查看公共 API。 本文声明： 知识共享许可协议 本作品由 cn華少 采用 知识共享署名-非商业性使用 4.0 国际许可协议 进行许可。
你可以使用预先安装了流行 ML 框架（如 TensorFlow、PyTorch 或 scikit-learn 等）的计算引擎。最棒的是，你可以一键添加云端 TPU 和 GPU 支持。...主要包括以下几步： 选择云供应商 创建虚拟服务器 配置虚拟服务器 设置深度学习环境 使用深度学习环境 验证 GPU 的使用 现在我们来介绍如何设置基于云的深度学习环境。...常用的供应商包括亚马逊的 AWS、微软的 Azure 和谷歌的 GCP。 创建虚拟服务器 选择云服务供应商之后，就要创建自己的虚拟机了，它基本上就是托管代码、数据以及配置设置的服务器。...配置虚拟服务器 创建虚拟机后，你就可以在云供应商的平台上启动实例了。在 AWS 上一般是 EC2 用户界面，在 GCP 中一般是虚拟机的页面。...现在你需要个人秘钥才能从本地终端使用 SSH 登录服务器。一般而言，AWS 在创建虚拟机的最后一步才让你设置密码，并给你提供可下载的个人秘钥。GCP 允许你用 SSH 通过 GCP 页面直接登录系统。
函数首先会检查指定的命名空间是否已经存在，如果不存在，则它将使用指定的标识符创建新的命名空间。如果指定了标签，函数还会将这些标签附加到新创建的命名空间上。...Run函数开始控制器的工作，它会遍历预定义的系统命名空间列表，并尝试在集群中创建它们。如果命名空间已经存在，它将更新该命名空间的元数据。如果操作失败，控制器将进行重试。..._这几个变量分别为占位符，用于占用未使用的变量或返回值。...其中，该函数使用了kubernetes的secret对象来管理密钥，根据不同情况返回相应的环境变量或docker配置文件。...具体来说，它定义了用于构建身份验证配置的结构体和函数。 BuiltInAuthenticationOptions：表示内置身份验证选项，用于指定使用 Kubernetes 预定义的身份验证方式。
GCP 的 Virtual Machine Instances 允许用户轻松部署和管理应用程序，而无需在本地创建和管理服务器。...此处使用 E2 系列的服务器，Machine type 选择 Custom，分配 2 核 vCPU、4GB 内存。...在 GCP 上打开防火墙端口 在 GCP 上安装服务或应用程序后，您需要手动开放所需的端口才能够从外部访问它，请按照以下步骤在 GCP 上打开所需端口。...写在最后 现在我们已经了解了如何在 GCP 上部署 EMQX 企业版。如需在生产中使用 EMQX 企业版，建议您继续通过 VPC 网络创建 EMQX 集群，以获得更好的扩展性和可用性。...在本系列的后续博客中，我们将继续向您介绍如何将设备从 GCP IoT Core 迁移到 EMQX 企业版，以及如何通过 EMQX 企业版的 GCP Pub/Sub 集成无缝迁移 IoT Core 服务。
Firestore 索引的创建速度非常缓慢，而且不优雅，比创建同等的 Algolia 索引花费的时间要长得多。...在最近的 Firebase 项目中，我在想我们是否应该推出自定义的服务。我相信，谷歌不会介意开发人员放弃 Firebase 而单纯使用 GCP。...那看起来像是一个名为 dispatcherFunction 的函数，根据 eventName 切换到相应内部函数的调用。...GCP 偏向之二 最后，Firebase 越来越多地引导用户使用 GCP 获取基本服务。在过去的几个月里，开发人员偶尔会反馈由于缺少权限而导致 Firebase Hosting 失败。...Supabase 正基于 Deno 开发他们的无服务器函数套件，这表明他们对优秀的技术很重视。 我们喜欢 Supabase 使用的 PostgreSQL。
配置文件和 Kubernetes 指令，用于演示如何使用 Docker 和 Kubernetes 将简单的 Python ML 模型转换为生产级 RESTful 模型评分（或预测）API 服务。...使用 Flask 和 Docker 容器化一个简单的 ML 模型评分服务器 ---- 我们首先演示如何使用 api.py 模块中包含的简单 Python ML 模型评分 REST API 和 Dockerfile...Flask 框架定义一个 web 服务（app），带有一个函数（score），该函数在响应对特定 URL（或「route」）的 HTTP 请求时执行，这要归功于 app.route 函数的封装。...输入 Helm——一个用于创建、执行和管理 Kubernetes 部署模板的框架。下面是一个非常棒的演示，它是关于如何使用 Helm 来部署我们的 ML 模型评分服务器。...80；如果在 GCP 或 Minikube 上运行，则为 IP 地址（如果在后一种情况下需要记住使用 minikuke 服务列表）。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
腾讯会议
云直播
对象存储
