AI 时代，更能打了？

AI 时代，网关更能打了？

AIGC动态欢迎阅读

原标题：AI 时代，更能打了？
关键字：,模型,能力,流量,内容
文章来源：AI前线
内容字数：0字

内容摘要：

作者 | 澄潭、望宸
在网络通信中扮演着诸多角色，包括数据转发、协议转化、负载均衡、访问控制和身份验证、安全防护、内容审核，以及服务和 API 颗粒度的管控等，因此常见的种类有流量、安全、微服务、API 等。在不同语义下，的命名也会有所不同，例如 K8s 体系下，有 ingress ，在 Sping 体系下，有 Spring Cloud Gateway。但不论如何命名，的管控内容几乎都离不开流量、服务、安全和 API 这 4 个维度，只是功能侧重不同、所遵循的协议有差异。
另外，随着互联网从 Web 2.0 迈进到 AI 时代，用户和互联网的交互方式，AI 时代下互联网的内容生产流程都发生了显著的转变，这对基础设施（Infra）提出了新的诉求，也带来了新的机遇。Infra 包含的内容非常丰富，本文仅从层面分享笔者的所见所感所悟。
我们先来看一些 AI 时代出现的新场景和新需求：
相比传统 Web 应用，LLM 应用的内容生成时间更长，对话连续性对用户体验至关重要，如果避免后端插件更新导致的服务中断？
相比传统 Web 应用，LLM 应用在服务端处

原文链接：AI 时代，更能打了？