什么是“实时”

实时交易处理和分析已成为提供满意数字体验的一个重要组成部分。实时有何特点呢？研究表明，实时必须小于 30 毫秒（ms）。

请参考以下例证：

    人眼处理图像仅需 13 毫秒。根据麻省理工学院神经科学家的一项研究，人眼处理和识别整个图像仅需 13 毫秒。研究人员要求受试者识别 6 到 12 张图像，同时每幅图像的呈现时间为 13 到 80 毫秒。受试者识别这些图像的最快速度为 13 毫秒。

    20 毫秒同步视频。IEEE 一份有关使用媒体指纹技术防止在传递视频内容时出现图像和声音不同步的文章指出，容许的延迟极限在 6 到 20 毫秒之间。

    30 毫秒传输无线数据。随着 5G 技术的引入，无处不在的连接即将实现，这有望将峰值速率提升到 1 Gbps，并将延迟控制在 30 毫秒内。为什么会有如此低的延迟呢？因为 5G 只有这么快才能取代光纤和电缆调制解调器等家庭 WiFi 和有线宽带。

    实时关乎最小延迟，并且对延迟的容忍度正变得越来越低。一般来说，如要被视为实时，处理时间不得超过 30 毫秒，有时甚至需要低至 13 毫秒。更具体地说，对于所处理的请求，在每个百分下，实时 API 处理 API 调用的时间必须在 30 毫秒内，直到第 99 百分位为止（这意味着只有百分之一的调用用时超过 30 毫秒）。

实时体验需要实时 API

    实时体验依赖于 API 连接。Uber 通过 API 调用检索 Google Map 数据。亚马逊通过 API 调用将店内 Go 基础设施与传感器、视觉和分析功能相连接。显而易见，实时体验在很大程度上依赖于实时 API 调用。这意味着您的 API 基础设施需要在 30 毫秒或更短的时间内处理完 API 调用。对于某些用例，则需要短至 6 毫秒！

这可能听起来不难，但细想一下，API 基础设施必须：

    路由 API。确保 API 使用者（例如您的打车应用）正确定向到正确的后端资源（如地图服务）。

    验证 API。此 API 使用者是否是允许访问该后端资源的有效用户？您必须对用户进行身份验证来确保这一点。

    保护 API。如今，加密已成为不可或缺的一环。API 是通往您最关键的应用资本的门户，因此它们最好安全无虞。

    调度 API。并非所有 API 调用都平等无差别。您需要通过一种方式来调度流量以避免资源争用，提供适当的带宽并确定某些 API 调用的优先级。

    缓存 API。许多公司每天处理数十亿次 API 调用。您会如何应对？缓存 API 响应是提高性能的一种方法。

  因此，我们将实时 API 定义为：能够在不到 30 毫秒的时间内端对端处理 API 调用的 API。

我们将实时 API 基础设施定义为：能够在不到 30 毫秒的时间内路由、验证、保护、调度和缓存 API 的技术。