每天设备请求次数达840亿次涂鸦智能这样响应业务需求

【报道 记者 勃潺】作为一家全球化的AI+IoT企业，涂鸦智能每天需要处理的设备请求次数是840亿次，请求高峰是150万次/秒，同时云端服务器的响应时间是小于10毫秒/次，同时每天还会处理1.2亿次的AI语音交互数。如何及时响应这些需求，是涂鸦面临的挑战

【报道 记者 勃潺】作为一家全球化的AI+IoT企业，涂鸦智能每天需要处理的设备请求次数是840亿次，请求高峰是150万次/秒，同时云端服务器的响应时间是小于10毫秒/次，同时每天还会处理1.2亿次的AI语音交互数。

如何及时响应这些需求，是涂鸦面临的挑战。

公开资料显示，涂鸦智能是一个全球化IoT云平台，连接消费者、制造品牌、OEM厂商和零售连锁的智能化需求，为客户提供一站式人工智能物联网的解决方案，并且涵盖了硬件接入、云服务以及APP软件开发三方面，形成人工智能+制造业的服务闭环。

涂鸦智能云服务系统是整个 IoT 解决方案的核心，直接决定着客户的用户体验和业务全球化的速度，因此在云服务商的选择上，基础设施的覆盖范围、服务的安全性、稳定性、扩展性都是考虑的重要因素。

同时，随着海外业务的不断扩大，在选购云基础设施服务时，如何能在全球范围内提供稳定安全的服务，成为了涂鸦首要考虑的问题。

涂鸦云端开发部首席架构师陈亚焱在接受记者采访时感叹：“全球的数据中心对我们来说搭建成本比较高，运维和维护起来也会非常困难。我们需要支撑亿级设备同时在线的，数据量非常庞大，并且不分波峰和波谷的情况，基本就像家里的一个智能插座，只要通电之后，就会随时在线。再有，我们的业务增长非常迅速，比如2020年刚刚过去的黑五、圣诞、元旦，我们迎来了一波流量增长的高峰，这就要求我们必须要做到非常实时的扩容。”

涂鸦每个IoT设备通过MQTT协议连接到云端，底层构架同时支持了TLS和QUIC。此外，为了使更高性能的网络传输在入网的环境下有更好的表现，涂鸦将QUIC用于MQTT协议。这些通过亚马逊云服务（AWS）的NLB（NetworkLoad Balancer），即网络负载均衡来实现，将请求转发到后端具体的实例上。

早在2018年，涂鸦智能便已经开始使用AWS云计算服务。而随着AWS Graviton2在中国的落地，涂鸦开始逐渐将业务切换到了Graviton2上。陈亚焱介绍，涂鸦原本的内存数据库运行在X86构架上，借助于多集群以及一些灰度方案，涂鸦已经开始将业务转移到Arm架构。

据了解，Graviton2已是AWS的第二代基于Arm架构的处理器，与同配置x86实例相比，Amazon EC2 M6g、C6g和R6g实例的性价比提高了40%。

这款产品基于64位Arm Neoverse N1微架构设计，是Arm第一款数据中心定位的CPU架构，并且获得了不小优势。Graviton2与第一代AWS Graviton处理器相比，在性能和功能方面实现了明显的提升，性能达到第一代的7倍、计算核心数量达到4倍、缓存达到2倍、内存速度达到5倍。

不止如此，AWS Graviton2处理器还具有全天候运行的256位内存加密功能，每个核心的加密性能速度比第一代AWS Graviton处理器提高50%。

与x86相比，两者虽然都只是一个CPU的架构，但在性比价上却能给企业带来不同的体验。在使用Graviton2后，涂鸦的业务效率得到了明显提升：CPU的性能提升了100%，同样是20万多一些的TCP长链接，CPU占用率从之前的27%降到了12%。同时服务器单价降低了20%，整体的性价比就是提升了2.5倍。

陈亚焱介绍：“我们是在为全球提供服务，所以我们提供的服务都会符合当地的各种安全法规，比如欧盟的GDPR，AWS本身在各地区基本上都有独立的数据中心，这也是我们最终选AWS的一个原因。”

此外，在服务方面，AWS为涂鸦提供了类似圣诞护航的服务，同时有两个团队24小时为涂鸦提供实时的线上服务。

同时，作为AI+IoT企业，涂鸦需要能够适应物联网行业特性的技术服务，而AWS Graviton2也适应这一垂直行业领域。在陈亚焱看来，Graviton2的每个CPU都是一个独立的物理核心，这和涂鸦资源隔离的构架情况非常匹配。同时，基于Arm芯片的AI计算也有更好的表现，这也能够更好的推动涂鸦的业务发展。

“5AIoT（5G+AI+物联网）将成继移动互联网后，下一轮科技红利最大的机遇。”中信证券在一份研报中指出，智能手机和移动互联网连接数趋于饱和，但伴随5G、Wi-Fi、AI等技术发展、成本下降，以及场景逐渐成熟，物联网的机遇才刚刚展露。

进入全新阶段的AIoT产业，通过打造生态链积累用户规模和数据流量，可以以规模效应实现覆盖更丰富的智能潮玩生活场景。而随着用户同设备的交互频次增多，以及大数据的深度挖掘，也将会对用户形成更为精准的洞察，从而赋能各种场景。但这些都离不开云计算的基础技术支持。

据IoT Analytics研究，2020年全球物联网连接数超 117亿个，首次超过非物联网连接数，并在过去十年里保持着30.8%的年复合增长率，远超总连接数的9.4%年复合增长率。海量规模的IoT设备开始推动底层AIoT技术生态的建立，并逐渐改变现有商业世界的面貌。这也对现有的云计算架构在安全性、稳定性、可扩展性等方面提出了更高的要求。

作为全球化AI+IoT平台，涂鸦智能在近几年正加速全球化战略布局，并推出了“星云计划”，旨在对全球潜力客户进行重点扶持。AWS Graviton2的推出，给涂鸦带来了更好的业务支持。据陈亚焱介绍，基于Graviton2如此优秀的表现，未来涂鸦会逐步迁移更多的机器实例到Graviton2上面。