当今,在线教育的形式和内容趋于多样化,便利程度也在不断提高,在线学习的方式在用户中得到了普及,尤其是通过在线方式学习英语,更是成为了众多用户的首选。在线教育用户数量与日俱增的同时,越来越多的教育机构也争先恐后地加入到了在线教育行业大军。
北京先声教育科技有限公司(以下简称"先声教育")是一家AI技术服务商,目前落地在K12 教育领域。先声教育专注为教育机构提供在线口语、听说考试、写作评测系统及定制化技术服务,通过AI 技术与教学场景的深度融合,升级传统教育模式,促进教学相长,推动效率改善。基于语音识别、自然语言处理等核心技术,先声教育自主研发了智能口语测评、智能写作批改、自适应学习、智能对话及情感识别等技术解决方案。
挑战随之而来
根据对市场和技术成熟度的分析判断,先声教育选择智能语音测评和智能写作批改作为AI 技术与教育场景结合的切入点,专注于输出底层技术,以云计算的形式提供给合作伙伴,提高教育能效,使客户可以更好地为教学双方服务。这样一来,挑战也就随之而来。
首先要充分保障语音和写作测评核心业务稳定、高效运行。在此基础上,要尽量向IT 后台简单、无感知的目标迈进,降低运维压力,释放资源。
在稳定性方面,作为底层的智能技术供应商,先声教育服务的稳定性不仅关系着自身业务和客户商誉,更是关系到整个在线教育产业链产品和服务创新的关键所在。底层平台毫秒级的延迟、后台监控忽高忽低的锯齿,反映到最终用户的前端界面,有可能就是糟糕的卡顿体验。
在伸缩性方面,据先声教育基础架构部负责人介绍,先声教育每天收到的测评请求量级已达几千万次,这些请求很可能是在某一时间段集中发生,比如晚上18:00-22:00。如何满足高并发的大流量场景,应对每天高差达几十倍的流量高峰,是一个巨大的挑战。
因此,对先声教育来说,IT 后台系统必须具备极强的稳定性和高可用性,同时兼顾可扩展性和灵活性,丰富的SDK 和友好的开发测试环境同样非常重要。
选择AWS,满足核心指标
评估选择云服务时,先声教育设定了三个基本核心指标:相同机型成本对比、万次请求成本对比和整体运行故障率对比,希望在满足"整体运行故障率"维持在极低水平和可接受范围的前提下,尽可能降低"万次请求成本"。先声教育曾使用过其它云服务商的服务,过程中碰到过不少问题,包括磁盘IO 速率低、网络不稳定、CPU 性能不匹配等,甚至遇到过比较尴尬的场景,买不到服务商承诺的计算实例,严重影响到核心业务的稳定运行。
在经过详细对比后,先声教育选择了Amazon Web Services (AWS)。
据先声教育联合创始人及CTO 秦龙介绍,先声教育的服务是以云服务的形式输出给客户的,无论是使用AWS的计算单元还是存储、VPC(Virtual Private Cloud),可以理解成AWS是一个接口,先声教育会把不同的服务请求通过AWS进行处理。以语音测评为例,语音测评是对学生英语口语能力的测评,如发音、流利程度等。在AWS服务器上运行先声的语音测评模型和服务后,通过AWS服务结果再返回给用户。
AWS功能丰富,产品快速迭代,企业级的支持服务非常到位,这些都是先声教育选择AWS 云服务的重要原因。
对于先声教育来说,希望使用技术和服务都比较成熟的云服务厂商。并且,先声教育最需要的是基础的产品和能力。目前,先声教育用到的AWS产品有Amazon EC2 、Amazon S3、Amazon Glacier 、Auto Scaling、Elastic Load Balancing 、Amazon CloudWatch、Amazon EBS。
先声教育从2018 年初开始测试由西云数据运营的AWS 中国(宁夏)区域,并于1 月15 日完成智能语音测评集群的搭建,上线并正式提供给用户使用。同时,于2 月在由光环新网运营的AWS 中国(北京)区域部署API 入口,进一步降低部分城市接入时延。在评估AWS云服务的过程中,先声教育秉持"循序渐进"的原则,全面涉及功能测试、压力测试到最后真实用户的灰度测试。同时,充分考虑、综合衡量云服务商基础功能与自身需求的匹配度,大流量高并发场景下的抗压能力等因素。
先声教育基于AWS云平台的架构图
采用AWS 云服务后,先声教育能够将更多的精力和时间用于业务创新和产品市场拓展,有效降低了公司的整体运维成本。在同等资源配置的情况下,有能力对外提供更高效的服务。基于AWS 搭建多云环境、自动可扩展的服务集群后,先声教育可以放心大胆地向前拓展业务。此外,AWS 提供的 Amazon EC2、Amazon EBS 实例性能强劲,对比先声教育曾使用的其它云平台,磁盘IO 等待时间平均降低25%-33%;内网连通性很好。
同时,服务整体稳定性得到了显著提升,从监控图表上几乎看不到忽高忽低的锯齿现象。结合CloudWatch,先声教育可以进一步细化监控,实现主机内部的透明访问,精确管理云主机。AWS 云平台提供丰富且功能强大的SDK,简化运维开发,轻松实现更高级别定制化的自动扩容。
先声教育的应用需要大量的音频交互,持续稳定的网络连接是关键。AWS 云服务稳定性好,网络延迟低而且抖动小,是先声教育非常看重的地方。同时,AWS云平台提供了很好的弹性,非常适合教育类应用的流量峰谷特征和场景,能有效降低降低后期的综合使用成本。 记者视点
对于在线教育来说,长连接是其核心特征,如果后台不具备强大的性能和稳定性,一切服务和体验都无从谈起。从某种程度上说,云平台成就了在线教育一点也不夸张。