12月14日 北京肯尼思·洛克·黑尔(Kenneth L. Hale),美国著名语言学家,一生中始终保持着以非凡的速度和完美的状态学习新语言的能力。人们经常问他:“你学一门语言要多久?”他一般会回答:“ 10 - 15 分钟吧,如果我能和当地人聊聊的话,差不多就能学会这门语言最核心最重要的部分。”
和多数人相比,Kenneth 无疑是一个奇迹般的存在
接受昂贵教育却原地踏步的语言学习者大有人在
你我也许都是,或曾是其中一员
学生渴望被因材施教、即时反馈
老师则渴望剔除冗杂工作,投身于教学方法的研究
AI + 云
正在为这一困局提供一个令人满意的方案
北京先声教育科技有限公司(以下简称“先声教育”)是一家 AI 技术服务商,目前落地在 K12 教育领域,创始团队来自腾讯、美国卡耐基梅隆大学(CMU),并已获得来自联想之星、思必驰、浙大友创、创世伙伴资本(CCV)等投资方累计数千万美金的投资。先声教育专注为教育机构提供在线口语、听说考试、写作评测系统及定制化技术服务,通过 AI 技术与教学场景的深度融合,升级传统教育模式,促进教学相长,推动效率改善。所服务的客户包括百度、好未来、新东方、拓维信息、海云天、全通教育、趣配音等。
基于语音识别、自然语言处理等核心技术,先声教育自主研发智能口语测评、智能写作批改、自适应学习、智能对话及情感识别等技术解决方案。根据对市场和技术成熟度的分析判断,先声教育选择智能语音测评和智能写作批改作为 AI 技术与教育场景结合的切入点,专注于输出底层技术,以云计算的形式提供给合作伙伴,提高教育能效,使客户可以更好地为教学双方服务。
面临挑战
先声教育的核心挑战在于充分保障语音和写作测评核心业务稳定、高效运行;在此基础上,向 IT 后台简单、无感知的目标迈进,降低运维压力,释放资源。
稳定性
作为底层的智能技术供应商,先声教育服务的稳定性不仅关系着自身业务和客户商誉,更是关系到整个在线教育产业链产品和服务创新的关键所在。底层平台毫秒级的延迟、后台监控忽高忽低的锯齿,反映到最终用户的前端界面,有可能就是糟糕的卡顿体验。
伸缩性
据先声教育基础架构部负责人晋勋介绍,先声教育每天收到的测评请求量级已达几千万次,这些请求很可能是在某一时间段集中发生,比如晚上 18:00 - 22:00。如何满足高并发的大流量场景,应对每天高差达几十倍的流量高峰,是一个巨大的挑战。
因此对先声教育来说,IT 后台系统必须具备极强的稳定性和高可用性,同时兼顾可扩展性和灵活性,丰富的 SDK 和友好的开发测试环境同样非常重要。
选择 AWS
先声教育曾使用其它云服务商的服务,过程中碰到过不少问题,包括磁盘 I/O 速率低、网络不稳定、CPU 性能不匹配等,甚至遇到过比较尴尬的场景,买不到服务商承诺的计算实例,严重影响到核心业务的稳定运行。
Amazon Web Services(AWS)功能丰富,产品快速迭代,企业级的支持服务非常到位,这些都成为先声教育选择 AWS 云服务的重要原因。
先声教育从 2018 年初开始测试由西云数据运营的 AWS 中国(宁夏)区域,并于 1 月 15 日完成智能语音测评集群的搭建、上线并正式提供给用户使用。同时,于 2 月在由光环新网运营的 AWS 中国(北京)区域部署 API 入口,进一步降低部分城市接入时延。
评估选择云服务时,先声教育设定了三个基本核心指标:
① 相同机型成本对比
②万次请求成本对比
③ 整体运行故障率对比
先声教育希望在满足“整体运行故障率”维持在极低水平和可接受范围的前提下,尽可能降低“万次请求成本”。在评估 AWS 云服务的过程中,先声教育秉持“循序渐进”的原则,全面涉及功能测试、压力测试到最后真实用户的灰度测试。同时,充分考虑、综合衡量云服务商基础功能与自身需求的匹配度,大流量高并发场景下的抗压能力等因素。
下图是先声教育基于 AWS 云的系统架构图,所采用的 AWS 云服务包括 Amazon EC2、Amazon S3、Amazon Glacier、AWS Auto Scaling、Elastic Load Balancing、Amazon CloudWatch、Amazon EBS 等。
获得成效
以 AWS 云为基础构建智能语音测评云服务,先声教育对 AWS 云的计算实例性能、磁盘 I/O、平均延迟、网络连通性、服务和整个系统的稳定性等方面,都比较满意。
采用 AWS 云服务后,先声教育能够将更多的精力和时间用于业务创新和产品市场拓展,有效降低了公司的整体运维成本。在同等资源配置的情况下,有能力对外提供更高效的服务。基于 AWS 搭建多云环境、自动可扩展的服务集群后,先声教育可以放心大胆地向前拓展业务。
此外,AWS 提供的 Amazon EC2、Amazon EBS 实例性能强劲,对比先声教育曾使用的其它云平台,磁盘 I/O 等待时间平均降低 25% - 33%;内网连通性极佳;服务整体稳定性得到了显著提升,从监控图表上几乎看不到忽高忽低的锯齿现象。
结合 Amazon CloudWatch,先声教育可以进一步细化监控,实现主机内部的透明访问,精确管理云主机。同时,AWS 云提供丰富且功能强大的 SDK,简化运维开发,轻松实现更高级别定制化的自动扩容。
晋勋表示:
“云服务的差异在于细节。例如我们在做应用升级时,只需关闭现有机器,再开启一台机器,就可以部署新代码,类似‘一键换机’。这个过程对运维来说可能只需五分钟,积少成多,无论显性还是隐性,长期看一定会显著节省运维成本。”
对于 IT 运维来说,没有消息就是好消息。采用 AWS 云后,以往告警消息(包含大量无效告警)频发的状况得到了明显改善,AWS 监控报警信息非常少,一周甚至都没有一条。
先声教育的应用需要大量的音频交互,持续稳定的网络连接是关键。AWS 云服务稳定性好,网络延迟低而且抖动小,这是先声教育非常看重的地方。同时,AWS 云提供了很好的弹性,非常适合教育类应用的流量峰谷特征和场景,能有效降低后期的综合使用成本。
先声教育 CTO 秦龙总结道:
“就智能语音测评应用场景而言,长连接是其核心特征,用户往往会不间断地连续传音频,同时要求系统给出的反馈评价足够快。如果后台不具备强大的性能和稳定性,一切服务和体验都无从谈起。截至 2018 年 7 月,先声教育服务近百家 B 端客户,每天有近百万学生使用先声教育提供的智能语音和写作测评服务,提高自己的学习能力和水平。没有 AWS 云提供的强大支撑,这一切难以想象。”