扇贝-深度学习在语言学习场景下的技术实践 CTO技术分享-人工智能.pdf

深度学习在语言学习场景下 的技术实践 张志博 扇贝算法团队负责人 • 全面、有效提升英语能力的移动学习平台 • 产品矩阵涵盖听说读写，拥有包括扇贝单词、扇贝听力、扇贝口语、扇贝阅读 • 截止2018年12月，用户已突破8000万 • 对英语学习者词汇水平的深度追踪 入选 2018 谷歌开发者大会案例展示 • 广泛的优质合作 … 准系统 GPU UPS 环境温控 … … Containers Dev/Deploy ELK Monitors • Elasticsearch • Logstash • Kibana • 权限管理 • Dockfile管理 • Nvidia-docker runtime /portainer/portainer • Grafana 监控 CPU ，Mem ， IO，Network，DB • 基于 NVIDIA Management Library 实现对 GPU 监控 • 报警/事件与钉钉chatbot集成 /deploy/nvml-api/nvml-api-reference.html 传统单词量测试存在的问题： • 测试量过大 / 测试结果不准确 • 除了能给出单词量数值无法输出其他 有价值的信息 是否能实现这样的词汇水平评估： • 测试量较小 • 对每个单词的掌握程度进行预判 Knowledge Tracing is the task of modelling student knowledge over time so that we can accurately predict how students will perform on future interactions. Xt 是用户当前 action 的 embedding Yt 代表模型预测用户对词表中每个词回答正确的概率 • 数据驱动，与 Bayesian Knowledge Tracing 不同，不依赖人工标注的知识 点 • 在 Khan Academy Data 上的验证实 验中有着比 BKT 更好的性能 Piech, C. et al. Deep knowledge tracing. in Advances in Neural Information Processing Systems 505–513 (2015) • 通过数据驱动的方式发现题间关联性 题目数量、涉及用户量及序列长度数据量级更大 • Time - 用户第一次遇到该单词时回答时间 • Attempt cou