特稿 >

科技快讯 >

与TensorFlow共同进步,kika输入法引擎不断突破升级

与TensorFlow共同进步,kika输入法引擎不断突破升级

Xtecher原创 丨 科技快讯

10065
1446

2018-07-02

Xtecher

Xtecher特稿作者

关注

作为享誉海外的人工智能公司,kika的使命一直是通过技术创新,以输入法为切入场景,帮助人们更加自由有趣地表达心中所想,让世界沟通变得更简单。因此,不断升级输入法引擎,继而变革世界沟通是kika一直所追逐的目标。而得益于谷歌将TensorFlow开源并不断迭代,以及本身技术的钻研及创新,近日,kika正式成为TensorFlowcontributor(贡献者),与TensorFlow共同进步。

 

图片1.png


从2016年开始,kika 技术团队一直致力于 AI 技术在移动端落地,尤其是在 keyboard 输入法引擎做了很多算法与工程上的探索工作。2017 年 5 月,kika 技术团队基于 TensorFlow Mobile 研发了 kika AI Engine,将其应用于 kika 的全系输入法产品中。2017 年 11 月,在Google 发布 TensorFlow Lite (TF Lite) 后,kika 技术团队同样进行了迅速跟进。

 

TensorFlow Lite 是针对移动和嵌入式设备的轻量级解决方案,支持移动设备上机器学习模型的低时延推理。它拥有全新的设计,具有如下三个重要功能:

 

轻量级(Lightweight):支持机器学习模型的推理在较小二进制数下进行,能快速初始化/启动;

 

跨平台(Cross-platform):可以在许多不同的平台上运行,现在支持 Android 和 iOS;

 

快速(Fast):针对移动设备进行了优化,包括大大减少了模型加载时间、支持硬件加速。

 

kika输入法作为一个重度使用的工具类 APP,在移动端做轻量化部署显然非常重要。而对于kika输入法引擎而言,最需具备的技术要求包括:快、准、全,需要在客户端环境下,根据用户输入的上文内容以及当前键入的键码,实时进行『预测』。预测的内容包括:单词,词组,emoji 等等一切可能通过输入法发送的内容。这恰与TensorFlow Lite 的功能优势天然契合。

 

因此,在Google 发布 TensorFlow Lite (TF Lite) 后,kika技术团队立即着手升级开发。在开发过程中,kika发现TF Lite 对于 RNN/LSTM 的支持程度稍显不足,例如对于RNN的支持尚存在op支持不足的缺点。不过,kika团队在经历相当的研发投入后,已然可以尽量避免使用这些 TF Lite 不支持的 op,对于不得不使用的情况,也可以实现结合具体的业务逻辑,优化设计,使得在移动端部署的二次开发的工作量尽可能的小。

 

2018 年 1 月,kika成功地开发了基于 TF Lite 全新一代的 kika AI Engine。在客户端实现基于 TF Lite 模型的部署之后,kika分别测试了同一模型在 TF 完全版(TF Mobile)和 TF Lite 10, 000 次 Inference 的资源消耗情况,如下图所示。主要的 Metrics 包括内存占用 (memory),运行时间(speed)和静态链接库的大小 (image size)。

 

图片2.png 

TF Lite based model performance metrics

 

可以看到,各项 Metrics 都得到的大幅的优化,这对于提升产品的整体性能与稳定度都十分有利。

 

与此同时,kika也再一次进行了线上产品的更新,使得用户拥有了更好的使用体验。事实上,除了输入法引擎之外,kika 技术团队近年来也一直在致力于采用 AI 技术解决内容推荐,语音识别和自然语义理解方面等方面的诸多实际问题,在客户端和服务端部署分别采用 TF Lite 和 TF Serving 这两个基于 TensorFlow 的优秀框架。

 

在 TensorFlow的加持下,kika输入法引擎不断突破升级,无疑将使得kika变革世界沟通的美好愿景加快实现。

打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮

账号登录

重置密码

还没有账号?立即注册>

账号注册

已有账号?立即登录>注册企业会员

重置密码

返回

绑定手机