栏目导航
联系我们
服务热线
400-123-4562
手机:13800138002
地 址:山东省临沂市沂蒙国际财富中心二栋
当前位置:主页 > 秒速快3 > 公司动态 >
微软发布开源 Icecaps 工具包通过多任务学习实现
浏览: 发布日期:2019-10-03

  据悉,该工具包的作用是让研究人员和开发人员为他们的聊天机器人产品中注入不同的角色,而且还可以结合其他强调对话建模的自然语言处理功能,▲★-●形成代码和预训练系统。而且,Icecaps 工具包是完全开源的,其名字来源于代码和预训练系统的首字母缩写。微软研究人员 Vighnesh Leonardo Shiv(以下称微软)在博客文章中表示,“其中一些工具是最近由 Microsoft Research(微软研究院)完成工作推动的,包括个性化嵌入,基于互联网的最大信息解码,知识基础以及在共享特征上实施更多结构的方法,鼓励多样化和相关的响应。”

  Icecaps 库使用的是 TensorFlow 机器学习框架和 SpaceFusion,对于兼容性良好,旨在让用户可以使用多任务学习轻松构建复杂的培训配置。在接下来的几个月里,微软 Icecaps 开源工具包将对开发人员发布预先培训的模型,口▲=○▼供开发人员使用,引导其产品和技术可以快速适应新的场景,助力技术开发。

  事实上,Icecaps 开源工具包的核心是一个灵活的多任务学习范例。在多任务学习中,参数的子集在多个任务之间共享,因此这些任务可以使用共享的特征表示。例如,该技术已用于对话建模,•●以将一般会话数据与不成对的话语相结合 ; 通过将会话模型与共享其解码器的自动编码器配对,可以使用未配对的数据来个性化会话模型。Icecaps 通过将大多数模型表示为组件链,允许研究人员和开发人员使用共享组件构建任意复杂的模型配置,从而实现多任务学习。还支持灵活的多任务培训计划,允许用户在培训过程中更改任务的加权方式。

  ,这是一种最初设计用于联合优化生成响应的多样性和相关性。SpaceFusion 添加了正则化术语来塑造任务之间共享的潜在空间。这些术语更好地调整了每个任务在这个潜在空间上学到的分布。

  另一方面,▼▼▽●▽●为了利用 AI 实现一些人物的自我独特风格和对话个性属性场景,Icecaps 工具包可以让研究人员和开发人员嵌入个性多数据多人物的对话系统。★▽…◇

  人格嵌入的工作方式类似于嵌入词,就像我们学习每个单词的嵌入来描述单词在潜在单词空间中如何相互关联一样,我们可以从多个说话者数据集中学习每个说话者的嵌入来描述潜在的个性空间。

  在嘈杂的现实世界数据上训练的会话系统倾向于产生非特异性的、平淡无奇的反应,例如“我不知道你在说什么。秒速快3app

  这些系统将这种行为学习为一种安全的方式来持续产生适合上下文的反应。成本是响应的多样性和内容。◆▼解决此问题的一种方法是基于最大互信息(MMI)的假设重新排名。该方法训练第二模型以预测给定潜在响应的上下文。该模型为基础解码器生成的每个假设分配额外的分数,△并且该附加分数用于重新排列该组假设。MMI 采用针对给定上下文的最具针对性的潜在响应,★△◁◁▽▼并将它们推送到列表的顶部。Icecaps 作为其定制波束搜索解码器的一部分,将基于 MMI 的重新排名与其他几种解码功能结合在一起。

  培训会话系统的主要瓶颈之一是缺乏会话数据,这些数据捕获了世界上存在的大量非会话数据中存在的丰富信息。

  因此,我们需要能够利用后者的好工具。要培养赋予了包含在维基百科或其他百科全书来源的所有知识,例如一个智能代理,☆△◆▲■○▲Icecaps 实现结合机器阅读理解和响应生成模块知识接地谈话的方法。□▼◁▼该模型使用注意力从与上下文相关的知识源中隔离内容,从而允许模型产生更明智的响应。▪️•★

  声明:该文观点仅代表作者本人,搜狐号系信息发布平台,◆◁•搜狐仅提供信息存储空间服务。微软发布开源 Icecaps 工具包通过多任务学习实现多角色会话 AI

友情链接/LINKS

Copyright 2019 秒速快3_首页_登录注册 网站地图ICP备*******号
电话:400-123-4562   13800138002邮 编:45420792@qq.com
地 址:山东省临沂市沂蒙国际财富中心二栋
QQ:45420794
秒速快3科技有限公司专业秒速快3制造和销售等业务,欢迎来电咨询!