夸克App探索预训练技术新应用 让搜索结果更准、

时间:2021-11-24

  20215月:日本7家主要机床企业订单额增加22倍,10月21日,在2021云栖大会“预训练与对话前沿论坛”上,夸克App资深算法专家王筱钊发表演讲,分享了预训练技术在搜索引擎中的最新应用进展,通过持续升级夸克语义模型,为用户提供更精准、更高效的搜索体验。

  作为阿里智能信息事业群旗下一款智能搜索App,夸克主打轻、简、快捷的产品体验,内置了AI相机、网盘等丰富的智能工具,聚合了海量内容,受到了年轻用户的青睐。阿里智能信息事业群总裁吴嘉曾表示,技术是业务的翅膀,产品因技术而不同,要通过技术创新给用户提供最佳体验。

  据介绍,搜索引擎中,语义匹配具体应用在用户查询词和文章标题的匹配,是保证用户搜索结果精准、高效的核心技术能力。传统的语义匹配实现方式是通过设定规则来区分,如果面对表达多样化的冷门查询词,则很难设计统一的规则。

  随着技术解决方案的升级,语义匹配经历了从规则到大规模深度语义模型的变革。其中,预训练语义模型的优势,首先是基于大规模非监督数据预训练,其次是模型结构复杂,学习能力很强,能够学习到一些很难的语义表示。

  王筱钊介绍,夸克选择的技术实现方式是在一个标准预训练语言模型之上,基于搜索领域文本的特征,设计了二次预训练,然后用少量的人工标注样本做微调。考虑到性能,夸克会基于teacher模型对大量自动样本进行“知识蒸馏”。

  创新预训练在搜索引擎中的应用,夸克有三方面的技术亮点:一是把通用语言模型升级为领域语言模型,大大提升了语义匹配的效果。二是通过微调处理复杂匹配,得到teacher模型结合知识蒸馏技术,同时解决了具体场景下提升模型效果和落地性能两个难点。第三是针对整个搜索链路的不同场景,设计了差异化的蒸馏技术方案。

  展望预训练技术的应用远景,王筱钊认为,在新的变革技术到来之前,预训练技术仍将是语义匹配的关键技术,更大参数、更多数据的预训练技术将保持主航道,多模技术快速发展和新硬件出现值得期待。

  “未来,夸克将展开新硬件与软件性能优化,上线更大规模模型;融合向量召回与关键词召回技术,实现更高效的召回等技术探索,落地更多预训练在搜索引擎中的创新应用。”王筱钊表示。

  今天晚上19:30,华为全场景智慧生活新品发布会将正式开启。本次发布会快科技全程图文+视频直播和报道,敬请关注。 从官方公布的信息来看,本次发布会将推出智能手表、PC、TWS耳机等多款新品,

  据悉,2022年清华大学丘成桐数学科学领军人才培养计划的第一批次50人左右的认定已经完成,其中重庆的巴蜀中学就有6人,初三年级的傅俊宁更是龄最小的一位。 初三结束后,傅俊宁将被直接保送清华

  时隔两周,又一波全国性冷空气来了。据中央气象台预报,11月19日至22日,雨雪、大风、降温将再度“上线个省会级城市降温将超过10℃,不少地方会比上次寒潮更冷,东北也将再

  11月14日晚间,永太科技发布公告称,公司控股子公司永太高新的股东,盈科恒通拟将其持有的永太高新25%股权,以5亿元转让给宁德时代。 “宁王”的持资到来,并且5亿元到账,这让永太科

  据北京日报消息,近日,因居民收到的来自内蒙古自治区锡林郭勒盟的包裹检测出新冠肺炎病毒阳性,11月15日,海淀区中关村街道科源社区11号楼4个单元采取紧急封控措施。 官方第一时间对相关人员和

  前段时间,欧盟提出了议案要求手机厂商将接口统一为USBC,用过这种接口的都知道它的优点,安卓厂商现在基本升级到USBC接口,就是苹果固守lightning接口,不愿意升级USBC接口。 苹果反对的理由也

  今天,联想中国区手机业务部总经理陈劲为新机预热,表示“新旗舰估计又要给行业扔一颗大炸弹出来”。 据悉,摩托罗拉将于下月发布摩托罗拉edge X系列新品,该机将会搭载高通骁龙8 Ge

  11月20日至23日,今冬第三轮寒潮将席卷我国大部地区,安徽、江苏、江西等地局地累计降温可超14℃。23日早晨,0℃线将抵达长江中下游一带,我国三分之二领土将被寒潮速冻。中国天气网推出全国冰冻

  近日高通宣布了下一代基于Arm处理器的计划,旨在为Windows PC设定性能基准,将直接对标苹果的M系列处理器。 高通首席技术官James Thompson博士在公司2021年投资者大会上宣布了新处理器的计划,

  索尼的次时代家用游戏机PlayStation5,可以说是家用主机的性能标杆。HDMI2.1,4K120Hz输出等功能都为家用主机带来革命性的进步,自然吸引着无数主机玩家蜂拥抢购。 今年五月PS5国行版发售


友情链接:
苏州威尔达焊接是精密点焊机,逆变焊接电源,电池点焊机,焊接检测仪厂家,设计并定制生产各种精密电阻焊点焊机设备,免费提供各类焊接工艺试验,联系电话13915583428