2020年人工智能十大技术进展

2020年人工智能十大技术进展

pixabay.com

来源:知识分子

撰文 :全体智源学者

制版编辑:卢卡斯

编者按编者按
2020年即将过去,今年人工智能领域有哪些重大进展?位于北京的智源人工智能研究院请 “智源学者” 们从全球的研究成果中评选了一份年度成就名单,其中有文本能力惊人的自然语言处理预训练模型GPT-3,有惊艳结构生物学领域的AlphaFold2,也有不少中国学者的成果。名单按对人工智能领域的重要性排序,会是谁拔得头筹呢?

No.10

康奈尔大学提出无偏公平排序模型可缓解检索排名的马太效应问题

2020年人工智能十大技术进展


近年来,检索的公平性和基于反事实学习的检索和推荐模型已经成为信息检索领域重要的研究方向,相关的研究成果已经被广泛应用于点击数据纠偏、模型离线评价等,部分技术已经落地于阿里和华为等公司的推荐及搜索产品中。2020年7月,康奈尔大学 Thorsten Joachims 教授团队发表了公平无偏的排序学习模型FairCo,一举夺得了国际信息检索领域顶会SIGIR 2020最佳论文奖。该研究分析了当前排序模型普遍存在的位置偏差、排序公平性以及物品曝光的马太效应问题等,基于反事实学习技术提出了具有公平性约束的相关度无偏估计方法,并实现了排序性能的提升,受到了业界的广泛关注和好评。

No.9

Google与FaceBook团队分别提出全新无监督表征学习算法

2020年人工智能十大技术进展


2020年初,Google与Facebook分别提出SimCLR与MoCo两个算法,均能够在无标注数据上学习图像数据表征。两个算法背后的框架都是对比学习(contrastive learning)。对比学习的核心训练信号是图片的 “可区分性”。模型需要区分两个输入是来自于同一图片的不同视角,还是来自完全不同的两张图片的输入。这个任务不需要人类标注,因此可以使用大量无标签数据进行训练。尽管Google和FaceBook的两个工作对很多训练的细节问题进行了不同的处理,但它们都表明,无监督学习模型可以接近甚至达到有监督模型的效果。

No.8

MIT仅用19个类脑神经元实现控制自动驾驶汽车

2020年人工智能十大技术进展


受秀丽隐杆线虫等小型动物脑的启发,来自MIT计算机科学与人工智能实验室(CSAIL)、维也纳工业大学、奥地利科技学院的团队仅用19个类脑神经元就实现了控制自动驾驶汽车,而常规的深度神经网络则需要数百万神经元。此外,这一神经网络能够模仿学习,具有扩展到仓库的自动化机器人等应用场景的潜力。这一研究成果已发表在2020年10月13日的《自然》杂志子刊《自然·机器智能》(Nature Machine Intelligence)上。

No.7

北京大学首次实现基于相变存储器的神经网络高速训练系统

2020年人工智能十大技术进展


2020年12月,智源学者、北京大学杨玉超团队提出并实现了一种基于相变存储器(PCM)电导随机性的神经网络高速训练系统,有效地缓解了人工神经网络训练过程中时间、能量开销巨大并难以在片上实现的问题。该系统在误差直接回传算法(DFA)的基础上进行改进,利用PCM电导的随机性自然地产生传播误差的随机权重,有效降低了系统的硬件开销以及训练过程中的时间、能量消耗。该系统在大型卷积神经网络的训练过程中表现优异,为人工神经网络在终端平台上的应用以及片上训练的实现提供了新的方向。

No.6

清华大学首次提出类脑计算完备性概念及计算系统层次结构

2020年人工智能十大技术进展


2020年10月,智源学者,清华大学张悠慧、李国齐、宋森团队首次提出“类脑计算完备性” 概念以及软硬件去耦合的类脑计算系统层次结构,通过理论论证与原型实验证明该类系统的硬件完备性与编译可行性,扩展了类脑计算系统应用范围使之能支持通用计算。该研究成果发表在2020年10月14日的《自然》(Nature)期刊。《自然》周刊评论认为,“ ‘完备性’ 新概念推动了类脑计算”,对于类脑系统存在的软硬件紧耦合问题而言这是 “一个突破性方案”。

No.5

美国贝勒医学院通过动态颅内电刺激实现高效率“视皮层打印”

2020年人工智能十大技术进展


对于全球4000多万盲人来说,重见光明是一个遥不可及的梦想。2020年5月,美国贝勒医学院的研究者利用动态颅内电刺激新技术,用植入的微电极阵列构成视觉假体,在人类初级视皮层绘制W、S和Z等字母的形状,成功地能够让盲人 “看见” 了这些字母。结合马斯克创办的脑机接口公司Neuralink发布的高带宽、全植入式脑机接口系统,下一代视觉假体有可能精准刺激大脑初级视觉皮层的每一个神经元,帮助盲人“看见”更复杂的信息,实现他们看清世界的梦想。

No.4

DeepMind等用深度神经网络求解薛定谔方程促进量子化学发展

2020年人工智能十大技术进展


作为量子力学的基本方程之一,薛定谔方程提出已经有90多年的时间,但如何精确求解薛定谔方程,却一直困扰着许多科学家。2019年,DeepMind开发出一种费米神经网络(Fermionic neural networks,简称FermiNet)来近似计算薛定谔方程,为深度学习在量子化学领域的发展奠定了基础,2020年10月,DeepMind开源了FermiNet,相关论文发表在物理学期刊Physical Review Research上。FermiNet是利用深度学习来从第一性原理计算原子和分子能量的尝试,在精度和准确性上都满足科研标准,且是目前在相关领域中较为精准的神经网络模型。另外,2020年9月,德国柏林自由大学的几位科学家也提出了一种新的深度学习波函数拟设方法,它可以获得电子薛定谔方程的近乎精确解,相关研究发表在Nature Chemistry上。该类研究所展现的,不仅是深度学习在解决某一特定科学问题过程中的应用,也是深度学习能在生物、化学、材料以及医药领域等各领域科研中被广泛应用的一个远大前景。






No.3

深度势能分子动力学研究获得戈登·贝尔奖

2020年人工智能十大技术进展


2020年11月19日,在美国亚特兰大举行的国际超级计算大会SC20上,智源学者、北京应用物理与计算数学研究院王涵所在的 “深度势能” 团队,获得了国际高性能计算应用领域最高奖项 “戈登·贝尔奖”。“戈登·贝尔奖” 设立于1987年,由美国计算机协会(ACM)颁发,被誉为 “计算应用领域的诺贝尔奖”。该团队研究的 “分子动力学”,结合了分子建模、机器学习和高性能计算相关方法,能够将第一性原理精度分子动力学模拟规模扩展到1亿原子,同时计算效率相比此前人类最好水平提升1000倍以上,极大地提升了人类使用计算机模拟客观物理世界的能力。美国计算机协会(ACM)评价道,基于深度学习的分子动力学模拟通过机器学习和大规模并行的方法,将精确的物理建模带入了更大尺度的材料模拟中,将来有望为力学、化学、材料、生物乃至工程领域解决实际问题(如大分子药物开发)发挥更大作用。

No.2

DeepMind的AlphaFold2破解蛋白质结构预测难题

2020年人工智能十大技术进展


2020年11月30日,Google旗下DeepMind公司的AlphaFold2人工智能系统在第14届国际蛋白质结构预测竞赛(CASP)中取得桂冠,在评估中的总体中位数得分达到了92.4分,其准确性可以与使用冷冻电子显微镜(CryoEM)、核磁共振或X射线晶体学等实验技术解析的蛋白质3D结构相媲美,有史以来首次把蛋白质结构预测任务做到了基本接近实用的水平。《自然》(Nature)杂志评论认为,AlphaFold2算法解决了困扰生物界 “50年来的大问题”。


No.1

OpenAI发布全球规模最大的预训练语言模型GPT-3

2020年人工智能十大技术进展


2020年5月,OpenAI发布了迄今为止全球规模最大的预训练语言模型GPT-3。GPT-3具有1750亿参数,训练所用的数据量达到45TB,训练费用超过1200万美元。对于所有任务,应用GPT-3无需进行任何梯度更新或微调,仅需要与模型文本交互为其指定任务和展示少量演示即可使其完成任务。GPT-3在许多自然语言处理数据集上均具有出色的性能,包括翻译、问答和文本填空任务,还包括一些需要即时推理或领域适应的任务等,已在很多实际任务上大幅接近人类水平。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。


如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

2020年人工智能十大技术进展

上一篇:以新思维入局智能家居,华为要做基础设施提供商
下一篇:这些VR新产品,让你看了直呼厉害!

相关推荐

规模化机器学习崛起、「零信任」架构出现,德勤发布2021九大技术趋势

1636 机器之能

《德勤2021年技术趋势》报告研究了疫情一年来对企业战略、运营和技术带来的连锁反应,论述了其重大发现:全球企业正在加速数字化战略转型,从而构建「韧性」、开创全新的经营模式。报告讨论了接下来18至24个月及以后驱动企业规划背后的九大技术趋势,包括未来的工作环境、人工智能产业化、关键核心业务的升级以及支持多样性、公平性和包容性的技术等内容。这些技术趋势也同时明确

2021 版 Java 架构师学习路线图谱

2021 版 Java 架构师学习路线图谱

1599 ImportNew

最近很多朋友反馈,现在面试问的问题真的太太太太难了!几轮面试下来,多线程、Jvm、Redis、MySQL调优、设计模式、项目全部问了一遍,面试过程很是痛苦!!!不光这些,最要命的算法也问的很深...特意整理了一堆Java资料,元旦啦!作为福利送给粉丝们...元旦福利资料很干,2021年面试必问知识点都在这!!!立即打开微信,长按下面二维码扫一扫一定要备注马士

孩子数学计算老出错?复习阶段,家长赶紧和孩子一起找准原因!

孩子数学计算老出错?复习阶段,家长赶紧和孩子一起找准原因!

434 小学数学教师交流

孩子作业考试算术为什么总是会错呢,不是这题的运算符号错了,就是那题的数字写错了。只是因为孩子做题不细心么?不然。其实孩子在计算中出现错误的原因是多方面的,粗心只是其中原因之一,仅占一小部分。那么,导致孩子计算失误的原因还有哪些呢?一起来看看吧!01视觉迁移引起的感知错误小学生特别是中段学生,其思维特征是由现象思维过渡到抽象思维,极易对相似、相近的数据或符号产

《2021年衡水中小学全套学习资料》,家有中小学生赶快领取!仅限前200份免费!

《2021年衡水中小学全套学习资料》,家有中小学生赶快领取!仅限前200份免费!

1310 家长慧

90%以上的中小学都存在严重的偏科,尤其是最拉分的英语:英语单词背了忘、忘了背…语法死记硬背,做题生搬硬套,刷了很多题,成绩还是50-90分……阅读理解老丢分,总分差不多的情况下,英语每次都比别人少三四十分!一个木桶能装多少水,取决于最短的那块木板!所以,偏科是孩子学习路上的一颗“毒瘤”,如不及时拯救,孩子将在考试选拔中落败!为此,我联合全国一线中小学名师,

HR打卡学习—《劳动合同法第二十七条》

HR打卡学习—《劳动合同法第二十七条》

972 福建HR圈

做一个懂劳动合同法的HR规避企业用人风险,降低企业运营风险第二章 劳动合同的订立第二十七条:劳动合同部分无效劳动合同部分无效,不影响其他部分效力的,其他部分仍然有效。【律师解析】:实践中最常见的是劳动合同部分无效,如劳动合同中规定未经批准不得辞职、加班不给加班费、工作受伤自己负责等。该部分虽无效,但对其它条款没有影响,不能因此认定为整个合同无效。在部分无效的

脑卒中康复训练漫画图解

1734 康复吧

来源:康复汇5分钟漫画卒中脑卒中是排名第一的国民死亡原因很多情况下卒中症状严重可导致残疾全世界每年有超过1500万人罹患卒中其中500万人死亡,500万人落下残疾虽然大多数卒中发生在65岁以上人群中但年轻人也是有可能发生卒中的那么到底什么是卒中呢大脑,就像身体的其它部分一样需要从血液中获取氧气大脑血液供应中断,脑细胞缺氧损伤就发生了随之而来的各种临床症状就叫

怎么骂醒一个高三还不好好学习的人?高三该看,高一高二也该看看!

怎么骂醒一个高三还不好好学习的人?高三该看,高一高二也该看看!

952 高中学生家长慧

点上方蓝色的字,关注我们哦获取更多高考资讯今天距离2021年高考越来越近,时间越来越少了。还有的同学觉得有将近半年的时间,依然还当自己在高一高二那样悠闲。也有些同学虽然意识到高考的临近,但是迷茫没有目标整天在瞎忙碌中浪费宝贵的时间!慧姐今天给大家推荐一篇文章,给那些还没紧张起来的同学,更给那些迷茫中的同学。PS:如果你觉得自己被警醒到,请把文章分享给你的好朋

“微信上说的喜欢,是真爱吗?”:让男生现实中开始追你,就用这几招!
私房话

“微信上说的喜欢,是真爱吗?”:让男生现实中开始追你,就用这几招!

458 陆琪

粉丝提问:最近有个男生在微信上对我表白,我对他也有意思,很想立刻答应他,但是我怕答应的太快,他会不珍惜我,我就没有正面回应。可是,后来他也没有对我展开实际的追求行动,这到底是是怎么一回事?你有没有遇到过这种情况?有的男生嘴上说喜欢你,却丝毫没有追的动作;有的男生追了一段时间,突然就不追了;还有的把你追到手后,态度就越来越冷淡。到底是现在人的感情越来越短,还是

游戏

走进《天龙八部手游》的世界丨触乐

349 触乐

这个活动最大的价值在于,它非常真诚地在现实中搭建了一个游戏世界,让玩家徜徉其中。12月26号,《天龙八部手游》年度盛典在云南大理古城的垒翠园举行。这场年度盛典包含天龙灯光秀、幻境音乐会、文创游园会,共举办整整5天。从12月27号开始,园区将会面向全体游客开放——届时他们将会见识到一个崭新的垒翠园。为了参加这场年度盛典,我来到了大理。垒翠园年度盛典现场初次相识

专访天美J3总经理姚远:和动视暴雪合作后,我们怎么理解工业化?
游戏

专访天美J3总经理姚远:和动视暴雪合作后,我们怎么理解工业化?

796 游戏葡萄

TGA最佳移动游戏背后的认知。文/托马斯之颅&迪亚菠萝包12月25日上线的《使命召唤手游》(下文简称CODM)应该是腾讯天美工作室群今年最重磅的新品。超过6000万的预约量足以反映玩家的期待。截止目前,CODM稳定位列免费榜第一,畅销榜Top5,在TapTap、好游快爆等平台保持在8分以上,算得上既叫好又叫座。这款游戏在海外也获得了主流游戏媒体和玩家

萌宠

比格犬一家被人凌晨遗弃街头,主人做法让人不解,家里太有钱了?

1454 萌宠治愈师

据不完全统计,国内养宠物的数量已经达上亿只了,而养宠物可以说是没有门槛的,不管你的经济情况如何,只要是你想养,就可以通过各种方法养一只。而当你不想再养了呢?那么也是没有任何约束,送人或者遗弃,在大部分的城市里也不会有惩罚。今天要说的一只比格犬和它6只孩子的故事,在前几天,一位网友照常走在上班的路上,忽然发现前方有一群人在围观着什么。好奇的网友经过时就往里面憋

私房话

人到中年,遇上灵魂伴侣,是劫不是缘

1451 阅世悦人

来源|精彩女人(ID:jcnv365)文|十七朵呀草在结他的种子,风在摇他的叶子,我们站着,不说话,就很美好。我们来这世上走一遭,如果能遇到一个心意相通,相知相爱的伴侣相守一生,是一件非常幸福的事。关于灵魂伴侣,每个人在单身的时候都曾有过美好的幻想。然而,有太多人误解了灵魂伴侣的真正含义。多少人得陇望蜀,缘木求鱼,到最后也没有好好珍惜已经得到的,却一辈子都对

私房话

爸,你早就不爱我妈了吧?

1785 青年文摘

点击上方蓝字“青年文摘”右上角“...”点选“设为星标”添加★标不再错过推送每天8点12点20点不见不散~作者:关山月来源:凯叔讲故事ID:kaishujianggushi我一直相信一句话:教育永远是从生活中习得的。最好的教育,是父母相爱;最好的家庭,是不断成长。爸,你早就不爱我妈了吧?如果孩子问你,你怎么回答?当然爱啊,要不然怎么会有你。小孩子懂什么,一边

萌宠

猫咪取暖方式有多野?看完无毛猫的,头笑掉了!

905 波奇网

据说喵星人的祖先来自热带沙漠地区喜暖的基因刻在了身体里一到冬天就开始寻找热源各种花式取暖方式让吃瓜群众哭笑不得!喵星人花式取暖我的猫站在暖风口处疯狂的暗示我赶紧给它暖气开起来眼神坚定让人没法拒绝喵:我等好久了你怎么肥四!我家猫沉迷烫头取暖无法自拔我的猫刚从外面散步回来给它开了取暖机它超开心喵:奴才今天很有眼色我的猫平时都很不喜欢对方经常大打出手但是现在已经顾

黄轩这样的男人,适不适合结婚?
私房话

黄轩这样的男人,适不适合结婚?

1743 宛央女子

●作者╳林宛央●来源公号╳宛央女子●配图╳来自网络,如侵权请联系删除____宛央有话先说:微信又又又改版了。现在iphone用户只有加了星标,才能第一时间看见宛央的推文哦。所以,使用iphone手机的宝宝们,记得星标宛央哦。加星标的方法,非常简单:最近在家看电视剧《创业时代》,这部剧主要讲男人的创业时代,但打动我的却是其中一个女性角色。剧中有一个情节,几乎只