- 1、本文档共14页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
ChatGPT背后真正的英雄
OpenAI首席科学家IlyaSutskever的信仰之跃
导读
ChatGPT的横空出世万众瞩目,但我们不应忘记在它背后默默无闻的天才。IlyaSutskever是OpenAI的联合创始人和首席科学家。正是在他的领导下,OpenAI在开发尖端技术和推动人工智能领域的发展方面取得了重大进展。在这篇文章中,我们将探讨二十年间,Sutskever是如何从一个年轻的研究人员一步步走到人工智能领域的领导人物之一的。无论你是人工智能爱好者,还是研究人员,或者仅仅是对这一领域的内部运作感到好奇的人,这篇文章都会提供宝贵的观点和信息。
本文编译自https://journeymatters.ai/ilya-the-brain-behind-chatgpt/作者/MunishGandhi?编译/牛梦琳,李梦佳
本文遵循以下时间线:?
2003:IlyaSutskever的拜师之旅
2011:初识AGI
2012:图像识别的革命
2013:将DNNresearch拍卖给谷歌
2014:语言翻译的革命
2015:从谷歌到OpenAI:人工智能的新篇章
2018:GPT1、2和3
2021:开发DALL-E1
2022年:向世界揭开ChatGPT的面纱
IlyaSutskever
OpenAI的联合创始人和首席科学家,2005年毕业于多伦多大学,2012年获得CS博士学位。2012年至今,他曾先后就职于斯坦福大学,DNNResearch,GoogleBrain,从事机器学习与深度学习的相关研究,并于2015年放弃谷歌的高薪职位,与GregBrockman等人联合创建了OpenAI,在OpenAI主导了GPT-1,2,3以及DALLE系列模型的研发。2022年,他入选英国皇家科学学会院士。他是人工智能领域的先驱,在塑造人工智能的当前格局方面发挥了重要作用,并在继续推动机器学习的可能性的界限。他对人工智能的热情让他的开创性研究熠熠生辉,也由此塑造了深度学习和机器学习领域的发展历程。
2003:
对IlyaSutskever的初印象
Sutskever:我不理解,Hinton:为什么不理解,Sutskever:人们训练神经网络来解决问题,当人们想解决不同问题时,就得用另外的神经网络重新开始训练。但我认为人们应该有一个能够解决所有问题的神经网络。在多伦多大学读本科时,Sutskever想加入GeoffreyHinton教授的深度学习实验室。于是,他在某一天直接敲开了Hinton教授办公室的门,询问自己是否可以加入实验室。教授让他提前预约,但Sutskever不想再浪费时间,所以他立即问:就现在怎么样?
Hinton意识到Sutskever是一个敏锐的学生,于是给了他两篇论文让他阅读。一周后,Sutskever回到教授办公室,然后告诉教授他不理解。
“为什么不理解?”教授问。Sutskever解释说:“人们训练神经网络来解决问题,当人们想解决不同问题时,就得用另外的神经网络重新开始训练。但我认为人们应该有一个能够解决所有问题的神经网络。这段话展示了Sutskever得出结论的独特能力,而这种能力即使是有经验的研究人员也需要花费数年时间才能找到,Hinton于是向他发出邀请,希望他加入自己的实验室。
2011:初识AGI
Sutskever:我不认同这个想法(AGI)Sutskever还在多伦多大学时,曾飞到伦敦去DeepMind找工作。在那里他见到了DemisHassabis和ShaneLegg(DeepMind的联合创始人),他们正在建立AGI(ArtificialGeneralIntelligence,人工通用智能)。AGI是一种通用的人工智能,它能够像人类一样思考和推理,并完成与人类智能相关的各种任务,如理解自然语言,从经验中学习,做出决定,以及解决问题。在当时,AGI并不是严肃的研究人员会谈论的东西。Sutskever也认为他们已经与现实脱节,所以他拒绝了这份工作,回到了大学,最终于2013年加入了谷歌。
2012:图像识别革命
ImageNet竞赛中获胜GeoffreyHinton慧眼独具,在其他人都不相信的时候相信了深度学习。并且他坚信,在ImageNet竞赛中获得成功就会彻底解决这一争论。ImageNet竞赛:斯坦福大学的实验室每年都会举办ImageNet竞赛。他们为参赛者提供了一个由精心标记的照片组成的庞大数据库,来自世界各地的研究人员都会来参加比赛,尝试创建一个能够识别最多的图像的系统。Hinton的两个学生,伊利亚-苏茨克沃(IlyaSutskever)和亚历克斯-克里切夫斯基(AlexKrizhevsky)参加了这个比赛。他们打
文档评论(0)