Hinton揭秘Ilya成长历程：Scaling Law是他学生时代就有的直觉

AIGC动态欢迎阅读

原标题：Hinton揭秘Ilya成长历程：Scaling Law是他学生时代就有的直觉
关键字：报告,模型,压缩器,直觉,语言
文章来源：量子位
内容字数：9917字

内容摘要：

梦晨发自凹非寺量子位 | 公众号 QbitAI2003年夏天的一个周日，AI教父Hinton在多伦多大学的办公室里敲代码，突然响起略显莽撞的敲门声。
门外站着一位年轻的学生，说自己整个夏天都在打工炸薯条，但更希望能加入Hinton的实验室工作。
Hinton问，你咋不预约呢？预约了我们才能好好谈谈。
学生反问，要不就现在吧？
这位年轻学生就是Ilya Sutskever，刚刚完成本科二年级的数学课程，从教务处打听到“想学机器学习，最好去找Hinton教授”。
他照做了，也因此成就了一段传奇：
从AlexNet到AlphaGo，他两次参与改变世界的研究。
OpenAI创立之初挖他去当首席科学家，在他的领导下，推出了GPT系列早期版本、DALL·E系列、代码大模型Codex，直到ChatGPT，再次改变世界。
多年后，他发动董事会内讧，最终与OpenAI彻底分道扬镳，全世界都在等待着他的下一个动作。
在OpenAI的时候，Ilya并不像Altman那样到处抛头露面，也不像Brockman天天在网上分享自己的“编程之禅”。
仅有的几次演讲和访谈中也多是聊技术、宏观思考，不常谈及自己的经历

原文链接：Hinton揭秘Ilya成长历程：Scaling Law是他学生时代就有的直觉