3月21日消息,在当前人工智能热潮中,“转换器”(Transformer)已成为大语言模型和ChatGPT的核心基石。这项技术起源于2017年,由谷歌的八名员工发表的论文《你所需要的是注意力》(Attention Is All You Need)。这篇论文在人工智能界引起了犹如“宇宙大爆炸”的震动,彻底转变了技术的发展路径。目前,这八位谷歌研究人员均已离开谷歌,或是创立了自己的公司,或是加入了新的团队。《连线》杂志的资深编辑史蒂文·利维(Steven Levy)为我们揭开了转换器诞生前后的幕后故事。
尽管转换器模型在学术界和工业界取得了巨大的成功,但它在谷歌内部产生的影响却相对较小。文章分析认为,这种情况部分是因为大公司的官僚机制和对现状的依赖,导致谷歌未能完全发挥转换器模型的潜能。而OpenAI等新兴企业却迅速捕捉到了这一机遇。
虽然谷歌在某些方面可能错失了发展先机,但它作为技术创新孵化地的角色仍然不容忽视。 以下为翻译全文: