谷歌 “我们没有护城河,OpenAI 也没有”
以下文本是最近泄露的一份文件,该文件由一个匿名个人在公共Discord服务器上共享,他已获得重新发布许可。它起源于谷歌内部的一位研究人员。
我们没有护城河
而且 OpenAI 也不是
我们在 OpenAI 上做了很多精彩的研究。谁将跨越下一个里程碑?下一步将是什么?
但令人不安的事实是,我们没有能力赢得这场军备竞赛,OpenAI也不是。当我们争吵时,第三个派系一直在悄悄地吃我们的午餐。
当然,我说的是开源。说白了,他们在打我们。如今,我们认为 “重大悬而未决的问题” 已经解决并掌握在人们手中。仅举几例:
-手机上的 LLM:人们在 Pixel 6 上以每秒 5 个代币的速度运行基础模型。
-可扩展的个人人工智能:你可以在晚上在笔记本电脑上微调个性化的人工智能。
-负责任的释放:这个问题与其说是 “已解决”,不如说是 “避免”。整个网站都充斥着艺术模型,没有任何限制,文字也紧随其后。
-多模态:当前的多模态 ScienceQA SOTA 在一小时内完成了培训。
尽管我们的模型在质量方面仍然略有优势,但差距正在以惊人的速度缩小。开源模型更快、更可定制、更私密,功能更强大。他们正在用1000万美元和130亿美元的参数做事,而在1000万美元和5400亿美元上,我们很难应付。而且他们是在几周而不是几个月内完成的。这对我们有深远的影响:
-我们没有秘密调味料。我们最大的希望是学习谷歌以外其他人的所作所为并与之合作。我们应该优先启用 3P 集成。
-当免费、不受限制的替代产品质量相似时,人们无需为受限型号付费。我们应该考虑我们的增值到底在哪里。
-巨型模型正在减慢我们的速度。从长远来看,最好的模型是那些可以快速迭代的模型。既然我们知道在 <20B 的参数范围内可能发生什么,那么我们应该做一些小变体,而不是事后才想到的。
而且 OpenAI 也不是
我们在 OpenAI 上做了很多精彩的研究。谁将跨越下一个里程碑?下一步将是什么?
但令人不安的事实是,我们没有能力赢得这场军备竞赛,OpenAI也不是。当我们争吵时,第三个派系一直在悄悄地吃我们的午餐。
当然,我说的是开源。说白了,他们在打我们。如今,我们认为 “重大悬而未决的问题” 已经解决并掌握在人们手中。仅举几例:
-手机上的 LLM:人们在 Pixel 6 上以每秒 5 个代币的速度运行基础模型。
-可扩展的个人人工智能:你可以在晚上在笔记本电脑上微调个性化的人工智能。
-负责任的释放:这个问题与其说是 “已解决”,不如说是 “避免”。整个网站都充斥着艺术模型,没有任何限制,文字也紧随其后。
-多模态:当前的多模态 ScienceQA SOTA 在一小时内完成了培训。
尽管我们的模型在质量方面仍然略有优势,但差距正在以惊人的速度缩小。开源模型更快、更可定制、更私密,功能更强大。他们正在用1000万美元和130亿美元的参数做事,而在1000万美元和5400亿美元上,我们很难应付。而且他们是在几周而不是几个月内完成的。这对我们有深远的影响:
-我们没有秘密调味料。我们最大的希望是学习谷歌以外其他人的所作所为并与之合作。我们应该优先启用 3P 集成。
-当免费、不受限制的替代产品质量相似时,人们无需为受限型号付费。我们应该考虑我们的增值到底在哪里。
-巨型模型正在减慢我们的速度。从长远来看,最好的模型是那些可以快速迭代的模型。既然我们知道在 <20B 的参数范围内可能发生什么,那么我们应该做一些小变体,而不是事后才想到的。
![谷歌 “我们没有护城河,OpenAI 也没有”](https://ussnsimg.moomoo.com/feed_image/70042970/06cf1a8ec89234a880e926d91f0aca6a.png/bigmoo)
![谷歌 “我们没有护城河,OpenAI 也没有”](https://ussnsimg.moomoo.com/feed_image/70042970/00131f2f284130f0ba0a0fb01b523c6b.png/bigmoo)
![谷歌 “我们没有护城河,OpenAI 也没有”](https://ussnsimg.moomoo.com/feed_image/70042970/6f41f602a27f305fb95d162e51ee7df6.png/bigmoo)
![谷歌 “我们没有护城河,OpenAI 也没有”](https://ussnsimg.moomoo.com/feed_image/70042970/c61ee94b0ff131a98502d064b1ebd927.png/bigmoo)
免责声明:社区由Moomoo Technologies Inc.提供,仅用于教育目的。
更多信息
评论
登录发表评论
DannyChao : 美女