人工智能的下一个黄金机会可能不是更智能的模型,而是更快的模型。主持人 Ejaaz Ahamadeen 深入剖析了 Nvidia、Cerebras 和华尔街公司之间的竞赛,将毫秒化为数百万秒。
华尔街有一家贸易公司目前支付数亿美元来获得这种非常特殊的人工智能芯片。创造这款 AI 芯片的公司名为 Cerebrous,他们今年早些时候刚刚进行了最大的 AI IPO 之一,单日融资约 60 亿美元。 OpenAI 承诺在未来几年内进行价值 200 亿美元的收购。那么问题是,为什么自 IPO 以来股价下跌了 50%?上周,有传言称 OpenAI 已停止在其新的超高级快速模式中使用 Cerebrous 芯片,而是选择 Nvidia 芯片,股价又下跌了 20%。老实说,看起来公司的事情已经彻底结束了。所以我决定自己深入研究这一切。我意识到更快、更快的人工智能模型的市场机会绝对是巨大的。事实上,Jane Street 本身每年使用的每兆瓦脑芯片计算就能赚取 2 亿美元的收入,这绝对是疯狂的。但这不仅仅是华尔街,这是有充分理由的。贸易公司以及任何其他财富 500 强公司都希望获得能够提供更快推理的芯片。
这不是关于 cerebrous 的一集,我自己没有任何 cerebrus,但这是一集关于为什么更快的推理对于人工智能来说是一个非常有利可图的市场,我们将以 Cerebrous 为例。所有这些以及更多内容都在今天由 Qualcomm 为您带来的 In the Loop 节目中。现在,在我们开始讨论之前,先简单介绍一下 Cerebrous 是什么。他们基本上是一家生产餐盘大小的人工智能芯片的公司。我不是在开玩笑,我以前拿过其中一个东西,它就像是。它很大,看起来很荒谬,它由数以百万计的微型晶体管组成,允许人工智能模型运行和发挥作用。现在,最好的对比是 Nvidia GPU。我们都听说过 Nvidia,我们都见过这些大型数据中心。但单个 GPU 的大小相似,可以将它们堆叠在一起。现在,将智能 AI 芯片与标准 Nvidia GPU 进行比较的最佳方法是。Nvidia GPU 可以被视为公共交通巴士。它很大,可以搭载很多人,很便宜,也很可靠,但是在 A 点和目的地 B 之间有很多站点。它的重点是运送尽可能多的人
可以可靠且便宜地从 A 点到 B 点,这很好。不过,当你将它与严肃的 AI 芯片进行比较时,它更像是一辆老式的、非常快的跑车。它很贵,它最多只能容纳 1 或 2 人,但它可以让你很快地从 A 点到 B 点,但它确实相当昂贵。因此,您可能会想,好吧,我会使用哪一项业务或为什么要使用其他业务?她。嗯,Nvidia 通常是可靠的,他们占据了整个芯片市场的 80% 到 85% 左右。Nvidia 和 Jensen Huang 已经在整个市场上牢牢占据了一段时间,早在人工智能出现之前。但是,对更快推理的需求,或者更确切地说,人工智能模型更快地响应您的需求,可以适用于许多非常具体的用例。例如,最明显的一个是金融交易。如果您是 Jane Street 或者如果您是 Jane Street 的竞争对手,那么您希望获得能够为您可能尽快进行的特定交易提供信息的信息。因此,如果您可以在基础设施层面构建一个模型,基本上可以为您提供比竞争对手快几毫秒甚至几秒的响应速度,那么您就可以进行一项交易,使您相对于其他公司具有优势。现在这非常注重财务,但你可以想象将其应用到人工智能触及的任何事物上。好吧,让我们进入上周的戏剧性事件。对于这支头脑清醒的股票来说,最终变成了一场绝对混乱的噩梦。 Semi-analysis 发表了这篇文章。现在 Semi-analysis 是一家非常有信誉的研究公司,他们有这个
一种付费内容集。他们非常深入地研究半导体和芯片分析。他们的一项订阅费用每年高达数千美元。英伟达付给他们很多钱来获取这些信息。他们用这些信息来为他们自己制造的芯片做出决定。所以,非常有信誉的公司。现在,他们在上周的开发日睁开眼睛后发布了您现在在屏幕前看到的内容。现在他们有一个开发日,他们宣布了一系列不同的产品,20 多种产品,我们有一集是关于这个的,一定要去看看。但他们的公告之一是关于这种称为超快或超模式的新模式,我不记得了。记住名字。但这个想法是你每月支付 500 美元,这是一笔敲诈性的钱。并且你可以极快的速度访问GPT的最新模型,这意味着只要你点击进入,结果就在你的面前。现在,如果您只是输入随意的提示并尝试像 Google 搜索一样获得答案,那么您可能对此不感兴趣。但想象一下,如果您是一名软件工程师。想象一下,如果您是一名金融交易员,
想象一下,如果您使用它来建立一个完全不同的业务,旨在在广阔的世界中竞争。您可以点击输入并在几毫秒内完成成品。这使您可以更快地进行迭代和构建,因此这是一个优势。所以人们对此非常兴奋,他们认为 Open Air 在幕后使用了大脑芯片。有一个他们这么认为的原因很少。大约六个月前,他们宣布了他们的第一个版本的 cerebrous 动力模型,我认为它是 GPT 5.6,我不记得了,但它每秒吐出 750 个代币,这对于上下文来说绝对是疯狂的。您可以在不到一秒的时间内创建一个完整的网站,只需按一下 Enter,它就会立即出现在屏幕上,就像魔术一样出现在您面前。因此,在上周的开发日,他们发布了适用于 GPT 6.1 Astra 的新版本,这是他们的全新模型。所以每个人都说,好吧,这太疯狂了,这太棒了。 Cerebrus 显然很强大。这一点,除了这篇文章通过大量分析表明 OpenAir 没有使用 cerebrus 芯片。他们选择了 Nvidia 芯片。现在,你必须明白,如果你是一家人工智能芯片公司,特别是与 Cerebrous 这样的小公司相比,与价值约 5.7 万亿美元的大巨头 Nvidia 相比。01 是当今最大、最有价值的公司。你需要有一个独特的销售主张,而 Cerebrus 的整个愿景是,我们不会制造比 Nvidia 更好的通用芯片,但我们将制造更快的芯片,最快的芯片。可能会很贵,
但这将是您将用于高价值工作的一个。 OpenAI 使用 Nvidia 的事实非常令人担忧,这导致了一场疯狂的股票午餐。让我给你看一下这张图表。好吧,好吧,今天上涨了 10%,稍后我会解释这一点。但如果你看看最近一个月甚至最近 6 个月,就会发现下降了 50%。太痛苦了。因此,上周我们看到了一次巨大的抛售,我认为价格达到了 150 美元左右,这对很多人来说都是沉重的打击。老实说,这是一个相当糟糕的时机,因为他们对那些很早就投资该公司的人的第一次重大解锁也解锁了,而且据透露,不仅首席执行官和首席财务官出售了一堆股票,而且首席运营官在这条消息发布之前也出售了价值 8000 万美元的股票。因此,公众对所有这些消息的反应是可以理解的,他们认为,好吧,Cerebrus 完了。他们没有未来了。请记住,在 IPO 日结束时,该股票的价值为 330 美元,然后我想是上周三或周四,该股票的价值接近 150 美元。但后来 OpenAI 首席执行官 Sam Altman 的一条推文让事情发生了变化。他走了,听着,有一些