【译文】OpenAI声称计划自研AI芯片

简介: OpenAI said to be considering developing its own AI chips

image.png

原文地址:https://techcrunch.com/2023/10/06/openai-said-to-be-considering-developing-its-own-ai-chips

OpenAI, one of the best-funded AI startups in business, is exploring making its own AI chips.

OpenAI,作为商业领域资金充裕的最佳人工智能初创公司之一,正在考虑开发自己的AI芯片。

Discussions of AI chip strategies within the company have been ongoing since at least last year, according to Reuters, as the shortage of chips to train AI models worsens. OpenAI is reportedly considering a number of strategies to advance its chip ambitions, including acquiring an AI chip manufacturer or mounting an effort to design chips internally.

据路透社报道,至少自去年开始,OpenAI公司内部一直在讨论AI芯片战略,因为用于训练AI模型的芯片短缺情况加剧。OpenAI据称正在考虑多种策略来推进其芯片计划,包括收购AI芯片制造商或着手内部芯片设计的工作,以满足其雄心壮志。

OpenAI CEO Sam Altman has made the acquisition of more AI chips a top priority for the company, Reuters reports.

据路透社报道,OpenAI的CEO萨姆·奥尔特曼已将获取更多AI芯片置于公司的首要任务之中。

Currently, OpenAI, like most of its competitors, relies on GPU-based hardware to develop models such as ChatGPT, GPT-4 and DALL-E 3. GPUs’ ability to perform many computations in parallel make them well-suited to training today’s most capable AI.

目前,OpenAI像其大多数竞争对手一样,依赖基于GPU的硬件来开发模型,例如ChatGPT、GPT-4和DALL-E 3。GPU的并行计算能力使它们非常适合训练当今最先进的人工智能模型。

But the generative AI boom — a windfall for GPU makers like Nvidia — has massively strained the GPU supply chain. Microsoft is facing a shortage of the server hardware needed to run AI so severe that it might lead to service disruptions, the company warned in a summer earnings report. And Nvidia’s best-performing AI chips are reportedly sold out until 2024.

但是,生成式人工智能的蓬勃发展已经极大地压紧了GPU供应链,对于像Nvidia这样的GPU制造商来说,这是一笔巨大的财富。微软在夏季财报中警告称,他们正面临严重的服务器硬件短缺问题,可能导致服务中断。而据报道,Nvidia最高性能的AI芯片已售罄,直到2024年。

GPUs are also essential for running and serving OpenAI’s models; the company relies on clusters of GPUs in the cloud to perform customers’ workloads. But they come at a sky-high cost.

GPU对于运行和提供OpenAI的模型至关重要;该公司依赖云中的GPU集群来处理客户的工作负载。但这也伴随着极高的成本。

An analysis from Bernstein analyst Stacy Rasgon found that if ChatGPT queries grew to a tenth the scale of Google Search, it’d require roughly $48.1 billion worth of GPUs initially and about $16 billion worth of chips a year to keep operational.

来自伯恩斯坦分析师斯泰西·拉斯冈的分析发现,如果ChatGPT的查询规模增长到谷歌搜索的十分之一,就需要大约480.1亿美元的GPU初始投资以及每年约160亿美元的芯片运营费用。

OpenAI wouldn’t be the first to pursue creating its own AI chips.

OpenAI并非首家追求自主研发AI芯片的公司。

Google has a processor, the TPU (short for “tensor processing unit”), to train large generative AI systems like PaLM-2 and Imagen. Amazon offers proprietary chips to AWS customers both for training (Trainium) and inferencing (Inferentia). And Microsoft, reportedly, is working with AMD to develop an in-house AI chip called Athena, which OpenAI is said to be testing.

谷歌拥有一款处理器,名为TPU(缩写为“张量处理单元”),用于训练大规模生成式AI系统,如PaLM-2和Imagen。亚马逊为AWS客户提供专有芯片,用于训练(Trainium)和推理(Inferentia)。而据报道,微软正在与AMD合作开发一款名为Athena的内部AI芯片,OpenAI据称正在进行测试。

Certainly, OpenAI is in a strong position to invest heavily in R&D. The company, which has raised more than $11 billion in venture capital, is nearing $1 billion in annual revenue. And it’s considering a share sale that could see its secondary-market valuation soar to $90 billion, according to a recent Wall Street Journal report.

当然,OpenAI有充分的资金来大力投资研发(研究与开发)。这家公司已经获得了超过110亿美元的风险投资,年度收入接近10亿美元。根据最近的《华尔街日报》报道,该公司正考虑进行股权出售,这可能会使其在二级市场的估值飙升至900亿美元。

But hardware is an unforgiving business — particularly AI chips.

但硬件是一个不容忽视的领域,特别是在AI芯片方面。

Last year, AI chipmaker Graphcore, which allegedly had its valuation slashed by $1 billion after a deal with Microsoft fell through, said that it was planning to job cuts due to the “extremely challenging” macroeconomic environment. (The situation grew more dire over the past few months as Graphcore reported falling revenue and increased losses.) Meanwhile, Habana Labs, the Intel-owned AI chip company, laid off an estimated 10% of its workforce. And Meta’s custom AI chip efforts have been beset with issues, leading the company to scrap some its experimental hardware.

去年,据称与微软的交易未能达成导致估值下调了10亿美元的AI芯片制造商Graphcore表示,由于“极具挑战的”宏观经济环境,他们计划进行员工裁减。在过去几个月里,Graphcore报告了营收下滑和亏损增加的情况,局势变得更加严峻。与此同时,英特尔旗下的AI芯片公司Habana Labs裁减了估计10%的员工。而Meta(前Facebook)的自有AI芯片项目也遇到了一些问题,导致该公司取消了一些实验性的硬件项目。

Even if OpenAI commits to bringing a custom chip to market, such an effort could take years and cost hundreds of millions of dollars annually. It remains to be seen if the startup’s investors, one of which is Microsoft, have the appetite for such a risky bet.

即使OpenAI决定推出自家的芯片,这样的努力可能需要数年时间,并且每年成本可能高达数亿美元。目前尚不清楚这家初创公司的投资者,其中之一是微软,是否愿意承担这样高风险的赌注。

相关实践学习
在云上部署ChatGLM2-6B大模型(GPU版)
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验,可以学习如何配置AIGC开发环境,如何部署ChatGLM2-6B大模型。
目录
相关文章
|
4月前
|
人工智能 Cloud Native Java
书本大纲:从芯片、分布式到云计算AI时代
本文深入探讨并发编程、JVM原理、RPC框架、高并发系统、分布式架构及云原生技术,涵盖内存模型、同步机制、垃圾回收、网络协议、存储优化、弹性伸缩等核心议题,揭示多线程运行逻辑与高并发实现路径,助你掌握现代软件底层原理与工程实践。
180 7
|
8月前
|
人工智能 测试技术 API
PaperBench:OpenAI开源AI智能体评测基准,8316节点精准考核复现能力
PaperBench是OpenAI推出的开源评测框架,通过8316个评分节点系统评估AI智能体复现学术论文的能力,涵盖理论理解、代码实现到实验执行全流程。
571 30
PaperBench:OpenAI开源AI智能体评测基准,8316节点精准考核复现能力
|
7月前
|
人工智能 自然语言处理 安全
💻 Codex 来了:OpenAI 推出多任务软件工程 AI 代理,开发者工作方式将被重塑?
Codex 是 OpenAI 推出的一款云端智能开发代理,基于优化后的 Codex-1 模型,能够执行从代码编写、Bug 修复到 PR 提交的完整工程任务。通过 ChatGPT 的界面,用户可向 Codex 分配任务,它将在独立沙盒中运行并返回结果。Codex 支持多任务异步处理,遵循项目规范(AGENTS.md),并生成日志与测试报告以确保透明性。作为“AI 参与式开发”的里程碑,Codex 不仅提升效率,还可能重塑开发者角色,使他们从具体编码转向指导 AI 完成任务,推动软件工程进入意图驱动的新时代。
648 16
|
8月前
|
人工智能 搜索推荐 开发者
GPT-4o测评准确率竟不到1%!BrowseComp:OpenAI开源AI代理评测新基准,1266道高难度网络检索问题
OpenAI最新开源的BrowseComp基准包含1266个高难度网络检索问题,覆盖影视、科技、艺术等九大领域,其最新Deep Research模型以51.5%准确率展现复杂信息整合能力,为AI代理的浏览能力评估建立新标准。
592 4
GPT-4o测评准确率竟不到1%!BrowseComp:OpenAI开源AI代理评测新基准,1266道高难度网络检索问题
|
8月前
|
人工智能 自然语言处理 测试技术
自然语言生成代码一键搞定!Codex CLI:OpenAI开源终端AI编程助手,代码重构+测试全自动
Codex CLI是OpenAI推出的轻量级AI编程智能体,基于自然语言指令帮助开发者高效生成代码、执行文件操作和进行版本控制,支持代码生成、重构、测试及数据库迁移等功能。
1661 0
自然语言生成代码一键搞定!Codex CLI:OpenAI开源终端AI编程助手,代码重构+测试全自动
|
9月前
|
Web App开发 人工智能 JavaScript
Nanobrowser:开源版OpenAI Operator!AI自动操控浏览器,复杂网页任务一键搞定
Nanobrowser 是一款开源的 Chrome 扩展工具,基于多智能体系统实现复杂的网页任务自动化,支持多种大型语言模型,完全免费且注重隐私保护。
1338 1
|
10月前
|
人工智能
D1net阅闻 | OpenAI进军虚拟助手领域 AI智能体加速迈入商业化阶段
D1net阅闻 | OpenAI进军虚拟助手领域 AI智能体加速迈入商业化阶段
|
10月前
|
人工智能 算法 机器人
D1net阅闻|OpenAI CEO奥尔特曼:预计第一批AI智能体今年“加入劳动力大军”
D1net阅闻|OpenAI CEO奥尔特曼:预计第一批AI智能体今年“加入劳动力大军”
|
Go 开发工具
百炼-千问模型通过openai接口构建assistant 等 go语言
由于阿里百炼平台通义千问大模型没有完善的go语言兼容openapi示例,并且官方答复assistant是不兼容openapi sdk的。 实际使用中发现是能够支持的,所以自己写了一个demo test示例,给大家做一个参考。
|
9月前
|
机器学习/深度学习 人工智能 开发者
GPT-4o-mini-transcribe:OpenAI 推出实时语音秒转文本模型!高性价比每分钟0.003美元
GPT-4o-mini-transcribe 是 OpenAI 推出的语音转文本模型,基于 GPT-4o-mini 架构,采用知识蒸馏技术,适合在资源受限的设备上运行,具有高效、实时和高性价比的特点。
508 2
GPT-4o-mini-transcribe:OpenAI 推出实时语音秒转文本模型!高性价比每分钟0.003美元