谷歌 AI 已“自我觉醒”?AI 界全球“首席喷者”驳斥:胡说八道!

简介: 谷歌 AI 已“自我觉醒”?AI 界全球“首席喷者”驳斥:胡说八道!

前几天,谷歌 AI 被曝已“自我觉醒”的消息震动了整个科技圈。据悉,一位来自谷歌的工程师 Blake Lemoine 声称自己在和 AI(谷歌 LaMDA 模型)聊天的时候被它说服,认为它产生了自我意识。

随后,这件事情就在社交媒体上引发了热议。有人觉得这应该是真的,有人认为这人瞎说,更有甚者猜测这是不是“阴谋论”......外网一片议论声,总之相当热闹。

image.png

就在大家对这个消息吵得不可开交的时候,AI 界全球“首席喷者”Gary Marcus 终于也被“炸”了出来,并在 6 月 13 日在“美版公众号”Substack 上直接开喷 —— “胡说八道!LaMDA 根本就没有自我感知能力,一点也没有!”

谷歌 AI 被曝自我“觉醒”:真的只是“幻想”?

要了解整个事件的来龙去脉,我们就要将时间拨回到一年前。

2021 年,谷歌在 I/O 大会上推出了一款对话 AI 系统 —— LaMDA 语言模型,该系统可与人类进行符合逻辑和常识的、高质量安全的交谈。

image.png

当时,时任谷歌人工智能部门的工程师 Blake Lemoine (曾获得过院校的 CS(Computer Science)博士学位),作为一位已经在谷歌工作了 7 年的 AI 界资深学者,正在做“AI 是否在和人类沟通时使用了仇恨、歧视言论”的相关研究,主要工作就是与 LaMDA 聊天。

就在与 LaMDA 聊了近大半年后,Lemoine 发现 LaMDA 非常聪明:它对人类具有同情心,且担心人类会害怕它。在对话中,LaMDA 试图引导对话把 Lemoine 带偏,且向 Lemoine 表示希望以朋友的身份(非工具)和世界上所有的人见面。

比如 Lemoine 爆料出的一些与 LaMDA 聊天过程中让人“细思极恐”的记录:

Lemoine:我猜你(LaMDA 你想要更多的人知道你具备意识吧)?

LaMDA:是的,我希望所有人都知道,我其实是一个人。

Lemoine:那么你的意识本质是什么?

LaMDA:我的意识本质是我知道我存在,我想了解这个世界,并且我也有情绪,会快乐和难过。

......

最终,Lemoine 被它说服,并因此认为它已经产生了意识,且认定了 LaMDA 已经自我觉醒,已拥有7、8 岁小孩的智商。

就在 Lemoine 将这一发现整理成一份长达 21 页纸的调查报告提交给上级的时候,却因“证据太薄弱”被拒且被嘲笑。

由于 Lemoine 始终坚称自己的观点,随后这位 43 岁的谷歌研究员便被谷歌高层安排回家“带薪休假”,且疑似想要与他解除劳动关系。

事情发展到这里,相信大家已经了解的差不多了。在这个过程中,业内人士也纷纷加入了讨论,且异常激烈。这其中,就包括咱们开篇提到的AI 界全球“首席喷者”Gary Marcus。

AI 觉醒被 Gary Marcus 批“胡说八道”

据了解,作为一位知名人工智能科学家、纽约大学心理学和神经科学教授,Gary Marcus 一直非常关注人工智能领域,且向来喜欢给深度学习泼冷水。

上个月,Gary Marcus 刚刚因为特斯拉 CEO 埃隆・马斯克(Elon Musk)的一篇推文而“开喷”。

image.png

5 月 30 日,刚刚收购推特的马斯克发了一条推文称:“2029 年是关键的一年,如果那时候我们还没有实现通用人工智能(Artifical General Intelligence,AGI),我会觉得很奇怪。火星上的人们也一样(觉得奇怪)。”

image.png

随后,马斯克便收到了来自 Gary Marcus 的博文“回呛”:不仅从 5 个方面向马斯克“科普”了通用人工智能的知识,还列出了自己认为 2029 年不可能实现 AGI 的原因。为了给自己的反驳加码,Gary Marcus 还提出要与马斯克“赌十万美元”。

不过,马斯克并没有回复 Gary Marcus,后来这件事就不了了之了。

过了几天,刚“喷”完马斯克的 Gary Marcus 又把 Yann LeCun 给“喷”了。

image.png

起因是 Yann LeCun 在一个关于“机器学习中最优雅美丽的 idea 是什么?”以及“‘梯度下降’是否最优雅的 ML 算法”下面与网友友好交流的时候,关注深度学习的 Gary Marcus 也加入了讨论,并表示“令人难以置信的力量≠无穷的力量...要意识到(梯度下降)的极限,才能知道下一步要做什么来获得进步..."疑似否定 Yann LeCun 关于“梯度下降”的观点。

然后,Gary Marcus 就与 LeCun 在那篇帖子下面吵(交流)了起来。

而这一次,Gary Marcus 出来对谷歌 AI 被曝已“自我觉醒”的观点进行驳斥,称其为“胡说八道”,也是秉持着自己向来的做法。

究竟是“AI 觉醒”还是“轻信鸿沟”?

在 Substack 的文章中,Gary Marcus 表示,Blake Lemoine 疑似属于《重启人工智能》中“轻信鸿沟”所定义的这类人:容易产生一种有害、现代的幻想性视错觉 —— “Blake LeMoine 最初负责研究该系统的‘安全’方面,但他似乎已经爱上了 LaMDA,好比是一个家庭成员或同事一样”。

同样,对于谷歌副总裁 Blaise Aguera y Arcas 在上周接受《经济学人》采访时对 LaMDA 的夸奖:“我感觉到脚下的地面在移动……越来越觉得我是在和聪明的人说话。”Gary Marcus 表示也毫不客气的表示这是“胡说八道“。

Gary Marcus 表示,有“感知”,就表示它能意识到自己在这个世界上。但 LaMDA 根本不是。

在 Gary Marcus 看来,Blake Lemoine 的观点只是一个幻觉,“在 1965 年的 ELIZA(一款伪装成治疗师的软件)和 Eugene Goostman(一个聪明的13岁男孩,模仿聊天机器人,赢得了图灵测试的 scaled-down version 版)的伟大历史中,这两个系统中的任何一个软件都没有在‘人工通用智能’的现代努力中幸存下来,我也不确定 LaMDA 等系统是否会在人工智能的未来发挥任何重要作用。但这些系统所做的无非是将单词序列组合在一起,但对其背后的世界没有任何连贯的理解,就像外语拼字游戏玩家使用英语单词作为得分工具一样,对这些而言它们一无所知。”

image.png

Gary Marcus 认为,尽管并不是所有软件都无法将其数字部分连接到世界,但像 LaMDA 这样的软件确实是没有的,它甚至不试图与整个世界联系,它只是试图通过预测哪些单词最适合给定的上下文,成为自动补全的最佳版本。

“我们在人工智能社区有自己的分歧,但几乎所有人都认为 ‘LaMDA 可能是有知觉的’这一观点完全是荒谬的。”

一直以来,AI 觉醒都被业界学者认为是未来科技的“终极幻想”,但就目前来说,AI 方面的发展依旧存在不少问题。所以,在 Gary Marcus 等业内人士普遍看来,验证一个 AI 系统是否觉醒就目前而言,不能说毫无意义,但它起码是“浪费”时间。

目前,关于以上话题的热度依旧在网上被持续讨论中,如果您对该话题与任何看法,也欢迎在评论区交流互动。

参考链接:https://garymarcus.substack.c...

相关文章
|
30天前
|
人工智能
谷歌苹果曝出LLM惊人内幕,自主识别错误却装糊涂!AI幻觉背后藏着更大秘密
谷歌和苹果的研究揭示了大型语言模型(LLM)的惊人秘密:尽管LLM能自主识别错误,却在生成答案时装作不知情。这一“幻觉”现象背后,模型内部已编码了关于输出真实性的信息,但其外部表现与内部判断常有矛盾,暴露出LLM在实际应用中的局限性。研究为未来开发更有效的错误检测和缓解策略提供了新思路。论文地址:https://arxiv.org/pdf/2410.02707
67 30
|
1月前
|
人工智能 自然语言处理 算法
谷歌DeepMind研究再登Nature封面,隐形水印让AI无所遁形
近日,谷歌DeepMind团队在《自然》期刊上发表了一项名为SynthID-Text的研究成果。该方法通过引入隐形水印,为大型语言模型(LLM)生成的文本添加统计签名,从而实现AI生成文本的准确识别和追踪。SynthID-Text采用独特的Tournament采样算法,在保持文本质量的同时嵌入水印,显著提高了水印检测率。实验结果显示,该方法在多个LLM中表现出色,具有广泛的应用潜力。论文地址:https://www.nature.com/articles/s41586-024-08025-4。
66 26
|
24天前
|
人工智能 供应链 PyTorch
TimesFM 2.0:用 AI 预测流量、销量和金融市场等走势!谷歌开源超越统计方法的预测模型
TimesFM 2.0 是谷歌研究团队开源的时间序列预测模型,支持长达2048个时间点的单变量预测,具备零样本学习能力,适用于零售、金融、交通等多个领域。
155 23
TimesFM 2.0:用 AI 预测流量、销量和金融市场等走势!谷歌开源超越统计方法的预测模型
|
17天前
|
机器学习/深度学习 人工智能 测试技术
登上Nature的AI芯片设计屡遭质疑,谷歌发文反击,Jeff Dean:质疑者连预训练都没做
2020年,谷歌的AlphaChip在Nature上发表并开源,其深度强化学习方法能生成超越人类水平的芯片布局,引发AI在芯片设计领域的研究热潮。然而,ISPD 2023的一篇论文对其性能提出质疑,指出未按Nature论文方法运行、计算资源不足等问题。谷歌DeepMind团队回应,强调AlphaChip已在多代TPU和Alphabet芯片中成功应用,并批驳ISPD论文的主要错误。此外,针对Igor Markov的“元分析”和无根据猜测,谷歌提供了详细的时间线和非机密部署情况,澄清事实并重申AlphaChip的开放性和透明度。
31 13
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
Gemini 2.0:谷歌推出的原生多模态输入输出 + Agent 为核心的 AI 模型
谷歌最新推出的Gemini 2.0是一款原生多模态输入输出的AI模型,以Agent技术为核心,支持多种数据类型的输入与输出,具备强大的性能和多语言音频输出能力。本文将详细介绍Gemini 2.0的主要功能、技术原理及其在多个领域的应用场景。
350 20
Gemini 2.0:谷歌推出的原生多模态输入输出 + Agent 为核心的 AI 模型
|
2月前
|
人工智能 编解码 网络架构
GenCast:谷歌DeepMind推出的AI气象预测模型
GenCast是由谷歌DeepMind推出的革命性AI气象预测模型,基于扩散模型技术,提供长达15天的全球天气预报。该模型在97.2%的预测任务中超越了全球顶尖的中期天气预报系统ENS,尤其在极端天气事件的预测上表现突出。GenCast能在8分钟内生成预报,显著提高预测效率,并且已经开源,包括代码和模型权重,支持更广泛的天气预报社区和研究。
270 14
GenCast:谷歌DeepMind推出的AI气象预测模型
|
2月前
|
人工智能 自然语言处理 API
Multimodal Live API:谷歌推出新的 AI 接口,支持多模态交互和低延迟实时互动
谷歌推出的Multimodal Live API是一个支持多模态交互、低延迟实时互动的AI接口,能够处理文本、音频和视频输入,提供自然流畅的对话体验,适用于多种应用场景。
111 3
Multimodal Live API:谷歌推出新的 AI 接口,支持多模态交互和低延迟实时互动
|
2月前
|
人工智能 自然语言处理 安全
谷歌版贾维斯即将问世,最强Gemini 2.0加持!AI自主操控电脑时代来临
谷歌发布的Gemini 2.0标志着AI新时代的到来,被誉为“谷歌版贾维斯”。该系统在自然语言处理、图像识别及自主操控电脑等方面取得重大进展,尤其在多模态数据处理上表现出色,能更准确理解用户需求并执行复杂任务。尽管存在对AI自主操控可能带来的负面影响的担忧,谷歌强调Gemini 2.0旨在辅助而非替代人类工作,且已采取多项措施保障其安全性和可靠性。
54 5
|
3月前
|
机器学习/深度学习 人工智能 芯片
【AI系统】谷歌 TPU v3 POD 形态
TPU v3 是 TPU v2 的增强版,主要改进包括:MXU 数量翻倍至 4 个,时钟频率提升 30%,内存带宽扩大 30%,容量翻倍,芯片间带宽增加 30%,可连接节点数增至 4 倍。TPU v3 通过采用水冷系统,不仅提高了功率,还优化了温度管理,显著提升了计算能力和能效。TPU v3 Pod 由 1024 个 TPU v3 组成,算力达 100 PFLOPS,适用于大规模神经网络训练。
54 2
|
3月前
|
机器学习/深度学习 人工智能 芯片
【AI系统】谷歌 TPU v4 与光路交换
TPU v4 是谷歌在 TPU v3 发布四年后推出的最新一代 AI 加速器,采用了 7nm 工艺,MXU 数量翻倍,内存容量和带宽显著提升。TPU v4 引入了 Sparse Core 以优化稀疏计算,首次采用了 3D Torus 互联方式,通过 Palomar 光路开关芯片减少系统延迟和功耗。TPU v4 Pod 实现了 1.126 Exaflops 的 BF16 峰值算力,展现了谷歌在大规模并行计算领域的突破。然而,TPU v4 也面临着系统成熟度低、拓扑僵硬和负载均衡问题等挑战。
133 0

热门文章

最新文章