开发者社区物联网文章正文

LLM大模型最新消息2025.01

2025-01-26 46

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 本文介绍了多个大模型训练和部署工具及教程。使用unsloth支持llama3，显存占用约8G；GPT4ALL加载训练好的大模型；llama.cpp进行4bit量化后可用CPU运行。MAID手机App和MLC软件可在安卓设备上本地运行大模型或调用API。FASTGPT用于客制化大模型和AI私有化客服。相关教程链接已提供。

参考教程：

https://www.bilibili.com/video/BV1kC411n7hD

使用 unsloth，支持llama3

占用显存大概8G

使用GPT4ALL加载训练好的大模型

https://gpt4all.io/index.html

llama.cpp进行4bit量化，量化后的大模型可以用CPU跑

参考教程：https://www.bilibili.com/video/BV1G7tQehEBE

MAID手机app，可以在安卓上本地跑大模型，或者调用家里台式机的ollama接口api，也可以调用收费的api

MLC这个软件也可以实现，看起来也挺好用的。https://www.bilibili.com/video/BV1QZ421N7Yt/

FASTGPT客制化大模型，AI私有化客服： https://blog.csdn.net/pythonhy/article/details/143480847

文章标签：

API

Android开发

人工智能

关键词：

LLM大模型

蓝色流星1000

想飞的雪糕

3月前

前端开发机器人 API

前端大模型入门（一）：用 js+langchain 构建基于 LLM 的应用

本文介绍了大语言模型（LLM）的HTTP API流式调用机制及其在前端的实现方法。通过流式调用，服务器可以逐步发送生成的文本内容，前端则实时处理并展示这些数据块，从而提升用户体验和实时性。文章详细讲解了如何使用`fetch`发起流式请求、处理响应流数据、逐步更新界面、处理中断和错误，以及优化用户交互。流式调用特别适用于聊天机器人、搜索建议等应用场景，能够显著减少用户的等待时间，增强交互性。

想飞的雪糕

856 2 2

TsingtaoAI

3月前

机器学习/深度学习人工智能运维

企业内训｜LLM大模型在服务器和IT网络运维中的应用-某日企IT运维部门

本课程是为某在华日资企业集团的IT运维部门专门定制开发的企业培训课程，本课程旨在深入探讨大型语言模型（LLM）在服务器及IT网络运维中的应用，结合当前技术趋势与行业需求，帮助学员掌握LLM如何为运维工作赋能。通过系统的理论讲解与实践操作，学员将了解LLM的基本知识、模型架构及其在实际运维场景中的应用，如日志分析、故障诊断、网络安全与性能优化等。

TsingtaoAI

117 2 2

楠竹11

6天前

自然语言处理

Nature:人类亲吻难题彻底难倒LLM，所有大模型全部失败！LLM根本不会推理，只是工具

近期，《自然》杂志发表的研究显示，所有大型语言模型（LLM）在解释特定情境下人类亲吻行为时均失败。尽管LLM在语言处理和文本生成上表现出色，但在理解和推理复杂人类行为方面存在显著限制，表明其缺乏对人类情感、社会及文化背景的深入理解。专家认为LLM更像是工具而非智能体，虽在客户服务、内容创作等领域有价值，但在复杂推理和理解方面仍显不足。

楠竹11

62 37 37

不游泳的鱼鱼

3月前

机器学习/深度学习数据采集人工智能

文档智能 & RAG 让AI大模型更懂业务 —— 阿里云LLM知识库解决方案评测

随着数字化转型的深入，企业对文档管理和知识提取的需求日益增长。阿里云推出的文档智能 & RAG（Retrieval-Augmented Generation）解决方案，通过高效的内容清洗、向量化处理、精准的问答召回和灵活的Prompt设计，帮助企业构建强大的LLM知识库，显著提升企业级文档管理的效率和准确性。

不游泳的鱼鱼

433 2 3

技术自由圈/原疯狂创客圈

5天前

Linux Docker 异构计算

基于Dify +Ollama+ Qwen2 完成本地 LLM 大模型应用实战

尼恩，一位拥有40年经验的老架构师，通过其丰富的行业经验和深入的技术研究，为读者提供了一套系统化、全面化的LLM大模型学习圣经。这套学习资料不仅帮助许多从业者成功转型，还助力多位工程师获得了高薪工作机会。

技术自由圈/原疯狂创客圈

130 27 27

楠竹11

1月前

机器学习/深度学习人工智能自然语言处理

深挖大模型幻觉！哈佛大学最新报告：LLM等价于众包，只是在输出网络共识

大型语言模型（LLM）如ChatGPT正改变人机交互，但在生成看似真实的错误信息方面存在“幻觉”问题。这种现象源于LLM依赖统计概率而非语义理解，导致在处理争议或冷门话题时易出错。研究显示，LLM的准确性高度依赖于训练数据的质量和数量。尽管如此，LLM仍具巨大潜力，需持续优化并保持批判性使用。

楠竹11

67 12 12

楠竹11

2月前

人工智能自然语言处理

大模型在装傻！谷歌苹果最新发现：LLM知道但不告诉你，掌握知识比表现出来的多

在AI领域，大模型（LLM）展现出了惊人的进步，但在谷歌和苹果的最新研究中，发现这些模型有时会故意“装傻”，即使已知正确答案也不告知用户。这种“隐藏智慧”现象揭示了大模型可能具备超出表面表现的深层能力，对AI评估与应用提出了新挑战，同时也带来了设计更高效模型的新机遇。论文链接：https://arxiv.org/pdf/2410.02707

楠竹11

55 11 11

kaixin321-44007

2月前

自然语言处理开发者

多模态大模型LLM、MLLM性能评估方法

针对多模态大模型（LLM）和多语言大模型（MLLM）的性能评估，本文介绍了多种关键方法和标准，包括模态融合率（MIR）、多模态大语言模型综合评估基准（MME）、CheckList评估方法、多模态增益（MG）和多模态泄露（ML），以及LLaVA Bench。这些方法为评估模型的多模态和多语言能力提供了全面的框架，有助于研究者和开发者优化和改进模型。

kaixin321-44007

243 5 5

楠竹11

2月前

机器学习/深度学习人工智能自然语言处理

大模型强崩溃！Meta新作：合成数据有剧毒，1%即成LLM杀手

在人工智能领域，大型语言模型（LLMs）的快速发展令人瞩目，但递归生成数据可能导致“模型崩溃”。Meta的研究揭示，模型在训练过程中会逐渐遗忘低概率事件，导致数据分布偏差。即使少量合成数据（如1%）也会显著影响模型性能，最终导致崩溃。研究强调保留原始数据的重要性，并提出社区合作和技术手段来区分合成数据和真实数据。论文地址：https://www.nature.com/articles/s41586-024-07566-y

楠竹11

114 2 2

TsingtaoAI

2月前

人工智能自然语言处理算法

政务培训｜LLM大模型在政府/公共卫生系统的应用

本课程是TsingtaoAI公司面向某卫生统计部门的政府职员设计的大模型技术应用课程，旨在系统讲解大语言模型（LLM）的前沿应用及其在政府业务中的实践落地。课程涵盖从LLM基础知识到智能化办公、数据处理、报告生成、智能问答系统构建等多个模块，全面解析大模型在卫生统计数据分析、报告撰写和决策支持等环节中的赋能价值。

TsingtaoAI

97 2 2

LLM大模型最新消息2025.01

物联网

热门文章

最新文章

相关课程

相关电子书

相关实验场景