随着LLM的涌现，以LLM为中枢构建的Agent系统在近期受到了广泛的关注。Agent系统旨在利用LLM的归纳推理能力，通过为不同的Agent分配角色与任务信息，并配备相应的工具插件，从而完成复杂的任务。

本文为魔搭社区轻量级训练推理工具SWIFT微调实战教程系列

本文主要关注在Rerank，本文中，Rerank可以在不牺牲准确性的情况下加速LLM的查询（实际上可能提高准确率），Rerank通过从上下文中删除不相关的节点，重新排序相关节点来实现这一点。

本文档介绍了如何在本地部署Vanna服务以使用Qwen模型进行text2sql转换。首先，通过`snapshot_download`下载Qwen-7B-Chat模型，并安装相关依赖。接着，修改`openai_api.py`设置本地LLM服务接口。然后，安装并配置Vanna Flask服务，包括自定义LLM服务、连接数据库以及修改端口。为了解决内网访问问题，使用ngrok或natapp进行内网穿透，提供公网访问。最后，处理了chromadb包中自动下载资源的问题，以防网络不佳导致的失败。通过这些步骤，实现了使用本地Qwen模型的Vanna服务。

VGen是由阿里巴巴通义实验室开发的开源视频生成模型和代码系列，具备非常先进和完善的视频生成系列能力

近期，VAST团队和Stability AI团队合作发布了TripoSR，可在一秒内从单个图像生成高质量3D对象。

ComfyUI是一个功能强大、模块化程度高的AIGC图形和视频生成的用户界面和后台。

近期开源社区陆续出现了千亿参数规模以上的大模型，这些模型都在各项评测中取得杰出的成绩。今天，通义千问团队开源1100亿参数的Qwen1.5系列首个千亿参数模型Qwen1.5-110B，该模型在基础能力评估中与Meta-Llama3-70B相媲美，在Chat评估中表现出色，包括MT-Bench和AlpacaEval 2.0。

MiniCPM-V 2.0 不仅带来优秀端侧多模态通用能力，更带来惊艳的 OCR 表现。通过自研的高清图像解码技术，可以突破传统困境，让更为精准地识别充满纷繁细节的街景、长图在端侧成为可能。

伴随着大数据的发展和强大的分布式并行计算能力，以预训练+微调的模型开发范式渐渐成为深度学习领域的主流。 2023年各家推出的大模型浩如烟海，如GPT4、Llama、ChatGLM、Baichuan、RWKV、Stable-Diffusion等。这些模型在达到越来越好的效果的同时也需要越来越多的算力资源：全量finetune它们动辄需要几十至上百G显存训练部署，一般的实验室和个人开发者无力承担。

Yi-1.5是Yi的升级版本。 它使用 500B tokens的高质量语料库在 Yi 上持续进行预训练，并在 3M 个多样化的微调样本上进行微调。

强化学习在大模型中的应用具有广泛的潜力和机会。通过使用强化学习算法，如DQN、PPO和TRPO，可以训练具有复杂决策能力的智能体，在自动驾驶、机器人控制和游戏玩家等领域取得显著成果。然而，仍然存在一些挑战，如样本效率、探索与利用平衡以及可解释性问题。未来的研究方向包括提高样本效率、改进探索策略和探索可解释的强化学习算法，以进一步推动强化学习在大模型中的应用。

本文介绍如果通过postman调用阿里云通义千问API，然后介绍如果使用多语言集成，最后介绍了快速使用postman压测创建的API请求。

近期， Microsoft 推出 Phi-3，这是 Microsoft 开发的一系列开放式 AI 模型。Phi-3 模型是一个功能强大、成本效益高的小语言模型 (SLM)，在各种语言、推理、编码和数学基准测试中，在同级别参数模型中性能表现优秀。为开发者构建生成式人工智能应用程序时提供了更多实用的选择。

本文改进： 在进行目标检测时，小目标会出现漏检或检测效果不佳等问题。YOLOv10有3个检测头，能够多尺度对目标进行检测，但对微小目标检测可能存在检测能力不佳的现象，因此添加一个微小物体的检测头，能够大量涨点，map提升明显； 多头检测器提升小目标检测精度，1）mAP50从0.666提升至0.677

LLaMA Factory 是一个高效的大语言模型训练和推理框架，它通过提供一站式的 Web UI 界面和集成多种训练方法，简化了大模型的微调过程，并能够适配多种开源模型。

人类自古以来便致力于研究自身并尝试模仿，早在2000多年前的《列子·汤问》中，便记载了巧匠们创造出能言善舞的类人机器人的传说。

最近，DAIL-SQL在魔搭创空间上线，并在NL2SQL任务上取得了新的SOTA。DAIL-SQL可以更好地利用LLM的NL2SQL能力，本文对其进行详细解读。

【7月更文挑战第1天】 优点：为了利用不同的池化核尺寸提取特征的方式可以获得更多的特征信息，提高网络的识别精度； 如何优化：在此基础上加入注意力机制，能够在不同尺度上更好的、更多的获取特征信息，从而获取全局视角信息并减轻不同尺度大小所带来的影响； SPPF_attention，重新设计加入注意力机制 ，在NEU-DEU任务中mAP50从0.683提升至0.703；

本期文章，我们将向大家展示如何使用AgentScope内置的ReAct智能体解决更为复杂的问题。

通义千问再次重磅开源！

近期，零一万物Yi系列模型家族发布了其多模态大模型系列，Yi Vision Language（Yi-VL）多模态语言大模型正式面向全球开源。

本期文章，我们将向大家展示如何使用AgentScope中构建和使用具有RAG功能的智能体，创造AgentScope助手群，为大家解答和AgentScope相关的问题。

本文介绍Agent到底是什么 ，如何进行优化，以及如何使用Agen框架。

9月25日，阿里云开源通义千问140亿参数模型Qwen-14B及其对话模型Qwen-14B-Chat，免费可商用。Qwen-14B在多个权威评测中超越同等规模模型，部分指标甚至接近Llama2-70B。阿里云此前开源的70亿参数模型Qwen-7B等，一个多月下载量破100万，成为开源社区的口碑之作。