随着llama3的发布，业界越来越多的针对其中文能力的微调版本也不断涌现出来，我们在ModelScope魔搭社区上，搜集到几款比较受欢迎的llama3中文版本模型，来从多个维度评测一下，其对齐后的中文能力到底如何？ 微调后是否产生了灾难性遗忘问题。

日前，XTuner 团队基于 meta 最新发布的 Llama-3-8B-Instruct 模型训练并发布了最新版多模态大模型 LLaVA-Llama-3-8B， 在多个评测数据集上取得显著提升。

近期开源社区陆续出现了千亿参数规模以上的大模型，这些模型都在各项评测中取得杰出的成绩。今天，通义千问团队开源1100亿参数的Qwen1.5系列首个千亿参数模型Qwen1.5-110B，该模型在基础能力评估中与Meta-Llama3-70B相媲美，在Chat评估中表现出色，包括MT-Bench和AlpacaEval 2.0。

此次发布的是在3天时间内，我们对Llama3-8B模型进行首次中文跨语言训练尝试的结果：OpenBuddy-Llama3-8B-v21.1-8k。

近期， Microsoft 推出 Phi-3，这是 Microsoft 开发的一系列开放式 AI 模型。Phi-3 模型是一个功能强大、成本效益高的小语言模型 (SLM)，在各种语言、推理、编码和数学基准测试中，在同级别参数模型中性能表现优秀。为开发者构建生成式人工智能应用程序时提供了更多实用的选择。

Llama3模型在4月18日公布后，国内开发者对Llama3模型进行了很多训练和适配，除了中文纯文本模型外，多模态版本也陆续在发布中。

我们很自豪地于今天发布OpenBuddy最新一代千亿MoE大模型的早期预览版本：OpenBuddy-Mixtral-22Bx8-preview0-65k。此次发布的早期预览版对应约50%的训练进度。

stable-diffusion-webui是一个便捷的工具，大大降低了复杂AI技术的使用门槛，让更多人能享受到AI驱动的图像生成技术带来的便利与创新可能。

阿里云开发者社区推动云原生技术发展，提供丰富产品（如容器服务、Serverless、微服务架构、服务网格）与学习平台，助力企业数字化转型。开发者在此探索实践，共享资源，参与技术活动，共同创新，共创云原生技术新篇章。一起加入，开启精彩旅程！

记住，关闭防火墙可能会降低系统安全性，请在真正需要的情况下关闭，并确保你在网络环境中采取其他安全措施。

vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。

SWIFT（Scalable lightWeight Infrastructure for Fine-Tuning）是魔搭ModelScope开源社区推出的一套完整的轻量级训练推理工具，基于PyTorch的轻量级、开箱即用的模型微调、推理框架，让AI爱好者用自己的消费级显卡就能玩转大模型和AIGC。

MiniCPM-V 2.0 不仅带来优秀端侧多模态通用能力，更带来惊艳的 OCR 表现。通过自研的高清图像解码技术，可以突破传统困境，让更为精准地识别充满纷繁细节的街景、长图在端侧成为可能。

本文主要关注在Rerank，本文中，Rerank可以在不牺牲准确性的情况下加速LLM的查询（实际上可能提高准确率），Rerank通过从上下文中删除不相关的节点，重新排序相关节点来实现这一点。

中国电信人工智能研究院开源12B参数规模星辰语义大模型TeleChat-12B，相较1月开源7B版本，内容、性能和应用等方面整体效果提升30%，其中，多轮推理、安全问题等领域提升超40%。在C-eval、MMLU、AGIEVAL等国际权威榜单上，排名处于国内同级别参数开源模型的前列，进一步促进大模型开源生态繁荣，助力AI产业加速高质量发展。另据悉，中国电信人工智能研究院将于年内开源千亿级参数大模型。

InstantStyle 是一个通用框架，它采用两种简单但有效的技术来实现风格和内容与参考图像的有效分离。

近日，元象发布其首个Moe大模型 XVERSE-MoE-A4.2B， 采用混合专家模型架构 （Mixture of Experts），激活参数4.2B，效果即可媲美13B模型。该模型全开源，无条件免费商用，支持中小企业、研究者和开发者可在元象高性能“全家桶”中按需选用，推动低成本部署。

通义千问一周年

综上所述，`SHOW PROFILE`是MySQL提供的一个用于查询性能分析的工具，可以帮助开发人员定位查询性能问题，并进行优化。通过分析每个阶段的执行时间和资源消耗情况，可以更好地理解查询的执行过程，从而提升数据库性能。

通义千问团队推出Qwen系列的首个MoE模型，Qwen1.5-MoE-A2.7B。

本期文章，我们将向大家展示如何使用AgentScope中构建和使用具有RAG功能的智能体，创造AgentScope助手群，为大家解答和AgentScope相关的问题。

教程第7期

智能五子棋

4月1日，澜舟科技宣布开源Mengzi3-13B大模型，对学术研究完全开放，同时支持免费商用。

本期文章，我们会介绍一下AgentScope的一个设计哲学（Agent-oriented programming）

阿里云与魔搭社区联合举办Create@AI创客松，邀请开发者探索基于多智能体的人机协作模式。活动提供资源支持和专家指导，获胜者可获得近5万元现金奖励及6亿次千问调用额度。参赛者需准备大模型API，如DashScope或OpenAI，使用AgentScope开源框架开发多智能体应用。立即报名参加：[报名链接](https//startup.aliyun.com/special/aihackathon4)。

开通阿里云灵积服务并创建API-KEY，添加Java依赖`dashscope-sdk-java`版本2.11.0。示例代码展示如何使用SDK进行多模态对话，调用`MultiModalConversation`进行交互，并打印结果。测试结果显示输出对一张图片的描述。参考链接提供通义千问VL快速入门指南。

元象大模型一次性发布30款量化版本，全开源，无条件免费商用。

cv2.polylines

`Python`的`while`循环在条件为真时重复执行代码块。常见用法包括：固定次数循环、无限循环（可由外部条件退出）、使用`break`和`continue`控制流程，以及等待条件满足。经典应用案例有模拟登录尝试、读取文件至末尾和实现简单聊天机器人。`while`循环适用于处理不确定次数迭代和条件触发场景。

本文档介绍了如何在本地部署Vanna服务以使用Qwen模型进行text2sql转换。首先，通过`snapshot_download`下载Qwen-7B-Chat模型，并安装相关依赖。接着，修改`openai_api.py`设置本地LLM服务接口。然后，安装并配置Vanna Flask服务，包括自定义LLM服务、连接数据库以及修改端口。为了解决内网访问问题，使用ngrok或natapp进行内网穿透，提供公网访问。最后，处理了chromadb包中自动下载资源的问题，以防网络不佳导致的失败。通过这些步骤，实现了使用本地Qwen模型的Vanna服务。

Mistral AI在3月24日突然发布并开源了 Mistral 7B v0.2模型，有如下几个特点

使用Python生成二维码可借助`qrcode`库。安装库：`pip install qrcode[pil]`。创建二维码的步骤如下： ```python import qrcode

图片进行标记

在Python中实现将汉字数字转换为阿拉伯数字的功能，可以创建一个函数`chinese_to_arabic`，利用字典`num_map`映射汉字到数字。函数处理特殊单位，分割字符串并遍历每个字符，根据单位计算累积数值。测试示例显示了函数能正确转换简单汉字数字。然而，此简化版函数可能无法处理所有复杂情况，如负数或连续的'零'。

本文将以Yuan2.0最新发布的Februa模型为例进行测试验证，用更小规模的模型达到更好的效果。

参考官方教程和代码，以一个0基础学习者的角色，用DashVector&千问7B模型，打造极简RAG-基于专属知识的问答服务实践，也带入了自己的一些理解。

魔搭Agent作为开源版GPTs，可以零代码DIY一个具备丰富功能的chat bot，今天上线了一个新版本优化了相关体验，来看！

魔搭社区整理了 CVPR 2024中稿论文中在社区上可下载的开源模型、体验Demo的一些工作，给大家带来第一波盘点

私有知识库搭建,纯docker文件

Arm 架构的服务器通常具备低功耗的特性，能带来更优异的能效比。相比于传统的 x86 架构服务器，Arm 服务器在相同功耗下能够提供更高的性能。这对于大模型推理任务来说尤为重要，因为大模型通常需要大量的计算资源，而能效比高的 Arm 架构服务器可以提供更好的性能和效率。

3月11日，DeepSeek-AI开源了全新多模态大模型DeepSeek-VL系列，包含1.3b、7b两种不同规模的4个版本的模型。

SOTA效果的通用语音情感表征模型emotion2vec，魔搭社区已开源，可下载体验！

零一万物发布并开源了Yi系列中的“理科状元”——Yi-9B，可在魔搭体验

在人工智能艺术的领域，创新的火花从未停止闪耀。Stable Diffusion作为当前最为前沿的文本到图像技术之一，已经打开了艺术创作的新门户。但是，随着生成的图像数量日益增长，如何有效地管理和再创作这些作品成为了新的挑战。今天，我要为大家介绍一个我们开发的 Stable Diffusion 插件：aliyun-tablestore-tool-sd-manager-extension，它不仅提高了图像创作的效率，更带来了全新的图像管理体验。