通过阿里云Milvus与PAI搭建高效的检索增强对话系统
阿里云向量检索Milvus版是一款全托管的云服务，兼容开源Milvus并支持无缝迁移。它提供大规模AI向量数据的相似性检索服务，具备易用性、可用性、安全性和低成本等优势，适用于多模态搜索、检索增强生成（RAG）、搜索推荐、内容风险识别等场景。用户可通过PAI平台部署RAG系统，创建和配置Milvus实例，并利用Attu工具进行可视化操作，快速开发和部署应用。使用前需确保Milvus实例和PAI在相同地域，并完成相关配置与开通服务。
千行百业，“义”不容辞：通义技术创新与商业实践
千行百业，“义”不容辞：通义技术创新与商业实践。本次分享分为两部分，首先介绍大模型的快速迭代与普及，探讨通义千问在精度和复杂任务执行上的突破；其次聚焦企业级落地，解决安全性、部署路径及模型调优三大问题。通过多模态理解（视觉、语音）和更强的生成控制力，携手伙伴服务各行业，推动技术向生产力转化，并关注公益应用，助力社会进步。
IM系统在体育直播网站中的重要性
IM（即时通讯）系统在体育直播平台中至关重要，提升用户体验、促进社交互动和增强平台活跃度。它支持实时互动、增强观赛氛围、构建社交网络、推送即时信息、创造商业价值并提供多元化互动体验。高并发性能、实时稳定性和用户安全是实现的关键。通过集成IM系统，平台能更好地满足观众互动需求，提升运营效益。
代码示例展示了如何在比赛数据响应中设置比赛ID、游戏ID、系列赛ID等基本信息，并检查是否有计划和关注标记。
FastGPT 基于Higress 聚合 LLM 网关的最佳实践
本文介绍了Fast GPT的产品形态和设计理念，重点讨论了大模型的幻觉问题及其对应用落地的影响。Fast GPT通过结合工作流的强逻辑性和AI的理解能力，提升系统的稳定性和可靠性。文章还详细描述了Fast GPT的工作流节点、知识库管理及AI网关的功能，并展示了几个实际应用场景，如私人助手、图文生成和文档处理等。最后，探讨了如何通过引入云函数和Copilot简化代码编写，实现无代码编排的工作流解决方案，提升用户体验。
重塑招聘生态，共赴全局提效
本次分享主要探讨了大模型在应用中的经验和心得，特别是在深圳市模型推出后对其应用场景的思考。内容涵盖生成式大模型的应用、标注准确率接近人工、招聘领域的具体应用效果，以及大模型如何重塑招聘生态和赋能职场。通过实际案例展示了大模型在客服、电话分析、简历优化等场景中的高效应用，强调其在降低成本、提高效率和解决时空错配问题上的优势。未来，大模型有望进一步优化招聘流程，提升企业与求职者的匹配效率。
新浪微博AIGC业务应用探索-AIGC应用平台助力业务提效实践
本次分享围绕AIGC技术在新浪微博的应用展开，涵盖四个部分。首先分析AIGC为微博带来的机遇与挑战，特别是在内容安全和模型幻觉等问题上的应对策略；其次介绍通过工程架构快速实现AIGC技术落地的方法，包括统一部署模型和服务编排；接着展示AIGC在微博的具体应用场景，如评论互动、视频总结和智能客服等；最后展望未来，探讨大模型的发展趋势及其在多模态和特定业务场景中的应用前景。
深度揭秘复杂异构硬件推理优化
本文介绍了大语言模型在部署推理层面的性能优化工作，涵盖高性能算子、量化压缩、高效运行时及分布式调度四个方面。面对参数和上下文规模增长带来的显存、缓存与计算开销挑战，文中详细探讨了如何通过优化算子性能、低精度量化压缩、异步运行时框架设计以及多层次分布式架构来提升大模型推理效率。此外，还展示了BladeLLM引擎框架的实际应用效果，证明了这些技术在高并发场景下的显著性能提升。
三大行业案例：AI大模型+Agent实践全景
本文将从AI Agent和大模型的发展背景切入，结合51Talk、哈啰出行以及B站三个各具特色的行业案例，带你一窥事件驱动架构、RAG技术、人机协作流程，以及一整套行之有效的实操方法。具体包含内容有：51Talk如何让智能客服“主动进攻”，带来约课率、出席率双提升；哈啰出行如何由Copilot模式升级为Agent模式，并应用到客服、营销策略生成等多个业务场景；B站又是如何借力大模型与RAG方法，引爆了平台的高效内容检索和强互动用户体验。