Fancy123:华中科技和华南理工推出的3D网格生成技术

本文涉及的产品
视觉智能开放平台,视频资源包5000点
视觉智能开放平台,图像资源包5000点
视觉智能开放平台,分割抠图1万点
简介: Fancy123是由华中科技大学和华南理工大学联合推出的3D网格生成技术,能够从单张图片生成高质量的3D网格。该技术通过即插即用的变形技术,解决了多视图图像的局部不一致性,提高了网格对输入图像的保真度,并确保了高清晰度。Fancy123在定性和定量实验中表现出色,能够无缝集成到现有的单图像到3D的方法中。

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦


🚀 快速阅读

  1. 技术来源:华中科技大学和华南理工大学联合推出。
  2. 核心功能:从单张图片生成高质量3D网格。
  3. 技术优势:解决多视图图像不一致性,提高网格保真度和清晰度。

正文(附运行示例)

Fancy123 是什么

公众号: 蚝油菜花 - Fancy123

Fancy123是华中科技大学和华南理工大学联合推出的3D网格生成技术,基于即插即用的变形技术从单张图片生成高质量的3D网格。该方法包含两个增强模块和反投影操作,分别解决多视图图像的局部不一致性、提高网格对输入图像的保真度及确保高清晰度。

外观增强模块基于变形2D多视图图像对齐像素,保真度增强模块基于变形3D网格匹配输入图像。Fancy123在定性和定量实验中显示出显著的性能提升,能无缝集成到现有的单图像到3D的方法中。

Fancy123 的主要功能

  • 从单张图片生成3D网格:根据单一的RGB图像生成具有高视觉吸引力、颜色清晰度和输入保真度的3D网格模型。
  • 解决多视图图像的局部不一致性:基于外观增强模块,校正由2D多视图扩散模型生成的图像中的不一致性,提高多视图一致性。
  • 提高网格对输入图像的保真度:基于保真度增强模块,调整3D网格更精确地匹配输入图像,增强网格与输入图像的相似度。
  • 确保高清晰度:基于反投影操作,将输入图像和变形后的多视图图像投影到由LRM生成的网格上,提高网格颜色的清晰度,去除模糊效果。

Fancy123 的技术原理

  • 多视图扩散模型:用2D多视图扩散模型基于输入图像生成一组多视图图像。
  • 大型重建模型(LRM):用LRM从多视图图像中快速重建一个初始的3D网格。
  • 外观增强模块:优化基于网格的2D变形场对齐多视图图像中的错位像素。将变形后的多视图图像反投影到初始网格上,增强外观质量并减少幽灵效应。
  • 保真度增强模块:基于参数化网格变形(用Jacobian场)优化网格,使其更贴近输入图像。估计输入图像的相机参数,以便在变形过程中保持与输入图像的对应关系。
  • 反投影操作:在2D和3D变形之后,Fancy123执行反投影操作,将输入图像和变形后的多视图图像几乎无损地映射到网格上,提高网格颜色的清晰度。
  • 即插即用模块:Fancy123的两个增强模块设计为即插即用,能在推理时工作,支持无缝集成到各种现有的单图像到3D的方法中。

资源


❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦

相关文章
|
7月前
|
人工智能 异构计算
PAI GU系列机型发布,高性价比引领AI应用新潮流
PAI GU系列机型发布,高性价比引领AI应用新潮流 随着人工智能技术的不断发展,AI应用已经渗透到了我们生活的方方面面。为了满足广大用户对于AI应用的多元化需求,我国知名AI平台PAI近期推出了全新的General Unit(简称GU)系列规格,首发GU30系列机型。与PAI传统的实例规格相比,同等性能的实例规格价格优惠近45%,并适配不同复杂程度的模型。这一举措将极大地推动AI技术在各个领域的应用与发展。
186 1
|
7月前
|
机器学习/深度学习 传感器 前端开发
重磅发布!伟景智能推出人形机器人专用立体视觉系统ViEye
伟景智能凭借在工业级立体相机和人形机器人领域多年的技术积累和产品研发,推出了专为人形机器人设计的专业视觉系统——ViEye。搭载这一视觉系统后,伟景智能的人形机器人操作系统实现了“眼到手到”的全面覆盖,完美结合了平面视觉、立体视觉和机械手控制。该系统旨在为人形机器人提供精准且全面的视觉信息,解决了机器人“脑、眼、手”协同融合的难题,为机器人赋予了高精度的感知能力,使其能够更有效地应用于各种场景。这一创新将有助于提升人形机器人在实际应用中的性能和效果。
|
机器学习/深度学习 人工智能 自然语言处理
性价比超H100,英特尔发布中国版Gaudi2 AI加速卡
性价比超H100,英特尔发布中国版Gaudi2 AI加速卡
133 0
|
供应链 数据可视化 Java
国产技术迎来突破,14nm芯片横空出世,低代码也有好消息
国产技术迎来突破,14nm芯片横空出世,低代码也有好消息
159 0
|
机器学习/深度学习 人工智能 算法
好产品源于更用芯 华为麒麟810带来全新AI体验
好产品源于更用芯 华为麒麟810带来全新AI体验
236 1
好产品源于更用芯 华为麒麟810带来全新AI体验
|
人工智能 自动驾驶 大数据
华为计算战略揭晓:开放鲲鹏主板,推出开发套件,发布系列最强算力AI计算产品
华为在 HC 大会上发布的「全球最快 AI 训练集群」Atlas 900 引起了人们广泛关注。这仅仅是华为智能计算在全联接大会上新产品发布的开始,华为昨天推出的鲲鹏服务器主板、鲲鹏台式机主板,以及全球最强 AI 训练卡 Atlas 300、AI 训练服务器 Atlas 800 等产品,让我们再次见证了这家公司的研发实力。
472 0
华为计算战略揭晓:开放鲲鹏主板,推出开发套件,发布系列最强算力AI计算产品
|
机器学习/深度学习 人工智能 自然语言处理
为主流价位移动设备加入AI计算:ARM发布新一代Mali解决方案
随着人工智能技术的逐渐实用化,人们对于机器学习算力的需求正在飞速增长,除英特尔、英伟达等传统芯片厂商以外,谷歌、亚马逊等公司都在致力于打造自己的专用 AI 处理器。
432 0
为主流价位移动设备加入AI计算:ARM发布新一代Mali解决方案
英特尔联手Facebook,称将于下半年推出更通用的AI芯片
这一合作将会催生更加通用的AI芯片的诞生。
292 0
|
机器学习/深度学习 人工智能 算法
寒武纪重磅发布首款AI云芯片,陈天石要让端云结合占领10亿智能终端!
今天,寒武纪发布第三代IP产品Cambricon 1M和最新一代云端AI芯片MLU100和板卡产品。MLU100云端芯片不仅可独立完成各种复杂的云端智能任务,更可以与寒武纪1A/1H/1M系列终端处理器完美适配,让终端和云端在统一的智能生态基础上协同完成复杂的智能处理任务。
2750 0

热门文章

最新文章