解密优酷智能生产技术,看 AI 赋能内容数字化

简介: 2021 年,随着社会节奏的加快,用户碎片化消费时间不断增加,当前短视频的消费用户规模已超 7.73 亿人,短视频的市场规模超过 2000 亿元。短视频行业发展迅速,但也存在低质内容泛滥,精品内容稀缺的问题。在 7 月 10 日的 Imagine 阿里云视频云全景创新峰会上,阿里巴巴文娱资深算法专家李静,发表了《视频技术再创新,开启内容数字化浪潮》的主题演讲,从短视频领域的内容生产困境出发,分享 MediaAI 平台的技术能力及应用实践,解密优酷短视频智能生产的技术,以下为演讲内容整理。

image.png

优酷如何开启内容数字化浪潮?


既然是优酷,就要从长视频、短视频以及最后分发呈现出来的所有的视频形态说起。优酷的数字化也会从视频的整个生命周期来分析。优酷作为一个长视频网站,从长视频最初的拍摄到制作再到完成,我们有内容评估的数字化系统


当一个长视频拍摄出来之后,如何利用这种版权内容再进行二次的创作,这就是创作内容的的数字化;接下来我们希望生成一些短视频特效,让用户看起来更好看,更有趣,这是特效的数字化。


最后,在终端上用户拿着手机、平板或者通过电视大屏观看视频的时候如何体验内容数字化的好处?


所以,内容的数字化浪潮要从整个视频的生命周期来讲。


创作要素解构

image.png

第一个是内容评估的数字化。在阿里巴巴文娱有一个北斗星的团队,是专注于做长视频的内容评估,它的核心点是希望通过后验的数据去衡量整个视频内容的质量,视频内容或者视频的生产元素。


其中又包括一些外延的东西,例如导演、编剧、演员、剧本等,这些东西是大家平时能听到的,但距离自己又很遥远的东西,这些就是视频内容生产外延的内容。


外延之外还有内延信息,包括呈现出来视频本身它涵盖的一些人物的信息、镜头的语言以及本身人物的性格等。所有的这些信息都是基于我们 NLP 语言(Natural Language Processing)或者 CV(Computer Vision)的能力进行解构。


所以当我们有了外延信息和对于内容的解构之后,我们希望可以通过这些信息去预测用户的心理感受或者对内容的喜好度。

从数据侧获得的先验数据,其中包含了非常直观的收视率、用户的互动状态、评论数,我们希望通过这些数据可以进一步挖掘用户的心理状态、生理状态,以此推动我们核心能力来完成内容的评估。

image.png

内容的评估需要应用到 AI 的能力,一个是 AI 评估,一个是 AI 体检


什么是 AI 评估?


一个视频片段是否好,以前用人来审,需要花费大量的人力。如果用人工审核预测一部电视剧是否是爆款,会非常非常困难。所以在内容评估上我们利用北斗星的系统,从最开始演员、供应商、IP 等级、导演和编剧的信息预估这部电视剧是什么样的水平。


并且,可以对电视剧里的的演员做进一步更深的分析,例如他的粉丝价值,整个口碑等。通过分析我们让平台进一步做辅助性决策,再利用我们的 AI 技术最终评估这部电视剧到底是什么档次。


第二个点是 AI 体检。


当视频片段拍完剪辑好之后,用算法来预测这些片段,哪些是看点,哪些是高潮点,哪些是剧情非常拖沓无聊的点,去寻找用户可能弃剧的风险点,给出一些建设性的意见,帮助剪辑师进行剪辑优化。这是优酷内容评估另外一个应用点。


在长视频之后,就是短视频了。


优酷的《山河令》和《司藤》在放送结束之后,我们如何进一步利用它做二次的短视频创作?

image.png

短视频最近几年来非常火,去年短视频消费用户达 7 亿多人,短视频工会和 MCN 数量超过两万家,市场规模超过两千亿,在如此庞大的短视频消费市场下我们面临了一些问题,高质量的短视频非常稀缺,大量的低质的、粗制滥造的短视频充斥在整个市场上。


所以,我们想利用自动化生产的方式代替掉那些质量低劣的短视频,让我们的智能创作达到人创作的水平,这是优酷想要去做的。


所以阿里巴巴文娱研发出了概念级的视频的解构能力去赋能智能创作。这是什么呢?

image.png

当每次提到视频解构、CV 能力,大家可能都会自然想到一些标签,对于一个视频场景,里面有人物、物体、运动等,在过去 CV 领域这些是特别客观的标签描述,但进行视频创作的时候,这些东西并不是创作者们非常需要的,创作者们需要的元素或者素材是能够让观众有深切感受的,所以我们重新定义了语义级的标签,才能够赋能智能创作

image.png


视频解构赋能短视频生产

ezgif-4-ad91302f629a.gif

有了基于概念级的标签解构能力之后我们可以进行一系列的编辑。


在短视频中使用浓缩的手段,把这个片段中平淡的剧情或者没有对话的情景切掉,将对话或者有信息含量的片段拼接在一起,最终形成完整的短视频片段。

ezgif-4-35d5c786860f.gif

在综艺的场景,将猫晚易烊千玺的片段进行重新剪辑,做成粉丝向的短视频,可以取得很好的效果。


以上所有的视频制作,都利用了我们过去这一年以来所沉淀下来的 AI 技术,所有的视频都是可以实现自动化的生产。


我们目前整个团队的智能生产技术的产能是一天万条以上,但由于每一条都要经过核审,稍微限制了一下产能。智能生产的质量在人工审核的整体通过率是 90%,远远高于普通人的或者优酷的 UP 主自己创作的视频通过率。


视频浓缩,多风格化剧集快看


现在大家碎片化的消费习惯,长视频的观看率越来愈低,所以我们针对这种情况有不同细度浓缩的手段。


如 5 分钟的短剧,3 分钟看一部电影等。在优酷看剧时,每个剧前面有一个 15 秒的前情提要,这就是我们自动化生产出来的。

image.png

同时,因为我们具有风格化的解构能力,所以可以提取不同风格的前情提要,对于女生做甜向的前情提要,对于男生来说可能更喜欢悲壮型的,这些提要都是可以抽取出来的。视频的浓缩就是我们把不同风格的关键剧情择出来,在短时间内让你了解到故事的主线。

image.png

另外一种短视频的类型也是现在非常火爆的,那就是解说类的短视频


我们重新定义了所谓的 Text to Video 的技术,把视频进行解构化,生产视频剧本解说词,两者进行匹配,最后通过剧本生成解说类短视频。


这里的解说词是来自于人工编辑或者现有剧本,视频的解说 tts 能力是由达摩院提供。目前 tts 已经有 10 多种风格,有不同方言,不同的解说风格。


接下来,还有图文转视频,每个热点新闻底下都有配图,我们可以使其直接生成视频,但生成的视频不是 PPT,而是结合 IP 版权图片相对应的视频内容。


娱乐资讯类的视频也是一样,其中的图片可以直接溯源定位找到我们对应的视频版权内容。过于复杂的图片,视频生产才会直接使用图片。


内容呈现:特效让视频更好看

image.png


视频的特效,我们会针对于动作、动作的幅度以及主角人物等进行自动化加特效,这里涉及到的 CV 技术包括:动作检测,动作幅度检测,范围检测,明星识别,BGM 等。
琐碎的东西来加特效显示会非常乱,所以我们对于运动幅度还是有一定要求的,达到某个幅度我们再加特效,相对来说观看体验好很多,在 CG 侧我们有自己的大千云端渲染系统,支持不同特效的制作。

ezgif-4-d5e74090a0ca.gif

综艺特效是目前制作综艺必不可少的环节,然而制作一个特效,非常费时,我们的目标是让 AI 发现、标注和凸显综艺节目的精彩时刻,让 AI 制作快速化,批量化


目前,我们基于 CG 技术已经研发出 30 余种特效类型,《这!就是街舞》就是我们特效技术一个小小的展示。

ezgif-4-6778badac212.gif

CBA 有这么一个子弹时刻,在子弹时刻上我们可以加投篮的热区图,告诉大家这个投篮命中度是多少,可以辅助大家得到更多的信息。

ezgif-4-1407fb00734c.gif

互动上的新玩法,就要讲到端上了,第一个视频横转竖。比如在地铁上非常拥挤的时候大家都是竖着看的,很少有横着看的,基于这样的需求我们也得做把横的视频转为竖的,这里的难点是确定主体,第二是稳定。


我们还有一个技术是自由视角视频,这是国内也是业内第一个在 C 端上,用户可以体验自由视角的产品,在去年的《这!就是街舞》节目上我们已经应用了这个技术。

科技冬奥 冰雪 VR


今年的《这!就是街舞》我们技术还会进一步升级,大家敬请期待。在前段冬奥测试赛上也进行了测试,我们希望用这个技术让用户多角度观看他们想看的体育内容。并且阿里巴巴文娱会不断创新视频技术,为大家带来不一样的视听体验,开启中国视频技术内容数字化浪潮。



扫码入群和作者一起探讨音视频技术

获取更多视频云行业最新信息👇

image.png


「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领域一流工程师交流切磋。公众号后台回复【技术】可加入阿里云视频云产品技术交流群,和业内大咖一起探讨音视频技术,获取更多行业最新信息。
相关文章
|
4天前
|
机器学习/深度学习 人工智能 搜索推荐
AI与未来医疗:革命性的技术,触手可及的健康
本文探讨了人工智能(AI)在医疗领域的应用及其潜力。从诊断辅助、个性化治疗到药物研发,AI正在改变我们理解健康和疾病的方式。同时,本文也讨论了AI面临的伦理挑战和数据隐私问题,呼吁建立相应的法律法规来保障患者权益。最后,本文对AI在未来医疗中的角色进行了展望,认为AI将继续推动医疗领域的创新和发展。
26 8
|
4天前
|
机器学习/深度学习 人工智能 搜索推荐
AI与未来医疗:革命性的技术,重塑健康格局
本文探讨了人工智能(AI)在医疗领域的应用及其对未来健康的深远影响。通过分析AI在疾病诊断、治疗和预防方面的具体案例,揭示了这一技术如何提升医疗服务的效率和准确性,并展望了AI在未来医疗中的潜力。
22 1
|
1天前
|
人工智能 云栖大会
AI Infra的前沿技术与应用实践 | 2024云栖大会预告
AI Infra的前沿技术与应用实践 | 2024云栖大会
|
1天前
|
人工智能 云栖大会
AI Infra 核心技术专题 | 2024 云栖大会预热
AI Infra 核心技术专题 | 2024 云栖大会
|
1天前
|
机器学习/深度学习 人工智能 自然语言处理
AI技术在自然语言处理中的应用
【9月更文挑战第17天】本文主要介绍了AI技术在自然语言处理(NLP)领域的应用,包括文本分类、情感分析、机器翻译和语音识别等方面。通过实例展示了AI技术如何帮助解决NLP中的挑战性问题,并讨论了未来发展趋势。
|
1天前
|
机器学习/深度学习 人工智能 自然语言处理
AI与未来医疗:技术的革新与挑战
随着科技的不断进步,人工智能(AI)在医疗领域的应用逐渐深入。本文探讨了AI在未来医疗中的潜力、面临的挑战以及其可能带来的伦理和社会影响。通过分析当前AI技术在医疗中的具体应用,如诊断、治疗和患者管理等方面,揭示其如何提高医疗服务的效率和准确性。同时,讨论了数据隐私、算法透明度等关键问题,强调了制定合理政策和规范的重要性。最后,提出了未来研究的方向和建议,以期为AI与医疗行业的深度融合提供参考。
14 1
|
7天前
|
机器学习/深度学习 人工智能 搜索推荐
AI技术在医疗领域的应用
【8月更文挑战第43天】本文将介绍人工智能(AI)在医疗领域的应用,包括疾病诊断、药物研发和健康管理等方面。我们将通过实例和代码示例,展示AI如何帮助医生提高诊断准确性,加速药物研发过程,以及提供个性化的健康管理方案。让我们一起探索AI技术如何改变医疗保健的未来。
|
6天前
|
机器学习/深度学习 数据采集 人工智能
AI技术在自然语言处理中的应用与挑战
【9月更文挑战第12天】本文将探讨AI技术在自然语言处理(NLP)领域的应用及其面临的挑战。我们将介绍NLP的基本概念、主要任务和应用场景,并分析当前AI技术在NLP中的局限性和未来发展趋势。通过实际案例和代码示例,我们将展示AI技术如何帮助解决NLP问题,并探讨如何克服现有挑战以实现更高效的自然语言处理系统。
|
1天前
|
机器学习/深度学习 人工智能 搜索推荐
AI与未来医疗:革命性技术的崛起##
随着人工智能(AI)技术的快速发展,医疗行业正在经历一场前所未有的变革。本文将探讨AI在医疗诊断、治疗和健康管理中的应用,揭示其如何提升医疗服务效率、精确性和个性化水平。通过分析具体案例,我们将看到AI如何助力医生做出更准确的诊断、制定更有效的治疗方案,并改善患者的生活质量。尽管面临数据隐私、安全和技术准确性等挑战,AI在医疗领域的潜力无疑是巨大的。本文旨在为读者展现一个由AI驱动的更智能、更高效的未来医疗蓝图。 ##
|
5天前
|
机器学习/深度学习 人工智能 监控
探索AI技术在医疗健康中的应用与前景
本文深入探讨了人工智能(AI)技术在医疗健康领域的多样化应用及其未来发展潜力。通过分析当前AI技术的具体应用案例,如智能诊断、个性化治疗方案制定、患者监护与管理等,文章揭示了AI如何助力提升医疗服务质量、增强疾病预防能力并优化医疗资源配置。同时,针对AI技术发展中面临的伦理、隐私保护及技术准确性等挑战,文章提出了相应的解决策略和建议,旨在为读者提供一个全面而深入的视角,理解AI技术在医疗健康领域的现状与未来趋势。
12 0

热门文章

最新文章