AI Generalization Challenge (AIGC)是一项旨在促进机器智能通用性发展的计算机竞赛。随着技术的不断提高,AIGC演进趋势也日益明显:从最初的针对固定任务的单一优化到更加广泛的通用智能。
以下是AIGC演进的主要趋势:
1、从优化到通用
在人工智能发展的早期,重点在于让机器能够完成单个任务,并使其表现得尽可能好。但是,这种优化方法在处理新问题时往往是无效的,因为它涉及到不同的数据集和问题域。一个更好的方式是开发通用算法,这些算法可以适应不同的问题,从而实现更宽泛的应用。
2、深度学习
深度学习是当前最热门的AI技术之一,它通过构建神经网络来识别各种模式以及抽象特征。随着计算机硬件和充足的训练数据集的增强,深度学习已经成为取得成功的关键。
3、可解释性
AI系统有时会做出令人困惑的决策,或者表现出奇怪的行为。这些问题主要是由于机器学习算法的黑盒性导致的,因为它们几乎无法解释为什么会得到特定的结果。为了改善此问题,通常需要使用可解释性AI算法,以便人类用户可以理解和口头控制系统。
4、自监督 + 弱监督学习步骤
自监督和弱监督学习是可以通过使机器使用周边环境信息进行学习,降低对标注实例的需求并提高模型在未知数据上的表现的技术(例如,使用大量的无标签数据来构建更好的表示)。这种学习方式已经广泛应用于训练深度学习模型,并且是实现通用人工智能必不可少的一步。
5、聚合多模态信息
机器学习目前还只是在单个模式或特定任务优化方面取得了成功,难以识别所涉及问题中的各种元素。可能通过合并处理视频、语音、图形、文字等多种输入模态,来处理多模态数据,建立全面的场景认知。联合本地(例如,从相同的物体或人脸)和全局特征(例如,在多个对象之间共享的结构)进行学习是其中一个解决方法。
6、联邦学习
联邦学习是一种机器学习方法,它使用各个设备上的本地数据来训练共享的中央模型,并且不会向中心授权多少流量或计算能力。通过这样的方式,可以保护个体隐私,并且各系统可以共享所学习的信息,进而构建更强大的通用模型。
7、新型神经网络架构
新型神经网络架构的设计是另一个趋势。例如,GPT,GNMT.GANs,PGGAN,VQGAN等优秀的神经网络被广泛使用,对下一代通用人工智能的发展具有重要影响。
在这些趋势之下,机器智能将更加准确、更加通用、更可控、更具可解释性,以及具有更好的学习能力和存储能力。这为实现通用智能提供了巨大的希望。