新闻视频分析主要包括基于单模态的新闻视频分析和基于多模态的新闻视频分析。
基于单模态的新闻视频分析主要是基于新闻视频中的视频影像信息分析视频。视频影像信息可以提供新闻的分界点信息。例如,分析新闻视频中新闻主持人出现的时间点,并据此判断此时间点是否为新闻结束的时间点或总结新闻进行的时间点。新闻视频的视频影像信息还可以用于新闻检索、新闻视频分类等任务。例如,使用视频信息的时序特征结合新闻视频预分类减少内容分析时间。
基于多模态的新闻视频分析则使用新闻中的视频影像信息、音频信息以及文本信息。基于多模态的新闻视频分析相比基于单模态的新闻视频分析使用了额外的信息,因此可以对新闻视频进行更多维度的分析。例如,使用新闻中的影像信息、音频信息以及文本信息分析新闻的情感。此外,还可以通过多模态信息得到新闻的结构化信息。例如,对报道的某一事件的文本和视觉特征进行聚类,然后分析事件的内部关系以及故事之间的依赖关系,生成一系列新闻的结构化信息。