第一章 多媒体技术概述本章的讲解包括两个部分： 第一部分 媒体与多媒体数据流 第二部分 多媒体计算机技术概述本本本本 章章章章重点讲述重点讲述重点讲述重点讲述主要讲解内容2 2 2 2内容简介第一部分第一部分 媒体与多媒体数据流第二部分第二部分 多媒体计算机技术概述本部分介绍多媒体系统的基本概念和多媒体系统的组成要素，首先对多媒体这个术语的含义进行界定，然后对不同的媒体特征进行描述，并指出多媒体系统的重要特性，最后介绍多媒体系统中的数据流特征和逻辑数据单元(LDU, Logical Data Unit)。概述多媒体计算机的定义、分类、现状及发展趋势。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & ApplicationsPart 1. 媒体与数据流1.1.1 媒体的概念与分类媒体的概念与分类1.1.2 多媒体系统的主要特征多媒体系统的主要特征1.1.3 多媒体的概念多媒体的概念1.1.4 传统的数据流特性传统的数据流特性1.1.5 连续媒体的数据流特性连续媒体的数据流特性1.1.6 信息单元信息单元 本部分介绍多媒体系统的基本本部分介绍多媒体系统的基本概念和多媒体系统的组成要素，首概念和多媒体系统的组成要素，首先对多媒体这个术语的含义进行界先对多媒体这个术语的含义进行界定，然后对不同的媒体特征进行描定，然后对不同的媒体特征进行描述，并指出多媒体系统的重要特性，述，并指出多媒体系统的重要特性，最后介绍多媒体系统中的数据流特最后介绍多媒体系统中的数据流特征和逻辑数据单元征和逻辑数据单元(LDU, Logical (LDU, Logical Data Unit)Data Unit)。4 4 4 41.1.1 媒体的概念与分类l媒体的概念l媒体的类型感知媒体(The Perception Medium)表示媒体(The Representation Medium)表现媒体(The Presentation Medium)存储媒体(The Storage Medium)传输媒体(The Transmission Medium)信息交换媒体(The Information Exchange Medium) 一般说来，媒一般说来，媒体是一种信息发体是一种信息发布和表现的方法，布和表现的方法，如文本、图形、如文本、图形、语音、音乐等，语音、音乐等，也可以将水和空也可以将水和空气加入媒体范畴。气加入媒体范畴。 根据根据ISO IEC JTC1/SC29标准，标准，媒体可以划分成媒体可以划分成6种类型。种类型。 帮助人来感知帮助人来感知环境。环境。 要解决的主要要解决的主要问题是：人在计问题是：人在计算机环境中如何算机环境中如何感知信息感知信息?视、听视、听 用信息的计算用信息的计算机内部表示来机内部表示来刻画。刻画。要解决的主要要解决的主要问题是：计算问题是：计算机信息如何编机信息如何编码码?PCM, MPEG, 指信息输入指信息输入 / 输输出的工具和设备。出的工具和设备。要解决的问题是：要解决的问题是：信息通过何种媒信息通过何种媒体输入到计算机体输入到计算机中或从计算机中中或从计算机中输出输出?喇叭喇叭、摄像机摄像机 是指能支持信息存是指能支持信息存储的数据载体，数储的数据载体，数据存储并不局限于据存储并不局限于计算机的部件，例计算机的部件，例如，纸也是一种存如，纸也是一种存储媒体。储媒体。要解决的问题是：要解决的问题是：信息存储力：什么信息存储力：什么地力地力?缩微胶片缩微胶片、软盘软盘、CD-ROM 传输媒体用于传输媒体用于传输数据信息，传输数据信息，它们支持连续它们支持连续媒体的数据传媒体的数据传输，存储媒体输，存储媒体不属于传输媒不属于传输媒体的范围。体的范围。要解决的问题要解决的问题是：在什么上是：在什么上而传输信息而传输信息?网络网络、光纤光纤、无线通信无线通信信息交换媒体包括所有信息交换媒体包括所有用于传输和存储的信息用于传输和存储的信息载体。载体。要回答的主要问题是：要回答的主要问题是：在不同地点之间使用哪在不同地点之间使用哪种信息载体来进行信息种信息载体来进行信息交换交换?三个答案：三个答案：通过中间存通过中间存储媒体储媒体、使用计算机网使用计算机网络络、组合使用存储媒体组合使用存储媒体和传输媒体和传输媒体(如电子邮如电子邮件系统件系统)。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications5 5 5 5媒体的概念与分类(cont.)l表示值与描述空间(The Representation Values & Spaces)l表示维数(Representation Dimensions)u 表示值决定：不同媒体的信息表示不同媒体的信息表示。它可以是 离散型离散型离散型离散型(Discrete) (Discrete) 的，也可以是 连续型连续型连续型连续型 (Continuous)(Continuous)的。u 每种媒体定义了自己的表示值和表示空间u 某些表示值是自包含自包含 (self-contained)(self-contained)的，由接受者作适当的解释u 某些媒体需要预定义符号集，用户必须遵守u 媒体表示方法、手段的多样性，表示能力的差异性c 每个表示空间由一个或多个表示维组成。除空间维外，时间是一 个重要的表示维。c 根据时间在表示空间中的作用，由可以将媒体划分成独立于时间 的媒体与依赖于时间的媒体。c 时间依赖媒体、离散媒体和连续媒体这些术语与信息的计算机内 部表示无关，它们与观察者或聆听者的感觉有关。 如电影，它由 离散的数值组成，当它以15帧/秒显示时，人们就有连续感。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications6 6 6 61.1.2 多媒体系统的主要特征l多媒体系统的定义l多媒体系统的特点 媒体的组合(Combination of Media)注意：不是所有的媒体任意组合均可称之为“Multimedia”，我们所谈论的“多媒体”应该包含连续型媒体和离散型媒体 独立性(Independence)媒体的一个重要的特性是它的独立性。一般的应用也需要各种媒体具有一定的独立性，但是多媒体系统需要的是多个层次的独立性。 计算机支持的媒体集成(Computer-supported Integration)媒体的独立性使多种媒体的组合成为可能，而计算机是实现这种组合的理想工具(既有多媒体处理能力，又有二次开发的功能支持)。 通信系统(Communication Systems)多媒体系统必须具备通信能力(先今的计算机大部分是互联的、很多有趣的多媒体应用是专门为分布式计算环境而设计的)。 多媒体系统的特征是：用计算机对一些独立的多媒体系统的特征是：用计算机对一些独立的多媒体系统的特征是：用计算机对一些独立的多媒体系统的特征是：用计算机对一些独立的信息进行一体化的制作、处理、表现、存储和通信，信息进行一体化的制作、处理、表现、存储和通信，信息进行一体化的制作、处理、表现、存储和通信，信息进行一体化的制作、处理、表现、存储和通信，这些信息必须至少通过一种连续这些信息必须至少通过一种连续这些信息必须至少通过一种连续这些信息必须至少通过一种连续( ( ( (时间有关时间有关时间有关时间有关) ) ) )媒体和媒体和媒体和媒体和一种离散一种离散一种离散一种离散( ( ( (时间无关时间无关时间无关时间无关) ) ) )媒体进行编码。媒体进行编码。媒体进行编码。媒体进行编码。Multimedia SystemMultimedia System is characterized by computer-controlled, integrated is characterized by computer-controlled, integrated production, manipulation, presentation, storage and communication of production, manipulation, presentation, storage and communication of independent information, which is encoded at least through a continuous independent information, which is encoded at least through a continuous (time-dependent) and a discrete (time-independent) medium.(time-dependent) and a discrete (time-independent) medium.任何支持一种以上媒体的系统都可以称为多媒体系统 ？?!2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications7 7 7 71.1.3 多媒体的概念l 狭义的“多媒体”l 广义的“多媒体” 只要同时处理了多种媒体、就可以使用“多媒体”这个提法 ！多媒体系统必须包括连续媒体，同时为处多媒体系统必须包括连续媒体，同时为处理离散媒体，引入重要的时间边界条件理离散媒体，引入重要的时间边界条件( (通通过连续媒体过连续媒体) )，但这些条件直到现在才在计，但这些条件直到现在才在计算机中得到使用。算机中得到使用。Multimedia :Multimedia :Multi Multi MediumMedium Multi- : lat. : much many; much; multiple Medium : lat. : middle An intervening substance through which something is transmitted or carried on; A means of mass communication such as newspaper, magazine, or television. from American Heritage Electronic Dictionary, 1991 集成性 交互性同步性！2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications8 8 8 81.1.4 传统的数据流特性l在分布式多媒体通信系统中，信息的交换是伴随着连续媒体和离散媒体数据的传输产生的l传输媒体的信息类型的差异使得数据流间的特征差异很大l在计算机通信相交互领域中有三种传输模式 异步传输模式(ATM, Asynchronous Transmission Mode) 同步传输模式(STM, Synchronous Transmission Mode) 等时传输模式(ITM, Isochronous Transmission Mode)n信息的传送不受时间条件的约束，数据包总是尽可能快地被送达接收端；n例子：互联网上电了邮件的传输协议、以太网；n特点：所有离散媒体信息都可以作为异步数据流来传输，而传输连续媒体，则必须使用其他技术来提供时间约束。 等时传输模式对于每个包的端到端延时在规定一个最大值之外还规定一个最小值。这就意味着单个包的延时跳动被限定在了一个更小的范围内。 在这种模式下，上例子中的接收端所需缓存就大大减小了，当然还要把数据路由经过的从起点到终点间所有中间部件中的存储都考虑在内。 同步传输模式为数据流中的每个数据包规定了一个端到端的最大延时，包可以在早于这个最大延时的任意时刻到达接收端，但绝对不能超过这个最大延时，这样多媒体应用的一个重要要求-端到端(End-to-End)最大延时就得到了保证。 另外在支持同步传输模式的局域网上还可以进行音频信号传输。使用检索方式(Retrieval Mode)传送未压缩的视频数据的重要特征是具有较高的数据速率，相应也有较大的端到端延时。典型的数据速率是140Mb/s、最大延时1秒，所以在极端情况下，包可以提前1秒被送达，这样就需要一个缓冲存储来保存这些数据如果按上面的数据速率这个缓冲需要有17.5兆字节。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications9 9 9 91.1.5 连续媒体的数据流特性l传输中相邻数据包间的时间间隔如果相邻包之间的时间间隔是一个常量，那么这个数据流就是强周强周期性期性的，也就是说时间间隔的变化值为0如果两个相邻包之间的时间间隔长度不是常数(否则就是强周期数据流)。但可以用一个有固定周期的函数来描述，那么就称这种数据流为弱周期性弱周期性的以其他时间间隔形式传输的数据称为非周期非周期数据流2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications10101010连续媒体的数据流特性(cont.)l传输中相邻数据包数量的变化在数据流的生命周期中，数据包的大小没有改变，则称该数据流是强规则强规则的。未压缩数据的传的具有这种典型特征，例如以未压缩形式传输的视频数据流以及CD中的音频数据流。如果包的数据量随时间作周期性的变化，就称这种数据流为弱规则弱规则的。按以下压缩方法进行压缩的视频数据的数据流是弱规则的：对视频序列中的某些图像单独压缩编码，使之成为数据流中相对较大的包（不考虑网络对包长度的限制），并使这些包以一定的时间间隔(如2秒)在数据流中周期性地出现，而在这些时间间隔内传送的是图像的附加包，它包含两幅相邻压缩的图像间的差别。如果数据包的数据量既不恒定也不依某个周期函数变化，那么就称这个数据流为不规不规则则的，这种情况下的数据传输与处理就更为复杂。在对数据流进行压缩时，数据流有一个可变的位率，从单幅图像得来的单个包的大小取决于前一幅变化图像的内容。这样产生的信息单元的大小就与视频序列的内容有关，从而使得数据流变成不规则。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications11111111连续媒体的数据流特性(cont.)l包的连续性连续传输：所有的包都紧跟在前一个包后面传输，中间没有空隙，必要的附加倍息(如误差控制代码)也在其中，这样就100%地利用了系统资源。以这种连接方式传输的数据流可以获得最大的数据吞吐量并最大限度地利用系统资源。ISDN中传送音频信息的64kb/s的B通道采用的就是这种传输力式。首尾相接的数据包在传输时如果通道的容纳能力大于数据的输入速率，包与包之间就会出现空隙，如图2.8所示。这种在信息单元间有空隙的数据流称为非连续数据流，但空隙是否存在于所有的包之间以及空隙的长度是否变化并不重要。例如，经JPEG编码平均数据传输速率为1.2Mb/s的数据流，在FDDI网上传输时包之间会产生空隙。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications121212121.1.6 信息单元l连续媒体是由与时间有关的独立信息单元的序列构成的，我们称这样的信息单元为逻辑数据单元(LDU，Logical Data Unit)l例如： （1）举Joseph Hoydn的交响乐“The Bear”为例，它分为4个乐句：vivace assai，a11egretto和finate vivace。每一乐句都是整首交响乐中独立的一个部分、由各种乐器的演奏音符组成。在数字系统中，音符是用一系列的采样值来表示 的(这里不考虑压缩)。CD-DA质量的声音每秒有44l00次采样，每个采样值用16位编码。在CD上，这些采样值被组织成许多1/75秒的小单元，所以既可以把LDU看做整首交响曲，也可以把它看做独立的乐句、1/75秒的采样单元或者就是采样值，这取决于不同的应用需要。例如对于播放整首交响乐的应用，LDU就是整首交响曲。有些应用会把有意义的最小单元作为LDU(在这里是音符)，数字系统则把采样点看成LDU。（2）再举视频图像为例。未经压缩的视频序列由表示场景的视频片断组成如图2.9所示。一个场景是由一系列国像组成的，一幅图像又可以被划分为16l6像素的小块，而每个像素的信息又是由亮度值和色度值来表示的。因此，视频序列的LDU并不局限于是单幅图像，它可以是场景也可以是像素。使用DVI或MPEG编码方法可以用帧间压缩的方法消除视频序列的冗余，在这个应用中，能自我包含的有意义的最小单元是图像序列本身。 粒度粒度粒度粒度这个概念用来描述音频和视频数据流层这个概念用来描述音频和视频数据流层次划分的细密程度。在上述例子中，最常见次划分的细密程度。在上述例子中，最常见的名字也是最显而易见的信息单元是交响乐的名字也是最显而易见的信息单元是交响乐和影片，但也可根据时间长度做出其他类型和影片，但也可根据时间长度做出其他类型的的LDULDU划分。预先确定时间长度的划分。预先确定时间长度的LDULDU称为称为闭合闭合闭合闭合LDULDU。计算机中的音频采样数据流就是。计算机中的音频采样数据流就是闭合闭合LDULDU数据流。不能预先确定时间长度的数据流。不能预先确定时间长度的IDUIDU称为称为开放开放开放开放LDULDU，由摄像机或麦克风传向，由摄像机或麦克风传向计算机的数据流就是开放计算机的数据流就是开放LDULDU数据流。数据流。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications第二部分 多媒体计算机技术概述 概述多媒体计算机的定义、分类、现状及概述多媒体计算机的定义、分类、现状及发展趋势。发展趋势。 要点：要点： 1. 多媒体计算机的定义、分类和关键技术多媒体计算机的定义、分类和关键技术 2. 从多媒体计算机的分类看家电制造厂商研从多媒体计算机的分类看家电制造厂商研制的电视计算机，制的电视计算机， “灵巧灵巧”电视电视Smart TV 3. 从多媒体计算机的分类看计算机制造厂商从多媒体计算机的分类看计算机制造厂商研制的计算机电研制的计算机电 视，视，TV-Killer14141414主要讲述内容1.2.1 多媒体计算机的定义和关键技术1.2.2 多媒体技术促进了通讯、娱乐和计算机 的融合1.2.3 多媒体计算机技术的发展和应用2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications1.2.1 多媒体计算机的定义和关键技术 多媒体计算机技术定义多媒体计算机技术定义 多媒体计算机的分类多媒体计算机的分类 多媒体计算机的关键技术多媒体计算机的关键技术16161616多媒体计算机技术定义多媒体计算机技术 (Multimedia Computing)定义定义：计算机综合处理多种媒体信息(文本、图 形、图像、音频和视频)，使多种信息建 立逻辑连接，集成为一个系统并具有交 互性。 计算机综合处理声、文、图信息 具有集成性和交互性2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications17171717多媒体计算机的分类 从开发和生产厂商以及应用的角度出发可以分成两大类： 电视计算机电视计算机电视计算机电视计算机（Teleputer） 家电制造厂商研制的电视计算机，是把CPU放到家电中，通过编程控制管理电视机、音响，有人称它为“灵巧/智能”电视Smart TV； 计算机电视计算机电视计算机电视计算机电视（Compuvision） 计算机制造厂商研制的计算机电视，采用微处理器（8086、68）作为CPU，其它设备还有VGA卡、CD-ROM、音响设备以及扩展的多窗口系统，有人说它的发展方向是TV-Killer。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications18181818 节目流通过网络接口模块（NIM）进入核心处理芯片STB01X0； 在STB01X0中，解复用、解压缩、再NTSC/PAL编码； 得到的视频送到电视，得到的音频流经过D/A转换输出； 控制各存储器SDRAM(用于视音频缓存)，Flash/DRAM(用于系统处理)； 接收遥控器信号等的处理由Peripherals外设部分接收，STB01X0协调处理。 Red Wood III机顶盒平台2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications19191919 多媒体计算机的关键技术 要把一台普通的计算机变成多媒体计算机要解决的关键技术是： 视频音频信号获取技术； 多媒体数据压缩编码和解码技术； 视频音频数据的实时处理技术； 视频音频数据的输出技术。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications1.2.2 多媒体技术促进了通讯、娱乐和 计算机的融合 现代化社会人的工作方式和特点是：群体性、交互性分布性、协作性21212121TimeTimeUser ScaleUser ScaleControlControlSingle UserSingle UserMultiple UserMultiple User(Group)(Group)SynchronousSynchronousAsynchronousAsynchronousDistributedDistributedCentralizedCentralizedGroupGroupDecisionDecisionMakingMakingConference Room Conference Room MeetingMeetingFace-to-Face Face-to-Face MeetingMeetingGroup CSCWGroup CSCWDesktop Desktop TeleconferencingTeleconferencingTelephoneTelephoneTele-MentoringTele-MentoringElectronic MailElectronic MailBulletin BoardBulletin BoardCollaborative Collaborative Software Software DevelopmentDevelopmentCollaborative Collaborative Document EditingDocument EditingGroup Schedule Group Schedule ManagementManagement 多媒体协同计算的多维空间表示多媒体协同计算的多维空间表示2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications22222222多方协作的任务多方协作的任务- -活动模型活动模型合作层合作层合作项目任务层任务层任务网络活动层活动层活动序列CollaborationCollaborationT1T1T2T2T3T3T4T4T5T5A1A1A2A2A3A3A4A4A5A5A6A6A7A7A8A8CollaborationCollaborationCollaborationCollaboration2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications23232323多媒体通讯分类多媒体通讯分类1. 对称的全双工的多媒体通讯 如分布式多媒体信息系统、视频会议系统及计算机支持的协同工作系统；2. 非对称全双工的多媒体通讯系统 如交互式电视系统（ITV）、点播电视系统（VOD）、远程教育系统、远程医疗诊断系统及及远程图书馆。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications24242424 1. 多媒体数据压缩（越小越好）二、多媒体通讯的关键技术二、多媒体通讯的关键技术 2. 高速数据通讯问题（频带越宽越好） 尤其是视频会议系统要解决视频会议系统的国际标准问题。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications252525252003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications262626262003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications1.2.3 多媒体计算机技术的发展和应用 进一步完善计算机支持的协同工作进一步完善计算机支持的协同工作环境环境CSCW 智能多媒体技术智能多媒体技术 把多媒体信息实时处理和压缩编码把多媒体信息实时处理和压缩编码算法作到算法作到CPU芯芯 片中片中28282828分布式多媒体协同编著系统界面分布式多媒体协同编著系统界面私人编辑窗口权限控制窗口协同编辑窗口发言人视频图像2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications29292929智能多媒体技术计算机计算机人工智能人工智能中间地带中间地带中间地带中间地带用用交互式弥补计算机智能的不足交互式弥补计算机智能的不足智能多媒体数据库的核心技术： 将具有推理功能的知识库与多媒体数据库结合起来，形成智能多媒体数据库。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications30303030Content-based Retrieval猜！猜！猜！猜！猜！猜！ 猜！猜！2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications31313131多媒体计算机硬件 从目前的发展趋势看可以把这种芯片分成两类： 1. 以多媒体和通信功能为主，融合 原有的计算功能。 2. 以通用CPU计算功能为主，融合 多媒体和通信功能。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications32323232Mpact 多媒体处理器功能图2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications33333333Intel MMX的核心技术lMMX技术提供了面向多媒体和通信应用的新特性，新特性如下：c增加了新的数据类型；把较小的数据元素的数据类型合并到一个寄存器中；c扩充了饱和型运算方式：定点运算时上溢下溢不中断，保持最大最小值；c扩充的57条新的指令：扩充的MMX指令系统采用SIMD形式完成寄存器中所有数据元素的并行操作；c与I A结构的全兼容性：八个64位MMX寄存贮组可映射到IA结构的浮点寄存器中。2003.92003.9Multimedia: Computing, Communications & ApplicationsMultimedia: Computing, Communications & Applications