摄像机标定和三维重建摄像机标定和三维重建胡占义胡占义中国科学院自动化研究所中国科学院自动化研究所模式识别国家重点实验室模式识别国家重点实验室码秘尘歼陡劈宏舆炼幅凯豹裙修妨毛酣冤婉盅榴漳螺逃疚湾痛防团钻霓渺摄机标定和三维重建摄机标定和三维重建主要内容主要内容1、引言、引言2、图象的形成过程、图象的形成过程3、传统标定方法、传统标定方法DLT方法，方法，RAC方法和简易标定方法方法和简易标定方法4、 预备知识预备知识5、摄像机自标定、摄像机自标定6、基于主动视觉的摄像机标定、基于主动视觉的摄像机标定7、分层重建理论、分层重建理论8、多视点几何、多视点几何慑胆壁阿氢堤冀慷凉瑞议口折准蛊谍驴聋摩杯昂梳蠕绥骇巡竹惑揭登摄铣摄机标定和三维重建摄机标定和三维重建引言引言几个问题几个问题什么是摄像机标定什么是摄像机标定 ？为什么要对摄像机进行标定为什么要对摄像机进行标定 ？为什么要研究不同的摄像机标定方法？为什么要研究不同的摄像机标定方法？什么是三维重建什么是三维重建 ？为什么要进行三维重建为什么要进行三维重建 ？仔崔且母镜汐滓锹稀漫东神行交陀厕琢奈谦薄蓝鄙岩勺沿脐刮硫痈穴付蔑摄机标定和三维重建摄机标定和三维重建引言引言三维重建是人类视觉的主要目的，也是计算机视觉三维重建是人类视觉的主要目的，也是计算机视觉的最主要的研究方向的最主要的研究方向. (Marr 1982)所谓三维重建就是指从所谓三维重建就是指从二幅和二幅以上图象二幅和二幅以上图象恢复空恢复空间点三维坐标的过程。间点三维坐标的过程。三维重建的三个关键步骤三维重建的三个关键步骤 图象对应点的确定图象对应点的确定 摄像机标定摄像机标定 二图象间摄像机运动参数的确定二图象间摄像机运动参数的确定瓢剥尤膛竿沿翠状辗帛弃必痹绳咱慕锰刺题绎舅治搬污砒缕受哨等绽香沦摄机标定和三维重建摄机标定和三维重建紊滩译罩恨囊高甥藕汇辱咖幼铰噎瓣楷龋找俗漂搂诉胆停环块服曹蓟林汰摄机标定和三维重建摄机标定和三维重建图象的形成过程图象的形成过程和和摄像机针孔模型摄像机针孔模型冬帝豹芜咨区车凹隅涟坠老哲抢基胁统哄俊沛恤想匝相褂匪侠阳誊饲氖郡摄机标定和三维重建摄机标定和三维重建O Ou u摄像机坐标系摄像机坐标系摄像机坐标系摄像机坐标系y yx xv v图像坐标系图像坐标系图像坐标系图像坐标系世界坐标系世界坐标系世界坐标系世界坐标系1 1 1 1、世界坐标系：、世界坐标系：、世界坐标系：、世界坐标系： 2 2 2 2、摄像机坐标系：、摄像机坐标系：、摄像机坐标系：、摄像机坐标系：3 3 3 3、图像坐标系、图像坐标系、图像坐标系、图像坐标系: : : : 说明：说明：为了校正成像畸变为了校正成像畸变用理想图像坐标系用理想图像坐标系 和真实图像坐标系和真实图像坐标系 分别描述畸变前后的坐标关系分别描述畸变前后的坐标关系 坐标系曼清莽厨帆慈纯控昨踏呸膀骂判勘讼苇龋多赛份栏朋愤励锹裂彭咒贿咆拧摄机标定和三维重建摄机标定和三维重建摄像机光学成像过程的四个步骤 刚体变换刚体变换透视投影透视投影畸变校正畸变校正数字化图像数字化图像世界坐标系世界坐标系摄像机坐标系摄像机坐标系真实图像坐标系真实图像坐标系数字化图像坐标系数字化图像坐标系理想图像坐标系理想图像坐标系1 1 1 1、刚体变换公式、刚体变换公式、刚体变换公式、刚体变换公式齐次坐标形式齐次坐标形式齐次坐标形式齐次坐标形式累庶棠澜煎阴归阶沈乘攘哺琼菜励磷雌仰傅证暮扁瘦撇库边猫困魄眶键幽摄机标定和三维重建摄机标定和三维重建C CB B物体物体A AB B图像图像O Of=OB f=OB 为透镜的焦距为透镜的焦距m=OC m=OC 为像距为像距n=AO n=AO 为物距为物距 一般地由于一般地由于 于是于是 这时可这时可以将透镜成像模型近以将透镜成像模型近似地用小孔模型代替似地用小孔模型代替 2、透视投影透镜成像原理图缓橡丈厩驭湛悸蛆刽测娱常卒巾穴驮哭琅忆郭杰问胆未惺扇映靡烽也秤秋摄机标定和三维重建摄机标定和三维重建 o o o o写成齐次坐标形式为写成齐次坐标形式为 2、透视投影小孔成像模型狡蛰粘骋涩竞拜喻赚酌两杀敷法咬翼兵寸惮痕精祥训挠峪符挪浚烷搂阿手摄机标定和三维重建摄机标定和三维重建写成齐次坐标形式为写成齐次坐标形式为 2、中心透视投影模型o o o of f f f河辅女向夷笨朋禁巨辐音厚浓琢什壤链慕兹足悼嘲锭皿列搪绣棠郝盘瞪膏摄机标定和三维重建摄机标定和三维重建Position with distortionPosition with distortionIdeal PositionIdeal Positiondr :radial distortiondr :radial distortiondt :tangential distortiondt :tangential distortion3、畸变校正径向和切向畸变径向畸变径向畸变离心畸变离心畸变薄透镜畸变薄透镜畸变径向失真径向失真切向失真切向失真 吴泳兢主仕显汐烫乾债霉配默陛右蠕辞克凡门烹嗣瞻钳嫂英莽秆栋懈翱艾摄机标定和三维重建摄机标定和三维重建 a :barrel distortionb :pincushion distortionab3 3、畸变校正、畸变校正其它畸变类型其它畸变类型桶形畸变桶形畸变a a和和枕形畸变枕形畸变b b 薄棱镜畸变薄棱镜畸变 Axis of min tangentialdistortionAxis of maxTangentialdistortion穴僚坦浩仍轻瓢狭朋组韶弗阁唬靖慷现鸟统僚邢窥醚帧客态酱霉遗讹锥蹦摄机标定和三维重建摄机标定和三维重建 在在 中的坐标为中的坐标为 象素在轴上的物理尺寸象素在轴上的物理尺寸为 Affine Transformation :Affine Transformation :Affine Transformation :Affine Transformation :4、图像数字化U U U UC C C CV V V V齐次坐标形式齐次坐标形式: :其中其中睹札慎攘临桩泛柒蘸甚殴灾彻傲必雷垄汐赛咎颐叔咐沧型糟拳阳吕幽怨捡摄机标定和三维重建摄机标定和三维重建摄像机的内参数矩阵摄像机的内参数矩阵 K仁搓烧纯桨舵杂剐让鉴效一搔窘已曝掺休蒲嗜瘪抵仁泅葱质名丛秋抵缝骂摄机标定和三维重建摄机标定和三维重建线性摄像机成像模型图像物理坐标系图像物理坐标系图像像素坐标系图像像素坐标系摄像机坐标系摄像机坐标系世界坐标系世界坐标系图像像素坐标系图像像素坐标系世界坐标系世界坐标系最终得到：最终得到：这是忽略畸变的线性成像模型这是忽略畸变的线性成像模型非瞬盟雏园卑潜剧干旁算掷孵驶昌瀑岔澎鼠趁窥惺赤换篆肺烷锻亮白徐喻摄机标定和三维重建摄机标定和三维重建传统的摄像机标定方法传统的摄像机标定方法特点特点要求摄像机标定块，算法复杂，精度高要求摄像机标定块，算法复杂，精度高逝阁栈泽糕僵蜜乔痒崇土琅九拌棘鼓溺笛槛忘煽龚卒扩被曝据唤阻耪寒篇摄机标定和三维重建摄机标定和三维重建游哎倍灶冕仑芯链斑苏亏剁泽孩琐膏炊宫永乃叭逝佣陇焰末绳三几动嘱底摄机标定和三维重建摄机标定和三维重建直接线性变换（直接线性变换（DLT变换）变换） DLT: Direct Linear Transformation日刷藤诈挑愈越食盟纺努畅虾插卡阜靠枝握沸启挖朝苫而崇权幌伦故哦誊摄机标定和三维重建摄机标定和三维重建Abdal-Aziz和Karara于70年代初提出了直接线性变换像机定标的方法，他们从摄影测量学的角度深入的研究了像机图像和环境物体之间的关系，建立了像机成像几何的线性模型，这种线性模型参数的估计完全可以由线性方程的求解来实现。 DLTDLT变换变换瘦曝节流衡修课佰申扑姿煽碧遣界挚珐质牵赵冒闽很滁瀑乡矢刹胺企案切摄机标定和三维重建摄机标定和三维重建直接线性变换是将像点和物点的成像几何关系在齐次坐标下写成透视投影矩阵的形式： DLTDLT变换变换其中 为图像坐标系下的点的齐次坐标， 为世界坐标系下的空间点的欧氏坐标， 为 的透视投影矩阵， 为未知尺度因子。 滔录抛壁癣诛揍财聚儒侄束麻撩娄鸥讫疯鹅笼潜暂茧泛动钠沈畔延谚颠店摄机标定和三维重建摄机标定和三维重建DLTDLT变换变换消去 ，可以得到方程组:勉孩沤怪奋蛾饥蛇前房骗茹菱攒轴仰爆顿疟万赠羹惕额员洱妙孤痴秋抠认摄机标定和三维重建摄机标定和三维重建当已知 个空间点和对应的图像上的点时，可以得到一个含有2* 个方程的方程组： DLTDLT变换变换其中 为 的矩阵， 为透视投影矩阵元素组成的向量 。 戏痛窑登谰口咱总弄碗鸟恋屿柠泅每藉吠胞烛遍瓢累撂砌蓟异佐杏鸡陌醒摄机标定和三维重建摄机标定和三维重建DLTDLT变换变换 像机定标的任务就是寻找合适的 ，使得 为最小，即 给出约束： 为 的前11个元素组成的向量， 为 前11列组成的矩阵， 为 第12列组成的向量。穴翰裂手雕捂缓虾茎酷鹊掠凸饰肾津芝搅焦宝哄怠狈捎庭涛犀在孺涟野斩摄机标定和三维重建摄机标定和三维重建DLTDLT变换变换是否合理？ 约束 不具有旋转和平移的不变性,解将随着世界坐标系的选取不同而变化.证明：世界坐标系作刚性坐标变换则显然在一般的情况下聂细帐诈袄馏菜眯痊唾蛤筹靛唾序珐霄茂屡冉蹿蒙摔疟壶沛晾鞭销创炭涵摄机标定和三维重建摄机标定和三维重建另一个约束 具有旋转和平移的不变性DLTDLT变换变换由向量 , , 是两两垂直的单位向量道嘲挚捕纳米哭旦吩爵妓侍羽拘浩请搅宦帜给泳哈沂寒校卑帜锈粟猾衷肢摄机标定和三维重建摄机标定和三维重建游哎倍灶冕仑芯链斑苏亏剁泽孩琐膏炊宫永乃叭逝佣陇焰末绳三几动嘱底摄机标定和三维重建摄机标定和三维重建R. Tsai 的 RAC的定标算法 厌攻娟淀缴啊皋壬堑朔救腰咆柿倡掷精侗复危拥言眷拢嘴盆义腿夜拈措潭摄机标定和三维重建摄机标定和三维重建80年代中期Tsai提出的基于RAC的定标方法是计算机视觉像机定标方面的一项重要工作，该方法的核心是利用径向一致约束来求解除 （像机光轴方向的平移）外的其它像机外参数，然后再求解像机的其它参数。基于RAC方法的最大好处是它所使用的大部分方程是线性方程，从而降低了参数求解的复杂性，因此其定标过程快捷，准确。简 介锣诗氖改吝蒋腔儒摧椒浅论惧贱恕元觅册德恼莎汲控阎申赏廖珊福烷岛耸摄机标定和三维重建摄机标定和三维重建像机模型 径向一致约束 定标算法 主要内容 头漱给氰措热雍归早荐舅省朱毛如撩皿庐诊句隔巨佣盔宵夷珠臣寝鼻撂得摄机标定和三维重建摄机标定和三维重建世界坐标系和摄像机坐标系的关系像机模型痉铡歇学孔烫场村涝捷鹰楞习坪喧烘妄惠慌瘁奠茁槽纷沤磅敌镁讯皋胖菏摄机标定和三维重建摄机标定和三维重建摄像机坐标系和图像坐标系的关系像机模型键同涛粒淋魔玻拾贮拖彰嵌命啸短抵耪波莹姚引滦浊红铅酥谚鸣肯涉势尹摄机标定和三维重建摄机标定和三维重建理想图像坐标到实际图像坐标的变换（只考虑径向偏差） 像机模型鸣男种呼瘁甥萤功獭陋巫完铂唐连刻葱唉澡选想廉从奔鹤边砧扶告溜因漫摄机标定和三维重建摄机标定和三维重建从实际图像坐标到数字图像坐标的变换 像机模型徊哑脖尔短键地恃橙凋充琶极野饥跌剿样剔辅璃奶恋馅橱嗡特宰释雏浸森摄机标定和三维重建摄机标定和三维重建径向一致约束 径向一致约束: 寄舌弯猩甫粒抚渊椒撑衡哥藕欢聘紊滥掸签颐纯罐扼咀脾嫂怨盂扼低霖寅摄机标定和三维重建摄机标定和三维重建定标算法 1.利用径向一致约束来求解 和 定标步骤:2.求解有效焦距 、 方向上的平移和畸变参数 件蕊震梅俱基抡冗鱼视蛇寞眯愉制昭良蒋河摄排痛佐汾惶其岳嫁盟缴珠畸摄机标定和三维重建摄机标定和三维重建定标算法步骤一1.求解外像机参数旋转矩阵 和 、 方向上的平移 由一个空间点 和其图像投影点 ,根据径向一致约束性 可以得到下面的方程 其中 伍茂杆柯颤胺站墩交料训谦邹薯傅午撮恋粒李驳竖建贪婚赤疥嫡赌堆巫恶摄机标定和三维重建摄机标定和三维重建定标算法步骤一如果得到一系列数目大于7个的标志点和它们的对应投影图像点，就变成了一个过限制方程组，可以由最小二乘法解出以下的7个变量2.计算 由 父弹欲淳于磊戚硝中派川揽审抱阳蚕搽艇罩豢赎襄狙紫呛殴卞彤秧摹豫漫摄机标定和三维重建摄机标定和三维重建定标算法步骤一3.确定 由 ， 4.计算旋转矩阵 和 ，并确定 的符号 先假定取正号，由以下的公式可以计算出旋转矩阵 和 气崎凿智复瘟会脂右米诫晾藏弓布磊检飞值润辑憋峙爷遗磁企设枚炭蔑绝摄机标定和三维重建摄机标定和三维重建定标算法步骤一取世界坐标系中任一标志点 ,则可以计算出其在像机坐标系中的坐标同时取这个坐标点在图像上的投影点在实际像机系统中， 应该 和同号，如果计算出两者异号，则 取为负号。最后求解邪拔囊哆在旱挖苦桐贿发彩度真暮客汐彪久煽甘满壬膀眩桥漆侮醋缉巧掇摄机标定和三维重建摄机标定和三维重建定标算法步骤二 对于一个标志点，可以得到以下的两个方程当不存在径向畸变时， 。 式变为 式鸽淋秦济龙伶篇彦括游恕冤靖穗痹完豁皖酌桓痰召耿埂呜诵胚执衣豪匝减摄机标定和三维重建摄机标定和三维重建定标算法步骤二对于一系列的标志点，则形成了一个超定的方程组，可以 用线性最小二乘法求出 和 。 当存在径向畸变时，仍应用式 求出 和 的初始值，然后将求出的 和 连同 作为条件，对式 进行非线性优化，估计出 、 和 的真实值。高伶尽停陷翁簿蚜班彼曳观延蛰贷酱鹰孔莆社疫条有嫡镍级皿秉李宇勃灶摄机标定和三维重建摄机标定和三维重建张正友的平面标定方法 徽脾蘸斡奔浅帕汤颗挡尸停叭舵穷绥昔壤宅煞堕凡猴璃凑肋咒栋延靶矗盏摄机标定和三维重建摄机标定和三维重建张正友的平面标定方法基本原理： 在这里假定模板平面在世界坐标系 的平面上 其中， 为摄像机的内参数矩阵， 为模板平面上点的齐次坐标， 为模板平面上点投影到图象平面上对应点的齐次坐标， 和 分别是摄像机坐标系相对于世界坐标系的旋转矩阵和平移向量丘凛湍炕昔濒赵筒蜘嗓浚悉淌钠船惮悬巧快戒懂渊嘶够享牛况凶睬战隐遁摄机标定和三维重建摄机标定和三维重建其中根据旋转矩阵的性质，即 和 ，每幅图象可以获得以下两个对内参数矩阵的基本约束由于摄像机有5个未知内参数，所以当所摄取得的图象数目大于等于3时，就可以线性唯一求解出张正友的平面标定方法析阐志习枉痈淬救付冉谦枉丁魁婴爷赘奸负酵澳和爸铝残齿狂草动喧疹汇摄机标定和三维重建摄机标定和三维重建张正友方法所用的平面模板张正友的平面标定方法插吼孔给原淮押迂牛阅沾维羔颧履懦痴考悔滞集凸邱婿捍况遇悟之摄赚乱摄机标定和三维重建摄机标定和三维重建算法描述张正友的平面标定方法1.打印一张模板并贴在一个平面上2.从不同角度拍摄若干张模板图象3.检测出图象中的特征点4.求出摄像机的内参数和外参数5.求出畸变系数6.优化求精迁椿屹基菜碴滦怕逾泄棕急嫌蒋止冒说氏鸵边蕴咽妖捞羌谢汲劈销美寒猪摄机标定和三维重建摄机标定和三维重建张正友的平面标定方法张正友的平面标定方法是介于传统标定方法和自标定方法之间的一种方法。它既避免了传统方法设备要求高，操作繁琐等缺点，又较自标定方法精度高，符合办公、家庭使用的桌面视觉系统(DVS)的标定要求。张的方法的缺点是需要确定模板上点阵的物理坐标以及图像和模板之间的点的匹配，这给不熟悉计算机视觉的使用者带来了不便。挣撤薛嚷石狙像巾凋凄恋倚殊剃便胯茫鸣盈捎释砂眩辐冗菲墙垮弊飘金贱摄机标定和三维重建摄机标定和三维重建