技术领域
本发明涉及一种新的安全测量装置,该装置通过非接触式、高精度、宽视 场的非结构化活性光投射的光色效果投射实现,尤其适用于牙科领域。
本发明确保了获取人体结构图像的完整性,并具有1微米范围内的精度。 适用于医疗和牙科领域获取口腔内的图片,也适用于作为诊断的辅助手段。
其包括:
1.一种小型三维读取系统,该系统没有使用活性光投影或结构光投影来测 量组成物的尺寸,包括:
a)一个或多个CCD-型或CMOS型电子传感器以及相关光学系统,
b)最后,具有一个或几个波长的一个LED或OLED照明光源,诊断牙齿 或牙龈表面的病症,
c)一个或多个加速器/陀螺仪/3D-磁力计用于辅助、限定、甚至更换一个或 多个传感器。
2.一个用于模拟/数字数据转换和数据管理的中央处理单元,
3.相关软件实时地实现三维空间分析,用时间分析法分析所述被测物体的 运动,用比色分析法分析所述被测物体的被三维测量的表面的实时相关的颜 色,通过精心挑选的LED/OLED光辐射的全面性或选择性的渗透辅助诊断,
4.一个IKM通讯“硬件”和“软件”装置(屏幕,键盘,调制解调器..)
本发明旨在解决系统3D光学记录效果中面临的基本问题,它提供了用于牙 科的真实色彩和实时信息。测量的对象没有投射任何结构化活性光,位于照相 机前透镜10mm以内的牙齿,在景深不小于15毫米,表面不小于20×30毫米 的情况下,测量精度至少为10-15μm。
背景技术
目前已经存在大量用于获取口腔的光学影像的方法、制造假肢模型的方法 或诊断方法。
术语“影像”由该项技术的发明者Francois Duert于1973年在他第二周期 (周期No.273)标题为“影像”的论文中第一次提出,通过非接触式光学手段 (实现)三维测量和诊断分析口腔和医药环境,用复制或探测取代了传统的曝 光方法。
在牙科领域,Duert博士的作品中描述了这些技术,他的多篇文章和专利dd. May9,1980(FR80.10967or US4,663,720and4,742,464),April14, 1982(),November30,1982,March27,1984(),February13,1987()or also June 26,1992(FR92.08128or PCT WO94/00074)自80年代初就已得到许多学者的 支持,这些技术已经应用于多个领域,总结如下:
1.该技术使用活性或结构化光源投射。
这些系统使用的最简单的方法包括投射到对象上的光是结构化的,它可能 是一个点,一条线,甚至是完整的网格。光源的扫描对象后面是一个或几个CCD 或CMOS的2D相机,相机定位在相对于所述光投影轴线3度到10度范围内对 对象进行拍摄。
几十年来,这些技术已被广泛公知,并在G Hausler and Col的文章中做过 很好地描述。
在Appl.Opt.27(1988)发表的具有大景深和高分辨率的光切法,一直是众 多领域的发展目标,尤其是在牙科实验室用桌面扫描仪的应用研究中。
一个更复杂的方法在于投影到牙齿上的结构化活性光采用的是一种变间距 网格的形式。
用于这种条纹投影的最基本的技术首次由M.和C.做过介绍,
自题目为“数字立体照相机”SPIE《机器感知》第2833-D(1981)出版以 来,得到了包括M和C在内的其他学者的支持。
《三维漫反射对象的自动相位测量》中所述的具体做法是投影一系列变间 距的网格。
具有更宽间距的网格用于提供一般信息和z轴的全局字线,即精炼读数的 准确性最好的一条线
所有这些著作和发明有了许多实施例,且全国有二十多个商业可用系统(F. Duret,the dental floss No.63,May2011,”CAD CAM在科隆IDS的重大探索, 14-26。)
例如使用点扫描的系统(Cera系统来自剑桥能源研究协会,GN1来自GC 和尼康),或线扫描系统(即一个变间距帧扫描系统),系统速度都非常慢, 所以不能在口腔中使用。
患者或操作者轻微的动作都会干扰到数据的读取和图片从一个2D剖面显 示转换成三维图像,而且,对于需要一系列不同方向读数的数据线之间却没有 任何信息,每颗牙齿需要长达4分钟的时间才能完成读数。
最后,目前为了更容易地确定投影条纹的空间位置,采用了色度轮廓测定技 术,
色度轮廓测定技术使用了不同颜色的条纹,并已被Cohen F2758076描述为 轮廓,且被市场命名为pro50(Cynovad-Canada)
为了实现口腔数据的读取,已有了更快的系统,第一个叫做Duret的系统已 经在法国销售,并应用了专利(FR82.06707或US4,611,288)和(FR82.20349或 US5,092,022)中所述的圆锥投影相位系统。
在Moexmann和Brandestini的专利575,805或4,837,732或在1989年的书 籍《处理“切雷克计算机重建模具”》中所介绍的技术取得了非常成功的运用。 在1996年的“CAD/CIM的美容牙科”或在2006年的“国家CAD/CIM恢复艺 术”或在1999年的(相关)专利中,我们可以看到该方法已逐步得到完善,
这是一个活性结构化光投影技术,采用依据小幅相位平移或锥形辐射的框 架投影形式投射到牙齿表面,并采集一系列的二维图像(在100毫秒时间内)。 第三维上可以发现,在录制连续图像的时候,病人和相机是完全静止的,(这) 导致临床操作依然困难,尤其是在照相机的光电部件是移动的时候。
其他稍有不同的系统,已经用于口腔内的结构化活性投影的有:
最简单的一种是法国专利FR84.05173中描述的“oralmettix”,它采用单 一类型网格投射的形式投影到牙齿表面。
因此,这是一种与结构光单一投影相关的主动式三角测量。
用单台相机读取变形的网格(的信息),与存储网格相比,由它派生的距离 z,以每秒6张的速度采集与变形网格的二维视图相关的图像,使系统在整个影 像录制过程中既不准确也不稳定。
第二个系统是来自美国埃尔斯公司的“direct scan”,它结合了条纹投影和 相位关系,这种方法需要两个步骤:
依次投影到两个系列的具有不同间距的正交网格上,然后根据点的位置得 到图片,这些点高度与CCD的像素相同。
第三个是de公司的iTeo系统,iTero系统,Cadent(us.0109959)遵循“并行 共焦图像”规则,即有许多50微米的激光点以不同景深进行投射。
目标扫描区域具有沿着轴线记录图像和录影像的优势,但需要大约300毫 秒的时间。且设备在影像的录制过程中必须不能移动。此外,由于该技术的复 杂性,且iTeo系统尤其的繁琐,限制了系统进入口腔内记录图像的深度。
第四个系统已由G.在US2010.0303341中提出。该系统中不同方向的结构性 光栅被投射到牙弓上。这使得可以通过第一和下一个变形网格之间的相关性能 立刻寻找到第三个维度。
这种方法只能记录一个图像,但具有只能测量变形网格的点而不能测量对 象本身具有的所有的点的缺点。
在这些基于主动和结构光投影的方法中,我们通过得到的一些2D图像可以 重建分析对象的三维模型。
在投射光精细校准和移动的人体器官在测量过程中一直保持静止的情况 下,上述方法的测量结果才会精确。
遗憾的是,上述方法没有一个测量对象本身的所有点,而仅仅测量投射光 变形的点,
这就限制了测量点的数量,并且可能会遗漏掉精确重建所需要的三维表面 分析的重要的区域。
而且,它经常需要将被测量对象涂上白色涂层,或者在模型测量时使用专 用的膏药。
实际上,牙齿表面的镜面反射是非常灵敏的,并能根据自身的颜色以不同 的方式来回应结构光投射。
测量的准确度方面也是一个主要的缺点。因为结构化活性光的功率(较大), 会穿过牙齿表层,导致了外表面准确性判定的不精确性。
这些装置的校准是复杂,而安装非常复杂和昂贵。
最后,由于投影角度与图像的角度通常是不同的,阴影效应可能会导致未 编码阴影区域的存在,这将会需要更多的操控。还应当注意的是,对于在扫描 线之间的区域我们得不到任何信息。
有些系统试图限制结构光的投影而不是将其移除。
为此,(这些系统)将一个非常小的投影部分与传统的2D立体视觉相关联。
(有系统)使用两个相同的相机在物体上投射一个具有变化形态的线路或目 标,并且在扫描整个物体表面期间移动这两个相机。
这两个2D相机形成常规的立体装置,且由于投影的目标在两幅图像中是可 见的,这两台相机的信息都是相关联的。被命名为“T-scan3传感器“的系统, 来自于Steinbichler opt.或者说由Uneo.发明。这些方法和上面所描述的方法一样 具有相同的缺点,除了缺乏精度外,还特别要求预测目标总是可见的,这在高 度镜面或均匀表面,如在牙齿表面存在困难,所以绝不能应用于牙科,
2、不使用活性或结构光投影的技术。
D.Rekow第一个提议使用立体口腔系统,在这个系统中,需要进行一些信 息采集,即先在牙齿上固定一个参考点,然后由柯达装置来读取这些帧。
传统的被熟知的stereoscopic方法,用起来不准确且耗费时间,这种方法最 近被DENZEN在美国专利US2009.0227875(sandy-usa)和Steinbichler光学公司在 欧洲专利EP2,166,303(N-G)提出,但没有对由REKOW提出的老系统上做任何 改进。
特别是景深的分辨率、基准点和准确性的判定,在口腔内记录近于立体的图 像的过程中是一个关键问题,且没有得到解决。将物体放置在镜头前5毫米内, 如果想达到在20mm的景深时有20微米的精度,这样的系统是不能在口腔内使 用的。
使用了动态三维技术的系统也有同样的效果。
例如,C.Tomsi和Col.在文章《Shape and motion from image streams under Orthography:a Method》dans Int.J.of Computer Vision9(2)1992.中(提到的系统), 该系统不再采用如前面所述的活性光源,但是只有由传统立体视法测量的被动 照明区域,传统立体视法由具有相同分辨率的两个照相机组成。
不幸的是,如作者所述的常规情况下,没有投射目标的图片导致大量区域 没有编码使得本系统不可能在牙齿上使用,这个系统并没有解决Rekow所提出 的问题。
这就是为什么最近由Active Wavefront Semplin制作的系统在2008年就已被 引入市场,该系统基于Biris系统,使用了它的Lava Cos相机的3M技术。相关 技术的描述可见Rohaly and Co.所有的美国专利USP7,372,642。
本系统采用单一视图扫描,由于设有转盘,该对象的一个非常小的部分, 通过直径的位置在焦平面上的视图以及焦距相对于光轴的安装位置的机械变 化,可以知道在小景深状态下测量的小区域的空间位置。
不幸的是,该系统的实施是复杂和昂贵的,且其扫描的区域非常小,这要 求操作者慢慢地移过所有区域进行测量。
无论它们是实验室系统或已经在临床中应用于口腔内的相机,包括我们开 发的,这些系统都不具备为获取用于修复牙齿或诊断的高品质信息的特质,更 深入的分析表明,相机系统使用的原理中有几个非常严重的缺点,这些缺点是 不可避免的,因为它们与这些方法的选择有关联。。
a.所有这些系统中,是否用在口腔中,在皮肤上或在实验室中模型上使用 机械法、光学或电光学方法进行表面扫描。虽然这个条纹或帧的扫描速度非常 快,事实上是它需要相机本身的移动,而相机的运动可能会导致模糊区域或寄 生运动,这往往会导致图像的部分缺失。
b.这种扫描显著限制了在肉眼可见画面内已经大量减少过的景深。
c.测量对象表面的点不会被测量,但对象表面上变形的投射光该是测定的。 第一就要求开发以覆盖牙齿的被称为“涂层”的白层,原则上,使用涂层会降 低对象的实际测量值。这事实上在口腔内相机系统的应用中经常降低测量精度 并引起不便,详见文献(Beuttel,J Int.J.Computerized Dent.19981:35~39)。
此外,如果我们不希望有任何的穿透的话,这个涂层一般是必须要有的, 因而在测量齿面准确位置时存在精度问题,在有足够的信号噪声比的情况下, 结晶性器官有优势。
d.这导致了一些厂商采用辐射,使牙齿不透明,就像蓝光或紫外线,这就是 为什么本发明人在1985年向ADF提出使用氩激光,因为可以限制用户,甚至 对患者的风险。
e.甚至更多,不对需要测量的对象进行测定,而是测定变形的投射光,无论 是一个点,一条线,一个具有不同形状的帧或该投射光的相位。这样做失去了 实时获得被测对象的色彩、色度和测量结果之间的精确匹配的可能性。在实时 测量时,我们能够获得的唯一的色彩是投射光的色彩。
f.如果组件失灵,是没有快速的解决方案允许外科医生继续外科手术的。这 对牙科手术过程是十分重要的。
g.用于牙科诊断时,从3D读取转换到2D彩色读取是完全不可行的,因为 我们只能恢复表示条纹的光的单色图像。最后,基于轮廓测定或者扫描技术的 分析技术需要记录一个点的多个图像来获取第三个维度。这可能引发多张图像 的数据之间发生错位,进而导致正确性和准确性上的重大错误。这种“移动” 是这类技术的天敌。
最后,如果牙齿可以被测量,大多数情况下,是对投射光进行测量,而不 是对牙齿本身进行测量。在没有使用投射光的情况下,我们必须使用复杂而昂 贵的散焦系统。这就解释了提案费用巨大的原因。作为唯一一项被提出来几十 年的三维系统,由于缺乏革新,因而不够准确,处理耗时且复杂,实施起来非 常昂贵。在以上提到的所有安全方案以及其他简单方案都不能满足牙科照相测 量的要求,牙科照相测量要求实施快速、高精度且要在一个相当大的表面上测 量真彩和景深。
发明内容
本发明的目的是提供一种新的且高度安全的立体成像方法来解决前述的缺 陷,结合根据目标应用测量相应的景深、以及几乎实时的真实3D或者2D彩色 成像,实现口腔内扫描和快速甚至瞬间的动态3D扫描。所有这些最终能实现高 精度的数字化,数据存储和转换,而且不需要使用结构化活性光或者额外的牙 齿涂层。
本发明中用于牙科领域的三维测量装置定位于非活性或者结构化光投影环 境下的测量,包括图像拍摄装置以及对图像进行数据处理的数据处理装置,其 特征在于:所述的图像拍摄装置同时或几乎同时拍摄至少两张图像,其中一张 图像全部或者部分被包含在另一张图像。被包含的图像描述的区域要窄于另外 一张,但是相对地具有较高的精度。本发明解决了前述的问题,通过提供一种 可以在所有牙科和医药办公室适用的、不昂贵的设备。也可以用作假牙实验室 中简易的且便于病人使用的手持设备。
特别指出,提到的很多前述问题都被解决了:
1)通过对于传统牙科体视力术的新的和原创性的组织,我们将对应于两个光 轴之间不同的两个图像间的盲区做了限定,这个对于拍摄时靠近装置前端镜头 的物体至关重要,而口腔中的牙齿总是如此。
2)通过使用原创软件处理技术,在临床手术过程出现一个传感器失效的时 候,可以仅用一个传感器获取三维立体成像。用于口腔手术,这个方案简单, 廉价且不太笨重。
3)最后增加加速器/陀螺仪/磁力计,可以加速并促进图像间的相关性,这在 一个传感器失效的时候尤其重要。
4)通过选择不同的焦点线,能够解决对口腔中痕迹的临床光学图像记录的精 度和速度问题。也能视乎临床手术的需要,组合或者分离一张普通的、宽视场 的,精度稍差的图像,与一张快速的、窄视场的、高精度的图像。
5)通过选择新的透镜,尤其是液体透镜,可以省去复杂的机械校准仪器, 这样保证在狭小的口腔中能够对那些十分靠近测量设备的物体牙科上的测量在 有效景深下进行。
6)未使用结构化活性光的变形测量,而是直接在真实表面和身体图像的色 彩上工作。这样可以手动或者半手动地选择人体特定的部位,例如分别辨识牙 齿和牙龈。
这也保证:
不用去测量带涂层的物体,这不仅不准确且耗时,由于放弃使用结构活性 光投影,不用在牙齿内部投射用于测量的光,使用扫描区域的颜色来简化类似 点的匹配,这对表面标尺规则且一致的口腔至关重要
为了获取高效率,减少测量复杂表面(全颚)及其运动(上颚和下颚)的 扫描时间,
为了确保自校准,消除任何时间方面的调整,
避免由记录图像时的“移动”引发的模糊效果,
7)在实施装置方面,这种装置的制造如此简单,使得它非常的耐用。
这样保证了:
显著减少了制造成本,因此售价也低,尤其是其使用的电子组件已经广泛 使用,比如CCD,CMOS及LED。
降低电力供应,这样可以使用USB兼容线与各种电脑连接充电或者是用电 池供电。
根据预先设CMOS或者是CCD传感器,在制作过程中使它们相互间的位置 固定且不能更改,这样就不需要知道物体或者照相机相互间的运动,将一个不 一致性上的难题简化为简单的散列图上的密度相关性问题。
能够从一个3D图像的空间分析,转变到2D图像的平面的分析,且不使用 软件,非常适用于牙科中的一般性诊断。
本发明涉及一种新的三维实时测量装置,在口腔中通过彩色光学影像装置 确保其结构的完整性,即适用于牙科领域的口腔内图片扫描,也确保作为针对 这些区域的牙科诊断的辅助技术。协同当前的硬件设备,提供了一种软件手段 来满足口腔专家的既快速又准确的需求,而且只需要一个或者两个传感器就能 实现三维立体视觉。
它包含:
1)一个微型的原创的立体成像系统,由至少两个传感器组成:其中第一传 感器具有一般精度的宽视场,第二传感器具有高精度的窄视场,后者全部或者 部分的被前者包含。
宽视场囊括了一个足够大且一般性的图像记录,这样可以免去医师长时间 且单调地对口腔进行扫描。
因为有一些领域非常关键且要求高精度,所以宽视场中囊括一个窄视场, 这样可以在需要的时候去检查特定的信息,而不用再次扫描整个口腔。这样也 能更好的定义某些特定的重要同源点来获取图像间的相关性。
它使得软件可以几乎实时操作,因为宽视场部分或者全部包含窄视场,使 查找特定局部区域中的位置变得非常迅速
如果希望测量更大的临床领域,很明显传感器数目是可以加倍的,在宽视 场和窄视场上都是可以的。
2)这个光学系统配备不同的传感器会具有不同的焦距,可以获得不同级别 的精度。由安装在照相机头部的传感器,例如CCD或CMOS,采集到的是精度 一般的图像,精度范围在20um。作为这张宽视场图像的补充,另外一张全部或 者部分的包含在宽视场图像之中的辅助图像拥有更多的信息和更高的精度 (5-10um)。这样就不需要为了获取小于5%的总面积上的准确信息而去扫描整 个口腔。
3)本系统的优势在于有利于使两个被测视场相互关联,因为它们非常相似。 而同时在没有时钟和脉冲扫描系统的情况下限制住传感器的残留。当然,两个 视场的相似程度表明:可以在没有任何复杂电子系统的情况下使用单个宽视场 传感器或者双传感器。系统也避免采用传回光或者影像的反射镜,反射镜系统 在嘴里易碎而且显得过于庞大。
4)区域可以由一个或者多个电子传感器读取,可以用彩色或者单色CMOS 或CCD生成信息用于计算3D色彩或者灰度。这些传感器可以测量实时彩色或 者黑白强度。被测量的颜色就是牙齿和牙龈的真实颜色。
这很重要,因为它保证:
a自动区分图像中的牙齿和牙龈
b为CADCAM软件识别出关键的颜色
c在三维面上测量牙齿的颜色
5)这些信息被当作视频来处理,以便让操作人员和他的助手实时跟进口腔 中摄像头地移动;或者,也经过模拟到数字信息转换后,可以用数字方式进行 几乎实时的彩色3D重建,而且可以利用牙科GAD/CAM软件;或者用双视频 和数字处理为操作人员提供所有存在的信息。
还允许操作者,我们将在“软件”的层面上进一步描述,认知和返回那些 在实时测量中没有被充分测量的区域。
扫描场景的光学系统有两个不同的焦距。这个设备的优势在于:
a.一个焦距的要求精度不高,可以使用固定焦距且不要调节系统。事实上它 在距离镜头10mm的地方拥有一个20x30x15mm的拍摄区域及20-25μ的精度。
b.另一个高精度(5-10μm)的焦距,但是其景深包含在前一个焦距的景深 范围中。Z轴扫描总是简单且可以预判。Z轴(景深)扫描被限定在5至10个 不同的级别。
c.高精度焦距和可变焦距容许自由的选择,并增加所需的精度。
7)为了让使用者能够容易的检查口腔且不需要一边盯牢屏幕,系统预先设置 了可以在被包含图像区域和/或另一个图像区域的周围投射了至少一加色光圈的 装置:
a.最后,优选地,存在标志,例如一个红色圈,投射到图像的情景中,标识 出在宽视场中需要精确扫描的位置。
b.最后,优选地,存在标志,例如一个蓝色圈,投射到图像的情景中,标识 出宽视场的边缘位置。
8)为了在临床口腔扫描中避免不舒服和危险的中断,优选地增加了一个3D 的加速计/陀螺仪/磁力仪,也方便了图像间的关联,甚至可以弥补单个传感器的 意外失效。本装置放置在传感器附近,提供关于摄像头的空间位置的一般性的 和连续的信息。
因为引进了作为本发明不可分割的一部分的“软件”,本发明可以仅使用 一个传感器工作。所述的单一的传感器可以是宽视场的也可以是窄视场的,取 决于临床需求,因为一些操作如牙齿正畸,仅仅需要通用的检查,而局部组织 的统一重建修复则需要非常精确的检查。
9)在石膏上的测量一般可以获得好的照明,但是这在口腔扫描中不成立。有 利地,通过具有一个或多个波长的LED提供一个额外的被动的非结构化光源, 可以测量镜面或者朗伯光滑表面,而且不需要在口腔表面放置涂料。
不使用结构化光源也避免了操作人员关闭他的专业照明光源,极大地方便 了他的临床操作。
10)同时的信息检测或者是经过极短转换后进行的信息检测,可以避免移动 引发的图像模糊。这些移动可能是操作人员或者病人带来的。
11)为了控制模糊现象,一个去模糊硬件系统,或者一个附带非结构化LED 光源的快速脉冲的“快闪LED”,或者适用于防模糊系统的软件,最终被增加 进来。
12)本发明还包含下列用于处理和展示来自传感器的数据的装置:
a.一个中央处理和模数转换单元,不使用任何机械的、光学或者电光扫描及 结构光投影,可以计算3维空间和与被测物体移动的时间相对应的第四维度。
b.原创的软件容许仅使用一个传感器进行近乎实时的3D检测,可以应对补 偿单个传感器失效的情况或者缩小照相机体积。
c.通过电缆,电话或者无线传输的数据传输。
d.一个补充处理过程,与操作人员的对话/显示,用于数据传输和存储的硬 件系统。
一个原创软件系统包括:
1)一个实时3D重建图表,基于两个摄像头的两个2D图像数据流;
2)一个实时3D重建图表,基于单一摄像头的一个2D图像数据流和一个来 自加速计的加速的数据流;
3)一个算法,通过计算兴趣点和匹配图像,来寻找用于搜索光轨迹的三个算 法的兴趣点,即不同摄像头上同一个3D点的投影;
4)一个算法,用于实时地将图像流自动排序为空间连续序列;
5)一个算法,根据光的轨迹来评估空间中平行的摄像头的位置和3D点的坐 标;
6)一个算法,用于3D散列图的插值;
7)一个算法,将三维散列图进行布尔运算并计算质地;
8)一个算法,将三维重建进行缩放;
9)两种算法,用于增加空间精度。
这种算法的整体结构组:
当用户在物体的附近移动本系统,由摄像头提供的图像数据流被实时处理 并产生第一个3D重建影像,该3D重建影像可以向用户显示。实时3D影像重 建方案和数据的组织随两个摄像头的可用性的变化而变化。
每个新获得的图像首先由一个搜索光轨迹的算法来处理。从对应关系出发, 一个排序算法然后更新视频流的顺序来获取更好的实时的效果。有了这个光轨 迹,一个平行的评估算法做到:
a)在获取图像的时候找到摄像头的具体的位置
b)产生投影在光轨迹上的3D散列图
产生的散列图需要进行插值,以便获取更加浓密的图表,还计算内在的插 值函数。因为有这个函数,一个表面的质地多变形可以通过重建获取。在这一 步也可以计算出最终散列图的质量指标。它们中的一些或者一些区域可以被标 注为无效的。
这种有质地的表面然后被展示在屏幕上,并配有合适的注解标明无效的区 域的范围。
实时产生的表面是没有空间维度的一种表征,所述的空间维度表示重建区 域附近的比例因子。这个比例因子是在影响获取完成之时由一个算法计算出来 的。
最后,这种3D模型可以通过一个算法大大提供其精确度,以便获得最可能 的精确的重建。这种算法考虑到所有获取到的图像,重新计算3D散列图。然后 散列图被算法插值。最后,一个“space carving”算法重新组织整个3D模型。
因而提供了一种其应用领域的通用设备,该设备满足牙科和医药领域中的 多数要求,尤其是在成本,精确性和诊断成像方面。
该系统可以以一种逐渐进化的形式应用在:1,要求良好精度的3D采集, 如人体表面的3D扫描;2,对建筑物进行高精度的数据扫描采集;3,制造业生 产流程。我们可以通过一个或多个传感器来扫描待测试对象,扫描时,可以把 待测试对象安置在传感器前面,同时仅仅移动待测试对象,或者同时移动传感 器和待测试对象。
值得注意的是,该系统允许我们实时并且以不同精度来测量测试对象。我 们甚至还可以改进针对某特定区域的扫描,这要归功于窄视场相机。另外,我 们还可以同时快速关联其他拍摄的图像,这要归功于宽视场相机。
附图说明
图1a是本发明的系统的整体示意图,该系统包括了相机,连接器,电脑(这 里用的是笔记本电脑),以及最终的原型产品,封装了处理器芯片的盒子。
图1b给出了本发明的系统原理图。
图2显示的是本发明的的原型系统的外观,重点突出了摄像模块,摄像模 块的尺寸非常小,归功于本发明所选择的技术,摄像模块可以深入人的口腔中 进行扫描。
图3是相机1的纵向剖视图,包括了位于头部的图像采集系统(光学系统 CCD或CMOS传感器),见图3a和图3b。
图4根据我们刚才在图1、2、3中所见的配置,正面显示了相机1头部的 截面图,并且指示了宽视场和窄视场的覆盖范围。。
图5显示了宽视场相机和窄视场相机的分析范围。
图6显示了通过使用可变焦距镜或液体透镜,由宽视场相机和窄视场相机 分析输出的不同层次的景深。
图7分别显示了宽视场相机和窄视场相机中获得的图像以及3D建模的结 果。
图8a,8b和8c分别显示软件自动绘制的基于石膏模型的同源点阵(图8a) 和在口中的同源点阵(图8b),以及所得的离散点形成的点阵(图8c)。
图9a和9b分别显示了在被动照明中LED灯的布局(图9a)和投影到牙齿 上的靶子(图9b),这样医生就可以知道高精度摄像头扫描过了哪些区域。
图10a,10b和10c分别显示了在白光(图10a),蓝光(图10b)以及蓝白 复合光(图10c)的照射下获得的成像。
图11显示了摄像头顶端的空隙,该空隙可以喷出空气,以除去唾液或血液 和防护热玻璃,这样可以避免水汽干扰摄像头在口腔中光学成像的录制过程。
图12是本发明的软件部分的总流程图,从拍摄的图像的整合到最终按比例 3D重建。
图13a,13b和13c显示了,在两个照相机同时使用的情况下,对所获取图 像进行实时处理、整合微图像和宏图像的三种方法,其中图13a是在2个相机、 没有加速器的情况下;图13b是在有加速器和区域重建的情况下;图13c是有 加速器和区域重建的情况下。
图14显示了当单使用一个相机时,两种可能的3D重建策略。
图15给出了一个计算示例,即通过追踪离散兴趣点来获得光学轨迹。
图16给出了实时三维重建建模方法的简化步骤。
图17显示了通过方法的有效组织来提高精度。
具体实施方式
在下面的描述中,我们将清晰阐述本发明的其它方面及其优点。文中我们 以一种非限制性的叙述方式,给出了一个实例化方法,这种描述将有助于理解。 附图参考:
如图1所示,本发明,以一个原型系统来呈现,并且通过之后的一系列附 图来进一步图解其设计。该设计涉及了一种测量和诊断设备,将在牙科领域引 起特别的关注。
如图1a所示,该装置包括以下部件:1,使用了文中所述技术的焦距相机1; 2,连接相机1和缆线3的第一连接部件2,缆线3用于用于传输数据;3,连接 缆线3、配置USB口和机匣6的计算机(5)的第二连接部件4,机匣6可以放 置在两者之间,以便安装计算机的处理器的驱动卡和/或在相机或计算机内部没 有这样的处理器时直接处理图像。
同样地,相机可以使用WiFi无线传输图像或者图像处理后的数据。另外, 相机也可以使用充电系统,来给电池充电,从而向相机提供稳定电源。
整个系统的电子部分,它可以完全包括在相机机身内,参见部件9-12,或 者,在相机、机匣6和计算机5之间共享。它包含了一个位于传感器背后或周 围的电子系统,用来管理传感器,以及用来照亮成像记录区的LED灯。该电子 系统还包括:
中央处理单元,可以以一种通用PC机语言能理解的格式来收集、储存和排 序传感器接收的数据。如果远程PC机不具备模数转换功能,那么中央处理单元 也能实现模数转换功能。不需要运行一个投影掩膜或条纹的系统,显著地将中 央管理器的尺寸减少到最小:这是对立体彩色图像相机的设计。
在中央处理单元和/或PC的软件的控制下,LED控制卡可以根据安装的程 序更好地触发特定的LED。实际中,按照被执行的程序LEDs可以交替、或者 一起、或者一个变化的顺序被控制。可以用简单次序的形式实现这个功能,但 是提及它仍然是有益的。
标准能量供应卡可以在USB上或者电池上操作,可以是直流电也可以是交 流电。视乎我们有一个无线系统或者一个有线的系统,考虑到所安装的组件的 能耗很低,标准能量供应卡可以维持照明。我们的相机将第一个使用无线连接 的。
最后,相机中包含了一个微型的内存卡,可以存储图像并使用一个可运输 的媒介、在不使用USB连接或者无线连接的情况下将图像传送到计算机上。
当不是所有的东西都包含在相机或(和)作为中间体的机匣6的时候,一 台安装有处理程序和数据处理软件的笔记本电脑、上网本或台式机可以添加到 本发明系统中。本发明可以以视屏上可见的2D或3D形式复制信息,而且也可 以采用互联网,Wifi,以太网等形式、采用语言翻译软件、用类似CAD/CAM 格式将测量结果发送到远程的中心。在系统中其他部分没有微型控制单元时, 所加入的这个计算机中需要安装3D影像重建和相机控制软件。
相机和电脑之间可以用无线或者有线方式连接。
按照本发明,优选地,线缆3通过自带电源的USB第二连接件4、通过第 一连接件2将计算机5和相机1一侧进行的有线连接。而且这种特殊的第一连 接件2适用于任何款式的相机。
与上类似,按照本发明,本发明的设备间的连接可以是无线的,例如使用 Wifi模式,这是非限制性的。在这个情况下,天线内置或者连接在相机上,而 不需要第一连接件2。同样的,在计算机5或者作为中间体的机匣6上有一个天 线插在USB接口上,用来发送和接受数据,响应相机、计算机或者机匣上内置 的程序所发的指令。这种安排可以实现快速、友好、容易的通讯,无论牙医诊 所或牙科实验室的结构是怎样的。
同样根据本发明,由处理卡、CPU和显示器组成的单元将被安装在中间体 机匣上,这样本发明的单元能够被集成到为专业的设备插件,例如称为牙医或 者技师的工作台的插件。
按照本发明,计算机5可以配置内置的屏显或独立的屏显,就像PC或苹果 电脑。这个计算机将使用特别编程的标准卡,以控制相机或安置在汽车上的特 殊控制卡。
如果不能安装计算机或者牙科诊疗工作台上已经有了计算机,中间体机匣6 将被安装在相机和电脑之间来弥补这个缺陷。类似地,为了获取相同的功能, 这个中间体机匣将被设置在计算机的下游,作为USB接口的第二连接件4连接 计算机的USB端口,中间无需转接。这样可以生成专业语言,然后被专业工作 场合的CAD或者CAM应用所解释。
图1b展示了本发明的配置细节。图表中包含了两个主要部件:相机1和计 算机5,计算机5可以用专业的定制的中间体机匣6替代。
在选择了计算机48上的HIM界面上的菜单后,通过相机自身的人机(HIM) 界面18启动相机。相机上的图像软件45对宽视场传感器和窄视场传感器的读 取过程进行初始化。
同时,它触发LED15进行照明,是否对LED15进行特别选择由菜单选项决 定。这个过程也会启动加速度计52,加速器52在整个过程中间断或者连续发送 数据流到图片软件45,来辅助图像关联。加速计可以取代任何一个在诊疗期间 失效的传感器。
宽视场20的光学系统38可以让图像软件获知景深并作出调整,在没有使 用液体透镜的情况下,控制件42在微型马达22辅助下自动调整口腔结构21上 的窄视场19的光学组件41的景深。两个图像的分别由宽视场20的CCD和窄 视场29的CCD拍摄。它们然后被模数转换器43、44转化成数字数据,可以模 拟信号呈现在显示控制屏49上。
如果支持图像软件45过多占用了硬件的容量而无法装载到相机1中,图像 软件的第二部分46可以装载到一个标准的或者专用的计算机5或中间体机匣6 中。
经过这个处理过程后信息可以用现今已知的渠道51,如互联网、以太网、 Wifi或电话等可能的技术手段,赋予地址,可以是用于诊断,也可以是用于 CAD/CAM。这些都可以通过一个调制解调器50用有线信道(互联网和以太网、 Wifi或者电话线)双向传送信息来完成,
本发明各部分的详细介绍请参考图2,其展示了牙科诊所的各方面的功能的 选项。为了方便记录口腔内图像,一个3D读取相机的体积需要非常小。和已知 的系统不一样,现在的配置容许我们拥有一个尺寸非常小的3D彩色相机,因为 它的尺寸在20至25cm之间,主体足够大(例如2至4cm)确保可以良好地抓 握,而且厚度不超过2cm。相机还拥有一个5至6厘米的延伸臂,以便在记录 口腔深处的影像时穿过嘴唇。读取头呈无害的卵形,包含整个光学系统、LED 和CCD/CMOS传感器,约有1至2厘米厚、大约2厘米宽、3厘米长。
图3中的截面图让我们可以更好地了解这款相机的详细组成部分。在此配 置中,但非限制性地,我横截面显示出了相机的头部7,可插入口腔中臂部8 和一般留在口腔外面身体9。头部的截面图显示:其中包含了两个的光学系 统10,光学系统10由三个部件组成,即透镜、用于调整焦距长度的马达22和 2个CCD类型或CMOS类型的传感器,所述的传感器通过屏蔽电缆11连接到 图像传输卡12,以避免被传输的信息的质量遭受干扰。图像传输卡12通过设置 在相机1上的特定的连接器13连接到计算机5或至中间体机匣6。同样的纵向 的剖视图显示了朝向光学系统10设置的LED14、15,LED14、15被放置在由 防护玻璃17内的头部7的内部,防护玻璃17位于光学系统10的外围。当我们 不使用脚踏板的时候,按钮18可以激活录像。使用无补偿的图片记录系统,使 我们能够利用按钮18、没有任何模糊风险地拍摄3D图像,这种图像模糊通常 是非自主运动造成的。
图4更精确地描述了本发明应用的基本原理。我们可以看到相机头部7的 原理图以及两个不同的光学系统10。这些系统从底部到顶部,是由调焦、图像 传输透镜和CCD/CMOS组成。这些透镜没有焦距调节系统。如果我们用传统的 透镜,就需要拥有一个以1~5厘米景深的焦距调整马达22进行Z轴扫描。
有利的是,该镜头是法国公司Varioptic制造的液体型镜头、或者是在输入 面部上拥有瞳孔的模制玻璃或塑料镜头。
焦距长度最好在0.5和5mm之间,以满足在口腔环境展示的有限环境中的 宽视场和窄视场的要求。
白色和蓝色LED15被布置在光学系统各处,紧靠在防护玻璃17的背后, 不管是否加热。最好基于所需照明颜色的类型,适当地选择LED15。
应当指出这里没有结构光投影,只有光学系统和CCD的可视化的两个视场 区域。
值得一提的是,高精度的窄视场19被完全包含在通过光学影像测量的牙齿 的低精度的宽视场20中。正如我们所看到的,此方法的优点之一在于低精度的 视场包含了高精度的视场,这在很大程度上促进了两个立体图像的相关性。这 也减少了未编码区域,因为一个相机没有记录下来的内容会被另一个相机记录 下来。相机减少运动会最终纠正缺乏编码的情况。
最终,在最好的情况下,狭视场也可以被部分地包含在以工业设计和划分 为目的的区域中。在这种情况下,高精度的狭视场将部分重叠的低精度的宽视 场。
特别有利地,为了便于阅读高精度的窄视场,可以增加一个移动马达使得 在图像的记录期间窄视场迅速扫描整个宽区域。该移动马达可能使用镜片位移 的所有的技术。
特别有利地,这个窄视场是可变焦距的,这使操作员能够在1和20μm之间 改变窄视场的精度,同时受惠于能够对宽视场进行大视野阅读。
这样立体相机包括一个或多个传感器,图4中展示了其中的两个,放置在 一个预定的位置,传感器的类型可以是CCD或CMOS,例如2百万像素分辨 率为2.2μm,确定阅读速度为25到500张/秒。因而记录连续影像的速度满足相 机的静态阅读或相机的动态阅读的要求。因此,我们可以通过移动分析区域来 获得动态视图,不像轮廓仪相系统需最少四个图像中提取被测量对象表明的的 立体形状。本发明的系统在测量中仅需要两个精度级别的单帧或者双帧图像, 避免测量中的任何移动,而且对传感器上信息的整合是立即且同时的。
它也包括具有一个焦距或至少两个不同焦距的光学组件,其数值孔径(NA) 可以在0.001到0.1,允许不失真地将显现在两个或几个手术场所的数据传送到 相机的传感器上。例如,对于口腔内图片,如图4中的例子所示,这些区域可 描述如下:
a.其中一个视场覆盖一个大的表面,但具有较低的分辨率,非限制性地例 举,分辨率为20μm(NA:0.0125,即F/8的焦距当量)在一个30x20mm的区 域上。
b.另一个视场较小,但更准确的,例如但不仅限于,分辨率是10μm(ΝΑ: 0025,即F/4的焦距当量)在15×10mm的区域上。景深很小,这样可以得到一 系列景深不同的图片记录。
c.在各种水平上,无论是否位于中心,小视场是完全包含在大视场中的, 以便检测目标物体的三维坐标(x,y,z)的数据,并便于实时关联高精度的窄视 场和一般精度的宽视场。
d.物镜可以由数个玻璃或模塑玻璃/塑料元件组成,由微型马达进行调节。
有利地,牙齿上景深的调节可以由液体透镜来完成,以便确保完美地适应 内口腔表面,并避免使用微型马达。
有利地,它也可以包含一个透镜,例如被称为“自由形式”的热塑性透镜,包 括着一个由n个非对称面环绕的平顶,确保可以在一个图像记录中根据n个角 度记录视化口腔环境的n个不同的视场。多面部分被朝向传感器,同时平顶朝 向口腔环境。该传感器会从不同的角度接收N个略有不同的图像,这取决于该 平面相对于平顶的切割的角度。因此,在图像中的一次拍摄就可能获得和数字 化N个瞬时相关的不同表面的立体视图,这样避免使用第二个传感器和第二光 学系统。
有利地,如果我们有一个单一的传感器来拍摄所有的视野,正如我们之前 看到的,不再是通过传感器预先决定的位置,而是连续拍摄的顺序来定义视野。 自动的图片记录的顺序相关的位移运动定义了图片记录的不同平面。例如,第 一个图像将在时刻TO被记录下,一个导致观看的角度的变化的轻微的移动之后 一个在时刻,例如TO+1秒,的记录将产生,照此继续。
有利地,一个加速器、一个陀螺仪或者一个3D磁力计52将被安装在 CCD/CMOS传感器旁边,为了增进关联性和补偿单个传感器失效的可能情况。 为了避免临床操作中的任何中断或者是为了替代其中一个视场(情况可能是宽 视场或者窄视场),本发明中的3D加速计的频率至少50Hz,间隔是+/-l0g,和 分辨率小于等于3mg。
优选地,景深的总体信息由其中一个传感器指示,例如由宽视场的传感器 指示,这样,窄视场的传感器的焦距预设在靠近宽视场传感器分析区域的地方。
附图5显示了在一个病人的嘴里测量的范围。牙医在这么小的范围内移动 他的相机,大大限制了同时具有大视场和高精度的可能性。用这里介绍的新的 概念,并遵循光学物理定律,可以在在宽视场的水平上,在20um的分别率下, 以2毫米景深测量20×30毫米的范围。窄视场的范围缩小到10×15×0.5毫米, 分辨率是10um。这仅仅是是作为一个例子给出的,根据所使用的光学系统的质 量可以显著地不同。这些性能的值与在制造良好的假肢和良好的诊断时对口腔 内获得的光学图像的要求是一致的。
景深不足,但是它靠近牙齿放置,而光学系统放置在上齿和下齿之间。为 了解决景深的问题,通过对精确区域窄视场的10-20次的变化和宽视场的5-10 次的变化,一系列的图像以图6的方式记录下来。这样确保在高精度窄视场上 分辨率达到10um;在精度其次的宽视场上分辨率达到20um,同时景深在 10-30mm,这样的性能在牙科临床应用中已经足够了。
优选地,宽视场和窄视场中的景深是否同步根据记录光学影像的需求决定。 正如我们将在软件处理中看到的那样,可以控制调整,因为CCD/CMOS可以识 别出信息是否清晰。这提供了相对于光学系统的牙齿的位置信息,能够自动调 整景深。这样具备了限制扫描深度和限制连续图片记录的优点。
在图7中我们展示了一个被扫描区域的代表,图片23由宽视场扫描,图 片24是由高精度和窄视场扫描的一系列照片。正如我们在所给的例子中看到的 一页,10张图片足够覆盖整个视场,且分辨率达到10um。
实际情况,牙科医生将精确视野放置在要求口腔最高精度的区域的中心。 这个区域可以看作是准备阶段的终点,也就是如图7所示的牙槽和牙尖。正如 后面“软件”中将要展示的,尤其是是在图13(层叠面的策略),明智地使用 这种高精度区域带来高逼真的重建。两个相机用于区域的重建,在很大程度上 受益于精确视场提供的细节。另外一面,通过随机移动头部和得益于获取图像 的高频率,用户有机会覆盖由两个相机的公共部分重建得到的整个区域。最后, 当一个区域展示的精度不够的时候,用户能够得到可视化的反馈,然后用户就 可以将精准视场对准这个区域,以此来获取足够的精度。
正如图8a、8b和8c中能看见的,当能够将每个同时拍摄或者稍有时间差异 的图像中的同源点关联起来的时候,可以得到3D立体视图。图8a展示了牙科 石膏26上同一个牙齿的两个咬合面及舌头图像上的同源点的自动判定。这个自 动判定可以有软件实现,该软件是发明的一个重要集成部分。
我们看到的线将两个图像上识别出来的一致且同源的点组织在一起。同样 的展示可以通过软件系统做成口腔内部视图(如图8b-27)。
最好的情况下,软件可以在景深视场里自动识别焦点区域,同时该视场之 外的地方一切就像被一个低通率的过滤器支配着,相对于视场中的区域。所以, 局部功率谱具有较舒缓的斜率。功率谱在图像上以小片计算(典型的是一个 20*20像素的面积),下降趋势的斜率是根据一个下降趋势的指数模型估计得到。 然后,可以计算比率(ap-a0)/a0,其中a0是整个图像的斜率。如果比率低于特定 于图像的某个阈值,这个小片就被认为在焦点区域之外。
其结果在空间的一个散列图表示(如图8c-28),其中的一部分是非常准 确的(分别率小于10微米)
优选地,基于图x中的3D重建技术,散列图得以完成。
优选地,在Bezier曲线曲面上使用径向基函数、NURBs函数或者小波函数, 效果图也可以制作成致密的、多边形样式的且具有纹理的呈现,接近真实的可 视化展现。
在这种情况下,软件的处理过程如图x所示。为了表现这种建模,3D重建 所产生的稀疏散列图添加使用了图y所描述的技术。这种技术能够得到密度大 的分布图,并且使用径向基函数型曲线曲面建模。(不失一般性地,这种建模 可以但不限于使用以下函数,如Bezier曲线曲面、径向基函数、HURB函数或 者小波函数)一旦提供了表面模型,使用常规技术可实现多边形化,可以但不 限于使用以下技术,如,Bloomenthal、旋转球(ball pivoting),泊松重建(Poisson reconstruction)等。最后计算和产生图z描述的质地。
这些建模方法的优点是能够保证实时或准实时。从立体视图开始,立即将 3D图像显示到医生的屏幕上。他可以改变全部或部分图像的朝向和焦距,以便 为了下一步临床操作验证他的工作。
图9展示了LED为立体记录提供了足够的光线。为了得到正确且完整的度 量,有必要使现场拥有良好的照明。问题在于不仅是物体结构光,而是照明黑 暗的口腔中的场景。
最有利地,照明是LED照明,白光照明度介于10,000lux和500,000lux之 间,蓝光照明度介于5,000lux和300,000lux之间。
这是少数LED就足够照明的原因。图9a展示了八盏白色LED(29)灯中必须 有两盏达到200,000lux的白光照明度,而四盏蓝色LED(30)灯中必须有一盏达到 100,000lux的蓝光照明度。
优选地,需要增加其他LED,提供非结构化灯光,该LED需要在纯度(一 致的或不一致)、类型(指色彩)、强度(指功率)方面有精确的特征。如图 9a所示,这是非限制性举例,一个绿色LED(31)具有协助诊断3D图片的功能, 3D图片转化为3D表面。更有趣的是,即使我们不使用结构化照明,通常在粘 膜(mucosa)层和牙齿的矿物质结构层或假牙材料都有可能实时地对病人的口 腔进行色彩分析。
有利地,需要选择照明,以便做到突出牙齿的矿物质(mineral)或有机龋 坏骨折(organic carious fractures)或晶体(crystal)损伤。这部分内容展示不以 2D图像的方式进行,而是以3D图像的方式,同时突出显示需要分析、诊断和 治疗的区域。这个功能可以让医生跟进他的工作质量,同时根据3D图像确定他 已经适当地处理了突出的疾病,有利地,这允许凸出整形材料的断裂部,例如 氧化锆材料的一道裂缝,并且评估是否需要对复原进行新的干预。
最佳情况下,除了增加LED散射光,为了协助医生了解高精度的读取区域 的位置,也就是宽视场中的窄视场,围绕特别区域的目标投影(图9b-32a)可提前 看到。
有利地,需要增加提供具有纯度(一致的或一致的)、类型(颜色)和强 度(功率)方面的特征的非结构化照明LED灯。如图9a所示,作为一个非限制 性例子,一个绿色LED(31)发挥了协助在3D图像上进行诊断的功能,所述的3D 图像转换到我们的3D表面。
有利地,围绕宽视场(32b)的框架的投射避免了医生在记录口腔影像时跟随 在屏幕上的扫描。
使用这些蓝色和或白色LED灯,有助于更简便地搜索同源点,以及在具有 晶状和稍有穿透结构的牙齿上判断大量同源点。有利地,虽然发散的LED灯在 牙齿上的穿透上不能与结构化光源比较,但是蓝光将被用于使牙齿呈现白垩状, 这样可以避免使用覆盖层引起涂料效果。
有利地,使用多种波长或颜色的LED照明系统,并且可以选择多种颜色LED 的混合,以便创造牙齿结晶体或牙龈病理部位的荧光或磷光效。这将促使显示 为蓝色或紫外线的矿化组织表面显现出来,因为呈荧光的牙齿组织具有无光泽 的特点,这样就可以避免在牙齿表面使用如前述的覆盖层的油漆沉积。
同样的应用最终允许我们穿透进入更加精细的牙龈区域,它们存在于牙沟。 这样允许手术操作者透过牙龈得到牙齿的视图。同样,明智地选择LED的颜色, 可保证降低血液和唾液对于摄影的影响,便于记录光学影像。
有利地,这些LED灯具有可变的功率和颜色。在探测表面时,采用低功率 灯光。穿透微厚度的上皮组织时,采用高功率灯光。采用如图10a、10b、10c 所示的安装方法,使用白光拍摄以获取口腔环境的正确颜色(33),以及最终用互 补光记录图片,所述的互补光可以非限制性地采用蓝光(34),或者采用互补光与 白光混合的互补蓝光(35)。
有利地,为了在屏幕上实时显示测得的口腔环境的颜色,被添加到白光中 的一个或多个颜色组分将被去掉。
有利地,这个LED颜色的选择可以是预定的或自动的。如果在白光下拍摄 时散列图不够,系统会自动(或手动)激活补充光LEDs,例如蓝色LED,系统会再次 记录相同的图片。所增加的蓝光和白光的图片会提高增加表面的信息和搜索同 源点提高的机会。
有利地,这些LEDs也可以具有预定的波长,以便凸显自然解剖元素,用沟 纹或颜色区域来区分肿瘤,牙龈或牙齿的造影,或突出在记录观感之前的标记, 这些标记是特定的和预先指定的彩色标记。
这些标记优选采用放置在测量领域礼不同形状的物体,例如粘着或附着在牙 齿上,在牙齿间的空隙或植入物之上,便于关联图像,也为了知道这些预定义的标 记的具体空间位置。在存在植入物或根管的情况下,我们将可以了解到在光学阅 读难以接近的区域。预定标记的识别和有关形状的现有知识将允许我们推导出 隐藏部分的形状和空间位置。
光组合使得弱纹理区域的细节更加明显,而这些细节在在“自然”光下是不 出现的。在默认情况下将给用户提供一个最优组合。然而,我们也将提供一些预 先建立的组合(例如,那些可以突出标记的组合)。
另一方面,光组合允许为每个光谱带附加信息。对我们来说,当我们提出用于 搜索图x中的光学痕迹的计算程序时,这个过程不是在全图像上执行的,而是并 行的在三个光谱波段上进行的。三维重建中所用的光学痕迹就是由这三个光谱 波段的光学痕迹相结合而来的。
图11显示了在口腔中需要的两个额外的功能。通常,在一个光学影像的记录 过程中,会避免能够导致信息减少的三个光学元素。这三个元素分别是由于牙齿 的准备产生的血,在一个张开的嘴里自然流动的唾液,和出现在比口腔环境更冷 的表面的薄雾。
由于这个原因以及舒适性和精确性的原因,可以预见到与相机相关,在摄 像头的喷射孔中有空气或液体的喷射,喷射孔37朝向被拍摄区域,也与能够喷 出气体或液体且能够预测缝隙(37)位置的喷雾器有关,其朝向阅读区。这样 就能够在拍摄照片时去除唾液或血液。
同样地,保护光学系统和相机头部的LEDs的玻璃和被设计成一个加热玻 璃,例如温度在20和35°之间,这取决于季节,以限制附着防护玻璃上的雾。
图12显示了软件部分的总体设计图。该图即允许在图像采集过程中提供实 时三维重建,并确保最终模型的空间高保真。
第一次重建在实时和后续进行:获取图像(53)时,局部三维重建从对这对 图像(在存在两个相机情况下)或一些前面的图像(在只有一个相机的情况下) 计算获得,再加入到全局图像重建中,因为它是在这对图像获取之前得到的。 重建会立即显示在屏幕(55)上,最终与局部质量的注释一起,让用户直观地识别需 要进行第二遍拍摄的区域。这种后续重建会一直进行直到用户完成图像的采集。
图像获取完成后,我们对所重建的三维模型进行调整,以提高模型的精度和 缩放因子的估计。最后调整的总持续时间不超过5分钟。
首先,当获取的图像是从一台相机中得到的时候,三维重建可能需要缩放 (56)。被应用到三维模型重建的缩放因子是通过一个滤波器实现的,非限制 性的例子,卡尔曼滤波器,但不局限于(卡尔曼滤波器),并使用两个测量值, 这两个测量值可以非限制性地来自加速器和图像(相机的彼此相对位置)。
此外,为了提高精确度(57),对实时三维重建进行了改进。精密增益技 术详见图17。图13a,13b和13c示意性地给出如何使用从两个相机获取的图像。 为此,非限制性地,操作有三种方式。
图13中,当一对图像新由两个摄像头获取的时候,我们在两个图像中寻找光 学轨迹(对应兴趣点)(如图15所示算法)。然后,对应的点根据三角测量计 算出相应的三维点。三角测量在两个相机的情况下极其简单,因为我们已校准 设备的配置,我们知道关于焦距和失真的内在的参数和根据相机的构造的多台 相机相互的相对位置的外源性参数。
生成的三维散列图被插值、多边形化和纹理化(如图16所示的算法)。然 后,为多边形化的三维重建的每个元素(例如,但不局限于,三角形或四面体)都计 算一个有效性索引指数q(57)。
我们将选择 q = 216 · 3 · V 2 ( a + b + c + d ) 2 ]]>
其中V是体积,a,b,c,d是四边形的各边的长度,这是非限制性的举例。
如果在某个点上,该指数低于一个确定的阈值,该重建元素就被判为无效, 同时在展示过程中给使用者一个视觉反馈,提示使用者在该区域获取新的图像, 这样就获得足够的图像质量。通过计算无效元素占全部重建元素的百分比,可 以得出由一对图像进行的整体重建的有效指数,如果该指数低于一个确定的阈 值,所产生表面不会被整合进重建的三维模型中。
生成的表面,如果有效,将会被整合到部分重建的三维模型中去,例如非 限制性地,通过重置具有非线性迭代最紧密的点型,且该点型再做一个简化(切 除多余的3D点或异常值)。有利地,可以通过执行跟踪相机的相对位置的算法 完成将生成的表面整合到部分重建的模型中,该算法类似如下图所示。
最后,紧随重建阶段的是显示阶段。
如图13b所示,或者,两个相机的图像可以独立使用。通过图14所示的算 法,两个局部三维模型重建可以通过对宽视场相机和窄视场相机的独立计算来 获得,算法如图14所示。由于窄视场重建计算是基于集成到宽视场的图像的固 定位置进行的,它可以直接集成到宽视场重建模型中去。算法的结束部分类似 于图13a所示。
如图13所示,或者,窄视场相机的图像可以只是偶尔使用。在采集过程中 图像会被存储,但不会被自动处理的。重建的只是来自宽视场相机中的信息, 依照图14中所示的算法之一,计算局部质量的有效性指数。对于无效的元素, 使用者通过反向投影查看它们属于的宽视场的二维图像中的哪一部分,再查看 窄视场图像数据库中是否有一些图片(通常大约十个图像)覆盖这个区域。随 后基于这些窄视场图像来计算当重建模型,紧接着,有效性指数被重新计算。 如果后者是高于阈值的,将会以类似于图13b所示的方式被整合到宽视场重建 模型中去。
图14中详细描述了从单个相机中重建三维模型的两种策略,用于这种场合 的算法的复杂性源自于给用户毫无约束地使用本系统的自由度。因此,系统的 运动无法预测;换句话说,当记录获取图像后,我们无法知道这些照片是在哪 里被记录的。为了确保对目标进行重建的有效性,(需要)由算法去寻找图片 的的特殊的空间组织。
*序列的情况,我们工作在一个射影几何中,它需要从(图像)采集一开始 就选择一对图像作为几何参考。这两个图像的选择是至关重要的,能避免后面 陷入局部最小值的难题。在最早采集的的图像中选择初始化图像对,比如:
o最早的两个图像之间相匹配的数目至少是400。
o这两个图片之间的距离足够大,任意地,我们将等待来自加速器的、至少 覆盖5毫米的数据,否则(如果操作者任然保持不动),我们要等到最多采集 40张图像。从前两个图片中,可以做几何形状的初步估计;
o所述两个图像之间的光线轨迹计算(图15中所示的算法),
o投影矩阵P1和P2(代表相机的空间位置)通过传统的5点算法的匹配来 计算。
o为了获得三维点的初始估计,对应点采用三角测量
o为了从射影几何传递给近似度量几何(在同一个比例因子下),几何形状 通过自校准更新,
o将生成的三维散列图插值、多边形化、纹理化(按照图16的方法),得 到的表面是第一个局部三维重建模型。
然后,接下来新采集到的任何图片i使得重建更加丰富:
*通过计算图片中的兴趣点和通过将该图片与先前的图片(58)相匹配来完 善光线踪迹;
*得到图像i-1中兴趣点的对应点,并得到投射到这些兴趣点的对应点的三 维坐标,可以估算投影矩阵Pi,非限制性地举例,通过重新切割(59)来实现。
由于影像图片i之前的所有的投影矩阵都是已知的,可以基于这些矩阵和光 线轨迹重新估计三维点线,在实践中,为了保持实时约束,我们只使用当前画 面和在此之前n张的照片(通常,n<<3或4。这些图片的总体几何形状(投影矩阵 和3d点),随后再通过某种非线性算法改进,非限制性地,采用稀疏光束法平 差的类型。
总体的三维散列图先通过multiscaie EBP插值法再次插值,然后将图像多变 形化并纹理化,计算当地有效性指数后进入可视化阶段。
以子序列为例:子序列的策略计算为得到子序列的图像而进行的部分重建, 由空间隔离的连贯的图像组和大量的对应点组成。其中一过程如下:
o排序算法:随着采集的进行,在光线轨迹计算后,视频数据流分成多个子 序列,并称作区域。如果通过跟踪进行光学搜索,当仍处于跟踪阶段的点的百 分比低于70%时,该区域的计算结束(60);而其他光学搜索技术,与区域内第一 图像相匹配的数目低于当前图像兴趣点个数的70%时,该区域的计算结束。当 前区域关闭时,随着新图像的采集,一个新的区域将被创建并初始化。
o只要一个区域被关闭(61),相机的相对位置以及与该区域内发现的光学 轨迹对应的3D点被平行计算,非限制性地,以Tomssi Kanade类型的因式分 解算法进行。对所生成的3D散列图进行插值,然后多边形化和并纹理化(如图 16所示的算法)。
o使用该算法时,几何形状因区域而异;所生成的表面在空间(位置)上不 连贯的。为了使所有区域呈现同一几何形状(62),应该小心地把一些图片(一 般为3个)人为地在两个相邻的区域之间共同化。这使得在成对的相邻区域之 间存在一个转换性单应矩阵。单应性矩阵将施加到所生成表面的每个端部,以 便将该表面整合到整体模型中。
本地有效指数被计算后,(进入到)可视化阶段。
图15展示了一个通过跟踪兴趣点计算光学轨迹的例子,当前图像的兴趣点 在图中用正方形(63)表示,而线条表示的是在先图像中的关键点的位置。
通过在所有采集到的2D图像中寻找兴趣点,然后通过寻找不同图像的兴趣 点之间的匹配关系,寻找3D点的明显光线轨迹。几个方案都是可能的:
*角度的光学跟踪:总体思路是计算图像中的明显点(的角度),
然后在下面的图像中跟踪这些点(即可),而不必重新检测它们。只要第 一张图像中有一定百分比的明显点仍然是可检测的(通常为70%),跟踪阶段 就可继续进行;低于(70%)这个阈值,明显点的新的检测阶段将在下列图像上 进行。
角度检测时,通过计算任何像素(x,y)处的2×2矩阵,
c = Σ w ( ∂ I ∂ x ) 2 Σ w ( ∂ I ∂ x ) · ( ∂ I ∂ y ) Σ w ( ∂ I ∂ x ) · ( ∂ I ∂ y ) Σ w ( ∂ I ∂ y ) 2 ]]>
上式中,I代表图像中(x,y)处的强度,W指的是(x,y)的周围(区域),假 设λ1和λ1是该矩阵的第2特征值,如果这2个特征值高于某一阈值(通常为 0,15),该点就被认为是明显点。
可以看到,用于跟踪i和i+1两幅图像中的明显点,位移d={dx,dy),最小 化 Σ w ( I i ( x , y ) - I i + 1 ( x + d x , y + d y ) ) 2 . ]]>
这个位移用公式d=C-1.b来计算,C为前述的2*2矩阵,并且
b = Σ w ( I i ( x , y ) - I i + 1 ( x , y ) ) · I i ( x , y ) ( I i ( x , y ) - I i + 1 ( x , y ) · I i + 1 ( x , y ) . ]]>
由于这种光学跟踪技术对于小位移情形是可靠的,通过依次计算图像上角 锥体的位移矢量d(从图象的主要子采样版本到原始分辨率)应对大位移的偶发 事件。
上述技术都基于一个隐含的假设,即该图像流是连贯的,即2个连续的图 像之间的位移是不大的,且2个连续的图像具有足够好的质量能找得到令人满 意的匹配点的个数(至少30)。
对于两个图像之间的位移,采集图像使用传统的视频流的频率。我们因此 预期2个图像之间的位移非常小。较大的位移会导致找不到对应于之前图像中 的点,然后生成一个新的区域。
至于图像的质量不足(例如最终的情况下是一个模糊图像)的时候,匹配 过程形如一个过滤器,因为很显然发现的匹配点会非常少。该图像将被存储但 不被处理,然后等待下一张具有匹配点有足够数量的图像。
不变点+最小二乘匹配:使用广为人知的技术在2D图像中寻找兴趣点,在 比例和照度的变化改变的情况下寻求那些不变点。这些技术的优势在于能够为 每个兴趣点计算形态学描述。
对于给定的一对图像的兴趣点之间的匹配是搜寻图像1中的兴趣点xi1,使 得在图像2中的xi2在最小二乘法下最小化到xi1的距离。为了避免错误的匹配或 异常值,首先计算图像1和2之间的基本矩阵F,基本矩阵F通过比例xi1.F.xi2 =0约束兴趣点对。
如果最小二乘下一对潜在的匹配的兴趣点xi1和xi2生成的xi1.F.xi2小于 10-5,这两个兴趣点之间的匹配被拒绝。
光轨迹的搜寻通过在获取新图像时的传递性实现。在获取图像Ij的时候, 假定对所有以前的图像I1...Ij-1进行了光学轨迹的计算。然后计算兴趣点Ij,这 些兴趣点与图像Ij-1对应。然后通过传递来补充光轨迹,应该注意到的是,如 果xij对应于xij-1且xij-1是对应于xij-2,则xij-1对应于xij-2。
*强大的渐变+相关性匹配:图像的兴趣点被认为是其强度变化显得重要的 哪些点。在实践中,对于所考虑的图像的每个点在其周围的一个20*20像素左 右范围中计算其强度的标准偏差。如果偏差超过一定的阈值(通常为10范围内 的8位编码的强度),则该点被认为是一个关注点。
在兴趣点的层面上寻找2个图像之间的匹配出现了一种相关性技术,例如 但不局限于,Medici型(法国专利申请于2005年3月29日,EP1756771 (B0453)和EP0600128(B0471))。
图16显示实时三维重建算法的三个简化的步骤。复制品(65)是用于重建 所采集的二维图像之一。复制品(66)是计算三维散列图的算法产生的散列 图之一。复制品(67)展示了基于计算复制品(66)的部分3D重建,该算法 用了内插的散列图、多边形化和纹理,下文将对这些进行详述。
三维建模有如下三个步骤。在第一步骤中,通过处理光线路中获得的三维 散列图致密化由计算隐式插值函数f达成。由于这个隐函数,内插这些点的三 维表面被多变形化,通过本方法的方式,而且这是非限制性的,如采用 Bloomenthal法。最后,每个多边形的纹理化使用一个非常简单的方法:通过把 限定多边形的三维点投影到生成这些点的图象上,多边形区域被限定在这些图 像上。然后,我们确定这些多边形区域纹理的平均值,并将其分配给该多边形。
主要的困难所在是用于插值计算和隐函数的算法。这个算法最适应我们的 使用场景,因为它允许一个实时内插,和不像其它的内插技术,其允许基于很 零散初始图进行致密度插补,这种情况在处理小纹理的物体,例如牙齿,时非 常常见。下面我们解释形成这个算法的通用插补,及其在多比例的计划的实践 中的使用:
通用插值:假设Pi表示3D图(在估计这些点的法向量n之后)的点,我 们将搜索隐函数f:R2->R,基于RadialBasis函数(RBF)满足X点属于表面f(X)= 0。我们选择f, f ( x ) = Σ p i ∈ P [ g i ( x ) + λ i ] · φ σ ( | | x - p i | | ) φ σ ( x ) = φ ( x σ ) , φ ( x ) = ( 1 - r ) 4 + ( 4 r + 1 ) : ]]>
待定解释函数f中的未知量是gi和λi。
gi估算:让我们考虑点Pi和法向量n,让我们选择一个系统(U,V,W),使得 u和v是垂直于法线方向的法向量和w点。设h是形如h(u,v)=Au2+Buv+Cv2的函数,我们在pi中求系数A、B和C,来最小化下面这个 的值;然后,我们通过计算公式gi(x)=w-h(u,v)计算 gi(x)。
估算λi:知道有我们可以通过简单的求解线性方程组 估计λi。
*多尺度插值:通用插补实际上是在子集合点上进行的,以大大提高插值的 精度。我们首先构造一个集合{Po,...,Pk}:集合Po是一个平行六面体,包含在 点集Pi中。在两个连续层级k-1和k之间,一个平行六面细分成8个小平行六 面体。
函数f是通过一个迭代过程计算的。我们从f0=-1开始,然后我们通过更新 f遍历集合 f k ( x ) = f k - 1 ( x ) + o k ( x ) , o k ( x ) = Σ p i k ∈ P k ( g i k ( x ) + λ ki ) ]]>
该gik如上所述在集合Pk确定,并且λi由求解该系统计算公式 f k - 1 ( p i k ) + o k ( p i k ) = 0 . ]]>
σk根据公式更新,并且被构造级别数是由公式来 定义。
图17显示了增强精度的两个步骤:
几何体的整体计算(68):相对于所有上面给出的实时三维重建技术,我们在 收集结束后不再基于一些图像(采用连续的序列时是固定编号的图像,采用子 序列的顺序时是区域的编号)对相机和3D点的空间位置做重新评估,而是基于 收集的所有图像。
因此,,当收集图像结束的时候,我们使用Sparse Bundle Adjustment类型 的算法,初始估计3D点位置和相机的投影矩阵。散列图最终通过上文提到的插 值算法来致密化。
空间雕刻(69):一旦全局3D散列图被重新计算,全球3D重建由图的 Delaunay三角测量组成。这个三角测量提供了一个过于密集的多边形集合,不 考虑到各点的可见性。为了分割一模型并且只提取可视信息,我们执行一个图 切分类型的分割,旨在最大限度地减少能量E=可视度+照片一致性+表面,其中:
可视度:模型的每个四面体是由重建它的相机获知。因此,从相机其可 见该四面体,并且其他四面体不应位于它与相机之间。因此,对于每个四面体, 术语可视度计数它与相机之间的四面体的数目。
照片一致性:让我们假设P(T)是对重建的三角形T的照片一致性的度量。 (传统上,我们可以利用这种三角形的纹理之间和2D点的纹理之间的差异的平 均值,顶点就是从中导出的)。最小化的照片一致性能量等价于 为了最小化每个图像切片,给每一对共享三角形T的四 面体,我们会在图像上添加两个带边权Wpq=P(T)的节点p、q,来完成最小化。
表面积:我们尝试获取一个尽可能小的面积的表面。给每一对共享三角 形T的四面体,我们会在图像上添加两个带边权Wpq=aire(T)的节点p、q,来完 成最小化。
这样的系统中的处理是极其简单的,因为它的特征对于操作人员来说可认 为是固定不变的,除了选定照明的类型,虽然这功能本可以由进行想要的诊断 的自动操作序列来控制。为此,操作人员(牙医,牙科技师或医生)可以通过 电脑来显示相机可以进行的操作,并允许他在多个功能之间进行选择。
全部或部分治疗可以通过相机内置卡片的层面处理,其余的治疗最终可以 通过一个通用系统(笔记本电脑或标准台式电脑)或者一个包含了致力于处理、 传输和数据显示的应用的特定卡的专用系统。
因此,在“测量”功能方面,选择好行动模式同时将相机放置在被测区域后, 操作人员使用位于相机上的按钮或者与计算机、相机或中间体机匣连通的踏板 开始测量。当收集到足够的信息后可以他停止测量。为此,他停止按压,或再 次摁下按钮。
在口腔或石膏模型的进行图像记录的时候,相机在牙拱上移动,以便收集 各传感器上的彩色二维信息,包括x轴和y轴,传感器可以是带或不带加速器 的CCD或CMOS。
软件处理几乎实时计算三维坐标(x,y和z)以及计算每个以x轴和y轴的 二维坐标标识的点的颜色。我们可以获取到部分或全部牙拱颜色的三维文件。
图像的连续记录,待测量区域的实拍影片,保证了用于数字处理的全部信 息的完整记录,这些信息全部或部分地记录了在前庭、舌头和临近区域的物体。 轻照明模式可以向操作人员指示连续图像记录。
两个被测牙拱的全部表面的所有的点信息也使得操作员可以重新拍摄某些 不够精确的区域。这些区域可以由软件使用不同的实时系统自动确定,例如散 列图(宽检测)缺乏信息的情况或临近区域(局部检测)存在异常点的情况。 与此相同的检测可以运用在建模曲线(NURBS,径向基函数,小波分析....)层 面上。
这些区域将被标记,用颜色或者另一个能够吸引临床医生注意的方法。后 者将再次使用相机,而且相对于已知点的新点的识别可以填补不准确的空间或 区域。对会被再次读取的区域进行编号、遵循一个阅读顺序,和/或一个三维加 速器的存在都会使该操作变得容易。
一方面,这些数据经过一个模拟信号到数字信号的转换,同时在另一方面, 被最终处理成一种可直接在传统的显示屏幕上实时显示的视频信号格式。
具有彩色图像也使得操作人员可以对牙齿(通常为白色)和牙龈(通常为 红色)所在的区域进行自动分析,这在使用结构光投影的已有的方法中是不可 能实现的。同样通过定位已知的颜色,可以进行辨析,以识别图像中的物体以 及它们所在的位置(植入头或螺丝头,正畸托槽等),也便于关联有关图像(有 色标记,对象上的线条或选择性的颜色如牙沟的底部...)
这种识别还具有另一个在软件层面上的优点。由于现在的方法常常不具有 颜色分析,因为他们都使用的是结构光投影,具有所谓的“无关”的表面,会扰乱 甚至阻碍图像的自动关联。它们需要手动清洗图像,但该操作费时且昂贵。能 够区分牙龈(红色)和牙齿(白色)可以基于颜色信息去除无关区域。因此, 在牙齿的准备工作的分析表面,所有红色无关的区域会被自动删除。
最后,在本发明的测量功能,10μm的高精度并不总是必要的,而且宽视场 的精度已经足够了(20μm)。在牙科临床,开展诊断或影像的医生,为了制作 假牙或植牙,需要两种方法,一种快速的方法,仅提供必要的信息(根据所测 量的表面和给定的精度),而另一种方法是提供完整和准确的信息。例如,在 下颌臼齿上制作牙冠可以通过牙科的CFAO完成,需要准备的区域的光学影像 要求是准确、完整且整齐的,同时相对牙齿的光学图像至少提供包括接触点(牙 尖,沟槽)和牙拱的度量,但对这些不要求同等程度的精度。同样地,用于校 直齿(正畸)装置的图像不需要太高的精度,不及用于制造植入头部的陶瓷桥 的精度。
有利地,本发明允许对宽视场精度或窄视场的精度进行独立地选择,受益 于在图像处理(图1b)中实施的软件。通过操作任何一个传感器,可以快速地 构建大面积的有色表面,或与此相反的,构建具有较高的精度的、狭窄的区域。 最好的是再关联一个加速器,其功能是取代未激活的传感器。这种替代不是必 要的,但是却是一个能够保证图象关联准确性的辅助手段。
在使用被称为“诊断”的功能时,在计算机上选择诊断所需的类型,如黑色素 瘤,然后用相机用照明有关区域的波长进行扫描,该波长对应于3D图像预先选 定波长。此外,通过该对象的三维分析,经过一段时间后进行恢复测量,可以 更好地跟踪所述病理的演变。经过专业人士确认,可疑图像研究可以在2D上进 行,但尤其是其体积和颜色随着时间地演变可作为监控其危险特性的参考。拥 有一个数学中心(如微巴中心)的体积,使得是基于对象本身而不是观察者来 叠加中心上的图像,为了客观地评价其体积的演变,颜色分析被转换成3D格式, 这不再是现今那些使用2D表面或那些使用结构光或波(OCT,扫描仪或MRI) 的方法了。
同样地,归功于本发明的3D彩色显示,通过选择“色彩分析”,牙齿的颜色 分析将被转变为测量它们的体积。这种测量将采用比色法,使用3或4种基本 LED(RGB)颜色的来完成。能够有不同的LED颜色,从而有几个波长,我 们可以近似连续光谱,而没有结构化活性光干扰的风险。我们有一个不同于同 色异谱分析的分光比色法分析。
有利地是,按照本发明,所述LED还可以在连续图像(图12)(85)的关 联中起到重要作用。事实上我们知道,存在一些关联图像的方法,有的在测量 环境中放置标记,有的使用图像本身的相似性,有的甚至处理图片的模糊边缘。 所有这些系统都是复杂的,因为它们要么要求把球状的标记放置在区域内,这 在临床中是非常复杂的操作,要么识别区域过程中没有任何救济,或者对表明 平坦度过高。用具有彩色三维成像的已知波长的LEDs扫描可以简化且自动执行 此过程。确实,简单的有色线或粘附的标记可以被检测和自动显示,如果我们 细心地选用一个标记,该标记所使用的颜色是互补的、相同的,用于扫描的一 个(或多个)LEDs(79)扫描的波长就要相应增加或减少。因此,检测将通 过标记任意简单的彩色高亮度进行。该标记始终是在对象上的同一位置,不管 光学成像的角度或焦距如何改变,都将作为图像关联的参考。
有利地,根据我们的发明中相同的原理,可以通过将相机放置在嘴巴下颌 的前庭区域来跟踪下颌的运动。在上颚骨和下颚骨上面画上红线,而这仅是一 个非限制性的例子,然后拍摄这两个颚骨的运动,用前庭视角,从运动开始到 结束。相机拍摄的图像,其中关于下颌骨的一个散列图的移动相关于其他的散 列图(上颚骨,在原理上认为是不动的)。由于我们的标识独立地属于每个颚 骨,本系统将只跟踪彩色标记的运动,当红色LED亮起时该彩色标记被凸出照 明(在我们的例子中,这仅仅是一个例子)。由于在这些相同的标记存在的同 时,上颌骨和下颌骨的光学影像都分别被制作出来了,关联软件将这些彩色标 记不仅用于关联每一个颚骨的图像,而且还用于显示第四维度上的运动,即时 间维度。
可以不使用标记而执行这个操作,但只能通过上下颌骨共同的散列图识别。
另外,也可以测量咬合处的位置和相对于另一牙拱的移动。为此,该相机 是横向定位,且(患者需要)咬紧牙齿,以便获取两个牙拱上可见的点的坐标, 它们通常位于牙齿的唇侧表面上。
因为从前庭图像中检测出的点是每个牙拱的个别图像所公用的,也可以关 联两个牙拱上所有的各自拍摄的点,因此具有咬合状态中的全部的点,包括咬 紧牙齿时前庭视图中难以接近的区域。
那么我们有三种类型的点文件,上牙拱的点文件,下牙拱的点文件和在咬 合中的两个牙拱的点文件,也可以称为静态咬合的点文件。
如果我们放置相机用于前庭视图且咬紧牙齿,而且我们要求病人移动他的 牙齿,我们将获得上牙拱相对下牙拱的实时移动的第四个文件。它足以跟踪前 庭视图中识别的点随时间的移动。这样可以提供咬合中动态运动的信息。
相同的操作可以使用实验室贴片或咬合器来执行。相机可以跟踪前庭中点 的位移,这些点是从放置在咬合架上的石膏模型上检测出来的。
从咬合的这种静态分析开始,能够在虚拟咬合架上放置我们的虚拟模型, 正如1985年Chambery介绍的那样。同时通过调整必要的数据来追踪动态移动, 这就是下颚髁突倾斜、Bennett角和其他由面部弓起给出的必要的信息。
有利地,可以利用由我们发明的3D分析产生的点,在虚拟咬合器上正确地 定位虚拟模型,和/或我们可以使用在我们的欧洲专利EP0373077或欧洲专利申 请EP93.913173.6中定义过的标记点。
基于这个静态和动态的咬合测量,可以使用专利EP0369908中描述的方法 (US5,143,086)“用于测量和分析人体或部分人体的运动的装置”。这使得我 们可以具备所有必要的临床资料,用来很好地分析患者的咬合状态。
类似地和有利地在本发明中,在时间维度中对移动跟踪的干预原理,可以 应用到中测量口腔中病变部位的压力。事实上,我们知道一个病变可通过其对 压力的反应(或多或少迅速返回到它的原始位置)来识别。跟踪赘疣的光学影 像随时间的“物理”反应变化,能辅助诊断。实际上,小心使用可以穿越口腔的工 具来执行此操作,从图6a(69)中可以看出,没有它也是完全可以的。
光线只是为了照亮现场,以促进信噪比。它确实是可以在没有光线照射的 表面上进行测量,但在黑暗环境下工作,如口腔的内侧区域,环境光需要尽可 能的选择接近日光,或使用具有已知光谱特性的环境光,从而能够从被分析的 组织中的特征数据库中抽取资料对所使用的色彩进行分析。
这中非结构化光可以,如前述的那样,与牙医的房间或实验室内的照明一 起工作。同样地,我们可以看到,通过选择拍摄窗口周围的LED发射的光波长 的,和增加它们的频率和/或强度,
可以在某个3D图像中展示小深度下的某些解剖结构或病变。容量的知识提 供了病变限度的位置的指示,病变限度能够预测和展示其发展状况。这也适用 于某些组织对蓝色或紫外辐射的荧光反应。荧光不仅在表面出现,而且也出现 在病变的深处,这有助于我们对所应用的治疗手段(病理组织切除)提供帮助。 认识这种辐射的穿透,就能够评估实际被分析的三维表面的广度和深度。
最后,非限制性地,使用两个2D图像去构建3D图像让我们可以,实时地 切换我们的视角,而无需像所有时下市场上的牙科相机那样修改为二维彩色显 示。因此,由于它不使用结构光投影,我们的相机可以执行所有目前已知的功 能,包括缩放效果,也包括根据2D图像做色彩诊断,如使用绿色、蓝色或紫外 (500至300纳米)辐射的荧光检测龋齿或者红色和红外辐射(600至900纳 米)的可视化,这取决于我们在分析过程仿真用的LED类型。
有利的是,而且是本发明的一个非常有趣之处,可以从3D视角用2D彩色 来工作。这可以用两种不同的方式进行:
-由于我们使用日光(79),在没有使用帧的投影或其他结构光,我们的 记录图片(78)过程中的控制的显示屏(5)容许我们使用这个光学影像相 机用作一个简单的2D摄像头,这显著限制了使用者的投资成本。
-在数字处理和通过具有特定波长的LED扫描来高亮显示病变区域之后,我 们也可以执行这个2D显示。这种技术显然只可能从三维图像才开始。
彩色图像或仿真中同样的变焦效果可以用在3D图像上。很明显,从彩色到 灰度的转换仅仅是在我们的软件中的偏移功能,控制着从相机操作中产生的图 像处理。
前面的描述清楚地表明,本发明完全解决了阐述的问题,因为它提供了用 于优化3D色彩和实时动态牙科读取的实用解法,而且皮肤病症的病变分析成本 特别低,因为是一个在制造阶段可以固定的理念。这里的描述也清楚地显示, 它可以解决的一些基本问题,例如临床过程控制,特别是现在还没有可提供的 替代。很明显,本发明并不受限于一种本方法的实现形式,也不受限于如上文 中作为示例描述的珍惜实现了本方法的装置。与此相反,它包括所有不同的实 施和变体。因此,这是可能的,特别是测定口腔病变,不论它们被关联到的是 硬组织还是软组织。