与三维对象数据集交互.pdf

上传人:a2 文档编号:5563872 上传时间:2019-02-16 格式:PDF 页数:18 大小:3.09MB
返回 下载 相关 举报
摘要
申请专利号:

CN201280054834.X

申请日:

2012.10.15

公开号:

CN103918020A

公开日:

2014.07.09

当前法律状态:

实审

有效性:

审中

法律详情:

实质审查的生效IPC(主分类):G09B 23/28申请日:20121015|||公开

IPC分类号:

G09B23/28; G09B23/30; G09B23/34

主分类号:

G09B23/28

申请人:

皇家飞利浦有限公司

发明人:

A·格罗特; H·莱曼; J·威斯

地址:

荷兰艾恩德霍芬

优先权:

2011.11.08 US 61/556,851

专利代理机构:

永新专利商标代理有限公司 72002

代理人:

王英;张立达

PDF下载: PDF下载
内容摘要

一种用于与三维对象数据集交互的系统(20)包括用于从包括触敏表面(35)的交互设备(34)接收信号的信号输入端(21),该触敏表面(35)具有由所述三维对象数据集表示的对象的至少一部分的典型形状,其中,所述信号指示所述触敏表面(35)上被触摸的位置。所述系统进一步包括用于将所触摸的位置映射到由所述三维对象数据集表示的所述对象的相对应的点的映射单元(22)。所述三维对象数据集基于从布置用于扫描所述对象的扫描仪(24)获得的信号。

权利要求书

权利要求书
1.  一种用于与三维对象数据集交互的系统(20),包括:
信号输入端(21),用于从包括表面(35)的交互设备(34)接收信号,所述表面(35)具有由所述三维对象数据集表示的对象的至少一部分的典型形状,其中,所述信号指示由用户指示的所述表面上的位置;以及
映射单元(22),用于将所指示的位置映射到由所述三维对象数据集表示的所述对象的相对应的点。

2.  如权利要求1所述的系统,其中,所述表面(35)包括触敏表面,并且所述信号指示所述触敏表面上被触摸的位置。

3.  如权利要求1所述的系统,其中,所述三维对象数据集基于从布置用于扫描所述对象的扫描仪(24)获得的信号。

4.  如权利要求3所述的系统,其中,所述对象包括解剖对象,并且所述扫描仪(24)包括医学图像扫描仪。

5.  如权利要求1所述的系统,其中,所述映射单元(22)布置用于基于所述三维对象数据集到所述表面(35)的形状的电子表示的配准而将所指示的位置映射到由所述三维对象数据集表示的所述对象的所述相对应的点。

6.  如权利要求1所述的系统,进一步包括用于显示所述三维对象数据集的至少一部分的图形单元(26)。

7.  如权利要求6所述的系统,其中,所述图形单元(26)布置用于显示所述三维对象数据集内与由所述用户指示的所述表面(35)上的所述位置相对应的方位的指示。

8.  如权利要求1所述的系统,进一步包括用户输入接收器(28),所述用户输入接收器(28)布置用于接收要关于所述三维对象数据集内与由所述用户指示的所述表面(35)上的所述位置相对应的方位而被执行的命令。

9.  如权利要求8所述的系统,进一步包括注解单元(30),所述注解单元(30)用于响应于所述命令而将注解附加到所述三维对象数据集内与由所述用户指示的所述表面(35)上的所述位置相对应的所述方位。

10.  如权利要求1所述的系统,进一步包括本体(31),所述本体(31)包括描述所述对象的不同部分的多个项,并且其中,所述映射单元(22)布置用于将所指示的方位映射到描述所述对象的与所指示的方位相对应的一部分的项。

11.  如权利要求1所述的系统,其中,所述表面(35)包括布置用于基于所述三维对象数据集来显示信息的显示器。

12.  一种包括根据权利要求1所述的系统的工作站。

13.  一种用于与三维对象数据集交互的交互设备(34),包括:
表面(35),具有由所述三维对象数据集表示的对象的至少一部分的典型形状;以及
信号生成器(36),用于生成指示由用户指示的所述触敏表面上的位置的信号。

14.  一种用于与三维对象数据集交互的方法,包括:
从包括触敏表面的交互设备接收(50)信号,所述触敏表面具有由所述三维对象数据集表示的对象的至少一部分的典型形状,其中,所述信号指示由用户指示的所述触敏表面上的位置;并且
将所指示的位置映射(51)到由所述三维对象数据集表示的所述对象 的相对应的点。

15.  一种包括用于使处理器系统执行根据权利要求14所述的方法的指令的计算机程序产品。

说明书

说明书与三维对象数据集交互
技术领域
本发明涉及与三维对象数据集交互。
背景技术
在许多诊断任务中以及对于干预计划和结果控制,医生可以与三维图像交互。例如,在心脏病学中,医生可以审查心脏图像和相关信息并且与该心脏图像和相关信息交互。可以由审查工作站提供的可能的交互功能的示例包括图像的重取向,即旋转,以便显示具体结构;界标、器官子部分或病理的注解;用于测量的点的指示;校正自动生成的注解和/或分割结果;操控解剖体以便说明干预的结果;以及用于报告的具体结构的指示。
典型地,通过使用由在计算机屏幕上显示的医学图像的自动分割产生的电子形状模型来促成这样的交互,例如以便使用户能够选择用于测量的点或者根据特定的观察点生成三维形状的具体视图。与心脏模型的这样的交互典型地使用诸如键盘、触摸屏或计算机鼠标的设备发生,并且用户可能在执行期望的交互任务方面具有困难。
也存在可选的交互设备。例如,存在可以用于教学和培训范围、也用于机器人外科手术的已知模拟器设备,即,预先布置模拟环境并且能够在执行特定过程或特定外科手术仪器的使用时重新产生所感知的触觉和视觉反应的设备。
WO2010/097771公开一种用于外科手术培训的方法,包括:在处理单元中引入借助于适当的医疗器械所检测的临床数据;按照一种方式处理所述临床数据以便经过分割过程获得可以经过图形界面观看的解剖环境的三维解剖模型;按照一种方式将相应的生物机械属性分配给所述三维解剖模型以便获得所述解剖环境的物理解剖模型;预先布置虚拟外科手术仪器和相应的力反馈控制装置,适合于经过所述图形界面模拟在所述虚拟外科手术仪器和所述物理解剖模型之间的物理交互并且渲染所述交互的触觉感 知;并且借助于所述虚拟外科手术仪器在所述物理解剖模型上经过所述控制装置探测程序和/或外科手术程序的操作进行模拟。
WO02/13164公开了结合人身体的一部分的物理模型使用的固态感测系统,例如触觉感测系统,以便用作到计算机系统的输入设备。当在模型或解剖体的部分的物理检查期间由用户施加压力时,感测系统检测压力的水平和位置并且将其发送到计算机系统。对计算机系统进行编程以便接受这些输入并且对它们进行解释用于显示给正在被培训的人和任何相关联的指导者,用于物理检查的评估。其中的示例是硅胸部模型连同固态感测系统和数据采集模块以便收集关于检查性能的数据,例如手指放置和触诊水平。将关于用户的性能的反馈以容易可读的图形格式呈现给用户。
S.Subramanian的“Tangible interfaces for volume navigation”(Eindhoven:Technische Universiteit Eindhoven,2004,PHD论文)公开了被称为“无源接口支器”的有形接口。PassProp包含头部支器和切割平面支器。使用有线方位跟踪器来跟踪指定每一个单独支器的方位(position)的六个自由度。在位于用户前方的计算机显示器上提供用户动作的视觉反馈。头部支器用于操控患者的解剖数据的取向。还为用户提供位于优势手中的切割平面支器。该后一支器能够用于经过3D数据指定交叉平面的平移和取向。用户相对于头部支器来保持切割平面支器以便指定切片的位置和取向。将所生成的交叉图像紧靠3D模型呈现在显示器上。
发明内容
提供与三维对象数据集的改善交互将是有利的。为了更好地解决这一考虑,本发明的第一方面提供一种系统,包括:
信号输入端,用于从包括表面的交互设备接收信号,所述表面具有由所述三维对象数据集表示的对象的至少一部分的典型形状,其中,所述信号指示由用户指示的所述表面上的位置;以及
映射单元,用于将所指示的位置映射到由所述三维对象数据集表示的所述对象的相对应的点。
所述系统允许所述用户按照更加自然的方式与所述三维对象数据集交互,因为所述用户能够指示在具有相同种类的对象的形状的物理对象的表 面上的方位,以便指示所述三维对象数据集中的相对应的方位。按照这种方式,所述交互变得更加自然。所述对象的所述表面使所述交互更加用户友好,因为所触摸的位置通过所述系统与所述三维对象数据集中的相对应的方位相关联。按照这种方式,能够减少或者避免使用鼠标或其它输入设备的复杂交互。
所述表面可以包括触敏表面。所述信号可以指示所述触敏表面上被触摸的位置。触摸所述表面是所述用户指示所述表面上的方位的自然方式。因此,具有由所述三维对象数据集表示的对象的至少一部分的典型形状的所述触敏表面是与三维对象数据集交互的常规工具。
所述三维对象数据集可以基于从扫描仪获得的信号。这样的扫描仪可以布置用于扫描特定种类的对象。所述三维对象数据集因而可以代表真实世界中的对象的具体形状信息。所述交互设备的形状可以通常与相同种类的对象的形状相对应。例如,它可以具有普通形状(average shape)或建模形状,通常具有经常在这样的对象上找到的特征。
所述对象可以包括解剖对象。在这样的情况下,所述三维对象数据集和所述交互设备二者都可以具有这样的解剖对象的形状。也可以是这种情况:所述交互设备具有解剖对象的典型示例的更一般形状,而所述三维对象数据集可以是患者特有的。然而,这不是限制。所述扫描仪可以包括医学图像扫描仪。这是用于获得患者特有的三维对象数据集的常规种类的扫描仪。
所述映射单元可以布置用于基于所述三维对象数据集到所述表面的形状的电子表示的配准而将所指示的位置映射到由所述三维对象数据集表示的所述对象的相对应的点。这是映射所述表面上的方位与所述三维对象数据集内的方位的有效方式。
所述系统可以包括用于显示所述三维对象数据集的至少一部分的图形单元。这允许用户查看所显示的三维对象数据集以便浏览所述对象的细节和/或详细资料,同时所述交互设备可以用于指示所述对象中的方位。这一显示可以例如发生在单独的监视器屏幕上。
所述图形单元可以布置用于显示所述三维对象数据集内与所述交互设备被触摸的所述表面上的位置相对应的方位的指示。这使所述交互设备的 所触摸的方位和所述三维对象数据集中所指示的方位之间的连接变得对于用户清楚可见,以使得所述用户可以以增加的置信度与系统交互。
所述系统可以包括用户输入接收器(28),布置用于接收要关于所述三维对象数据集内与由所述用户指示的所述表面(35)上的位置相对应的方位而执行的命令。这允许所述用户关于要执行哪一个命令而容易地指定所述方位。
所述命令可以包括将注解附接到所述三维对象数据集内与所述交互设备被触摸的所述表面上的位置相对应的方位。所述系统可以包括注解单元,用于对所述命令做出响应而将注解附接到所述三维对象数据集内与由所述用户指示的所述表面上的所述位置相对应的方位。这使对三维对象数据集作注解变得更加容易。
所述系统可以包括本体(ontology),所述本体包括描述所述对象的不同部分的多个项(term),并且其中,所述映射单元布置用于将所指示的方位映射到描述所述对象的与所指示的方位相对应的一部分的项。这允许创建具有所触摸的方位的语义知识的系统。
所述系统可以包括到病历信息系统的连接。所述连接可以布置用于基于描述与所触摸的方位相对应的所述对象的所述部分的项而从患者数据记录取回数据。这是链接到所述输入设备的本体的常规使用。所述系统可以自动取回并且例如显示与所述对象的所触摸的部分相关的患者特有的信息。所述系统也可以链接到一般知识库用于取回应用于所触摸的部分的一般知识。
所述交互设备可以包括关于所述交互设备的其余部分可移动的可移动部分,并且其中,所述可移动部分和所述其余部分代表所述对象的不同部分,并且所述可移动部分布置用于与所述其余部分联合且与所述其余部分分离,其中,当所述可移动部分与所述其余部分联合时,所述触敏表面的至少一部分由所述可移动部分覆盖。例如,对象可以包括几个构成部分。这些部分在所述交互设备中可以由单独的物理对象表示。当接合所述物理对象以便形成完整对象的表示时,覆盖这些物理对象之一的触敏表面的一部分可以由所述物理对象中的另一个覆盖。这一特征允许用户在构成部分的边界上指示所述对象内侧的位置。而且,可以提供这样的部分的可选的 可替换变形。这些变形可以代表可选的形状。例如,可以通过提供针对每一个变形的可选部分来迎合通常发生的解剖变形。可以提供指示模块以便使用户能够指示要使用哪一个可选部分。按照这种方式,不必为每一个可能的解剖变形提供完整的交互设备。替代地,仅需要提供变化的部分。所述交互设备还通过向其添加更多的部分而变得可扩展。
所述表面可以包括布置用于基于所述三维对象数据集来显示信息的显示器。这一显示器可以与所述表面集成,并且具有相同的形状。在触敏表面的情况下,所述触敏表面可以包括或者是布置用于基于所述三维对象数据集来显示信息的触敏显示器。这一触敏显示器也可以具有特定种类的对象的表面的至少一部分的形状。例如,所述表面可以包括两层,一层用于显示而另一层用于触摸敏感度。这一触敏显示器允许以增加的真实性显示三维对象。而且,它在与三维对象数据集交互时进一步提高了用户的手眼协调。也能够显示与所述三维对象数据集内的特定方位相关的额外信息。所述触敏显示器可以用于例如显示模拟结果、伤疤或具有来自与所述表面上的所述方位相关联的本体的文本的注解。在所述触敏表面上显示的这一信息可以包括来自所述三维对象数据集的信息或者链接到所述三维对象数据集中的方位的信息。
所述系统可以包括在工作站中。这样的工作站可以包括用于显示所述三维对象数据集,例如其二维渲染,的主显示器。而且,可以提供键盘和/或鼠标作为额外的用户输入装置。
在另一方面,本发明提供一种用于与三维对象数据集交互的交互设备,包括:
表面,具有由所述三维对象数据集表示的对象的至少一部分的典型形状;以及
信号生成器,用于生成指示由用户指示的所述触敏表面上的位置的信号。
可以结合用于与三维对象数据集交互的上面提及的系统来使用这样的交互设备。
在另一方面,本发明提供一种与三维对象数据集交互的方法,包括:
从包括触敏表面的交互设备接收信号,所述触敏表面具有由所述三维 对象数据集表示的对象的至少一部分的典型形状,其中,所述信号指示由用户指示的所述触敏表面上的位置;以及
将所指示的位置映射到由所述三维对象数据集表示的所述对象的相对应的点。
在另一方面,本发明提供一种包括用于使处理器系统执行所阐述的方法的指令的计算机程序产品。
本领域中的普通技术人员将认识到,可以按照被认为有用的任何方式来组合本发明的上面提及的实施例、实现和/或方面中的两个或更多个。
本领域中的普通技术人员在本描述的基础上可以执行与所描述的系统的修改和变形相对应的图像获取装置、工作站、系统、方法和/或计算机程序产品的修改和变形。
附图说明
参照下文描述的实施例,本发明的这些和其它方面将变得明显并且将被阐明。
图1是用于与三维对象数据集交互的系统的简图。
图2是交互设备的横截面视图。
图3是表示交互设备和三维对象数据集之间的相对应性的图。
图4是交互设备的简图。
图5是用于与三维对象数据集交互的系统的图。
图6是与三维对象数据集交互的方法的流程图。
具体实施方式
图1说明了具有个人计算机2、显示设备3和交互设备1的设置。显示设备3经由电缆5连接到个人计算机2,并且交互设备1经由电缆4连接到个人计算机2。诸如键盘和/或鼠标的其它外围设备可以连接到个人计算机2,但是未示出。该连接不需要借助于电缆4、5来实现。它们可以通过本身在本领域中已知的其它装置,例如无线通信装置,进行连接。具有显示设备3的个人计算机2仅被表示为工作站的示例,或者更通常地,被表示为可以结合交互设备1使用的处理系统20的示例。也可以使用其它种类的 工作站,例如瘦客户端终端或膝上型计算机。处理系统也可以是包括诸如服务器的多个计算设备的较大网络的一部分。计算机2布置为在显示设备3上显示三维对象数据集的渲染图6。
附图进一步示意性地说明了握持触笔18的用户的手19。触笔可以是任何种类的触笔或任何其它适当的对象,取决于所使用的触敏表面的种类。用户使用触笔18触摸交互设备1的表面。将由这一事件产生的信息经由电缆4传送到个人计算机2。触笔的使用不是限制。也可以检测其它种类的触摸事件并且可以将其通过信号传送到个人计算机2。具体地说,能够检测手指的触摸。这取决于所使用的特定触摸感测技术。
交互设备1是能够用于与心脏图像和对于计算机2可用的相关信息交互的心脏解剖体的物理上可用的和可触摸的三维模型。物理模型的形状的电子表示可以例如按照形状模型的形式对于计算机2可用。形状模型的示例是表面网格。这一和其它种类的形状模型本身在本领域中是已知的。电子表示可以包括物理模型的形状和/或尺寸的精确信息。而且,可以定义坐标系或标引系统以便能够指代物理三维模型的单独点。交互设备1布置用于生成指示交互设备1被触摸的位置的信号。为了提供这一指示,适当的坐标值或标引值可以用于对该位置进行编码。
物理模型的形状的电子表示可以在计算机2上可用。可以将这一电子表示例如经由基于模型的分割或通过自适应网格配准而链接到诸如CT、MR、US或3D旋转血管造影图像的图像。也可以将物理模型的形状的电子表示通过与电子模型相关联的本体而链接到临床信息。在物理模型上,用户能够通过使用手指、笔形对象或者任何适当的设备(见图1)触摸物理心脏来“指出”、“标记”或“绘制”相关结构。取决于应用的实际背景,由这样的事件生成的信息可以由系统使用以便对图像进行重新格式化,选择用于测量的点,对特定的结构作注解或者选择用于报告的信息。
如图1所示,由交互设备和三维对象数据集表示的对象可以是心脏。然而,这不是限制。其它种类的可能对象包括胸部、骨骼、肝脏、肾脏和大脑。器官的组合在它们的自然空间关系中也可以按照这种方式进行建模。又一些其它种类的对象包括整个身体。对象也可以包括人工制品。这样的人工制品的示例可以在建筑应用的领域中找到,其中,对象可以包括建筑 物或建筑物的一部分或者任何其它对象,例如器具或一件家具。在这样的应用中,交互设备可以用于帮助这样的人工制品的设计。
交互设备也能够被特别制造用于与特定的三维对象数据集一起使用。例如,可以对三维对象数据集进行处理以便生成模型,例如,能够由立体平板印刷(STL)打印机打印以便生成三维物理对象的STL模型。通过立体平板印刷生成的对象的表面可以通过应用触敏箔而被制成触敏的。
可以使用非传导材料来制造物理3D模型。可以对模型的表面进行“平滑化”以便促成利用触敏箔覆盖该物理模型用于交互。例如,如果交互设备代表心脏模型,则该心脏模型的表面与规则塑料心脏模型相比较可以被平滑化,以便从该模型移除一些隆起部分和/或孔。适配在物理3D模型周围的适当的箔可以按照与物理3D模型相同的形状来预先形成。可选地,可以在物理模型周围折叠一般的柔性箔。
为了实现用户交互功能,触敏表面可以对通过适当对象的触摸是敏感的。例如,触敏表面通常可以对人手指或人皮肤是敏感的。可选地或此外,该表面可以对通过触笔的触摸是敏感的。可以使用的感测技术包括触敏传感器和电容触摸传感器。用手指、笔形对象或任何其它适当的设备触摸的交互设备的位置与诸如电子形状模型的三维对象数据集相关。为了建立这一关系,可以在物理模型和电子模型二者上指示相对应的界标。例如,计算机可以在显示器上指示电子模型中的点,并且邀请用户触摸物理模型上的相对应的点。由交互设备生成的信号由计算机捕获并且用于获得校准信息。可选地,可以将预定义的界标编码在电子心脏模型中并且在物理心脏模型上按照预定义的顺序进行指示。使用这些界标和用于在这些界标之间的方位的插值方法,可以将在物理心脏上指示的方位映射到电子心脏模型上。
可选地或此外,可以使用自动校准过程。自动校准过程可以涉及执行三维对象数据集与物理模型的形状的电子表示的自动配准。现有技术可以用于执行这样的配准。例如,可以执行三维对象数据集的分割过程以便获得第一形状模型。物理模型的形状的电子表示可以具有第二形状模型的形式。使用自适应形状模型技术,可以使任一模型适合于另一模型,以便获得第一形状模型和第二形状模型之间的相对应性。由于第一形状模型与三 维对象数据集紧密相关以及第二形状模型与物理模型紧密相关且能够将从交互设备接收的信号解析到第二形状模型的点,因此获得物理模型和三维对象数据集之间的点对点映射。这样的点对点相对应性在图3中由箭头示意性指示,箭头连接物理模型/交互设备1上的点与三维对象数据集7的图形显示。
除了对手指或对象的触摸敏感的触敏表面以外,可以结合交互设备1的表面使用其它种类的指示方法。例如,该表面可以包括光检测器,并且用户可以被给予激光笔或能够产生聚焦的光束的另一设备。用户可以接着通过将激光束或光束指向期望方位来指示该表面上的方位。其它种类的辐射发射器和接收器,例如包括超声波的声音或电磁波,可以用于指示该表面上的方位。可选地,可以使用一个或多个相机来跟踪用户的手或用户握持的对象。使用图像处理技术,可以对所指示的方位进行解析。并且,由诸如人手指的对象在表面的附近区域中的存在引起的电磁场的干扰可以例如由嵌入在该表面中的诸如RF线圈的传感器进行检测。
为了实现进一步的功能,可以将对象的部分的名称与电子心脏模型的不同部分相关联。例如,可以定义诸如心脏的器官的部分的名称,例如右冠状动脉或左冠状动脉,并且使其与物理模型和/或三维对象数据集的相对应的部分相关联。该名称可以由本体表示。例如,通过指向交互设备上的诸如阀的特定结构,可以调用相关的功能,并且可以例如发现、取回和/或显示关于这一阀的患者的所有可用信息(例如,通过在病历和先前报告中的文本搜索)。作为另一示例,可以从百科全书中选择与这一解剖部分相关联的可能疾病并且进行显示。此外,可以使用如上所述的基于模型的分割来使模型与图像相匹配。在这一匹配过程之后,物理心脏模型也可以用于选择具体的视图(短轴、长轴)或者用于显示与在物理模型上指示的点相对应的图像位置。通过指示物理模型上的点,也能够调用诸如手动注解、测量等等的其它功能。
例如,图4示出了交互设备的物理心脏模型的不同解剖部分。作为示例,所述部分是右心房60、主动脉61、肺静脉62、肺动脉63、左心室64和65以及右心室66。触敏表面的相对应的部分可以与本体的这些项相关联。
本发明也可以结合临床工作站、干预系统和/或应用来使用,其中设想 图像和信息的交互和操控。
例如,交互设备的形状可以代表特定种类的对象的普通形状。按照这种方式,可以重新使用交互设备或物理模型用于可以在操作规程中使用的大量三维对象数据集。例如,普通心脏的物理模型可以用于与代表患者的实际心脏的任何三维对象数据集交互。这里,词语“普通”应该被理解为意指该模型代表特定种类的对象。这样的普通模型可以被人设计为包括在可能在操作规程中出现的大部分三维对象数据集中发现的主要特征。能够准备多个物理对象并且将这些包括在单个交互设备中。可选地,可以提供多个交互设备,每一个交互设备包括单个物理模型。例如,可以提供不同器官的物理模型。并且,通过提供针对不同生物变异的不同物理模型,可以处理生物变异。例如,可以针对冠状动脉的不同的经常遇到的布置而准备不同的物理心脏模型。
图2示意性说明了交互设备1的横截面图。所示出的示例性交互设备1代表普通心脏的形状。交互设备也可以代表其它种类的对象。所说明的交互设备1包括水平板13和垂直轴11,作为交互设备1的支撑的示例。交互设备1进一步包括心脏的刚性(或稍微柔性)模型9。模型9可以例如由模制塑料制成。模型9的外表面由触敏箔8或层覆盖。这一箔可以被制备以便具有心脏的表面的形状,并且可以布置在模型9的表面上。模型9可以是中空的或实心的/填充的。箔8包括触敏表面。在模型表面9的顶部上创建触敏表面的其它方式在本领域中是可用的。可以通过使触敏箔弯曲而对其进行成形的触敏箔的示例本身在本领域中是已知的。这样的弯曲的触敏箔可以缠绕在具有对象的形状的模型9周围。模型9可以被简化为例如具有圆柱形或圆锥形形状。这样的形状将允许使用更多种类的已知触敏表面,包括柔性触敏显示器。例如,葡萄牙Adaúfe-Braga的Displax Interactive Systems公司的多触摸“Skin”产品能够将任何非传导的平整或弯曲表面变换为多触摸屏幕。交互设备1可以进一步包括以数字10示意性指示的电子设备,例如电源和/或处理器。电源可以用于将输入电源电压转换为适合于由触敏表面8和/或处理器使用的电压。处理器可以可操作地连接到触敏表面8并且用于控制触敏表面8和/或处理由触敏表面8产生的信号。处理器可以生成可以经由连接器12传输到位于交互设备1外部的设备,例如工作 站2,的输出信号。也可以提供无线通信芯片和/或天线,例如作为在数字10处指示的电子设备的一部分,用于所生成的信号的无线传输。
图5是表示用于与三维对象数据集交互的系统的方面的图。该系统包括处理系统20和物理交互设备34。将在下文中描述一些进一步的部件。
典型地,处理系统20布置用于接入代表对象的三维对象数据集。以下将提供其详细示例。
交互设备34可以包括具有由三维对象数据集代表的对象的至少一部分的典型形状的触敏表面35。该表面的形状是该对象的至少一部分的“典型”形状意味着该表面的形状不必确切地与由三维对象数据集代表的对象的形状相同。替代地,为了能够容易地重新使用交互设备34,触敏表面35的形状可以是具有在特定类别的对象中经常遇到的特征的形状。例如,设计为与代表心脏的三维对象数据集交互的交互设备35可以具有触敏表面35,该触敏表面35具有心脏解剖体的形状。例如,这一形状可以具有与左右心室和左右心房相对应的特征,和/或可以代表联结心房的大血管的一部分,和/或可以代表主冠状动脉。也可以在触敏表面35上借助于不同的颜色或以另一方式来指示冠状动脉。这允许与冠状动脉的容易交互,同时触敏表面35可以是相对平滑的。
触敏表面的一部分能够代表特定种类的对象的切割平面。例如,交互设备34对该对象的一半进行建模,并且切割平面也是至少部分地触敏的。交互设备34也可以包括每一个代表对象的不同部分的几个部分,并且可以将这几个部分放在一起以便构建完整的对象。按照这种方式,可以是子对象和/或切割平面的触敏表面容易被触摸。不同的部分可以借助于无线或有线通信技术与处理单元20和/或与彼此进行通信。
例如,交互设备包括关于该交互设备的其余部分可移动的可移动部分,并且其中可移动部分和其余部分代表对象的不同部分,以及可移动部分布置用于与其余部分联合且与该其余部分分离,其中当可移动部分与其余部分联合时,触摸表面的至少一部分由可移动部分覆盖。
触敏表面可以基于任何已知的触敏技术,例如电阻或电容触摸屏。也可以使用例如基于传导性的其它种类的技术。可以按照可以缠绕在支撑对象周围的柔性箔的形式来制造触敏表面。触敏表面可以在工厂中预先成形 以便具有合适的形状。触敏表面35可以对人类皮肤和/或对利用诸如触笔的人造对象的触摸事件是敏感的。
交互设备可以进一步包括用于生成信号以便将触摸事件传递到处理系统20的信号生成器36。信号可以指示触敏表面35被触摸的位置。
处理系统20可以包括用于从信号生成器36接收信号的信号输入端21。信号从交互设备到处理系统20的传输可以经过无线或有线连接或者任何可用的信号传输技术。
处理系统可以包括用于将如由信号指示的所触摸的位置映射到由三维对象数据集表示的对象的相对应的点的映射单元22。这样的映射可以借助于将触敏表面的点映射到三维对象数据集中的对象的点的表格来实现。这样的表格可以例如借助于校准程序生成,其中点的序列由用户在三维对象数据集中和触敏表面35上进行指示。可以使用如在本领域中已知的常规交互设备,例如鼠标输入设备,来执行在校准程序期间在三维对象数据集中的指示。下文描述另一更加自动的校准程序。
扫描仪24可以用于通过例如使用具有相对应的辐射检测器的相机或辐射源扫描对象来生成三维对象数据集。示例包括x射线、计算机断层扫描、磁共振、超声设备和摄影设备。摄影设备可以用于例如通过立体视法来获得三维对象数据集。扫描仪24可以连接到处理器系统20的重构单元23。重构单元23也可以是与处理器系统20分离的实体的一部分。例如,重构单元23可以集成在扫描仪24中。在这样的情况下,扫描仪产生三维对象数据集,例如体积数据集或表面模型或形状模型,其例如存储在管理数据库的分布式服务器系统中。然而,处理系统20可以例如经由分布式服务器系统接入该三维对象数据集。这些体系结构可选细节未在附图中绘制出,但是对于本领域中的技术人员将是明显的。扫描仪24可以包括能够扫描活体的至少一部分的医学图像扫描仪。
映射单元22可以布置用于基于三维对象数据集到触敏表面35的形状的电子表示的配准来将所触摸的位置映射到由三维对象数据集表示的对象的相对应的点。这一配准可以由映射单元22本身或由另一实体执行,例如由分布式服务器系统的服务器执行。为此,触敏表面35的形状的电子表示对于负责执行该配准的设备变为可用。触敏表面35的形状的电子表示可以 包括从交互设备34传输的信号中可以用于表示表面35被触摸的位置的坐标系的表示。按照这一方式,在配准之后,可以使所接收的信号不仅与触敏表面35的电子表示中的方位相关而且与三维对象数据集中的方位相关。触敏表面35的形状的电子表示可以例如采取表面模型或形状模型的形式。通过使用自适应形状模型来对触敏表面的形状或在三维对象数据集中表示的对象或这两者进行建模,可以对这两个形状进行配准。其它配准方法对于本领域中的技术人员是可用的。
处理系统20可以包括布置用于显示三维对象数据集的至少一部分的图形单元26。这使交互对于用户更加相关,因为用户能够通过触摸触敏表面35的相对应的点来指示所显示的三维对象数据集的点。
图形单元26可以布置用于显示与交互设备被触摸的触敏表面35上的位置相对应的三维对象数据集内的方位的指示。这提供立即反馈以便向用户确认指示了哪个方位。它使用户能够以更大的置信度来使用交互设备34。
可以提供进一步的用户输入设备29,例如鼠标、键盘或触敏显示器。处理系统20可以包括布置用于从这样的输入设备29接收用户命令的用户输入接收器28。对用户输入接收器28做出响应,关于与交互设备34被触摸的触敏表面35上的位置相对应的三维对象数据集内的方位,该命令可以由处理系统20执行。
例如,该命令可以用于将注解附接到所指示的方位。这样的注解可以包括文本标签或另一符号或改变由三维对象数据集表示的该方位或在该方位处的子对象的颜色。因此,该系统可以进一步包括注解单元30,用于对用户输入接收器28从用户输入设备20接收的命令做出响应而将注解附接到三维对象数据集内的适当方位。这一适当方位是与交互设备34被触摸的触敏表面35上的位置相对应的方位。例如,命令是绘制穿过与被顺序触摸的位置相对应的点的线。将理解,尽管可以经由常规输入装置给出该命令,但是也可以使用户能够经由交互设备34输入命令。例如,触敏表面35的触摸可以指示诸如注解的命令。可以定义其它手势,例如,触摸该触敏表面35两次或者在该触敏表面上挥击诸如手指的对象。这些手势可以与命令相关联。
该系统可以包括本体31,其包括描述对象的不同部分的多个项。映射 单元22可以布置用于将所触摸的方位映射到描述该对象的与该触摸的方位相对应的一部分的项。可以显示这一项的指示以便引导用户。许多其它应用是可能的,例如从分布式服务器系统自动请求关于这一部分的相关信息。这一相关信息可以是关于这样的部分的一般信息(例如,当左心房被触摸时关于该左心房的百科全书信息)。这一相关信息也可以是关于对象中的这一部分的具体信息,该对象被实际扫描以便获得三维对象数据集。其示例是医院中的已经历成像检查的患者。
也可以提供病历信息系统33。例如,这一病历信息系统33由上面提及的分布式服务器系统托管。
处理系统20可以包括用于将系统连接到病历信息系统33的连接单元32。更具体地,连接单元32可以布置用于基于描述与所触摸的方位相对应的对象的该部分的项来从患者数据记录取回数据。这一患者数据记录可以是由扫描仪24扫描的患者的数据记录。然而,这不是限制。也可以例如从类似的情况取回数据。
触敏表面35可以包括布置用于基于三维对象数据集来显示信息的触敏显示器。与触敏表面类似,这一显示器可以与三维对象数据集中的对象类似地被成形。如所描述的,触敏显示器可以例如借助于多层箔而与触敏表面35集成。例如,触敏显示器可以用于在触敏表面35上显示实际三维对象数据集的进一步细节。例如,可以使用触敏显示表面在物理模型上显示伤疤。可选地,可以显示动脉和/或静脉。并且,可以在交互设备上显示模拟结果、激活时间、在未来干预期间计划的修改或与数字模型相关联的任何其它信息。
处理系统20可以被实现为工作站,例如放射科工作站。处理系统20也可以至少部分地被实现为分布式服务器系统的一部分。例如,直接与用户输入和显示相关的功能可以在工作站中实现,并且所有或一些其余部分,例如包括映射单元、配准单元、注解摸块、本体中的一个或多个,可以在分布式服务器系统的服务器上实现。
图6说明了与三维对象数据集交互的方法的一些方面。该方法包括从包括触敏表面的交互设备接收信号的步骤50,该触敏表面具有由三维对象数据集表示的对象的至少一部分的典型形状,其中该信号指示被触摸的触 敏表面上的位置。该方法包括将所触摸的位置映射到由三维对象数据集表示的对象的相对应的点的进一步的步骤51。可以基于系统的上面描述来实现进一步的处理步骤。该方法可以按照计算机程序产品的形式实现。
将认识到,本发明还适用于计算机程序,特别是适合于实施本发明的位于载体上或载体中的计算机程序。该程序可以是按照源代码、对象代码、代码中间源和对象代码的形式,例如按照部分编译的形式或按照适合于在实现根据本发明的方法中使用的任何其它形式。还应该认识到,这样的程序可以具有许多不同的体系结构设计。例如,实现根据本发明的方法或系统的功能的程序代码可以被细分为一个或多个子例程。在这些子例程当中分配功能的许多不同方式对于本领域技术人员来说将是明显的。子例程可以被一起存储在一个可执行文件中以便形成独立的程序。这样的可执行文件可以包括计算机可执行指令,例如处理器指令和/或解释程序指令(例如,Java解释程序指令)。可选地,子例程中的一个或多个或者全部可以存储在至少一个外部库文件中并且例如在运行时间与主程序静态或动态地链接。主程序包含到至少一个子例程的至少一次调用。子例程还可以包括对彼此的调用。与计算机程序产品相关的实施例包括与本文阐述的至少一种方法的每一个处理步骤相对应的计算机可执行指令。这些指令可以被细分为子例程和/或存储在可以被静态或动态地链接的一个或多个文件中。与计算机程序产品相关的另一实施例包括与本文阐述的至少一个系统和/或产品的每一个模块相对应的计算机可执行指令。这些指令可以被细分为子例程和/或存储在可以被静态或动态地链接的一个或多个文件中。
计算机程序的载体可以是能够承载程序的任何实体或设备。例如,载体可以包括存储介质,例如以CD ROM或半导体ROM为例的ROM,或者例如闪存驱动或硬盘的磁记录介质。而且,载体可以是例如电学或光学信号的可传送载体,其可以经由电缆或光缆或者通过无线电或其它方式进行传送。当将程序体现在这样的信号中时,载体可以由这样的电缆或其它设备或装置构成。可选地,载体可以是其中嵌入有程序的集成电路,该集成电路适合于执行相关方法或在执行相关方法时使用。
应该注意,上面提及的实施例说明而非限制本发明,并且本领域中的普通技术人员在不偏离所附权利要求的情况下将能够设计许多可选的实施 例。在权利要求中,放置在括号中的任何附图标记不应该被解释为限制权利要求。动词“包括”及其词性变化的使用并不排除除了在权利要求中陈述的那些元件或步骤以外的元件或步骤的存在。在元件前面的词语“一”或“一个”并不排除多个这样的元件的存在。本发明可以借助于包括几个不同元件的硬件并且借助于适当编程的计算机来实现。在列举几个模块的设备权利要求中,这些模块中的几个可以由硬件的一个和相同项目体现。在相互不同的从属权利要求中列举的某些度量的不争事实并不指示不能够有利地使用这些度量的组合。

与三维对象数据集交互.pdf_第1页
第1页 / 共18页
与三维对象数据集交互.pdf_第2页
第2页 / 共18页
与三维对象数据集交互.pdf_第3页
第3页 / 共18页
点击查看更多>>
资源描述

《与三维对象数据集交互.pdf》由会员分享,可在线阅读,更多相关《与三维对象数据集交互.pdf(18页珍藏版)》请在专利查询网上搜索。

1、(10)申请公布号 CN 103918020 A (43)申请公布日 2014.07.09 CN 103918020 A (21)申请号 201280054834.X (22)申请日 2012.10.15 61/556,851 2011.11.08 US G09B 23/28(2006.01) G09B 23/30(2006.01) G09B 23/34(2006.01) (71)申请人 皇家飞利浦有限公司 地址 荷兰艾恩德霍芬 (72)发明人 A格罗特 H莱曼 J威斯 (74)专利代理机构 永新专利商标代理有限公司 72002 代理人 王英 张立达 (54) 发明名称 与三维对象数据集交互 。

2、(57) 摘要 一种用于与三维对象数据集交互的系统(20) 包括用于从包括触敏表面 (35) 的交互设备 (34) 接收信号的信号输入端(21), 该触敏表面(35)具 有由所述三维对象数据集表示的对象的至少一部 分的典型形状, 其中, 所述信号指示所述触敏表面 (35) 上被触摸的位置。所述系统进一步包括用于 将所触摸的位置映射到由所述三维对象数据集表 示的所述对象的相对应的点的映射单元 (22)。所 述三维对象数据集基于从布置用于扫描所述对象 的扫描仪 (24) 获得的信号。 (30)优先权数据 (85)PCT国际申请进入国家阶段日 2014.05.08 (86)PCT国际申请的申请数据 。

3、PCT/IB2012/055601 2012.10.15 (87)PCT国际申请的公布数据 WO2013/068860 EN 2013.05.16 (51)Int.Cl. 权利要求书 2 页 说明书 10 页 附图 5 页 (19)中华人民共和国国家知识产权局 (12)发明专利申请 权利要求书2页 说明书10页 附图5页 (10)申请公布号 CN 103918020 A CN 103918020 A 1/2 页 2 1. 一种用于与三维对象数据集交互的系统 (20), 包括 : 信号输入端 (21), 用于从包括表面 (35) 的交互设备 (34) 接收信号, 所述表面 (35) 具 有由所述。

4、三维对象数据集表示的对象的至少一部分的典型形状, 其中, 所述信号指示由用 户指示的所述表面上的位置 ; 以及 映射单元 (22), 用于将所指示的位置映射到由所述三维对象数据集表示的所述对象的 相对应的点。 2.如权利要求1所述的系统, 其中, 所述表面(35)包括触敏表面, 并且所述信号指示所 述触敏表面上被触摸的位置。 3. 如权利要求 1 所述的系统, 其中, 所述三维对象数据集基于从布置用于扫描所述对 象的扫描仪 (24) 获得的信号。 4.如权利要求3所述的系统, 其中, 所述对象包括解剖对象, 并且所述扫描仪(24)包括 医学图像扫描仪。 5. 如权利要求 1 所述的系统, 其中。

5、, 所述映射单元 (22) 布置用于基于所述三维对象数 据集到所述表面 (35) 的形状的电子表示的配准而将所指示的位置映射到由所述三维对象 数据集表示的所述对象的所述相对应的点。 6. 如权利要求 1 所述的系统, 进一步包括用于显示所述三维对象数据集的至少一部分 的图形单元 (26)。 7. 如权利要求 6 所述的系统, 其中, 所述图形单元 (26) 布置用于显示所述三维对象数 据集内与由所述用户指示的所述表面 (35) 上的所述位置相对应的方位的指示。 8. 如权利要求 1 所述的系统, 进一步包括用户输入接收器 (28), 所述用户输入接收器 (28) 布置用于接收要关于所述三维对象。

6、数据集内与由所述用户指示的所述表面 (35) 上的 所述位置相对应的方位而被执行的命令。 9. 如权利要求 8 所述的系统, 进一步包括注解单元 (30), 所述注解单元 (30) 用于响应 于所述命令而将注解附加到所述三维对象数据集内与由所述用户指示的所述表面 (35) 上 的所述位置相对应的所述方位。 10. 如权利要求 1 所述的系统, 进一步包括本体 (31), 所述本体 (31) 包括描述所述对 象的不同部分的多个项, 并且其中, 所述映射单元 (22) 布置用于将所指示的方位映射到描 述所述对象的与所指示的方位相对应的一部分的项。 11.如权利要求1所述的系统, 其中, 所述表面(。

7、35)包括布置用于基于所述三维对象数 据集来显示信息的显示器。 12. 一种包括根据权利要求 1 所述的系统的工作站。 13. 一种用于与三维对象数据集交互的交互设备 (34), 包括 : 表面 (35), 具有由所述三维对象数据集表示的对象的至少一部分的典型形状 ; 以及 信号生成器 (36), 用于生成指示由用户指示的所述触敏表面上的位置的信号。 14. 一种用于与三维对象数据集交互的方法, 包括 : 从包括触敏表面的交互设备接收 (50) 信号, 所述触敏表面具有由所述三维对象数据 集表示的对象的至少一部分的典型形状, 其中, 所述信号指示由用户指示的所述触敏表面 上的位置 ; 并且 将。

8、所指示的位置映射 (51) 到由所述三维对象数据集表示的所述对象的相对应的点。 权 利 要 求 书 CN 103918020 A 2 2/2 页 3 15. 一种包括用于使处理器系统执行根据权利要求 14 所述的方法的指令的计算机程 序产品。 权 利 要 求 书 CN 103918020 A 3 1/10 页 4 与三维对象数据集交互 技术领域 0001 本发明涉及与三维对象数据集交互。 背景技术 0002 在许多诊断任务中以及对于干预计划和结果控制, 医生可以与三维图像交互。例 如, 在心脏病学中, 医生可以审查心脏图像和相关信息并且与该心脏图像和相关信息交互。 可以由审查工作站提供的可能的。

9、交互功能的示例包括图像的重取向, 即旋转, 以便显示具 体结构 ; 界标、 器官子部分或病理的注解 ; 用于测量的点的指示 ; 校正自动生成的注解和 / 或分割结果 ; 操控解剖体以便说明干预的结果 ; 以及用于报告的具体结构的指示。 0003 典型地, 通过使用由在计算机屏幕上显示的医学图像的自动分割产生的电子形状 模型来促成这样的交互, 例如以便使用户能够选择用于测量的点或者根据特定的观察点生 成三维形状的具体视图。与心脏模型的这样的交互典型地使用诸如键盘、 触摸屏或计算机 鼠标的设备发生, 并且用户可能在执行期望的交互任务方面具有困难。 0004 也存在可选的交互设备。 例如, 存在可以。

10、用于教学和培训范围、 也用于机器人外科 手术的已知模拟器设备, 即, 预先布置模拟环境并且能够在执行特定过程或特定外科手术 仪器的使用时重新产生所感知的触觉和视觉反应的设备。 0005 WO2010/097771 公开一种用于外科手术培训的方法, 包括 : 在处理单元中引入借 助于适当的医疗器械所检测的临床数据 ; 按照一种方式处理所述临床数据以便经过分割过 程获得可以经过图形界面观看的解剖环境的三维解剖模型 ; 按照一种方式将相应的生物机 械属性分配给所述三维解剖模型以便获得所述解剖环境的物理解剖模型 ; 预先布置虚拟外 科手术仪器和相应的力反馈控制装置, 适合于经过所述图形界面模拟在所述虚。

11、拟外科手术 仪器和所述物理解剖模型之间的物理交互并且渲染所述交互的触觉感知 ; 并且借助于所述 虚拟外科手术仪器在所述物理解剖模型上经过所述控制装置探测程序和 / 或外科手术程 序的操作进行模拟。 0006 WO02/13164 公开了结合人身体的一部分的物理模型使用的固态感测系统, 例如触 觉感测系统, 以便用作到计算机系统的输入设备。当在模型或解剖体的部分的物理检查期 间由用户施加压力时, 感测系统检测压力的水平和位置并且将其发送到计算机系统。对计 算机系统进行编程以便接受这些输入并且对它们进行解释用于显示给正在被培训的人和 任何相关联的指导者, 用于物理检查的评估。其中的示例是硅胸部模型。

12、连同固态感测系统 和数据采集模块以便收集关于检查性能的数据, 例如手指放置和触诊水平。将关于用户的 性能的反馈以容易可读的图形格式呈现给用户。 0007 S.Subramanian的 “Tangible interfaces for volume navigation” (Eindhoven: Technische Universiteit Eindhoven, 2004, PHD 论文 ) 公开了被称为 “无源接口支器” 的 有形接口。 PassProp包含头部支器和切割平面支器。 使用有线方位跟踪器来跟踪指定每一 个单独支器的方位 (position) 的六个自由度。在位于用户前方的计算机。

13、显示器上提供用 户动作的视觉反馈。头部支器用于操控患者的解剖数据的取向。还为用户提供位于优势手 说 明 书 CN 103918020 A 4 2/10 页 5 中的切割平面支器。该后一支器能够用于经过 3D 数据指定交叉平面的平移和取向。用户 相对于头部支器来保持切割平面支器以便指定切片的位置和取向。 将所生成的交叉图像紧 靠 3D 模型呈现在显示器上。 发明内容 0008 提供与三维对象数据集的改善交互将是有利的。为了更好地解决这一考虑, 本发 明的第一方面提供一种系统, 包括 : 0009 信号输入端, 用于从包括表面的交互设备接收信号, 所述表面具有由所述三维对 象数据集表示的对象的至少。

14、一部分的典型形状, 其中, 所述信号指示由用户指示的所述表 面上的位置 ; 以及 0010 映射单元, 用于将所指示的位置映射到由所述三维对象数据集表示的所述对象的 相对应的点。 0011 所述系统允许所述用户按照更加自然的方式与所述三维对象数据集交互, 因为所 述用户能够指示在具有相同种类的对象的形状的物理对象的表面上的方位, 以便指示所述 三维对象数据集中的相对应的方位。按照这种方式, 所述交互变得更加自然。所述对象的 所述表面使所述交互更加用户友好, 因为所触摸的位置通过所述系统与所述三维对象数据 集中的相对应的方位相关联。按照这种方式, 能够减少或者避免使用鼠标或其它输入设备 的复杂交。

15、互。 0012 所述表面可以包括触敏表面。所述信号可以指示所述触敏表面上被触摸的位置。 触摸所述表面是所述用户指示所述表面上的方位的自然方式。因此, 具有由所述三维对象 数据集表示的对象的至少一部分的典型形状的所述触敏表面是与三维对象数据集交互的 常规工具。 0013 所述三维对象数据集可以基于从扫描仪获得的信号。 这样的扫描仪可以布置用于 扫描特定种类的对象。 所述三维对象数据集因而可以代表真实世界中的对象的具体形状信 息。所述交互设备的形状可以通常与相同种类的对象的形状相对应。例如, 它可以具有普 通形状 (average shape) 或建模形状, 通常具有经常在这样的对象上找到的特征。。

16、 0014 所述对象可以包括解剖对象。在这样的情况下, 所述三维对象数据集和所述交互 设备二者都可以具有这样的解剖对象的形状。也可以是这种情况 : 所述交互设备具有解剖 对象的典型示例的更一般形状, 而所述三维对象数据集可以是患者特有的。 然而, 这不是限 制。所述扫描仪可以包括医学图像扫描仪。这是用于获得患者特有的三维对象数据集的常 规种类的扫描仪。 0015 所述映射单元可以布置用于基于所述三维对象数据集到所述表面的形状的电子 表示的配准而将所指示的位置映射到由所述三维对象数据集表示的所述对象的相对应的 点。这是映射所述表面上的方位与所述三维对象数据集内的方位的有效方式。 0016 所述系。

17、统可以包括用于显示所述三维对象数据集的至少一部分的图形单元。 这允 许用户查看所显示的三维对象数据集以便浏览所述对象的细节和 / 或详细资料, 同时所述 交互设备可以用于指示所述对象中的方位。这一显示可以例如发生在单独的监视器屏幕 上。 0017 所述图形单元可以布置用于显示所述三维对象数据集内与所述交互设备被触摸 说 明 书 CN 103918020 A 5 3/10 页 6 的所述表面上的位置相对应的方位的指示。 这使所述交互设备的所触摸的方位和所述三维 对象数据集中所指示的方位之间的连接变得对于用户清楚可见, 以使得所述用户可以以增 加的置信度与系统交互。 0018 所述系统可以包括用户。

18、输入接收器 (28), 布置用于接收要关于所述三维对象数据 集内与由所述用户指示的所述表面 (35) 上的位置相对应的方位而执行的命令。这允许所 述用户关于要执行哪一个命令而容易地指定所述方位。 0019 所述命令可以包括将注解附接到所述三维对象数据集内与所述交互设备被触摸 的所述表面上的位置相对应的方位。所述系统可以包括注解单元, 用于对所述命令做出响 应而将注解附接到所述三维对象数据集内与由所述用户指示的所述表面上的所述位置相 对应的方位。这使对三维对象数据集作注解变得更加容易。 0020 所述系统可以包括本体 (ontology), 所述本体包括描述所述对象的不同部分的多 个项 (ter。

19、m), 并且其中, 所述映射单元布置用于将所指示的方位映射到描述所述对象的与 所指示的方位相对应的一部分的项。这允许创建具有所触摸的方位的语义知识的系统。 0021 所述系统可以包括到病历信息系统的连接。 所述连接可以布置用于基于描述与所 触摸的方位相对应的所述对象的所述部分的项而从患者数据记录取回数据。 这是链接到所 述输入设备的本体的常规使用。 所述系统可以自动取回并且例如显示与所述对象的所触摸 的部分相关的患者特有的信息。 所述系统也可以链接到一般知识库用于取回应用于所触摸 的部分的一般知识。 0022 所述交互设备可以包括关于所述交互设备的其余部分可移动的可移动部分, 并且 其中, 所。

20、述可移动部分和所述其余部分代表所述对象的不同部分, 并且所述可移动部分布 置用于与所述其余部分联合且与所述其余部分分离, 其中, 当所述可移动部分与所述其余 部分联合时, 所述触敏表面的至少一部分由所述可移动部分覆盖。 例如, 对象可以包括几个 构成部分。这些部分在所述交互设备中可以由单独的物理对象表示。当接合所述物理对象 以便形成完整对象的表示时, 覆盖这些物理对象之一的触敏表面的一部分可以由所述物理 对象中的另一个覆盖。这一特征允许用户在构成部分的边界上指示所述对象内侧的位置。 而且, 可以提供这样的部分的可选的可替换变形。这些变形可以代表可选的形状。例如, 可 以通过提供针对每一个变形的。

21、可选部分来迎合通常发生的解剖变形。 可以提供指示模块以 便使用户能够指示要使用哪一个可选部分。按照这种方式, 不必为每一个可能的解剖变形 提供完整的交互设备。替代地, 仅需要提供变化的部分。所述交互设备还通过向其添加更 多的部分而变得可扩展。 0023 所述表面可以包括布置用于基于所述三维对象数据集来显示信息的显示器。 这一 显示器可以与所述表面集成, 并且具有相同的形状。 在触敏表面的情况下, 所述触敏表面可 以包括或者是布置用于基于所述三维对象数据集来显示信息的触敏显示器。 这一触敏显示 器也可以具有特定种类的对象的表面的至少一部分的形状。 例如, 所述表面可以包括两层, 一层用于显示而另。

22、一层用于触摸敏感度。 这一触敏显示器允许以增加的真实性显示三维对 象。而且, 它在与三维对象数据集交互时进一步提高了用户的手眼协调。也能够显示与所 述三维对象数据集内的特定方位相关的额外信息。 所述触敏显示器可以用于例如显示模拟 结果、 伤疤或具有来自与所述表面上的所述方位相关联的本体的文本的注解。在所述触敏 表面上显示的这一信息可以包括来自所述三维对象数据集的信息或者链接到所述三维对 说 明 书 CN 103918020 A 6 4/10 页 7 象数据集中的方位的信息。 0024 所述系统可以包括在工作站中。 这样的工作站可以包括用于显示所述三维对象数 据集, 例如其二维渲染, 的主显示器。

23、。而且, 可以提供键盘和 / 或鼠标作为额外的用户输入 装置。 0025 在另一方面, 本发明提供一种用于与三维对象数据集交互的交互设备, 包括 : 0026 表面, 具有由所述三维对象数据集表示的对象的至少一部分的典型形状 ; 以及 0027 信号生成器, 用于生成指示由用户指示的所述触敏表面上的位置的信号。 0028 可以结合用于与三维对象数据集交互的上面提及的系统来使用这样的交互设备。 0029 在另一方面, 本发明提供一种与三维对象数据集交互的方法, 包括 : 0030 从包括触敏表面的交互设备接收信号, 所述触敏表面具有由所述三维对象数据集 表示的对象的至少一部分的典型形状, 其中,。

24、 所述信号指示由用户指示的所述触敏表面上 的位置 ; 以及 0031 将所指示的位置映射到由所述三维对象数据集表示的所述对象的相对应的点。 0032 在另一方面, 本发明提供一种包括用于使处理器系统执行所阐述的方法的指令的 计算机程序产品。 0033 本领域中的普通技术人员将认识到, 可以按照被认为有用的任何方式来组合本发 明的上面提及的实施例、 实现和 / 或方面中的两个或更多个。 0034 本领域中的普通技术人员在本描述的基础上可以执行与所描述的系统的修改和 变形相对应的图像获取装置、 工作站、 系统、 方法和 / 或计算机程序产品的修改和变形。 附图说明 0035 参照下文描述的实施例,。

25、 本发明的这些和其它方面将变得明显并且将被阐明。 0036 图 1 是用于与三维对象数据集交互的系统的简图。 0037 图 2 是交互设备的横截面视图。 0038 图 3 是表示交互设备和三维对象数据集之间的相对应性的图。 0039 图 4 是交互设备的简图。 0040 图 5 是用于与三维对象数据集交互的系统的图。 0041 图 6 是与三维对象数据集交互的方法的流程图。 具体实施方式 0042 图 1 说明了具有个人计算机 2、 显示设备 3 和交互设备 1 的设置。显示设备 3 经由 电缆 5 连接到个人计算机 2, 并且交互设备 1 经由电缆 4 连接到个人计算机 2。诸如键盘和 / 。

26、或鼠标的其它外围设备可以连接到个人计算机 2, 但是未示出。该连接不需要借助于电缆 4、 5来实现。 它们可以通过本身在本领域中已知的其它装置, 例如无线通信装置, 进行连接。 具有显示设备3的个人计算机2仅被表示为工作站的示例, 或者更通常地, 被表示为可以结 合交互设备 1 使用的处理系统 20 的示例。也可以使用其它种类的工作站, 例如瘦客户端终 端或膝上型计算机。 处理系统也可以是包括诸如服务器的多个计算设备的较大网络的一部 分。计算机 2 布置为在显示设备 3 上显示三维对象数据集的渲染图 6。 0043 附图进一步示意性地说明了握持触笔 18 的用户的手 19。触笔可以是任何种类的。

27、 说 明 书 CN 103918020 A 7 5/10 页 8 触笔或任何其它适当的对象, 取决于所使用的触敏表面的种类。用户使用触笔 18 触摸交互 设备 1 的表面。将由这一事件产生的信息经由电缆 4 传送到个人计算机 2。触笔的使用不 是限制。也可以检测其它种类的触摸事件并且可以将其通过信号传送到个人计算机 2。具 体地说, 能够检测手指的触摸。这取决于所使用的特定触摸感测技术。 0044 交互设备1是能够用于与心脏图像和对于计算机2可用的相关信息交互的心脏解 剖体的物理上可用的和可触摸的三维模型。 物理模型的形状的电子表示可以例如按照形状 模型的形式对于计算机 2 可用。形状模型的示。

28、例是表面网格。这一和其它种类的形状模型 本身在本领域中是已知的。电子表示可以包括物理模型的形状和 / 或尺寸的精确信息。而 且, 可以定义坐标系或标引系统以便能够指代物理三维模型的单独点。交互设备 1 布置用 于生成指示交互设备 1 被触摸的位置的信号。为了提供这一指示, 适当的坐标值或标引值 可以用于对该位置进行编码。 0045 物理模型的形状的电子表示可以在计算机 2 上可用。可以将这一电子表示例如经 由基于模型的分割或通过自适应网格配准而链接到诸如CT、 MR、 US或3D旋转血管造影图像 的图像。 也可以将物理模型的形状的电子表示通过与电子模型相关联的本体而链接到临床 信息。在物理模型。

29、上, 用户能够通过使用手指、 笔形对象或者任何适当的设备 ( 见图 1) 触 摸物理心脏来 “指出” 、“标记” 或 “绘制” 相关结构。取决于应用的实际背景, 由这样的事件 生成的信息可以由系统使用以便对图像进行重新格式化, 选择用于测量的点, 对特定的结 构作注解或者选择用于报告的信息。 0046 如图 1 所示, 由交互设备和三维对象数据集表示的对象可以是心脏。然而, 这不是 限制。其它种类的可能对象包括胸部、 骨骼、 肝脏、 肾脏和大脑。器官的组合在它们的自然 空间关系中也可以按照这种方式进行建模。又一些其它种类的对象包括整个身体。对象也 可以包括人工制品。 这样的人工制品的示例可以在。

30、建筑应用的领域中找到, 其中, 对象可以 包括建筑物或建筑物的一部分或者任何其它对象, 例如器具或一件家具。 在这样的应用中, 交互设备可以用于帮助这样的人工制品的设计。 0047 交互设备也能够被特别制造用于与特定的三维对象数据集一起使用。例如, 可以 对三维对象数据集进行处理以便生成模型, 例如, 能够由立体平板印刷 (STL) 打印机打印 以便生成三维物理对象的 STL 模型。通过立体平板印刷生成的对象的表面可以通过应用触 敏箔而被制成触敏的。 0048 可以使用非传导材料来制造物理 3D 模型。可以对模型的表面进行 “平滑化” 以便 促成利用触敏箔覆盖该物理模型用于交互。例如, 如果交。

31、互设备代表心脏模型, 则该心脏 模型的表面与规则塑料心脏模型相比较可以被平滑化, 以便从该模型移除一些隆起部分和 / 或孔。适配在物理 3D 模型周围的适当的箔可以按照与物理 3D 模型相同的形状来预先形 成。可选地, 可以在物理模型周围折叠一般的柔性箔。 0049 为了实现用户交互功能, 触敏表面可以对通过适当对象的触摸是敏感的。 例如, 触 敏表面通常可以对人手指或人皮肤是敏感的。可选地或此外, 该表面可以对通过触笔的触 摸是敏感的。 可以使用的感测技术包括触敏传感器和电容触摸传感器。 用手指、 笔形对象或 任何其它适当的设备触摸的交互设备的位置与诸如电子形状模型的三维对象数据集相关。 为。

32、了建立这一关系, 可以在物理模型和电子模型二者上指示相对应的界标。 例如, 计算机可 以在显示器上指示电子模型中的点, 并且邀请用户触摸物理模型上的相对应的点。由交互 说 明 书 CN 103918020 A 8 6/10 页 9 设备生成的信号由计算机捕获并且用于获得校准信息。可选地, 可以将预定义的界标编码 在电子心脏模型中并且在物理心脏模型上按照预定义的顺序进行指示。 使用这些界标和用 于在这些界标之间的方位的插值方法, 可以将在物理心脏上指示的方位映射到电子心脏模 型上。 0050 可选地或此外, 可以使用自动校准过程。自动校准过程可以涉及执行三维对象数 据集与物理模型的形状的电子表示。

33、的自动配准。 现有技术可以用于执行这样的配准。 例如, 可以执行三维对象数据集的分割过程以便获得第一形状模型。 物理模型的形状的电子表示 可以具有第二形状模型的形式。使用自适应形状模型技术, 可以使任一模型适合于另一模 型, 以便获得第一形状模型和第二形状模型之间的相对应性。由于第一形状模型与三维对 象数据集紧密相关以及第二形状模型与物理模型紧密相关且能够将从交互设备接收的信 号解析到第二形状模型的点, 因此获得物理模型和三维对象数据集之间的点对点映射。这 样的点对点相对应性在图 3 中由箭头示意性指示, 箭头连接物理模型 / 交互设备 1 上的点 与三维对象数据集 7 的图形显示。 0051。

34、 除了对手指或对象的触摸敏感的触敏表面以外, 可以结合交互设备 1 的表面使用 其它种类的指示方法。 例如, 该表面可以包括光检测器, 并且用户可以被给予激光笔或能够 产生聚焦的光束的另一设备。 用户可以接着通过将激光束或光束指向期望方位来指示该表 面上的方位。 其它种类的辐射发射器和接收器, 例如包括超声波的声音或电磁波, 可以用于 指示该表面上的方位。可选地, 可以使用一个或多个相机来跟踪用户的手或用户握持的对 象。使用图像处理技术, 可以对所指示的方位进行解析。并且, 由诸如人手指的对象在表面 的附近区域中的存在引起的电磁场的干扰可以例如由嵌入在该表面中的诸如 RF 线圈的传 感器进行检。

35、测。 0052 为了实现进一步的功能, 可以将对象的部分的名称与电子心脏模型的不同部分相 关联。例如, 可以定义诸如心脏的器官的部分的名称, 例如右冠状动脉或左冠状动脉, 并且 使其与物理模型和 / 或三维对象数据集的相对应的部分相关联。该名称可以由本体表示。 例如, 通过指向交互设备上的诸如阀的特定结构, 可以调用相关的功能, 并且可以例如发 现、 取回和/或显示关于这一阀的患者的所有可用信息(例如, 通过在病历和先前报告中的 文本搜索)。 作为另一示例, 可以从百科全书中选择与这一解剖部分相关联的可能疾病并且 进行显示。此外, 可以使用如上所述的基于模型的分割来使模型与图像相匹配。在这一匹。

36、 配过程之后, 物理心脏模型也可以用于选择具体的视图(短轴、 长轴)或者用于显示与在物 理模型上指示的点相对应的图像位置。通过指示物理模型上的点, 也能够调用诸如手动注 解、 测量等等的其它功能。 0053 例如, 图 4 示出了交互设备的物理心脏模型的不同解剖部分。作为示例, 所述部分 是右心房 60、 主动脉 61、 肺静脉 62、 肺动脉 63、 左心室 64 和 65 以及右心室 66。触敏表面的 相对应的部分可以与本体的这些项相关联。 0054 本发明也可以结合临床工作站、 干预系统和 / 或应用来使用, 其中设想图像和信 息的交互和操控。 0055 例如, 交互设备的形状可以代表特。

37、定种类的对象的普通形状。 按照这种方式, 可以 重新使用交互设备或物理模型用于可以在操作规程中使用的大量三维对象数据集。例如, 普通心脏的物理模型可以用于与代表患者的实际心脏的任何三维对象数据集交互。这里, 说 明 书 CN 103918020 A 9 7/10 页 10 词语 “普通” 应该被理解为意指该模型代表特定种类的对象。这样的普通模型可以被人设 计为包括在可能在操作规程中出现的大部分三维对象数据集中发现的主要特征。 能够准备 多个物理对象并且将这些包括在单个交互设备中。 可选地, 可以提供多个交互设备, 每一个 交互设备包括单个物理模型。例如, 可以提供不同器官的物理模型。并且, 通。

38、过提供针对不 同生物变异的不同物理模型, 可以处理生物变异。 例如, 可以针对冠状动脉的不同的经常遇 到的布置而准备不同的物理心脏模型。 0056 图 2 示意性说明了交互设备 1 的横截面图。所示出的示例性交互设备 1 代表普通 心脏的形状。 交互设备也可以代表其它种类的对象。 所说明的交互设备1包括水平板13和 垂直轴 11, 作为交互设备 1 的支撑的示例。交互设备 1 进一步包括心脏的刚性 ( 或稍微柔 性 ) 模型 9。模型 9 可以例如由模制塑料制成。模型 9 的外表面由触敏箔 8 或层覆盖。这 一箔可以被制备以便具有心脏的表面的形状, 并且可以布置在模型9的表面上。 模型9可以 。

39、是中空的或实心的 / 填充的。箔 8 包括触敏表面。在模型表面 9 的顶部上创建触敏表面的 其它方式在本领域中是可用的。 可以通过使触敏箔弯曲而对其进行成形的触敏箔的示例本 身在本领域中是已知的。这样的弯曲的触敏箔可以缠绕在具有对象的形状的模型 9 周围。 模型 9 可以被简化为例如具有圆柱形或圆锥形形状。这样的形状将允许使用更多种类的已 知触敏表面, 包括柔性触敏显示器。例如, 葡萄牙 Adafe-Braga 的 Displax Interactive Systems 公司的多触摸 “Skin” 产品能够将任何非传导的平整或弯曲表面变换为多触摸屏 幕。 交互设备1可以进一步包括以数字10示意。

40、性指示的电子设备, 例如电源和/或处理器。 电源可以用于将输入电源电压转换为适合于由触敏表面 8 和 / 或处理器使用的电压。处理 器可以可操作地连接到触敏表面 8 并且用于控制触敏表面 8 和 / 或处理由触敏表面 8 产生 的信号。处理器可以生成可以经由连接器 12 传输到位于交互设备 1 外部的设备, 例如工作 站2, 的输出信号。 也可以提供无线通信芯片和/或天线, 例如作为在数字10处指示的电子 设备的一部分, 用于所生成的信号的无线传输。 0057 图 5 是表示用于与三维对象数据集交互的系统的方面的图。该系统包括处理系统 20 和物理交互设备 34。将在下文中描述一些进一步的部件。

41、。 0058 典型地, 处理系统 20 布置用于接入代表对象的三维对象数据集。以下将提供其详 细示例。 0059 交互设备 34 可以包括具有由三维对象数据集代表的对象的至少一部分的典型形 状的触敏表面35。 该表面的形状是该对象的至少一部分的 “典型” 形状意味着该表面的形状 不必确切地与由三维对象数据集代表的对象的形状相同。替代地, 为了能够容易地重新使 用交互设备 34, 触敏表面 35 的形状可以是具有在特定类别的对象中经常遇到的特征的形 状。例如, 设计为与代表心脏的三维对象数据集交互的交互设备 35 可以具有触敏表面 35, 该触敏表面 35 具有心脏解剖体的形状。例如, 这一形状。

42、可以具有与左右心室和左右心房相 对应的特征, 和 / 或可以代表联结心房的大血管的一部分, 和 / 或可以代表主冠状动脉。也 可以在触敏表面 35 上借助于不同的颜色或以另一方式来指示冠状动脉。这允许与冠状动 脉的容易交互, 同时触敏表面 35 可以是相对平滑的。 0060 触敏表面的一部分能够代表特定种类的对象的切割平面。例如, 交互设备 34 对该 对象的一半进行建模, 并且切割平面也是至少部分地触敏的。交互设备 34 也可以包括每 一个代表对象的不同部分的几个部分, 并且可以将这几个部分放在一起以便构建完整的对 说 明 书 CN 103918020 A 10 8/10 页 11 象。按照。

43、这种方式, 可以是子对象和 / 或切割平面的触敏表面容易被触摸。不同的部分可 以借助于无线或有线通信技术与处理单元 20 和 / 或与彼此进行通信。 0061 例如, 交互设备包括关于该交互设备的其余部分可移动的可移动部分, 并且其中 可移动部分和其余部分代表对象的不同部分, 以及可移动部分布置用于与其余部分联合且 与该其余部分分离, 其中当可移动部分与其余部分联合时, 触摸表面的至少一部分由可移 动部分覆盖。 0062 触敏表面可以基于任何已知的触敏技术, 例如电阻或电容触摸屏。也可以使用例 如基于传导性的其它种类的技术。 可以按照可以缠绕在支撑对象周围的柔性箔的形式来制 造触敏表面。触敏表。

44、面可以在工厂中预先成形以便具有合适的形状。触敏表面 35 可以对 人类皮肤和 / 或对利用诸如触笔的人造对象的触摸事件是敏感的。 0063 交互设备可以进一步包括用于生成信号以便将触摸事件传递到处理系统 20 的信 号生成器 36。信号可以指示触敏表面 35 被触摸的位置。 0064 处理系统20可以包括用于从信号生成器36接收信号的信号输入端21。 信号从交 互设备到处理系统 20 的传输可以经过无线或有线连接或者任何可用的信号传输技术。 0065 处理系统可以包括用于将如由信号指示的所触摸的位置映射到由三维对象数据 集表示的对象的相对应的点的映射单元22。 这样的映射可以借助于将触敏表面的。

45、点映射到 三维对象数据集中的对象的点的表格来实现。这样的表格可以例如借助于校准程序生成, 其中点的序列由用户在三维对象数据集中和触敏表面 35 上进行指示。可以使用如在本领 域中已知的常规交互设备, 例如鼠标输入设备, 来执行在校准程序期间在三维对象数据集 中的指示。下文描述另一更加自动的校准程序。 0066 扫描仪 24 可以用于通过例如使用具有相对应的辐射检测器的相机或辐射源扫描 对象来生成三维对象数据集。示例包括 x 射线、 计算机断层扫描、 磁共振、 超声设备和摄影 设备。摄影设备可以用于例如通过立体视法来获得三维对象数据集。扫描仪 24 可以连接 到处理器系统 20 的重构单元 23。

46、。重构单元 23 也可以是与处理器系统 20 分离的实体的一 部分。例如, 重构单元 23 可以集成在扫描仪 24 中。在这样的情况下, 扫描仪产生三维对象 数据集, 例如体积数据集或表面模型或形状模型, 其例如存储在管理数据库的分布式服务 器系统中。然而, 处理系统 20 可以例如经由分布式服务器系统接入该三维对象数据集。这 些体系结构可选细节未在附图中绘制出, 但是对于本领域中的技术人员将是明显的。扫描 仪 24 可以包括能够扫描活体的至少一部分的医学图像扫描仪。 0067 映射单元22可以布置用于基于三维对象数据集到触敏表面35的形状的电子表示 的配准来将所触摸的位置映射到由三维对象数据。

47、集表示的对象的相对应的点。 这一配准可 以由映射单元 22 本身或由另一实体执行, 例如由分布式服务器系统的服务器执行。为此, 触敏表面 35 的形状的电子表示对于负责执行该配准的设备变为可用。触敏表面 35 的形状 的电子表示可以包括从交互设备34传输的信号中可以用于表示表面35被触摸的位置的坐 标系的表示。按照这一方式, 在配准之后, 可以使所接收的信号不仅与触敏表面 35 的电子 表示中的方位相关而且与三维对象数据集中的方位相关。触敏表面 35 的形状的电子表示 可以例如采取表面模型或形状模型的形式。 通过使用自适应形状模型来对触敏表面的形状 或在三维对象数据集中表示的对象或这两者进行建。

48、模, 可以对这两个形状进行配准。其它 配准方法对于本领域中的技术人员是可用的。 说 明 书 CN 103918020 A 11 9/10 页 12 0068 处理系统 20 可以包括布置用于显示三维对象数据集的至少一部分的图形单元 26。这使交互对于用户更加相关, 因为用户能够通过触摸触敏表面 35 的相对应的点来指示 所显示的三维对象数据集的点。 0069 图形单元26可以布置用于显示与交互设备被触摸的触敏表面35上的位置相对应 的三维对象数据集内的方位的指示。这提供立即反馈以便向用户确认指示了哪个方位。它 使用户能够以更大的置信度来使用交互设备 34。 0070 可以提供进一步的用户输入设。

49、备 29, 例如鼠标、 键盘或触敏显示器。处理系统 20 可以包括布置用于从这样的输入设备 29 接收用户命令的用户输入接收器 28。对用户输入 接收器 28 做出响应, 关于与交互设备 34 被触摸的触敏表面 35 上的位置相对应的三维对象 数据集内的方位, 该命令可以由处理系统 20 执行。 0071 例如, 该命令可以用于将注解附接到所指示的方位。这样的注解可以包括文本标 签或另一符号或改变由三维对象数据集表示的该方位或在该方位处的子对象的颜色。因 此, 该系统可以进一步包括注解单元 30, 用于对用户输入接收器 28 从用户输入设备 20 接 收的命令做出响应而将注解附接到三维对象数据集内的适当方位。 这一适当方位是与交互 设备 34 被触摸的触敏表面 35 上的位置相对应的方位。例如, 命令是绘制穿过与被顺序触 摸的位置相对应的点的线。 将理解, 尽管可以经由常规输入装置给出该命令, 但是也可以使 用户能够经由交互设备 34 输入命令。例如, 触敏表面 35 的触摸可以指示诸如注解的命。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 物理 > 教育;密码术;显示;广告;印鉴


copyright@ 2017-2020 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1