특허 출원 중인 기술이 적외선과 가시광선 이미지를 혼합하는 방법

Fluke의 계열사인 Infrared Solutions, Inc.는 단일 디스플레이에서 픽셀 단위로 실화상 및 적외선 이미지를 혼합하는 IR-Fusion™이라는 새로운 적외선 기술을 개발했습니다. 이 문서에서는 별도의 가시광선 및 적외선 광학계의 이미지를 결합할 때의 정렬 문제를 해결하기 위해 특허 출원 중인 새로운 저비용 접근 방식에 대해 설명합니다.

배경

실화상 이미지가 일반적으로 적외선 이미지보다 더 선명한 데에는 여러 가지 이유가 있습니다. 한 가지 이유는 가시광선 센서 배열이 더 작은 검출기 소자와 훨씬 더 많은 수의 소자로 만들어 질 수 있다는 것입니다. 다른 한 가지 이유는 가시광선 이미지는 온도를 측정하는 데 사용되지 않기 때문에, 이미지는 반사된 방사선만으로 생성될 수 있으며, 일반적으로 방출된 방사선보다 더 선명한 이미지를 생성한다는 것입니다.

가시광선 검출기 배열에는 수백만 개의 소자가 있는 반면, 적외선 검출기 배열에는 훨씬 적은 수의 소자가 있습니다. Fluke FlexCam에는 1,360,000개의 검출기 소자가 있는 가시광선 배열과 그 1/18(76,800개 소자)의 적외선 배열이 있습니다. 그 결과, 가시 이미지에는 적외선 이미지보다 훨씬 더 자세한 정보가 있습니다. 또한 가시 이미지는 인간의 눈으로 보는 것과 동일한 색상, 음영, 강도로 표시할 수 있어 적외선 이미지보다 구조와 특성을 쉽게 해석할 수 있습니다.

적외선 및 가시광선 카메라는 대상에서 방출되고 반사되는 방사선을 기록할 수 있지만 가시 이미지는 거의 언제나 반사된 가시광선에 의해 생성됩니다. 반대로 온도 측정에 사용되는 적외선 이미지는 방출된 적외선을 기록해야 합니다. 반사되는 가시 방사선은 날카로운 모서리와 강도 차이로 선명한 대비를 생성할 수 있습니다. 예를 들어, 얇은 흰색 선은 가는 검은색 선 옆에 놓일 수 있습니다.

또한, 높은 방사율(낮은 적외선 반사율)의 표면 옆에 낮은 방사율(높은 적외선 반사율)의 표면을 가짐으로써 선명한 적외선 반사 대비를 가질 수도 있습니다. 그러나 현저한 온도차가 있는 표면이 서로 옆에 나란히 있는 것은 이례적입니다. 가까운 물체 사이의 열 전달은 온도 구배를 생성함으로써 온도 차이를 희미하게 할 수 있으므로, 선명한 모서리가 있는 방출된 방사선의 이미지를 생성하기 어렵습니다. 이것은 온도를 측정하는 데 사용되는 적외선 이미지가 일반적으로 가시 이미지에 비해 덜 선명한 또 다른 이유입니다.

업계에는 가시 이미지의 세부 사항과 적외선 이미지의 온도 측정을 보여주는 이미지를 캡처할 수 있는 카메라가 필요했습니다. 대부분의 작업자는 하나의 가시광선과 하나의 적외선과 같은 중복된 이미지를 취했지만, 때때로 이미지들의 상관 관계를 신뢰할 수 없었습니다. 정말로 필요했던 것은 두 이미지가 자동으로 서로 오버레이되는 것이었습니다.

한 가지 제안은 가시광선 및 적외선 카메라를 하나의 기기에 나란히 결합하여 두 이미지를 동시에 촬영하는 것이었지만, 공간 상관 관계는 정렬 문제로 인해 어려움을 겪었습니다. 이는 장렬 시차를 무시할 수 있는 원거리 측정에서는 효과가 좋았습니다. 그러나, 짧은 거리와 중간 거리에서 카메라를 사용하는 예측 유지보수 및 건축학과 같은 응용 분야에서 시차 정렬은 중요한 사안입니다.

적외선 전용과 가시광선 전용 50/50 혼합

그림 1. 동일한 장면의 적외선 전용, 가시광선 전용 및 혼합 이미지

혼합된 가시 이미지 및 적외선 이미지

IR-Fusion 기술은 비디오 비율의 적외선 카메라와 비디오 비율의 가시광선 카메라를 단일 계기로 결합하여 장면을 가시광선 및 적외선 방사 모두에서 보고 기록할 수 있도록 해줍니다. 가시 이미지는 적외선 이미지와 일치하도록 자동으로 등록(시차 보정)되고 크기가 조정되므로 적외선 장면과 가시 장면이 카메라 디스플레이에서 서로 오버레이될 수 있습니다. 작업자는 가시 이미지 전용, 적외선 이미지 전용, 또는 이 둘을 혼합(융합)하여 볼 수 있습니다. 그림 1의 예시 이미지를 참조하십시오.

적외선 이미지와 가시 이미지는 카메라에 의해 픽셀 단위로 일치하기 때문에 작업자는 혼합된 이미지에서 특징이 어디에 있는지 확인함으로써 대상에서 적외선 관심 지점의 위치를 쉽게 식별할 수 있습니다. 적외선 이미지에 초점이 맞춰지면 카메라 작업자는 가시 이미지만 보고 표시되지는 않지만, 일치하는 적외선 이미지와 연결된 데이터에서 가시 이미지의 적외선 온도를 판독하도록 선택할 수 있습니다. 이러한 예는 49.8°C(121.7°F)에서 가장 뜨거운 지점을 보여주는 그림 1의 가시광선 전용 패널에서 볼 수 있습니다.

혼합된 이미지를 사용하면 적외선 대비가 낮고 적외선 이미지에 구조가 거의 없는 경우에도 관심 이 가는 적외선 포인트의 위치를 정확하게 식별할 수 있습니다. 그림 2에서 평평한 벽이나 천장의 단열이 제대로 되지 않은 지점의 정확한 위치 식별은 혼합된 가시/적외선 이미지에서 눈에 보이는 작은 흠이나 표시를 보면 도움이 됩니다.

디스플레이 모드

IR-Fusion™이 탑재된 Fluke Ti4X 및 5X 적외선 카메라는 5가지 디스플레이 모드 즉, 1) PIP(Picture-in-Picture), 2) 전체 화면, 3) 색상 경보, 4) 알파 혼합, 5) 전체 가시광선에서 작동할 수 있습니다. 처음 네 가지 모드에서는 온도가 기록되고 이미지의 적외선 부분에 표시될 수 있습니다.

혼합식

그림 2. 저대비 적외선 장면을 가시 이미지와 혼합하여 적외선 관심 지점의 정확한 위치를 식별

가시광선 전용과 적외선 전용 중간 혼합

그림 3. 디스플레이의 중앙 1/4을 표시하는 PIP 모드(가시광선 전용, 적외선 전용 및 이 둘의 적절한 혼합)

75% IR 혼합 50% IR 혼합 25% IR 혼합

그림 4. 적외선 혼합 비율이 서로 다른 디스플레이의 중앙 1/4을 보여주는 PIP 모드

가시광선 전용과 적외선 전용 50/50 혼합

그림 5. 가시광선 전용, 적외선 전용 및 이 둘의 50/50 혼합을 보여주는 전체 화면 모드
  1. PIP 모드(그림 3) - PIP 모드에서 디스플레이의 중앙 1/4은 적외선 전용, 가시광선 전용 또는 이 둘의 혼합입니다. 화면의 나머지 4분의 3은 가시광선 전용입니다. 이 모드에서 적외선 이미지는 항상 디스플레이 중앙의 고정된 위치에 표시됩니다.
    그림 4는 적외선 혼합 비율이 다른 혼합 이미지를 보여줍니다.
  2. 전체 화면 - 전체 화면 모드에서는 PIP 모드의 중앙 1/4이 화면을 채웁니다. PIP(Picture-in-Picture) 모드에서와 같이 전체 디스플레이는 가시광선 전용, 적외선 전용 또는 이 둘의 혼합이 될 수 있습니다. 그림 5는 그림 4에 표시된 동일한 적외선 장면의 전체 화면 이미지를 보여줍니다.
  3. 색상 경보 모드 - 색상 경보 모드는 카메라 작업자가 설정한 특정 온도 기준을 초과하는 관심 영역을 강조 표시하는 데 사용됩니다. 세 가지 설정 즉, a) 고온 임계값, b) 저온 임계값 및 c) 절대 범위를 사용할 수 있습니다.
    1. 고온 임계값 모드에서는 설정 온도보다 높은 온도를 가진 이미지의 모든 픽셀이 적외선 색상으로 나타납니다.
    2. 저온 임계값 모드에서는 설정 온도보다 낮은 온도를 가진 이미지의 모든 픽셀이 적외선 색상으로 나타납니다.
      그림 6. 고온 임계값이 148.9°C(300°F)로 설정된 색상 경보의 예시
    3. 절대 범위 모드(등온선)에서 카메라 작업자는 범위의 상한 및 하한 온도를 모두 지정합니다. 이 범위의 온도를 가진 모든 픽셀은 적외선 색상으로 나타납니다. 모든 색상 경보 모드에서 색상은 적외선 팔레트 선택에 의해 설정되고, 강도는 적외선 혼합 정도에 따라 설정됩니다. 모드 디스플레이는 PIP(Picture-in-Picture) 또는 전체 화면으로 설정할 수 있습니다.

혼합이 이루어지는 방식

IR-Fusion™ 기술은 실시간 적외선 카메라의 하우징에 실시간 가시광선 카메라의 엔진을 배치합니다. 이 배치는 가시광선 광축을 적외선 광축에 실제적으로 최대한 가깝게, 그리고 수직면에서 적외선 광축과 거의 평행하도록 이루어집니다. 대상 거리 범위에 대한 시차 정렬을 교정하려면 카메라 중 하나의 시야각(FOV)이 다른 카메라보다 커야 합니다. 현재 가시광선 광학계는 적외선 광학계보다 저렴하고, 가시광선 카메라는 해상도가 훨씬 더 우수하기 때문에 가시광선 FOV가 더 크게 채택되었습니다. 따라서, 시차 보정 프로세스를 통해 가시 이미지의 일부가 손실되어도 카메라와 혼합된 이미지에 미치는 영향이 가장 적습니다.

다이어그램 1은 결합된 적외선 및 가시광선 카메라의 광로(optical path)와 센서 구성을 보여줍니다. 가시광선용과 적외선용 2개의 별개 광로와 2개의 별개 센서가 있습니다. 센서의 광로가 서로 다르기 때문에 각 센서가 약간 다른 뷰에서 대상 장면을 보게 되므로 시차 정렬 오류를 일으키게 됩니다. 이 시차 정렬 오류는 혼합된 이미지에서 소프트웨어 조정을 통해 전자적으로 교정됩니다.

다이어그램 1. 광로 및 센서 구성

가시광선 광학계는 사용 가능한 모든 거리에서 초점을 유지합니다. 적외선 렌즈는 f 값이 낮기 때문에 피사계 심도가 얕아 대상까지의 거리를 판단하는 데 탁월한 수단이 됩니다. 적외선 렌즈만 서로 다른 거리에 있는 대상에 대해 초점 조정이 필요합니다.

시차 정렬 보정

시차 정렬 보정은 적외선 초점 거리를 기반으로 합니다. 다이어그램 2는 시차 방정식의 유도를 기하학적으로 보여줍니다.

표준 렌즈 방정식에서,

d = 물체까지의 거리
i = 이미지까지의 거리
f = 렌즈의 유효 초점 길이

그리고 다이어그램 2에서,

q = 가시광선 및 적외선 광축 사이의 분리 거리. p = 가시광선 초점면에서 이미지 오프셋

주어진 카메라에 대해 분리 거리 q와 렌즈 초점 길이 f는 고정되어 있습니다. 따라서 위의 방정식에서 가시 이미지 오프셋은 대상 거리의 함수입니다. q d 적외선 광로 p i d 가시광선 광로

다이어그램 2. 시차 기하학

이미지가 캡처되면 전체 가시 이미지와 전체 적외선 이미지가 모든 보조 데이터와 함께 카메라 메모리 카드의 이미지 파일에 저장됩니다. 이미지를 촬영할 때 표시 치수 밖에 있는 표시되지 않은 가시 이미지 부분은 가시 이미지로만 저장됩니다. 나중에 PC에서 적외선 및 가시 이미지 간의 등록에서 사후 프로세스 조정이 필요한 경우 전체 가시 이미지를 사용하여 이러한 조정을 수행할 수 있습니다.

결론

가시광선 및 적외선 광학계가 모두 있는 카메라의 시차 정렬 문제를 해결하기 위한 새로운 접근 방식은, 예측 유지보수 및 건축학 응용 분야에서 그 성능과 유용성을 크게 향상시킨 상용 카메라를 탄생시켰습니다. 특히 적외선 이미지에 대한 공간적 세부 사항을 크게 향상시키고 적외선 관심 지점의 정확한 위치를 식별하는 데 도움이 됩니다.

감사의 말

저자인 Roger Schmidt는 이 특별한 카메라를 발명하고 개발한 Infrared Solutions, Inc. 엔지니어링 팀의 뛰어난 공적을 인정하고 싶습니다. 이 팀은 Kirk Johnson과 Tom McManus가 이끌었고 Peter Bergstrom, Brian Bernald, Pierre Chaput, Lee Kantor, Mike Loukusa, Corey Packard, Tim Preble, Eugene Skobov, Justin Sheard, Ed Thiede 및 Mike Thorson이 지원했습니다. 저자는 또한 논문에서 이러한 공개 이미지를 쉽게 제공할 수 있도록 해준 Tony Tallman의 PC 소프트웨어 작업에 감사를 표합니다.

주요 리소스

관심을 가질 만한 분야