깨끗하던 빔이 갑자기 흔들린다
2010년 무렵, 출력이 높은 막대형(rod-type) 광섬유 레이저(fiber laser) 시스템에서 낯선 장면이 보고되었습니다. 매끈한 가우시안 빔(Gaussian beam)이던 출력 빔이, 평균 출력(average power)이 어느 값에 이르자 갑자기 흩어지며 흔들리기 시작한 것입니다. 이 관측이 발표되면서 세계 곳곳에서 이 현상을 파고드는 연구가 시작되었습니다.
빔의 세기 분포는 시간이 지나도 자리를 잡지 못했습니다. 그 모습은 광섬유 출력 끝에 고차 모드가 나타났다는 것을 가리켰고, 그래서 이 효과에는 횡모드 불안정성(transverse mode instability, TMI)이라는 이름이 붙었습니다.
횡모드(transverse mode)는 빛이 광섬유 단면에 퍼져 자리 잡는 모양입니다. 가장 단순한 한 덩어리 모양이 기본 모드이고, 그보다 복잡한 모양들이 고차 모드입니다. 단일 모드 광섬유는 기본 모드만 안내하도록 만든 광섬유입니다.
앞 글들을 읽은 분이라면 조금 의아할 수 있습니다. 「광섬유 레이저란: 가는 유리 안에서 빛을 키우기」에서 광섬유의 가늘고 긴 모양이 코어(core)에서 생기는 열의 영향에 "상당한 내성"을 준다고 했기 때문입니다. 내성이 있다는 것이 열 문제가 없다는 뜻은 아닙니다. 2010년에 나온 한 리뷰 논문의 초록도 광섬유 레이저의 성능을 묶는 핵심 요인으로 열 관리(thermal management), 광학 비선형성, 손상을 꼽았습니다.
앞 글은 유도 브릴루앙 산란(stimulated Brillouin scattering, SBS)과 유도 라만 산란(stimulated Raman scattering, SRS) 같은 비선형 효과를 맡았습니다. 이 글은 열을 맡습니다. 열이 어디서 생기고 유리를 어떻게 바꾸는지, 빔에 어떤 흔적을 남기는지 따라간 뒤, TMI가 어떻게 일어나고 왜 평균 출력을 키우는 데 가장 큰 한계로 꼽혀 왔는지 풉니다.
열은 어디서 오나: 양자 결손과 그 밖의 열원
광섬유 레이저의 빛은 펌프 빛에서 나옵니다. 코어에 넣은 이온이 펌프 광자(photon)를 흡수한 뒤, 흔히 그보다 파장(wavelength)이 긴 신호 광자를 내놓습니다. 펌프 광자는 보통 신호 광자보다 에너지가 큽니다. 두 광자의 에너지 차이를 양자 결손(quantum defect)이라고 부르고, 이 남는 에너지는 열로 흩어집니다.
빛을 키우는 이온을 넣은 광섬유를 능동 광섬유라고 합니다. 능동 광섬유에는 열원이 여럿 있는데, 2020년에 나온 TMI 리뷰 논문은 그 가운데 가장 중요한 것으로 양자 결손을 꼽습니다. 레이저 동작에 본디 따르는 열이고 신호 광자를 만들어 내는 과정에서 생기므로, 리뷰는 이 열을 "생산적인" 열이라고 부릅니다.
숫자를 대어 보면 크기가 잡힙니다. 단일 주파수 광섬유 증폭기를 정리해 arXiv에 사전 공개된 2026년의 한 리뷰 장은, 신호 파장 1064 nm의 이터븀 첨가 광섬유(ytterbium-doped fiber, YDF) 증폭기를 흡수를 위해 흔히 915, 940, 976 nm로 펌핑한다고 적습니다. 광자의 에너지는 파장에 반비례하므로, 펌프 광자 하나의 에너지 가운데 신호 광자가 되지 못하는 몫은 다음과 같이 셀 수 있습니다.
양자 결손 비율 = 1 − 펌프 파장 ÷ 신호 파장
계산해 보면 976 nm 펌프에서는 약 8.3%, 940 nm에서는 약 11.7%, 915 nm에서는 약 14.0%입니다. 펌프 광자 하나가 신호 광자 하나로 바뀌는 이상적인 경우의 비율입니다. 어느 레이저가 실제로 내는 열의 양이나 효율이 아니고, 흡수되지 않고 지나가는 펌프 빛이나 아래에 나오는 다른 열원은 이 셈에 들어 있지 않습니다.
펌프 파장이 신호 파장에 가까워질수록 이 가열은 줄어듭니다. 앞 글 「이중 클래드 광섬유와 펌프 빛 넣기」에서 펌프 파장을 신호 쪽으로 옮기는 것도 양자 결손으로 생기는 열을 줄이려는 것이라고 한 까닭이 여기에 있습니다.
열원이 양자 결손만은 아닙니다. 광자가 빛을 만들지 못하고 사라지면서 열이 되는 "생산적이지 않은" 열원도 있습니다. 그 하나인 선형 바탕 흡수(ground absorption)는 요즘 대부분의 경우 아주 작아서, 전체 열 부하에서 차지하는 몫이 보통 무시할 만합니다.
이터븀 첨가 광섬유에서 더 눈여겨볼 것은 광암화(photodarkening)입니다. 레이저를 쓴 시간이 길어질수록 광섬유의 투명도가 조금씩 떨어지는 효과입니다. 흡수가 늘어나는 것은 광섬유 안에 색 중심(color center)이 생기기 때문이라는 데 널리 동의하지만, 색 중심이 만들어지는 정확한 과정은 아직 다 밝혀지지 않았습니다. 색 중심에 흡수된 에너지는 열로 바뀌어 광섬유의 전체 열 부하를 키웁니다.
광암화는 TMI 연구가 나오기 전까지 대부분의 실용 쓰임에서 거의 풀렸거나 적어도 다스려지는 문제로 여겨졌습니다. TMI 연구는 이 생각을 바꿨습니다. 적은 광암화라도 무시할 수 없는 추가 열을 통해 TMI 문턱에 크게 영향을 줄 수 있다는 것이 드러났습니다.
열이 생기면 유리가 바뀝니다. 실리카 유리는 온도가 오르면 굴절률이 커집니다. 굴절률은 빛이 유리 속을 얼마나 느리게 가는지를 나타내는 값이고, 광섬유는 코어의 굴절률을 둘레의 클래드(cladding)보다 조금 높여 빛을 가둡니다.
열에 강한 광섬유, 그래도 남는 열
열은 레이저의 오랜 숙제였습니다. 초기 레이저에서는 평균 출력을 올리면 출력 빔이 일그러지고, 빔 단면의 여러 곳이 서로 발맞춰 진동하는 정도인 공간 결맞음이 크게 줄었습니다. 이를 풀려고 활성 매질의 모양을 바꿔 부피에 견준 겉넓이를 키운 구조들이 나왔습니다. 슬랩, 박판(thin-disk), 광섬유가 그 예이고, 겉넓이가 넓을수록 열을 밖으로 빼기 쉽습니다.
광섬유가 남다른 점은 가늘고 긴 모양만이 아닙니다. 고출력 활성 매질 가운데 빛을 가두어 이끄는 도파 구조를 지닌 것은 광섬유뿐입니다. 그 덕분에 광섬유 레이저는 열 부하가 높아도 넓은 평균 출력 범위에서 회절 한계의 빔을 낼 수 있습니다. 회절 한계의 빔은 빔 품질(beam quality)이 가장 좋은, 물리적으로 가능한 만큼만 퍼지는 빔을 말합니다.
이 성과는 유리의 약점을 안고 거둔 것입니다. 2020년 TMI 리뷰는 광섬유를 이루는 유리의 열전도도가 다른 레이저 매질의 결정보다 대략 10배 낮다는 점을 짚습니다. 그런데도 그 리뷰가 쓰인 때 회절 한계 빔 품질로 가장 높은 평균 출력 기록을 지닌 것은 광섬유였고, 이터븀 첨가 실리카 광섬유에서 나온 6 kW였습니다.
대가도 따랐습니다. 고출력용 능동 광섬유는 신호 코어가 커지면서 점점 짧아졌고, 출력이 빠르게 오르는 동안 열 부하도 크게 늘었습니다. 그 결과 능동 광섬유에 열 효과가 나타나기 시작했습니다.
큰 코어에는 다른 문제도 있습니다. 신호 코어가 크면 보통 빛을 여러 횡모드로 안내할 수 있고, 이것이 빔 품질과 안정성을 해칩니다.
기본 모드만 안내하도록 만든 단일 모드 광섬유에도 고차 모드는 있을 수 있습니다. 짧은 거리만 가도 빠르게 사그라드는, 손실이 큰 모드로 남아 있을 뿐입니다. 이런 모드는 광섬유의 결함, 휨, 이상적이지 않은 입력 결합, 그리고 열로 생긴 굴절률 변화로 들뜰 수 있습니다.
열은 그 손실마저 줄입니다. 코어가 클래드보다 더 뜨거워지면 둘의 굴절률 차이가 커지고, 빛을 받아들이는 각도의 크기를 나타내는 개구수(numerical aperture, NA)도 커집니다. 그러면 고차 모드가 덜 새어 나가, 출력이 오를수록 단일 모드 광섬유가 차츰 다중 모드로 바뀝니다.
초고속 레이저 교과서도 같은 고민을 다른 쪽에서 보여 줍니다. 이터븀 첨가 레이저는 아주 낮은 양자 결손으로 펌핑할 수 있어 초고속 시스템의 평균 출력을 크게 끌어올렸지만, 평균 출력이 수백 W인 이런 시스템에서는 열광학 왜곡을 들이지 않고 열을 빼는 일이 관건입니다. 광섬유가 열에 강하다는 말은 열이 없다는 말이 아니라, 열을 다루기 좋은 모양이라는 말에 가깝습니다.
열이 빔에 남기는 두 흔적
2020년 TMI 리뷰는 광섬유에서 열 효과가 크게 두 가지 모습으로 나타난다고 정리합니다. 하나는 모드 크기가 줄어드는 것이고, 다른 하나는 TMI입니다.
모드 줄어듦은 평균 출력이 오를수록 모드 지름이 점점 작아지는 현상입니다. 모드 지름은 빛이 퍼져 있는 단면의 지름입니다. 앞 글에서 본 것처럼 빛이 좁은 곳에 모일수록 비선형 효과가 쉽게 일어나므로, 모드가 줄면 그 영향이 세집니다. 산란을 피하려고 코어를 키운 이점이 일부 깎이는 셈입니다.
TMI의 결과는 더 극적입니다. 어떤 평균 출력에 이르면 광섬유 레이저가 내는 빔의 품질과 안정성이 갑자기 떨어집니다. 단일 주파수 증폭기를 다룬 리뷰 장은 TMI를 기본 모드와 고차 횡모드 사이의, 열광학적으로 유도된 동적인 결합이라고 정의합니다. 「이중 클래드 광섬유와 펌프 빛 넣기」에서 "열광학 효과 때문에 기본 모드와 고차 횡모드가 동적으로 결합하는 현상"이라고 한 것과 같은 뜻입니다.
열광학 효과(thermo-optic effect)는 온도가 굴절률을 바꾸는 효과입니다. 2024년의 한 TMI 이론 논문은 같은 현상을 열광학 산란이나 밀도 반전(population inversion)의 요동, 또는 그 둘이 함께 일으키는, 광섬유 횡모드들 사이의 동적인 출력 이동으로 그립니다. "결합"이든 "출력 이동"이든, 빛의 에너지가 한 모드에서 다른 모드로 오가며 빔 모양이 바뀐다는 이야기입니다.
횡모드 불안정성은 어떻게 처음 보였나
첫 관측의 해는 2020년 TMI 리뷰 안에서도 실험 관측 절에는 2009/2010년, 결론에는 2010년으로 조금 다르게 적혀 있습니다. 장면은 같습니다. 고출력 막대형 광섬유 레이저 시스템의 가우시안 빔이 어떤 평균 출력에서 갑자기 무너지듯 흩어지고 흔들렸습니다.
빔이 흔들리는 모습을 제대로 보려면 빠른 카메라가 필요했습니다. 요동이 보통 카메라의 프레임 속도인 25 Hz보다 훨씬 빨랐기 때문입니다. 고속 카메라로 찍은 결과에서 세 가지가 드러났습니다.
- 빔 요동은 밀리초(ms) 단위의 시간 척도로 일어납니다.
- 빔은 언제나 둘 이상 횡모드의 결맞은 겹침입니다.
- 빔이 고정된 상태와 마구 흔들리는 상태 사이에, 빔이 주기적으로 바뀌는 전이 영역이 있습니다.
영상의 장면마다 모드 구성을 되살려 보니, TMI가 시작된 뒤에는 서로 다른 횡모드 사이에 실제로 에너지가 오간다는 것이 확인되었습니다. 기본 모드와 고차 모드 사이에서 에너지가 거의 통째로 옮겨 가는 일도 밀리초 척도에서 일어날 수 있습니다.
요동이 어느 평균 출력 문턱에서 갑자기 시작된다는 점도 실마리였습니다. 이 관측은 TMI가 이전에 알려진 고전적인 광섬유 비선형 효과와 달리, 빛의 첨두 출력(peak power)이 아니라 평균 출력에 달린 효과라는 것을 시사했습니다.
그 뒤 광다이오드 측정으로 평균 출력에 따라 달라지는 세 동작 상태가 자세히 밝혀졌습니다. 문턱 아래의 안정 상태에서는 빔이 고정되어 있습니다. 문턱을 조금 넘은 전이 상태에서는 빔이 주기적으로 바뀌고, 문턱을 크게 넘은 혼돈 상태에서는 빔 모양이 복잡하게 바뀝니다.
여기서 "혼돈"은 수학에서 말하는 혼돈이 아니라 예측할 수 없는 요동을 느슨하게 부르는 말입니다. 문턱을 크게 넘을수록 더 많은 모드가 요동에 끼어들고 요동도 빨라집니다. 그 결과 출력이 충분히 높으면 평균한 빔은 윗면이 평평한(flat-top) 모양에 가까워집니다.
열이 원인이라는 증거도 쌓였습니다. 코어 크기가 다른 광섬유로 재 보니 코어가 클수록 빔 요동이 느렸고, 요동의 주된 주파수는 코어 안에서 열이 퍼지는 데 걸리는 시간과 맞았습니다. 이 결과는 TMI가 열에서 비롯했다는 쪽을 강하게 시사했습니다. 펌프를 펄스로 넣은 실험에서도 요동이 자라는 데 수 ms가 걸려, 그 짐작을 굳혔습니다.
TMI는 특정 이온만의 문제도 아닙니다. 연구는 대부분 이터븀 첨가 광섬유에서 이루어졌지만, 툴륨 첨가 광섬유 증폭기와 라만 광섬유 증폭기에서도 TMI가 예측되었습니다. 2020년 리뷰가 쓰일 무렵에는 툴륨 첨가 증폭기에서 실제로 TMI가 관측되었고, 이터븀 첨가 증폭기보다 TMI를 훨씬 잘 견딘다는 것도 드러났습니다. 2020년 리뷰는 이를 들어, TMI가 특정 레이저 이온에 매이지 않은 근본적인 열광학 효과이며 어떤 증폭기든 어느 문턱 열 부하에 이르면 TMI가 시작될 수 있다고 정리합니다.
빛이 만든 열의 격자: TMI가 일어나는 과정
광섬유 안에서 두 모드 사이에 에너지를 옮기는 소자로는 장주기 격자(long-period grating)가 있습니다. 신호 파장보다 훨씬 긴 주기로 굴절률을 되풀이해 바꿔 놓은 구조입니다. TMI에서는 빛이 만든 열이 이런 격자 노릇을 하고, 그 과정은 네 단계로 그려 볼 수 있습니다.
① 두 모드가 겹친 무늬. 기본 모드와 약한 고차 모드는 광섬유를 따라 나아가는 빠르기, 곧 위상 속도가 서로 다릅니다. 그래서 두 모드가 겹친 빛에는 길이 방향으로, 서로 더해져 밝은 곳과 덜어져 어두운 곳이 번갈아 나오는 간섭(interference) 무늬가 생깁니다. 고차 모드가 기본 모드에 견줘 거의 없을 만큼 약해도 얕은 세기 무늬는 생깁니다.
② 열의 무늬. 빛이 센 곳에서는 신호가 밀도 반전을 더 많이 써 버리므로, 세기 무늬가 반전 분포에 그대로 새겨집니다. 양자 결손 같은 열원이 이 무늬를 따라 열을 내고, 그 양은 그 자리 빛의 세기에 비례합니다. 밝은 곳일수록 더 뜨거워져 온도의 무늬가 생깁니다.
③ 굴절률 격자. 실리카는 뜨거울수록 굴절률이 커지므로, 온도의 무늬는 굴절률의 무늬가 됩니다. 이것이 열로 생긴 장주기 격자입니다. 이 격자는 간섭 무늬에서 태어났기 때문에, 늘 그 두 모드 사이에서 에너지를 옮길 수 있는 알맞은 주기와 대칭을 지닙니다. 열로 생긴 이런 격자를 바탕으로, TMI를 광섬유 안의 유도 열 레일리 산란(stimulated thermal Rayleigh scattering, STRS)으로 보는 견해가 널리 자리 잡았습니다.
④ 모드 사이의 에너지 이동. 출력이 낮으면 가열이 약해 격자가 빛을 거의 흩뜨리지 못하고 증폭기는 안정합니다. 출력이 오르면 온도의 대비가 커져 격자가 세집니다. 이 격자가 간섭 무늬와 조금 어긋나 있으면 한 모드의 에너지가 다른 모드로 옮겨 갑니다. 그러면 세기 분포가 바뀌고 열이 나는 자리도 바뀌어, 다시 ①로 이어지는 되먹임 고리가 생깁니다.
바람이 모래 위에 물결 무늬를 만들고, 그 무늬가 다시 바람의 흐름을 바꾸는 모습을 떠올려 볼 수 있습니다. 실제로는 다른 점이 있습니다. TMI의 무늬는 모래가 아니라 빛이 만든 온도와 굴절률의 무늬이고, 그 무늬가 다시 바꾸는 것은 빛 자신의 모드 구성입니다.
④의 어긋남은 에너지 이동의 두 번째 조건입니다. 격자만 있어서는 에너지가 옮겨 가지 않고, 간섭 무늬와 굴절률 격자가 광섬유 길이 방향으로 조금 어긋나 있어야 합니다. 이 어긋남을 위상 어긋남(phase shift)이라고 하며, TMI 문턱은 격자의 세기와 위상 어긋남을 합친 세기로 정해집니다.
위상 어긋남이 어디서 오는지는 아직 학계에서 논의 중이고 완전히 밝혀지지 않았습니다. 2020년 리뷰도 두 가설을 소개하면서 저자들이 그중 하나를 지지한다고 밝히고, 리뷰 자체가 저자들의 관점에서 쓰였다는 점을 앞머리에 적어 두었습니다.
열이 빛보다 느리다는 점이 불안정을 만듭니다. 빛은 굴절률 변화에 거의 바로 반응하지만, 온도 분포는 열이 퍼지는 데 시간이 걸려 더 느리게 따라옵니다. 이 늦은 반응 때문에 모드 사이의 출력 이동이 밀리초 척도로 오락가락합니다. 고속 카메라에 잡힌 요동의 빠르기와 같은 척도입니다.
이 열광학 산란은 SBS와 비슷하게 잡음을 키우는 증폭기처럼 동작합니다. 씨앗 빛이나 펌프 출력에 섞인 작은 시간적 잡음이 열광학 되먹임을 거쳐 커질 수 있습니다. 출력이 높으면 아주 적은 고차 모드 성분만 있어도 불안정이 시작됩니다.
"문턱"과 평균 출력의 한계
TMI의 문턱은 시스템마다 다른 평균 출력의 한계입니다. 2020년 리뷰가 쓰인 때 이 값은 광섬유 레이저 시스템에 따라 보통 100 W에서 수 kW 사이 어디쯤이었습니다. 2024년 이론 논문도 TMI 문턱을, 그 위에서 동작하면 빔 품질이 크게 나빠지는 어떤 출력으로 정의합니다.
문턱을 정하는 방법은 하나가 아닙니다. 흔한 방법은 출력을 올리며 빔 요동의 표준편차를 재고, 그 값이 늘어나는 곡선을 함수로 맞춰 문턱을 수치로 정하는 것입니다. 2020년 리뷰는 이 정의가 널리 쓰이지만 유일하지는 않다고 짚습니다. 전이가 꽤 갑작스러운 시스템에서는 빔의 안정성이 계단처럼 바뀌는 그 출력을 그대로 문턱으로 삼기도 합니다.
빔 품질을 나타내는 값인 M²로 문턱을 정하는 연구도 있습니다. M²는 「빔 품질이란: M², 발산각, 밝기」에서 자세히 풉니다. 다만 M²가 나빠지는 것은 TMI와 상관없이 고정된 채로 일어날 수도 있어서, M²에 기댄 정의는 앞의 정의들보다 덜 믿을 만할 수 있습니다.
그러면 문턱은 무엇에 따라 움직일까요? 2020년 리뷰는 TMI가 열에서 비롯하므로 문턱을 움직이는 변수 가운데 아마 가장 중요한 것이 광섬유의 열 부하라고 봅니다. 리뷰 장은 여기에 잡음원의 스펙트럼 특성과 크기, 증폭기 설계를 더합니다. 앞에서 본 광암화도 적은 양으로 문턱을 크게 바꿀 수 있습니다.
평균 출력에 달린다는 점은 앞 글의 산란과 크게 다릅니다. 라만·브릴루앙 산란과 자기 위상 변조(self-phase modulation, SPM)는 코어 안 빛의 세기에 달려 있어서, 코어를 키워 세기를 낮추는 길이 통합니다. 이 길은 세기에 달린 효과에만 통합니다. TMI는 평균 출력에 달린 열 효과라서, 기존 비선형 효과에 대해 힘들게 쌓은 지식을 그대로 가져다 쓸 수 없습니다.
2020년 리뷰의 결론은 TMI를 광섬유 안에서 열로 유도된 비선형 효과의 첫 사례로 꼽습니다. 2010년에 처음 보고된 뒤 아주 짧은 시간에 광섬유 레이저 시스템의 평균 출력 키우기를 막는 가장 큰 한계가 되었고, 리뷰가 쓰인 때에도 여전히 가장 큰 한계였습니다.
TMI는 출력과 상관없이 빔 품질이 좋다는 광섬유 레이저의 평판도 흔들었습니다. 리뷰가 쓰인 때에는 TMI가 광섬유 레이저 평균 출력의 궁극적인 한계일지도 모른다는 우려가 퍼져 있었습니다. 2024년에 나온 한 TMI 이론 논문의 초록 첫 문장에서도 TMI는 고출력 광섬유 레이저와 증폭기의 출력 키우기를 막는 주된 한계로 꼽힙니다.
선폭이 아주 좁은 빛을 키우는 단일 주파수 광섬유 증폭기로 좁혀 보면, 문턱이 가장 낮은 비선형 효과는 SBS와 TMI입니다. 그 가운데 SBS는 앞 글 「한 가닥의 한계 ①」에서 다뤘습니다.
다음에 읽을 글
- "빔 품질이란: M², 발산각, 밝기": 이 글에서 "회절 한계의 빔", "빔 품질"이라고만 한 것을 M²와 발산각으로 재는 법을 풉니다.
- "빔 결합이 필요한 이유와 세 가지 방법": 여러 가닥의 빔을 하나로 모으는 까닭과 그 방법들을 살핍니다.