Dwarkesh in the Datacenter
금융 데이터센터가 AI보다 먼저 의식을 가질 수 있다는 농담이 농담이 아닐 만큼, 금융에 투입되는 컴퓨팅 파워는 상상 이상이다.
Tyler Cowen이 Dwarkesh의 Jane Street 데이터센터 투어 영상을 소개하는 글. 금융 분야에 얼마나 막대한 컴퓨팅 자원이 투입되는지를 보여주면서, 데이터센터의 경제학과 물리학을 엿볼 수 있는 기회라고 평가한다. 특히 구리선의 전기 신호가 광섬유의 빛보다 빠를 수 있고, 이것이 실제로 금융 거래에서 중요하게 작용한다는 점을 흥미로운 사례로 든다. Cowen은 과거 "금융 AI가 가장 많은 컴퓨팅 파워를 보유하고 있어 의식을 가진 첫 AI가 될 것"이라고 예측했던 적이 있는데, 이번 투어가 그 예측의 배경을 입증한다고 본다.
구리선의 전기 신호가 광섬유의 빛보다 빠를 수 있다는 물리적 사실. 마이크로초 단위로 경쟁하는 금융 거래에서 이런 세부 사항이 실제로 차이를 만든다.
AI 시대에 모두가 LLM과 생성형 AI에 주목하지만, 정작 가장 많은 컴퓨팅 자원을 소비하는 건 여전히 금융 인프라일 수 있다. 데이터센터의 물리적 제약(레이턴시, 전력, 냉각)이 기술 경쟁력을 좌우하는 상황에서, 금융 기관들은 이미 수십 년간 이 게임의 최전선에 있었다. AI 인프라 투자를 고민하는 기업이라면 금융권이 어떻게 하드웨어 최적화에 접근해왔는지 배울 점이 많다.