배경
2억 2천만 명 이상의 월간 활성 사용자를 보유한 국가 음악 앱인 QQ Music은 3차원(‘듣기, 보기, 재생’) 범음악 엔터테인먼트 에코시스템을 구축하여 8억 명 이상의 사용자에게 다양한 음악 라이프 환경을 제공하고 있습니다. 이러한 양질의 서비스 뒤에는 매일 수조 GB의 새로운 음악 콘텐츠와 행동 데이터가 생성되며, PB 수준의 데이터 컴퓨팅이 필요합니다.
도전과 목표
2022년 7월 14일 저녁, 유명 가수 Jay Chou의 최신 앨범 <Greatest Works of Art>가 QQ Music에서 공식 발매되었습니다. 트래픽 데이터로 볼 때, 앨범의 동명곡 MV가 공개 15분 만에 조회수 120만을 넘었습니다. 1시간 47분 만에 조회수 600만, 공유 수 20만, 댓글 12만을 돌파하며 MV 피크 1000만 돌파를 달성하여, QQ Music의 MV 일일 기록을 경신했습니다.
음악 애플리케이션으로서 QQ Music은 엄청난 양의 데이터를 보유하고 있으며, 비즈니스 시나리오가 다양합니다. 많은 양의 데이터는 데이터 분석 비즈니스에 더 높은 기준을 요구하며, 기본 데이터베이스는 트래픽 피크 동안 높은 동시성과 빠른 응답으로 인해 도전을 직면하게 됨을 의미합니다. 대체로 새로운 디지털 음악 앨범의 출시는 데이터베이스에 다음과 같은 도전 과제를 가져올 수 있습니다.
1. 높은 동시성 및 저지연성의 필요성
이벤트 시작 시 대규모의 사용자가 동일한 아티스트, 노래 또는 앨범에 대한 정보에 동시에 액세스하며, 이로 인해 데이터베이스는 핫 로우 업데이트, 높은 동시성 및 저지연 문제를 해결해야 합니다.
2. 신속한 스케일링의 필요성
높은 순간 동시성으로 인해 데이터베이스는 여러 성능을 지원하기 위해 신속하게 용량을 확장해야 합니다.
3. 대용량 데이터 스토리지 및 데이터 보안의 필요성
주문 데이터 및 로그 항목이 급증하고 데이터 손실이 없어야 하므로, 데이터베이스는 데이터 보안을 보장하면서 대량의 데이터 저장을 지원해야 합니다.
이번 앨범 발매 이벤트와 관련된 데이터베이스는 주로 앨범 주문 데이터베이스입니다. 앨범 예약 판매 및 판매 기간 동안 데이터베이스는 대량의 주문 데이터 쓰기 및 업데이트를 동시에 수신하므로, 높은 성능과 일관성이 필요합니다. 따라서 데이터베이스는 데이터 손실을 방지하면서 고성능 쿼리, 쓰기 및 업데이트를 지원해야 합니다.
이러한 맥락에서 QQ Music의 전체 데이터베이스 아키텍처에는 보다 안전하고 안정적인 서비스 모델이 필요합니다. Tencent Cloud의 엔터프라이즈급 분산형 데이터베이스 서비스 TDSQL은 이 이벤트의 요구를 충족합니다.
Tencent Cloud 솔루션
QQ Music은 3차원(‘듣기, 보기, 재생’) 범음악 엔터테인먼트 에코시스템을 구축하여 8억 명 이상의 사용자에게 다양한 음악 라이프 경험을 제공하고 있습니다. 이러한 양질의 서비스 뒤에는 매일 수조 GB의 새로운 음악 콘텐츠와 행동 데이터가 생성되며, PB 수준의 데이터 컴퓨팅이 필요합니다. QQ Music과 Tencent Cloud 데이터베이스 기술 팀의 수많은 기술 아키텍처 업그레이드 및 성능 최적화 작업을 거쳐, 가용성이 높고 성능이 우수하며 안전한 컴퓨팅 및 분석 플랫폼이 점진적으로 형성되었습니다.
TDSQL은 강력한 동기화, 반동기화 및 비동기화 3가지 동기화 방법을 지원합니다. 강력한 동기화의 성능은 비동기화 방법과 거의 동일합니다. 새 앨범 출시 시나리오에서 TDSQL의 강력한 동기화는 요구 사항을 충분히 충족시킵니다. 또한 TDSQL은 빠른 원본/복제본 전환 및 빠른 샤드 및 복제본 추가를 지원하여, 비즈니스 투명성을 유지하면서 여러 개의 샤드 및 복제본을 신속하게 추가하고, 이벤트 요구 사항을 즉시 충족할 수 있습니다. 스트레스 테스트 중에 몇 개의 장치에만 여러 개의 복제본과 샤드가 존재하는 상황이 발생했지만, 원본/복제본 전환 및 빠른 데이터 재배치를 통해 문제가 빠르고 원활하게 해결되었습니다.
TDSQL의 분산형 아키텍처를 통해 QQ Music은 데이터베이스 클러스터를 1-원본-1-복제본 노드와 1-원본-다중 복제본 노드 모드로 배포합니다. 핵심 비즈니스를 위해 QQ Music은 Tencent Cloud의 기본 데이터베이스 서비스 TDSQL-C의 글로벌 데이터베이스 아키텍처를 채택하여 리전 간 재해 복구 노드 배치를 구현하고, 다양한 비즈니스 시나리오의 요구사항을 충족하는 균형 잡힌 성능, 비용 효율성 및 데이터 보안을 제공하였습니다.
지금까지 QQ Music은 3년 동안 Tencent Cloud 데이터베이스에 연결되어 있었으며 총 데이터 볼륨은 100TB를 초과했습니다. 비즈니스 시나리오와 관련하여, QQ Music은 다수의 오프라인 분석 시나리오와 일상적인 Ops에서 데이터베이스 성능 또는 컴포넌트 제어 문제 등 몇 가지 어려운 문제가 자주 발생하였으며, 이에 Tencent Cloud 데이터베이스 팀이 적시에 대응하고 해결할 수 있었습니다.
데이터베이스 관리와 관련하여 QQ Music은 다음과 같은 문제에 직면해 있습니다.
1. 로그, 레코드 및 주문과 같은 비즈니스 데이터가 누적됨에 따라 네이티브 MySQL 중앙 집중형 아키텍처를 지속적으로 샤드와 테이블로 분할해야 합니다. 이는 DBA에게 큰 워크로드이며, 비즈니스 로직에 맞게 조정해야 합니다. TDSQL은 자동 수평 분할을 지원하므로 이 문제를 잘 해결할 수 있습니다.
2. 비즈니스가 성장함에 따라 더 많은 DDL을 개발해야 합니다. Tencent Cloud의 기본 데이터베이스 서비스 TDSQL-C가 제공하는 Instant DDL 커널 기능을 사용하면 데이터 변경을 완료할 수 있습니다. 데이터 변경에는 수십 분에서 몇 시간이 걸렸지만 단 1초 만에 완료할 수 있어 DBA의 운영 효율성이 크게 향상되었습니다.
3. TDSQL의 DBbrain 플랫폼은 데이터베이스 인스턴스의 다양한 지표에 대한 포괄적인 분석 및 진단을 통해 데이터베이스 성능 병목 현상을 신속하고 정확하게 파악하여, DBA가 매일 다양한 슬로우 로그 및 낮은 성능 쿼리를 처리할 필요가 없도록 합니다.
현재 다양한 데이터베이스 아키텍처를 기반으로 구축된 QQ Music은 실시간 활동, 최신 댓글 및 상단 고정을 비롯한 다양한 기능과 밀리초 수준의 도시 간 저지연 읽기를 지원하며, 수천만 명의 사용자의 높은 읽기 및 쓰기 동시성에 대응하는 자동 스케일링 기능을 지원합니다. 이러한 기능을 통해 데이터베이스 관리를 보다 쉽고 비즈니스에 집중할 수 있습니다.
협력 성과
현재 QQ Music은 자체 개발한 IDC에서 클라우드로 마이그레이션하는 단계에 있습니다. 향후 주요 목표는 Tencent Cloud의 성숙한 인프라 및 서비스의 도움을 받아 기본적이고 잡다한 운영 작업을 없애고 비즈니스에 더 많은 노력을 기울이는 것입니다. 또한 QQ Music은 지능형 데이터베이스 Ops를 점진적으로 구현하기 위해 자동화된 Ops 시스템 및 툴을 지속적으로 구축할 것입니다.
이와 관련하여 Tencent Cloud의 네이티브 데이터베이스 서비스 TDSQL-C는 모든 측면에서 QQ Music의 모든 요구를 충족시킬 수 있습니다. 컴퓨팅-스토리지 분리 아키텍처를 기반으로 하는 TDSQL-C는 HTAP, 극한의 자동 스케일링 및 대규모 분산형 스토리지를 비롯한 다양한 기능을 지원하며 지능형 Ops 플랫폼 및 Serverless 에디션과 같은 표준 서비스 솔루션을 제공합니다.
Tencent Cloud의 지능형 중앙 집중식 데이터베이스 관리 플랫폼을 사용하면 서로 다른 엔진 간에 데이터를 자유롭게 이동할 수 있어, 신속하게 비즈니스 개발을 지원합니다. 이 플랫폼은 다양한 애플리케이션 시나리오에서 유연한 호출 및 원클릭 작업을 지원하는 다양한 API를 제공하며, 지능형 Ops 시스템을 지원하여 일반적인 장애의 90%를 초 단위로 진단하고, SQL 최적화 제안을 제공하여 시스템 운영을 훨씬 용이하게 합니다. 이 플랫폼은 다중 소스 동기화 도구를 기반으로 초 단위 엔진 간 데이터 동기화를 구현하고, 비즈니스 엔진 차이를 극복합니다. 또한 이 플랫폼은 가용성을 더욱 향상시키기 위해 플러그인 로드 밸런싱 관리를 지원합니다.
Tencent Cloud의 풀스택 데이터베이스 서비스 덕분에 QQ Music은 이제 AP 및 TP 시나리오의 모든 수요를 처리할 수 있으며, 수천만 명의 사용자의 주문 및 의견 등 핵심 비즈니스를 지원합니다. QQ Music과 Tencent Cloud는 빅 데이터 인프라, 전체 링크 데이터 툴 체인, 현장 데이터 가치 애플리케이션 등 다양한 링크에서 윈-윈의 결과를 창출하고 다변량 데이터의 가치를 창출했습니다.