연합학습(Federated Learning) 의료 AI란 무엇인가요? 병원 데이터를 반출하지 않고 진단 AI를 함께 키우는 2026 프라이버시 보존 기술 완전 정리

연합학습은 환자 데이터를 병원 밖으로 한 번도 내보내지 않은 채, 각 기관 서버 안에서 AI 모델만 학습시키고 그 결과값(가중치)만 모아 성능을 끌어올리는 분산 학습 방식입니다. 데이터를 한곳에 모아야 좋은 모델이 나온다는 오래된 전제를 뒤집는데요. 2026년 현재 영상의학, 전자의무기록, 웨어러블, 유전체 연구까지 확산되며 개인정보보호와 진단 정확도라는 두 마리 토끼를 함께 잡는 핵심 인프라로 자리잡고 있습니다. 이 글에서는 원리와 프라이버시 보존 기술, 실제 병원 적용 사례, 한계까지 한 번에 정리합니다.

의료 데이터는 왜 한곳에 모으기 어려운가
연합학습이란 무엇인가: 데이터가 아니라 모델이 움직인다
프라이버시를 지키는 다층 보안 기술
실제 병원과 국가는 어떻게 쓰고 있나
연합학습이 바꾸는 진단 현장
도입을 위한 실전 체크리스트
한계와 남은 과제
자주 묻는 질문
같이 읽으면 좋은 것들

의료 데이터는 왜 한곳에 모으기 어려운가

제가 몇 해 전 한 대학병원 데이터 협력 회의에 참관한 적이 있는데요. 영상의학과 교수님이 던진 한마디가 오래 기억에 남았습니다. "우리 병원 흉부 CT만으로는 희귀 폐질환 판독 AI를 못 만듭니다. 그런데 옆 병원 데이터를 받아오는 건 사실상 불가능해요." 그 자리의 개인정보 담당자, 법무팀, 보안팀 모두가 고개를 끄덕였습니다. 데이터를 합치면 좋다는 걸 알지만, 물리적으로 한곳에 모으는 순간 문제가 폭발한다는 것도 다들 알고 있었죠.

의료 AI가 좋은 성능을 내려면 다양하고 방대한 데이터가 필요합니다. 그런데 환자데이터는 세상에서 가장 민감한 정보 중 하나인데요. 유전 정보, 질병 이력, 정신과 진료 기록 같은 것들이 한 번 유출되면 되돌릴 방법이 없습니다. 그래서 나라마다 강력한 규제가 존재합니다. 유럽의 GDPR, 미국의 HIPAA, 한국의 개인정보보호법과 의료법이 대표적인데요. 이런 규제 아래에서 병원끼리, 혹은 병원과 기업이 원본 데이터를 주고받는 건 대단히 어렵습니다.

여기서 나타나는 것이 바로 데이터 사일로(data silo) 현상입니다. 각 병원의 데이터가 섬처럼 고립되어, 정작 필요한 인공지능 학습에는 쓰이지 못하는 상황을 말합니다. 특히 문제가 되는 건 희귀질환인데요. 한 병원에 몇 명 안 되는 환자 데이터로는 통계적으로 의미 있는 모델을 만들 수 없습니다. 수십 개 병원의 데이터를 합쳐야 겨우 학습이 가능한데, 규제 때문에 합칠 수가 없으니 연구가 제자리를 맴돕니다.

또 하나의 구조적 문제는 데이터 편향입니다. 특정 제조사 CT 장비 영상으로만 학습한 모델은 다른 회사 장비 영상을 잘 못 읽는 일이 흔한데요. 이렇게 다양성이 부족한 데이터로 만든 진단 AI는 실제 임상에 배포했을 때 예상치 못한 오류를 일으킬 수 있습니다. 결국 데이터를 합치지 못한다는 제약이 AI의 신뢰성 자체를 위협하는 셈입니다.

연합학습이란 무엇인가: 데이터가 아니라 모델이 움직인다

한 줄로 요약하면, 연합학습은 데이터를 서버로 보내는 대신 학습 모델을 데이터가 있는 곳으로 보내는 방식입니다.

기존 방식은 여러 병원의 환자 데이터를 중앙 서버 한곳에 복사해 모은 뒤 그 위에서 AI 모델을 학습시킵니다. 데이터가 실제로 이동하기 때문에 유출 위험, 규제 위반, 소유권 분쟁이 늘 따라붙는데요. 연합학습(Federated Learning)은 이 흐름을 완전히 뒤집습니다. 중앙 서버가 아직 학습되지 않은 모델을 각 병원으로 내려보내면, 각 병원은 자기 서버 안에서 자기 데이터로만 그 모델을 학습시킵니다. 데이터는 병원 담장을 단 한 번도 넘지 않습니디. 학습이 끝나면 병원은 원본이 아니라 모델이 배운 결과값, 즉 가중치(weight) 같은 파라미터만 중앙 서버로 올려보냅니다.

중앙 서버는 여러 병원에서 올라온 이 파라미터들을 합칩니다. 이 과정을 집계(aggregation)라고 하는데요. 가장 널리 쓰이는 방식이 각 병원 데이터 양에 비례해 가중 평균을 내는 FedAvg 알고리즘입니다. 데이터 분포가 병원마다 크게 다를 때는 FedProx 같은 개선된 알고리즘이 쓰이는데, 최근 연구에서는 이런 기법이 데이터를 한곳에 모아 학습한 중앙집중식 모델과 대등하거나 오히려 앞서기도 했습니다. 합쳐진 모델은 다시 각 병원으로 내려가고, 학습과 집계가 반복되면서 모델은 점점 똑똑해집니다.

핵심 효익은 분명합니다. 어느 병원도 남의 환자 데이터를 보지 않지만, 결과적으로 모든 병원의 데이터로 학습한 것과 비슷한 수준의 AI를 함께 갖게 됩니다. 데이터 주권은 각 기관이 유지하고, 규제 준수 부담은 크게 줄어드는데요. 한 연구 리뷰에 따르면 잘 설계된 연합학습 모델은 중앙집중식 모델 성능의 95~98% 수준에 도달합니다. 데이터를 한 발짝도 옮기지 않고 이 정도 성능을 낸다는 건, 규제에 막혀 있던 수많은 협력 연구의 빗장을 푸는 일입니다.

프라이버시를 지키는 다층 보안 기술

연합학습이 데이터를 안 보낸다고 해서 완벽하게 안전한 건 아닙니다. 여기서 종종 오해가 생기는데요. 병원이 올려보내는 가중치 자체를 정교하게 역분석하면, 이론적으로는 학습에 쓰인 원본 데이터의 특성을 일부 유추해낼 수 있습니다. 그래서 연합학습은 단독으로 쓰이기보다 여러 프라이버시 보존 기술과 겹겹이 결합됩니다.

첫 번째는 차분 프라이버시(Differential Privacy)입니다. 병원이 파라미터를 올려보내기 전에 통계적 잡음(noise)을 살짝 섞습니다. 전체 학습 결과에는 큰 영향을 주지 않으면서, 특정 개인의 정보가 결과값에 반영됐는지 알아낼 수 없게 만드는 건데요. 개인은 흐릿하게 지우고 집단의 패턴만 남기는 셈입니다. 잡음 세기를 조절하는 값을 엡실론(epsilon)이라 부르며, 값이 작을수록 프라이버시는 강해지고 정확도는 다소 희생됩니다. 최근에는 잡음 세기를 자동 조절하는 적응형 기법이 나오면서, 고정 잡음 방식보다 정확도를 5~7%포인트 더 끌어올린 사례도 보고됐습니다.

두 번째는 동형암호(Homomorphic Encryption)입니다. 보통 데이터는 계산하려면 암호를 풀어야 하는데요. 동형암호는 암호화된 상태 그대로 덧셈이나 평균 같은 연산을 수행할 수 있게 해줍니다. 즉 중앙 서버는 각 병원의 파라미터를 암호가 걸린 채로 집계하기 때문에, 서버관리자조차 개별 병원의 값을 들여다볼 수 없습니다.

세 번째는 안전한 다자간 계산(SMPC, Secure Multi-Party Computation)입니다. 여러 병원이 각자의 값을 조각조각 나눠 공유하고, 그 조각들을 합쳐야만 최종 결과가 나오도록 설계해 어느 한 곳도 전체 그림을 혼자 볼 수 없게 만듭니다. 이렇게 연합학습, 차분 프라이버시, 동형암호, SMPC가 층층이 쌓이면 프라이버시와 진단 정확도 사이의 균형을 실용적인 수준에서 맞출 수 있게 됩니다.

실제 병원과 국가는 어떻게 쓰고 있나

연합학습은 이미 논문 속 개념을 넘어 국가 단위 인프라로 움직이고 있습니다. 영국의 국가 바이오뱅크인 지노믹스 잉글랜드(Genomics England)는 연합학습 기반 유전체 공동연구를 진행하고, 미국 국립보건원(NIH)은 인증된 신뢰연구환경(TRE)을 운영합니다. 싱가포르 국가 헬스테크 기관 시냅스(Synapxe), 범캐나다 코호트 CanPath, 국경을 넘어 데이터를 연결하는 유럽 건강데이터공간(EHDS)까지 대형 프로젝트들이 이 방식을 채택했습니다.

가장 유명한 임상 사례는 엔비디아(NVIDIA)가 주도한 EXAM 연구입니다. 북미, 유럽, 아시아의 20개 의료기관이 참여해 코로나19 환자의 산소 요구량을 예측하는 모델을 연합학습으로 만들었는데요. 각 병원의 흉부 엑스레이와 임상 데이터는 병원 밖으로 나가지 않았습니다. 신약 분야에서는 서로 경쟁하는 10개 제약사가 각자의 화합물 라이브러리를 공개하지 않으면서 공동 모델을 학습한 MELLODDY 프로젝트가 대표적입니다. 경쟁사끼리 데이터를 섞지 않고도 함께 학습하는, 예전 같으면 상상하기 어려웠던 협력이 실제로 일어난 것입니다.

한국에서도 움직임이 활발합니다. 보건복지부와 과학기술정보통신부가 병원과 AI 기업을 묶어 데이터를 직접 반출하지 않고도 연구와 모델 학습을 할 수 있는 체계를 구축하고 있는데요. 전국 거점병원이 환자 정보를 비공개로 둔 채 희귀질환 진단 AI를 공동 개발하는 연합학습 기반 프로젝트가 선도 사례로 거론됩니다. 정밀의료를 국가 전략으로 밀고 있는 한국 입장에서, 데이터 거버넌스는 의료 AI 산업화의 마지막 퍼즐로 꼽히는데요. 연합학습은 그 퍼즐을 맞추는 유력한 열쇠입니다.

연합학습이 바꾸는 진단 현장

실제 적용 분야를 보면 영상의학이 가장 앞서 있습니다. 한 체계적 리뷰에서 연합학습 연구의 약 41.7%가 의료영상 분야였는데요. 뇌 MRI 종양 분할, 유방촬영술 암 검출, 흉부 엑스레이 폐질환 분류가 대표적입니다.

기존 방식을 떠올려 보겠습니다. 지방의 한 중소병원이 유방암 판독 AI를 도입하고 싶어도, 자기 병원 데이터만으로는 상급 병원 수준의 정확도를 기대하기 어려웠습니다. 대형 병원 데이터를 받아오려면 심의와 반출 승인까지 몇 달이 걸리고, 그마저도 대부분 무산됐죠. 연합학습이 적용된 새로운 방식에서는 이 중소병원이 전국 병원이 함께 키운 판독 모델을 내려받아, 자기 데이터로 조금 더 학습시켜 씁니다. 결과적으로 작은 병원도 대형 병원급 진단 AI의 혜택을 누리게 됩니다.

전자의무기록(EHR) 분야도 약 23.7%로 활발합니다. 여러 병원 데이터를 함께 학습하면 패혈증 발병이나 퇴원 후 30일 내 재입원 위험을 미리 예측하는 모델을 만들 수 있는데요. 웨어러블과 사물인터넷 의료기기 데이터도 약 13.6%를 차지합니다. 스마트워치 심전도, 연속혈당측정기(CGM) 데이터를 개인 기기에서 학습해 원본을 보내지 않는 방식으로, 만성질환 관리와 원격 모니터링에 특히 잘 어울립니다.

핵심은 편향 감소입니다. 지역과 장비가 서로 다른 수십 개 기관의 데이터로 학습하기 때문에, 한곳의 데이터로만 만든 모델보다 다양한 상황에 견디는 AI가 나옵니다.

도입을 위한 실전 체크리스트

의료기관이나 기업이 연합학습을 검토한다면 다음 단계로 접근해볼 수 있습니다.

1단계, 문제 정의입니다. 우리 기관이 혼자서는 학습 데이터가 부족한 과제가 무엇인지부터 찾습니다. 희귀질환 진단처럼 협력이 절실한 영역이 연합학습에 잘 맞습니다.

2단계, 참여 기관과 데이터 표준화입니다. 함께할 병원이나 컨소시엄을 모으고 데이터 형식을 맞춥니다. 의료영상은 DICOM, 임상데이터 교환은 HL7 FHIR, 관찰형 보건데이터는 OMOP 공통 데이터 모델 같은 표준을 씁니다. 연합학습에서 가장 큰 기술적 난관이 바로 이 데이터 조화(harmonization)이니 여기에 공을 들여야 합니다.

3단계, 프레임워크와 보안 설계입니다. 엔비디아 FLARE, 플라워(Flower) 같은 오픈소스 프레임워크를 활용하고, 차분 프라이버시와 암호화를 어느 수준으로 적용할지 정합니다. 프라이버시를 강하게 걸면 정확도가 다소 떨어지므로 임상적으로 허용 가능한 균형점을 함께 정하는 게 중요합니다.

4단계, 검증과 임상 연계입니다. 만들어진 모델이 각 병원에서 고르게 작동하는지 확인하고, 판독 근거를 의료진이 이해하도록 설명 가능성(SHAP, LIME 등)을 확보합니다. 환자가 특정 서비스를 고를 때는 식약처 SaMD(의료기기 소프트웨어) 허가 여부, ISMS-P 인증, 비식별화 처리 명시, 종단간 암호화 적용 여부를 확인하면 신뢰도를 가늠하는 데 도움이 됩니다.

한계와 남은 과제

연합학습이 만능은 아닙니다. 가장 자주 지적되는 문제는 데이터 이질성, 이른바 비독립동일분포(non-IID) 문제입니다. 병원마다 장비가 다르고, 전문병원과 일반병원의 환자 구성이 다르며, 데이터 양도 크게 차이 납니다. 이렇게 데이터가 제각각이면 집계 과정에서 모델이 흔들리기 쉬운데요. FedProx 같은 알고리즘이 이를 완화하지만 완전히 해결하지는 못합니다.

두 번째는 시스템 이질성입니다. 참여 기관마다 서버 성능과 네트워크 속도가 다르면, 느린 기관이 전체 학습 속도를 붙잡는 병목이 됩니다. 세 번째는 연구와 실제 배포 사이의 큰 간극인데요. 한 조사에 따르면 연합학습 연구 가운데 실제임상 현장까지 도달한 비율은 5.2%에 불과합니다. 기존 시스템 연동과 인프라 투자 대비 효과를 찾는 일이 여전히 숙제로 남아 있습니다.

그럼에도 방향성은 분명합니다. 데이터를 모으지 않고 함께 학습한다는 발상은 프라이버시 규제가 강해질수록 더 필요해지는데요. 연합학습은 의료 빅데이터 활용의 기본 문법으로 자리잡아 가고 있습니다.

FAQ

연합학습은 정말 환자 데이터를 하나도 안 보내나요?

네, 원본 환자 데이터는 병원 서버 밖으로 이동하지 않습니다. 대신 모델이 학습한 결과값인 가중치 같은 파라미터만 전송됩니다. 다만 파라미터를 정교하게 역분석하면 정보 유추 위험이 있어, 차분 프라이버시나 암호화 같은 추가 보안 기술을 함께 적용하는 것이 표준입니다.

데이터를 안 모으고 학습하면 정확도가 떨어지지 않나요?

초기에는 그런 우려가 있었지만, FedAvg·FedProx 같은 알고리즘이 발전하면서 잘 설계된 연합학습 모델은 데이터를 한곳에 모은 중앙집중식 모델 성능의 95\~98% 수준에 도달합니다. 일부 조건에서는 대등하거나 앞서기도 합니다. 여러 기관 데이터로 학습해 편향이 줄어드는 이점도 있습니다.

기존 데이터 익명화 방식과 무엇이 다른가요?

익명화는 데이터를 가공해 외부로 내보내는 방식이라 재식별 위험과 반출 절차가 늘 따라붙습니다. 연합학습은 데이터를 아예 내보내지 않고 모델만 오갑니다. 데이터 소유권과 물리적 위치를 그대로 유지한다는 점에서 근본적으로 접근이 다릅니다.

연합학습을 도입하면 병원 업무 시간이 절감되나요?

진료 시간 절감보다는 협력 연구에 드는 시간을 크게 줄여줍니다. 기존에는 타 기관 데이터를 받으려면 심의와 계약에 수개월이 걸렸지만, 연합학습 컨소시엄에서는 데이터 반출 없이 공동 모델을 학습할 수 있어 연구 준비 기간이 단축됩니다.

중소병원도 연합학습의 혜택을 받을 수 있나요?

네, 오히려 데이터가 부족한 중소병원에 큰 이점이 있습니다. 전국 병원이 함께 키운 진단 모델을 내려받아 자기 데이터로 미세 조정해 쓸 수 있어, 데이터 규모가 작아도 대형 병원급 진단 AI의 성능을 활용할 수 있습니다.