포스텍 연구진이 개인정보 때문에 원본 데이터를 공유하기 어려운 환경에서도 잘못된 데이터를 찾아내 인공지능 성능을 높일 수 있는 기술을 개발했다.포스텍 인공지능대학원·전자전기공학과 김광인 교수 연구팀은 원본 데이터를 직접 확인하지 않고도 오류 가능성이 큰 데이터를 골라내는 분산 인공지능 기술을 개발했다고 6일 밝혔다. 연구 결과는 인공지능 분야 국제학회인 ‘AAAI 2026’ 메인 테크니컬 트랙에 게재됐다.인공지능을 학습시키려면 사진이나 문서마다 ‘고양이’, ‘강아지’처럼 정답에 해당하는 표시를 붙여야 한다. 이를 ‘라벨’이라고 한다. 라벨이 잘못 붙으면 인공지능이 잘못된 규칙을 배우면서 정확도가 떨어진다.그러나 방대한 데이터를 사람이 처음부터 다시 확인하려면 많은 시간과 비용이 든다. 이 때문에 오류 가능성이 크고 수정 효과가 높은 데이터부터 골라 확인하는 ‘능동 오류 정정’ 기술이 활용되고 있다.문제는 병원이나 기업, 개인 기기처럼 개인정보나 영업기밀 때문에 데이터를 외부로 내보낼 수 없는 경우다. 이들 기관은 원본 데이터를 각자 보관한 채 인공지능을 학습시키고, 중앙 서버에는 학습 결과만 보낸다. 중앙 서버가 원본 데이터와 정답을 볼 수 없기 때문에 어느 기관의 데이터에 오류가 있는지 판단하기 어렵다.연구팀은 각 기관이 보내는 학습 결과에 포함된 ‘가중치 기울기’에 주목했다. 이는 각각의 데이터가 인공지능의 판단 기준을 어느 방향으로 바꾸려 하는지를 보여주는 일종의 ‘학습 지문’이다. 중앙 서버는 이 신호를 비교해 원본 데이터를 보지 않고도 다른 곳과 유난히 다른 학습 패턴을 찾아낼 수 있다.연구팀이 개발한 ‘가우시안 프로세스 능동 오류 정정(GPAEC)’ 알고리즘은 대부분이 비슷한 답을 냈는데 혼자 엉뚱한 답을 낸 학생의 답안부터 확인하는 방식과 비슷하다. 다른 기관과 학습 방향이 크게 다른 곳을 오류 가능성이 높은 대상으로 판단해 우선 재검수하도록 한다.또 비슷한 오류를 가진 기관만 반복해서 선택하지 않고 서로 다른 유형의 오류를 고르게 확인한다. 각 기관이 보고한 학습 성적과 실제 학습 신호가 크게 어긋날 경우에는 해당 보고의 신뢰도를 낮춰 검수 대상에서 걸러낸다.연구팀은 36개 실험 조건에서 이 방식이 가장 높은 평균 정확도를 기록했으며, 이 가운데 34개 조건에서는 무작위 선택보다 통계적으로 의미 있는 성능 우위를 보였다고 설명했다. 첫 검수 단계에서 신뢰할 수 있는 대상을 선택한 비율도 88.9%로, 무작위 선택 78.6%와 학습 손실값만 이용한 방식 42.2%를 웃돌았다.이 기술은 환자 정보를 외부로 보내기 어려운 의료기관을 비롯해 금융회사, 공장, 자율주행차, 로봇, 스마트폰 등 여러 기관과 기기가 각자의 데이터로 인공지능을 학습하는 분야에 활용될 수 있다.김광인 교수는 “개인정보 보호가 더욱 중요해지는 의료·금융 등 여러 분야에서 신뢰할 수 있는 인공지능을 만드는 데 보탬이 되길 바란다”고 말했다.다만 연구팀은 가중치 기울기가 원본 데이터를 대신하는 신호일 뿐 강력한 수학적 개인정보 보호를 보장하는 것은 아니라고 설명했다.