NIA-인공지능안전연구소, AI 모델 안전성 확보 시동

한국지능정보사회진흥원(이하 NIA)과 과학기술정보통신부 (이하 과기정통부)가 최근 AI 모델의 안전성 및 신뢰성 평가 기반 구축을 위한 'LLM 안전성 및 신뢰성 평가 데이터셋 구축' 사업 착수보고회를 개최했다고 10일 밝혔다.&nbsp; &nbsp; 이 사업은 ‘독자 AI 파운데이션 모델 프로젝트’의 AI 모델 안전성 및 신뢰성 평가 기반을 마련하고, 위험 요소에 대한 체계적·정량적 검증 체계를 구축하는 데 중점을 둔다. NIA는 AI 허브, AI 바우처 등 다양한 사업을 통해 국내 AI 생태계 발전을 선도해왔으며 이번 사업을 통해 AI 성능 평가뿐 아니라 안전성과 신뢰성을 아우르는 종합 평가 체계를 구축해 글로벌 AI 거버넌스에서 한국의 위상을 높일 계획이다. 특히 사이버 보안, AI 자율성, 사실 기반 정확성, 사회적 가치 편향 등 핵심 항목을 포함한 2만 건 이상의 한국어 특화 벤치마크 데이터셋을 구축할 예정이다. 이날 착수보고회에는 과기정통부, NIA, 인공지능안전연구소 관계자가 참석해 데이터 구축 방향과 평가 체계 설계, 글로벌 연계 전략 등을 논의했다. 황종성 NIA 원장은 “AI 안전성 평가는 선택이 아닌 필수가 된 시대"라며 "NIA가 그동안 AI 허브를 통해 축적한 1300여종의 AI 학습데이터와 평가 체계 전문성을 총동원해 세계 최고 수준의 AI 안전성 검증 체계를 구축하겠다. 이를 통해 대한민국이 글로벌 AI 신뢰성 표준을 선도하는 국가로 자리매김할 것”이라고 강조했다.