셀렉트스타 "AI 안전성, 빅테크도 못 다루는 로컬 리스크 해결이 핵심"

AI 모델의 성능이 상향 평준화되는 가운데, 정성적인 영역인 'AI 신뢰성'을 정량화해 위험한 답변을 걸러내는 기술이 안전한 AI 확산의 핵심 과제로 떠올랐다.국내 최초로 AI 신뢰성 평가 기술을 앞세워 코스닥 상장에 도전하는 셀렉트스타의 김민우 세이프티팀 리드는 "이제 AI 모델의 성능은 이미 상향 평준화됐다"라며 "이제 핵심은 그럴듯한 답변 속에서 국가·산업·기업별 환각과 사실성 오류, 혐오·편향적인 답변을 정밀하게 걸러내 서비스 품질과 안전성을 유지하는 것"이라고 강조했다.특히 "위험한 답변을 안전하다고 착각하는 거짓 음성f