카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘Kanana Safeguard’를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.
카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 `Kanana Safeguard`를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.
이번 공개는 생성형 AI 기술이 빠르게 확산되며 사회적 우려가 커지는 가운데, 안전하고 책임 있는 AI 생태계를 조성하기 위한 선제적 대응의 일환이다.
‘Kanana Safeguard’는 카카오가 자체 개발한 언어모델 ‘Kanana’를 기반으로 한국어 및 한국 문화에 최적화된 성능을 갖춘 것이 특징이다. 자체 구축한 한국어 데이터셋을 활용했으며, F1 스코어 평가 결과 글로벌 모델 대비 우수한 성과를 보인 것으로 알려졌다.
공개된 모델은 총 3종이다. 기본형인 ‘Kanana Safeguard’는 AI 서비스 내에서 증오, 괴롭힘, 성적 콘텐츠 등 유해 발화를 탐지하는 역할을 하며, ‘Kanana Safeguard-Siren’은 개인정보, 저작권 등 법적 민감 정보를 식별한다. 마지막으로 ‘Kanana Safeguard-Prompt’는 AI를 악용하려는 시도나 위험한 프롬프트를 감지하도록 설계됐다.
이 모델들은 모두 세계 최대의 오픈소스 AI 플랫폼인 허깅페이스(Hugging Face)를 통해 다운로드 가능하며, 상업적 활용과 수정·재배포가 자유로운 아파치 2.0(Apache 2.0) 라이선스를 적용받는다.
카카오 김경훈 AI Safety 리더는 “기술 발전과 함께 AI의 윤리와 안전에 대한 논의가 더욱 중요해지고 있다”며 “Kanana Safeguard의 오픈소스 배포를 통해 책임감 있는 AI 개발과 활용 문화가 확산되길 기대한다”고 밝혔다.
카카오는 향후 지속적인 업데이트를 통해 모델의 고도화를 추진하고, 국내외 AI 기술 안전성 강화에 적극 기여할 방침이다.
윤승원
기자
헤드라인 뉴스
-
'부담경감 크레딧' 사용처, 통신비와 차량 연료비까지 확대
중소벤처기업부(장관 한성숙, 이하 중기부)는 8월 6일 `부담경감 크레딧`의 사용처를 통신비와 차량 연료비까지 확대한다고 밝혔다. 중기부는 8월 6일 `부담경감 크레딧`의 사용처를 통신비와 차량 연료비까지 확대한다고 밝혔다.기존에는 전기·가스·수도요금, 국민연금, 건강보험, 고용보험, 산재보험 등 총 7개 항목에 한해 크레
-
환경부 장관, 가습기살균제 피해자·유족에 직접 사과
환경부(장관 김성환)는 국회 환경노동위원회 안호영 위원장과 함께 8월 6일 오후 국회 의원회관 제1세미나실에서 가습기살균제 피해자단체 대표들을 만나 다양한 의견을 청취했다. 김성환 환경부장관이 6일 오후 국회의원회관에서 열린 가습기살균제 피해자 대표와의 간담회에서 피해자 분들의 의견을 경청하고 있다. 이번 간담회는 지난해 6월 대법원이 가
-
김광용 재난안전관리본부장, 전남 집중호우 피해 현장 점검
행정안전부(장관 윤호중) 김광용 재난안전관리본부장은 8월 6일 지난 3~4일 집중호우로 인한 침수 피해가 집중된 전라남도 함평군과 무안군 일대 현장을 방문해 응급 복구 상황을 점검했다. 김광용 행정안전부 재난안전관리본부장이 5일 정부세종청사 중앙재난안전상황실에서 호우 대처 중대본 회의를 주재하고, 피해 최소화를 위한 8.6~7일 취약시간대 호우 대
-
중소기업부, 관세 현안·수출 애로 해소 위한 정책현장투어 실시
중소벤처기업부(장관 한성숙, 이하 중기부)는 8월 6일 중소기업 분야 정책현장투어 두 번째 행선지로 경기도 소재 `실리콘투` 물류센터를 방문해 수출 중소기업 관계자들과 간담회를 개최하고 현장 애로사항을 청취했다. 한성숙 중소벤처기업부 장관이 6일 경기 광주 (주)실리콘투에서 열린 `제2회 중소기업 정책현장투어`에서 참석자들과 기념 촬영을 하고 있다
-
"안전은 타협 불가" 근로복지공단, 중대재해 제로화 위한 안전경영 본격화
근로복지공단(이사장 박종길)은 국민과 직원의 안전을 최우선 가치로 삼고 중대재해 제로화를 위한 선제적 안전경영을 본격 추진한다고 8월 6일 밝혔다. 지난달 25일, 근로복지공단 박종길 이사장이 인천 남동구 구월동 경인지역본부 신축공사 현장에서 안전경영을 실시하고 있다. 이번 안전경영 강화 조치는 최근 이재명 대통령이 중대재해 근절을 위해
-
김윤덕 국토교통부 장관, 취임 첫 행보로 12·29 여객기 참사 유가족 만나
김윤덕 국토교통부 장관은 취임 후 첫 공식 일정으로 8월 6일 오전 무안국제공항을 방문해 12·29 여객기 참사 유가족과 면담을 갖고 사고현장을 점검하며 정부의 소통 의지를 보였다. 김윤덕 국토교통부 장관은 취임 후 첫 공식 일정으로 8월 6일 오전 무안국제공항을 방문해 12 · 29 여객기 참사 유가족과 면담을 갖고 사고
-
바다와 숲이 공존하는 안산 바다향기수목원, 여름 휴가 명소로 주목
바다와 숲을 동시에 즐길 수 있는 경기도 안산 대부도 바다향기수목원이 여름 휴가철을 맞아 방문객들의 발길을 사로잡고 있다. 암석원의 여름시원한 바닷바람을 맞으며 서해안을 조망할 수 있는 이곳은 다양한 여름꽃들이 만개해 싱그러움을 더하고 있다. 바다향기수목원에는 산림청 지정 보호식물인 개정향풀을 비롯해 무궁화, 나무수국, 능소화 등 나무의
-
고양시청 역도팀 국제대회 선전…`나고야 아시안게임` 메달 기대감 높여
고양특례시 소속 직장운동경기부 역도팀이 중국 푸저우에서 열린 `2025 동아시아역도선수권대회` 및 `2025 한·중·일 국제역도경기대회`에서 뛰어난 기량을 선보이며 총 금메달 9개, 은메달 3개를 획득했다. 고양시청 역도팀 국제대회 선전...`나고야 아시안게임` 메달 기대감 높여이번 대회는 동아시아역도연맹 및 한중일 3개국
