미디어콘텐츠페어2024

에임인텔리전스, 메타 '라마 임팩트 이노베이션 어워즈' 수상
사이버 공격 코드·불법 콘텐츠 생성 대응

(서울=뉴스1) 신은빈 기자 = 메타의 인공지능(AI) 안전 도구인 '라마 가드' 모델의 한국어 필터링 기능을 크게 끌어올린 국내 스타트업이 상을 받았다.

메타는 국내 생성형 AI 보안 기술 업체 에임인텔리전스가 제안한 '라마 수호' 프로젝트가 '라마 임팩트 이노베이션 어워즈' 아시아 태평양 지역 수상자 중 하나로 선정됐다고 25일 밝혔다.

라마 임팩트 이노베이션 어워즈는 메타의 대규모 오픈소스 언어 모델인 라마 2(Llama 2) 또는 라마 3을 활용해 지역 사회 문제 해결에 기여한 AI 개발자와 조직을 발굴·지원하는 프로그램이다.

에임인텔리전스가 제안한 라마 수호는 오픈소스로 제공되는 메타의 AI 안전 도구인 라마 가드 3 8b 모델을 미세 조정한 모델이다.

사이버 공격 코드나 불법 콘텐츠 생성처럼 개발자의 설계 의도를 벗어난 AI 기술 악용 사례에 대응하고 안전과 보안을 강화하고자 만들어졌다. 이를 위해 한국의 사회·문화적 맥락과 언어 특징을 보다 잘 반영하고 필터링 기능을 개선했다.

현재 라마 가드는 한국어 응답 중 부적절한 콘텐츠의 약 90%를 필터링하는데 라마 수호는 필터링 성공률을 99%까지 끌어올렸다. 이 과정에서 한국 문화 특수 데이터 7000개 이상이 활용됐다.

에임인텔리전스는 기술력과 사회 기여도를 높이 평가 받아 상금 2만 5000달러를 받았다.