📮 더 작고 더 저렴한데 똑똑하다?

#GPT-4o mini #MistralNeMo

2024. 7. 21.

📮 더 작고 더 저렴한데 똑똑하다?

함께 공유하고 성장하는 연구 문화를 전파해요

2024년 7월 22일 모두레터

친구랑 같이읽기 I 웹에서 보기 I 지난 레터 보기

created with ChatGPT-4o

님, 모두레터가 왔어요!

님은 여름 휴가 계획이 있나요?

전 친구와 국내 여행을 준비 중이에요!🫧

잠시나마 일과 일상에서 자유로워져 보려고요.

이번주도 비, 더위 조심하고 힘내세요🫶

이번주 SW/AI 소식

'싸고 가벼운 AI' GPT-4o 미니 출시
엔비디아-미스트랄AI, 새로운 AI 모델 공개

열린 세미나: 생계형 디자이너에게 챗GPT 축복이 끝이없네

'싸고 가벼운 AI' GPT-4o 미니 출시

©OpenAI

오픈AI가 개발한 최신 모델 GPT-4o의 미니(mini) 버전이 출시되었습니다. '미니'라는 이름만큼 가볍지만 뛰어난 성능을 강조하고 있는데요. 기존 GPT-3.5 터보(Turbo) 모델보다 토큰 당 비용이 60% 이상 저렴하면서도(100만 토큰 당 15센트(input), 60센트(output)) 벤치마크 테스트 성능은 GPT-4o에 조금 못 미치는 수준이고요. 클로드 하이쿠(Claude Haiku)나 제미나이 플래시(Gemini Flash) 등 다른 기업의 플래그십 모델 시리즈와 비교했을 때도 좋은 성능을 보였다고 합니다.

GPT-4o 미니는 현재 챗GPT를 통해서도 사용해 볼 수 있어요. 오픈AI API로는 텍스트・이미지 처리 기능만 지원하고 있습니다. 동영상・오디오 처리 기능과 파인튜닝(fine-tuning) 등 더 많은 기능은 추후에 추가될 예정이라고 하네요!

GPT-4o mini: advancing cost-efficient intelligence

엔비디아-미스트랄AI, 새로운 AI 모델 공개

©Mistral AI

미스트랄 AI(Mistral AI)가 엔비디아(NVIDIA)와 협력하여 언어 모델 '미스트랄 네모(Mistral NeMo)'를 출시했습니다. 미스트랄 네모는 크기가 12B인데, 콘텍스트 윈도우 크기는 젬마(Gemma) 2 9B, 라마(Llama) 3 8B 등 비슷한 규모의 모델보다 큰 128k입니다. 벤치마크 점수는 미스트랄 네모 베이스 모델이 사전 학습된(pre-trained) 젬마 2, 라마 3보다 조금 더 높게 측정되었습니다.

미스트랄 네모의 장점은 다국어 처리 능력에 있는데요. 영어뿐만 아니라 한국어, 프랑스어, 독일어 등 다양한 언어 데이터에서 라마 3 8B 모델을 크게 웃도는 점수를 기록했습니다. 'Tiktoken 토크나이저(tokenizer)'를 기반으로 한 'Tekken 토크나이저'를 사용하여 한국어와 아랍어의 경우 효율이 2~3배, 다른 주요 언어들의 경우 약 30% 더 효율적이었다고 합니다.