• 오픈AI, GPT-4o 파인튜닝 기능 출시
• MS, 소규모 언어 모델 '파이-3.5' 출시

오픈AI는 코사인(Cosine), 디스틸AI(Distyl AI) 등의 기업과 협업하여 GPT-4o 파인튜닝 성능을 실험했는데요. SWE-bench와 BIRD-SQL이라는 개발 분야 벤치마크에서 가장 높은 점수를 기록했다고 합니다. 또 오는 23일까지 모든 기관에 일일 최대 100만 개의 훈련 토큰, 200만 개의 GPT-4o 미니 학습 토큰이 제공될 예정이니 님도 참고해 주세요!

마이크로소프트의 SLM(Small Language Model) 파이-3(phi-3) 시리즈에 파이-3.5(phi-3.5) 모델이 추가되었습니다. 지난 4월에 파이-3 시리즈, 6월에 미니 인스트럭트(mini-instruct) 모델이 출시된 이후 두 달 만의 업데이트인데요. 이번에는 '미니 인스트럭트'와 MoE(Mixture of Experts) 기법이 사용된 'MoE 인스트럭트', 그리고 이미지 인식 기능이 추가된 '비전 인스트럭트(vision-instruct)'의 세 가지 모델이 추가되었습니다. 

마이크로소프트는 파이 시리즈를 개발하면서 모델 크기 대비 성능을 항상 강조해 왔는데요. 미니 인스트럭트 모델은 3.8B의 크기로도 7B~12B 모델과 비슷한 성능을 보였습니다. MoE 모델은 전체 크기가 42B지만 한번에 활성화되는 파라미터는 6.6B 정도로, GPT-4o 미니를 제외한 다른 SLM보다 벤치마크 테스트에서 높은 점수를 기록했다고 하네요.

• 일시: 8월 28일 수요일 7PM
• 장소: 모두의연구소 대전캠퍼스
• 연사: 방승욱(모두의연구소)
• 내용: Langchain과 Streamlit을 이용해 웹에 간단한 챗봇 구현해 보기 · RAG의 기본 작동 원리 배우기 · 최신 AI 트렌드 습득하기

• 일시: 8월 30일 (금) 오후 7PM - 9:30PM