📮 책상 위 AI 슈퍼컴퓨터가 온다🦹🏻‍♀️

#CES2025 #rStar-Math I 님, 모두레터가 왔어요!

2025. 1. 12.

함께 공유하고 성장하는 연구 문화를 전파해요

2025년 1월 13일 모두레터

친구랑 같이읽기 I 웹에서 보기 I 지난 레터 보기

created with Ideogram AI

님, 모두레터가 왔어요!

님, 지난주 정말 추웠죠?☃️

한편, CES 2025 소식으로 뜨거웠던 한 주이기도 했는데요. 미래 산업의 트렌드가 궁금하시다면, 이 자료도 한 번 확인해 보세요.

따뜻한 차 한 잔과 함께 포근한 한 주 보내길 바랄게요! :)

이번주 AI 소식

"책상 위 AI 슈퍼컴퓨터가 온다" - CES 2025 엔비디아의 새로운 도전
작은 AI 모델도 수학을 잘 풀 수 있다! 마이크로소프트의 rStar-Math 기술

"책상 위 AI 슈퍼컴퓨터가 온다" - CES 2025 엔비디아의 새로운 도전

엔비디아가 CES 2025에서 차세대 AI 기술의 청사진을 공개했습니다. 젠슨 황 CEO는 6,000명이 넘는 청중 앞에서 '지포스 RTX 50(GeForce RTX 50) 시리즈' 그래픽카드의 신제품들을 선보였는데요. 최상위 모델인 RTX 5090은 역대 가장 강력한 성능을 자랑하며, 새로운 DLSS 4 기술로 게임 성능을 최대 8배까지 끌어올릴 수 있다고 합니다. RTX 5090과 5080은 1월 30일, RTX 5070 Ti와 5070은 2월, 노트북용 GPU는 3월 출시 예정이라고 하네요.

물리적 세계를 이해하고 시뮬레이션하는 '코스모스(Cosmos)' 플랫폼도 공개되었습니다. Uber를 비롯한 주요 로봇공학 기업들이 이미 도입을 결정했으며, GitHub를 통해 오픈 소스로 제공될 예정이에요. 가장 흥미로운 '프로젝트 디짓(Project DIGITS)'는 데스크톱 크기의 소형 AI 슈퍼컴퓨터로, 엔비디아의 모든 AI 소프트웨어를 구동할 수 있으며 2025년 5월 출시 예정입니다. 가정이나 사무실에서도 AI 슈퍼컴퓨터를 사용할 수 있게 된다니 기대되네요!

NVIDIA CEO Jensen Huang Keynote at CES 2025

작은 AI 모델도 수학을 잘 풀 수 있다! 마이크로소프트의 rStar-Math 기술

©Unsplash

마이크로소프트가 작은 언어 모델(Small Language Model, SLM)이 더 큰 모델의 도움 없이도 최고 수준의 수학 실력을 보여줄 수 있는 새로운 기술을 발표했습니다. 'rStar-Math'라는 이 기술은 두 개의 SLM을 활용해 수학 문제를 더 효과적으로 풀 수 있게 해준다고 하네요. 이 기술은 몬테 카를로 트리 탐색과 Chain-of-Thought(CoT) 방식을 결합했는데요. 하나의 SLM이 문제 해결 방법을 찾고 다른 하나는 그 과정의 품질을 평가하는 방식으로 작동한다고 합니다.

실제로 모델에 이 기술을 적용해본 결과가 매우 인상적인데요. Qwen2.5-Math-7B 모델의 경우 MATH 벤치마크에서 58.8%에서 90.0%로, Phi3-mini-3.8B는 41.4%에서 86.4%로 크게 향상되어 오픈AI의 o1-preview를 각각 4.5%와 0.9% 상회하는 성과를 보였고요. 미국 수학 올림피아드(AIME) 수준의 문제도 평균 53.3%(15문제 중 8문제)를 해결하며 상위 20% 수준의 뛰어난 성능을 달성했습니다. 747,000개의 수학 문제로 구성된 데이터셋으로 4단계 진화 과정을 거치며 모델을 훈련시켰는데, 이는 작은 규모의 언어 모델도 최신 기술을 통해 최고 수준의 수학 능력을 달성할 수 있음을 입증했습니다.

rStar-Math: Small LLMs Can Master Math Reasoning with Self-Evolved Deep Thinking

필진 I 하자혜, 신승연

팔란티어(Palantir)의 빅데이터 기술, 정부와 투자자를 모두 사로잡다

🏷️블로그 추천 글 I #팔란티어 #빅데이터 #AI분석

팔란티어는 빅데이터 분석 기술로 주목받는 기업입니다. 테러범 추적부터 기업 의사결정 지원까지, 다양한 분야에서 활약하며 투자자들의 관심을 모으고 있죠. 특히 '고담(Gotham)' 플랫폼은 복잡한 데이터를 효과적으로 통합·분석해 정부와 기업의 중요한 결정을 돕고 있습니다. 팔란티어의 기술과 미래가 궁금하다면 아래 링크를 확인해 보세요!

자세히 읽기