์คํธ๋กํฝ, Slack ํ ํ์ ๊ธฐ๋ฅ Claude Tag ๊ณต๊ฐ
NVIDIA, LLM ํ์ธํ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ NeMo AutoModel ๊ณต๊ฐ
์คํธ๋กํฝ์ด ํ ํ์ ์ ์ํ ๊ธฐ๋ฅ Claude Tag๋ฅผ ๊ณต๊ฐํ์ด์. Claude Enterprise์ Team ์ฌ์ฉ์๋ฅผ ๋์์ผ๋ก ๋ฒ ํ ๋ฒ์ ์ผ๋ก ์ ๊ณต๋๋ฉฐ, ์ฐ์ Slack์ ํตํด ์ถ์๋๋ค๊ณ ํฉ๋๋ค.
Claude Tag๋ฅผ ์ฌ์ฉํ๋ฉด Slack ์ฑ๋์ Claude๋ฅผ ํ์์ผ๋ก ์ด๋ํ ์ ์๋๋ฐ์. ์ํ๋ ๋๊ตฌ, ๋ฐ์ดํฐ, ์ฝ๋๋ฒ ์ด์ค๋ฅผ ์ฐ๊ฒฐํ ์ ์๊ณ , ์ฑ๋์ ์๋ ๋๊ตฌ๋ @Claude๋ฅผ ํ๊ทธํด ์์ ์ ์์ํ ์ ์์ด์. Claude Code์ ์ฌ์ฉ๋ฒ์ด ๋น์ทํ์ง๋ง, Slack ์ฑ๋์ ์ฌ๋ฌ ์ฌ์ฉ์์ ์ํธ์์ฉํ๊ณ ์ฑ๋ ๋งฅ๋ฝ์ ํ์ตํ ์ ์๋ค๋ ์ ์ด ๋ฌ๋ผ์. ์์ ์ด ์ ๊ทผํ ์ ์๋ ์ฑ๋๊ณผ ๋ฐ์ดํฐ์์ ํ์ํ ์ ๋ณด๋ฅผ ์ ๋ณํ๊ณ , ํด๊ฒฐ๋์ง ์์ ์์ ์ ์ถ์ ํ๋ ๊ฒ๋ ๊ฐ๋ฅํฉ๋๋ค.
NVIDIA๊ฐ LLM ํ์ต๊ณผ ํ์ธํ๋์ ์ํ ์คํ์์ค ๋ผ์ด๋ธ๋ฌ๋ฆฌ NeMo AutoModel์ ๊ฐ๋ฐ ์ค์ด์์. ํ๊น ํ์ด์ค Transformers v5๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ตฌ์ถ๋์๊ณ , ์ฌ์ฉ ๋ฐฉ๋ฒ์ด ํ๊น ํ์ด์ค ๋ธ๋ก๊ทธ์ ์๊ฐ๋์ต๋๋ค.
NeMo AutoModel์ Transformers v5๊ฐ ์ง์ํ๋ MoE(Mixture of Experts) ์ํคํ ์ฒ์ Expert Parallelism, TransformerEngine ์ปค๋ ๋ฑ์ ์ถ๊ฐํด MoE ํ์ต ์ต์ ํ ๊ธฐ๋ฅ์ ์ ๊ณตํด์. MoE ๋ชจ๋ธ ํ์ธํ๋ ๊ธฐ์ค์ผ๋ก ๋ค์ดํฐ๋ธ Transformers v5์ ๋นํด ์ฒ๋ฆฌ๋์ด 3.4~3.7๋ฐฐ ํฅ์๋๊ณ , GPU ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ๋์ด 29~32% ๊ฐ์ํ๋ค๊ณ ํฉ๋๋ค.
์ด๋ฆฐ ์ฐ๊ตฌ์ค
๋ชจ๋์์ฐ๊ตฌ์ ๊ณต์ ๐ ๐จ ๋ด์ค๋ ํฐ โฎ ๐ฒ๐๐๐ผ๐พ ๐ค๐ข๐ค๐ค