๋, ๋ฌด๋์ ์ ์ด๋ป๊ฒ ์ง๋ด๊ณ ๊ณ์ธ์?
์ค๋๋ง์ ๋น ์์์ด ๋ค๋ ค์์ ๋ฐ๊ฐ๋๋ผ๊ตฌ์๐ง๏ธ
ํญ์ผ์ ๋ น์๋ด๋ฆด ๊ฒ ๊ฐ์๋๋ฐ ๋คํ์ด์์..!๐ซ
์กฐ๊ธ์ด๋๋ง ์์ํ ํ ์ฃผ ๋ณด๋ด๊ธธ ๋ฐ๋๊ฒ์ :)
ํ๊น ํ์ด์ค, ์ํ ๋ค๊ตญ์ด ์ธ์ด ๋ชจ๋ธ SmolLM3 ์คํ์์ค ๊ณต๊ฐ
๋ฉ๋ชจ๋ฆฌ ๊ด๋ฆฌ ํ์ MemTensor, ์ด์ LLM ์ฑ๋ฅ ํ๊ณ๋ ๊ทน๋ณตํ๋ค
ํ๊น ํ์ด์ค๊ฐ ๋ค๊ตญ์ด ์ดํด์ ๊ธด ์ฝํ ์คํธ ์ถ๋ก ์ด ๊ฐ๋ฅํ ์ํ ์ธ์ด ๋ชจ๋ธ SmolLM3๋ฅผ ์คํ์์ค๋ก ๊ณต๊ฐํ์ด์. ํฌ๊ธฐ๊ฐ 3B ์ ๋์ง๋ง Llama-3.2-3B, Qwen2.5-3B ๋ฑ ๋น์ทํ ํฌ๊ธฐ ๋ชจ๋ธ๋ณด๋ค ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์๊ณ , Gemma3 4B์ Qwen3 4B ๋ฑ ๋ ํฐ ๋ชจ๋ธ๊ณผ๋ ๊ฒฝ์ํ ๋งํ ๊ฒฐ๊ณผ๋ฅผ ์ป์๋ค๊ณ ํฉ๋๋ค.
think/no_think ๋ชจ๋๋ฅผ ์ง์ํด์ ์ถ๋ก ์ฌ๋ถ๋ฅผ ์ค์ ํ ์ ์๊ณ , ๋ค๊ตญ์ด ์ดํด๋ ์ ๋ฝ 6๊ฐ ์ธ์ด๋ง ์ง์ํฉ๋๋ค. ์ฃผ๋ชฉํ ์ ์ SmolLM3 ๋ชจ๋ธ์ ์ํคํ ์ฒ๋ถํฐ ํ์ต ๋ฐฉ๋ฒ๊น์ง ๋ชจ๋ ์ ๋ณด๊ฐ ๋ธ๋ฃจํ๋ฆฐํธ๋ก ๊ณต๊ฐ๋์ด ์ธ์ด ๋ชจ๋ธ ๊ฐ๋ฐ์ ๊ด์ฌ ์๋ ๋ถ๋ค์๊ฒ ์ ์ฉํ ๊ฒ ๊ฐ์์.
SmolLM3: smol, multilingual, long-context reasoner
์ค๊ตญ AI ์คํํธ์ MemTensor๊ฐ LLM์ ์ํ ๋ฉ๋ชจ๋ฆฌ ๊ด๋ฆฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ MemOS๋ฅผ ๋ฐํํ์ด์. LLM ์ฑ๋ฅ์ ๋๋ ์ด ํฅ์๋๊ณ ์์ง๋ง, ์ ์ ์๋ ๋ฉ๋ชจ๋ฆฌ ๊ด๋ฆฌ ์์คํ ์ด ๋ถ์กฑํด์ ๊ธด ์ฝํ ์คํธ ์ถ๋ก ๊ณผ ์ง์์ ์ธ ๊ฐ์ธํ, ์ง์ ์ผ๊ด์ฑ ๋ฑ์ ๊ฐ๋ฐํ๊ธฐ ์ด๋ ต๋ค๊ณ ํฉ๋๋ค.
๊ธฐ์กด ๋ชจ๋ธ์ ์ฃผ๋ก ์ ์ ์ธ ํ๋ผ๋ฏธํฐ์ ๋จ๊ธฐ๊ฐ ์ํ์ ์์กดํด์ ์ฅ๊ธฐ๊ฐ์ ๊ฑธ์ณ ์ง์์ ์ ๋ฐ์ดํธํ๋ ๋ฐ ํ๊ณ๊ฐ ์์๋ค๊ณ ํ๋ค์. MemOS๋ ๋ฉ๋ชจ๋ฆฌ๋ฅผ ๊ด๋ฆฌ ๊ฐ๋ฅํ ์์คํ ๋ฆฌ์์ค๋ก ์ทจ๊ธํ์ฌ MemCube๋ผ๋ ๊ธฐ๋ณธ ๋จ์๋ก ๋ฉ๋ชจ๋ฆฌ ๋ด์ฉ๊ณผ ๋ฉํ๋ฐ์ดํฐ๋ฅผ ์บก์ํํ๊ณ , ๋ค์ํ ๋ฉ๋ชจ๋ฆฌ ์ ํ์ ๋ํ ํตํฉ ๊ด๋ฆฌ ํ๋ ์์ํฌ๋ฅผ ์ ๊ณตํด์ LLM์ด ๋์ฑ ์ผ๊ด์ฑ ์๊ณ ๊ฐ์ธํ๋ ์ํธ์์ฉ์ ํ ์ ์๋๋ก ํฉ๋๋ค.
ํ์๋ ์์ ์์ด๋ ๋๊ตฌ๋ ์ฐ๊ตฌํ ์ ์๋ ํ๊ฒฝ์ ๋ง๋ค์ด์จ ๋ชจ๋์์ฐ๊ตฌ์๊ฐ ์ฐฝ๋ฆฝ 10์ฃผ๋ ์ ๋ง์ ์ฌํด, ๋์ ๋ ผ๋ฌธ ๋ฐํ 100ํธ์ ๋ฌ์ฑํ์ด์. ์ด ์ค 70์ฌ ํธ์ด NeurIPS, ICLR ๊ฐ์ ํํฐ์ด ํํ์ ๊ฒ์ฌ๋์๋๋ฐ์. %name% ๋๋ ์ด๋ฆฐ ์ฐ๊ตฌ์ ๊ด์ฌ ์๋ค๋ฉด, ํ๋ฒ ๋์ ํด ๋ณด์ธ์! :)
์ด๋ฆฐ ์ฐ๊ตฌ์ค
์ด๋ฆฐ ์ธ๋ฏธ๋
๋ชจ๋์์ฐ๊ตฌ์ ๊ณต์ ๐ ๐จ ๋ด์ค๋ ํฐ โฎ ๐ฒ๐๐๐ผ๐พ ๐ค๐ข๐ค๐ค