๋ชจ๋๋ ํฐ
๊ตฌ๋ ํ๊ธฐ
๐ฎ LLM์ด ์ํ ๋ฌธ์ ๋ ๋ชปํผ๋ค๊ตฌ?๐
#FunSearch #L4S
2023. 12. 24.
๐ฎ LLM์ด ์ํ ๋ฌธ์ ๋ ๋ชปํผ๋ค๊ตฌ?๐
#FunSearch #L4S
ํจ๊ป ๊ณต์ ํ๊ณ ์ฑ์ฅํ๋ ์ฐ๊ตฌ ๋ฌธํ๋ฅผ ์ ํํด์
2023๋ 12์ 25์ผ ๋ชจ๋๋ ํฐ
๊ตฌ๋ ํ๊ธฐ
I
์น์์ ๋ณด๊ธฐ
I
์ง๋ ๋ ํฐ ๋ณด๊ธฐ
created with DALLยทE
๋, ๋ชจ๋๋ ํฐ๊ฐ ์์ด์!
๋,
๋ฉ๋ฆฌํฌ๋ฆฌ์ค๋ง์ค!๐
ํฌ๋ฆฌ์ค๋ง์ค์๋ ์์ ๋ด์ ์ฐพ์์์ด์.
๋ชจ๋ ๋ฐ๋ปํ ํด์ผ ๋ณด๋ด๊ธธ ๋ฐ๋๊ฒ์!~๐คถ๐ป
์ด๋ฒ์ฃผ SW/AI ์์
์ด์ ์ ์๋ ์ง์์ ๋ด๋๋ ์๋ก์ด AI ๋๊ตฌ
์ง์ฐ์๊ฐ์ ํ ์ค์ธ ์ฐจ์ธ๋ ์ธํฐ๋ท ํ์ค 'L4S'
์ด๋ฆฐ ์ธ๋ฏธ๋
: ๋ชจ๋ํ ๋ค์๋ณด๊ธฐ
์ด์ ์ ์๋ ์ง์์ ๋ด๋๋ ์๋ก์ด AI ๋๊ตฌ
ยฉGoogle DeepMind
LLM์ ์ฌ๋ฌ ํ์คํฌ์์ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์ฌ์ฃผ๊ณ ์์ง๋ง, ์๋ชป๋ ์ ๋ณด๋ฅผ ์์ฑํ๋ ํ๊ฐ(Hallucination) ํ์์ผ๋ก ์ธํด ์ํ์ด๋ ๊ณผํ ๋ถ์ผ์์๋ ์ฌ์ฉํ๊ธฐ ์ด๋ ค์ ๋๋ฐ์. LLM์ ์ด์ฉํด ์ํ๊ณผ ์ปดํจํฐ ๊ณผํ ๋ฑ์์ ์๋ก์ด ์๋ฃจ์ ์ ์ฐพ์๋ด๋ AI ๋๊ตฌ 'ํ์์น(FunSearch)'์ ์ฐ๊ตฌ ๊ฒฐ๊ณผ๊ฐ ๊ณผํ ์ ๋ ๋ค์ด์ฒ์ ๊ฒ์ฌ๋์์ต๋๋ค. ๊ตฌ๊ธ ๋ฅ๋ง์ธ๋๊ฐ ๊ฐ๋ฐํ ํ์์น๋ ์ปดํจํฐ ์ฝ๋์ ํํ๋ก ๋ฌธ์ ์ ๋ต์ ์์ฑํ๋ LLM๊ณผ ํ๊ฐ ํ์์ ๋ฐฉ์งํ๋ ํ๊ฐ์(Evaluator)๊ฐ ๊ฒฐํฉ๋์ด ๋์ํฉ๋๋ค. ์ด๋ฅผ ์ ์ฆํ๊ธฐ ์ํด ์ํ ๋์ ๋ก ์ฌ๊ฒจ์ ธ ์จ ์บก ์ธํธ(Cap set)์ ๋น ํจํน(Bin-packing) ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ์๊ณ ๋ฆฌ์ฆ์ ๋ง๋ค์๋๋ฐ์. ๊ธฐ์กด์ ๋ฐฉ๋ฒ๋ณด๋ค ํจ์จ์ ์ด๊ณ , ์ฌ๋์ด ์ดํดํ๊ณ ๋ฐ์ ์ํค๋ ๊ฒ๋ ์ฝ๋ค๊ณ ํฉ๋๋ค!
FunSearch: Making new discoveries in mathematical sciences using Large Language Models
์ง์ฐ์๊ฐ์ ํ ์ค์ธ ์ฐจ์ธ๋ ์ธํฐ๋ท ํ์ค 'L4S'
๋์ L4S ๊ธฐ์ ์ ๋ํด ์๊ณ ์๋์? L4S๋ 'Low Latency(์ ์ง์ฐ), Low Loss(์ ์์ค), Scalable Throughput(ํ์ฅ ๋คํธ์ํฌ ์ถ๋ ฅ)'์ ์ค์๋ง๋ก, ๊ธ๋ก๋ฒ ๋น ํ ํฌ ๊ธฐ์ ๋ค์ด ์ฃผ๋ชฉํ๊ณ ์๋ ๊ธฐ์ ์ด๋ผ๊ณ ํฉ๋๋ค. ์ฐ๋ฆฌ๋ค์ด ๋๋ผ๋ '์ธํฐ๋ท ์๋'๋ ์ง์ฐ ์๊ฐ(Latency)๊ณผ ๊ด๋ จ๋ผ ์๋๋ฐ์. ๋คํธ์ํฌ ์์๋ค์์ ์ง์ฐ์ด ์กฐ๊ธ์ฉ ๋ฐ์ํ๋ค๋ฉด ์ค์ ์ฌ์ฉ์๊ฐ ๋๋ผ๋ ์๊ฐ์ ๋์ฑ ๊ธธ์ด์ง๊ฒ ์ฃ . L4S๋ ์ธํฐ๋ท ํต์ ์์ ๋ฐ์ํ๋ ์ง์ฐ์ ์ต์ํํ๋๋ก ์ค๊ณ๋์์ต๋๋ค. ํด๋ผ์ด์ธํธ, ์๋ฒ, ๋ผ์ฐํฐ๊ฐ ์ฒ๋ฆฌํ ์ ์๋ ํจํท(Packet,
๋ฐ์ดํฐ ์ ์ก์์ ์ฌ์ฉ๋๋ ๋ฐ์ดํฐ์ ๋ฌถ์
)์ ์์ ํ์ ๋ผ ์๊ธฐ ๋๋ฌธ์, ๋ง์ ์์ ํจํท์ด ํ๋ฒ์ ๋ค์ด์ค๋ฉด ํผ์ก์ด ๋ฐ์ํ๋๋ฐ์. L4S๋ ์ง์ฐ ์๊ฐ ํผ๋๋ฐฑ(Latency feedback)์ ์ฃผ๊ธฐ๋ฅผ ๋ ์งง๊ฒ ๋ง๋ค์ด์, ํผ์ก ๋ฐ์์ ์ฆ์ ์ ์ก ๋ฐ์ดํฐ์ ์์ ์ค์ด๋ ๋ฐฉ๋ฒ ๋ฑ์ผ๋ก ์ง์ฐ ์๊ฐ์ ์ต์ํํฉ๋๋ค.
The quiet plan to make the internet feel faster
ํ์ง I
์ ์น์ฐ
,
ํ์ํ
๋ชจ๋์์ฐ๊ตฌ์ ์์
์ปค๋ฎค๋ํฐ์ SW/AI ๊ต์ก
[๋ชจ๋์์ฐ๊ตฌ์ x ์นด์นด์ค์ํฉํธ] Tech for Impact Connect Day 23๐
ยฉ์นด์นด์ค์ํฉํธ
์ง๋ 19์ผ ์นด์นด์ค AI์บ ํผ์ค์์ ์งํ๋ 'Tech for Impact Connect Day 23'์์ ์ฌํ๋ฌธ์ ํด๊ฒฐ์ ๊ธฐ์ฌํ๋ ๊ธฐ์ ์ปค๋ฎค๋ํฐ
'ํ ํฌํฌ์ํฉํธ ๊ธฐ์ ์ปค๋ฎค๋ํฐ'์ ์ ํธํ์ด ์ธ๋ ธ์ต๋๋ค. ํ์ฌ
DVA LAB
์์ AI ๊ธฐ์ ์ ํ์ฉํ ํด์๋๋ฌผ ํํ ๋ถ์ ์ปค๋ฎค๋ํฐ ํ์ผ๋ฟ์ ์ด์ ์ค์ธ๋ฐ์. ๊ธฐ์ ๋ก ์ธ์์ ์ด๋กญ๊ฒ ๋ง๋ค๊ณ ์ถ๋ค๋ฉด,
์ฌ๊ธฐ
์์ ์๋ฆผ ์ ์ฒญํด ์ฃผ์ธ์! :)
LAB ์ฐ๊ตฌ์ ์ฐพ์์
Deep Computer Vision LAB
์ ์ฒญํ๊ธฐ
Rubato LAB
์ ์ฒญํ๊ธฐ
Medical
AI LAB
์ ์ฒญํ๊ธฐ
SaaS-of-SaaS LAB
์ ์ฒญํ๊ธฐ
SW/AI ๊ต์ก ๊ณผ์ ์ค๋ฆ์บ ํ์์ ์จ ํธ์ง๐จ
์๋ ํ์ธ์? ๋ชจ๋์์ฐ๊ตฌ์ SW์บ ํผ์ค PO ๋ฐ์ฃผ์ฒ์ ๋๋ค. ์ ํฌ JavaScript Fullstack ๊ณผ์ ์ ๋ฐ๋๋ฐ๋ํ ์์์ ์ ํ๊ณ ์ถ์ด ๋ชจ๋๋ ํฐ๋ฅผ ์ฐพ์์์ด์.
์ง๋ 11์ ๋ง๋ถํฐ ์์ํ ์ ํฌ ๊ณผ์ ์ ์ต๊ทผ
๋ง์กฑ๋ ์กฐ์ฌ์ NPS ์ง์๊ฐ ๋ฌด๋ ค 90.1
์ด ๋์๋๋ฐ์. 6๊ฐ์์ ๋์ ์ ์ธ ์ฌ์ ์์๋ ๋ชจ๋๊ฐ ์ฆ๊ฒ๊ฒ ์ฑ์ฅํ๊ณ ์์ต๋๋ค!๐
ํนํ ๊ฒฉ์ฃผ์ ๊ฑธ์ณ ๊ธฐ์ ํ ๋ก ๊ณผ ํ ๋ธ๋ก๊ทธ๋ฅผ ๋ง๋๋ ํ๋์ ํ๊ณ ์๋๋ฐ์. ์ด๋ฒ ์ฃผ์๋ Node.js์ ํน์ง๊ณผ ์ฌ์ฉ๋ฒ, ๊ทธ๋ฆฌ๊ณ ์ปจํธ๋กค๋ฌ๋ฅผ ๋ถ๋ฆฌํด ๋ผ์ฐํ ์ ๊ตฌํํ๋ ๊ฒ์ ๋ค๋ค์ต๋๋ค(
๋งํฌ
).
์, ์ ์ฃผ์ฝ๋ฉ๋ฒ ์ด์ค์บ ํ์ ํจ๊ป ์ค๋นํ
์ด๊ฑฐ๋ AI๋ฅผ ํ์ฉํ๋ Django ๋ฐฑ์๋ ๊ฐ๋ฐ์ ๊ณผ์ ๋ ์ฌํด ๋ง์ง๋ง์ผ๋ก ๋ชจ์ง ์ค
์ด๋, ๋๋ ๊ฐ๋ฐ์๋ก ์ฑ์ฅํ๊ณ ์ถ๋ค๋ฉด ์ง์ํด ๋ณด์ธ์!
๊ณง ๋ง๊ฐ์ด๋์! 7๋ง ๋ช ์๊ฐ์์ด ๊ฐ๋ํ ๋ฐ์ฐฉ์ผ์ด๋ก 4๊ฐ์ ์ฆ๊ฒ๊ฒ ์ฑ์ฅํ๊ณ ์ถ๋ค๋ฉด ๐
์ง๊ธ ์ง์ํ๊ธฐ
๋ง๋จน์ ๊ณต๋ถ๋ฅผ ๋๊น์ง ํด ๋ณด๊ณ ์ถ๋ค๋ฉด? I ํ์์ค์ฟจ ํผ์ค์ด ๋ชจ์ง ์ค(~12.27)
"ํผ์ค์ด๋ฅผ ํ์ง ์์๋๋ผ๋ฉด ์ด๋ ๊ฒ ๋๊น์ง ์ด์ฌํ ๊ณต๋ถํ์ง ๋ชปํ์ ๊ฒ ๊ฐ์์.
๊ถ๊ธํ ๊ฒ ๋ง์ง๋ง ๊ฒ์ผ๋ฆ ๋ฆ ๋๋ฌธ์ ๊ฑฑ์ ๋๋ค๋ฉด, ํผ์ค์ด์ ๋์ ํ๋ ๊ฒ์ด ํํํ์ง ์๋ ์ ํ์ด ๋ ๊ฑฐ๋ผ ์ฅ๋ดํฉ๋๋ค!"
_ํผ์ค์ด ํ๊ธฐ ์ค
์ง๊ธ ๋ชจ์ ๋ง๋ค๊ธฐ
์ด๋ฆฐ ์ธ๋ฏธ๋
INTERSPEECH, NeurIPS 2023์ ์ต์ ๋ ๋น๊ฒฐ์ด ๊ถ๊ธํ๋ค๋ฉด! I ํ์ดํผ์ต ํน์ง ์ธ๋ฏธ๋
์ฐ์ฌ: ๊น์ค์ฐ(RSC LAB ๋ฉ์งฑ), ์ด์๋น(AI Story LAB ๋ฉ์งฑ)
๋ด์ฉ:
RSC(
Respiratory Sound Classification)
LAB ์ฐ๊ตฌ ๊ฒฐ๊ณผ ๋ฐํ ยท Zero2Story: ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ํ์ฉํด์ TRTG ํ์ ํ๋กฏ ๋ง๋ค๊ธฐ
์ง๋ ์ธ๋ฏธ๋ ๋ชจ์๋ณด๊ธฐ
์ค๋๋ ๋์ ์ฑ์ฅ์ ์์ํ ๊ฒ์!
์, ๋ ํฐ๊ฐ ๋ฉ์ผํจ์์ ์ ๋ณด์ด๋์?
์คํธ๋ฉ์ผํจ์์ ์ธ๊ณ ์์์ง๋ ๋ชฐ๋ผ์. ์ฐพ์๊ฐ ํ์ธํด ๋ณด์ธ์!
์ฃผ์๋ก์ ๋ชจ๋์์ฐ๊ตฌ์ ์ด๋ฉ์ผ ์ฃผ์(
modulabs01@gmail.com
)๋ฅผ
์ถ๊ฐํด ์ฃผ์ธ์.
์์ธ์ ๊ฐ๋จ๊ตฌ ๊ฐ๋จ๋๋ก 324(์ญ์ผ๋์ค์ํ๋ฆฌ์) 2F
๐๏ธ
์ฃผ๋ณ์ ๋ชจ๋๋ ํฐ ๊ณต์ ํ๊ธฐ
๐
๋ชจ๋๋ ํฐ ์๊ฒฌ ์ ํ๊ธฐ
๋ชจ๋๋ ํฐ ํด์งํ๊ธฐ
๊ณต์ ํ๊ธฐ
๋ชจ๋๋ ํฐ
๋ฅผ
๊ตฌ๋ ํ๊ณ ์ด๋ฉ์ผ๋ก ๋ฐ์๋ณด์ธ์
๋ชจ๋์์ฐ๊ตฌ์ ๊ณต์ ๐ ๐จ ๋ด์ค๋ ํฐ โฎ ๐ฒ๐๐๐ผ๐พ ๐ค๐ข๐ค๐ค
๊ตฌ๋ ํ๊ธฐ
์ด์ ๋ด์ค๋ ํฐ
๐ฎ ๋๋ฅ! ์ธ๊ณ ์ต๊ณ ๊ถ์ AI ํํ ๊ฐ์ต๐
2023. 12. 17.
๋ค์ ๋ด์ค๋ ํฐ
๐ฎ [์๋ณด] ํฌ๋ธ์ค ์ ์ ! 2024 AI ์์ธก 10๊ฐ์ง
2023. 12. 31.
๋ชจ๋๋ ํฐ
๋ชจ๋์์ฐ๊ตฌ์ ๊ณต์ ๐ ๐จ ๋ด์ค๋ ํฐ โฎ ๐ฒ๐๐๐ผ๐พ ๐ค๐ข๐ค๐ค