📮 달리 3, 어떤 점이 보완됐을까? (더보기)

#DALL-E3 #ToRA #StableDiffusion

2023. 10. 15.

함께 공유하고 성장하는 연구 문화를 전파해요

2023년 10월 16일 모두레터

구독하기 I 웹에서 보기 I 지난 레터 보기

created with DALL・E2

님, 모두레터가 왔어요.

독서하는 다람쥐🐿️, 귀엽지 않나요?

전 독서가 책을 읽는 동안 안정감을 줘서 좋더라구요.

님은 무엇으로 힐링을 얻는지 궁금하네요!

이번주 AI 소식

오픈AI, DALL・E 3 시스템 카드 공개
마이크로소프트, 수학적 추론 모델 'ToRA' 공개
님, Stable Diffusion을 제대로 이해하고 싶나요?

열린 세미나: SAM과 친해지기 I 이해관계자 커뮤니티를 위한 거버넌스와 기여 보상

오픈AI, DALL・E 3 시스템 카드 공개

✢챗GPT의 요약(테스트): 오픈AI가 달리 3 모델의 시스템 카드를 공개하고, 초기 버전의 문제 개선 및 이미지 생성 과제에 대해 설명했습니다.

©OpenAI

오픈AI가 달리(DALL・E) 3 모델의 시스템 카드(System card)를 공개했습니다. 달리 3는 이전의 달리 2 모델을 기반으로 만들어졌는데요. 아직까지 모델 구조는 공개되지 않았어요. 시스템 카드에서는 모델 자체에 대한 정보보다는, 달리 3가 초기 버전에서 어떤 점을 보완했는지를 주로 설명하고 있습니다. 달리 3의 초기 버전은 선정적인 이미지를 생성하는 경우가 가끔 있었는데요. 오픈AI는 결과 이미지의 부적절성 여부를 'Microsoft Cognitive Service API'를 이용해 판단하고, 이미지에서 부적절한 부분만 따로 모아 놓은 데이터셋을 구축해 문제를 해결했다고 해요. 이외에도 인종, 연령 등의 다양성이 부족한 이미지나 화학적・생물학적 무기와 관련된 이미지, 특정 작가의 스타일로 그려진 이미지 등 이미지 생성 모델이 풀어야 할 숙제들이 잘 설명돼 있습니다.

DALL·E 3 system card

마이크로소프트, 수학적 추론 모델 'ToRA' 공개

✢챗GPT의 요약: 마이크로소프트가 개발한 수학적 추론 모델 'ToRA'은 오픈 소스 LLM을 기반으로 하며, 수학 문제 해결 능력에서 우수한 성과를 거뒀으며, 'ToRA-7B' 모델은 최고의 오픈 소스 모델 'WizardMath-70B'보다 22% 더 뛰어난 성능을 보였고, 'ToRA-Code-34B' 모델은 50% 이상의 정확도를 달성하였습니다.

©Microsoft

마이크로소프트가 개발한 수학적 추론 모델 'ToRA(A Tool-Integrated Reasoning Agent)'가 공개됐습니다. ToRA는 '라마(Llama) 2'와 같은 오픈 소스 LLM(Large Language Model)을 기반으로 해서, 'SymPy'와 같은 수학적 추론을 위한 프로그램과 결합될 수 있도록 학습되었습니다. 그 결과, 수학 추론 문제에서 다른 오픈 소스 LLM보다 높은 점수를 기록, GPT-4와 같은 비공개 모델과 비교해도 부족하지 않은 성능을 보였습니다. 특히 'ToRA-7B'는 MATH 데이터셋에서 44.6%에 도달해 최고의 오픈 소스 모델 'WizardMath-70B'를 22% 더 능가했고요. 'ToRA-Code-34B'는 오픈 소스 모델 최초로 50% 이상의 정확도를 기록했다고 하네요. ToRA 모델의 7B, 13B, 70B 모델이 허깅페이스에 모두 공개돼 있으니, 확인해 보세요!

ToRA: A Tool-Integrated Reasoning Agent for Mathematical Problem Solving

님, Stable Diffusion을 제대로 이해하고 싶나요?

다른 라이브러리 없이 파이토치(PyTorch)만 사용해서 스테이블 디퓨전(Stable Diffusion)을 구현하는 영상을 소개합니다. 영상에서는 생성 모델의 개념과 CLIP, VAE(Variational Autoencoder) 등 스테이블 디퓨전 모델을 이해하는데 필요한 것들을 설명하고 있고요. 스테이블 디퓨전 모델을 구성하는 각각의 요소들과 모델 추론(Inference) 코드까지 직접 하나하나 구현해 나갑니다. 5시간 분량의 긴 영상이지만, 스테이블 디퓨전의 원리를 제대로 이해하고 싶은 분들께 추천할게요!

Coding Stable Diffusion from scratch in PyTorch

필진 I 신승연, 하자혜

열린 세미나

강남 I SAM(Segment Anything Model)과 친해지기

일시: 10월 17일 화요일 7:30PM - 9:30PM
장소: 모두의연구소 강남캠퍼스 라운지 / 온라인 송출
연사: 김경환(스마일게이트 ML 엔지니어)
내용: SAM의 이론적 배경 ・ SAM 사용 사례 소개(컴퓨터 비전 및 영상 분야 중심) ・ SAM 실습(Colab 환경에서 SAM 오픈소스 예제 실습) ・ Q&A, 네트워킹

세미나 신청하기

강남 I 이해관계자 커뮤니티를 위한 거버넌스와 기여 보상: 모두의연구소 중심으로

일시: 10월 18일 수요일 7PM - 9:30PM
장소: 모두의연구소 강남캠퍼스 라운지 / 온라인 송출
연사: 한재선(LTGLAB Founder&CEO), 김성훈(법무법인 미션 대표 변호사), 김승일(모두의연구소 대표)
내용: 모두의연구소 및 프로젝트 소개 ・ 모두의연구소 커뮤니티의 법적 구조 ・ 모두의연구소 커뮤니티 거버넌스와 기여 보상 ・ LAB 모집 및 운영 방법 소개 ・ Q&A