📮 인간의 도움은 이제 필요 없어질까?🧠

• Segment Anything Model: 메타(Meta)의 이미지 분할 AI 모델
• Auto-GPT: 인간의 도움이 필요 없어지는 날도 올까?
• Stack LLaMA: 라마(LLaMA)에 RLHF 적용해 보기
• 오픈AI가 생각하는 AI 안전성(Safety)

메타(Meta)가 사진과 동영상에서 이미지를 분할할 수 있는 AI 모델인 'SAM(Segment Anything Model)'과 데이터셋 'SA-1B' 을 공개했습니다. SAM은 프롬프트로 동작하는 'Promptable segmentation' 모델인데요. 이 프롬프트는 GPT 등의 모델에서 입력값으로 사용되는 텍스트가 아닌, 특정 개체를 나타내는 점(Point)이나 바운딩 박스(Bounding box, 감지한 물체 테두리) 등의 세그멘테이션에 필요한 정보를 나타내는 단어라고 해요. SAM의 자세한 원리가 궁금하다면, 아래 블로그 글을 참고해 주세요!

GPT-4 언어 모델의 우수성을 보여주기 위한 실험으로 개발된 'Auto-GPT'. 사용자가 아웃풋의 조건에 해당되는 목표(Goal)을 설정하면, 복잡한 프롬프트 없이도 GPT 모델이 자율적으로 추론(Reasoning)하여 원하는 결과를 만들어 줍니다. 어떤 트윗(Tweet)에서는 'Auto-GPT'에게 프로그래밍을 시켰더니, 사용자의 컴퓨터에 'Node.js'가 설치돼 있지 않음을 인식하고 설치 방법을 검색하여 스스로 설치까지 했다고 해요. 앞으로 AI는 인간의 든든한 에이전트가 될 수 있을까요? 

챗GPT, 클로드(Claude) 등의 강력한 언어 모델들은 '인간 피드백 기반 강화학습(RLHF, Reinforcement Learning from Human Feedback)'을 통해 사용자의 기대와 사용 패턴에 더 잘 맞도록 파인튜닝되었어요. 허깅페이스 블로그에 소개된 'StackLLaMA'는 질문과 답변으로 이뤄진 'Stack Exchange' 데이터셋과 RLHF를 이용해 라마(LLaMA) 모델을 학습시킨 모델인데요. 아래 허깅페이스 글에서 미리 기능을 체험할 수 있는 데모와 실습 가이드 등을 제공하고 있으니, 참고해 보세요.

StackLLaMA: A hands-on guide to train LLaMA with RLHF

GPT 모델을 만든 오픈AI에서 'AI 모델의 안전성(Safety)'에 관한 글을 발행했습니다. 챗GPT 등의 AI 도구들이 인간의 생산성과 창의력을 높이는 등 오늘날 많은 이점을 제공하고 있지만, 동시에 이들의 위험성도 언급하며 안전성 강화에도 집중하고 있음을 밝혔어요. 예를 들면, 폭력적인 콘텐츠를 생성하거나, 오답을 정답처럼 제시하는 할루시네이션(Hallucination, 환각) 등의 문제들이 있겠죠? GPT-4에서 안전성 지표의 개선, 청소년 보호를 위한 연령 제한 검토 등 더 안전한 AI 세상을 만들기 위한 다양한 계획들을 아래 글에서 확인해 보세요!

Our approach to AI safety

• Pathology AI LAB _오늘까지(⌛️마감임박)
• CPLR(ChatGPT Prompt Learning Research) LAB _토요일까지(⌛️마감임박)
• AC(Artificial Consciousness) LAB _4월 25일까지
• AIX(AI eXperience) LAB _4월 30일까지
• Bio-data LAB _4월 30일까지

• 비전공자를 위한 AI 첫걸음 _임팩트캠퍼스와 함께하는 풀잎스쿨! (무료)
• 파이썬과 선형대수학개론 _머신러닝의 수학적 배경들이 궁금하다면?
• 판다스와 딥러닝 입문 _판다스 데이터 분석과 딥러닝 입문 모임!

• 일시: 4월 18일 화요일 I 7:30PM - 8:30PM
• 장소: 모두의연구소 강남캠퍼스 I 유튜브
• 연사: 박제창(드림어스컴퍼니)
• 콘텐츠: Flutter State-management I Riverpod 개요 및 설명 I Riverpod Generator 소개 등

• 스팸메일함에서 울고 있을지도 몰라요. 찾아가 확인해 보세요!
• 주소록에 모두의연구소 이메일 주소(modulabs01@gmail.com)를 추가해 주세요.