• 🦅팔콘(Falcon), 허깅페이스 생태계에 상륙하다
• 오픈AI, AI 기반 사이버 보안 연구를 위한 연구 과제 공모
• 허깅페이스, '오픈 소스 AI 게임 잼' 최초 개최
• 참신한 접근으로 영감을 주는 논문 소개

이제 '팔콘(Falcon)' 모델에도 허깅페이스의 'Transformers' 라이브러리를 사용할 수 있습니다. 대표적인 LLM 중 하나인 라마(LLaMA)가 발표된 이후 알파카(Alpaca), 비쿠냐(Vicuna)와 같이 낙타과 동물들의 이름이 붙은 LLM이 등장해 흥미로웠는데요. 팔콘은 새 이름으로 지어졌네요. 팔콘의 가장 큰 특징은, 바로 'Apache 2.0' 라이센스를 가진 오픈 소스 모델이라는 점이에요. 허깅페이스 오픈 LLM 리더보드에서 'Falcon-40B' 모델은 현재 1위의 성능을 기록하고 있고, 더 작은 'Falcon-7B' 모델은 비슷한 크기의 모델 중 성능이 가장 좋다고 하네요.

오픈AI가 AI 기반 사이버 보안 연구(Cybersecurity)를 위해 총 100만 달러 규모의 기금을 조성해 연구 과제를 공모받고 있습니다. 사이버 보안 문제에서 공격자(Attacker)는 공격을 한 번만 성공해도 되지만, 방어자(Defender)는 항상 방어에 100% 성공해야 하는데요. 따라서 공격자가 방어자보다 더 유리한 위치에 있게 됩니다. 글에서 예시로 보여준 연구 과제들도 AI를 이용한 악성 프로그램 탐지, 소스 코드의 취약점 분석, 암호화 등 효과적인 방어 기술 개발에 초점이 맞춰져 있네요. 하지만 방어자는 사람들을 안전하게 보호한다는 공동의 목표와 가치를 지니고 있죠. 현재 보안 기술을 연구하고 있다면 참고해 봐도 좋을 것 같습니다.

허깅페이스에서 AI 툴을 이용해 게임을 제작하는 대회 '오픈 소스 AI 게임 잼(Open Source AI Game Jam)'을 최초로 개최한다고 합니다! 대회는 오는 7월 7일부터 7월 9일까지 진행되고, 게임 주제는 대회가 시작될 때 공개된다고 하네요. 완성된 게임은 웹이나 윈도우 환경에서 플레이할 수 있어야 하고, 제작 단계에서 오픈 소스 AI 툴을 최소 하나 이상 사용해야 합니다. '스테이블 디퓨전'과 같은 생성 모델로 사실적인 게임 캐릭터를 만들거나, 'text-to-speech' 기능으로 목소리를 입히는 등 AI 툴에 대한 사용 범위는 제한이 없다고 하네요!

"Attension Is All You Need". 트랜스포머(Transformer)의 시초가 되는 논문이죠? 트랜스포머를 이용해 파일 바이트(File bytes) 데이터를 처리하는 '바이트포머(ByteFormer)' 모델의 논문이 공개됐습니다. 일반적으로 이미지를 딥러닝 모델에 입력하기 위해서는 각 픽셀의 RGB 값으로 이뤄진 텐서(Tensor) 형태로 변환해야 하는데요. 이 논문에서는 파일의 바이트 데이터를 토큰별로 임베딩해 그대로 사용하는 방법을 연구했습니다. 사람이 이해 가능한 RGB 이미지가 아닌 바이트 데이터를 처리하기 때문에, 암호화된 파일에도 사용할 수 있고요. 이미지넷에서 77%의 정확도를 기록한 해당 모델에 음성 분류를 학습시켰더니, 하이퍼파라미터 튜닝 없이도 'Speech Commands v2 dataset'에서 95%의 정확도를 기록했다고 합니다.

• Human Microbiome LAB #페이퍼샵(논문) _6월 27일까지 
• Autonomous Driving LAB #페이퍼샵(논문) _7월 3일까지 

• Start UP! UP! LAB _6월 30일까지

• 설명 가능한 인공지능 #월 #온라인
• 모두의 한국어 텍스트 분석 #화 #온라인
  
• 영어로 지식 나누기 #목 #역삼캠
• 디지털 마케팅에 챗GPT 더하기 #목 #강남캠 
• 음성 인식 챗봇 만들기 #토 #역삼캠

• 일시: 6월 20일 화요일 I 7:30PM - 8:30PM
• 장소: 모두의연구소 강남캠퍼스(오프라인) & 유튜브(온라인)
• 연사:방정호(한국전자통신연구원)
• 콘텐츠: 양자머신러닝연구 소개 I Q&A

• 스팸메일함에서 울고 있을지도 몰라요. 찾아가 확인해 보세요!
• 주소록에 모두의연구소 이메일 주소(modulabs01@gmail.com)를 추가해 주세요.