[LLM 3기 그룹스터디 모집] - 파운데이션 모델 뜯어먹기, 2025/02/18~2025/03/18(화요일, 5회) > 그룹스터디

안녕하세요

지피티스퀘어 방장입니다

[LLM 3기 그룹스터디] 모임을 진행합니다

그룹스터디 신청자가 많아 참가신청을 마감합니다

기존에 신청글 작성하신 분들은 참가비 입금하시고, 참석해 주세요

이번에 못하신 분들은 다음 스터디에 함께 공부해요

이번 모임에서는 지난 "LLM RAG 2기, RAG 시스템 구축을 위한 랭체인 실전 가이드" 스터디에 이어 국내 최초 LLM 파운데이션 모델 뜯어먹기 주제로 공부해 보려 합니다 

최근에 핫이슈인 딥시크(DeepSeek)와 오픈소스 파운데이션 모델 올모2(OLMo2), 그리고 라마3의 포스트트레이닝 모델인 툴루3(Tülu 3)의 학습데이터와 소스코드를 잘근잘근 뜯어먹는 시간이 될 것입니다

주제별 발표자 선정 후, 각자 주제별 내용을 정리하여 발표하는 방식입니다

[교재] 현재 교재는 없고, 자체 자료 조사 및 발표자료 정리

그룹스터디는 매주 1회, 총 5주간 진행합니다 

총 15명, 자발적인 참여로 이른 시간 내에 최대의 학습 효과를 올리는 시간이 되었으면 합니다

장소는 구로디지털단지 빅스터 회의실에서 진행합니다

1회차

- 자기 소개 및 인사

- 빅스터 LLM(sLLM) 솔루션 '달핀챗' 기능 시연

- LLM 오픈모델 및 오픈소스 관련 공유 토론

- 커리큘럼 목차 이해 및 주제별 발표자 선정

- 오프닝 뒷풀이

2회차

- 딥시크(DeepSeek) 이해하기

- 딥시크 MOE 학습 방식 이해하기

- 딥시크 CoT 강화학습 방식 이해하기

- TinyZero 모델 및 학습 방법 이해하기

3회차

- 올모2(OLMo2) 파운데이션 모델 이해하기

- 올모2(OLMo2) Pre-train 학습데이터

- 올모2(OLMo2) Pre-train 소스코드 구조

- 툴루3(Tülu 3) 이해하기

4회차

- 툴루3(Tülu 3) Post-train 학습데이터

- 툴루3(Tülu 3) Post-train 알고리즘

- 툴루3(Tülu 3) Post-train 소스코드 구조(전체)

- 툴루3(Tülu 3) Post-train 소스코드 상세

5회차

- 툴루3(Tülu 3) 서빙을 위한 GPU 환경

- 툴루3(Tülu 3) 서빙 아키텍처

- 툴루3(Tülu 3) 8b, 70b 설치 및 구동

- 클로징 뒷풀이

- 상세내용 -

일시 : 2025년 02월 18일(화요일) ~ 03월 18일(화요일) 매주 화요일 저녁 7시

장소 : 빅스터 회의실(구로디지털단지역 3번출구 방향, 우림이비지센터1차 406호)

대상 : ChatGPT, LLM, sLLM, RAG, 랭체인, 랭그래프, AI 에이전트 등 생성 AI 기술 구현에 관심 있는 모든 분

인원 : 15명(장소가 협소합니다. 신청자가 많을 수 있으니 빨리 신청해 주세요 ^^)

신청기간 : 2025년 02월 17일까지 (선착순에 의해 사전 조기마감 가능)

교재 : 인터넷 자체 조사

방식 : 매회 스터디 참가자들의 자발적인 주제 발표 후 자유토론

참가비 : 10만원(미리 입금해 주세요. 전문가 초빙, 간식 및 뒷풀이 등 비용 포함, 환불 및 영수증 처리 없음)

참가결정 : 참가비 입금순으로 참가여부 결정함

- 참여방법 -

그룹스터디 참가 희망자는 회원 가입 후 별도의 신청 게시판에 양식에 맞춰 기입해 주세요

또한 참가비 10만원을 국민은행 238502-04-034428 이현종 입금부탁드립니다

참가비 입금순으로 참가여부가 최종 결정되며, 댓글에 명단을 게시 예정입니다

많은 참여 바랍니다

감사합니다