안녕하세요지피티스퀘어 방장입니다[LLM 3기 그룹스터디 모집 - 파운데이션 모델 뜯어먹기]가 성황리에 종료되었습니다별도의 교재가 없었음에도 엄청난 자료 정리와 멋진 발표로 수준높은 그룹스터디를 경험했습니다매회차 발표자료를 정리하여 업로드하였습니다국내 LLM 산업 및 파운데이션 모델 분야에 큰 도움되기를 바랍니다감사합니다
안녕하세요방장입니다최근 AI 에이전트의 큰 줄기를 잡아가는 MCP(Model Context Protocol) 관련 글을 링크합니다MCP에 대한 설명과 간단한 생성 및 활용 방법이 담겨 있습니다감사합니다
유안타증권 AI Agent 프로젝트: 실전 LLM 서비스 개발(고생)기 실제 서비스 프로덕트 개발을 위한 고민과 문제 해결 과정이 잘 나와 있네요 특히 function calling 25개 사용이 인상적입니다 내부 DB 접속과 외부 웹검색 등 사용자의 질문 의도 기반 선행적 정의를 통해 해결한 듯 하네요 앞으로 AI 에이전트 개발시 많은 분들이 경험할 내용 같습니다
금융 및 유통 분야에서 수치형 데이터 간의 관계를 LLM(대형 언어 모델) 기술을 활용해 의미 분석하고 사후 추론을 수행하는 방법은 다양한 방식으로 접근할 수 있습니다. 수치형 데이터는 일반적으로 숫자로 표현되므로, 이를 단순히 계산하는 것에 그치지 않고 의미 기반으로 분석하고 예측하는 데 있어 LLM을 활용할 수 있는 방법을 설명드리겠습니다.1. 수치형 데이터를 자연어로 변환하여 의미 분석수치형 데이터는 LLM이 잘 처리할 수 있는 텍스트 형식으로 변환하여 입력할 수 있습니다. 이를 위해 수치형 데이터를 자연어 표현으로 바꿔 LL…
LLM Function Call과 AI 에이전트는 밀접하게 연결되어 있으며, 두 기술은 협력하여 더 강력하고 자율적인 시스템을 구축하는 데 중요한 역할을 합니다. LLM Function Call은 언어 모델이 외부 시스템과 상호작용할 수 있도록 해주는 메커니즘인 반면, AI 에이전트는 독립적으로 작업을 수행하는 시스템입니다. 두 기술의 관계는 에이전트가 외부 함수 호출을 통해 더 복잡한 작업을 수행할 수 있도록 해준다는 점에서 핵심적입니다.LLM Function Call과 AI 에이전트의 관계AI 에이전트의 역할AI 에이전트는 특정…
LLM Function Call의 역할과 구현 기술LLM Function Call(LLM 함수 호출)은 대형 언어 모델(LLM) 시스템에서 중요한 구성 요소로, 모델이 외부 시스템이나 API, 데이터베이스와 상호작용할 수 있도록 하는 기능입니다. LLM은 단순히 자연어를 처리하고 응답하는 것에 그치지 않고, 특정 작업을 수행하기 위해 외부 함수나 모듈을 호출할 수 있습니다. 이는 언어 모델의 범용성을 높이고, 자율성을 제공하며, 외부의 데이터나 기능에 접근할 수 있도록 만듭니다.LLM Function Call의 주요 역할외부 시스템…
자체 sLLM (Small Large Language Model) 서비스를 구축할 때 필요한 GPU 용량을 계산하는 것은 여러 요소에 따라 달라지며, 모델의 크기, 요청량, 사용되는 배치 크기, 성능 요구사항 등에 따라 달라집니다. GPU 용량 계산은 기본적으로 다음과 같은 요소들을 고려해야 합니다:1. 모델 크기 (Model Size)모델 크기는 LLM의 파라미터 수와 직접적으로 관련이 있습니다. 예를 들어, GPT-3는 약 1750억 파라미터를 가지고 있으며, 이 모델이 필요로 하는 GPU 메모리 용량은 매우 큽니다.모델 파라미…
LLM (Large Language Model)에서 Document Loader는 다양한 형태의 데이터를 효율적으로 로딩하고 처리하여 모델이 활용할 수 있는 형식으로 변환하는 중요한 구성 요소입니다. Document Loader는 다양한 유형의 문서, 예를 들어 텍스트 파일, PDF, HTML 페이지, 데이터베이스에서 직접 불러오는 데이터 등을 처리하는 데 사용됩니다. 이 기술은 특히 RAG (Retrieval-Augmented Generation) 모델과 결합할 때 중요한 역할을 하며, 문서 로딩 및 인덱싱을 통해 모델이 문서에서…
랭체인(Chain of Thought, CoT)과 RAG (Retrieval-Augmented Generation)를 결합하여 LLM (Large Language Model) 서비스를 구축하는 프로세스는 여러 단계를 포함합니다. 이 과정에서 중요한 요소는 RAG와 Document Loader를 포함하여 필요한 정보 검색 및 처리 기능을 구현하는 것입니다. 다음은 이를 구축하는 주요 단계입니다:1. 문서 로딩 및 인덱싱Document Loader: 다양한 형태의 데이터를 로딩할 수 있는 Document Loader를 사용하여 텍스트,…
LLM 기반 AI 에이전트는 **대규모 언어 모델(Large Language Model, LLM)**을 핵심 기술로 사용하는 자율적인 시스템입니다. 이러한 에이전트는 자연어 이해와 생성 능력을 통해 사용자와 상호작용하거나, 주어진 작업을 독립적으로 수행합니다.LLM 기반 AI 에이전트의 특징대규모 언어 모델 활용GPT, BERT, LLaMA와 같은 대규모 언어 모델을 사용하여 자연어를 이해하고 처리합니다.모델은 수십억 개의 파라미터를 학습하여 풍부한 텍스트 데이터의 패턴을 파악합니다.자연어 인터페이스텍스트 기반의 인터페이스를 통해 …
커뮤니티명 : 지피티스퀘어(GPTsquare)
주소 : 서울시 구로구 디지털로33길 28, 우림이비지센터1차 406호
개인정보관리책임자 : 이현종
방장 이메일 : zagia@naver.com
