본문 바로가기

분류 전체보기120

Langchain은 왜 써야 할까? 우선 기존 LLM의 제약 사항을 이해해야함LLM의 제약 사항정보 접근 제한2021년까지의 데이터를 학습한 LLM은 2022년 부터 정보에 대해서는 답변을 하지 못하거나 거짓답변을 말함-> Vactorstore 기반 정보 탐색 or Agent 활용한 검색 결합을 통해서 다양한 정보에 접근하도록 개선 가능토큰 제한ChatGPT에서 제공하는 모델을 예로 들면 4096, 8192 토큰이라는  입력 토큰 제한이 존재함-> TextSplitter를 활용한 문서 분할하여 이 문서들을 기반으로 요약하고 답변을 정리하도록 Langchain을 활용할 수 있음할루시네이션Fact에 대한 질문을 했을 때, 엉뚱한 대답을 하거나 거짓말을 하는 경우가 많다-> 주어진 문서에 대해서만 답하도록 Prompt 입력해서 한계점을 뛰어넘을.. 2025. 4. 12.
AWS - 대규모 배포 및 인프라 관리 이번 섹션에서는 AWS에서 워크로드를 배포하는 다양한 방법을 배운다. What is CloudFormationCloudFormaion은 AWS에서 중요한 기술이다.AWS 인프라의 모든 리소스에 대해 윤곽을 잡아주는 선언적인 방식이기 때문이다. 대부분의 리소스가 지원된다.CloudFormation tamplate 에서 구체적인 예시를 들면내가 보안 그룹을 원하고해당 보안 그룹을 사용하는 두개의 EC2 인스턴스를 원하거나S3 버킷을 원하거나모든 머신 앞에 로드 밸런서 (ELB)를 두고 싶거나 그러면 CloudFormation이 자동으로 우리를 위해 순서에 맞게, 우리가 지정한 구성에 맞춰 이것들을 만들어 준다.Benefits of AWS CloudFormationCloudFormation을 사용해서 얻는 혜.. 2025. 3. 22.
클라우드의 종류 https://cloud.google.com/learn/paas-vs-iaas-vs-saas?hl=ko https://cloud.google.com/learn/paas-vs-iaas-vs-saas?hl=ko cloud.google.com 2025. 3. 15.
AWS - 기타 컴퓨팅 서비스 : ECS, Lambda, 배치, Lightsail What is Docker?도커란 앱 배포를 위한 소프트웨어 개발 플랫폼이다. 이전에는 Linux에 애플리케이션을 설치하고 그에 따라 작동하는 방식이었지만, 도커를 사용하면 컨테이너에 앱을 패키징하게 된다.여기서 컨테이너란 모든 운영 체제에서 쉽게 실행할 수 있다는 점이 특별하다고 할 수 있다.앱이 컨테이너에 패키징되면 위치에 상관없이 매번 같은 방식으로 실행된다.따라서 어떤 기계든 상관 없이호환성 문제가 없고동작을 예측할 수 있다작업량이 적으며유지 보수와 배포가 쉽다모든 프로그래밍 언어로 작업할 수 있고 운영체제나 기술에 구애받지 않는다.도커를 사용하면 몇 초 만에 컨테이너를 스케일링 업 다운이 가능하다. 이로인해 오늘날 애플리케이션 배포에 있어서 도커가 아주 강력한 도구로 떠오르고 있다.Docker .. 2025. 3. 11.